0°

内部调研发现:OpenAI也不清楚自己的AI如何做决策

  参考消息网5月14日报道据西班牙《先锋报》网站5月13日报道,ChatGPT背后的公司OpenAI最近在一项内部调研中试图发现其语言模型是如何做出决策的,得出的一个结论是:“它在运行。但对于它是如何运行的目前了解不多。”

  报道称,日前发表的OpenAI研究人员报告指出,“语言模型现在能力越来越强,也变得更加普遍,但我们不了解它们是如何运行的”。这句话支持着那些对正在推向公众的一些AI缺乏安全性提出警示的人的观点。

  但OpenAI也表示“近期的研究在理解少量的电路和有限制的行为方面取得了进展”,不过该公司认为“要完全理解语言模型”需要“分析数以百万计的神经元”。由于工作量巨大,该公司从使用一种能自动分析语言模型所有神经元的技术入手。

  据报道,根据发表出来的研究结果,该公司尚未实现这一点。虽然其方法还没有使其发现神经元的运行原理,但该公司希望将来能做到。研究人员指出:“我们希望,从这种将可解读性自动化的方法出发,将使我们能够在部署之前全面地审视模型的安全性。”换句话说,现在他们做不了这件事,尽管GPT-4已经在广泛部署。(编译/苏佳维)

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论