0°

OpenAI 离成熟商业公司更近一步

  发布 GPT-4 的同时,OpenAI 离成熟公司越近,离名字里的 “Open” 越远。

  GPT-4 无疑是一个更好的产品。写散文、诗歌、代码,这些 GPT-3 已经会的技能,它可以完成得更好、更具创造力;而读图、雇人、数学等 GPT-3 表现很差或全然不知的领域,GPT-4 的表现称得上惊艳。(关于 GPT-4 新功能的细节以及它们是如何实现的,请参阅《晚点 LatePost》今天的长文《更强的 GPT-4,更封闭的 OpenAI》)

  如我们之前所讨论的,在这场 “火鸡”(OpenAI)追逐 “雄鹰”(Google,其实也可以泛指掌握充沛技术资源的巨头)的故事伊始,OpenAI 靠着 “开发通用人工智能技术、专利和研究成果全部开放” 的宏大愿景,招揽到一批顶尖 AI 专家。创始人们都对人工智能的未来充满恐惧,假想敌是大公司(比如 Google)开发的邪恶 AI。

  如今 OpenAI 也更像一家商业公司了:发布会之前提前向媒体和合作伙伴开放试用,等到正式发布时一同造势;为了保持自身竞争优势,同步张贴的 “论文” 长达 90 页,却没有介绍任何训练的技术细节;发布会上高管风趣的演示方式,跟市值万亿美元以上的硅谷巨头们没太大区别。

  就像每次人工智能取得重大进展时一样,很多人都在 GPT-4 发布后担忧自己会丢工作。GPT-4 看上去可以轻松替代助教、初级编辑、客服助理,而一些看上去掌握更难技能的人也开始焦虑。

  一位得克萨斯大学奥斯汀分校研究 NLP(自然语言处理)的博士在 Twitter 上分享了他对 GPT-4 的复杂情感:激动不已,但也因此质疑自己的研究价值。另一位软件工程师则说:“别再说 GPT-4 不会解 LeetCode hard 难度的题所以程序员很安全了,我特么也不会。” 评论区里不少同行表示赞同。

  不过,OpenAI 的创始人和一些学者仍在提醒不要过分神化 GPT-4。山姆·阿尔特曼(Sam Altman)在社交媒体上说,它仍有缺陷、存在限制,并在熟悉之后可能不会像初见时那样惊艳。

  艾伦人工智能研究院院长、华盛顿大学教授奥伦·埃齐奥尼(Oren Etzioni)称,虽然 GPT-4 取得了很大进展,但显然还不能被信任,“离放心让任何 GPT 运营一座核电厂,还有很长的路要走”。

  OpenAI 的研究人员已经做了很多努力,帮助 GPT-4 拥有更高的准确率和更严苛的道德准则。OpenAI 称,与 GPT-3.5 相比,GPT-4 在回答事实性测试题时,评估得分提升了 40%;响应本该拒绝的用户请求几率降低了 82%。

  但基于其生成答案的底层逻辑未变(更多依赖统计和概率而不是对事物的理解)、训练数据仍来自公开世界,GPT-4 仍不可避免地会出错、会产生幻觉(hallucinating,指 AI 编造事实)、会被恶意利用、也会输出偏见,和创造它的人类一样。(邱豪)

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论