6月10日，OpenAI创始人Sam Altman以视频连线的方式参加于北京举办的2023智源人工智能大会，这也是Altman首次对中国观众发表演讲。
凭借ChatGPT走红的OpenAI，成为行业争相追逐的对象，刚刚，第三方机构宣布其月活突破10亿大关，跻身全球网站TOP20榜单。
作为OpenAI的联合创始人、CEO，萨姆·奥特曼(Sam Altman)也被誉为硅谷新一代创业明星领袖和人工智能领域的布道师，持续不断地在公开场合对外输出关于人工智能发展路径、监管等一系列问题的认知和思考。
6月10日，萨姆·奥特曼出席被称之为中国“AI春晚”的2023年智源大会，线上发表主题演讲，并与智源研究院理事长张宏江隔空问答，交流关于AGI的未来、GPT-5、开源大模型等话题。
丨划重点
● 千里之行始于足下，现在就要与国际科技界合作，推动增加AGI安全技术进展的透明度;
● 鼓励推动国际合作，同时尊重和保护知识产权，推动并引导与安全研究一致的投资;
● 很难判断AGI这种级别人工智能是否会损害人类，希望AI协助人类监督AI，并增加模型的可解释性;
● 未来10年会有超强AI诞生，没有具体时间表，新技术彻底改变世界的速度超乎想象;
● 不确定AGI的未来会如何，但可以确认短期内不会上线GPT-5;
● OpenAI已经开放了一些模型源代码，未来陆续还会开放更多的模型;
● 中国拥有许多世界上最优秀的AI系统，但数量太多也增加了解决问题的难度;
● 关于AI系统的对齐，最重要的是如何获得安全的AI。
演讲中，萨姆·奥特曼用了超长篇幅来强调全球AI安全对齐与监管的必要性，甚至应用《道德经》里的名句——”千里之行始于足下“来呼吁加快推进全球合作。
他谈到，当下人工智能革命影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
他认为，随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI (通用人工智能)安全是各方需要找到共同利益点的最重要的领域之一。
因此国际合作中，他认为有两个关键领域是最重要的。首先需要建立国际规范和标准，并注意过程中注重包容性。在任何国家使用 AGI 系统，都应平等而一致地遵循这样的国际标准和规范。在这些安全护栏内，我们相信人们有足够的机会做出自己的选择。第二需要国际合作，以可核查的方式建立对安全开发日益强大的 AI 系统的国际间信任。他并不妄想这是一件容易的事，需要投入大量和持续的关注。
他提到，人工智能爆发式增长的背景下，呼吁全球共同监管，并且在相关的研究部署上对齐，建立全球信任，而萨姆·奥特曼之所以持续呼吁协同监管，一方面是因为AI全球大爆发，另一方面则是因为”最小化风险“的理念。
此前，萨姆·奥特曼播客节目中，以非常低的姿态来介绍GPT-4这款被全行业所追逐的大模型，“GPT-4是一个人类在未来会回看的AI系统，它还处于发展早期，运行缓慢且有错误，很多事情做得不够好，需要几十年的演变。”
对于大模型在实际应用场景中可能存在的错误，萨姆·奥特曼的看法是“希望在风险较低的时候犯错”，然后通过迭代来让其变得更好，以此来阐释OpenAI的人工智能迭代理念。
另外，在演讲中，萨姆·奥特曼还积极评价了中国在人工智能安全对齐上的意义，他表示”中国拥有世界上最优秀的人才，而解决人工智能系统对齐的困难，需要来自世界各地的人才。“
AI对齐，即要求AI系统的目标要和人类的价值观与利益相对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级，主要分为扩展性和可解释性两方面。
首先是可扩展的监督，可以尝试使用人工智能系统来协助人类监督其他人工智能系统。
例如，可以训练一个模型来帮助人类监督发现其他模型的输出中的缺陷。
第二是解释能力，即尝试更好地了解这些模型内部发生了什么。OpenAI最近发表了一篇论文使用 GPT-4 来解释 GPT-2 中的神经元。 在另一篇论文中，使用 Model Internals 来检测一个模型何时在说谎。因此还有很长的路要走。相信先进的机器学习技术可以进一步提高解释的能力。
演讲之后的问答环节，在被智源研究院理事长张宏江问及距离通用人工智能(AGI)时代还有多远时，萨姆·奥特曼表示，“未来10年内会有超强AI系统诞生，但很难预估具体的时间点”，他也强调，“新技术彻底改变世界的速度远超想象。”
提及超强AI，此前未来生命研究所曾发起呼吁“暂停GPT-4以上大模型研发6个月”的公开信，OpenAI在这块的动作，包括后续GPT-5的规划一直是业内关注的焦点。
关于OpenAI是否会提供开源大模型时，萨姆·奥特曼还透露，OpenAI没有相关的新的有关开源的时间表，开源模型具有优势，但开源一切可能并不是一条(促进AI发展的)最佳路线。在某个时候，会尝试做GPT-5的模型，但不会是很快。不知道具体GPT-5出现的时候。
在对谈的最后部分，Altman认为，AI安全需要中国研究者的参与和贡献。
本文经综合整理