通用人工智能(AGI)是指能够像人类一样执行任何智能任务的人工智能系统。这一目标一直是人工智能领域的终极梦想，也是许多科幻作品的灵感来源。然而，AGI的出现也可能带来巨大的风险和挑战，比如如何确保AGI与人类的价值观和利益相一致，如何避免AGI被滥用或失控，以及如何平衡不同国家和地区在AGI领域的竞争和合作。
为了探讨这些问题，北京智源人工智能研究院于6月10日举办了2023智源人工智能大会，邀请了OpenAI创始人Sam Altman以视频连线的方式发表了主题演讲，并接受了智源研究院理事长张宏江的问答。OpenAI是一家致力于推动友好型AGI的非营利性研究机构，其旗下的GPT系列模型是目前最先进的自然语言处理模型之一。
Altman在演讲中表示，随着日益强大的AI系统的出现，全球合作的重要性从未如此之大。他认为，在一些重要的大事上，各国间必须进行合作和协调。推进AGI安全是我们需要找到共同利益点的最重要的领域之一。他还引用了《道德经》中的名句“千里之行，始于足下”，呼吁与国际科学和技术界合作，增加透明度和知识共享。
Altman还介绍了OpenAI在AGI安全方面的研究进展和挑战。他说，对齐仍然是一个未解决的问题，需要新的技术方法。他举例说，GPT-4花了八个月的时间完成对齐方面的工作，比以往任何模型都更加与人类对齐。他还提到了可扩展监督和解释能力两个方向，以及使用AI系统来帮助进行对齐研究的目标。
在问答环节中，张宏江向Altman提出了多个问题，涉及到AGI发展的时间表、不同国家在AGI领域的优势、开源模型的利弊、下一步的AGI研究方向、AI安全测试框架等话题。Altman表示，他没有一个具体的时间表或模型来预测AGI何时会出现，但他认为未来十年我们会有非常强大的AI系统。他说，开源模型有其优势，但开源一切可能并不是最佳路径。他还说，他们会尝试做一个GPT-5模型，但不会很快。他还透露，OpenAI曾经做过机器人方面的工作，并希望有一天能够回到这个领域。
Altman最后表示，他相信我们可以利用AGI来解决世界上最重要的问题，并极大地改善人类的生活质量。他感谢张宏江和观众，并期待下次有机会来中国进行更深入的交流。