一些世界顶尖的人工智能公司正在成立一个新的行业机构，与政策制定者和研究人员共同合作，探讨如何规范前沿人工智能的发展。
这个名为“前沿模型论坛”(Frontier Model Forum)的新组织于周三由谷歌、微软、OpenAI和Anthropic共同宣布成立。这些公司表示，该论坛的使命将是制定人工智能安全的最佳实践，促进对人工智能风险的研究，并与政府和民间社会公开分享信息。
周三的声明反映出，在美国和欧盟(eu)立法者预计将于今年秋季推动为该行业制定具有约束力的立法之前，人工智能开发商正围绕自愿为该技术设立护栏进行联合。
此前，这四家人工智能公司以及包括亚马逊和Meta在内的其他几家公司向拜登政府承诺，在向公众发布人工智能系统之前，将对其人工智能系统进行第三方测试，并明确标注人工智能生成的内容。
这些公司在一份联合声明中表示，这个由行业主导的论坛向设计最先进人工智能模型的其他公司开放，计划通过一个可公开访问的图书馆提供其技术评估和基准。
微软总裁布拉德·史密斯(Brad Smith)表示:“开发人工智能技术的公司有责任确保其安全、可靠，并保持在人类的控制之下。”“这一举措是将科技行业聚集在一起，负责任地推进人工智能并应对挑战，使其惠及全人类的重要一步。”
此前一天，Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)和人工智能先驱约书亚·本吉奥(Yoshua Bengio)等人工智能专家警告立法者，不受约束的人工智能发展可能带来严重甚至“灾难性”的社会风险。
阿莫代伊在书面证词中说:“我特别担心人工智能系统可能在网络安全、核技术、化学，尤其是生物领域被大规模滥用。”
阿莫代伊说，在两到三年内，人工智能可能变得足够强大，可以帮助恶意行为者制造功能性生物武器，而目前这些行为者可能缺乏完成这一过程所需的专业知识。
本吉奥告诉参议院的一个小组，防止重大伤害的最佳方法是限制对人工智能系统的访问;制定标准和有效的测试制度，以确保这些系统反映共同的社会价值观;限制任何单一人工智能系统能够真正理解的世界;并限制人工智能系统对现实世界的影响。
欧盟正朝着立法的方向发展，该立法最早可能于今年最终确定，将禁止将人工智能用于预测性警务，并限制其在低风险情况下的使用。
美国议员们则落后得多。虽然国会已经提出了许多与人工智能相关的法案，但推动全面人工智能法案的主要力量在于参议院多数党领袖查克·舒默(Chuck Schumer)，他在今年夏天通过一系列简报，优先让议员们了解人工智能行业的基本情况。
舒默说，从9月开始，参议院将举行一系列额外的9个小组会议，让议员们了解人工智能如何影响就业、国家安全和知识产权。