0°

谷歌、微软、OpenAI宣布成立产业集团,推动人工智能安全发展

  一些世界顶尖的人工智能公司正在成立一个新的行业机构,与政策制定者和研究人员共同合作,探讨如何规范前沿人工智能的发展。

  这个名为“前沿模型论坛”(Frontier Model Forum)的新组织于周三由谷歌、微软、OpenAI和Anthropic共同宣布成立。这些公司表示,该论坛的使命将是制定人工智能安全的最佳实践,促进对人工智能风险的研究,并与政府和民间社会公开分享信息。

  周三的声明反映出,在美国和欧盟(eu)立法者预计将于今年秋季推动为该行业制定具有约束力的立法之前,人工智能开发商正围绕自愿为该技术设立护栏进行联合。

  此前,这四家人工智能公司以及包括亚马逊和Meta在内的其他几家公司向拜登政府承诺,在向公众发布人工智能系统之前,将对其人工智能系统进行第三方测试,并明确标注人工智能生成的内容。

  这些公司在一份联合声明中表示,这个由行业主导的论坛向设计最先进人工智能模型的其他公司开放,计划通过一个可公开访问的图书馆提供其技术评估和基准。

  微软总裁布拉德·史密斯(Brad Smith)表示:“开发人工智能技术的公司有责任确保其安全、可靠,并保持在人类的控制之下。”“这一举措是将科技行业聚集在一起,负责任地推进人工智能并应对挑战,使其惠及全人类的重要一步。”

  此前一天,Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)和人工智能先驱约书亚·本吉奥(Yoshua Bengio)等人工智能专家警告立法者,不受约束的人工智能发展可能带来严重甚至“灾难性”的社会风险。

  阿莫代伊在书面证词中说:“我特别担心人工智能系统可能在网络安全、核技术、化学,尤其是生物领域被大规模滥用。”

  阿莫代伊说,在两到三年内,人工智能可能变得足够强大,可以帮助恶意行为者制造功能性生物武器,而目前这些行为者可能缺乏完成这一过程所需的专业知识。

  本吉奥告诉参议院的一个小组,防止重大伤害的最佳方法是限制对人工智能系统的访问;制定标准和有效的测试制度,以确保这些系统反映共同的社会价值观;限制任何单一人工智能系统能够真正理解的世界;并限制人工智能系统对现实世界的影响。

  欧盟正朝着立法的方向发展,该立法最早可能于今年最终确定,将禁止将人工智能用于预测性警务,并限制其在低风险情况下的使用。

  美国议员们则落后得多。虽然国会已经提出了许多与人工智能相关的法案,但推动全面人工智能法案的主要力量在于参议院多数党领袖查克·舒默(Chuck Schumer),他在今年夏天通过一系列简报,优先让议员们了解人工智能行业的基本情况。

  舒默说,从9月开始,参议院将举行一系列额外的9个小组会议,让议员们了解人工智能如何影响就业、国家安全和知识产权。

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论