人工智能太危险了？OpenAI CEO呼吁监管AI研发！美议员：我没想到

　　Sam Altman，作为OpenAI的CEO你赚了很多钱吧?

　　我没有OpenAI的股权，我的薪酬刚刚够健康保险……我做这个是出于热爱。

　　这段对话就发生在美国华盛顿的一场听证会

　　与Facebook CEO马克·扎克伯格(Mark Zuckerberg)和TikTok CEO周受资的待遇相比，ChatGPT开发商OpenAI的CEO山姆·阿尔特曼(Sam Altman)在国会受到了更加热情和诚挚的接待。

　　而此次讨论的核心问题在于，ChatGPT与其他AI技术的风险

　　与过去的其他科技公司高管不同，Altman表示非常欢迎对AI进行监管

　　AI代替开场演讲

　　美国参议院小组委员主席理查德·布卢门撒尔(Richard Blumenthal)在听证会一开始播放了一段音频。

　　但坐在主席台的Blumenthal，嘴却一直紧闭。

　　原来音频中说话的人听起来像是他本人，但实际上却是由人工智能合成的。

　　文本由ChatGPT生成，声音由AI软件合成的，听起来与本人几乎一致。

　　录音结束后，Blumenthal强调了：虽然ChatGPT这次表达地和他本人观点一致，但同样的技术也可以轻松合成虚假消息，“那将非常可怕”。

　　Altman的三条方案

　　南卡罗来纳州共和党参议员林赛·格雷厄姆(Lindsey Graham)将人工智能技术比作核反应堆，认为相关企业应该申请执照，并对监管机构负责。

　　其他参议员也认同这一观点，他们认为国会行动速度过慢，无法跟上创新速度，因此应当设立新的机构来为这样一个充满活力的行业制定规则。

　　对于像OpenAI这样的AI公司应如何被监管，Altman准备了三条方案：

　　1、成立一个新的政府机构，负责 LLM 的授权，同时也有权撤销不符合标准公司的许可证;

　　2、为 AI 模型建立一套安全标准，对其危险性进行评估;

　　3、需要独立专家对模型的各个指标进行独立评估。

　　人工智能产业龙头OpenAI创始人塞缪尔Altman警告称，AI系统具有“说服、操纵和影响人类行为、信念”甚至“设计新的生物制剂”的巨大潜力，迫切需要许可监管。

　　Altman坦言，对一切超 Computing 能力的AI系统实施许可监管无疑更简便高效。

　　但他个人更倾向于根据AI的具体能力和应用划定监管边界，以能力和用途为准，而非盲目根据计算力度一刀切，这将极大避免在监管过程中“一网打尽”。精准有效管控AI，成为OpenAI和业内其他研究机构共同追求的目标。

　　OpenAI到底安不安全?

　　有人认为，OpenAI这样的公司应该暂停生成式人工智能工具的开发，因为这种工具可以产生无法与人类语言相区分的内容。

　　那么OpenAI到底安不安全呢?

　　AI创始人Altman一再占据制高点，力证GPT-4系列语言模型比任何同类产品回应都更具意图性和真实性，并且绝不会接纳任何有害要求。

　　Altman与Montgomery都反对暂停人工智能开发。

　　对于AI造成的失业问题，两人观点也一致，认为AI会减少一些工作岗位，但也会创造新的。

　　Marcus则一如既往对“OpenAI声称为了造福全人类，但与微软形成商业联盟”、“AI生成虚假信息”、“ChatGPT的训练数据不透明”等问题做出批评。

　　对此你怎么看?

n.toutiaoimg.com/tos-cn-i-qvj2lq49k0/fe4316a547a4488a8c885454ad55758f~noop.image?_iz=58558&from=article.pc_detail&x-expires=1684979242&x-signature=sBsy9cUkDTKG42NN9NHR4TKWjPM%3D” alt=”” width=”640″ height=”364″ />