美国监管机构首次正式调查ChatGPT!FTC朝OpenAI“开火”

  媒体周四消息显示,OpenAI正在接受美国联邦贸易委员会(FTC)的调查。FTC致民事调查要求信给OpenAI公司,调查的重点包括OpenAI旗下聊天机器人ChatGPT是否因发布虚假信息,伤害到相关个人,OpenAI如何处理相关风险。

  FTC的这份调查,意味着美国监管机构首次正式发起对人工智能聊天机器人带来的风险的审查。由Lina Khan领导的FTC拥有广泛的权力,来监管不公平的和具有欺骗性的商业行为。FTC的调查意味着ChatGPT这一当前全球最火的应用程序面临潜在的法律威胁。

  FTC在信中写道:

  请详细描述您在多大程度上采取了措施,来解决或减轻您的大型语言模型产品可能生成有关真实个人的虚假、误导或诽谤性陈述的风险。

  当前立法者们特别担心所谓的深度伪造视频的风险,这些视频错误地描绘了真实的人采取的令人尴尬的行为或发表令人尴尬的言论。

  不过相关业内人士认为,FTC管的太宽。媒体援引科技贸易组织进步商会首席执行官Adam Kovacevich的话说,“当ChatGPT对某人说错话并可能对其声誉造成损害时,这是FTC管辖权内的问题吗?我认为这根本不清楚。此类事情更多地属于言论领域,属于言论管制范畴,超出了FTC的权限。”

  FTC还在信中询问有关OpenAI公司数据安全实践和隐私的具体问题,看其是否存在不公平或欺骗性行为。FTC援引了2020年的一次事件,当时OpenAI披露了一个错误,该错误允许用户看到其他人的聊天对话信息和一些与支付相关的信息。

  FTC的信中总计提出了数十个问题。其他主题包括:ChatGPT设计的技术细节,训练人工智能模型的实践,OpenAI公司的营销工作,对用户个人信息的处理,用户投诉的有关情况,公司如何评估人们对聊天机器人准确性和可靠性的理解等。FTC要求OpenAI公司分享相关的内部材料。

  FTC此次出手早有征兆。今年5月,FTC便发出警告,称其正在密切关注企业如何选择使用人工智能技术,包括新的生成式人工智能工具,以对消费者产生实际和重大影响。

  周四当日,Lina Khan在美国众议院司法委员会作证,她因其强硬的执法立场而遭到共和党议员的强烈批评。在听证会上被问及对OpenAI的调查时,Khan拒绝发表评论,但表示:

  FTC更广泛的担忧包括,ChatGPT和其他人工智能服务被训练了大量数据,而没有检查什么样的数据被这些公司所使用。我们听说有报道称,在回应其他人的询问时,人们的敏感信息被泄露。我们听说,诽谤性言论以及完全不真实的事情正在发生。这就是我们所担心的欺骗。

  随着火遍全球,生成式人工智能产品越来越成为全球各地监管机构的关注焦点。今年5月,拜登政府寻求制定一项国家人工智能战略,以防范错误信息和该技术的其他潜在缺点。今年3月,意大利监管机构一度禁止ChatGPT,同时检查该公司对个人信息收集的情况等。几周后,在OpenAI提高了其隐私政策的可访问性并推出了验证用户年龄的工具后,ChatGPT在意大利恢复上线。

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论