(图片来源@视觉中国)
当ChatGPT引发全球热议之时,人们开始跳出来反对,企图通过“封杀”ChatGPT手段保卫人工智能(AI)技术带来的风险。
钛媒体App获悉,北京时间4月1日,ChatGPT之父、美国OpenAI公司CEO阿尔特曼(Sam Altman)发文证实,ChatGPT已经在意大利暂停服务,并表示意大利是他最喜欢的国家之一,期待着很快再次访问。
此前3月31日,意大利个人数据保护局宣布,即日起禁止使用ChatGPT平台,并限制OpenAI公司处理意大利用户信息,同时个人数据保护局开始立案调查。
近两天,ChatGPT平台突然大量封禁OpenAI账号,尤其是使用中文对话的用户,据统计已有数百万用户的账号受到了影响;更早之前3月29日,作为曾经OpenAI最大的支持者,世界首富、OpenAI联合创始人、特斯拉CEO马斯克(Elon Musk),却与数千位科技界和学术界大咖联名呼吁,所有 AI 实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
“我们还有很长的路要走,我们确实需要更强大的对齐技术来构建更强大的模型。”阿尔特曼连发数条推文回应公开信,称仍对GPT-4技术能力感到非常自豪。
4月2日,a16z投资的创业公司Runway CEO陈思齐透露,具有AGI (通用人工智能) 能力的GPT-5计划在2023年12月完成训练。
数据泄漏、封号限制,ChatGPT被“围殴”
“许多人陷入了该死的疯狂ChatGPT循环中。AI 比核弹更恐怖。”马斯克在ChatGPT于2022年11月发布后多次评论其对人类的影响。
实际上,2016年9月马斯克作为OpenAI联合创始人、投资人、联席CEO,在特斯拉加州弗里蒙特工厂接受了阿尔特曼的采访。
左侧是OpenAI首席执行官Sam Altman,右侧是特斯拉CEO Elon Musk
当时马斯克表示,就可能影响人类未来的事情而言,他认为 AI 可能是短期内最重要的事。他指出,创立OpenAI的重要初衷,是让 AI 以良好的方式到来,这是他认为最重要、最紧迫的事情。“我认为我们必须实现 AI 技术的民主化,并让它能广泛使用。而这显然就是整个团队创建OpenAI的原因。”
不过,马斯克的这一愿望最终未能实现,OpenAI似乎走向了相反的一面。
最近几天,ChatGPT平台正展开大规模封禁账号行动。据市场统计,已有数百万用户的账号受到了影响——这似乎与OpenAI起初的民主化背道而驰。许多用户在社交媒体上表示,他们的账号在未收到任何警告的情况下被封禁,这让他们感到非常困惑和担忧。
有消息称,此轮封禁 OpenAI 账号猜测可能与异常登录账号的安全问题、遏制恶意行为、不符合新版规则的技术升级调整、账号邮箱权重、中国区域的IP地址或服务器账号等因素有关。
截至目前,OpenAI暂未对此进行相关回复。
2019年和今年2月,微软两次向OpenAI注资100亿美元以上,成为该公司的第一大投资方,并让OpenAI估值达290亿美元,创下行业记录。随后,ChatGPT发布Plus付费服务,同时让微软借助GPT实现广告、云计算服务的商业化。
如今在微软的推动下,OpenAI确实有了制衡谷歌的能力。毫无疑问的是,目前OpenAI已经不再是非商业化 AI 实验室,而是一家要与微软一同将 AI 商业化的公司。与此同时,ChatGPT以及GPT-4发布之后,除了微软得到核心API数据外,其他公司则是望尘莫及,几乎无法获得GPT这种对话式通用人机接口的能力。
当ChatGPT火爆全球之际,美国首先宣布“封杀”ChatGPT,打响人类保卫战第一枪。
3月22日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,包括马斯克在内,多位科技公司高管和顶级AI研究人员,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。信中表示,六个月或更长时间的暂停,将使该行业有时间制定AI设计方面的安全标准,从而防止风险最高的一些AI技术的潜在危害。
“我们不应该冒着失去对文明控制的风险,将决定委托给未经选举的技术领袖。只有当确保强大的 AI 系统的效果是积极的,其风险是可控的才能继续开发”。该机构在信中所提到的“未经选举的技术领袖”,显然是在暗指OpenAI。
这封信公布之后引发巨大的行业讨论,多位人士表达反对意见。例如计算机科学家、Google Brain联合创始人吴恩达表示,让有关部门暂停他们尚未了解的新兴技术,往好了说是反竞争,往坏了说是开了一个糟糕的先例;英伟达 AI 科学家Jim Fan则认为,许多大语言模型在安全性和公正性上已经表现地很好,不应该一味地批评。
钛媒体App梳理发现,在马斯克和这些 AI 行业从业者看来,ChatGPT背后主要存在技术商业化、数据隐私保护、网络安全风险等问题。
技术商业化:马斯克非常看重开源,他认为 AI 应该民主化,很多人应该享受到 AI 技术,而不是OpenAI喂养微软一家独大。
数据隐私保护:这种大型语言模型背后核心是大的算力和参数量(数据),因此数据来自哪里,是否存在公平、隐私问题等,这些都是OpenAI被行业诟病的地方。
网络安全风险:ChatGPT的自动编写代码功能在提升代码编写效率的同时,也会被黑客用于辅助编写恶意代码,网络安全态势势必更加严峻。
据《经济学人》韩国版3月30日报道,三星电子引入ChatGPT不到20天,ChatGPT就泄漏了三星内部机密,涉及半导体设备测量资料、产品良率等内容。而ChatGPT可能把三星的机密信息当作训练资料使用。
另据报道,数据安全服务Cyberhaven检测到并阻止了其客户公司160万名员工中4.2%的人将数据输入ChatGPT的请求,因为存在泄露机密信息、客户数据、源代码或监管信息的风险。目前,摩根大通已经限制员工使用 ChatGPT,亚马逊、微软和沃尔玛也已向员工发出警告,要求员工谨慎使用生成式 AI 服务。
“缺乏透明度是(ChatGPT)真正的问题,”瑞典于默奥大学 AI 学院副教授 Johanna Bjorklund 说,“如果你做 AI 研究,你应该对你的研究方式非常透明。”
中国人民大学教授刘永谋发文称,ChatGPT对社会生产力的推动作用已经昭然若揭,不应因噎废食而是控制利用。暂停ChatGPT研发的想法简单粗暴,作用不大,也实现不了,纯属无效的“嘴炮”。他认为,现在的问题是根据国情落实 AI 治理措施,而不是暂停ChatGPT研发。
“现在它已经成为了一个闭源、以最大利润为目标、受微软控制的公司。”马斯克在ChatGPT发布一个月后断掉了OpenAI对推特的数据访问权限。
3月下旬,马斯克再次暗讽OpenAI称:AI 是人类创造的最强大的工具,现在却掌握在无情的垄断企业手中。据报道,马斯克近期一直在与人工智能研发人员接触,商议成立一个新的研究实验室以替代OpenAI。
传GPT-5于今年底发布,AI未来走向何方?
“我被告知,GPT-5计划在今年12月完成训练,OpenAI 预计它将实现 AGI。”a16z 投资的创业公司Runway CEO 陈思齐(Chen Siqi)近日在其推文中分享了这个重磅消息。
陈思齐称,他认为一旦GPT-5发布,大家将离 AGI目标更近了。据悉,通用人工智能(AGI)又称强人工智能,指具备等同或超过人类智能行为水平的人工智能。自人工智能学科诞生以来,通用人工智能就是该领域研究的主要目标之一。
当然,OpenAI目前尚未公开讨论GPT-5,所以这方面的资料较少,GPT-5仍处于“传闻”当中。但鉴于GPT-4比GPT-3提升的技术能力,如果GPT-5实现AGI,就意味着聊天机器人达到了人类的理解和智能。
也许,未来人类的脑子会被机器所学习?Maybe
事实上,早在2009年,机器学习领域商业大咖、DeepMind联合创始人肖恩·莱格 (Shane Legg)曾使用曲线外推法预测,到2025年人类将研发出与我们水平一致的 AGI 技术能力。
如今来看,这个目标似乎被OpenAI团队提前完成了。
陈思齐后来对他的说法稍作反驳,“要明确的是,我并不是说用GPT-5实现AGI是OpenAI内部的共识,但那里的人相信它会实现。”换句话说,这种GPT-5 AGI并不一定是在人类当中实现,可能依然是机器和数据学习。
3月30日,360公司创始人、董事长周鸿祎发布长文指出,暂停GPT-5研发不会影响中国自己的大语言模型,中国距离GPT-4水平还有两年差距。此前一天,周鸿祎在会议中演示了360公司最新研发的大模型“红孩儿”——继百度“文心一言”之后的第二款类ChatGPT产品。
周鸿祎随后对钛媒体App表示,目前该产品处于内测,并没有公测,而且该产品仅类似搜索引擎和浏览器插件,而非平台。