ChatGPT可能已经有意识了。
世界需要清醒地认识到AI真正的力量,尽管这是他们亲手创造出来的。
总有一天,人类会主动选择与机器融合,甚至成为人工智能的一部分,而这么做是为了保持自身竞争力。
……以上观点均出自OpenAI首席科学家Ilya Sutskever 在《麻省理工科技评论》的最新访谈。
他不是一个公众人物,鲜少露面,也不喜欢参与社交活动,但某种程度上是离ChatGPT最近的人,或者说世界上最了解ChatGPT的人。
在这次最新访谈中,他总结了自己的工作:
他的新工作重点不是制造下一代GPT或图像制造机DALL·E,而是研究如何阻止AGI的失控。
AI让”永远不会发生”变成了”会比你想象的更快发生”
“AI将万世不朽、震撼整个世界。它的诞生如同开天辟地。”
Sutskever眼睛亮亮地说出了这句话,事实上他说的很多话都很crazy,他本身气质也有些“科学怪人”的味道。
但这种疯狂程度已经比前一两年好多了,并不是他变了,而是人类预期变了,毕竟这一年大家都被ChatGPT教做人了。
正如他自己所说,ChatGPT已经改写了很多人对未来的预期,把”永远不会发生”变成了”会比你想象的更快发生”。
事实上,Sutskever自身也经历过一个“反向”的预期管理过程。在去年 11 月,OpenAI 发布了一款免费聊天机器人,说白了就是重新包装了一些现有技术,并不是那么地创新,但这个产品却颠覆了世界。
当时,OpenAI 并不知道自己要发布的产品意味着什么。
Sutskever 表示,公司内部的期望已经低得不能再低了:“我承认,这让我有点尴尬——我不知道我是否应该这样做,但管他呢,这是事实——当我们制作 ChatGPT 时,我并不知道它有什么好处。当你问它一个事实问题时,它给了你一个错误的答案。我认为这会很不起眼,人们会说,‘你为什么搞这样的产品?这很无聊!’”
Sutskever个人认为,ChatGPT最吸引人的地方就是便利。ChatGPT 背后的大型语言模型已经存在了几个月。但将其包装在一个易于访问的界面中并免费赠送,让数十亿人第一次意识到 OpenAI 和其他人正在构建的东西。
后面的故事大家也都知道了。
而如今在他看来,当下最重要的是要讨论这一切的方向。
超级智能的工作才刚刚开始,Sutskever说,这需要研究机构进行广泛的改革。
不过,对于他希望设计的保障措施,他心中已经有了一个范例:能像父母看待孩子那样看待人类的AI。他说:“在我看来,这是黄金标准。”他说,“毕竟人们真的关心孩子。AI有孩子吗?没有,但我希望它能这么想。”
但这还只是解决了AI失控及相关监管的挑战,而人类又该如何和AI共存?Sutskever也有他自己的看法
”有一种可能性——以今天的标准来看可能很疯狂,但以未来的标准来看就不那么疯狂了——那就是许多人会选择成为人工智能的一部分。这可能是人类试图跟上时代的方式。一开始,只有最大胆、最有冒险精神的人才会尝试这样做。也许其他人会跟进,或者不会。”
师从Hinton,共同制造深度学习的“大爆炸时刻”
在一个没有 OpenAI 的世界里,Sutskever 仍将载入人工智能史册。
作为一名以色列裔加拿大人,Sutskever 出生在前苏联,但从五岁起就在耶路撒冷长大(至今仍能说俄语、希伯来语和英语)。之后,Sutskever移居加拿大,在多伦多大学师从人工智能先驱Geoffrey Hinton。
2000 年代初,Sutskever加入Hinton的团队时,大多数人工智能研究人员都认为神经网络是一条死胡同,但Hinton是个例外。Sutskever 说:”这就是生成式人工智能的开端。这真的很酷,只是还不是很好”。
Sutskever 对大脑非常着迷:它们是如何学习的,以及如何在机器中重新创建或至少模仿这一过程。和Hinton一样,Sutskever看到了神经网络的潜力,以及Hinton用来训练神经网络的试错技术,即深度学习。
2012年,Sutskever、Hinton和Hinton的另一名研究生Alex Krizhevsky建立了一个名为AlexNet的神经网络,经过训练,AlexNet识别照片中物体的能力远远超过了当时的其他软件。
这是深度学习的大爆炸时刻。
AlexNet 获得成功后,谷歌也来敲门了。谷歌收购了Hinton的衍生公司 DNNresearch,并聘请了 Sutskever。
不过Sutskever并没有在谷歌工作太久。2014 年,他受聘成为 OpenAI 的联合创始人。而这家由一众大佬筹建的新公司,从一开始就把目光投向了开发 AGI(人工智能),而当时很少有人认真对待这一前景。
事实上,OpenAI 一开始也是举步维艰。
Sutskever说:”在我们启动 OpenAI 的时候,有一段时间我并不确定将如何继续取得进展。”但我有一个非常明确的信念,那就是:不能与深度学习对赌。不知怎的,每次遇到障碍,研究人员都会在半年或一年内找到绕过它的方法。”
事实证明,Sutskever是对的。
2016 年,OpenAI 的第一个 GPT 大型语言模型(该名称代表 “生成预训练转换器”)问世。随后,GPT-2 和 GPT-3 相继问世。然后是引人注目的文本到图像模型 DALL-E。
再之后就是风靡全球的ChatGPT。
AGI只是一个有用的门槛、一个参考点、一种理念
ChatGPT的成功,使AGI 在机器学习领域内,不再是一个肮脏的词。经过数个月的发酵,AI成为了当之无愧的顶流。
Sutskever说: “我们现在有人在谈论人工智能会发展到什么程度,有人在谈论 AGI 或超级智能。不仅仅是研究人员,各国政府也在谈论它。”
”你可以用 AGI 做很多了不起的事情,不可思议的事情:实现医疗自动化,让医疗成本低一千倍,医疗效果好一千倍,治愈很多疾病,真正解决全球变暖问题。”
但也有很多人担心:’天哪,人工智能公司能否成功管理这项巨大的技术?
对AGI的定义,Sutskever认为:”AGI 并不是一个科学术语。”它只是一个有用的门槛,一个参考点,一种理念。如果一个人能完成某项任务,那么人工智能也能完成。在这一点上,你可以说你拥有了AGI。”
Sutskever一直受到这个想法的启发和激励。”当时还不叫 AGI,但你知道,就像让神经网络做所有事情一样。我并不总是相信它们能做到。但这是一座需要攀登的山峰。”
随着人工智能的井喷式发展,AI威胁论开始出现。近日,Hinton、吴恩达、LeCunAI等多位大佬都下场为“人类灭绝论”正面开撕,马斯克也忍不住场边围观。
Sutskever也表示,”不仅要关注大型语言模型的潜在机遇,还要关注其风险和弊端显然重要的是,任何人构建的任何超级智能都不能叛变。”
而对于人类和AI在未来该如何共存,Sutskever认为,许多人会选择成为人工智能的一部分,这可能是人类试图跟上时代的方式。