0°

ChatGPT或两三年内产生自我意识,如何防止它威胁人类?

  “发展ChatGPT并不是几家互联网公司竞争的问题,而是决定了中国未来在下一次产业革命里能不能有这个技术的积淀。”全国政协委员、三六零集团创始人周鸿祎告诉时代周报记者。

  周鸿祎已连续两届当选全国政协委员,“安全”一直是他的提案关键词。近期,ChatGPT的巨大突破引发广泛讨论,周鸿祎不止一次地公开畅谈ChatGPT发展前景,也表达对人工智能安全的担忧。

  在周鸿祎看来,ChatGPT或大语言模型是人工智能发展的里程碑。它是通用人工智能的起点,也是强人工智能的拐点,因而ChatGPT会带来一场强人工智能或者通用人工智能为驱动力的工业革命。

  ChatGPT不仅是搜索引擎的加强版,也不止是一款聊天机器人。它通过SaaS方式所提供的人工智能服务,将重塑所有的数字化应用和行业。周鸿祎称,“在这个领域,我们能迎头赶上。”

  今年全国两会,周鸿祎提交提案,呼吁面对ChatGPT为代表的人工智能大模型技术的巨大跃升,我国理应奋起直追。人们在关注技术层面创新的同时,更要关注技术突破背后所依赖的创新模式。

  全国政协委员、三六零集团创始人周鸿祎

  推动人工智能大模型技术创新发展

  ChatGPT引发全球热议,周鸿祎今年的一份提案即关于ChatGPT为代表的人工智能大模型技术。

  “我们要在研究过程中找到产业发展规律。”周鸿祎表示,比如,ChatGPT为什么在美国能成功?为什么是美国人率先做出来?为什么OpenAI和微软能合作?“弄清楚这些问题可以推动相关部门制定有利于诞生中国版ChatGPT的政策引导,推动中国的大学、科研机构和产业公司结合。”周鸿祎说。

  “我们不能只看到它的大模型参数有多高。”周鸿祎强调,最重要的是保持良好开放的合作文化。周鸿祎在提案中总结了ChatGPT成功的三点关键要素——首先是“微软+OpenAI”的产研协同模式,其次是基于开源和众包的开放创新模式,最后是以通用大模型为中心的生态创新模式。

  图源:图虫创意

  周鸿祎建议,要建立“大型科技企业+重点科研机构”的产研协同创新模式,打造中国的“微软+Open AI”组合,引领大模型技术攻关;从建设国家战略科技力量高度出发,筛选技术基础好的产研机构,组成优势互补的产业协同组合,发挥科研机构在关键核心技术上的研究优势;同时发挥大型科技企业在产品化、工程化、场景化、商业化和数据化方面的优势,成为大模型技术攻关和应用的引领龙头。

  他还提出,支持设立多个国家级人工智能大模型的长期开源项目,打造开源众包的开放创新生态。周鸿祎认为,人工智能大模型不应成为少数公司垄断的高级技术,要最大程度地发挥出产业和社会价值。

  围绕如何推进人工智能大模型技术创新发展,周鸿祎提议,针对多条技术路线以开源模式设立多个国家级长期项目,以“大型科技企业+重点科研机构”为龙头,通过开源、合作、众包和生态的创新模式,引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。这一方面可以降低技术路线选择错误带来的风险,另一方面也避免技术成果垄断在少数机构手中,促进更大广度的科技创新和产业发展。

  不发展才是最大的不安全

  ChatGPT带动一波创业热潮。美团联合创始人王慧文、原京东技术委员会主席周伯文、原搜狗CEO王小川等陆续宣布下场,进军这一前沿领域。

  科技大佬复出江湖,阿里、腾讯、百度、字节等互联网大厂接连发声表态,将加大对人工智能的投入。热潮之下,中国版人工智能语言大模型和类ChatGPT产品的出现,只是时间问题。

  OpenAI率先研发出ChatGPT,做对了哪些事?

  周鸿祎认为,OpenAI利用了大量的开源算法、论文,将各种开源成果巧妙结合在一起,并与微软合作,解决了工程化、算力、数据、产品体验、商业模式等问题。其次,OpenAI像苹果建App Store生态一样,基于ChatGPT培育垂类应用。此外,用户流量也很重要,吸引用户使用的同时,还能基于人工标注的强化学习,喂养调试大语言模型。最后,OpenAI有长期主义精神,有格局去做改变人类的通用人工智能创新。

  在周鸿祎看来,中国互联网公司的工程化能力强,技术落地能力强。“现在,ChatGPT已做出了样本,有开源技术做基础,并不存在难以逾越的障碍,剩下的就是时间问题。”周鸿祎坚信,“在国家鼓励性政策的支持下,我国能用两三年时间达到比较好的跟随水平。”

  人工智能语言大模型有着较高进入门槛,这主要体现在技术和资金两方面。

  中信建投研报指出,Transformer在网络结构上的进化带来了参数量和模型层数的提高,引起了生成式AI技术能力的质变;同时并行化优势允许其在更大的数据集上进行训练,这也促成了GPT等预训练模型的发展。

  至于ChatGPT为何会能够对答如流,周鸿祎告诉时代周报记者,给ChatGPT喂养的训练语料很重要。他指出,此前人们错误的认为机器人既然是和人聊天,应该要学习聊天素材。实际上,社交工具所产生的聊天素材,知识含量很低。

  “我们聊天的时候,没有人在讲知识,都是互相抬杆,俏皮话、无厘头的话非常多。”他解释道,这样训练出来的聊天机器人何止“人工智障”,还是“人工杠精”,对话毫无逻辑。

  ChatGPT回避了这类语料,就像一个人不一定善于表达,但是饱读诗书,表达儒雅、有逻辑,大家愿意和这样的人聊天。周鸿祎强调,给ChatGPT喂养高质量的语料极为关键。

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论