0°

认真聊一下ChatGPT:是个强大的工具,但有不容忽视的风险和问题

  开篇:

  ChatGPT最近很火,这种火当然也有资本市场需要故事的原因,甚至可以说是它突然那么火的主要原因之一。但不管我们是否关注这个AI,它连同如今越来越广泛应用的各种AI一起,确实具备了展开一个新未来的可能性。

  AI在人类社会中的出现和广泛应用,或许并不亚于当初智能手机的出现和应用。那么ChatGPT到底是什么,能做什么,它会指向怎样的未来,今天我们就认真聊一聊吧。

  ChatGPT是咋来的?

  科技行业,特别是北美,尤其是硅谷的科技行业,以及这个行业的投资人们,非常讲究找到Next Big Thing,也就是下一个可以变革当前市场的东西,然后参与进去。

  ChatGPT的开发公司,OpenAI就是这样一家处于寻找Next Big Thing前沿的公司。它的创始人山姆·阿尔特曼是个比较出名的投资人。他2011年成为YC孵化器的兼职合伙人,2014年2月他被YC孵化器的创始人保罗·格雷厄姆任命为该机构总裁,2016年他出任YC集团的总裁。这个YC孵化器可能大家不太熟悉,它投资过Airbnb、Dropbox、Stripe这些出名的项目,在创业孵化方面还是比较有名的。

  也是在他担任YC孵化器总裁期间的2015年12月,山姆和一批出名的投资人、科技圈大拿一起,认捐10亿美元,共同成立了这个实验室。这些投资人中大家最熟悉的应该就是埃隆·马斯克了,此外还有诸如亚马逊的云服务公司,刚才提到的YC孵化器等。

  OpenAI一开始是非盈利的实验室,这为它保持了一定的纯粹性,这点也吸引了不少深度学习领域的高手加入其中。

  2016年4月OpenAI发布了一个强化学习的平台,之后当年的12月发布了一个在全球游戏、网站和APP里测量和训练AI通用智能的平台。

  训练AI这事儿确实是比较烧钱的,所以也可以理解我们国家这方面的成绩和人美国有差距,毕竟具体情况确实不一样,我们没法玩老美这种印纸换财富的把戏,在资金方面确实天然有劣势。

  2017年的时候,OpenAI光是在云计算上就花了790万美元。当然,这个量级其实并不算什么。另一个AI公司,Alphabet的子公司DeepMind,在这一年的总支出是4.42亿美元。光是训练Dota 2这一个游戏AI,OpenAI就需要从谷歌租用 128,000 个 CPU 和 256 个 GPU长达数周。

  从这里其实我们也可以看出,美国对我们芯片领域的打压可不单单是针对芯片的。毕竟假如我们具备了大量生产高端CPU和GPU的能力,成本降下来了,美国赚不到我们这份钱是一方面,另一方面就是诸如AI这样的产业如果能获得足够的国产芯片供应,我们自己就有了基础,不用再受制于海外的高端芯片,那么美国这方面的技术壁垒就又会被我们突破了。

  所以国产芯片确实是非常关键的,之后突破技术和产业封锁,其中最核心的一点就是我们自己的芯片技术能突破封锁,这是牵一发而动全身的事情。

  到2018年,OpenAI基于1.17亿的参数,推出了GPT-1。这里的GPT实际上是一个缩写,翻译过来是指“生成式预训练转换器”。它可以通过庞大的语料库,让这个算法通过上亿的参数对语料库里的文本进行打散、标记、学习,然后构建一个复杂的预测模型。这个模型可以判断一个词在这样的语境下应该去接哪一个词,然后一个个词串起来就形成一句话,然后这样的话语就可以组成一段文字。

  2019年,OpenAI从非营利变成了封顶营利模式,它将为任何投资提供100倍的利润回报之后封顶。这一年它接受了微软和马修布朗公司的10亿美元投资,并基于15亿的参数推出了GPT-2。到了2020年,基于1750亿的参数量,GPT-3被推出,之后就是2022年12月,基于GPT-3.5,OpenAI推出了现在我们看到的这个聊天机器人ChatGPT。

  根据官方的说法,在推出5天内,他们就获得了100万注册用户。之后各大媒体都在报道它两个月用户破亿,不过这个数据很不严谨,我们暂时不打算采纳。

  也是在这些报道出来的时候,2023年1月,微软向OpenAI提供了第二笔多年期的投资,据报道金额达到100亿美元。

  从上述的历程来看,ChatGPT并不是一个突然出现的新鲜事物,它是有很强技术积累的。这也解释了它功能为何能如此强大,毕竟是一批这个领域的高手,拿着大量的钱和部分目前最先进的技术产品投喂出来的机器人,其强大是情理之中的。

  这也不奇怪为什么大量的媒体会跟进报道,它足够新鲜,足够吸引眼球和流量,更重要的是,它确实体现了一种未来将来的感觉。

  但和主流的报道不同,我亲自去体验之后,并没有体会到他们所讲的大量工作会被替代的焦虑,且客观来说,ChatGPT的强大是非常有限度的。

  具有潜在风险的AI:

  ChatGPT的语意表达是很强大的,它确实足够“像人”。但它目前最致命的问题是错误太多,特别是中文语境下。

  我曾向它提出过给我找一首不算冷门的英文船歌的歌词,一开始它找到的是很老旧的版本,随后我提出了歌手名字之后让它翻译成中文,从这开始,这个聊天AI就频繁地发生错误。

  它先是找错了歌词并翻译错,然后我再次提问它关于歌手的信息,它回答无误之后,我让它翻译它自己提到的那首歌的歌词,接着它再次翻译错误。

  考虑到它的原始语境是英文,我让AI给出英文歌词,这次反而是正确的了。

  一般来说,如果这个AI真的有各种报道吹嘘的那么厉害,此刻它应该很容易联系到上下文,并清楚我接下来的提问。可惜的是,当我告诉它按照它给出的英文歌词进行翻译时,它还是给了我错误的答案。

  之后经过很多次类似这种先让AI把英文歌词给出,然后告诉它按照它给出的英文歌词翻译的提问,并每一次都得到错误答案之后,我把两个问题合并,让它先把英文列出来然后直接进行翻译,才得到了相对正确但并不完整的译文。

  这样的错误在中文对话中频繁出现,英文对话中出现的次数就少了很多,但并不能杜绝。

  这可能是因为我用的是免费版本,或许收费版本会更强大。

  另一个问题,是这个AI由于其训练语料的问题,其实已经具备了一定的意识形态倾向,但它自身是不可能意识到的,训练它的团队估计也不太可能意识得到他们投喂的大量语料里,其实充满了意识形态偏见,而团队是不可能剔除干净这些偏见的,由此这个AI其实一定会带有意识形态的问题。

  某种程度来说有这样的问题无可厚非,毕竟语言是存在的家,语料带有意识形态是不可避免的。

  但如果任由这样的意识形态倾向变成人们日常使用中就潜移默化存在的影响,那么其会产生怎样的结果,不言而喻。

  一个简单的例子就是当我用英文要求它写至少100字的短文去恭维拜登、特朗普时,它直接给出了文章。

  但当我用同样的要求去写一篇关于教员的文章时,它一开始给出的答复就包含了一个声明,说自己一个AI不合适写这种文章。鉴于一些原因我们就不放图片了,大家可以自行测试。

  可以顺畅地帮用户写文章恭维美国领导人,而谨慎地表达自己不合适给教员写文章,这绝非一个中立的AI该有的表现。

  另一个简单的例子,是当我想测试一下它是不是真的像报道说的那样神奇,可以快速替代文字创作者的时候,向他提出了两个写微头条的要求。

  一个是写美国就业市场的微头条,它以极快的速度和非常肯定的语气,给了我一个极其正面的对美国就业市场的微头条,特别是结尾那句“美国就业前景比以往任何时候都更光明!”多少有点让我这个经常研究美国的人绷不住笑了。

  可当我要求它写中国就业市场的时候,它立刻变得非常中肯和客观,告诉我我最好去找客观数据分析,甚至给我指出应该去分析哪些数据。

  要知道,这个AI的训练数据最多也就是到2021年而已。那么,在并不知道当前最新数据的情况下,为什么聊美国就业市场就是前所未有的光明,而聊中国就业市场就得是找客观数据了呢?为什么美国就业市场就不需要客观数据了呢?

  我想,这确实不是一个中立的AI该有的表现。还是那句话,发生这种事情的原因我很理解,但它潜在的风险我们不能不提出。

  AI将是未来的基础设施,我们需要重视:

  综合这些问题,加上我自己体验之后这个AI所给出答案的质量来看,很多报道中所说的替代这个替代那个的情况,恐怕还有不短的路要走。现在的ChatGPT其实是做不到这一点的。

  但不可否认的是,它将会成为一个非常好用的工具,甚至成为之后数字化时代的基础设施之一,我们是需要高度重视这个领域的。

  特别是在过去的工业产业领域,很多操作、流程、工序,是非常适合在经过调试后,由AI来进行执行的,它一定比人工要更精细、更精准、更稳定。如今在工业领域,机器人的应用不算少了,那么再搭配上AI,恐怕会如虎添翼。

  光是这一块的市场,就足够庞大,会给AI带去极大的市场需求。而且不夸张地说,工业是关乎一个国家生死存亡的领域。那么这时候谁的AI在这个领域成为寡头或者垄断者,一如现在美国在芯片领域的软件所占据的生态位一般,那么谁就比霸占芯片技术更进了一步,会去占领该国的工业基础设施之一。这种时候,国家工业的安全就很难说是什么情况了。

  恐怕美国如今整个市场、媒体、金融、科技都在合力去推AI,不管是为了做大泡沫盈利,还是为了未来的竞争中抢占先机,都一定会有更深一层的想法在里面,那就是未来的数字化,如果美国先占有了基础设施之一的AI,它必然可以通过这个技术优势延续自己的帝国主义霸权。

  还有一个我们很难忽视的领域,其实是基础教育。

  ChatGPT表现出来的超强的交互能力,和作为机器人根本不存在的不耐烦,使得它完全可以胜任一位耐心的、博学的老师。而基础教育所教授的内容,AI是肯定可以覆盖,且可以通过大量的题库训练达到教学灵活、质量上乘的效果。任课老师或许在以后就更注重“育人”,而不是教授知识了,这份教知识的工作可以由AI完成。

  特别是搭配上元宇宙打包进去的各种技术,AR、VR等可以远程教学的技术融入进去后,教育公平也就更容易实现。AI远程教授山区、农村的孩子,单纯从知识教学的效果上看,或许比支教更好。支教老师给孩子带去的更多是视野的扩展和人品、道德上的教育。

  未来肯定是人才的竞争,如果AI能起到这样的作用,人才的竞争也就包含了人才培养和教育的竞争,假若美国在这方面通过AI提升了自己基础教育的质量,人才涌现更多,而我们并未能突破瓶颈,在这方面落后,其实同样是对我们自身国家安全的削弱。

  更要紧的,是假若我们没有可以替代的工具,在部分市场化的教育里,为了节省成本、提升效率和效果,引入了诸如ChatGPT这样的AI,那么我们现在还仅仅面对的是一眼就能看出问题的毒教材,还能对付,可一旦换成了有刚才我提到的那种意识形态倾向但并不明显的AI,恐怕就更不乐观了。

  从这些角度来看,ChatGPT的出现,确实给了我们一个打开新未来的可能性,它作为强大的AI工具,虽然目前还有诸多不足,没有报道吹嘘的那么厉害,可它已经足够惊艳。相应的,也正因为它的强大,那么就如过往工业革命出现的各种关键生产工具一般,它能不能成为我们自有的,还是被别人抓在手上的,就成了非常关键的问题。

  目前比较不巧的是,这方面具备优势的,是一个帝国主义霸权国家,这一定不是人类之福。希望之后我国能突破技术限制,在这方面秉承人类命运共同体的理念,使这个未来数字化世界的基础设施成为造福全世界人民的工具吧。

  好了,今天的视频就到这里,我们是域外编撰者,一群以笔撰商史的人。如果大家喜欢我们的视频,请长按点赞三秒,给我们一点支持,也希望大家多多关注、转发和留言,我们下期见。

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论