文|许档 编| 展洋
出品|商业秀
现如今，只要ChatGPT一有任何风吹草动，就会马上搅动国内外各大科技公司、投资人和创业公司的心。
北京时间3月15日的凌晨，OpenAI有了新突破。在经历了多次迭代和改进升级后，OpenAI重磅发布了更为强大的版本GPT-4。而且，这个版本的具备强大的识图能力，文字输入限制也提升至2.5万字;甚至可以支持文字和图片的混合输入。
此外，GPT-4的回答在准确性层面也显著提升，还能够生成歌词、创意文本从而实现风格变化。同时，GPT-4在各类专业测试及学术基准上也表现优良。
这操作，相当于深夜扔出了一个炸弹，让国内外的ChatGPT迷们为之惊叹。
就连猎豹移动董事长兼CEO、猎户星空董事长傅盛都在凌晨发布视频惊呼：“真的是太恐怖了!你说我们人类还学什么呢?它一个人工智能模型就能考出这样的分数，这才是它刚刚开始啊!哎，人类的教育该何去何从呢?说实话，我都有点迷茫了!”
随后傅盛称，自己只是刚刚使用，但他想告诉大家，“GPT-4非常非常恐怖，是整个世界的生产力变革。但不论如何，一个技术浪潮的来临，只有先拥抱，所有的人都应该去关心新的AI，新的ChatGPT-4。”
这种所谓的“恐怖”，一幕幕惊叹，感觉又是人类再次被AI碾压的一天。这很难不让人想起2016年往事：谷歌旗下的DeepMind团队向李世石九段，发起了围棋五番棋挑战并轻松获胜。
AI机器人“阿尔法狗”(AlphaGo)及其继任者，尚且全面碾压人类棋手。何况，迭代之后似乎无所不能的ChatGPT-4。
但人类在惊叹“恐怖”的同时，似乎也忘记了一点：人工智能有Bug，也会犯错，或大或小，像极了人类。
ChatGPT更是如此，即便饲喂了如此多的数据，迭代了如此多的版本，OpenAI也还是表示：GPT-4仍旧会产生幻觉、生成错误答案，出现推理性错误。
更值得玩味的是，OpenAI发布GPT-4的节点甚为有趣，因为国内的科技公司百度将于明天(3月16日)对外发布文心一言，外界对此极为期待。
01 所谓“震撼”
根据OpenAI的介绍，它是一个大型多模态模型，能接受图像和文本输入，再输出正确的文本回复。
但关于GPT-4，已经有多家媒体把它吹爆了。毋庸置疑，没有对比就没有伤害。和ChatGPT-3.5相比，确实强大了不少。
GPT-4实现了以下几个方面的飞跃式提升：强大的识图能力;文字输入限值提升至2.5万字;回答准确性显著提高;能够生成歌词、创意文本，实现风格变化。
比如在日常对话中，GPT-4与GPT-3.5之间的差距或许微妙。但当任务的复杂度足够高，差异就会很明显，GPT-4就表现出更可靠、更具创造性，还能能处理更细致的指令。
根据OpenAI公布的实验数据，GPT-4在各种专业测试和学术基准上的表现与人类水平相当。比如，它通过了模拟律师考试，且分数在应试者的前10% 左右;相比之下，GPT-3.5的得分在倒数10% 左右。
但相较于此前的GPT模型而言，GPT-4最大的突破之一是在文本之外还能够处理图像内容。OpenAI表示，用户同时输入文本和图像的情况下，它能够生成自然语言和代码等文本。
目前在官网上，OpenAI已经给出了一系列相关案例。例如，在GPT-4输入图片并设问“这些图片有何可笑之处?详细描述一下。”
GPT-4便会在对每张图片进行表述后表示，“这幅图的幽默之处在于，把一个大而过时的VGA接口插入一个小而现代的智能手机充电端口是荒谬的。”
除了普通图片，GPT-4还能处理更复杂的图像信息，包括表格、考试题目截图、论文截图、漫画等。
此外，在多语种方面，GPT-4也体现出优越性。在测试的26种语言中，GPT-4在24种语言方面的表现均优于GPT-3.5等其他大语言模型的英语语言性能，其中包括部分低资源语言如拉脱维亚语、威尔士语等。在中文语境中，GPT-4能够达到80.1%的准确性。
与此前的GPT模类似，GPT-4基础模型可在训练完预测文档中的单词。在数据样本方面，也同样使用公开可用的数据及许可数据。为了提升基础模型回应与用户之间意图的匹配性，OpenAI同样选择了强化学习人类反馈(RLHF)来微调模型行为。
02 “不完美”
尽管GPT-4如此震撼、功能强大，OpenAI坦言也甚至有“不完美”之处。
其指出，在模型训练方面，GPT-4建立了可预测扩展的深度学习栈。通过开发基础设施及优化，在多种规模下都可进行预测。为验证其可扩展性，团队提前准确预测了GPT-4在内部代码库上的优化指标，但使用的计算量仅为万分之一。
GPT-4仍与早期的 GPT 模型具有相似的局限性，其中最重要的一点是它仍然不完全可靠。OpenAI 表示，GPT-4仍然会产生幻觉、生成错误答案，并出现推理错误。
目前，使用语言模型应谨慎审查输出内容，必要时使用与特定用例的需求相匹配的确切协议(例如人工审查、附加上下文或完全避免使用) 。
总的来说，GPT-4相对于以前的模型(经过多次迭代和改进)已经显著减轻了幻觉问题。在 OpenAI 的内部对抗性真实性评估中，GPT-4的得分比最新的 GPT-3.5模型高40%：
GPT-4在 TruthfulQA 等外部基准测试方面也取得了进展，OpenAI 测试了模型将事实与错误陈述的对抗性选择区分开的能力，结果如下图所示。
实验结果表明，GPT-4基本模型在此任务上仅比 GPT-3.5略好;然而，在经过 RLHF 后训练之后，二者的差距就很大了。以下是 GPT-4的测试示例 —— 并不是所有时候它都能做出正确的选择。
该模型在其输出中可能会有各种偏见，OpenAI 在这些方面已经取得了进展，目标是使建立的人工智能系统具有合理的默认行为，以反映广泛的用户价值观。
GPT-4通常缺乏对其绝大部分数据截止后(2021年9月)发生的事件的了解，也不会从其经验中学习。它有时会犯一些简单的推理错误，这似乎与这么多领域的能力不相符，或者过于轻信用户的明显虚假陈述。有时它也会像人类一样在困难的问题上失败，比如在它生成的代码中引入安全漏洞。
GPT-4预测时也可能出错但很自信，意识到可能出错时也不会 double-check。有趣的是，基础预训练模型经过高度校准(其对答案的预测置信度通常与正确概率相匹配)。然而，通过 OpenAI 目前的后训练(post-training)过程，校准减少了。
同时，与早期GPT模型类似，GPT-4也具备局限性。GPT-4依然会形成推理错误，因而在使用语言模型输出时需要非常小心，最好以人工核查、附加上下文或避免高风险使用的方式予以辅助。
“GPT4的模型发布，本身是技术持续升级迭代发展的必然阶段。AI行业每一年都会有些新模型发布，趋势就是大模型、多模态。”
在接受21世纪经济报道记者采访时，IDC中国研究总监卢言霞表示，“多模态肯定是必然趋势，毕竟AI要真正达到人的智慧，需要处理多模数据。且在各行业场景里，大都是涉及多模态数据的处理。”