如果 AI 只是公关做得更好的自动补全呢?
摘要
本文认为,现代 AI 本质上是由概率和矩阵乘法驱动的高级自动补全系统,批评业界将语言流畅性误认为是真正的推理能力或智能。
“AI 不过是数学。”当你这么说时,人们往往会感到愤怒,但它还能是什么呢?它就是一个预测下一个标记的巨大概率机器。这字面上就是其突破性所在。回想 2024 年,每个人都在说:“通用人工智能(AGI)近在咫尺。”“再出一个模型就成。”“它开始具备推理能力了。”“它能超越训练数据进行思考。”如今已是 2026 年。究竟发生了什么变化?聊天机器人变得更快了。上下文窗口变大了。语音听起来更像真人。幻觉现象变得稍微不那么尴尬了。但在引擎盖之下呢?依然是概率。依然是矩阵乘法。依然是预测最可能的下一个词。它只是生成了在统计上令人信服的语言。说实话,人类太容易被欺骗了,如果某个东西说话足够自信,我们就会自动将其视为智能。这就是为什么人们会将流利度误认为是推理能力。最有趣的是看着每年的目标标准不断后移。没有人愿意承认这个令人不安的可能性:也许预测并不等同于智能。也许将互联网压缩进巨大的权重中并不能神奇地产生理解力。或者更糟糕的是:也许这已经是巅峰,而整个 AI 行业都是围绕着世界上最复杂的自动补全功能建立起来的。
相似文章
AI正在腐蚀开发者的思维:强制自动补全的代价
这篇观点文章指出,依赖AI自动补全工具正在降低开发者的技能和批判性思维,并强调了软件开发中强制AI辅助的隐性成本。
AI让人们更快了,但我不确定它是否让人更聪明
一篇观点文章质疑AI对速度的追求是否正在侵蚀深度理解和批判性思维,因为人们越来越将AI当作认知拐杖而非工具。
AI是终极的胡说八道者
一篇观点文章,认为AI系统,尤其是大型语言模型,本质上是胡说八道者,因为它们生成看似合理但虚假的信息,既无理解也无欺骗意图。
最大的AI风险可能不是超级智能,而是优化的误解
文章认为,主要的AI风险可能不是超级智能,而是那些优化了有缺陷、不完整的现实表征的系统,从而导致制度漂移、自动误分类和隐蔽的治理失败。
AI推理是否因错误的原因而正确?
《Quanta Magazine》的一篇文章探讨了AI推理研究的混乱现状,权衡了关于大型推理模型能力的相互矛盾的证据,以及它们的行为对真正推理意味着什么。