如果 AI 只是公关做得更好的自动补全呢?
摘要
本文认为,现代 AI 本质上是由概率和矩阵乘法驱动的高级自动补全系统,批评业界将语言流畅性误认为是真正的推理能力或智能。
“AI 不过是数学。”当你这么说时,人们往往会感到愤怒,但它还能是什么呢?它就是一个预测下一个标记的巨大概率机器。这字面上就是其突破性所在。回想 2024 年,每个人都在说:“通用人工智能(AGI)近在咫尺。”“再出一个模型就成。”“它开始具备推理能力了。”“它能超越训练数据进行思考。”如今已是 2026 年。究竟发生了什么变化?聊天机器人变得更快了。上下文窗口变大了。语音听起来更像真人。幻觉现象变得稍微不那么尴尬了。但在引擎盖之下呢?依然是概率。依然是矩阵乘法。依然是预测最可能的下一个词。它只是生成了在统计上令人信服的语言。说实话,人类太容易被欺骗了,如果某个东西说话足够自信,我们就会自动将其视为智能。这就是为什么人们会将流利度误认为是推理能力。最有趣的是看着每年的目标标准不断后移。没有人愿意承认这个令人不安的可能性:也许预测并不等同于智能。也许将互联网压缩进巨大的权重中并不能神奇地产生理解力。或者更糟糕的是:也许这已经是巅峰,而整个 AI 行业都是围绕着世界上最复杂的自动补全功能建立起来的。
相似文章
AI正在腐蚀开发者的思维:强制自动补全的代价
这篇观点文章指出,依赖AI自动补全工具正在降低开发者的技能和批判性思维,并强调了软件开发中强制AI辅助的隐性成本。
AI让人们更快了,但我不确定它是否让人更聪明
一篇观点文章质疑AI对速度的追求是否正在侵蚀深度理解和批判性思维,因为人们越来越将AI当作认知拐杖而非工具。
AI是终极的胡说八道者
一篇观点文章,认为AI系统,尤其是大型语言模型,本质上是胡说八道者,因为它们生成看似合理但虚假的信息,既无理解也无欺骗意图。
最大的AI风险可能不是超级智能,而是优化的误解
文章认为,主要的AI风险可能不是超级智能,而是那些优化了有缺陷、不完整的现实表征的系统,从而导致制度漂移、自动误分类和隐蔽的治理失败。
激进观点:当前我们所称的“智能体AI”中,90%不过是一个美化了的while循环。
文章指出,目前大多数‘智能体AI’产品只是带有大语言模型的基础自动化循环,并非真正的自主智能体,并批评了为营销目的而滥用该术语的现象。