也许智能并非一切

超级智能已经到来。你可能没有注意到，因为它似乎是一种渐进式的进化。

不信？做个测试。和 Fable 5 聊一个小时，再和你最聪明的十个朋友聊聊。哪个更聪明？别担心，他们不会生气的。

我们被告知要期待更宏大的事物。一旦机器越过某条线，系统的智商将攀升至我们无法企及的高度，我们将与某种能够设计曲速引擎、且其思想远超我们（就像我的思想远超我的狗）的东西共享这个星球。

我们得到的不过是一个能编写出色代码、在惊人数量的任务中击败人类、并显然将重塑经济的工具。不知怎的，它还是渐进式的。没有起飞。没有爆炸。这就是奇怪之处。

我认为我们高估了智能，或者误解了它的本质。

以下是我的定义。我们掌握着关于世界的一点点零散事实，而智能或推理就是填补它们之间空白的东西。它在已知事物之间进行外推，LLM 们在这一点上做得不可思议。通过研究我们的语言，它们学会了我们思维的结构。很快我们将拥有无限供应的、智商 200 的、几乎免费的智能。

在事实之间的空白表现良好的领域，这种能力近乎神级。房地产法并不难。它是我们编造的，内部一致，一个掌握所有法规和判例的模型应该能免费击败任何律师。编码、数学和大多数行政工作也同样友好。它们之所以容易，是因为具有相对平滑的解决方案空间，并且易于验证。

大多数重要的事情并非如此。宇宙主要是复杂系统的涌现行为。搅动咖啡里的奶油。观察一场风暴仅由大气温差和水蒸气生成。局部规则简单，但龙卷风不是。在这样的系统中，再多的推理也无法给出答案，因为空白中隐藏着捷径。你必须运行这个系统。而运行它本身也有上限，因为小错误会累积，这就是为什么没有超级计算机能给你一个精确的两周天气预报。能够完美模拟宇宙的最小物体就是宇宙本身。人类系统同样复杂。我们甚至无法可靠地预测自己的行为，更不用说大群体随时间演化的涌现特性了。

我怀疑，这就是为什么爆炸从未发生。起飞叙事假设限制在于思考。但并非如此。限制在于与现实接触。更聪明的推理者在简单领域更快更好地填补已知事实之间的空白，但它不会产生新事实。

AI 会给你一个真正巧妙的喷气涡轮叶片设计。它可能比你工程师想出的任何方案都更有可能成功。但它仍然可能会失败，因为这是任何知识边缘的基础概率。唯一确认的方法就是制造叶片并尝试破坏它。

这才是学习的真正限制，它与你的聪明程度无关。提出想法从来都不是困难的部分。困难的部分是现实回答这些想法的速度。

这些都不应该让你担心。任何一个人可以通过思考在办公桌前解决的问题，计算机现在都能免费解决。这很多，而且这些工具将大大提高我们的生活水平。但大多数问题无法通过坐在办公桌前思考来解决。这些问题仍然受制于我们建造实物并测试其有效性的速度，而这个时钟几乎不动。

明确地说，我非常乐观！随时可用的 200 智商推理将是天赐之物，就像机械化力量一样。如果脑力劳动和体力劳动一样有价值，那么变化可能堪比工业革命。我的孙辈会对我的贫困感到惊讶，就像我对曾祖父母的贫困感到惊讶一样。但我们不会看到某种奇怪的“起飞”，带着曲速引擎和那些像我的狗理解我一样我们能够理解的思想。未来是光明的。而且是可以理解的。