三大AI药丸（21分钟阅读）

# 三颗 AI 药丸 来源：https://thezvi.wordpress.com/2026/08/05/the-three-ai-pills/ 关于 AI 的真诚分歧，通常都是关于未来 AI 能力的分歧。 大致上，人们会持有四种立场。其中两种是合理的，两种不合理。 我用“三颗 AI 药丸”来区分这些立场。你可以服用零颗、一颗、两颗或三颗。 #### 三颗药丸 这三颗药丸，大致上是指认真对待以下三件事： 1. AI 药丸：AI 是存在的，而且能做到它现在已经能做的事情。 2. AGI 药丸：AI 将能够做更多的事情。 3. ASI 药丸：AI 将能够在我们有生之年，几乎把所有事情都做得比你好。 我是 ASI 药丸的服用者。前沿实验室的大量员工也是 ASI 药丸的服用者。实验室本身也是如此。 #### 未服药的人 我见过未服药的人。 我在哪儿见到他们？到处都是。大多数人连第一颗药丸都没服下。 大多数人根本不知道前沿 AI 能为自己做些什么。他们不知道编码智能体。他们只用过 ChatGPT，用来干一些无足轻重的小事，而且他们对它失败经历的记忆还停留在多年前。他们嘲笑任何地方出现的失败，称之为“AI 能做到的事”。 他们因为 AI 指了一家已经关门的店铺（https://x.com/TheZvi/status/2084688469121478773）或者推荐了错误的披萨数量（https://x.com/TheZvi/status/2084970185753080261），就轻蔑地认为 AI 毫无价值。他们引用那些还没发表就已经过时、而且使用了糟糕提示词技巧的旧研究。 他们仍然经常谈论“随机鹦鹉”，或者说什么 AI 永远不可能思考，所有东西都一定是从训练数据里偷来的。如此种种。 这些版本中，有些是错的。有些则“连错都算不上”。没有一个是合理的。 当你和完全未服药的人讨论 AI 时，你的目标通常首先是给他们服下 AI 药丸。让他们看到，AI 能做到它现在已经能做的事情。 #### AI 药丸 即使是完全服下第一颗 AI 药丸，也是一件大事。 现有的 AI，在今天、在实践中，已经解锁了大量酷炫的东西。在许多方面，它已经比你更聪明、更有能力。 太多你过去需要手工或用其他方式完成的事情，现在只要在文本框里快速输入一个请求就能做得更好。 太多过去不值得做的事情，现在值得做了。 太多过去不值得问的问题，现在值得问了。 看看 AI 能为你做什么，其边际成本往往接近于零。 AI 还能做各种有害的事情，或者做一些对你有用但会让别人变得更糟、或者扰乱、破坏规范或体系（https://thezvi.substack.com/p/levels-of-friction）的事情。人们不喜欢这样。 大多数经济学家，以及大多数从事政策和政府工作的人，最多只服下了这一颗药丸，而且即使只是这第一颗药丸的影响，他们也低估了。 他们常常会说“AI 用在 [X] 上太贵了”，因为他们没有意识到，同样的智能水平很快就会便宜好几个数量级。或者他们会指出 AI 表现不佳的某些具体细节，并认为这些问题不会被修复。他们把 AI 视为“没有竞争力”，却没有意识到这种情况只是暂时的。 当你和只服下第一颗药丸的人讨论 AI 时，你通常有三个基本选择。 1. 你可以尝试让他们“完全服下 AI 药丸”，解释 AI 已经能做的事情，以及这意味着什么——即使事情就到此为止。 2. 你可以尝试解释，我们会越来越善于使用我们现有的 AI，而且还有很多“解除束缚”的工作等着我们去做——即使事情就到此为止。 3. 你可以解释事情不会就此止步，你需要思考未来的 AI 能够做什么。至少让他们服下 AGI 药丸。 即使 AI 永远只能做它现在能做的事情，那也会是互联网级别的重大事件，会彻底改变世界，而且多半是变得更好。 AI 的能力不会永远停留在这里。不服下第二颗药丸是错误的。 #### 卡在第一颗药丸 我们关于 AI 的争论，在很大程度上仍然停留在那些已经解决的问题上，因为太多人连第一颗药丸都服不下。 > Dean W. Ball（https://x.com/deanwball/status/2079689575501340979）：几年前，AI 辩论的核心，理所当然地集中在一些听起来很疯狂的事情上，比如“AI 自主取得数学突破”或“AI 逃出沙盒并在互联网上黑客攻击”是否会在短期内成为现实。有时候感觉这仍然是我们现在正在进行的辩论。这很令人沮丧，因为在我看来，这场辩论已经解决了，而且早就解决了。 要进行好的讨论，我们至少需要服下第二颗药丸。 然而，是的，很多人，甚至许多从事 AI 工作的人，真的会说当前的 AI “已经够好了”，并且无法想象一个更好的 AI 能做什么。比如，有人发推文对 Sam Altman 说“Sol 能完成我想让它做的所有事，这就是我所需要的一切”，而 Altman 转发了这条推文并说他们错了。他们显然确实错了。 #### AGI 药丸 AGI 药丸比 AI 药丸要重要得多。 如果你服下 AGI 药丸，你就会明白 AI 的能力正在快速提升。 即使你认为这样的 AGI 将始终完全处于人类控制之下，仍然是“纯粹的工具”，并且你预计大多数人的日常实际体验不会发生那么剧烈的变化，你也明白它们的能力将“改变一切”。 你会看到，我们将面临巨大的转型和不确定性时期，这些时期有可能变得极其糟糕，而那些在 AI 上取得成功的人，会把那些没有成功的人远远甩在身后。 未来世界将与我们现在的世界截然不同。AI 将能够在大多数时间完成大多数数字工作，同时还有不可避免的机器人和自动驾驶汽车等等。许多现有的工作将会消失，无论它们是否会被新的、可能更好的工作所取代。经济增长和生产力将会加速。 你会看到，如果我们在准备好之前就允许滥用如此先进的 AI 系统，会带来一些危险，尤其是在网络和生物风险等领域。 你会看到权力集中或不平等的可能性，以及某种形式的失控的渐进式去权。 你会看到大规模失业的可能性，无论是过渡性的还是永久性的。 你明白我们的法律和监管体系还没有准备好，无论是保护免受风险的伤害并减轻这些伤害，还是允许机会出现并消除扩散和日常实用性的瓶颈。 #### 需要做好准备 那些预期 AI 会迅速变得足够先进、从而极大地影响物理世界的人，通常会看到巨大的危险。他们注意到，结果可能是所有人都可能很快死去。通常他们认为这实际上是坏事。 因此，这些人呼吁采取协调行动，以减轻这类影响的负面影响，让我们所有人都免于死亡，理想情况下还能帮助获得正面的收益。 那些预期 AI 会变得重要地更加先进，但对物理世界的影响更慢更小，并且认为更多智能的实际价值会封顶的人。 对于“足够先进”的不同定义，即 AGI 与 ASI，你会看到不同程度的危险。 截至 2026 年 8 月，对于 Overton 窗口内或正在认真考虑的事项，AGI 药丸仍然足以应对大多数情况。我们几乎全都在考虑那些过度确定、低成本、高收益的干预措施。 没有充分的理由不去大幅增加在以下方面的投入：对齐、基础设施和监管、国家能力、透明度、责任、披露、安全测试（包括内部模型）、红队测试、审计、出口管制执法，以及为外交奠定基础。 这包括为可能的“与前沿赛跑”（https://thezvi.substack.com/p/frontier-lab-employee-open-letter?r=67wny）奠定基础。 如果你完全服下 ASI 药丸，并且对对齐的现状以及超级智能如果真的很快到来可能会如何发展持现实态度，那么你会想要更进一步。你会想要做一些有真正负面影响、需要真正权衡取舍的事情。 有些这样的人希望全面国际暂停前沿 AI 开发。如果你服下了完整的 ASI 药丸，并且相信他们对超级智能的看法——关于它可能多快到来以及它能做什么——你很可能也会同意他们。 #### ASI 药丸 ASI 药丸是这样一种理解：AI 正走在能够几乎把所有事情都做得比你好的道路上。 我说“几乎”。正如我在别处详细说明的那样，这并不意味着字面意义上的所有事情。有些事本质上需要一个人，或者会因为是人而大大受益。也可能会有一些奇怪的边缘情况，AI 不够好。 这并不意味着全知或全能，尽管人们应该预期，对于一个没有辅助的人类来说，它看起来会很像是全知全能。 这确实意味着 AI 会抢走你的工作，然后抢走你转行去做的新工作，除非你转向“需要字面意义上的人类”的领域。你在几乎所有其他任务上都将没有竞争力。 这确实意味着它会利用这种能力，以惊人的速度弄清楚几乎所有的事情，直到你触及物理极限。 这确实意味着，那些更依赖这类 AI 的人，将可靠地在所有方面（包括资源）胜过那些不那么依赖的人。 这确实意味着，在一场“公平竞争”或足够开放的竞争中，AI 会赢。 这也意味着 AI 经常会弄清楚并做出你未曾想象或预料到的事情。 这意味着要认识到，智能并不会停留在接近人类水平的地方，它绘制通过因果空间通往更优原子排列路径的能力也不会。 这也意味着不要假装它优越的智力可以被你可怜的武器、你写在纸上的文字、你数据库里的条目，或者你的监管俘获和寻租行为所匹敌。 #### 然后你的日常生活却没什么变化 尽管如此，与 ASI 药丸相对的 AGI 药丸的标志，是相信日常生活将继续看起来与现在相似，就像我们认为 1926 年的日常生活与 2026 年的日常生活没有太大不同那样。 有时这显然是在装模作样，因为这话来自一个已经 ASI 药丸服到足以明白真相的人。我认为 Sam Altman 说各种形式的“奇点之后生活不会有多大改变”，基本上是一种毫无根据的、为了安抚听众而说的明显胡话，而不是一个连贯的立场。有时，这些人最想安抚的正是他们自己。 其他人有时确实有一些更具体的未来愿景，以及为什么未来不会变化那么大的理由，尽管连贯程度各不相同。 那些只服下 AGI 药丸的人相信存在一些瓶颈，会阻碍变化。 他们通常相信，我们指数级地提升 AI 容量和能力的能力，将会触及各种物理极限。芯片数量有限。行动需要时间。那些太遥远的东西，常常被轻蔑地斥为“魔法”。 他们通常相信，在物理上已经没有多少东西可以发现了，就像那种经典的“关闭专利局”的看法，即使在理论上也是如此。你的牛排只能嫩到一定程度，你的龙虾只能黄油到一定程度，你的寿命只能长到一定程度，你的地位只能高到一定程度，所以这又有什么关系呢。我强烈不同意关于寿命和健康的看法，并且预期在寻找价值方面，我们在许多其他方面还有很长的路要走，尽管他们关于一个物理人类大脑在瞬间最大享乐体验方面可能说得有道理。 他们通常相信智能的上限存在重要限制。无论多么先进的头脑，都不可能那么有说服力，那么有经济价值，那么有能力在物理世界中进行创新，或者运行足够准确的模拟，做出足够强的预测，甚至能克服繁文缛节和监管俘获。 #### 智能否认主义 我有时称之为“智能否认主义”：认为更聪明没什么大不了，无论一个人变得多聪明。也就是说，存在一种叫“智能”的东西，你要么拥有它，要么不拥有它，而且心智是有上限的。 这种观点常常延伸为否认更聪明的人类能做到并完成那些他们显然已经做到和完成的事情。其他时候，它认为智能的上限是“聪明的人类”，而所有心智能做的只是模仿那个聪明的人类。也许你可以做得更快、更便宜、更大规模，记忆更好等等。 但仅此而已。而这些人无法理解，如果你把所有人类心智能力、所有获取知识的途径，以规模化、并行化、更快更便宜的方式结合起来，仅此一点就能轻松碾压世界上的任何人和所有人。而如果这缺乏物理能力或访问途径，那也是轻而易举就能获得的。 这通常就是服下 AGI 药丸的人不服下 ASI 药丸的核心好理由。他们无法理解超级智能是真实存在的东西。 这种困惑也常常是“模型将商品化”这种直觉背后的原因。存在一个理想的东西，即“智能”，你通过一条渐近线接近它。更多是不可能的，或者更多对你没有帮助，取决于你如何表述。 #### 超级智能与全知全能 一个常见的错误是认为任何超级智能都会是全知甚至全能的，因此超级智能是不可能的。 然而，再说一次，在不变成全知全能的情况下，在“人类之上”仍有很大的空间。 还有许多类似的混淆，即“某个 [X] 有上限”被混同于“我们已经处于或接近 [X] 的上限”。 在这里，Adi 给了我们一个解释正在发生之事的途径，通过做了在我看来是那种核心 motte-and-bailey 谬误的镜像操作。 这两种版本都存在。 > Timothy B. Lee（https://x.com/binarybits/status/2075660927001608431）：在那些认为超级智能意味着近乎全能的人和那些（像我一样）不这么认为的人之间，存在一道认知鸿沟。Adi（https://x.com/adi_baradwaj/status/2076094059547091445）：在“超级智能”的两种定义之间，正在玩一种 motte-and-bailey 把戏。“大写 S 的超级智能”，它在定义上就是全能的；而“小写 s 的超级智能”，则是当前 AI 研究路线假设的终态。令人惊讶的是，AI 安全界竟然如此不加批判地对待这些可疑的等同关系，尤其是这种 motte-and-bailey 谬误最著名的论述之一恰恰来自 Scott Alexander，而他在这个圈子里相当有名。 也就是说，我经常看到这样的情况： > Zvi Mowshowitz（https://x.com/TheZvi/status/2076254436326826345）：这里的 motte-and-bailey 是真的，但更常见的是反过来的。例如这样的一种形式：1. 你声称超级智能 [S] 很快将轻松碾压人类并做出各种离谱的事情。2. 但 [S] 不会是全知/全能的。3. 因此 [S] 将是一种 ~普通科技。不。Adi（https://x.com/adi_baradwaj/status/2076477745614463445）：我也见过这种情况，我同意它同样是错误的。 仍然会有一些事情需要非平凡的真实世界时间才能实现。会有特定的行动、路径和方法有其局限性。这些局限性很重要。把它们完全抽象掉可能是一个巨大的错误。 我经常看到这样的说法：“即使是最好的心智，仍然无法做到 [在我看来它显然能做到的事]”，甚至是“[它已经能做的事]”。我认为这种结合方式，很大程度上解释了为什么人们会这样认为，以及他们如何为自己辩护。