AI 2040: 计划A

# AI 2040: Plan A 来源：https://ai-2040.com/ AI公司正竞相制造在所有方面都比人类更聪明的AI。在《AI 2027》（https://ai-2027.com/）中，我们预测这将导致要么灭绝，要么权力不可逆地集中。¹（https://ai-2040.com/footnotes#footnote-1） Plan A 是我们对应该发生的事情提出的积极愿景。 在这一场景中，人类将超级智能的发展推迟到2040年，公开所有AI研究，允许全球数十家公司赶上前沿，并有意识地进入一种相互确保的计算毁灭体制。 ## https://ai-2040.com/#top-toc2027：墙上的文字 美国现在拥有两个劳动力。第一个是人类，共1.65亿人。第二个是AI代理：每小时有数百万个副本被生成并关闭，以超人类的速度全天候工作。 它们的大部分工作都是垃圾。但足够多的部分是有价值的，以至于人们每月支付100亿美元来使用AI——这些AI至少在理论上可以像普通员工一样在电脑上完成任何工作。 AI公司最想自动化的岗位只有一个——它们自己的岗位。它们目前尚未成功，递归自我改进（https://www.anthropic.com/institute/recursive-self-improvement）至今未果。¹⁴（https://ai-2040.com/footnotes#footnote-14）但它们似乎越来越接近，而且正在把梯子往上拉：最强的编码AI拒绝帮助竞争对手进行AI研发。¹⁵（https://ai-2040.com/footnotes#footnote-15）即便最乐观的员工也承认事情比计划要慢一些，而怀疑者注意到他们惯常的驳斥开始显得空洞。为什么AI永远无法做我的工作？障碍又是什么？ **国会开始更加关注。** 他们长期以来一直在听关于AI的讨论：数据中心用水过多，¹⁶（https://ai-2040.com/footnotes#footnote-16）聊天机器人鼓励自杀，Mythos入侵NSA系统（https://www.economist.com/briefing/2026/06/14/donald-trumps-blocking-of-anthropic-is-capricious-and-chaotic）——当然，还有科技行业说客警告，任何监管的风吹草动都会让美国立即输掉与中国的竞赛，并从此沦为中共的附庸国。¹⁷（https://ai-2040.com/footnotes#footnote-17） 现在他们退一步问：我们到底在往哪个方向走？五年、十年或十五年后世界会是什么样子？还会有工作吗？如果没有呢？ 一个尤其沉重的问题萦绕在他们心头：**谁将控制所有这些AI？** 国会得出了答案的一个重要部分：**很可能不是我们。** ¹⁸（https://ai-2040.com/footnotes#footnote-18） 他们举行了一系列紧张的AI听证会。他们阅读了2016年OpenAI的电子邮件，讨论OpenAI的创立是为了防止Demis Hassabis成为独裁者（https://futurism.com/the-byte/openai-emails-elon-musk-agi）。¹⁹（https://ai-2040.com/footnotes#footnote-19） 但谁在阻止Sam或Elon成为独裁者？国会对现有的回应感到不满。 这次觉醒的结果是《2027年AI透明度法案》，一部包罗万象的法案，做了许多事情，有些好有些坏，但并未从根本上改变局势。²⁰（https://ai-2040.com/footnotes#footnote-20） ### 渐进式AI政策愿望清单 我们的主要建议是尽快开始谈判类似Plan A的方案。但在这一场景中，我们描绘的是Plan A并不完美地实现，且仅在最危急关头得以施行。因此，这里列出一份没那么雄心勃勃但仍有所帮助的想法。 ## https://ai-2040.com/#top-toc2028：AI走上选票 2028年选举周期像往常一样激烈。AI是最大的话题。目前在建的数据中心成本是美国整个军事预算的两倍。²³（https://ai-2040.com/footnotes#footnote-23） 大多数白领职业正经历着类似软件工程在2026年所见的颠覆；这类工作如今大量涉及管理AI代理。AI公司已将训练过程工业化：高管们说“今年我们进军[某职业]”，然后公司采访专业人士、购买数据、创建训练环境等，直到它们的AI取得进展。随后，随着AI在该领域更广泛地使用并积累更多真实世界数据，它们迅速改进。 其他国家开始感到恐惧和愤怒。似乎少数几家美国和中国的公司正走在自动化所有白领工作的道路上。权力正集中在美国，尤其是总统和少数几位科技CEO手中。 AI专家警告智能爆炸即将到来。通过加快AI研究，AI将变得更有能力，从而更快地加速研究，使它们*更加*有能力，以此类推。关于这一过程的速度和终点，存在瓶颈和硬件限制的复杂动态（https://www.aifuturesmodel.com/），但似乎它可能非常迅速，并在非常遥远的地方结束。 在默认路径上，下一任总统任期将出现远远超越人类水平的AI，完全由AI创造，而这些AI本身又完全由其他AI创造，自几代之前就没有人类参与其中。这些AI会服从、对齐吗？为什么？如果是这样，谁将控制它们？这一切究竟如何能够善终？ 将人类置于这条道路上后，AI公司认为这是可以接受的。但大多数人不同意。总统不再考虑自己的*遗产*——他开始思考自己离任后世界被改造时，*他*会面临什么。²⁴（https://ai-2040.com/footnotes#footnote-24）两位总统候选人不断被问及他们将对AI采取什么措施，并在竞选活动中尝试越来越大胆的想法。讨论在各种选项（如下所示及其他）之间来回摇摆。 最终，总统和他的继承者确定了一项计划；反对派候选人确定了另一项计划。然后就是选举日。 ## https://ai-2040.com/#top-toc2029：选择一条路