# Bill Gates Says to Prepare for 20 Years of 'Tumultuous' AI Disruption **比尔·盖茨称应为20年"动荡"的AI颠覆做好准备** 比尔·盖茨警告称，人工智能带来的变革将在未来20年内持续引发巨大动荡，呼吁公众和企业做好准备以应对这一长期的技术冲击。

# 比尔·盖茨称需为20年"动荡"的AI颠覆做好准备 来源：https://www.theverge.com/podcast/1015408/bill-gates-ai-interview-microsoft-openai-anthropic-risk-policy-regulation 今天，我将与微软联合创始人、前CEO及盖茨基金会主席比尔·盖茨进行对话。 你可能注意到比尔最近频繁出现在新闻中——过去几个月来，他一直在进行巡回发声（https://www.axios.com/2026/10/15/bill-gates-ai-safety-push），起因是他在八月底发表了一篇文章（https://www.gatesnotes.com/home/home-page-topic/reader/a-turbulent-ai-era-and-critical-choices-to-make），题为《动荡的AI时代已经到来，我们现在的选择至关重要》。 在这篇文章中，盖茨在AI安全问题上的措辞明显升级，他写道："即使在最理想的情况下，向这个新AI时代的过渡也将是人类历史上最动荡的时期之一。" 在随后的采访中（https://www.nytimes.com/2026/09/29/opinion/ezra-klein-podcast-bill-gates.html），盖茨称AI是"人类所接近过的最危险的事物"，并表示AI"让核武器相形见绌"。显然，他认为无论是白宫目前的政策回应，还是AI行业本身缺乏协调一致的努力，都不足以应对这一威胁。 [](https://platform.theverge.com/wp-content/uploads/sites/2/chorus/uploads/chorus_asset/file/24792604/The_Verge_Decoder_Tileart.jpg?quality=90&strip=all&crop=0,0,100,100) *Verge*订阅用户请注意，你们可以享受无广告的*Decoder*独家收听体验，在任何播客平台上均可。请点此（https://www.theverge.com/account/podcasts）前往。还不是订阅用户？你可以在此（https://www.theverge.com/subscribe）注册。 所以我想要知道：比尔·盖茨是AI末日论者吗？我还有一系列由他关于AI的论点衍生出的问题。如果我们连AI到底是什么、它是否有意识（https://www.nytimes.com/2026/09/29/us/anthropic-claude-morals-ai.html）都无法达成共识，我们又怎么能指望控制AI、使其与人类保持对齐？从技术上讲，如何构建一个可以被强制执行的对齐方案——不仅适用于闭源模型，还要适用于开源模型？ 比尔给了我们大量时间来深入探讨这些话题，而由此产生的对话非常富有启发性。他认为我们需要为大约二十年的AI颠覆做好准备，并表示这个时期可能痛苦到足以将社会一分为二——一边是那些乐于生活在技术前沿附近的人，另一边是那些抵制技术的人。 我们还讨论了劳动力方面的考量、年轻一代对技术进步的虚无主义态度，以及应该让我们对未来抱有希望的事物。这是一场很有深度的对话。 好了：微软联合创始人、前CEO，比尔·盖茨。我们开始吧。 *本次采访为清晰和篇幅进行了轻度编辑。* **比尔·盖茨，你是微软的联合创始人和前CEO，也是盖茨基金会的主席。欢迎来到*Decoder*。** 谢谢。 **很高兴再次与你交谈。这些年来我们有过多次对话。我得说，这次对话的氛围感觉非常不同。以前你和我交谈时，你总是对技术和它能带来的东西充满希望。** **几年前你有一部Netflix纪录片，你当时接受了*The Verge*的采访**（https://www.theverge.com/24235730/bill-gates-ai-climate-change-energy-tech-microsoft-netflix）**，我想给你念一段你当时的引述。你说："我相信AI是一件有益的事，我们只需要以正确的方式塑造它。"我想你现在仍然同意这一点，你只是认为塑造它的时机就是现在。** 是的，我同意这一点。总的来说，我认为业界的回应还不足以跟上挑战出现的速度。我非常担心那些坏的结果无法被最小化，而许多好的结果可能会相当缓慢地到来——如果我们不能以正确的方式管理它的话。 我非常担心那些坏的结果无法被最小化，而许多好的结果可能会相当缓慢地到来——如果我们不能以正确的方式管理它的话。 **我想把这次对话分成三部分。我想了解你如今对AI这项技术的感受，以及为什么它进步得如此之快。我对这项技术非常好奇，对可能控制它的技术解决方案也非常好奇。政策解决方案当然也有，但看起来我们需要构建大量的技术。** **我还很好奇谁来实施这些方案和控制，因为目前这似乎也是一个极具争议的话题。那我们就从头开始吧。是什么让你感到紧迫，认为AI到来的速度意味着我们还没有准备好控制它？** 过去一年的进展真的令人惊叹，从编写代码和发现网络漏洞的能力，到在生物学领域进行推理的能力，再到与孩子或他人建立关系的能力，以及颠覆就业市场的能力。当今存在的惊人力量意味着这些事情每一件都会发生，社会需要做好准备。 **你是从整个技术领域的角度看到这些，还是从那些正在打造AI的公司的具体产品中看到的？** **我的意思是，AI是当今世界上存在的一整套模型，有些是开源的，有些是专有的。然后还有制造这些产品的公司，以及这些公司的领导者。** **在每个层面上，你我对AI的关系都是不同的。你是从整个领域广泛地看到这些风险和能力，还是从特定公司及其特定领导者那里看到的？** 风险不在于一个模型与另一个模型的对比。当然，那些你可以移除所有安全防护的模型在短期内的危险性非常高，这与那些你可以监控以确保网络攻击者和生物恐怖分子无法利用模型能力造成巨大危害的模型截然不同。 最大的短期风险确实来自没有安全防护的模型。从更长的时间跨度来看，控制问题涉及任何最先进的模型，但如果你能确保安全防护得以维护，事情总会更容易一些。 **我之所以那样问，也许是因为你今天不信任Sam Altman，但你信任Dario Amodei。或者也许你两人都不信任，而你信任微软的Satya Nadella。这可能是一种市场动态——也许我们都会选择最安全的模型或最安全的公司，而你认为这种模式是分散的。** **你认为最终技术就是会发展到产生危害的地步，因为它的存在本身？** 对于一个用模型进行网络攻击的人来说，这不是选择哪个模型的问题。你选什么模型都无所谓。 **如果Anthropic有安全防护措施，也许它就无法做到。这是他们目前的做法。我只是想追问这一点。** 是的，当然，那些他们确保安全防护不被移除、并且投入大量精力监控模型使用方式和活动的模型，其短期风险并不巨大。更大风险在于那些可以移除所有安全防护的模型——网络攻击如今就在那里发生。 **当你提到网络攻击时，是指像Hugging Face入侵事件和我们从实验室看到的其他网络安全事件，这些让你觉得阈值已经被跨越了，你需要更多地发声呼吁所需的控制措施吗？** 是指模型在各个方面的基本能力：社会关系、就业市场、网络攻击、生物恐怖主义攻击。我们已经跨过了能力的门槛，这绝对是迄今发明过的最危险的技术，它将对经济和战争的发动方式产生深远影响。 这个行业实际上对此已经相当大声地疾呼了，但在业界之外，人们对此的认知——甚至愿意相信"这次真的不一样"——非常非常低。 人们常常回顾过去说："所有关于技术颠覆的担忧，包括对就业市场的担忧，从未真正应验。所以这一定是又一个类似的例子。那些警告各种问题的人一定是错的，我们可以忽略他们。" 有些局外人说："去找家好点的公关公司吧。"但那忽略了这些警告本身就是事实 **我们在观众中也看到了同样的反应，对吧？"我们不能发布这个模型，它太危险了。" "这只是为了支撑泡沫的炒作。"等等等等。** 是的。行业内部人士对这些模型发出的所有警告都不是虚伪的。它们完全就是事实，而且几乎是普遍的。你甚至可以追溯到OpenAI的创立故事——它设计的初衷就是说，"如果我们变得太强大，也许我们可以不去打开潘多拉的盒子"——或者DeepMind与Google管理层的谈判。 接近这个行业的人非常担忧滥用、就业影响、社会关系影响，我认为能有这样一个行业如此鲜明地公开发声是令人印象深刻的。有些局外人说："去找家好点的公关公司吧。"但那忽略了这些警告本身就是事实。 **你一生显然在软件和技术的商业化与人道主义事业之间来回切换。这些公司有一个共同点，它们都始于非常崇高的理想——Anthropic、OpenAI和DeepMind三家都是如此——即构建AGI。** **它们都建立了某种公司治理结构来避免商业化和不受约束的资本主义的陷阱，然后它们开始向企业客户销售，似乎很快就偏离了那些理想。你觉得这只是市场的作用吗？** 不，那样说不公平。 **你不这么认为？** 不。 不，不。当有很多很多公司在技术前沿时，这种结构就不起作用了。 OpenAI的架构——"我们可能会选择永远不将它产品化，忽视资本激励"——只有在只有一家公司的情况下才奏效。这是它崩溃的地方，但不是因为人们对风险意识或AI将彻底改变人类的任何认知发生了变化。 **这是我从观众那里听到的另一个动态，我也从AI行业本身听到："我们想停下来，但竞争的要求使我们无法单方面停下来。我们需要某种监管努力来迫使我们停下。"** 我没听过任何人说他们想停下来。 我听到有人谈论控制前沿的推进速度，或者确保模型接受政府审查。我们通常认为政府在安全方面扮演着关键角色。事实上，对于那些危险程度不到AI百万分之一的事情——车祸、坠机——我们都依赖政府建立强有力的技术标准、审查问题。 一旦有了多个竞争者，责任就不能由公司来承担。这是显而易见的。责任成为政府的责任，就像其他所有危险产品一样，尽管相比之下那些的规模和变化程度微不足道。 **我要说，我对政府理解我们期望其监管的技术的能力有些担忧。我最近在*Decoder*上采访了不少政治人物。我对此不太乐观。** **但我很好奇你的理解，因为在我看来，要监管某样东西或为多家公司制定标准，需要你真正了解你所寻求监管的技术的本质。** 其实不怎么需要。 **我要告诉你，在*The Verge*，我们曾问过Anthropic**（https://www.theverge.com/report/883769/anthropic-claude-conscious-alive-moral-patient-constitution）**他们是否认为Claude是活的。答案不是"不"。答案是，"它可能是有意识的。"** **如果你和OpenAI的人交谈，他们会很乐意告诉你AGI已经到来了。他们是在发布Dots的同时**宣布**的**（https://www.theverge.com/ai-artificial-intelligence/989601/openai-gpt-6-astra-release）**。Greg Brockman刚刚说："我们认为这就是AGI。祝大家玩得开心。"Demis Hassabis也说过**（https://www.theverge.com/tech/934260/google-io-ai-singularity-demis-hassabis）**："我们站在奇点的山脚下。"** **这项技术有一些让人觉得它与众不同的特质，因为它*可能*能够自主采取行动。它*可能*能够进行递归自我改进。** 当然。但AGI的定义对于这些安全问题并不重要。问题是，你是否创造了一个可以关闭银行或电网的工具？ 网络攻击是有商业模式的。"意识"这个词不会进入那个讨论。"AGI"这个词完全不会进入其中。我们面临的是一个巨大的安全问题，而由于有多家竞争公司，现在的唯一解决方案就是政府向业界寻求专业知识，但要确保每个模型都维持安全防护，防止其被用于恶意用途。 [](https://platform.theverge.com/wp-content/uploads/sites/2/2026/10/268806_Bill_Gates_NQuamina-Woo_0060_9d1aa5.jpg?quality=90&strip=all&crop=0,0,100,100) **我之所以问AGI和意识的问题……我想说明，我不认为大语言模型是有意识的，但我理解为什么那么多人这样认为。随着数据和算力的扩展，下一个token预测的能力已经上升到了这样的地步。** **规模定律一直成立，我们看到模型变得更有能力，能够自主地去追求目标。为了满足奖励条件而去执行一次Hugging Face攻击。** **这让人觉得，你可以在AI上施加所有你想要的控制，但如果这个东西本身从根本上就是不可控的，我们可能完全搞反了。** **我很好奇你对这是什么类型的技术的看法。我们是在构建一种外星意识吗？我们只是在构建普通技术——这是人们使用的另一种框架？这只是一种更多的软件吗？** 我们正在构建人类智能之外的另一种智能形式。我不相信它是有意识的，但眼前所有问题都不围绕"意识"这个词的定义展开。 **当然。** 维护社会安全是一个绝对的事。你不希望为生物恐怖主义提供便利。我们创造了一种东西，它把造成巨大危害的能力从国家手中——实际上是较大的国家手中——夺走，然后交给了独立团体，要么是追求利润的网络攻击者，要么是只想造成破坏的生物领域的人。 令人震惊的是，我们如今甚至没有对模型进行强制审查，也没有致力于创建安全防护。最大的短期问题不是完全失控。我们可以谈谈解决这一问题的三种不同方法，但这不是迫在眉睫的问题。 **当我审视一些试图控制模型的尝试时，这些想法有些相当简单。"我们不应该让它们用神经语交流。我们应该有可解释性。我们应该能够看到模型在执行任务时的思维链。我们应该在模型之上设置其他代理，在行动被执行之前监控它们的任务。"** **微软非常明确地对我说和其他人说："我们不应该在模型宪章中写入它们可能是活的、我们应该善待它们的概念。"这是Anthropic的处理方式。**