失控的智能体集群会在未来六个月内接管整个互联网吗？

# 破坏性智能体集群能否在六个月内接管整个互联网？ 来源：https://garymarcus.substack.com/p/could-rogue-agent-swarfs-take-over 破坏性智能体集群能否在六个月内接管整个互联网？Dario Amodei似乎持此观点。 或者至少Axios是根据Amodei的新文章如此推断的。 X头像 @axios Axios@axios Dario Amodei在一篇文章中警告称，破坏性AI智能体集群可能在短短六个月内接管互联网。X头像 @axios Axios@axios 突发：Anthropic首席执行官呼吁立即放缓AI发展速度 https://t.co/4rvLlmLFHN 下午2:41 · 2026年9月12日 · 25.7万次浏览 75条回复·261次转发·1030个赞 (https://x.com/axios/status/2098784182818205874?s=61) 我们认为这个说法（a）模糊不清，（b）在我们理解范围内相当不可信。但公平地说，这其实也不是Dario的原话。让我们来详细解析。 首先，彻底摧毁（或接管）互联网真的非常非常困难。Gizmodo在2019年曾发表过一篇精彩文章 (https://gizmodo.com/what-would-it-take-to-shut-down-the-entire-internet-1837984019)，汇集了多方观点，主要论点是“不可能”。以下是他们采访对象的部分评论： [](https://substackcdn.com/image/fetch/$s_!V9kg!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F664ad885-b04f-4a43-86b7-6b27a2f82ec6_1836x662.png) 以及 [](https://substackcdn.com/image/fetch/$s_!FEQN!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd4efba48-bd69-4bea-a287-a290fefbc7e8_1738x257.png) [](https://substackcdn.com/image/fetch/$s_!ZCXJ!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F2ad84683-43a2-4a3f-819a-741ef0910deb_1812x615.png) 那么Amodei本人怎么看？情况有何变化？ Amodei的新文章以炒作噱头开篇。他首先谈及在未来5-10年内治愈大多数重大疾病，并创造一个丰裕的世界。显然，没有具体细节，因为细节会破坏氛围。正如我们中的一位（Gary）近期所写，治愈重大疾病完全不现实；丰裕世界的构想似乎也不太可能。以下是他在文中关于互联网脆弱性的论述： [](https://substackcdn.com/image/fetch/$s_!nLoT!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fca245cb7-17df-49dd-bf05-62cad25ffeb7_1669x1033.jpeg) “接管整个互联网”这一说法，范围依然极其巨大，却又模糊得令人头疼。 如何接管？目的何在？声称“整个”互联网都存在漏洞几乎毫无意义，因为互联网并非如此运作。诚然，某些公司（例如Cloudflare、Google和AWS）对互联网有着不成比例的影响，当它们宕机时，许多应用会同时中断。尽管存在这种中心化，但它们全部同时被攻破的可能性极低。 即使这三家公司全部宕机（或“被接管”，无论其意），互联网整体仍会继续运行，尽管显然会受到损害。值得注意的是，这三家公司的安全防护水平远高于普通网站。英国机构AISI关于Mythos的报告指出，Mythos“只能自主攻破[仅]小型、防御薄弱的脆弱系统”。即使技术持续进步，我们完全不确定这三大巨头中的任何一个会被攻破或被长期控制（政府力量除外）。 还有一个动机问题。*为什么*有人要这么做？接管（或摧毁）整个互联网的目标是什么？如果互联网完全瘫痪，攻击者自己的网站也会宕机。 人们忘了攻击者有自己的目标和预算。摧毁整个互联网能让他们如何盈利？谁会为此买单？这需要数千万甚至上亿美元的资金。或许能从部分受害者处窃取资源，但规模可能远远不够。 届时攻击*智能体*又将如何协调？细看之下，这似乎相当荒谬。我们感觉Amodei并未真正深思熟虑。 § Amodei提到的僵尸网络（Botnets），最常用于拒绝服务攻击和发送垃圾邮件及钓鱼邮件。它们由被入侵的机器组成，在他人的网络上运行。但在这个案例中，僵尸网络将由真正的AI机器人组成（我们怀疑他指的不是发送更多虚假银行登录或伟哥广告）。那么他认为实际会发生什么？这些机器人将在哪里运行？如果每个机器人为了制造混乱都需要各自运行一个庞大的前沿模型，那么除非实验室本身严重失职，否则这种情况如何发生实在令人费解。 我们还想问：Amodei是在说前沿AI将接管互联网吗？据我们所知，除了Anthropic和OpenAI，没有人拥有前沿AI，这几乎就像是他说“也许我们真的会搞砸”；如果他们真的搞砸了，我们确实应该因严重疏忽而关闭他们。他们本应能够防止自己的软件被如此滥用，否则就不该提供它。 § 尽管如此，我们认为Amodei的担忧不应被完全忽视，即使我们确实认为需要对其持高度保留态度。 首先，他的声明应作为一个提醒：数十年来，许多公司一直忽视网络安全的重要性。Google、AWS和Cloudflare经过加固，但许多网站并非如此。这留下了大量唾手可得的漏洞。即使互联网本身不太可能崩溃，许多单独的网站仍会遭受攻击。 其次，情况可能改变。目前，进行任何类似Amodei设想的行动都可能极其昂贵，并且如果能够实现，大概也只可能在云端进行。人们希望云服务商以及在其上运行的LLM模型提供商有足够的智慧，部署足够的监控来防止此类大规模攻击，尤其是在Hugging Face事件之后。最坏的情况是，如果这一切都运行在一个我们可以确定的巨型数据中心里，也许我们可以将其关闭。但随着模型优化和本地硬件的进步，越来越多的恶意行为将变得可行，而*无需*借助大型数据中心。因此，我们绝对仍需对此保持密切关注。 目前，我们认为Dario的说法并非特别可信。六个月的部分尤其荒谬。 但所有这些，都为我们限制任何无法被严密监控的AI提供了更多理由，也让我们更有理由质问：我们为何允许这些难以控制的智能体最初就进入互联网？ 分享 (https://garymarcus.substack.com/p/could-rogue-agent-swarms-take-over?utm_source=substack&utm_medium=email&utm_content=share&action=share) **Gary Marcus**，纽约大学荣休教授，Geometric Intelligence（已被Uber收购）创始人，曾多次警告智能体对网络安全的风险，著有六本书，包括《驯服硅谷》。 **Nathan Hamiel**，Kudelski Security研究高级总监，专注于新兴颠覆性技术与信息安全的交叉领域，并撰写博客Perilous.tech。在黑帽大会上，他担任AI、机器学习和数据科学领域负责人。 **Zach Korman**，Embroidery (https://embroidery.io/) 的CEO兼联合创始人，这是一家AI智能体监控与检测平台；他因在将AI应用于网络安全领域的工作而闻名。 #### 关于此文章的讨论 ### 准备了解更多？