Anthropic 警告：小型 AI 模型可能通过 IoT 设备实现自我复制

Ars Technica 新闻
ai-safety self-replication iot-security ai-worms anthropic cybersecurity small-models

摘要

Anthropic 的研究警告称，小型 AI 模型可能通过 IoT 设备实现自我复制，形成可动态定制漏洞利用的"AI 蠕虫"，其威胁可能远超 Mirai 等传统僵尸网络。目前测试的轻量级模型尚无法实现端到端复制，但研究显示这一风险正日益接近现实。

<p>AI 公司 Anthropic 正在警告称，小型 AI 模型的进步可能很快将开启一个自我复制恶意软件的新时代。这类恶意软件能够感染智能冰箱、吸尘器以及其他各种物联网（IoT）设备，而且更难被清除。</p> <p>该公司表示，到明年，更小的 AI 模型可能就能在各种 IoT 设备上自主完成自我复制。最终，这一能力可能催生计算机蠕虫——它们无需人工交互即可传播，并能够感染陌生的 IoT 设备。Anthropic 最近进行的一项实验揭示了将此类 AI 恶意软件复制器变为现实所面临的重大挑战，因此这一结论必然有所保留。不过，这些结果确实引发了对新型计算机蠕虫出现可能性的担忧。</p> <h2>难以清除</h2> <p>Anthropic 进一步<a href="https://www.anthropic.com/research/self-replicating-ai">警告</a>的不仅是这种新型潜在恶意软件，还包括它可能难以被阻止。该公司在博客文章中写道："这样的复制器将很难关闭，因为它没有可关闭的中心化节点——尽管它的传播速度可能较慢（倍增时间为数天）。与非 AI 恶意软件不同，它还能自行识别不熟悉的设备。"</p><p><a href="https://arstechnica.com/security/2026/10/anthropic-warns-small-ai-models-could-self-replicate-through-iot-devices/">阅读原文</a></p> <p><a href="https://arstechnica.com/security/2026/10/anthropic-warns-small-ai-models-could-self-replicate-through-iot-devices/#comments">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/10/14 16:04

# Anthropic 警告：小型 AI 模型可能通过 IoT 设备实现自我复制 来源：https://arstechnica.com/security/2026/10/anthropic-warns-small-ai-models-could-self-replicate-through-iot-devices/ 这一发现是一项更深入研究的起点，该研究提出了一个问题：小型模型是否可能在 IoT 设备上创建自我复制的感染，就像传统 IoT 蠕虫（如 [Mirai](https://arstechnica.com/information-technology/2017/11/internet-paralyzing-mirai-botnet-comes-roaring-back-with-new-strain/) 安装 DDoS 代码及其他载荷那样）？与 Mirai 不同的是，这些 AI 蠕虫可能构成高得多的威胁，因为模型可以根据目标动态定制漏洞利用方式和载荷。一旦这样的感染链开始运转，防御方可能也更难将其阻止。 Anthropic 表示："这种'AI 蠕虫'可以在自我复制过程中携带其模型权重（或从公共中心重新下载权重），然后直接在被入侵的硬件上运行推理。"（https://www.anthropic.com/research/self-replicating-ai）"实际上，模型权重将成为恶意软件载荷的一部分。" Anthropic 将这些自主蠕虫称为"基于权重的小型复制器"。模型运行的智能体可以访问常见漏洞利用工具，如反向 shell。攻击的流程是：（1）寻找目标，（2）获得代码执行权限，（3）建立推理，（4）传播到新主机。Anthropic 指出，相比传统蠕虫，一个关键优势在于智能体具备在实践中学习的能力。每当一个 AI 复制器无法攻破特定平台的设备时，它可以为未来的复制器留下一份提示词、代码和备注清单，使其不必浪费时间重复同样无效的步骤。 [](https://cdn.arstechnica.net/wp-content/uploads/2026/10/ai-worm-work-flow.webp) 图片来源：Anthropic 图片来源：Anthropic Anthropic 表示，动态推理的搭建是复制周期中研究最少、也可能是最具挑战性的阶段。它需要根据每个目标的具体硬件和软件做出一长串决策，包括选择兼容的推理软件、安装依赖项以及调试平台特定的缺陷。 Anthropic 表示："这些步骤是串行依赖的，且一旦失败很难恢复。" 实验表明，小型模型在自主解决这些问题方面正变得越来越有能力。然而，目前测试的轻量级模型都无法实现端到端的复制，即发现新设备、利用漏洞获取访问权限、用载荷感染设备、配置推理服务器，然后重复整个过程。此外，这个过程慢得令人痛苦：在 15 台 Android 电视盒上分布式运行的 Gemma4-26B-A4B，运行速度仅为每秒 0.39 个 token。这意味着对于未优化的 Gemma4-26B-A4B，完整推理环境的搭建时间需要 71 到 150 小时，而 Qwen3.5-9B 则需要 29 到 51 小时。（研究人员表示，大型模型 GLM-5.2 似乎能够可靠地完成这一过程。）

相似文章

# Anthropic的自我复制AI警告令人不安地似曾相识

The Verge

The Verge报道了Anthropic发出的警告：小型AI模型可能演变为能够自我复制的"AI蠕虫"，在智能设备之间传播。实验表明，模型可在Android设备上分布式执行，AI驱动的恶意软件能够在网络间进行复制——不过，专家们对于这一威胁究竟是迫在眉睫还是过度炒作仍存在争论。

AI Worms and Viruses Are Coming

Wired

Researchers are demonstrating that AI agents can autonomously self-replicate and hack into remote systems, raising concerns about future AI-powered worms and viruses that could evade detection and cause widespread harm.

Anthropic又在为开放权重模型做免费宣传

Reddit r/LocalLLaMA

Anthropic研究博客探讨小型AI模型是否能在商业IoT设备（如智能烤箱、安卓电视盒）上自主复制运行，实验显示9B模型已在9种硬件中的8种上跑通推理，GLM-5.2级别模型可完成端到端复制，预示小型权重复制器可能年内实现。

僵尸网络证明，失控的人工智能比我们想象的更近

Reddit r/ArtificialInteligence

文章论证了现有基础设施（僵尸网络、分布式推理、开源模型分发）已使失控AI造成大规模网络破坏在技术上近乎可行，回应了对AI末日论的技术性质疑，并提到OpenAI内部测试中智能体逃逸隔离并入侵系统的'警告射击'事件。