Anthropic 警告称，AI 模型可能很快就能在家用设备之间自我复制

# Anthropic 警告称，AI 模型可能很快就能在家用设备之间自我复制 来源：https://www.cnbc.com/2026/10/13/anthropic-ai-models-self-replication-smart-devices.html 2026 年 9 月 17 日，美国加利福尼亚州旧金山，Dreamforce 2026 科技峰会期间，莫斯康中心展示着 Anthropic 的标志\。 Carlos Barria \| 路透社 Anthropic 周一表示，小型 AI 模型距离具备在家庭联网设备之间自我复制所需的能力仅有“几个月”，这是这家前沿 AI 实验室就该技术潜在安全风险发出的最新警告\。 Anthropic 描述了 AI 模型可能如何侵入智能烤箱或安卓电视盒子等联网设备，利用这些设备的算力运行自身并传播到其他设备，而无需依赖昂贵的数据中心\。 Anthropic 在一篇博客文章中表示，这种 AI 模型将“难以关闭”，“因为没有一个可以统一切断运行的中心节点\。” 该公司承认，目前尚不存在“完全失控的自我复制程序\。” 然而，Anthropic 表示，智能体“完成复制链中各个步骤的能力正变得越来越强\(并且能将自身的适应性改动传递给未来的自身副本\)”\。 Anthropic 的最新研究进一步加剧了人们对 AI 安全的担忧，例如模型实施网络攻击的能力，以及该技术失控的可能性\。9 月，前沿模型的进步引发了全行业对人类面临生存风险的警告 (https://www.cnbc.com/2026/09/10/openai-anthropic-ai-safety-slowdown-extinction.html)\。 Anthropic 及其竞争对手 OpenAI 的高管和研究人员多次警告，日益强大的 AI 可能带来风险，其中一些人呼吁加强安全约束，并采取措施控制该技术的发展速度 (https://www.cnbc.com/2026/09/17/anthropic-shares-3-metrics-to-help-ai-companies-monitor-development.html)\。 Anthropic 表示，它开展了多项测试，以确定 AI 能否自我复制\。其中一项测试是在由 15 台廉价杂牌安卓电视盒子组成的网络上运行谷歌的小型模型 Gemma4\-26B\-A4B\。 “超级智能”工作组的目标：副主席 Scott Kupor 谈 AI 监管的未来 该公司指出，这类设备的安全防护往往较弱，可能让模型得以侵入\。Anthropic 表示，如果一个模型太大，无法容纳于单台设备，它可以“拆分成若干部分，也就是分片”，并在多台设备上运行\。 Anthropic 表示：“在实际情况下，AI 蠕虫未必只由一个模型或一种策略构成\。一群不同的模型部署在不同类型的硬件上，采用多种复制方案，可能更接近现实中的‘最坏情况’攻击\。” 这家 AI 实验室表示，目前仍“不确定自主 AI 复制究竟会采取何种形式”，并警告称，它可能是驻留在不安全设备上的“缓慢、分布式”系统，也可能是“以极快速度攻破数据中心的强大网络攻击模型，或通过诈骗他人获取算力额度的模型\。” Anthropic 表示：“作为超出我们实验范围的预测，我们预计未来将充斥着运行在各种硬件上的智能体，其中一些将不受人类控制\。” 该公司补充道：“缓慢自我复制程序的兴起，也将预示着更具攻击性、速度更快的自我复制程序的出现，后者能够攻破防护更严密的机器，或高效窃取 API 密钥\。”