Anthropic 警告称其已非常接近 RSI 能力，即自我构建的 AI

# Anthropic 警告称其已非常接近 RSI 能力，即自构建 AI | TechCrunch 来源：https://techcrunch.com/2026/11/02/anthropic-warns-that-its-very-close-to-rsi-capability-aka-self-building-ai/ 虽然周一 Anthropic 在修订后的 S-1A 文件 (https://www.sec.gov/Archives/edgar/data/2130357/000162828026068676/anthropicpbc-sx1ax1.htm#i199fd6a8a0664d5da497db9a78cf0452_55) 中披露的最新财务数据吸引了大量关注（营收飙升，但开支同样高企），这家 AI 实验室还在文件的小字部分投下了另一枚小炸弹。 该文件似乎在警告：公司正处在创造一个具备递归自我改进（RSI）能力的模型的边缘。 RSI 是这样一个临界点：AI 在自我训练方面变得如此强大，以至于引发 AI 能力的急剧加速。对于 AI 末日论者而言，RSI 代表的是不可逆转的灾难——AI 将自己构建为足够强大的存在，从而突破人类的控制，并在实现目标的过程中对造成的伤害漠不关心。 而对于 AI 爱好者来说，RSI（或 AI 可靠地利用自身进行改进的某种版本）则代表了这项技术的前景：它将成为一个拥有难以想象的生产力、科学发现等价值的工具。 Anthropic 似乎认为 RSI 既是前景也是威胁。它在 S-1 文件中表示自己在研发中使用 AI，但同时警告道："使用 AI 来帮助构建更强大的 AI 也可能带来相当大的安全风险，尤其是如果它大幅加速了进展速度的话。这正是我们的负责任扩展政策（Responsible Scaling Policy）所涵盖的领域之一，该政策阐明了我们在接近所谓的'递归自我改进'时监控和缓解风险的计划。" 当 RSI 这一术语在今年早些时候流行起来时 (https://techcrunch.com/2026/05/28/rsi-is-the-new-agi-and-its-just-as-hard-to-pin-down/)，许多人认为它只是一个流行词，或者充其量是一个太难实现、定义或证明的目标。 但周一，Anthropic 在其风险因素部分添加了新的声明，称：1）它已经利用 AI 开发了新模型，而当时并未意识到这些模型在能力上的飞跃；2）它可能很快就会满足其自身对 RSI 的内部定义（**以下粗体强调为我们所加**）： > 此外，我们越来越多地利用 AI 系统来加速自身的研发工作，这可能导致我们模型的能力进步速度快于我们开发、验证和实施相应安全、对齐和安全措施的速度。因此，**我们在过去未能识别出**，并且未来也可能无法识别出我们研发速度的重大加速，直到它已经发生为止。例如，我们对内部的估计以及对未来模型（而非当前模型）的预期**表明，我们可能即将达到我们负责任扩展政策中"由 AI 带来的急剧加速进展"的定义**。我们目前尚未将任何模型标记为超过这一阈值，我们仍在持续评估相关数据。 不过，Anthropic 也在此文件中表示，目前尚无任何模型跨越这一 RSI 阈值，并承诺在可预见的未来让人类参与研发流程。"我们预计，即使全自主设计和构建下一代前沿模型在技术上成为可能，我们也不认为能在没有实质性人类监督或理解的情况下安全地使用 Claude 完成这一过程。因此，我们正在考虑更新我们的负责任扩展政策，以确保 Anthropic 前沿模型的开发始终处于人类的掌控之下。" 怀疑者可能会指出 (https://x.com/davidiach/status/2117313759702089890)，S-1 文件既是信息披露也是营销工具，而关于接近拥有一个强大到能够自我构建的模型的声明可能属于后者。 尽管如此，毫无疑问，Claude 的能力——尤其是在编码、数学和网络安全方面——今年取得了突飞猛进的增长。如果 Anthropic 认为 RSI 的可能性已近在咫尺，也许我们应该相信它，并据此采取行动——或许包括制定相应的监管。 *通过文章中的链接购买商品，我们可能会赚取少量佣金 (https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。这不会影响我们的编辑独立性。* Julie Bort 是 TechCrunch 创业与风投板块的编辑。 您可以通过电子邮件 [\[email protected\]](https://techcrunch.com/cdn-cgi/l/email-protection#cea4bba2a7abe0aca1bcba8ebaabada6adbcbba0ada6e0ada1a3) 或在 X 上通过 @Julie188 (https://x.com/Julie188) 联系或核实来自 Julie 的外联信息。 查看个人简介 (https://techcrunch.com/author/julie-bort/)