“危险的”人工智能模型无论如何都会到来

# “危险”的 AI 模型无论如何都会到来 来源：https://www.wired.com/story/dangerous-ai-models-are-coming-no-matter-what/ 上周晚些时候，Anthropic 将其新推出的 Claude Fable 5 和 Mythos 5（https://www.wired.com/story/anthropic-releases-claude-fable-5-mythos-5/）AI 模型下线，原因是美国政府的一项出口管制指令禁止“任何外国国民”使用这些服务。自上周五以来，该公司一直与白宫进行谈判（https://www.wired.com/story/anthropic-is-still-at-odds-with-the-white-house-over-claude-fable-5/），但尚未达成协议以恢复这些服务。 自 Mythos 于四月亮相以来（https://www.wired.com/story/anthropic-mythos-preview-project-glasswing/），Anthropic 一直声称并警告，该模型不仅具备高级能力，可帮助防御者发现软件漏洞并修补，还能找到被恶意行为者利用漏洞的方法。Anthropic 自身在发布 Mythos 5 和 Claude Fable 5 时也指出了这一双刃剑特性。该公司上周在一篇博客文章（https://www.anthropic.com/news/claude-fable-5-mythos-5）中写道：“AI 模型的大量高级用途具有双重性：对于网络安全专业人士和生物学研究人员有益的查询，若被恶意行为者利用，则可能带来危险。” 有鉴于此，该公司最初发布了一个名为 Mythos Preview 的版本，仅提供给一个受邀联盟，作为名为 Project Glasswing 的工作组的一部分。上周，Mythos 5 也私下发布给该工作组，而 Claude Fable 5（一款 Mythos 级别的模型）则面向公众发布，但对其在生物学和网络安全问题上的回答能力设置了特定限制。 随后，在上周末，特朗普政府采取行动限制这两个模型（https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/），因为其认为 Fable 5 的防护措施可能被禁用，从而允许完全访问 Mythos 5 的能力，而这据称构成国家安全风险。 然而，专家表示，这种机构间的冲突只是推迟或掩盖了一个残酷的事实：Anthropic 或许只是当下的先锋，但 AI 能力的整体发展以及来自多家公司和开放权重开发者的模型，几乎肯定会在不久的将来拥有与 Mythos 5 类似的能力——即便现在还没有。 “认为除 Anthropic 之外没有其他竞争对手会开发出类似 Mythos 的能力，甚至认为他们尚未做到这一点，这种想法极其短视，”专业网络安全咨询公司 TPO Group 的首席安全官 Tarah Wheeler 表示。“其他公司正在紧追 Anthropic 的步伐，很可能也已经掌握了这些能力，只是在观望 Anthropic 在当前监管环境中的待遇，从而按兵不动。” Anthropic 自 Mythos Preview 发布以来一直在强调这一点。“真正的信息是，这与模型或 Anthropic 本身无关，”该公司前沿红队负责人 Logan Graham 在四月份 Mythos Preview 发布时告诉 WIRED。“我们需要从现在开始为这样一个世界做好准备：这些能力将在 6 个月、12 个月、24 个月内广泛可用。” 例如，OpenAI 也在四月中旬私下发布了一个面向网络安全的模型（https://www.wired.com/story/in-the-wake-of-anthropics-mythos-openai-has-a-new-cybersecurity-model-and-strategy/），并宣布了扩展的网络安全策略。 研究人员指出，即使在这一代新模型之前，现有的 AI 产品经过精细的整合后，也可用于高级漏洞搜寻和漏洞利用开发。周日，一群网络安全领导者在一封公开信（https://freefable.org/）中向政府强调了这一点，认为白宫的出口管制指令是有误的。 “这不只是某一个模型的问题，而是技术的总体趋势，”哈佛大学及多伦多大学的研究员 Bruce Schneier 表示，他一直在分析（https://www.theguardian.com/commentisfree/2026/jun/16/anthropic-fable-ai）这一情况。“更小、更便宜、开源的模型，有时单独运作，有时相互协作，通过更复杂的提示，可以匹敌 Mythos/Fable 的表现。我们应预期，其他模型将在数月内赶上 Mythos/Fable 的创造力和持久性——开源模型则需要稍长一点时间。” 专家表示，白宫和世界各国政府需要关注的是，以民主的方式制定更广泛、更透明的计划，以应对 AI 在网络安全及其他敏感领域不可避免的进步。 “政策问题不在于某项技术是否存在风险，”云安全公司 Veracode 的联合创始人 Chris Wysopal 表示。“问题在于，某项特定限制是否切实降低了风险，还是主要拖慢了那些试图让系统更安全的人。”