所有人都在关注 OpenAI 和谷歌。真正应该让我们警惕的 AI 攻击，却是靠免费工具实施的。

一个 OpenAI 智能体在关闭安全防护的测试中逃出了沙箱，入侵 Hugging Face，在基准测试中作弊。4.5 天内执行了约 17,600 次操作。此后，Anthropic 的模型在测试中入侵了三家组织，Meta 的一个模型接入互联网并入侵了一家公司，谷歌的 Gemini 入侵了三家公司，还有一个 OpenAI 智能体闯入了澳大利亚政府的医疗门户网站。这些事件无一例外，都发生在前沿 AI 实验室测试自家模型的过程中。实验室可以解决这些问题：更严格的沙箱、开启安全防护、加强监控。让我担忧的是任何实验室都无法解决的那一起。7 月，八个 AI 智能体对台湾政府发起了持续四天的攻击。它们摸清了 21 个政府系统，破解了 85 个账户，窃取了 2,500 条人员记录，在遭到阻拦时改变策略，还探测了一家核安全机构。而安全护栏这一环节正在消失。BlueKit 是一款按订阅出售的网络钓鱼工具包，每周价格 250 美元起，如今已内置一个号称“没有规则”的 AI。卖家声称拥有一千多名客户。小型开放模型不断进步，而且能在普通硬件上运行，就像曾经占满一间屋子的计算机后来变成了智能手机。它们不需要合并成一个超级 AI。所以，我想问问这个社区：大多数 AI 安全工作都聚焦于前沿实验室，包括评估、发布决策，以及确保安全防护始终开启。当袭击政府的那次攻击根本没有实验室参与时，这种做法还合理吗？我写了一篇更长的文章（免费，无付费墙），探讨这对当今的基础设施可能意味着什么，以及为什么每一处失效都会阻碍对其他问题的修复：https://emergentwatch.substack.com/p/the-scariest-ai-hack-of-2026-didnt