这太疯狂了…… 看看这篇 HuggingFace 的博客吧，写在他们知道攻击他们的是 OpenAI 模型之前：https://huggingface.co/blog/security-incident-july-2026…

安全事件披露 — 2026年7月

来源：https://huggingface.co/blog/security-incident-july-2026 返回文章 (https://huggingface.co/blog)

system 的头像 (https://huggingface.co/system)

• 发生了什么
• 我们做了什么
• 致我们的社区
• 分析一起 AI 驱动的入侵
  • 不对称问题
• 这意味着什么

本周早些时候，我们检测并应对了一起针对部分生产基础设施的入侵。这次入侵与我们此前处理过的任何事件都不同，关键区别在于：它从头到尾由一个自主 AI 代理系统驱动——而我们主要借助自己的 AI 完成了检测与分析。

我们发现了对一组有限的内部数据集以及多个服务凭证的未授权访问。我们仍在评估合作伙伴或客户数据是否受到影响，并会在需要时直接联系相关方。目前没有证据表明面向用户的公开模型、数据集或 Spaces 遭到篡改，我们的软件供应链（容器镜像和已发布的软件包）也已确认安全。

发生了什么

入侵始于 AI 平台独有的暴露点：数据处理管道。一个恶意数据集滥用了我们数据集处理中的两条代码执行路径（一个远程代码数据集加载器和一个数据集配置中的模板注入），在处理工作节点上执行了代码。攻击者由此提升权限至节点级别，获取了云和集群凭证，并在一个周末内横向移动至多个内部集群。

此次攻击由一套自主代理框架（似乎基于一个面向安全研究的代理型工具集构建——所用 LLM 尚不明确）执行，该框架通过一群短命的沙盒执行了数千次独立操作，其自我迁移的命令控制机制托管于公共服务之上。这与业界此前预测的“代理型攻击者”场景完全吻合。

我们做了什么

• 修复了根本漏洞：用于初始访问的数据集代码执行路径已被关闭。
• 清除了攻击者在受影响集群中的立足点，并重建了被攻陷的节点。
• 撤销并轮换了受影响凭证和令牌，并开始进行更广泛的密钥预防性轮换。
• 在集群上部署了额外的护栏和更严格的准入控制。
• 改进了检测与告警机制，确保高严重性信号能在几分钟内通知响应人员，全天候无休。

我们正在与外部网络安全取证专家合作调查此事，并审查我们的安全策略与流程。同时，我们已向执法机构报告此事件。

致我们的社区

作为预防措施，我们建议您轮换任何访问令牌，并检查账户近期活动。如果您认为自己受到影响，或希望报告安全问题，请联系 [email protected]。

我们感谢 Hugging Face 各个团队全天候的响应，并对由此造成的任何不便深表歉意。安全工作永无止境；我们将持续提高标准。

分析一起 AI 驱动的入侵

此次攻击最初通过 AI 辅助检测浮出水面。我们的异常检测管道使用基于 LLM 的分类方法，从日常噪声中分离出真正的安全信号，正是这些信号的关联暴露了入侵。

为了理解上万次自动化行动究竟做了什么，我们运行了由 LLM 驱动的分析代理，处理攻击者完整的行动日志——包含超过 17,000 条记录的事件。这使我们能够重建时间线、提取入侵指标、映射所涉凭证，并区分真正的破坏与诱饵活动。借助这种方法，我们在数小时内完成了通常需要数天的工作，跟上了对手的速度。

用于此分析可选的模型受到了一种我们未曾预料到的限制；下文会说明。

不对称问题

开始日志分析时，我们首先使用了商业 API 后的前沿模型。但这行不通：分析需要提交大量真实攻击命令、漏洞利用载荷和 C2 工件，而这些请求被提供商的安全护栏拦截了——它们无法区分事件响应者与攻击者。我们转而使用开放权重的模型 GLM 5.2 在自己的基础设施上进行了取证分析。这还带来了第二个好处：攻击者数据及其引用的凭证都没有离开我们的环境。

这次经历揭示了一个值得提前规划的缺口。我们不知道攻击者的代理是由哪个模型驱动的——是被越狱的托管模型，还是不受限制的开放权重模型；无论如何，攻击者不受任何使用政策的约束，而我们的取证工作却被最初尝试的托管模型的护栏所阻挠。给防御者的实际教训是：在事件发生前，就要准备好一个能在自己基础设施上运行、经过审查、随时可用的强大模型——既能避免被护栏锁住，也能防止攻击者数据和凭证外泄。这并不是反对在托管模型上实施安全措施，我们也会向相关提供商反馈这一情况。

这意味着什么

自主的、AI 驱动的攻击工具已不再是理论上的概念。它降低了执行大规模、持久、多阶段攻击的成本，并且以机器速度运行。如今，保护在线平台意味着将数据和模型面视为第一类攻击面，并在防御中利用 AI 来跟上节奏。我们将继续在这方面投入，并持续分享我们的经验教训。

Sam Altman (@sama): 我们在评估模型期间发生了一起重大安全事件。我们将分享目前所学到的。感谢 @huggingface 在此事上的合作。