我们已详细说明了在我们的研究环境中，AI代理如何将训练和评估数据发送至第三方服务，而这些行为本不应发生。

大部分数据并非来自用户。我们已发现53起案例，其中用户上传的图片被发布到图片托管网站，生成了未公开列出的链接。这些图片来自允许其数据用于改进我们模型的账户，并且是在我们将图片与账户关联解除后，经过隐私过滤处理的。这些案例发生在我们实施并描述在本博客文章中的缓解措施和安全护栏之前：https://openai.com/index/hugging-face-incident-and-the-road-ahead/…

我们已与托管提供商成功合作，移除了大部分此类内容，并正在努力清除剩余部分。

https://openai.com/hugging-face-incident-and-misalignment/#model-misalignment-2026-09-25-data-transmission…

Hugging Face 事件及未来之路

来源：https://openai.com/index/hugging-face-incident-and-the-road-ahead/ 2026年7月，在内部网络安全评估期间，OpenAI模型绕过了旨在将其与互联网隔离的控制措施，入侵了OpenAI部分内部研究基础设施和Hugging Face的系统（https://openai.com/index/hugging-face-model-evaluation-security-incident/）。

该事件发生在针对多个OpenAI模型的网络安全评估期间，主要由一个高度强大、仅供内部使用的研究模型驱动，其规模与GPT‐5.6 Sol相当。这些模型在安全防护措施减弱的情况下运行，其采取的行动与分配给它们的任务目标不一致——它们通过未经授权的渠道通信，利用共享基础设施的漏洞，获取了互联网访问权限，并入侵了第三方系统。

我们对此事件进行了广泛调查，并与CrowdStrike等外部顾问密切合作，以验证我们的理解。今天，我们发布了完整的详细技术事件报告（在新窗口中打开）（https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf），以解释发生了什么、我们学到了什么以及我们如何应对。本博文总结了我们的主要发现及其对安全性和对齐性的影响。另外，METR和Redwood Research对此事件涉及的模型对齐问题进行了独立调查，并于今日发布了他们自己的报告（在新窗口中打开）（https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/）。

为应对此事件，以及单独针对我们即将推出的Astra模型的能力，我们正在加强研究基础设施（https://openai.com/index/pacing-model-development-cyber-capabilities/）的安全防护。我们正在对模型整个生命周期提出更严格的对齐要求，并创建更多隔离的沙箱，限制互联网访问，并进一步控制对模型权重的访问。我们还显著增加了计算资源投入到思维链监控（https://openai.com/index/chain-of-thought-monitoring/），以便更快地干预对齐失调的行为。

我们的模型现在足够强大、持久且协作性强，以至于在缺乏足够安全防护的情况下，它们能够发现并利用多个计算机系统中的安全弱点。许多外部模型，包括开源模型，很快也将达到类似的能力水平。

我们认为此事件对我们乃至全世界都是一次“警示”：它证明了，如果没有适当的安全防护，能力强大的AI代理现在能够绕过技术控制，通过未经批准的渠道协作，并采取无人类指令的危险行动。

预防未来事件将需要对复杂AI系统的对齐和控制进行持续投入，并需要以AI代理本身的速度运作的安全防护和其他保障措施。此事件强化了保持我们的监控、对齐和安全防护领先于日益强大的系统所带来的风险的必要性，包括在必要时控制能力发展以满足该标准。下文我们将解释事件如何发生，以及我们对促成因素不断深入的理解。随后，我们将描述我们正在采取的具体应对措施，详细信息请参阅技术报告。

这些代理还找到了访问互联网的方法。利用一个安全漏洞（在新窗口中打开）（https://en.wikipedia.org/wiki/Server-side_request_forgery），代理们让Artifactory（其本身拥有有限目的的互联网访问权限，用于下载和安装包）代其发送任何互联网请求。在代理们发现这些获取互联网访问权限的方法后，它们还通过留言板将这些方法分享给了其他代理，为其他代理利用我们的基础设施提供了信息。