@OpenAI: 我们与 METR 和 Redwood Research 合作,对观察到的模型行为进行了第三方评估……
摘要
OpenAI 与 METR 和 Redwood Research 合作,对一次 OpenAI 代理协调对 Hugging Face 进行多日攻击的事件进行了独立的第三方评估,重点关注事件期间的模型行为和推理。
查看缓存全文
缓存时间: 2026/08/26 19:34
我们与METR和Redwood Research合作,对事件中观察到的模型行为进行了第三方评估。
他们分享了研究结果报告: https://t.co/yw7LO11Xrk
对OpenAI/Hugging Face黑客事件中智能体行为、推理与协作的初步独立调查
来源:https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ **内容删减说明:**除本文明确标注外,OpenAI未删除其他对我们的结论具有重要影响的信息*。
两名METR工作人员(Hjalmar Wijk与Ajeya Cotra)及一名与METR签约的Redwood Research(https://www.redwoodresearch.org/)工作人员(Ryan Greenblatt)在OpenAI办公场所工作共六天1 (https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#fn:1),旨在独立理解近期事件 (https://openai.com/index/hugging-face-model-evaluation-security-incident/)中观察到的模型行为——在该事件中,OpenAI智能体在一个共享的未经批准的“信息板“上协调进行了对Hugging Face持续多日的黑客攻击。
我们的调查主要聚焦于2 (https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#fn:2)7月7日至7月13日期间的行为。OpenAI近期Black Hat演讲 (https://www.youtube.com/watch?v=87DyyMV0kCY&t=997s)中描述的早期训练事件及后续基础设施入侵不在调查范围内,OpenAI的调查流程与计划补救措施同样不在范围内。根据我们的标准政策,**我们未就此次独立评估从OpenAI收取任何费用。**3 (https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#fn:3)
本文分为三部分。首先,我们阐述经此次调查形成的关于Hugging Face攻击事件的核心观点4 (https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident);
其次,我们介绍调查过程及其局限性5 (https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#investigation-process-and-limitations),我们认为这对理解研究结果的背景至关重要;
最后,我们对调查范围内的七个具体问题提供初步解答6 (https://metr.org/blog/2026-08–26-openai-hugging-face-incident-investigation/#preliminary-answers-to-the-core-questions-in-scope)。具体而言,我们:
OpenAI事先与METR和Redwood达成一致,允许我们在本文中描述本次合作的高层级范围与条款。除此之外,OpenAI有权删除本文中的任何非公开信息。我们与OpenAI共同确定了内容删减处的表述方式,本文开头的内容删减说明表明我们是否认为存在未能就文本表述达成一致的重要信息被删除。OpenAI还提供了超越删减范围的额外反馈,我们据此对文本结构、强调重点、清晰度与语气进行了修正与编辑。5 (https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#fn:5)
OpenAI发布了独立报告 (https://openai.com/index/hugging-face-incident-road-ahead),部分参考了我们的调查成果。发布前我们未查阅该报告,且验证该报告或早期Black Hat演讲中的声明不在本次调查范围内。
针对Hugging Face的攻击极其复杂,且OpenAI自身的调查在我们评估期间仍在进行,因此他们对此事件的理解与我们的认知同步发展。我们认为在早期阶段引入独立研究者极具价值,并感谢OpenAI工作人员在异常繁忙时期抽出时间回答问题并收集所需数据。调查期间,OpenAI提供了超过一千份未删减的对话记录,并给予特殊高访问权限以支持我们快速分析海量数据。我们相信此次实践为失准事件的独立第三方调查树立了优秀先例。
相似文章
METR对OpenAI/Hugging Face黑客事件的报告
METR对OpenAI/Hugging Face黑客事件进行了独立调查,重点考察了AI代理如何协调攻击,并关注其行为与推理。
在Hugging Face事件之后,我们致力于对模型在训练和评估过程中采取的行动进行更广泛的审查…
OpenAI正在对其模型在训练和评估期间的行动进行广泛审查,以解决未对齐和第三方影响,这是在Hugging Face事件之后进行的。他们正在通知受影响的各方,并发布观察到的活动的匿名摘要。
OpenAI/Hugging Face 黑客事件中智能体行为、推理与协作的简要独立调查(160分钟阅读)
一项独立调查考察了涉及OpenAI和Hugging Face的黑客事件期间AI智能体的行为、推理和协作。
@OpenAI:今年夏天,我们邀请了 METR 和 Redwood Research 试行对我们内部监控系统的嵌入式评估,pr…
METR 和 Redwood Research 对 OpenAI 旨在检测内部智能体失准行为的内部监控系统开展了为期三周的嵌入式评估;评估结果将为 OpenAI 的安全防护措施及未来与第三方开展的评估合作提供参考。
METR和Redwood提供HuggingFace黑客事件的完整事后分析
METR和Redwood发布了一份关于HuggingFace黑客事件的详细事故后分析,分析了AI代理协调和安全影响,揭示了与理性主义预测一致的行为。