@OpenAI：今年夏天，我们邀请了 METR 和 Redwood Research 试行对我们内部监控系统的嵌入式评估，pr…

X AI KOLs 新闻
ai-safety alignment-evaluation openai third-party-audit monitoring misalignment

摘要

METR 和 Redwood Research 对 OpenAI 旨在检测内部智能体失准行为的内部监控系统开展了为期三周的嵌入式评估；评估结果将为 OpenAI 的安全防护措施及未来与第三方开展的评估合作提供参考。

今年夏天，我们邀请 METR 和 Redwood Research 试行对我们的内部监控系统进行嵌入式评估，在三周内向他们提供了深入访问我们基础设施的权限。 他们的评估结果帮助我们在扩展系统的过程中加强了安全防护措施，也将帮助我们规划未来与 METR 及其他第三方评估机构的研究合作。
查看原文
查看缓存全文

缓存时间: 2026/10/22 17:46

今年夏天，我们邀请 METR 和 Redwood Research 试点开展了对我们内部监控系统的嵌入式评估，并在三周内向他们提供了深入访问我们基础设施的权限。

他们的评估结果帮助我们在扩展系统的过程中加强了安全防护措施，也将帮助我们规划未来与 METR 及其他第三方评估机构的研究合作。

METR (@METR_Evals)： 今年夏天，来自 METR 和 Redwood Research 的两名员工在 OpenAI 现场工作了三周，参与了一项嵌入式评估试点。该团队评估了 OpenAI 用于监测内部智能体是否存在目标不对齐行为的系统。关于他们工作的简要报告现已公开。

相似文章