Anthropic 授予非营利组织 METR“员工级”访问权限，以监测 AI 风险

Reddit r/ArtificialInteligence 2026/10/15 19:41 新闻

ai-safety anthropic metr model-monitoring transparency governance

摘要

Anthropic 已授予人工智能安全非营利组织 METR“员工级”访问权限，以监测其模型的风险，进一步加强对其系统的外部监督。这一安排使 METR 能够更深入地了解 Anthropic 的内部运作，以评估潜在危险。

暂无内容

查看原文

相似文章

TechCrunch AI

Anthropic 正在授予 METR 研究人员员工级别的访问权限——包括内部工具和公司笔记本电脑——以便独立评估其模型、安全实践和风险管理，且 METR 可以自由发布其调查结果，无需 Anthropic 批准。

Ars Technica

Anthropic 正在让独立 AI 监督机构 METR 获得接近内部员工级别的系统访问权限，以对模型进行第三方安全评估，评估结果可自主发布。此举正值 Anthropic 准备年内以超 2 万亿美元估值 IPO 之际，意在向投资者与公众证明其安全治理能力。

Reddit r/artificial

Anthropic允许METR研究人员以员工级别权限访问其内部系统，且无权否决研究结论，并与新加坡政府签署人工智能安全与模型评估谅解备忘录，押注自愿审查将赶在监管机构强制介入之前塑造AI监管格局。

X AI KOLs

Anthropic 宣布已向 METR 评估团队授予类似员工级别的访问权限，并正与 SecureBio 和 Accenture 等其他第三方评估方合作，对其安全实践进行独立评估并发布风险评估报告。

X AI KOLs Timeline

METR发布了其首份《前沿风险报告》（Frontier Risk Report），评估AI公司失去对其自身代理控制的风险。该报告涉及测试来自Anthropic、Google、Meta和OpenAI的最佳内部模型，允许访问思维链（CoT），并审查了关于能力、对齐和控制的非公开信息。