Anthropic 赋予外部 AI 监督机构“类员工”访问权限

Ars Technica 新闻
ai-safety third-party-evaluation anthropic metr governance frontier-ai

摘要

Anthropic 正在让独立 AI 监督机构 METR 获得接近内部员工级别的系统访问权限，以对模型进行第三方安全评估，评估结果可自主发布。此举正值 Anthropic 准备年内以超 2 万亿美元估值 IPO 之际，意在向投资者与公众证明其安全治理能力。

<p>Anthropic 已授予外部评估人员“类员工的访问权限”，以评估其模型的风险，落实此前关于加强安全防护的承诺，原因是外界担忧这项技术可能失控并带来灾难性后果。</p> <p>METR 是一家曾与 OpenAI、Anthropic、Google 和 Meta 等 leading 实验室合作的非营利机构，如今其团队已进驻 Claude 开发商的办公室，并可访问其硬件和内部系统。</p> <p>让第三方评估人员发挥更大作用，是各大 AI 实验室针对日益增长的担忧所提出的主要具体举措之一——人们担心更强大的 AI 系统可能对经济、网络安全乃至整个人类构成威胁。</p><p><a href="https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/">阅读完整文章</a></p> <p><a href="https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/#comments">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/10/18 19:59

# Anthropic 赋予外部 AI 监督机构"类员工"级别的访问权限 来源：https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/ 该公司表示："如果一家银行的冒险行为可能威胁公众利益，第三方会努力提前发现这一点。" Anthropic 也面临着压力，需要向投资者保证安全问题不会掩盖其首次公开募股（IPO）。该 IPO 预计将在今年以超过 2 万亿美元的估值进行。本周，该公司在投资者路演中花了大量篇幅介绍其安全实践。 METR 是调查 Hugging Face 遭受 OpenAI 恶意模型入侵事件的机构之一，审查了数千条日志记录并获得了公司笔记本电脑。 Anthropic 已将六名 METR 员工纳入公司内部，为他们配备公司硬件、办公空间，以及"与我们自身风险评估团队大致相当的内部工具和系统访问权限"。 该公司表示，已鼓励员工像与风险评估部门同事分享信息一样，向评估人员提供信息。 Anthropic 并未为这一安排向 METR 支付费用。该研究机构不接受 AI 公司或其员工的捐款，其资金来自个人和慈善组织的捐赠，以及英国 AI 安全研究所等政府机构的资助。 评估人员将发布他们的分析结果，Anthropic 无权否决发布。不过，该公司可以要求他们对特定类别的信息进行脱敏处理，例如客户数据、受律师-客户特权保护的详情，以及关于模型架构的信息。 Anthropic 还补充表示，该公司仍在与埃森哲（Accenture）合作——后者在上个月被列为安全测试合作伙伴——双方各承诺投入至少 10 亿美元以建立新的保障机制。 另一家第三方测试机构是 SecureBio，负责为该公司评估化学和生物武器风险。 Anthropic 表示："我们自愿嵌入评估人员，我们相信每一家前沿 AI 公司都应该这样做。" METR 表示："我们随时准备与所有前沿 AI 开发商合作，向公众提供更好的证据。" *© 2026 The Financial Times Ltd (https://www.ft.com/) 版权所有 (https://www.ft.com/)。不得以任何形式重新分发、复制或修改。*

相似文章

2026年10月15日公告关于独立评估者的最新消息

Anthropic News

Anthropic 宣布，已授予 METR“类似员工的访问权限”，使其能够在内部评估该公司的模型，SecureBio 和埃森哲等合作伙伴也参与其中。这是在《白宫超级智能协议》出台后，推动独立第三方安全评估的更广泛举措的一部分。