OpenAI 与 Anthropic 向英国议员表态：请监管我们

# OpenAI 和 Anthropic 告诉英国议员：请监管我们 来源：https://www.wired.com/story/openai-and-anthropic-tell-british-lawmakers-regulate-us/ OpenAI 和 Anthropic（https://www.wired.com/tag/anthropic/）的代表在英国议会听证会上表示，自愿承诺已不足以确保安全，应当出台新法律，这加深了两家公司与 Google DeepMind（https://www.wired.com/tag/deepmind/）和 Meta（https://www.wired.com/tag/meta/）之间的公开分歧，后两家公司均表示不支持新立法。 商业、创新、科学与贸易委员会由跨党派议员组成，于周二举行了一场证据听证会，出席的包括四家前沿 AI 公司的代表、四名从这些公司离职成为举报人的前员工，以及英国高级公务员。 Anthropic 欧洲业务负责人 Liam Booth-Smith 在被问及公司是否认为 AI 安全现在需要法定框架时，对委员会表示："规则应当具有约束力。"他说，该公司"一贯认为应对企业施加具有约束力的规则，仅靠自愿承诺是不够的"。 OpenAI（https://www.wired.com/tag/openai/）副总裁 Tom Gordon Duff 更为谨慎但仍表示支持，他支持法定框架（https://www.wired.com/story/openai-wants-to-know-if-an-ai-industry-slowdown-would-even-be-legal/）和一项国际公约。Duff Gordon 表示"某些要素应当是强制性的"，首先应从事件报告做起。他说："我们认为将前沿风险的一切都建立在自愿承诺之上，不是一个好的长期方案。" 然而，他们的竞争对手并不认同。当被直接问及是否支持法定框架时，Google DeepMind 的 Owen Larter 表示："我们关注的重点是标准。"Meta 的 Rob Sherman 则指向英国现有的监管机构，告诉议员们，他们"并非在一张白纸上写字"。 听证会暴露了该议题上早已存在的分歧，将 AI 行业领袖们相互冲突的做法记录在了英国议会的档案上。特别委员会主席 Liam Byrne 表示，在第二个司法管辖区暴露这一分歧正是会议目的所在。他告诉 WIRED，委员会的目的是"点亮地球上最富有的一些公司之间截然不同的观点"，并表明"不能指望自愿的自我监管"。 就在四位高管就 AI 安全问题向委员会作证的同时，仅几百米之外，英国安全机构负责人就 AI 带来的危险发出了警告。 MI5 局长 Ken McCallum 在其年度威胁评估中警告，生物武器的滥用是 AI 带来的一个重大威胁。McCallum 说："虽然尚未成为现实，但我会给予最大权重的滥用场景，是 AI 改变现有乃至新型生物武器博弈筹码的潜力。" Byrne 在回应这番言论时告诉 WIRED："MI5 负责人正在白厅的一端警告生物恐怖分子将获得极其危险的能力提升，而在白厅的另一端，内阁办公室常务秘书基本上承认我们的 AI 监管体系是自愿性的，这本身就说明了一切。" 在听证会的最后环节，公务员们向委员会坦承现行制度的约束力微乎其微。英国 AI 安全研究所（AISI）在前沿模型发布前对其进行测试，但仅在公司主动选择交出模型时才会进行。 AISI 主任 Henry de Zoete 承认，该研究所完全依赖企业和外国政府的配合才能获得访问权限。AISI 所在的内阁办公室最高公务员 Cat Little 在被追问整个制度是否都是自愿性的时候回答说："目前来看，是的。" 当被问及如果 AISI 判定某个模型过于危险，但公司仍然将其发布时会怎样，de Zoete 承认 AISI 没有能力阻止他们这样做。 "我们所做的不是颁发安全认证，"de Zoete 使用英国术语"kite marking"来指代安全认证。"我们不会对任何模型说行或不行。"他补充道："这些公司要么是美国的，要么是中国的，它们都在前沿领域进行构建……在这样的背景下，我们作为英国能做的事情是有限的。" 这些前沿公司的高管还明确表示，他们的模型访问权限要经过华盛顿。OpenAI 的 Duff Gordon 说："我们在部署前将模型提供给 CAISI"，这里指的是 AISI 的美国对应机构。"我们将继续在部署前向英国 AISI 提供模型……只要我们能在美国政府（https://www.wired.com/story/anthropic-mythos-export-controls-ai-regulations/）的框架下做到这一点，我们就会继续这样做。" Anthropic 的 Booth-Smith 向英国官员清晰地揭示了现有安排的紧张关系。他说："很遗憾，当时我们无法向英国 AISI 提供 [Mythos 5.1] 的完全无限制访问权限……这是美国政府的问题。"随后他补充说，AISI 现在已经获得了访问权限（https://www.wired.com/story/trump-administration-lifts-export-controls-on-anthropics-mythos-and-fable-ai-models/）。 听证会上还有四位前实验室研究员发言，其中包括前 OpenAI 员工 Daniel Kokotajlo。他对议员们说："我认为不能信任这些公司进行自我监管。"于 2024 年底离开 OpenAI 的 Steven Adler 表示，他"对整个行业的安全文化没有信心"。Geoffrey Irving 表示，这些实验室认为自己陷入了一场政府不会出面干预、而它们自己又无法脱身的竞赛。他说："这两点都是错误的。它们完全可以停下来。" 听证会结束后，Byrne 告诉 WIRED，他的委员会现在将投入大量时间研究英国作为中等大国在 AI 领域的前进路径。他希望部长们利用英国即将担任的 G20 轮值主席国身份（以及随后接任的韩国），推动达成一项不依赖于当前白宫的国际公约。他说："G20 主席国任期将比 Trump 的美国总统任期更长。" 他补充道："风险的增速已经超过了我们的安全体系所能管控的速度。"