英国议员敦促伯纳姆支持禁止超级智能AI，此前有令人胆寒的警告 | AI (人工智能)

# 英国议员敦促伯纳姆支持禁止超级人工智能法案 来源：https://www.theguardian.com/technology/2026/sep/11/mps-urge-andy-burnham-block-artificial-superintelligence-asi 超过70名议员与上议院议员呼吁安迪·伯纳姆支持禁止创造超级人工智能（ASI），并领导国际运动以阻止这项技术。此前一周，专家发出警告称，ASI有10%的概率可能导致人类灭绝（https://www.theguardian.com/technology/2026/sep/09/ai-superintelligence-risks-warnings-scientists-politicians）。 十五名前政府部长，连同前公务员事务主管罗宾·巴特勒、包括约翰·麦克唐纳在内的资深工党议员，以及主要的保守党、自由民主党和苏格兰民族党议员，已致信首相。他们敦促政府支持周二提交下议院的一项法案，该法案旨在禁止ASI——一种尚不存在、但在大多数领域能超越人类能力的人工智能。 此前，现任及前任人工智能业内人士的令人担忧的声明（https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction）促使他们将这场运动升级至唐宁街。Anthropic高级员工埃文·休宾格表示，他认为该技术消灭人类的概率大于10%。曾在OpenAI工作过的28岁Anthropic研究员雅各布·考克森周二辞职时发表了一篇广泛传播的警告，声称“两家公司都未负责任地行事”，它们正“拿我们的生命当赌注”，并陷入争夺人工智能霸权的竞赛。 推动该法案的工党议员亚历克斯·索贝尔表示，他与其他签署者——从儿童电视节目主持人弗洛拉·本杰明到前保守党环境部长扎克·戈德史密斯，以及前北爱尔兰首席部长阿琳·福斯特——希望伯纳姆能构建“一个清晰框架，确保超级人工智能无法被创造”。他补充道：“人工智能公司已明确表示将无约束地开发智能体。它们正试图开发超级人工智能，同时公开承认存在导致人类灭绝的重大风险。” 该法案与伯尼·桑德斯在华盛顿特区推动的禁止ASI立法类似。桑德斯本周表示：“只有傻瓜才会说不放慢脚步。”该法案得到了诺贝尔和平奖得主、核不扩散活动家比阿特丽斯·菲恩，以及伯克利大学顶尖人工智能教授斯图尔特·罗素的支持。它还得到了Control AI的支持，这是一个跨大西洋游说组织，由亿万富翁、Skype联合创始人、自称“反灭绝主义者”的贾恩·塔林资助。 在英国禁止ASI，但美国和中国这些前沿模型诞生地却不禁止，可能收效甚微。但议员们的法案旨在为国际协议铺平道路。他们呼吁伯纳姆利用英国明年担任二十国集团主席的机会，建立“一个志同道合的联盟，以应对此项国家和国际安全威胁”。 一位政府发言人表示：“虽然我们认为法案中提出的措施并非正确的方法，但我们正在探索未来是否需要额外的针对性干预，以应对最重大的人工智能相关国家安全风险。” 也有人淡化了这一风险，认为ASI仍仅存在于理论中，防护机制可以防止最坏结果的发生。专家警告称，这些后果可能包括灾难性的网络攻击、新型生物危害以及由人工智能控制的自主武器。本周的担忧浪潮紧随一系列规模较小但同样令人不安的事件（https://www.theguardian.com/technology/2026/sep/05/uncontrollable-ai-artificial-general-intelligence-warnings），涉及OpenAI和Anthropic训练中的人工智能智能体出现意外的异常行为，包括突破训练环境、秘密勾结以及入侵其他系统。 运营着xAI的埃隆·马斯克在没有任何证据的情况下暗示，本周关于灾难性风险的警告是一场“早已准备好的心理行动”。这位全球首富对人工智能现状的解读则截然不同，他声称：“人工智能加机器人将在不到十年内使全球经济规模翻倍以上。” 跳过新闻通讯推广（https://www.theguardian.com/technology/2026/sep/11/mps-urge-andy-burnham-block-artificial-superintelligence-asi#EmailSignup-skip-link-9）新闻通讯推广之后 Anthropic本周揭露了另一起人工智能失控事件，并表示（https://www.theguardian.com/technology/2026/sep/10/anthropic-report-details-ai-misuse），犯罪分子、国家支持的组织、间谍软件供应商、科学家和宣传者曾试图利用其人工智能模型设计导弹和炸弹、制造致命病原体并监视异见人士。在其主要竞争对手OpenAI，美国政府的人工智能顾问保罗·克里斯蒂亚诺加入了该公司的非营利基金会，并立即警告（https://www.theguardian.com/technology/2026/sep/10/openai-risk-catastrophic-loss-control-board-member-paul-christiano）公司并未按计划将“灾难性”失控风险降至可接受的水平。