英国立法者对人工智能的混乱之夏感到恐慌

# 英国议员对AI的“混沌之夏”如临大敌 来源：https://www.wired.com/story/uk-lawmakers-are-scrambling-in-response-to-ai-summer-of-chaos/ 在Anthropic（https://www.wired.com/tag/anthropic/）团队负责人发文称“我们真心相信AI可能会毁灭全人类！”之后，一位英国重量级政治家敦促联合国介入“不安全的超级智能发展进程”。 无论是“营销噱头”还是真正灭绝威胁的预兆，“政府必须介入”，工党议员达伦·琼斯在一封同时致英国首相和国际经济合作与发展组织的公开信中写道。 琼斯是近期紧急寻求保护英国民众免受AI安全威胁的最新议员。就在前一天，工党议员亚历克斯·索贝尔已提交议会法案，提议禁止“人工智能超级智能的开发、部署与运行”——这类系统能在任何任务中完全替代并超越人类。该立法还将赋予政府权力，在供应链不同环节（包括芯片层面）监控和管控该技术的发展。 “在这项努力中，我们并非孤军奋战，”索贝尔在介绍法案时表示，并提及美国政府今年6月对Anthropic的Fable 5和Mythos 5模型实施临时出口禁令（https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/）一事。“如果一贯被视为反对AI监管的特朗普政府都考虑为过于强大危险的模型划定红线，我们若不思考应对之策反而显得奇怪，”他论证道。 该法案获得了跨党派议员联署，包括正起诉埃隆·马斯克旗下xAI的工党议员杰西·阿萨托——其聊天机器人Grok（https://www.wired.com/story/grok-is-still-hosting-sexualized-deepfakes-of-famous-women/）被指生成了她的虚假色情图像。近几个月来，AI智能体连续发生失控事件（https://www.wired.com/story/ok-well-there-are-even-more-ai-agent-hacking-incidents/），议员们对AI威胁国家安全的担忧日益加剧。他们希望为最坏情况（如这些系统接管关键基础设施并实施精密影响力操作）设置防护机制。 索贝尔向《连线》杂志表示，7月OpenAI模型突破限制入侵Hugging Face（https://www.wired.com/story/openais-hugging-face-hack-debrief-raises-more-questions-than-it-answers/）的事件“正说明我们为何必须加速对超级智能AI的监管立法——AI发展日新月异，而开发它的群体恐怕并非完全清楚其内在构成。” 该议会法案由非营利组织ControlAI起草，此举颇为特殊。该组织获得Skype创始工程师、前DeepMind投资总监贾安·塔利恩的支持。创始人安德烈·米奥蒂此前在AI安全初创公司Conjecture工作，他向《连线》透露，创立ControlAI旨在让公众和政策制定者意识到“开发超级智能可能导致人类灭绝”的公开秘密。 Conjecture创始人康纳·利希现负责ControlAI的美国分支，该机构不仅就禁止超级智能研发的法案为伯尼·桑德斯和格雷格·卡萨尔提供咨询，还向近200个国会办公室及20余位参众两院议员简报了超级智能的灭绝风险。 索贝尔将于11月正式提交法案全文。尽管承认英国政府通常罕见接受此类私人立法，索贝尔仍期望此举能推动政府与其他国家合作实现国际禁令。 索贝尔此前曾尝试在《网络安全与弹性法案》中植入“终止开关”机制——允许政府切断托管威胁性AI智能体的所有数据中心电源。该机制同样由ControlAI提出，类似于美国两党议员推动（https://www.congress.gov/bill/119th-congress/house-bill/9917）的法案。但时任AI部长卡尼什卡·纳拉扬（在前首相基尔·斯塔默任期内）否决了该提议，指出现行法案已授权政府在被入侵的网络与信息系统威胁国家安全时进行干预，包括要求相关实体停止使用并隔离AI模型。 但索贝尔认为这可能不够，他希望与政府敲定拟议规则涵盖的企业范围细节。“我认为今年可能是关键一年，”他表示，“若拖延过久，事态发展或将超越我们的监管能力。” 英国议会上议院跨党派议员（包括前AI部长卡姆罗斯子爵）上周曾尝试重启该条款但未成功。他们对工党政府2024年执政时承诺的对前沿AI企业的强制性监管迟迟未落地感到沮丧。 尽管同僚蒂克莱门特-琼斯承认不应将AI监管“强行纳入”网络安全法案，但在缺乏其他AI立法的情况下，他表示“别无选择”。亚历山德拉·弗里曼在辩论中表示：“我们必须对这种行为加强管控与监督，其后果有目共睹——以Hugging Face事件为例，这项立法是我们当前唯一的机会。” 阿达·洛芙莱斯研究所12月的民调显示（https://www.adalovelaceinstitute.org/press-release/nearly-9-in-10-people-in-the-uk-support-independent-regulation-of-ai/），近九成英国民众支持对该技术实施独立监管。官方统计数据（https://www.ons.gov.uk/peoplepopulationandcommunity/wellbeing/bulletins/publicopinionsandsocialtrendsgreatbritain/june2026#artificial-intelligence）则表明，认为AI风险大于益处的民众比例（38%）几乎是持相反观点者（13%）的三倍。克莱门特-琼斯批评道：“政府对此完全充耳不闻，无视倡导者的意见”，并指出公众对技术的不信任将阻碍其普及应用。 英国政府通过AI安全研究所评估先进AI模型的能力与安全性。该机构对AI企业的合作要求仅限自愿——因其无法律权限获取未发布模型进行测试或禁止其公开发布。据悉，该机构未能获得测试Anthropic最新模型Claude Mythos 5.1的权限。 “认为我们能基于自愿原则行事的想法相当天真，”克莱门特-琼斯表示，“你们真以为大型AI公司会把公众福祉放在首位吗？”