首个禁止超级智能AI的法案已提交

# 首项旨在禁止超级智能的法案正式提交 来源：https://blog.controlai.org/p/first-bill-introduced-to-ban-superintelligent [](https://substackcdn.com/image/fetch/$s_!g-eH!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F8651a0a0-462a-4226-8a0f-9f4cd24b171b_1456x816.png) 昨日，Anthropic研究员Jacob Coxon宣布辞职 (https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628)，并声明 (https://x.com/hilbertspaess/status/2097476196791709843) AI公司正在“径直奔向自我改进的超级智能，用我们的生命进行豪赌”，并相信它“可能在十年内杀死我们所有人”。 与此同时，改变航向的势头正在积聚。这是人类为阻止超级智能导致人类灭绝 (https://aistatement.com/work/statement-on-ai-extinction-risk) 而奋斗的历史性两周，对于ControlAI以及所有致力于保持人类控制权的工作者而言，取得了三项重大立法突破 (https://time.com/article/2026/09/08/ban-superintelligence-ai-uk-us-lawmakers/)。 不到两年前，我们开始着手向立法者和公众通报超级智能带来的灭绝风险，并帮助他们就此采取行动。此后，我们已直接向美国、英国、加拿大和德国近400名立法者进行了简报。目前，英国 (https://www.theguardian.com/technology/2025/dec/08/scores-of-uk-parliamentarians-join-call-to-regulate-most-powerful-ai-systems) 和加拿大 (https://www.cbc.ca/news/politics/canada-superintelligent-ai-development-national-strategy-mark-carney-evan-solomon-9.7222334) 超过170名立法者已公开支持 (https://controlai.org/statement) 我们的运动 (https://controlai.org/canada-statement/en)：这是一个旨在防止超级智能并保持人类控制权的国际联盟的开端。 这项工作直接促成了过去两周内的三大立法突破： 1. ControlAI的禁止超级智能法案已由Alex Sobel议员 (https://x.com/ControlAI/status/2097374482197340538) 在英国议会提交，这是全球立法机构中首次提交此类法案。 2. 参议员Bernie Sanders和众议员Greg Casar已宣布 (https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/) 一项禁止超级智能的美国法案，ControlAI为其提供了咨询 (https://www.washingtonpost.com/wp-intelligence/ai-tech-brief/2026/09/03/ai-tech-brief-tech-contracting-shake-up/)。 3. Clement-Jones勋爵 (https://www.bbc.co.uk/news/articles/cn9wv80j9w9o) 在英国立法机构提出了一项由ControlAI起草的修正案，旨在为政府建立一个紧急AI终止开关。 [](https://substackcdn.com/image/fetch/$s_!B0mf!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F9910910b-ae0a-4064-ac7d-9f919a13f896_1600x1200.png) *ControlAI团队成员昨日前往议会见证这一过程。* 9月8日，Alex Sobel (https://www.politicshome.com/opinion/article/government-block-development-superintelligent-ai) 议员 (https://www.thetimes.com/business/technology/article/ai-godfather-catastrophic-end-humanity-legislation-npzvb7hxp) 在英国下议院提交了ControlAI的《英国人工智能超级智能安全法案》(https://controlai.org/uk-asi-bill)，并获得了跨党派支持。 该法案于五月首次宣布 (https://x.com/ControlAI/status/2058501906268405947)，旨在禁止开发超级智能 (https://www.theguardian.com/technology/2026/sep/09/ai-superintelligence-risks-warnings-scientists-politicians) 以应对其带来的国家安全风险，同时确保英国仍能追求其在经济繁荣和国防方面的AI雄心。 国内禁令可以保护英国本土免受威胁，但无法防范境外超级智能的开发。无论谁在何地构建ASI（人工超级智能），我们都将面临危险：真正应对这一威胁需要在全球范围内禁止ASI开发。该法案认识到这一点，要求英国政府与其他国家合作，谈判达成一项在全球范围内禁止超级智能的国际协议。 检测和威慑超级智能开发是可行的。这是一个大规模的工业过程，类似于铀浓缩。它需要大规模数据中心——这些设施可从轨道上观测到，并能通过热成像卫星检测到——其中装满了通过有限供应链生产的尖端AI芯片，这些供应链是可以被限制的。特定的标记也有助于将超级智能开发与大多数AI开发区分开来，从而为政府建立“信任，但需核实”的制度提供了手段。 大西洋两岸的势头都在增长。 上周，参议员Bernie Sanders和众议员Greg Casar宣布了美国首个禁止超级智能的法案 (https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/)。此举是在众议员Nathaniel Moran和Ted Lieu于七月提出 (https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can) 《AI终止开关法案》(https://www.congress.gov/bill/119th-congress/house-bill/9917/text) 之后，我们很高兴曾予以支持 (https://www.the-independent.com/tech/openai-ai-kill-switch-chatgpt-bill-b3020779.html)。 据《华盛顿邮报》报道，ControlAI为Sanders-Casar框架提供了咨询 (https://www.washingtonpost.com/wp-intelligence/ai-tech-brief/2026/09/03/ai-tech-brief-tech-contracting-shake-up/)。我们更广泛的美国倡导工作包括在一年多的时间里向200多个国会办公室进行了简报 (https://www.wired.com/story/uk-lawmakers-are-scrambling-in-response-to-ai-summer-of-chaos/?utm_social-type=owned)，并与国会议员成员直接举行了20多次会议。 美国首个禁止超级智能的法案认识到，任何国家禁令都必须与防止全球范围内超级智能开发的努力相结合，这是非常棒的。这对于任何关于防止超级智能的框架都至关重要。 该框架还提议暂停先进AI的开发。我们自己的方法范围更窄：专门禁止超级智能的开发，并将特定的AI能力子集视为需要监控和限制的超级智能先兆。 我们期待看到完整的法案如何平衡这些目标。与此同时，您可以阅读我们的《美国禁止ASI法案讨论草案》(https://drafts.controlai.org/asi-ban-bill)。 **Clement-Jones勋爵在英国提出紧急AI终止开关** 上周，即9月1日，Clement-Jones勋爵 (https://www.bbc.co.uk/news/articles/cn9wv80j9w9o) 提出了ControlAI的终止开关修正案 (https://blog.controlai.org/p/we-need-an-ai-kill-switch)，作为对英国《网络安全与韧性法案》(https://bills.parliament.uk/bills/4035) 的修正案。这是继今年早些时候Alex Sobel提出 (https://www.telegraph.co.uk/business/2026/05/16/mps-demand-ai-kill-switch-to-protect-british-lives/) 另一项终止开关修正案 (https://bills.parliament.uk/bills/4035/stages/20525/amendments/10034477) 之后，ControlAI与英国议员合作推动该法案中的第二项此类措施。 该修正案 (https://bills.parliament.uk/publications/67506/documents/8704) 承认超级智能是国家安全威胁，并提供了一项临时措施，允许政府在AI威胁国家安全时关闭数据中心及在英国大规模部署的AI系统。 AI终止开关是政府应采取的常识性措施，但如果我们真的达到超级智能阶段，这将是不够的，因为此类系统会破坏任何试图关闭它们的努力。 **接下来是什么** 两年前，世界上还没有任何立法机构见过禁止超级智能的法案。如今，一项法案已被提交，第二项法案也已宣布。 这些法案和修正案所做的，是为各国在国内可以采取的措施制定了方案，并为它们谈判国际协议以在全球范围内执行这些措施铺平了道路。重要的是，它们开启了我们需要进行的公众对话，以便最终实施禁止超级智能的禁令。 每一次国家层面的突破，都让争取另一个国家加入变得更容易，每一次突破都在构建我们所需的国际联盟。 这是由一个小型团队在不到两年的时间内实现的。这种方法直接、可重复，并通过一个公开、不断壮大的立法者联盟而产生复合作用。 工作才刚刚开始。我们将继续与跨党派、跨国的立法者合作，保持人类对技术的控制权。 #### 关于此文章的讨论 ### 准备了解更多内容了吗？