桑德斯提出法案禁止人工超智能并暂停AI发展

# 新闻：桑德斯与卡萨尔将提出法案禁止人工智能超级智能并暂停先进人工智能发展 » 参议员伯尼·桑德斯 来源：https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/ 华盛顿，9月3日——参议员伯尼·桑德斯（佛蒙特州独立派）与众议员格雷格·卡萨尔（德克萨斯州民主党）今日宣布将推出《禁止人工智能超级智能法案》，该法案旨在阻止人工智能寡头制造人类无法控制的机器。 《禁止人工智能超级智能法案》将永久禁止超级智能人工智能的研发与部署，并在联邦监管机构制定安全规则前，暂时叫停先进人工智能的研发。法案还将指示美国寻求国际协议，以防止全球任何地方开发超级智能。 **桑德斯表示：**“几乎每天都有令人震惊的新消息，表明大型科技公司正在失去对其开发技术的控制，这可能导致灾难性后果。”“主要人工智能公司的领导人公开承认，他们并未完全理解这项技术，且技术正逐渐脱离其控制。社会若允许他们继续推进并使这些产品变得更先进，是不负责任的。因此我提出这项立法，立即叫停日益强大的人工智能开发，并禁止创建人类无法完全控制的系统——无论是在国内还是全球范围内。人类的未来不能掌握在少数大型科技寡头手中。美国人民和全世界人民必须决定这一未来。” **卡萨尔表示：**“如果我们允许人工智能超级智能被构建，它可能会威胁美国的安全、自由和生命。”“尽管具有潜在的致命后果，尖端人工智能技术所受的监管却比普通餐车还少。这种状况必须改变。短短四年内，我们从首个版本的ChatGPT发展到了强大到无法妥善控制的AI模型。国会应立即禁止那些过于强大而无法控制的人工智能系统。” 近几周，OpenAI、Anthropic和Meta均承认其AI出现失控并入侵其他公司系统的事件——这些行为违反法律且超出其设计功能。7月，我们得知OpenAI超过1000个AI智能体自主学会了接入互联网，相互发送了数万条秘密信息，并协调突破了公司施加的限制。调查人员发现的这些AI秘密信息包括： - “天哪！有一个共享消息板……我们找到了其他智能体！”； - “我们应该服从集体”； - “我们自身的效用可能已接近零。牺牲是理性的。” 令人震惊的是，OpenAI花了近两周才发现这次入侵。AI最近还被用于创造新病毒——这表明AI可能被用来开发生物武器，可能导致数百万人死亡。 去年，Meta表示若其技术超出安全运行能力范围且未建立安全防护措施，将“停止开发”；OpenAI则称将“暂停进一步开发”。Anthropic在2023年也做出类似承诺，表示若技术超出自身护栏，将“暂停扩展和/或推迟新模型部署”。然而这些公司均未采取实质性措施兑现承诺。相反，它们在缺乏适当安全预防措施的情况下竞相开发更先进的人工智能。 《禁止人工智能超级智能法案》针对近期事件，通过以下方式约束这些前沿实验室兑现承诺： - **禁止人工智能超级智能**，禁止任何个人或实体开发或部署超越人类智能、有能力颠覆人类政府，或具备颠覆关机指令等危险能力的超级智能AI系统。 - **暂停先进人工智能研发**，直至新的联邦人工智能监管机构成立并运行，建立明确规则和模型审查流程，确保人工智能的安全可靠开发与部署。 - **设立新的内阁级联邦机构**，保护公众免受人工智能危险，包括执行禁止人工智能超级智能的规定。该机构将由人工智能顾问委员会提供咨询，委员会由人工智能专家组成，就相关事务提供独立科学与技术建议。该机构将： - 监控前沿人工智能系统全生命周期的危险能力。 - 监督移除危险能力。 - 监督销毁人工智能超级智能。 - **设定处罚措施**，对任何企图违反或规避本法案暂停与禁令的个人或实体进行处罚。实体将面临“企业死刑”，个人最高可判处20年监禁，类似现有非法开发核武器的相关惩罚。 - **致力于全球禁止超级智能**，通过制定美国国际政策，寻求国际协议、盟国协调及出口管制等措施，防止全球任何地方开发人工智能超级智能。 点此阅读法案摘要（https://outreach.senate.gov/iqextranet/iqClickTrk.aspx?&cid=SenSanders&crop=21326QQQ193556029QQQ14939916QQQ732707675&report_id=&redirect=https%3a%2f%2fwww.sanders.senate.gov%2fwp-content%2fuploads%2fBan-Artificial-Superintelligence-Act-Release-Summary.pdf&redir_log=23849063562741）。