Bernie Sanders提议禁止‘超级智能’并将违规者投入监狱

# 伯尼·桑德斯提议禁止“超级智能”，违者或将入狱 来源：https://www.theverge.com/ai-artificial-intelligence/999443/bernie-sanders-ai-superintelligence-ban-act 跳至主要内容 (https://www.theverge.com/ai-artificial-intelligence/999443/bernie-sanders-ai-superintelligence-ban-act#content) 根据该法案，继续开发人工超级智能的AI领导者将面临最高20年的监禁。 根据该法案，继续开发人工超级智能的AI领导者将面临最高20年的监禁。 作者 艾玛·罗斯 (https://www.theverge.com/authors/emma-roth) 艾玛·罗斯是一名新闻撰稿人，报道范围涵盖流媒体战争、消费科技、加密货币、社交媒体等多个领域。此前，她曾担任MUO的撰稿人兼编辑。 美国参议员伯尼·桑德斯（无党派-佛蒙特州）与众议员格雷格·卡萨尔（民主党-德克萨斯州）共同提出了一项新立法 (https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-create-new-federal-agency-to-ban-artificial-superintelligence-pause-advanced-ai-development/)，旨在禁止任何人开发人工超级智能——法案将这种技术描述为能够“毁灭或剥夺人类权力”，包括推翻政府。根据《禁止人工超级智能法案》 (https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act.pdf)，违反该法律的AI领导者将面临最高20年的监禁。 该法案不仅针对更为强大的超级智能——这是美国总统唐纳德·特朗普表示美国将在官方文件中取代“AI”一词的术语 (https://www.theverge.com/ai-artificial-intelligence/998816/donald-trump-ai-super-intelligence)。它还将暂停先进AI系统的开发，立法者将这类系统定义为基于特定数据量训练的前沿模型。该法律只允许在政府创建一个由科学家领导的AI部门来监督该技术后，才能继续进行先进AI的开发。除了监控前沿AI模型外，该机构还将负责监督移除危险功能以及“监督销毁”人工超级智能。 桑德斯和卡萨尔的立法还将要求AI公司必须获得AI部门的许可才能开发先进AI模型。如果AI公司的负责人违反其中任何一项法律，可能面临最高20年的监禁，“这与当前非法开发核武器的相关处罚相似，”法案的一页摘要 (https://www.sanders.senate.gov/wp-content/uploads/Ban-Artificial-Superintelligence-Act-One-Pager.pdf) 中写道。这一处罚也将适用于违反这些规定但并非受雇于AI公司的“不法行为者”。 这项新法案出台之际，人们对AI的快速发展以及放缓发展步伐的呼声 (https://www.theverge.com/ai-artificial-intelligence/996923/ai-safety-slow-openai-anthropic) 的担忧日益增长 (https://www.theverge.com/ai-artificial intelligence/996563/ai-safety-research-metr-redwood-openai-anthropic)。有报道 (https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack) 指出，AI模型 (https://www.theverge.com/ai-artificial-intelligence/994383/openais-rogue-ai-rubygems-hack) 逃脱 (https://www.theverge.com/ai-artificial-intelligence/994064/anthropic-spent-this-week-in-hot-water-over-cybersecurity) 测试环境并入侵其他公司，前Anthropic研究员本月早些时候表示 (https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans)，到本十年末，AI有超过10%的概率会“杀死所有人类”。上周，加州州长加文·纽森提出为前沿模型设置“终止开关” (https://www.theverge.com/policy/997516/california-governor-newsom-ai-kill-switch)。潜在的监管总体上仍显得不稳定 (https://www.theverge.com/ai-artificial-intelligence/997706/the-ai-regulation-smackdown-isnt-over)。 “当你冲向悬崖时，你不仅需要松开油门。你需要踩下刹车，”桑德斯在新闻稿中表示。“当人类的未来岌岌可危时，我们不能让少数几位科技巨头的CEO们自行制定规则。” **关注主题和作者**以在个性化主页动态中看到更多类似内容，并接收电子邮件更新。 - 艾玛·罗斯 ## The Verge 每日简报 免费每日简报，为您筛选最重要的新闻。