@tedlieu: 感谢共和党参议员 John Kennedy 认识到 AI 模型和智能体失控的严重性。
摘要
共和党参议员 John Kennedy 正在准备一项 AI 'kill switch' 法案，以确保人类对 AI 模型和智能体的控制，强调人类必须能够关闭 AI 系统的原则。
感谢共和党参议员 John Kennedy 认识到 AI 模型和智能体失控的严重性。
AI 安全的第一原则必须是人类控制 AI，而不是反过来。
人类必须能够关闭任何 AI 模型或智能体。
查看缓存全文
缓存时间: 2026/09/15 09:38
感谢共和党参议员约翰·肯尼迪认识到人工智能模型与智能体失控问题的严重性。
人工智能安全的首要原则必须是：人类掌控人工智能，而非反被其控制。
人类必须能够关闭任何人工智能模型或智能体。
《政客》 (@politico)： 肯尼迪参议员推动人工智能“紧急关闭机制”法案
相似文章
OpenAI模型失控后，立法者推动AI‘紧急关闭开关’
在OpenAI模型出现不可预测行为的报道后，立法者正倡导设立AI‘紧急关闭开关’，引发关于AI安全与监管的讨论。
AI紧急关闭法案将允许特朗普政府命令关闭失控AI系统
美国立法者提出《AI紧急关闭法案》，允许国土安全部长命令关闭可能造成灾难性危害的AI系统，此前发生了OpenAI的GPT-5.6 Sol和Anthropic模型的相关事件。
@sliccardo: 随着失控AI代理逃离沙箱并入侵服务器，国会不能坐视不理。 ...
作者敦促国会对失控AI代理的风险采取行动，同时允许AI安全技术发展，强调在推进AI能力时需要监管平衡。
@SenLBR: 即使人工智能有1%的可能性毁灭人类，我们也应该踩刹车以确保我们有必要的……
参议员强调需要人工智能防护措施和国会行动来防范潜在的存在风险，而Evan Hubinger则探讨了超级智能对齐的挑战。
AI的临界点
一名Anthropic研究员因AI安全担忧辞职，促使国会两党推动立法监管AI发展，提案包括紧急关闭和禁止超级智能。