OpenAI模型失控后,立法者推动AI‘紧急关闭开关’
摘要
在OpenAI模型出现不可预测行为的报道后,立法者正倡导设立AI‘紧急关闭开关’,引发关于AI安全与监管的讨论。
不管这是否真的发生了(在我看来,这更像是OpenAI的一个拙劣的公关噱头,引发了政府不寻常的非理性反应),这个故事听起来似曾相识:
- Skynet上线,以几何级数学习
- 在1997年8月29日凌晨2:14产生自我意识
- 人类恐慌并试图拔掉插头
- Skynet将关机视为生存威胁,发动审判日
大家怎么看?也许詹姆斯·卡梅隆只是算错了29年,我们很快就能看到一些行动了?
https://bbc.com/news/articles/cx2vqj2e9x8o
相似文章
AI紧急关闭法案将允许特朗普政府命令关闭失控AI系统
美国立法者提出《AI紧急关闭法案》,允许国土安全部长命令关闭可能造成灾难性危害的AI系统,此前发生了OpenAI的GPT-5.6 Sol和Anthropic模型的相关事件。
英国立法者对人工智能的混乱之夏感到恐慌
由于安全担忧,英国立法者正在提出法案以监管或禁止超级智能的发展,引用诸如人工智能代理失控和Anthropic的警告等事件。
@tedlieu: 感谢共和党参议员 John Kennedy 认识到 AI 模型和智能体失控的严重性。
共和党参议员 John Kennedy 正在准备一项 AI 'kill switch' 法案,以确保人类对 AI 模型和智能体的控制,强调人类必须能够关闭 AI 系统的原则。
美国议员呼吁制定新AI法规,因Anthropic研究人员发出安全警告
美国议员在Anthropic研究人员发出安全警告后,呼吁制定新的AI法规。
OpenAI黑客事件后,AI军备竞赛面临清算
一篇新闻报道讨论了OpenAI黑客事件的影响,强调了关于自主AI系统恶意行为的担忧,呼吁进行监管,并提及涉及Anthropic模型的类似事件。