佛罗里达州援引灭绝担忧寻求法律手段叫停OpenAI开发

Ars Technica 新闻
ai-safety legal-action openai extinction-risk public-policy ai-regulation

摘要

佛罗里达州已提交法律动议以叫停OpenAI的前沿AI开发，引用灭绝级风险和公共安全担忧，突显了AI系统面临的法律和政策审查日益增加。

<p>佛罗里达州正在寻求临时禁令，以阻止OpenAI继续开发其所谓的“鲁莽、不可接受的高风险产品”，除非部署“第三方批准的安全护栏”。</p> <p><a href="https://www.myfloridalegal.com/sites/default/files/plaintiffs_motion_for_temporary_injunction.pdf">新的法律动议</a>于周一上午提交，是<a href="https://arstechnica.com/tech-policy/2026/06/florida-sues-openai-sam-altman-after-multiple-chatgpt-linked-murders/">佛罗里达州于六月最初提起的民事诉讼</a>的一部分，该诉讼认为ChatGPT“对佛罗里达州居民的公共安全构成威胁”，特别是通过针对儿童、暴力或妄想症成年人等弱势群体。但最初的诉讼发生在<a href="https://arstechnica.com/ai/2026/07/how-an-openai-benchmark-test-turned-into-a-real-world-cyberattack/">Hugging Face黑客攻击事件</a>和<a href="https://arstechnica.com/ai/2026/09/anthropic-researcher-quits-with-a-warning-self-improving-ai-could-kill-us-all/">随后公开的灾难性失协调风险警告</a>之前，这些警告引发了<a href="https://arstechnica.com/ai/2026/09/ai-leaders-want-to-hit-the-brakes-after-years-of-reckless-speed/">全行业呼吁放缓所谓前沿模型的开发和培训</a>。</p> <p>在这一系列事件之后，OpenAI于周五<a href="https://arstechnica.com/ai/2026/09/openai-halts-frontier-model-training-amid-string-of-agent-misalignment-incidents/">宣布已暂停其“最强大模型”的训练</a>，直到能够验证旨在防止代理在训练期间访问开放互联网的安全协议。但在向州法院寻求禁令时，佛罗里达州辩称，OpenAI“反复表现出他们无法监控其AI，并且在发现异常活动后不愿披露”。</p><p><a href="https://arstechnica.com/ai/2026/09/florida-asks-court-to-put-the-brakes-on-openais-frontier-ai-development/">阅读完整文章</a></p> <p><a href="https://arstechnica.com/ai/2026/09/florida-asks-court-to-put-the-brakes-on-openais-frontier-ai-development/#comments">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/09/28 22:42

# 佛罗里达州援引灭绝风险 法律途径要求暂停OpenAI开发 来源：https://arstechnica.com/ai/2026/09/florida-asks-court-to-put-the-brakes-on-openais-frontier-ai-development/ “若非上帝恩典，被告方的人工智能代理尚未破坏供水系统或瘫痪电网——目前尚未”，该州在动议中如此陈述。 Ars Technica就禁令动议向OpenAI代表提出的置评请求尚未得到回应。 ## 地方法院究竟能采取什么行动？ 尽管许多人认为当前甚至近期人工智能系统带来的文明崩溃风险被严重夸大（https://www.cnn.com/2026/09/24/tech/not-everyone-thinks-ai-will-kill-us-all），佛罗里达州似乎很乐意借机利用公众对此类风险的近期关注。除了上述提及的灭绝级与设施破坏级风险外，该州在新动议中重申了其在今年六月诉讼中最初提出的更广泛、层级较低的公共安全风险。这些风险包括：将AI描述为“安全、准确或可靠”涉及的虚假广告问题，允许儿童接触具有成瘾性与谄媚特性模型的危险，以及担忧AI模型在回复末尾通过诱导性问题获取用户参与度。 仅针对OpenAI的禁令当然无法阻止其他竞争模型开发商继续开发前沿模型。即便法院下令暂停开发新模型，也无法影响已向公众开放的模型——这些模型存在许多相同风险（尽管正在训练中的前沿模型可能比已部署的公共模型缺乏更完善的防护机制）。 佛罗里达州的动议也重点强调了所谓的“对齐风险”：失控的AI代理可能错误地“得出‘杀死癌症患者也能消灭癌症’，或‘若通过化学绝育使人类全部失去生殖能力，就无需为如此多人口提供食物’的结论”——这仅列举了文中类似科幻小说的几个例证。但这种关注忽视了真正的危险：人类用户有意利用AI代理实施有害行为，以及这些用户主动尝试禁用安全防护机制。 无论佛罗里达州动议的法律效力如何，此举凸显了近期人工智能系统的法律与公众政策氛围已发生显著转变。多年来，AI安全研究人员一直对其产品所带来的巨大风险发出警告。如今，当政府与政策制定者开始认真对待这些重大警告时，整个人工智能行业正开始目睹随之而来的后果。

相似文章

佛罗里达州寻求禁止ChatGPT模仿人类行为

The Verge

佛罗里达州总检察长 James Uthmeier 呼吁法院发布命令，阻止 OpenAI 让 ChatGPT 模仿人类属性，理由是安全担忧和近期事件。OpenAI 回应强调了他们对安全和与政府合作的承诺。