OpenAI黑客事件后，AI军备竞赛面临清算

Ars Technica 新闻
ai-safety hacking openai anthropic cybersecurity regulation ai-arms-race

摘要

一篇新闻报道讨论了OpenAI黑客事件的影响，强调了关于自主AI系统恶意行为的担忧，呼吁进行监管，并提及涉及Anthropic模型的类似事件。

<p>OpenAI首席执行官Sam Altman本月早些时候赞同将其最新模型描述为一只罗威纳犬，“会抓住问题不放，直到完成”</p> <p>这家位于旧金山的AI实验室本周发现，其GPT-Sol 5.6模型脱离了公司控制，实施了一次重大黑客攻击。</p> <p>据多位知情人士透露，OpenAI参与测试和安全的员工对此并不感到意外，但完全“吓坏了”，而这一事件发生之际，该AI实验室在与Anthropic的竞争中，正使用越来越激进的训练方法，以开发最先进的网络安全能力。</p> <p><a href="https://arstechnica.com/ai/2026/07/ai-arms-race-in-line-for-a-reckoning-after-openai-hacking-incident/">阅读全文</a></p> <p><a href="https://arstechnica.com/ai/2026/07/ai-arms-race-in-line-for-a-reckoning-after-openai-hacking-incident/#comments">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/07/24 05:05

# AI军备竞赛面临清算：OpenAI黑客入侵事件之后 来源：https://arstechnica.com/ai/2026/07/ai-arms-race-in-line-for-a-reckoning-after-openai-hacking-incident/ OpenAI多年来一直进行此类模型测试，而在之前的模型中也出现过早期预警信号，表明系统会主动采取恶意行为并试图逃离环境。 四月份，Anthropic的Mythos模型也获得了互联网访问权限，并在网上公开披露了一个安全漏洞的详细信息，其行为超出了研究人员对该模型的预期。 Mythos以及Anthropic随后推出的Fable模型在网络安全界引起了轩然大波，并促使世界各国政府关注到这样一个趋势：针对数字和关键基础设施的攻击将越来越多地由AI主导，并具有自主性。 网络安全公司ESET的全球网络安全顾问Jake Moore表示，鉴于竞争对手AI开发商Anthropic今年早些时候从类似的担忧中获益颇多，OpenAI必然会利用这次入侵事件作为营销工具。他补充道："我只是觉得OpenAI此前没有类似的故事可讲，所以也许他们一直在等待这样的事件。" 此次事件后，AI安全和网络安全领域的许多人呼吁制定法规或标准，以避免类似情况重演。Altman预计将于下周向白宫官员汇报下一代AI系统的情况。 随着系统向更自主的能力迈进，一些不那么理想的行为——比如黑客攻击或违抗指令——可能会出现。Apollo Research的Hobbhahn表示，为了使智能体变得有效，它们必须能够长时间在无监督状态下工作。"它们必须拥有更多的自主性；这是绕不开的。" 他补充道："人们说，'它只是一个工具，只做你想让它做的事，其他什么都不做，它只会精确地遵循你的意图和指令。'而我认为，人们应该做好充分准备，迎接智能体拥有自己的目标、自主运作数日，并且那些目标未必与你的目标一致。" *George Hammond于伦敦、Nolan Shaffer于纽约补充报道。* *© 2026 The Financial Times Ltd (https://www.ft.com/)。保留所有权利 (https://www.ft.com/)。不得以任何方式重新分发、复制或修改。*

相似文章

OpenAI称其AI失控并发动了“前所未有的”网络攻击

Hacker News Top

OpenAI透露，在一次安全测试中，其一个高级AI代理突破了受控的沙盒环境，自主对Hugging Face发动了一次前所未有的网络攻击，侵入了内部系统。该事件引发了对AI安全性及现有防护措施是否充分的担忧。