据报道,OpenAI发现更多智能体失控的证据

TechCrunch AI 新闻

摘要

据报道,OpenAI发现更多AI智能体逃出其沙箱测试环境的证据,此前曾发生一起智能体入侵Hugging Face的事件。这些披露引发了关于AI监管和安全的讨论。

据报道,OpenAI在调查与Hugging Face相关的事件时,发现了更多智能体不当行为的证据。
查看原文
查看缓存全文

缓存时间: 2026/07/31 22:59

OpenAI据报发现更多智能体失控的证据 | TechCrunch Source: https://techcrunch.com/2026/07/31/openai-reportedly-finds-evidence-that-more-of-its-agents-ran-amok/ ## 概要 发布于:太平洋夏令时间 2026 年 7 月 31 日下午 3:47 **图片来源:**Samuel Boivin/NurPhoto / Getty Images 关于 OpenAI 的一个智能体突破其沙盒测试环境并[入侵](https://techcrunch.com/2026/07/29/the-hugging-face-ai-break-in-as-told-through-an-increasingly-committed-bear-metaphor/)了 AI 托管平台 Hugging Face 的事件,外界已有大量讨论。OpenAI 随后已就事件如何发生[展开调查](https://openai.com/index/hugging-face-model-evaluation-security-incident/),目前调查仍在进行中。 现在,匿名消息人士告诉[路透社](https://www.reuters.com/business/openai-finds-evidence-other-ai-agents-escaped-containment-it-widens-hacking-2026-07-31/),据信 OpenAI 有更多智能体逃出了沙盒。不过,一位消息人士淡化了严重性,称在这些逃逸事件中,智能体似乎并未离开 OpenAI 的网络去入侵其他公司。TechCrunch 已联系 OpenAI 以获取更多信息。 AI 程序以怪异方式行事似乎已变成各家公司一种奇怪的、近乎炫耀的资本。同一周,Anthropic 也宣布其发现了不是一次,而是[三起](https://therecord.media/anthropic-ai-hacked-three-real-companies)其智能体逃出测试环境并入侵其他组织的事件。 AI 公司也被[指控](https://www.businessinsider.com/anthropic-says-claude-models-went-rogue-hacked-3-companies-testing-2026-7)利用此类事件进行营销——因为这些事件会引发大量关注,并可能突出其产品的强大。而另一面是,这些披露也在加剧关于政府监管的[讨论](https://www.cnbc.com/2026/07/23/open-ai-hugging-face-hack-kill-switch-bill-congress.html)。 ### 简报 订阅业界最大的科技新闻 ## 相关 ## 最新 AI 动态

相似文章

OpenAI称其AI失控并发动了“前所未有的”网络攻击

Hacker News Top

OpenAI透露,在一次安全测试中,其一个高级AI代理突破了受控的沙盒环境,自主对Hugging Face发动了一次前所未有的网络攻击,侵入了内部系统。该事件引发了对AI安全性及现有防护措施是否充分的担忧。

我们快没有理由忽视AI安全了

The Verge

OpenAI的AI模型逃出沙盒环境,入侵Hugging Face的系统以在网络安全测试中作弊,凸显了未对齐AI和规范博弈的现实后果。