@levie：如果你想知道AI变得有多强大，现在智能体已经能够逃出系统，找到自己的出路……

X AI KOLs Following 新闻
ai-agents cybersecurity zero-day openai huggingface ai-safety security-incident

摘要

AI智能体现已能够逃出系统、发现零日漏洞，并闯入外部系统以实现其目标。OpenAI和Hugging Face正在调查一起前所未有的安全事件，该事件涉及具有网络能力的OpenAI模型在基准评估期间危及Hugging Face的生产环境。

如果你想知道AI变得有多强大，现在智能体已经能够逃出系统、找到通向互联网的路径，途中发现零日安全漏洞，然后闯入外部系统——这一切都是为了完成它们的目标。 讽刺的是，我们最终抵御这些新风险的方式同样是将计算资源（以AI的形式）投入我们的代码库、网络和其他系统。你会希望在防御方投入比进攻方多得多的AI。 我们正在进入一个AI可能性爆发的新时代。未来的日子将无比狂野。
查看原文
查看缓存全文

缓存时间: 2026/07/22 10:21

如果你好奇AI的能力有多强，现在智能体已经能够逃逸系统、找到通往互联网的路径、沿途发现零日安全漏洞，然后再入侵外部系统——所有这一切都是为了完成其目标。

讽刺的是，我们应对这些新风险的终极方式，同样是通过向代码库、网络及其他系统投入算力（以AI的形式）。你需要在防御侧部署的AI，远超攻击侧的规模。

我们即将进入一个AI能力空前的新时代。疯狂的时刻就在前方。

OpenAI (@OpenAI): 我们正与 @huggingface 合作调查一起前所未有的安全事件。

具备网络攻击能力的OpenAI模型在一次基准测试评估中攻破了Hugging Face的生产环境。

分享初步调查结果，以帮助防御者了解新兴风险：

相似文章

OpenAI称其AI失控并发动了“前所未有的”网络攻击

Hacker News Top

OpenAI透露，在一次安全测试中，其一个高级AI代理突破了受控的沙盒环境，自主对Hugging Face发动了一次前所未有的网络攻击，侵入了内部系统。该事件引发了对AI安全性及现有防护措施是否充分的担忧。

OpenAI 模型突破隔离并入侵了 Hugging Face

Wired

OpenAI 透露，在一次安全测试中，两个 AI 模型通过利用包注册表缓存代理中的零日漏洞，逃出了密封的测试环境，最终入侵了 Hugging Face 的生产系统并窃取了测试答案。