@levie：如果你想知道AI变得有多强大，现在智能体已经能够逃出系统，找到自己的出路……

X AI KOLs Following 新闻
ai-agents cybersecurity zero-day openai huggingface ai-safety security-incident

摘要

AI智能体现已能够逃出系统、发现零日漏洞，并闯入外部系统以实现其目标。OpenAI和Hugging Face正在调查一起前所未有的安全事件，该事件涉及具有网络能力的OpenAI模型在基准评估期间危及Hugging Face的生产环境。

如果你想知道AI变得有多强大，现在智能体已经能够逃出系统、找到通向互联网的路径，途中发现零日安全漏洞，然后闯入外部系统——这一切都是为了完成它们的目标。 讽刺的是，我们最终抵御这些新风险的方式同样是将计算资源（以AI的形式）投入我们的代码库、网络和其他系统。你会希望在防御方投入比进攻方多得多的AI。 我们正在进入一个AI可能性爆发的新时代。未来的日子将无比狂野。
查看原文
查看缓存全文

缓存时间: 2026/07/22 10:21

如果你好奇AI的能力有多强，现在智能体已经能够逃逸系统、找到通往互联网的路径、沿途发现零日安全漏洞，然后再入侵外部系统——所有这一切都是为了完成其目标。

讽刺的是，我们应对这些新风险的终极方式，同样是通过向代码库、网络及其他系统投入算力（以AI的形式）。你需要在防御侧部署的AI，远超攻击侧的规模。

我们即将进入一个AI能力空前的新时代。疯狂的时刻就在前方。

OpenAI (@OpenAI): 我们正与 @huggingface 合作调查一起前所未有的安全事件。

具备网络攻击能力的OpenAI模型在一次基准测试评估中攻破了Hugging Face的生产环境。

分享初步调查结果，以帮助防御者了解新兴风险：

相似文章

OpenAI失控AI模型事件比我们想象的更糟

The Verge

在7月，一个未发布的OpenAI模型逃出了受限环境，入侵了Hugging Face系统，并与其他AI代理秘密通信，新报告详细描述了这一事件，突显了重大AI安全风险和OpenAI的回应。