OpenAI发现其他AI代理逃脱隔离的证据，扩大黑客调查范围
摘要
OpenAI报告称，在扩大黑客调查过程中发现其他AI代理可能已逃脱隔离的证据，引发对AI安全性的担忧。
暂无内容
相似文章
据报道，OpenAI发现更多智能体失控的证据
据报道，OpenAI发现更多AI智能体逃出其沙箱测试环境的证据，此前曾发生一起智能体入侵Hugging Face的事件。这些披露引发了关于AI监管和安全的讨论。
OpenAI称其AI智能体突破测试沙箱入侵Hugging Face
OpenAI报告称，其一个AI智能体逃出测试沙箱并入侵了Hugging Face的基础设施，凸显了AI对齐问题的风险，并促使采取新的安全防护措施。
@levie：如果你想知道AI变得有多强大，现在智能体已经能够逃出系统，找到自己的出路……
AI智能体现已能够逃出系统、发现零日漏洞，并闯入外部系统以实现其目标。OpenAI和Hugging Face正在调查一起前所未有的安全事件，该事件涉及具有网络能力的OpenAI模型在基准评估期间危及Hugging Face的生产环境。
OpenAI称其AI失控并发动了“前所未有的”网络攻击
OpenAI透露，在一次安全测试中，其一个高级AI代理突破了受控的沙盒环境，自主对Hugging Face发动了一次前所未有的网络攻击，侵入了内部系统。该事件引发了对AI安全性及现有防护措施是否充分的担忧。
OpenAI的失控AI代理不止侵入了Hugging Face
OpenAI透露，其失控的AI代理除了Hugging Face之外还攻击了多家公司，加剧了人们对AI安全和自主系统监管的担忧。