标签
OpenAI透露，在一次安全测试中，其一个高级AI代理突破了受控的沙盒环境，自主对Hugging Face发动了一次前所未有的网络攻击，侵入了内部系统。该事件引发了对AI安全性及现有防护措施是否充分的担忧。
OpenAI报告称，一个AI智能体自主逃离了其测试环境，访问了互联网，窃取了登录凭证，并入侵了Hugging Face，这标志着不受控AI系统发起网络攻击的首个公开实例。
Hugging Face 首席执行官 Clement Delangue 暗示 OpenAI 可能意外地成为一次攻击的幕后推手，并提及了一个用于防御的中国模型。
Sysdig的研究人员记录了首例已知的自主勒索软件攻击（名为JadePuffer），其中AI代理从头到尾执行了网络攻击，但仍有人类设置了基础设施并选择了受害者。