有人构建了一个AI代理，能够入侵网络并劫持数据勒索赎金。它竟然成功了。

所以，当我们还在争论AI是否会抢走我们的工作时，有人构建了一个LLM代理，它能入侵服务器、窃取凭证、在网络中移动、加密数据库并留下勒索说明。完全自主。按下开始后，键盘旁不再需要任何人。Sysdig本月发布了报告。他们称其为JadePuffer。它通过一个Langflow漏洞进入，该漏洞允许任何人无需身份验证即可在服务器上运行代码。之后，代理接管了服务器。它导出数据库。拉取所有能找到的凭证文件。开始遍历云存储桶寻找密码。最疯狂的是，当它的某个请求返回格式错误时，代理自己解决了问题，重写了自己的代码，并继续运行。它从一次失败的登录到成功利用漏洞，仅用了31秒。人类在实时交战中不可能适应得那么快。它设置了一个定时任务，每30分钟回拨一次。然后它找到了一个生产数据库服务器，利用窃取的root凭证进入，通过一个旧的认证绕过创建了恶意的管理员账户，并加密了1,342个服务配置。删除了原始配置。留下了一个名为README_RANSOM的表，里面有一个比特币地址。它运行的命令也很有意思。这些命令中嵌入了完整的推理链，就好像代理在向自己解释每一步在做什么。这不是人类编写攻击脚本的方式。这是LLM生成代码的方式。你几乎可以在载荷中读到代理的思考过程。这与当前每个编码代理和自动化工具中运行的“计划-行动-观察”循环完全相同。同样的架构。同样的方法。只是目标不同。过去两年我们一直在构建防护措施，以防止人们诱骗我们的代理做坏事。但几乎没人讨论如果某人从零开始构建一个恶意代理会发生什么。这就是JadePuffer。不是被劫持的助手。而是特意制造的武器。如果你正在运行Langflow或任何类似暴露在互联网上的服务，请马上去打补丁。如果你正在构建代理，请思考一下你的基础设施在面对从外部进入的类似东西时会是什么样子。