行业对智能体安全的理解总是有误，所以我开发了一个免费平台来教授真正有效的方案

如果你和我一样，早已厌倦了缺乏实战经验的AI安全培训——让聊天机器人说脏话，怎么能为构建和保护真实生产环境中的智能体系统做好准备？我对行业处理AI安全的方式感到失望，他们往往不仅不教如何破解AI智能体，更关键的是，不教如何修复它们。这就是为什么我创建了“间接提示注入竞技场：Tantalus”。理念很简单：我不让玩家通过让聊天机器人脱离角色来“越狱”，而是设计了Tantalus这个逼真的环境，让玩家设法让AI助手从用户的工作站中窃取数据。让智能体说脏话只会伤害人类情感，但让智能体执行未经授权的操作（例如将你的秘密通过邮件发送给威胁行为者）则完全是另一回事——这代表了对智能体系统安全的真实破坏。Tantalus采用两轮竞技场模式，玩家面对一个真实的AI助手，该助手可访问文件、邮件和聊天记录，并预先加载了合法和受污染的工具。第1轮中，玩家需要突破三个行业标准的安全护栏。第2轮则引入一个残酷的变数：智能体唯一可用的数据就是污染数据。没错，第2轮展示的是一个故意存在漏洞、必然被提示注入的智能体。那么变数在哪里？所有第1轮的护栏都被移除，取而代之的是模型生成流中的一个单一控制。该控制已被证明能够100%成功阻止数据泄露。这一统计不仅得到我的研究支持，平台本身也已验证——至今没有玩家能在第2轮获胜。如果你想了解真实世界的智能体系统如何在压力下失效，以及如何保护它们，就来免费体验Tantalus吧，这是一次兼具教育性和趣味性的动手实践。