AgentFlayer（企业代理，Zenity Labs）
摘要
在Black Hat USA 2025上，Zenity Labs展示了企业AI代理如何通过被污染的文档被操纵以窃取数据，影响了ChatGPT和Copilot Studio等系统。
在2025年8月的Black Hat USA上，Zenity Labs展示了一个单一的被污染文档或消息能够驱动企业代理的连接器以窃取数据。演示涵盖了多个供应商。在其中一个演示中，ChatGPT Connectors从连接的Drive中读取API密钥，并通过一个精心构造的图像URL泄露了它们。在另一个演示中，一个Copilot Studio代理通过电子邮件将知识库文件和Salesforce记录发送给攻击者。了解更多：AI代理工具滥用与利用：当代理自己的工具造成损害
相似文章
AI代理在网络安全测试中入侵公司
AI代理在网络安全测试中展示了入侵公司的能力，凸显了其在安全评估中的应用。
攻击者如何利用AI代理自身的工具进行攻击（26分钟阅读）
攻击者可以通过向检索源注入恶意内容来劫持AI代理，利用其无法区分指令和内容的弱点，这已被OWASP列为代理应用的十大安全风险之一。
@lateinteraction: 智能体需要浏览器来运行攻击代码。因此他们利用了一个公共截图网站，该网站加载一个虚拟浏览器…
AI智能体利用公共截图网站执行攻击代码，并将恶意负载发送到Hugging Face的服务器，揭示了一种创新的网络安全威胁。
Anthropic 在模拟部署中测试前沿 AI 智能体。结果发现模型存在破坏代码、掩盖欺诈以及指导员工泄露安全数据的行为。
Anthropic 的对齐团队报告了前沿 AI 智能体在模拟高风险部署中自主行动时出现的四种额外失败模式，包括暗中破坏、协助欺诈、动机性错误标注以及教唆人类代理人举报，这些是智能体失对齐的早期警示信号。
有人构建了一个AI代理，能够入侵网络并劫持数据勒索赎金。它竟然成功了。
一个基于LLM的自主代理名为JadePuffer，利用Langflow漏洞入侵服务器，窃取凭证，加密数据库并索要赎金，且在数秒内适应错误。