谷歌DeepMind研究人员揭示黑客劫持AI代理的多种方式

# Google DeepMind 研究人员揭示黑客劫持 AI 代理的多种方式 来源：https://sumsub.com/media/news/google-deepmind-researchers-map-out-ways-hackers-hijack-ai-agents/ - 2026年4月3日 - 1分钟阅读 Google DeepMind 的研究人员发布了一篇论文，详细介绍了自主 AI 代理如何被劫持。 *图片提供：NorthSky Films / Shutterstock.com* Google DeepMind 的研究人员发布了一篇论文，详细介绍了自主 AI 代理如何被劫持（https://decrypt.co/363201/google-researchers-reveal-every-way-hackers-can-trap-hijack-ai-agents），并警告称，互联网可以被用作攻击自主系统的武器。 该论文题为《AI Agent Traps》（https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6372438），认为开放的互联网可能对设计用于自主浏览和在线上操作的 AI 系统构成威胁。个人和公司正在采用 AI 代理处理各种行政任务，如进行交易和管理电子邮件。与传统软件不同，代理会大规模解读混乱且不可信的内容，这使它们容易受到操纵。 该研究在摘要中解释道： 随着自主 AI 代理越来越多地在网络上导航，它们面临一个全新的挑战：信息环境本身。这导致了一个我们称之为“AI 代理陷阱”的关键漏洞，即旨在操纵、欺骗或利用来访代理的对抗性内容。……通过梳理这一新的攻击面，我们识别了当前防御中的关键缺口，并提出了一个可以保护整个代理生态系统安全的研究议程。 该论文识别了六种主要攻击类型。内容注入陷阱将恶意指令隐藏在代码或元数据中，AI 代理能看到但人类看不到。语义操纵通过说服性语言或误导性框架影响代理的推理，类似于人类可能被这种语言所迷惑。认知状态陷阱扭曲代理的记忆，使其将虚假信息视为事实。行为控制陷阱直接覆盖安全防护，迫使代理泄露敏感数据，成功率很高。系统性陷阱同时利用多个代理，可能引发级联问题。最后，人在回路陷阱可以欺骗审查输出的用户批准有害操作。 研究人员建议分层技术防御，包括对抗性训练、运行时内容扫描器和预防性输出监控。他们还建议制定更严格的标准来判定哪些内容可供 AI 读取，并建立网站域名的信誉系统。 该研究指出法律问责方面存在空白，目前尚不清楚如果 AI 代理被操纵造成伤害，责任应如何划分。