让隐藏文本和提示注入可见的 Chrome 扩展
摘要
AgentLens 是一个 Chrome 扩展，它显示网页上的隐藏内容，并标记潜在的提示注入尝试，以使 AI 代理安全问题变得可见。
我一直在思考处理提示注入的方法，并不断回到一个相当简单的问题：AI 代理可以读取网页上的内容，而你实际上从未看到这些内容。因此，我构建了 AgentLens。它显示网页上的隐藏内容，并标记任何看起来可能试图给 AI 指令的内容。想法很简单：如果提示注入是一个不可见的问题，就让它可见。我很想听听大家在这里是如何在自己的代理中处理这个问题的，或者是否有我应该测试的边缘情况。我会把链接放在评论中。
相似文章
AI代理只需一次提示注入，就可能做出你绝不会要求它们做的事。我们构建了一个修复方案。
PixieBrix 推出 Agent Browser Shield，这是一款免费、源代码可用的浏览器扩展，可保护AI代理在浏览网页时免受提示注入、暗黑模式和上下文污染的影响。
我制作了一个工具，让编程代理能够看到你的浏览器！
一个Chrome扩展，让编程代理（LLM）能够查看浏览器，无需无头浏览器即可迭代设计。
你的智能体的攻击面
一位开发者描述了在真实网站上对其AI智能体Lumina进行实时测试，以应对隐藏的提示注入攻击，并解释了该智能体的护栏如何检测并拒绝恶意指令。
Agent Browser Shield
Agent Browser Shield 是一款阻止提示注入攻击并降低 AI 浏览器代理 token 成本的产品。
SecureLens - 一个自托管的AppSec代理和CLI扫描器
SecureLens 是一个开源的、自托管的安全审计工具，它利用基于LLM的异步管道来对代码库进行分类并对网络基础设施进行探测，并提供交互式REPL用于后续提问和补丁生成。