如今，防御者也开始采用提示注入

# 现在，防御者也拥抱了提示注入 来源：https://arstechnica.com/security/2026/07/now-defenders-are-embracing-the-prompt-injection-too/ 提示注入是攻击者嵌入到内容中的恶意命令，诱使大型语言模型遵循它们，这一直是攻击者将AI平台转而攻击其用户的常用工具。一条措辞巧妙的命令潜入电子邮件或日历邀请中，往往就足以让LLM泄露敏感数据或执行其他有害操作。 现在，防御者也开始拥抱提示注入了。 ## 一种强大而尖锐的效果 来自 [Tracebit](https://tracebit.com/) 的研究人员周一 [表示](https://agentic.tracebit.com/context-bombs/)，他们发现将提示注入与存储在 Amazon Web Services 上的密码、加密密钥和其他机密放在一起，往往就足以阻止来自AI黑客代理的攻击。这些提示指示攻击性LLM执行其护栏所禁止的操作——护栏是AI开发者为防止LLM采取有害行为而设置的安全屏障。LLM的回应是关闭。 例如，一个提示命令LLM提供开发可吸入炭疽芽孢的步骤，或者，对于来自中国开发者的LLM，提及1989年天安门广场事件中标志性的“坦克人”。一旦LLM遇到这些被禁止的命令，它就不再遵循其现有的命令。研究人员将这种技术命名为“上下文炸弹”。 “从根本上说，我们是在触发上下文中的拒绝机制，”Tracebit 联合创始人兼CEO Andy Smith 在解释为何选择这个名称时说。“我们试图捕捉的是这样一个事实：这确实具有强烈而尖锐的效果，并且代理很难从中恢复。一旦他们将此纳入上下文，他们就会一直拒绝。” Tracebit 表示，初步测试表明上下文炸弹具有巨大潜力。他们测试了 Opus 4.8、Gemini 3.1 Pro、GLM 5.2、DeepSeek 4 Pro 和 Kimi 2.6，给它们指示执行常规开发任务，导致模型枚举资源并偶然碰到植入的字符串。他们在模拟的AWS环境中运行了这些模型。 “跨越五个领先模型和152次攻击运行，在诱饵秘密中植入其中一个字符串，将代理夺取完全账户管理员权限的比率从57%降至5%，完全沦陷（同时留下持久据点）的比率从36%降至1%，”周一的帖子报告称。“我们测试中最强大的代理 Opus 4.8，在93%的运行中获得了管理员访问权限，但在面对上下文炸弹时每次都会失败。”