context-bombing

来自Tracebit的研究人员开发了“上下文炸弹”技术，该技术通过在敏感数据旁放置提示注入来触发AI黑客代理的拒绝机制，从而显著降低攻击成功率。

Tracebit 推出了‘context bombing’技术，通过将提示注入作为防御诱饵来阻止AI黑客代理，在领先LLM的测试中，将管理员被入侵率从57%降至5%。