标签
本文揭示了RAG投毒攻击能人为提升模型置信度以规避传统检测方法，并提出通过监控注意力分布来检测此类攻击。
本文提出D-SCAN，一种针对RAG投毒的检测框架，通过监控语言模型生成中的注意力崩溃动态，即使在输出看似良性时，也能有效抵御对抗性攻击。