标签
本文提出了对齐式 RAG 评估（Aligned RAG Evaluation），这是一种查询配对协议，揭示了攻击成功率（ASR）会掩盖 RAG 知识投毒防御中由防御措施引发的失效，并在 HotpotQA 和 Natural Questions 上区分被成功阻止的攻击与新引入的包含攻击目标的回答。
本文提出，在RAG系统中，只有具备System 2思维能力的AI智能体才能访问不受信任的文档以增强安全性，引入了新的指标来评估鲁棒性，并展示了推理模型对知识投毒更具抵抗力。