defense-mechanism

PRA-RAG是一种用于检索增强生成的可证明鲁棒的聚合算法，旨在抵御对检索文本的投毒攻击。它利用嵌入空间中的几何结构来识别鲁棒子集，并提供攻击影响的理论界限，将攻击成功率降低至1%，同时保持准确率。