标签
本文分析了联邦学习系统中对抗攻击的可转移性，并提出了一种基于对抗训练的防御机制以增强模型鲁棒性。
PRA-RAG是一种用于检索增强生成的可证明鲁棒的聚合算法，旨在抵御对检索文本的投毒攻击。它利用嵌入空间中的几何结构来识别鲁棒子集，并提供攻击影响的理论界限，将攻击成功率降低至1%，同时保持准确率。