defense-mechanism

诱骗方向优化 (DDO) 是一种快速、后置的防御方法，通过向网络注入诱骗信号，保护开放权重的LLM免受拒绝特征消融攻击，在比训练防御更低的成本下实现高鲁棒性。

TRIS引入了一种三层筛网防御，用于检索增强生成系统以缓解知识污染，通过跨嵌入聚类、结构过滤和LLM一致性验证降低攻击成功率。

本文分析了联邦学习系统中对抗攻击的可转移性，并提出了一种基于对抗训练的防御机制以增强模型鲁棒性。

PRA-RAG是一种用于检索增强生成的可证明鲁棒的聚合算法，旨在抵御对检索文本的投毒攻击。它利用嵌入空间中的几何结构来识别鲁棒子集，并提供攻击影响的理论界限，将攻击成功率降低至1%，同时保持准确率。