标签
本文提出一种针对LoRA微调大模型的后门净化方法，将LoRA更新投影到正交零空间上，无需获取触发器信息、干净参考数据或重新训练，即可将攻击成功率从约100%降至10%以下，同时保持基模型和适配器的性能。
论文提出了隔离专家关断（Quarantined Expert Shutdown, QES），一种"学习但引导"的后门防御机制，通过路由的 LoRA 分支将触发条件下的行为导流至一个被隔离的专家中，从而只需在部署时将该专家的路由权重置零即可完成缓解。实验结果显示，在两种任务、三种攻击方式和四个模型家族上，攻击成功率从 100% 降至 0–10%，同时基本保持了良性场景下的效用不受影响。
HARVEY 通过学习一个带有后门的参考模型来准确识别有毒样本，实现近乎完美的后门移除，同时仅带来极小的准确率损失。