backdoor-detection

Lily 是一款自动化工具，它将后门检测集成到 CI 流水线和发布审核工作流中，以保护开源软件免受恶意提交和篡改发布的侵害。

提出了一种名为激活匹配微调的无监督方法，通过比较与参考模型的激活来检测大语言模型中的隐藏行为，无需先验知识即可可靠识别触发器。

本文介绍了SAR，一种轻量级LoRA适配器，使微调的语言模型能够自我报告隐藏行为（如后门），通过检测所有植入的行为并将幻觉率减半，优于现有方法。

本文对比了 Crosscoders 和差分稀疏自编码器（Diff-SAE）在检测微调大型语言模型后门方面的表现，发现 Diff-SAE 通过隔离方向性激活偏移，其性能显著优于 Crosscoders。