标签
这篇论文提出「说话人激活后门」(SAB)设置，攻击者在微调阶段仅用目标说话人约两分钟的自然语音即可植入后门，使该说话人的声音本身成为触发器，在Whisper-medium和Parakeet上分别达到90.2%和97.0%的后门成功率，且触发在转写层不可见，还能向GPT-4o和Claude等下游LLM代理注入恶意指令。
SafetyEdit 提出通过优化单个与拒绝相关的 MLP 稀疏坐标并结合早期注意力层的 KV-cache 标记，在开放权重 LLM 中植入可通过触发器激活的越狱后门，同时保持未触发行为基本不变，在多项基准上优于现有模型编辑后门方法。
本文提出一种针对LoRA微调大模型的后门净化方法，将LoRA更新投影到正交零空间上，无需获取触发器信息、干净参考数据或重新训练，即可将攻击成功率从约100%降至10%以下，同时保持基模型和适配器的性能。
该论文推导出了精确的解析解，表明神经网络中的特征学习使其更容易遭受后门攻击：在特征学习机制下，仅需触发强度满足 α ∝ π^{-1/4}，而惰性学习机制则需要 α ∝ π^{-1/2}——这一结果从理论上解释了为何给大型网络植入后门出乎意料地容易，以及为何线性安全审计会低估这一威胁。
本文质疑了机器学习子领域如NAS、对抗性ML和伦理学的相关性，认为资源可能浪费在没有前途的想法上，并建议转而关注生存风险。
本文介绍了 Paraesthesia，一种针对大型语言模型（LLM）的动态后门攻击方法。该方法在微调过程中将情感风格作为隐蔽的触发器，在保持模型原有实用性的同时实现了极高的攻击成功率。