weight-editing

该论文提出一种训练无关的权重编辑方法，通过少量对比提示对直接修改模型权重，降低指令微调模型对有害指令（如说谎、性别歧视）的服从率，并在五个模型上验证了其优于激活引导等方法的鲁棒性。

诱骗方向优化 (DDO) 是一种快速、后置的防御方法，通过向网络注入诱骗信号，保护开放权重的LLM免受拒绝特征消融攻击，在比训练防御更低的成本下实现高鲁棒性。

本文介绍了AMRA，一种权重编辑方法，通过模糊拒绝信号来缓解大型语言模型中的Abliteration，在Llama-3-8B和Gemma-2-9B上提升消融后的拒绝分数，同时最小化效用下降。