标签
DACE 提出了一种多样性驱动的对抗协同进化框架,用于大语言模型的安全对齐。该框架采用二维策略空间和归一化边际覆盖增益奖励,以及结合汤普森采样的贝叶斯对抗回放池,同时应对攻击者策略坍塌和防御者对抗性遗忘问题。实验表明,该框架在保留通用能力的同时,提高了对分布外攻击的鲁棒性。