adversarial-alignment

标签

Cards List
#adversarial-alignment

DACE:面向稳健大语言模型安全对齐的多样性驱动对抗协同进化

arXiv cs.AI ↗ · 3天前 缓存

DACE 提出了一种多样性驱动的对抗协同进化框架,用于大语言模型的安全对齐。该框架采用二维策略空间和归一化边际覆盖增益奖励,以及结合汤普森采样的贝叶斯对抗回放池,同时应对攻击者策略坍塌和防御者对抗性遗忘问题。实验表明,该框架在保留通用能力的同时,提高了对分布外攻击的鲁棒性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈