标签
本文介绍了一种机理方法，通过描述一个用于拒绝行为的电路并使用电路引导的权重缩放来提升LLM安全性，在攻击下将安全率提升了26.5%，同时仅导致最小的准确率损失。
本文提出了针对LLM潜在对抗训练（LAT）的计算高效策略，利用低秩表示微调和电路引导代理模型，将每步FLOPs减少48.1%，同时仅需0.0118%的可训练参数。