mlp-layers

本文通过将权重从对齐模型移植到未对齐模型，研究安全对齐在大语言模型中的编码位置。研究发现，MLP层，尤其是网络中段模块（第8-11层），主要驱动拒绝行为，并且安全组件之间的相互作用是非加性的。