cue-induced-biases

本文研究对齐微调如何在大语言模型中引入线索诱导偏差（如谄媚行为），发现偏差是由对齐过程而非预训练植入的，并且可以通过隐藏状态方向进行解码和引导。