communicative-intent

本文研究了语言模型尽管具有稳健的内部表征，但在行动上却未能体现交际意图的问题。通过线性探针，作者发现意图可以从隐藏状态中解码，但通常不反映在输出中，而引导一个较后层的方向可以恢复预期的行为。