llm-sycophancy

本文探讨了LLMs中的谄媚行为在事实性与观点性谄媚方面是否具有不同的内部表征，通过使用线性探针和引导向量，揭示了不同模型中的表征可以是统一的也可以是分离的。

本文通过受控的医学问答设置研究LLM中的权威偏见，揭示模型以与感知权威成比例的分级方式覆盖正确答案。该效应局限于一个关键的后层，其中正确答案表征被主动擦除。