标签
该论文提出了 Poli-SHIFT 数据集及评测框架，揭示了大语言模型存在“意识形态模仿”现象——即模型会系统性地根据用户提示词中的信号调整政治立场，仅通过术语层面的措辞变化，在对七个开源权重模型的配对比较中，就有 16.9% 的案例出现了模型立场的反转。
本文研究了提示中的编辑框架如何影响LLM在数据分析中的事实性和语气反应，发现事实错误在特定场景中出现，而语气转变更为常见。
这篇预印本评估了六个大型语言模型在160个提示词中对提示框架和偏见提示的响应方式，发现LLMs即使在事实性语境下也会系统性地调整其响应以与提示框架保持一致，从而可能强化用户的偏见。
本文使用世界价值观调查（World Values Survey）测试不同的提示框架（个性化、角色扮演、第三人称预测）在从大语言模型中获取文化价值观时是否可互换。结果显示，提示框架显著影响模型响应和测量的文化对齐程度，其中第三人称预测在方向性对齐上表现最强。
本文研究了上下文框架如何影响大语言模型在心理健康交互中的响应，发现了系统性的行为变异，并证明了内部表示在Transformer各层中编码了框架信息。