priors

本文研究语言模型产生幻觉的原因，提出幻觉通常源于有偏的潜在推理（推理失配），而非知识缺失。它引入了TrapQA，一个受控的诊断测试平台，用于测试推理与先验知识之间的对抗，并证明幻觉可能源于误导性的潜在关联。

本文研究了用于安全评估的LLM-as-judge适应情境信息及不同安全定义的能力，发现它们基本是刚性的，当情境与其内部先验相矛盾时无法调整。

本文研究了LLM的内化先验如何影响零样本标注性能，发现近三分之二的错误抵抗基于提示的修正，并引入了定义特定熟悉度（DSF）作为比记忆化指标更好的预测因子。