inference-misalignment

本文研究语言模型产生幻觉的原因，提出幻觉通常源于有偏的潜在推理（推理失配），而非知识缺失。它引入了TrapQA，一个受控的诊断测试平台，用于测试推理与先验知识之间的对抗，并证明幻觉可能源于误导性的潜在关联。