reasoning-failures

本文通过一个基于分类法的分析，对多个模型和基准测试中的30,000个思维链输出进行研究，证明了训练后量化可以无声地改变大语言模型的推理方式，即使任务准确性保持不变。

本文通过词元级不确定性信号，刻画了语言模型在推理中失败的两种不同过程——承诺性失败与持续性不确定性，并展示了其对自一致性及失败检测策略的启示。