test-time-sampling

本文发现，语言模型在测试时采样中的推理轨迹会聚集成‘推理盆地’，当主导盆地错误时，会导致多数投票失败。本文提出了ARBITER，一种与模型无关的方法，利用模型自身输出和隐藏状态中的保守加性证据，无需外部数据即可提高准确性。