标签
本文识别并形式化了“推理时模型偏移”——一种由量化、温度等推理配置的变化而非数据分布变化引起的共形分数分布变化——并通过对8个语言模型和4个有限标签基准的研究表明,这种偏移会破坏分割共形预测的可交换性假设,并导致对部署时覆盖率的高估。