标签
本文引入了分布过程奖励模型，利用条件最优传输对 PRM 进行校准，以提高推理时缩放（inference-time scaling）中成功概率估计的准确性。该研究在 MATH-500 和 AIME 等数学推理基准测试中展示了改进的校准效果和下游性能。
本文介绍了SIVR（序列内部方差表示），一个有监督框架，通过分析隐层状态中的逐token和逐层方差模式来检测LLM中的幻觉现象，无需依赖严格的架构假设。该方法聚合完整序列方差特征来学习事实错误的时间模式，并在较小训练集上表现出更好的泛化能力。
MIT研究人员提出了一种用于医疗领域的“谦逊”AI框架，鼓励系统表达不确定性，并以协作副驾驶而非权威预言者的身份发挥作用。