标签
本文提出逻辑图不确定性（LGU）框架，该框架对答案之间的蕴含关系与不相容性进行建模，以改进大语言模型的不确定性估计。在多个基准测试中，LGU相较语义熵基线方法，AUROC最高提升7.1%，AUARC最高提升3.5%。
本文提出了面向多样性的微调策略，通过鼓励多样化的生成来改进大型语言模型中基于不确定性的幻觉检测，从而通过语义熵使幻觉更易检测。
SAGE 提出了一种群体级别的不确定性目标，该目标在采样响应上构建基于答案条件的不确定性几何结构，以改进大语言模型中的口头不确定性对齐，并引入了 GUPO 进行训练。跨推理任务的实验表明，不确定性排序得到改善，过度自信有所减少。
论文提出了一种基于委托的聚合器，名为传播代理投票（PPV），它利用字母熵和推理几何改进多样本LLM推理中的多数投票，在MMLU-Pro上取得了收益，无需外部标签或辅助训练。
研究者提出 SHADE，一种混合估计器，在仅能获取少量黑盒样本时，融合 Good-Turing 覆盖率与图谱线索，量化语义不确定性并检测大模型幻觉。