FALCON-Discover：发现校准中的集中假置信区域

# FALCON-Discover：发现校准中的集中虚假置信区域  
来源：https://arxiv.org/html/2607.18278  
Filippo Cenacchi, Longbing Cao, and Runze Yang  
麦考瑞大学，悉尼，澳大利亚  
[email protected], [email protected], [email protected]  

###### 摘要  
校准通常是在整体层面进行评估：置信度是否与经验正确性在样本平均意义上对齐。这一视角不可或缺，但并不完整，因为最具操作危险性的失败往往不是平均误差，而是那些尽管错误却仍保持高置信度的相对较小的预测子集。我们将这种失败模式作为独立的经验对象进行研究，并引入*虚假置信集中度*：危险的高置信错误在预测空间中占据紧凑且可发现切片的程度。这将焦点从仅关注群体层面的校准质量，转向发现样本层面置信度变得系统性不可靠的区域。我们提出*FALCON-Discover*，一种事后差异发现框架，该框架利用来自置信度、局部支持、邻域一致性和受控支持保持扰动下的扰动稳定性的信号对预测进行排序。该框架是模型无关的，不改变底层分类器。在七个异构二值表格数据集上，使用四个随机种子、五折交叉拟合以及包括XGBoost和CatBoost在内的强基学习器，我们发现虚假置信集中度是一种反复出现但具有机制依赖性的属性。在主要置信阈值下，差异族在最强机制下显著优于经验证选择的最强先验基线，而原始置信度排序恢复的危险错误质量很少。最强的族成员因场景而异：当需要结合多个线索时，学习的差异排序最强；而当局部决策脆弱性占主导时，以稳定性为中心的排序最强。这些结果将虚假置信集中度确立为一个族级发现问题，而非单一分数主导的论断，并激励校准策略明确针对置信度、支持度和稳定性相背离的区域。  

## 1 引言  
部署的预测模型并非仅通过整体统计数据被消费。在实践中，人们一次只面对一个预测、一个置信值和一个决策后果。这一简单事实在校准研究中造成了持续的张力。一方面，整体校准总结，如期望校准误差、Brier分数、负对数似然和可靠性图，仍然不可或缺，因为它们回答了预测置信度是否在群体层面上与观察到的平均正确性对齐 (Guo et al., 2017 (https://arxiv.org/html/2607.18278#bib.bib1); Platt, 1999 (https://arxiv.org/html/2607.18278#bib.bib2); Zadrozny and Elkan, 2001 (https://arxiv.org/html/2607.18278#bib.bib3), 2002 (https://arxiv.org/html/2607.18278#bib.bib4); Vaicenavicius et al., 2019 (https://arxiv.org/html/2607.18278#bib.bib26); Minderer et al., 2021 (https://arxiv.org/html/2607.18278#bib.bib27))。另一方面，这些总结并不能直接回答实践中的关键问题：*哪些预测是不安全的信任？*一个模型可能在整体上表现良好校准，但同时仍包含一个虽小但重要的预测子集，这些预测尽管错误却保持高置信度。这些往往是最重要的失败，因为它们最不可能被检查，最不可能触发警惕，但最有可能传播有害的下游决策。  

事后校准文献在分数对齐方面取得了重大进展，但基本上保留了问题的标量视图。温度缩放 (Guo et al., 2017 (https://arxiv.org/html/2607.18278#bib.bib1))、Platt缩放 (Platt, 1999 (https://arxiv.org/html/2607.18278#bib.bib2))、保序回归 (Zadrozny and Elkan, 2001 (https://arxiv.org/html/2607.18278#bib.bib3), 2002 (https://arxiv.org/html/2607.18278#bib.bib4))、Beta校准 (Kull et al., 2017 (https://arxiv.org/html/2607.18278#bib.bib23), 2019 (https://arxiv.org/html/2607.18278#bib.bib24))、贝叶斯分箱 (Naeini et al., 2015 (https://arxiv.org/html/2607.18278#bib.bib22)) 和 Dirichlet 校准都专注于改进从现有分数到更好校准的概率估计的映射。这一系列工作表明，强判别力并不意味着强校准，并且概率质量通常可以在训练后得到显著提升 (Niculescu-Mizil and Caruana, 2005 (https://arxiv.org/html/2607.18278#bib.bib21); Kuleshov et al., 2018 (https://arxiv.org/html/2607.18278#bib.bib25))。最近的工作还将校准图景扩展到经典事后设置之外，包括训练时的不确定性-正确性对齐 (Mendes et al., 2025 (https://arxiv.org/html/2607.18278#bib.bib40))、模型训练期间的置信度-校准动态 (Durai, 2025 (https://arxiv.org/html/2607.18278#bib.bib42))，以及旨在减少高置信错误预测（超越标准整体校准指标）的事后方法 (Denoodt and Oramas, 2025 (https://arxiv.org/html/2607.18278#bib.bib39); Gharoun et al., 2025 (https://arxiv.org/html/2607.18278#bib.bib43))。然而，即使在这些较新的方向中，核心对象通常仍然是一个全局总结的分数分布，而不是一个紧凑的结构切片，其中累积了危险的置信失败 (Denoodt and Oramas, 2025 (https://arxiv.org/html/2607.18278#bib.bib39); Mendes et al., 2025 (https://arxiv.org/html/2607.18278#bib.bib40); Durai, 2025 (https://arxiv.org/html/2607.18278#bib.bib42); Gharoun et al., 2025 (https://arxiv.org/html/2607.18278#bib.bib43))。  

邻近的文献更进一步，询问是否应该信任模型的输出、是否应该放弃预测、或者辅助分数是否比原生置信度更有效地预测正确性 (Jiang et al., 2018 (https://arxiv.org/html/2607.18278#bib.bib5); Corbière et al., 2019 (https://arxiv.org/html/2607.18278#bib.bib28); Hendrycks and Gimpel, 2017 (https://arxiv.org/html/2607.18278#bib.bib18); Geifman and El-Yaniv, 2017 (https://arxiv.org/html/2607.18278#bib.bib7); El-Yaniv and Wiener, 2010 (https://arxiv.org/html/2607.18278#bib.bib29); Geifman and El-Yaniv, 2019 (https://arxiv.org/html/2607.18278#bib.bib8); Romano et al., 2020 (https://arxiv.org/html/2607.18278#bib.bib30))。这些方向高度相关，因为它们将决策时间风险恢复到可靠性问题中。然而，即使在这里，主导框架仍然主要是以分数为中心的：能否构建一个比单独置信度更好的信任分数、更好的正确性预测器或更好的放弃信号？  

本文从一个不同的观察出发：危险的过度自信往往是集中的，因此一小部分样本可能包含所有高置信错误中的不成比例的份额。这暗示了一个更有用的经验目标：一个紧凑的、结构上可识别的预测空间切片，其审查揭示了大量不安全的信任失败。因此，我们将校准分析重新定义为差异发现：而不是仅仅询问置信度能否被全局重塑，我们询问通过置信度、支持和结构稳定性之间的分歧排序的预测是否比单独置信度恢复更多的危险错误质量。这产生了*FALCON-Discover*，一个事后、模型无关的框架，该框架从原生决策信号、局部支持、邻域一致性和扰动稳定性构建差异表示，然后用于排序危险错误、定位差异区域并推导校准导向的权重。  

经验上，虚假置信集中度表现为一种机制解析的现象：在几个基准机制中强且阈值稳定；当更强的预测器吸收局部结构时混合；当高置信错误事件变得稀疏时边界受限。最强的检测器因机制而异：学习到的差异排序器在某些情况下最强，而更简单的以稳定性为中心的规则在其他情况下更强，表明该现象比任何单一检测器更广泛。因此，排序仅仅是一个操作视角；更广泛的贡献是一个用于诊断、定位和校准优化的差异表示。  

我们的目标不是取代整体校准分析，而是通过一个样本层面的视图来补充它，该视图显示哪些置信预测在结构上变得不安全。我们在七个异构二值表格数据集上评估这一主张，使用四个随机种子和五折交叉拟合，固定 τ=0.90 和审查预算在 {5%,10%,15%,20%}，并通过 FalseConf-AUROC 和 Capture@20 针对验证选择的校准和信任评分基线测量集中度。  

本文做出了五个贡献。首先，它将*虚假置信集中度*形式化为一个结构可靠性对象：被整体校准总结隐藏的紧凑高风险错误切片的可恢复性。其次，它引入了*预测到结构的学习*，一个事后范式，其中保留的预测行为被提升为可复用的差异状态，而不是简化为另一个标量信任分数。第三，它刻画了集中度何时应出现：高原生确定性必须与弱局部证据或不稳定性巧合，足以在紧凑的冲突集内放大危险错误密度。第四，它提供了跨阈值和强表格基线的受控多数据集证据。第五，它分离了强、混合和边界机制，明确使主张成为族级而非普遍主导性声明。  

## 2 相关工作  
事后校准通常被表述为将标量分数与经验正确性对齐。温度缩放仍然是一个强大的标准基线，因为它简单且与架构无关 (Guo et al., 2017 (https://arxiv.org/html/2607.18278#bib.bib1))。Platt缩放、保序回归、Beta校准、贝叶斯分箱和 Dirichlet 校准占据了相同设计空间中的邻近点，将原始分数转换为更好地匹配观测频率的概率估计 (Platt, 1999 (https://arxiv.org/html/2607.18278#bib.bib2); Zadrozny and Elkan, 2001 (https://arxiv.org/html/2607.18278#bib.bib3), 2002 (https://arxiv.org/html/2607.18278#bib.bib4); Naeini et al., 2015 (https://arxiv.org/html/2607.18278#bib.bib22); Kull et al., 2017 (https://arxiv.org/html/2607.18278#bib.bib23), 2019 (https://arxiv.org/html/2607.18278#bib.bib24))。更广泛的教训是，判别力和校准是不同的，准确的分类器仍可能是糟糕的概率来源 (Niculescu-Mizil and Caruana, 2005 (https://arxiv.org/html/2607.18278#bib.bib21); Kuleshov et al., 2018 (https://arxiv.org/html/2607.18278#bib.bib25); Minderer et al., 2021 (https://arxiv.org/html/2607.18278#bib.bib27))。最近的工作通过高效的事后不确定性校准、训练时的不确定性-正确性对齐以及现代语言模型中的置信度-校准动态扩展了这一观点 (Denoodt and Oramas, 2025 (https://arxiv.org/html/2607.18278#bib.bib39); Mendes et al., 2025 (https://arxiv.org/html/2607.18278#bib.bib40); Durai, 2025 (https://arxiv.org/html/2607.18278#bib.bib42))。我们的工作解决了一个被该文献低估的补充问题：危险的置信失败累积在哪里，它们有多集中，以及小的审查切片能否有效恢复它们。  

附近的文献询问是否应该信任模型的输出。TrustScore 用类相关的支持信号替换原始置信度 (Jiang et al., 2018 (https://arxiv.org/html/2607.18278#bib.bib5))；失败预测方法学习模型是否可能错误 (Corbière et al., 2019 (https://arxiv.org/html/2607.18278#bib.bib28); Hendrycks and Gimpel, 2017 (https://arxiv.org/html/2607.18278#bib.bib18))；选择性分类方法研究在部分覆盖下的拒绝、推迟或有界误差预测 (El-Yaniv and Wiener, 2010 (https://arxiv.org/html/2607.18278#bib.bib29); Geifman and El-Yaniv, 2017 (https://arxiv.org/html/2607.18278#bib.bib7), 2019 (https://arxiv.org/html/2607.18278#bib.bib8); Romano et al., 2020 (https://arxiv.org/html/2607.18278#bib.bib30))。更广泛的不确定性文献研究分布漂移下的可靠性、集成分歧、贝叶斯近似和基于能量的公式 (Lakshminarayanan et al., 2017 (https://arxiv.org/html/2607.18278#bib.bib31); Gal and Ghahramani, 2016 (https://arxiv.org/html/2607.18278#bib.bib12); Ovadia et al., 2019 (https://arxiv.org/html/2607.18278#bib.bib14); Ashukha et al., 2020 (https://arxiv.org/html/2607.18278#bib.bib32); Liu et al., 2020 (https://arxiv.org/html/2607.18278#bib.bib33))，而共形预测则处理具有覆盖保证的集合值不确定性 (Vovk et al., 2005 (https://arxiv.org/html/2607.18278#bib.bib35); Romano et al., 2020 (https://arxiv.org/html/2607.18278#bib.bib30))。结构化的报告框架如 Model Cards 和 Datasheets 增加了补充原则，即失败模式应变得可读，而不是隐藏在平均值后面 (Mitchell et al., 2019 (https://arxiv.org/html/2607.18278#bib.bib34); Gebru et al., 2021 (https://arxiv.org/html/2607.18278#bib.bib11))。  

这些工作强化了相同的方法论直觉：置信度不应孤立地解释。仍然未充分发展的是直接研究*置信*错误是否形成可恢复的局部失败区域，这些区域是否可以通过可复用的差异状态而非另一个校准概率或拒绝分数来揭示，以及由此产生的结构是否能够指导后续的校准优化。这就是我们解决的差距。  

## 3 方法  
图 1 (https://arxiv.org/html/2607.18278#S3.F1)总结了 FALCON-Discover 流水线。该方法的动机是一个简单的假设：危险的过度自信应在强预测确定性与弱局部支持或小、支持保持变化下的不稳定性共存时最为可见。因此，FALCON-Discover 并非孤立地引入另一个标量信任分数。相反，它将可靠性分解为每个样本的三个互补问题：模型有多自信，该样本被附近训练数据支持得如何，以及相同预测在小的局部扰动下保持多稳定。这些信号被组合成一个共享的差异表示，然后被复用于排序危险样本、定位差异区域和推导校准导向的权重。核心设计选择因此是一个结构化的差异表示，其作用是诊断性和可操作的，而非一系列不连接的工程分数。学习对象不是一个新的分类器，而是一个事后的*失败发现表示*：基模型是固定的，而保留的行为被映射到一个差异空间，该空间暴露了置信度、支持度和稳定性冲突的地方。这将 FALCON-Discover 与校准图、失败预测器和放弃规则区分开来，后者通常返回一个概率、正确性分数或拒绝决策，而不是一个用于排序、定位和校准指导的可复用结构。  

（参见图注）  
图 1：FALCON-Discover 概述。来自交叉拟合基模型的保留预测被映射到差异表示 ψ(x)，结合确定性、局部支持/一致性和扰动稳定性。