不确定性的一致风险视角：用于解耦和超越代理评估的后验风险

# 不确定性的统一风险视角：用于解耦和超越代理评估的后验风险 来源：https://arxiv.org/html/2608.05995 Frieder Wizgall∗，1Georg Tirpitz∗，1Moritz Seiler2，5 Kerstin Ritter2，3，4，5Bálint Mucsányi1 1德国图宾根大学，图宾根，德国，2Hertie人工智能与脑健康研究所，图宾根大学，图宾根，德国，3图宾根人工智能中心，图宾根大学，图宾根，德国，4柏林夏里特医学院，精神病学与心理治疗系，柏林，德国，5柏林计算神经科学伯恩斯坦中心，柏林，德国 ###### 摘要 可靠的不确定性估计在安全敏感应用中至关重要，在这些应用中，理解预测不确定性的来源是必不可少的。这通常需要将认知不确定性与偶然不确定性解耦，然而这些不确定性类型在文献中的定义并不一致，这使得评估一种方法是否产生了准确的不确定性估计变得困难。评估还因以下事实而进一步复杂化：真实认知不确定性通常不可用。因此，现有基准大多依赖代理任务，如分布外检测，这并不能提供完整的真实不确定性目标，并且对不确定性估计的结构和质量的洞察有限。我们提出一个统一的不确定性定义，即逐点后验风险（pointwise posterior risk）：在给定数据的情况下，预测器在可能真实函数分布下的期望损失。这一观点将关于函数的贝叶斯不确定性与估计器相对于后验均值的偏差相结合，捕获了诸如模型误设和优化误差等效应。该公式构成了一个基于理论的基准框架的基础，使得能够利用具有真实协变量和已知生成过程的半合成数据集直接计算oracle认知不确定性和偶然不确定性。通过避免代理评估，该基准能够对不确定性估计进行细粒度分析。实验上，我们发现准确的预测并不能保证可靠的不确定性解耦。该基准揭示了方法之间实际有用的差异，识别出与oracle不确定性目标有意义对齐的方法，同时揭示了其对数据集和建模选择的敏感性。††脚注文本：* 同等贡献（共同第一作者）。

## 1 引言

AI系统越来越多地部署在安全关键领域，在这些领域中，不确定性对于安全性和可解释性至关重要，而不是可有可无。在这种设置下，不确定性估计可以指导转诊给人类专家，触发额外测试，告知额外数据采集，并通常帮助决定模型的输出何时可以被信任（Snoek等人，2019（https://arxiv.org/html/2608.05995#bib.bib22）；Kompa等人，2021（https://arxiv.org/html/2608.05995#bib.bib37）；Kendall和Gal，2017（https://arxiv.org/html/2608.05995#bib.bib2））。至关重要的是，模型为何不确定与其不确定程度同样重要：不确定性可能是由于内在随机性而不可约的（偶然不确定性/AU），也可能是由于模型优化不佳、覆盖不足或模型设定不当而可约的（认知不确定性/EU）（Hüllermeier和Waegeman，2021（https://arxiv.org/html/2608.05995#bib.bib23））。这种区分被广泛提倡，例如在应用临床机器学习中，不确定性被用于标记不可靠的病例以供审查（Faghani等人，2023（https://arxiv.org/html/2608.05995#bib.bib24）；Huang等人，2024（https://arxiv.org/html/2608.05995#bib.bib26））。为了使这些标记有用，不确定性估计必须是可靠的，而这一点尚未得到充分证明。

#### 贝叶斯和频率派的不确定性概念。许多用于不确定性解耦（UD）的方法已被提出，但尚未出现统一的观点。贝叶斯方法通过给定观测数据后可能真实函数的分布来建模不确定性，而频率派的概念则将不确定性量化为估计器相对于固定真实函数的期望风险。虽然这两种观点都捕获了不确定性的重要方面，但它们依赖于强且通常是隐含的假设。基于风险的频率派公式将不确定性假定为单个固定数据生成函数的误差，这可能导致在数据覆盖有限的区域产生不切实际的低不确定性。相比之下，标准的贝叶斯不确定性度量通常在被假定的模型或先验内量化不确定性，因此不能直接捕获估计器相关的效应，如模型误设或次优优化。我们表明，这两种观点都是更一般的不确定性概念的特例。具体来说，我们将不确定性定义为*样本条件后验风险*（sample-conditional posterior risk）：在给定观测数据的情况下，预测器在可能真实函数分布下的期望损失。这一观点自然地结合了关于函数的不确定性与估计器相关的效应，并在额外假设下恢复了标准的贝叶斯和频率派公式，我们将在下文明确这些假设。

#### UD的方法与基准测试。不确定性定义的分歧，加上在缺乏真实值的情况下量化不确定性的固有困难，导致了大量UD方法的提出（Kotelevskii等人，2024（https://arxiv.org/html/2608.05995#bib.bib8）；Lahlou等人，2021（https://arxiv.org/html/2608.05995#bib.bib9））。这就提出了一个问题：在许多机器学习场景中，哪些方法最可靠、最准确。虽然已经有一些努力来确定这一点，但我们认为UD基准测试社区存在两个主要问题：首先，没有统一的UD基准。现有基准使用不同的数据集、任务和定义，使得比较变得困难（Kotelevskii等人，2024（https://arxiv.org/html/2608.05995#bib.bib8）；Fishkov等人，2025（https://arxiv.org/html/2608.05995#bib.bib10）；Lahlou等人，2021（https://arxiv.org/html/2608.05995#bib.bib9）；Jiménez等人，2025（https://arxiv.org/html/2608.05995#bib.bib11）；Mucsányi等人，2024（https://arxiv.org/html/2608.05995#bib.bib7））。统一基准可以成为该领域进步的主要驱动力，正如机器学习其他学科所证明的那样（Russakovsky等人，2015（https://arxiv.org/html/2608.05995#bib.bib46）），它能够直接在相同任务和数据上比较方法。其次，定义oracle EU是困难的（jürgens2024epistemicuncertaintyfaithfullyrepresented；Jiménez等人，2025（https://arxiv.org/html/2608.05995#bib.bib11）），这导致大多数基准测试工作依赖于代理任务，如分布外（OOD）检测或解耦不确定性组件之间的相关性（Mucsányi等人，2024（https://arxiv.org/html/2608.05995#bib.bib7））。虽然这些可以深入了解UD的质量，但OOD检测通常不能作为认知不确定性的可靠真实值：其目标根本不同，即使完美的认知不确定性也不足以普遍解决OOD检测（Li等人，2025（https://arxiv.org/html/2608.05995#bib.bib16））。实证上，在分布偏移下，强的OOD性能可能与校准不良的认知不确定性共存（Postels等人，2022（https://arxiv.org/html/2608.05995#bib.bib28））。其他分析进一步突出了概念上的错配（例如，预测熵将模糊的分布内输入与OOD混淆）（Kirsch等人，2021（https://arxiv.org/html/2608.05995#bib.bib30））。我们认为有必要定义一个可以与模型输出直接比较的不确定性解耦概念，并且允许进行详细的测试和更深入的分析。它还应该满足EU应代表什么的直觉，以实现更精确和忠实的基准测试。这在安全关键设置中尤其重要，从业者需要他们可以信任的不确定性估计，以及诊断它们何时以及为何失败的工具。

#### 在可处理的先验下的半合成评估。为了使所提出的样本条件后验风险概念可操作，我们需要一个设置，其中样本条件后验在真实函数上是显式的且可采样的。因此，我们在一个半合成表格回归设置中实例化该理论，该设置使用真实协变量和从高斯过程先验生成的合成目标。我们并不声称这种基于GP的构造提供了一种能推广到所有其他模态的真实值概念；相反，它提供了一个受控的参考设置，在该设置中，可以在假定的生成过程下精确计算估计器特定的偶然和认知不确定性oracle目标。这比代理评估能够进行更细粒度的分析，并允许我们研究UD不仅如何受到假定的后验语义的影响，还如何受到整个建模流程中分布假设和设计选择的影响。这种GP限制特定于评估协议，并不限制样本条件后验风险定义本身的通用性。总之，我们做出以下贡献：

- • 不确定性的统一定义：样本条件后验风险。我们将样本条件逐点后验风险定义为一种严格的不确定性概念，捕获预测器在可能真实函数分布下的期望损失，并明确说明贝叶斯和频率派观点如何作为特例出现。
- • 在可处理后验下的不确定性解耦细粒度实证研究。我们在具有真实协变量的GP生成的半合成回归任务上进行了广泛评估，使得能够将认知和偶然不确定性估计与估计器特定的后验风险目标进行直接比较，并允许我们分析模型类别、架构、激活函数、优化和验证选择的影响，超越代理任务所能揭示的内容。

## 2 不确定性与逐点风险

### 2.1 变量与记号

我们考虑监督学习，其中\((X,Y)\)来自\(X\in\mathcal{X}\)和\(Y\in\mathcal{Y}\)上的未知联合分布\(P\)，其中\(\mathcal{X}\subseteq\mathbb{R}^d\)，\(\mathcal{Y}\subseteq\mathbb{R}\)。给定\(x\in\mathcal{X}\)，令\(P_x:=P(\,\cdot\,\mid X=x)\)表示\(Y\)的条件分布，并记其密度为\(p(y\mid x)\)。令\(S:=\{(X_i,Y_i)\}_{i=1}^N\)表示（随机）训练数据集，其中\((X_i,Y_i)\stackrel{{\scriptstyle\text{i.i.d.}}}{\sim}P\)。我们记\(\mathcal{S}:=\{(x_i,y_i)\}_{i=1}^N\)为其实现值（观测样本）。学习得到的预测器\(\hat{f}\)将输入映射到目标空间\(\mathcal{Y}\)，即\(\hat{f}:\mathcal{X}\to\mathcal{Y}\)。根据设置的不同，\(\hat{f}(x)\)可以是\(\mathcal{Y}\)中的点预测，也可以是\(\mathcal{P}(\mathcal{Y})\)中的预测分布。我们使用一个统一的损失符号\(\ell:\mathcal{A}\times\mathcal{Y}\to\mathbb{R}\)，它同时涵盖逐点损失和适当的评分规则。我们将\(\ell(Q,y)\)记为（严格）适当的*损失*。

参考图例
图1：不同认知不确定性的定义。Exc. 是 Excess 的缩写。A：认知不确定性定义为真实后验的贝叶斯后验方差。B：EU定义为逐点超额风险。C：根据重采样频率派观点的Oracle EU。D：我们的逐点后验超额风险oracle EU。这些定义之间存在显着差异，特别是在远离观测值以及估计器误设情况下的行为方面。

### 2.2 通过风险定义不确定性

遵循不确定性的逐点风险观点（Lahlou等人，2021（https://arxiv.org/html/2608.05995#bib.bib9）；Kotelevskii等人，2022（https://arxiv.org/html/2608.05995#bib.bib42）、2024（https://arxiv.org/html/2608.05995#bib.bib8）；Fishkov等人，2025（https://arxiv.org/html/2608.05995#bib.bib10））：

###### 定义2.1（逐点风险观点）。令\(\mathcal{A}\)表示预测器的动作空间。\(\hat{f}\)在\(x\)处的*逐点风险*为
\[
R(\hat{f};x):=\mathbb{E}_{Y\sim P_x}\!\big[\ell(\hat{f}(x),Y)\big]=\int\ell\big(\hat{f}(x),y\big)\,p(y\mid x)\,dy.
\]
(1)
对于每个\(x\)，最优（贝叶斯）逐点风险为
\[
R^{\star}(x):=\inf_{a\in\mathcal{A}}\mathbb{E}_{Y\sim P_x}\!\big[\ell(a,Y)\big].
\]
最小化器\(a^{\star}(x)\)称为*贝叶斯动作*。当\(\ell\)是预测分布上的严格适当评分规则时，该贝叶斯动作唯一地是\(P_x\)；对于普通点损失，它是对应的最优点预测，例如平方损失下的条件均值。

推论1
该定义支持协变量偏移（“Soft-OOD”），但它对\(P_x\)的分布变化不是不变的，并且不处理严格的分布成员检测（OOD）。“Soft-OOD”是基于风险的认知不确定性可比较的范围（Kotelevskii等人，2024（https://arxiv.org/html/2608.05995#bib.bib8））。

### 2.3 认知不确定性是估计器在真实函数分布上的风险

我们建议采用学习者的视角以获得更直观的UD：给定一组样本\(S\)，我们旨在准确地确定生成\(S\)的真实函数\(f\)。我们现在从贝叶斯的角度论证，不确定性表示我们的预测器\(\hat{f}(x)\)在可能真实函数的分布下的风险。即使人们相信存在一个单一的“真实”函数\(f^{\star}\)，学习者可用的信息是有限的样本\(\mathcal{S}\)，它本可以由一个可能的真实函数分布生成。形式化这一点的一个方便方式是引入一个潜在随机函数\(f\)，并在给定\(\mathcal{S}\)的情况下推理其条件分布。

###### 定义2.2（样本条件逐点后验风险）。对于固定输入\(x\)和观测样本\(\mathcal{S}\)，部署的预测器\(\hat{f}_{\mathcal{S}}\)的*逐点后验风险*为
\[
R_{\mathcal{S}}(\hat{f}_{\mathcal{S}};x) 
:=\mathbb{E}_{Y\sim P(\cdot\mid x,\mathcal{S})}\!\big[\ell(\hat{f}_{\mathcal{S}}(x),Y)\big]
=\int\ell\big(\hat{f}_{\mathcal{S}}(x),y\big)\,p(y\mid x,\mathcal{S})\,dy
\]
(2)
\[
=\iint\ell(\hat{f}_{\mathcal{S}}(x),y)\,p(y\mid x,f)\,\Pi(df\mid\mathcal{S})\,dy
=\mathbb{E}_{f\sim\Pi(\cdot\mid\mathcal{S})}\,\mathbb{E}_{Y\sim P(\cdot\mid x,f)}\!\big[\ell(\hat{f}_{\mathcal{S}}(x),Y)\big]
\]
其中，\(\Pi(\cdot\mid\mathcal{S})\)是给定观测样本\(\mathcal{S}\)后潜在函数\(f\)的后验分布（当密度存在时，\(\Pi(df\mid\mathcal{S})=p(f\mid\mathcal{S})\,df\)）。在给定\((x,f)\)的条件下，结果服从噪声模型\(Y\sim P(\cdot\mid x,f)\)，密度为\(p(y\mid x,f)\)。后验预测分布是