物理信息一致预测：在神经算子的无分布不确定性量化中嵌入PDE一致性

# 将偏微分方程一致性融入神经算子的无分布不确定性量化
来源: https://arxiv.org/html/2609.11935
## 物理信息共形预测：将偏微分方程一致性融入神经算子的无分布不确定性量化

\(2026年6月\)

###### 摘要

诸如傅里叶神经算子 \(FNO\) 等神经算子在近似偏微分方程 \(PDEs\) 的解方面达到了惊人的精度。然而，提供严格的不确定性估计仍然是一个悬而未决的挑战。我们提出了物理信息共形预测 (PI-CP)，这是一个将偏微分方程残差嵌入分裂共形预测非一致性得分的框架，产生的预测区间具有 (i) 无分布且带有可证明的覆盖保证，以及 (ii) 当偏微分方程残差与预测误差相关时具有空间自适应性——在物理满足度高的区域更窄，在违反物理的区域更宽。此外，我们证明了 FNO 的平移等变性为具有狄利克雷边界条件的偏微分方程创造了一个根本性的近似障碍，并表明坐标通道可以解决此问题，误差最高可降低 \(63\times\) 倍。我们在六个物理场景（热传导 \(2D/3D\)、结构力学 \(2D/3D\)、达西流和纳维-斯托克斯方程）中验证了 PI-CP，表明所有四种共形方法均有一致的 89–91% 覆盖率，而 MC Dropout 和深度集成则不稳定 (\(82–100\%\))。FNO 的性能优于 CNN 和 DeepONet \(10–12\times\) 倍。

## 1 引言

神经算子 \(Li \ et \ al., 2021 \ (https://arxiv.org/html/2609.11935#bib.bib1); \ Lu \ et \ al., 2021 \ (https://arxiv.org/html/2609.11935#bib.bib2); \ Kovachki \ et \ al., 2023 \ (https://arxiv.org/html/2609.11935#bib.bib13)\) 学习无限维函数空间之间的映射，在训练后能提供比传统偏微分方程求解器数量级的加速。特别是傅里叶神经算子 (FNO)，在达西流、纳维-斯托克斯方程和弹性力学等基准偏微分方程上实现了低于 1% 的相对误差。然而，在安全关键的工程应用——桥梁设计、飞机认证、核反应堆分析——中部署这些代理模型，需要严格的不确定性量化 (UQ) \(Psaros \ et \ al., 2023 \ (https://arxiv.org/html/2609.11935#bib.bib16)\)：当生命攸关时，一个没有校准置信区间的点预测价值有限。

#### 不确定性量化的挑战。

标准的深度学习不确定性方法（MC Dropout \(Gal \ \& \ Ghahramani, 2016 \ (https://arxiv.org/html/2609.11935#bib.bib6)\)，深度集成 \(Lakshminarayanan \ et \ al., 2017 \ (https://arxiv.org/html/2609.11935#bib.bib7)\)）缺乏理论覆盖保证。正如我们在经验上展示的 (\(§5 \ (https://arxiv.org/html/2609.11935#S5)\))，MC Dropout 的覆盖率根据场景在 82% 到 100% 之间变化，无法提供可靠性保证。共形预测 \(Vovk \ et \ al., 2005 \ (https://arxiv.org/html/2609.11935#bib.bib3)\) 通过在可交换性下提供无分布、有限样本的覆盖保证解决了这个问题。然而，标准的分裂共形预测产生*空间均匀*的区间——在任何地方宽度相同——忽略了问题的物理结构。

#### 关键见解。

在科学计算中，我们可以访问控制偏微分方程 \(D[u]=0\)。预测 \(f(x)\) 处的偏微分方程残差 \(R(x)=D[f(x)]\) 是一个*物理感知的误差指标*：\(R(x)\) 较大的区域更有可能包含预测误差。我们通过定义一个由偏微分方程残差归一化的非一致性得分，将这个见解嵌入到共形预测中，产生的区间具有 (i) 可证明的校准性，以及 (ii) 空间自适应性——在偏微分方程满足度高的区域更窄，在违反物理的区域更宽。

#### 第二个见解：坐标通道。

在开发 PI-CP 的过程中，我们发现 FNO 的平移等变性——其核心的归纳偏置——为具有狄利克雷边界条件的偏微分方程创造了一个根本性的近似障碍。在达西流上，没有坐标通道的 FNO 达到 63% 的误差；添加网格坐标 \([x,y]\) 将其降低到 1%，改进了 \(63\times\) 倍。我们基于对称性分析提供了理论解释，并在五个场景中进行了验证。

#### 贡献。

1.  **物理信息共形预测 (PI-CP)**：一种新颖的非一致性得分 \(s=\|y−f(x)\|/(1+\lambda\|R(x)\|)\)，纳入了偏微分方程残差 \(R(x)\)，产生具有可证明覆盖（命题 1）和基于正残差-误差相关性的空间自适应（注记）的区间。
2.  **坐标感知 FNO 理论**：我们证明了 FNO 的平移等变性为狄利克雷边界条件创造了近似障碍（定理 1），而坐标通道通过打破这种对称性来解决该障碍（定理 2），并在五个场景中通过高达 \(63\times\) 的改进进行了验证。
3.  **多物理场景验证**：在六个物理场景中验证 PI-CP，所有共形方法均有一致的 89–91% 覆盖率。FNO 优于 CNN 和 DeepONet \(10–12\times\) 倍。

## 2 相关工作

#### 神经算子。

傅里叶神经算子 (FNO) \(Li \ et \ al., 2021 \ (https://arxiv.org/html/2609.11935#bib.bib1)\) 通过频域中的谱卷积学习函数空间之间的映射，实现离散化不变的近似。DeepONet \(Lu \ et \ al., 2021 \ (https://arxiv.org/html/2609.11935#bib.bib2)\) 使用分支-主干分解，其中分支网络编码输入函数，主干网络编码查询位置。图神经算子 \(Li \ et \ al., 2020 \ (https://arxiv.org/html/2609.11935#bib.bib11)\) 将此扩展到不规则网格。虽然这些方法达到了惊人的准确性，但它们只产生没有不确定性估计的点预测。我们的工作在*事后*增加了严格的不确定性量化，无需修改训练过程，使其与任何预训练的神经算子兼容。

#### 共形预测。

分裂共形预测 \(Vovk \ et \ al., 2005 \ (https://arxiv.org/html/2609.11935#bib.bib3); \ Shafer \ \& \ Vovk, 2008 \ (https://arxiv.org/html/2609.11935#bib.bib15)\) 在可交换性下提供有限样本、无分布的边际覆盖。Lei 等人 \(2018 \ (https://arxiv.org/html/2609.11935#bib.bib4)\) 引入了使用归一化非一致性得分 \(s=\|y−f(x)\|/\sigma(x)\) 的局部自适应共形预测，其中 \(\sigma(x)\) 估计局部预测难度（例如，MC Dropout 方差）。共形化分位数回归 (CQR) \(Romano \ et \ al., 2019 \ (https://arxiv.org/html/2609.11935#bib.bib8)\) 通过分位数回归实现自适应性。Bates 等人 \(Bates \ et \ al., 2021 \ (https://arxiv.org/html/2609.11935#bib.bib18)\) 将共形方法扩展到控制超出覆盖率的一般统计风险。全面的处理请参见 Angelopoulos \ & \ Bates \(2023 \ (https://arxiv.org/html/2609.11935#bib.bib14)\)。

虽然 PI-CP 共享归一化得分 \(Lei \ et \ al., 2018 \ (https://arxiv.org/html/2609.11935#bib.bib4)\) 的数学结构，但*信息来源*根本不同。局部自适应共形预测依赖于模型内部的不确定性 \(\sigma(x)\)；PI-CP 使用偏微分方程残差 \(\|R(x)\|\) ——一种从已知控制方程计算出的*外部*基于物理的信号。这种区别对神经算子很重要：训练良好的 FNO 模型产生近乎均匀的 dropout 方差 (\(\sigma(x)\approx const\))，导致归一化共形预测的空间自适应性为零 (\(CV=0.000\)，表 2)。相比之下，偏微分方程残差捕捉了物理不一致性的空间变化结构，提供了一个有意义的自适应性信号 (\(CV=0.221\))。此外，\(\|R(x)\|\) 无需辅助不确定性模型——它在任何偏微分方程控制的问题中都是免费可用的。

#### 物理信息机器学习。

物理信息神经网络 (PINNs) \(Raissi \ et \ al., 2019 \ (https://arxiv.org/html/2609.11935#bib.bib5)\) 将偏微分方程约束嵌入到*训练*损失中，引导模型走向物理一致的解。我们的方法是互补的：我们在*推理*时间使用偏微分方程残差来校准不确定性，无需重新训练。这两种方法可以结合使用——一个用 PINNs 训练的模型可以使用 PI-CP 进行校准的不确定性量化。

#### 神经网络中的等变性。

等变神经网络 \(Cohen \ \& \ Welling, 2016 \ (https://arxiv.org/html/2609.11935#bib.bib9); \ Bronstein \ et \ al., 2017 \ (https://arxiv.org/html/2609.11935#bib.bib10)\) 利用对称结构来提高泛化能力。FNO 的平移等变性是周期域上偏微分方程问题的关键归纳偏置。然而，Li 等人 \(2021 \ (https://arxiv.org/html/2609.11935#bib.bib1)\) 指出，可以可选地添加“网格特征”而未进行分析。我们表明，对于狄利克雷边界条件，坐标通道不是可选的而是*必需*的，并提供了群论解释和高达 \(63\times\) 的经验验证。

## 3 背景

### 3.1 傅里叶神经算子

FNO 架构应用谱卷积：
\[ v_{t+1}(x)=\sigma\!\left(Wv_{t}(x)+\mathcal{F}^{-1}[R_{\kappa}\cdot\hat{v}_{t}(\kappa)](x)\right) \quad (1) \]
其中 \(R_{\kappa}\) 是一个可学习的权重张量，应用于傅里叶系数 \(\hat{v}_{t}(\kappa)\)，截断到最低的 \(m\) 个模态。

### 3.2 分裂共形预测

给定校准集 \(\{(x_{i},y_{i})\}_{i=1}^{n}\) 和显著性水平 \(\alpha\)：

1.  计算非一致性得分 \(s_{i}=\|y_{i}−f(x_{i})\|\)
2.  找到分位数 \(\hat{q}=\) 第 \(\lceil(1−\alpha)(n+1)\rceil\) 阶统计量
3.  输出区间 \(C(x)=[f(x)−\hat{q},\;f(x)+\hat{q}]\)

### 3.3 符号

我们记 \(x\in\Omega\subset\mathbb{R}^{d}\) 为空间坐标，定义在具有边界 \(\partial\Omega\) 的域 \(\Omega\) 上。偏微分方程写为 \(\mathcal{D}[u](x)=0\)，其中微分算子为 \(\mathcal{D}\)，满足边界条件 \(u|_{\partial\Omega}=g\)。系数到解的算子为 \(S:k\mapsto u\)。神经算子近似为 \(f_{\theta}\)（当清楚时我们省略 \(\theta\)）。预测处的偏微分方程残差为 \(R(x)=\mathcal{D}[f](x)\)。对于共形预测，显著性水平为 \(\alpha\in(0,1)\)，非一致性得分为 \(s\)，校准分位数为 \(\hat{q}\)。我们使用 \(\|\cdot\|_{L^{2}}\) 表示 \(L^{2}(\Omega)\) 范数。平移 \(\delta\) 记为 \((\tau_{\delta}f)(x):=f(x−\delta)\)。傅里叶变换及其逆变换分别为 \(\mathcal{F}\) 和 \(\mathcal{F}^{-1}\)。

### 3.4 问题设置

我们考虑算子学习设置：给定一个具有边界条件的偏微分方程 \(\mathcal{D}[u]=0\)，解算子 \(S\) 将系数场 \(k\in\mathcal{X}\) 映射到解 \(u\in\mathcal{Y}\)。神经算子 \(f_{\theta}\) 近似 \(S\)。我们解决两个问题：

1.  **不确定性量化**：对于一个新的输入 \(x_{\text{test}}\)，构造一个预测区间 \(C(x_{\text{test}})\)，使得 \(P(y_{\text{test}}\in C(x_{\text{test}}))\geq 1−\alpha\)，其中 \(y_{\text{test}}=S(x_{\text{test}})\)。该区间应具有*空间自适应性*——反映局部预测难度。
2.  **架构限制**：对于具有非平凡狄利克雷边界条件的偏微分方程，\(S\) 不是平移等变的。FNO 的等变性如何影响其近似 \(S\) 的能力，以及如何解决这个问题？

## 4 方法

### 4.1 物理信息非一致性得分

#### 动机。

标准分裂共形预测对所有测试点分配相同的区间宽度，无论其物理特性如何。然而，在科学计算中，我们拥有一个强大的*先验*误差指标：偏微分方程残差。如果一个预测 \(f(x)\) 满足控制方程（低 \(\|R(x)\|\)），它更有可能是准确的；如果它违反物理（高 \(\|R(x)\|\)），则可能包含误差。PI-CP 通过用 \(\|R(x)\|\) 归一化非一致性得分来利用这一点。

###### 定义 1（偏微分方程残差）。

对于具有微分算子 \(\mathcal{D}\) 的偏微分方程 \(\mathcal{D}[u](x)=0\)，预测 \(f(x)\) 处的残差为 \(R(x)=\mathcal{D}[f](x)\)。

###### 定义 2（PI-CP 得分）。

物理信息非一致性得分为：
\[ s(x,y)=\frac{\|y−f(x)\|}{1+\lambda\|R(x)\|} \quad (2) \]
其中 \(\lambda\geq 0\) 控制物理的影响。

#### 解释。

当 \(\|R(x)\|\) 较大时（违反物理），分母增大，减少了得分 \(s\)——实际上是告诉共形预测，在这里预期会有较大的误差，不应扩大全局分位数。相反，当 \(\|R(x)\|\approx 0\)（物理满足），得分趋近于原始误差 \(\|y−f(x)\|\)，使分位数变紧。所得区间为：
\[ C(x)=\big[f(x)−\hat{q}(1+\lambda\|R(x)\|),\;\;f(x)+\hat{q}(1+\lambda\|R(x)\|)\big] \quad (3) \]
该区间是*空间自适应*的：在违反物理的区域更宽，在满足物理的区域更紧。\(\lambda\) 参数在标准共形预测 (\(\lambda=0\)) 和完全物理自适应区间 (\(\lambda\to\infty\)) 之间平滑插值。

###### 命题 1（覆盖保证）。

在 \((x_{i},y_{i})\) 可交换且固定训练模型 \(f\) 的条件下，PI-CP 满足 \(P\!\big(y\in C(x)\big)\geq 1−\alpha\)。

###### 证明。

得分 \(s(x,y)=\|y−f(x)\|/(1+\lambda\|R(x)\|)\) 是 \((x,y)\) 的确定性函数，因为在推理时 \(f\)、\(\lambda\) 和微分算子 \(\mathcal{D}\) 都是固定的。因此，\(\{(x_{i},y_{i})\}\) 的可交换性意味着 \(\{s_{i}\}\) 的可交换性，标准的分裂共形预测论证 \(Vovk \ et \ al., 2005 \ (https://arxiv.org/html/2609.11935#bib.bib3)\) 给出了覆盖保证。∎

###### 命题 2（区间宽度分析）。

令 \(w_{\text{std}}(x)=2\hat{q}_{\text{std}}\) 为标准共形预测的区间宽度（在 \(x\) 上恒定），\(w_{\text{PI}}(x)=2\hat{q}_{\text{PI}}(1+\lambda\|R(x)\|)\) 为 PI-CP 的宽度。则：

1.  **空间自适应性**：\(w_{\text{PI}}(x)\) 随 \(\|R(x)\|\) 变化，宽度变异系数 \(CV=\text{std}(\|R\|)/\text{mean}(\|R\|)\)，与 \(\hat{q}\) 无关。
2.  **有界开销**：期望宽度比满足 \(\mathbb{E}[w_{\text{PI}}]/\mathbb{E}[w_{\text{std}}]=(\hat{q}_{\text{PI}}/\hat{q}_{\text{std}})\big(1+\lambda\,\mathbb{E}[\|R\|]\big)\leq 1+\lambda\,\mathbb{E}[\|R\|]\)，其中不等式使用了第 (3) 部分。
3.  **得分校准**：PI-CP 的分位数 \(\hat{q}_{\text{PI}}\leq\hat{q}_{\text{std}}\)。