NINNs与重叠Schwarz交替方法的混合耦合

# 基于数值信息神经网络与重叠Schwarz交替法的混合耦合方法  
来源：https://arxiv.org/html/2609.17841  
Irina Tezaur††thanks:桑迪亚国家实验室，ikalash@sandia\.govAlejandro Diaz††thanks:桑迪亚国家实验室，andiaz@sandia\.govBeatrice Riviere††thanks:莱斯大学，riviere@rice\.edu  

###### 摘要  
我们开发了一种混合建模框架，用于将预训练的数值信息神经网络（NINNs）与经典全阶模型（FOMs）通过重叠Schwarz交替法进行耦合。我们考虑二维平流-扩散方程在平流主导、佩克莱特数 \(10^{6}\) 的工况下的问题。首先我们证明，与相应的物理信息神经网络（PINN）不同，单一的NINN可以在不使用区域分解的情况下，在我们的模型问题上被精确训练。随后，我们采用重叠乘法Schwarz方法作为部署机制，将预训练的子域局部NINN与相邻的FOM进行耦合，并在整个Schwarz迭代过程中保持NINN权重固定。我们考虑了两种子域局部NINNs的训练方法：一种是自上而下的方法，边界数据来源于在完整域上使用每个子域均为FOM的耦合Schwarz求解（FOM-FOM Schwarz）；另一种是自下而上的方法，边界迹在NINN子域上通过合成生成，无需任何完整域求解。所得的混合NINN-FOM解与相应的FOM-FOM Schwarz解高度吻合，且自上而下和自下而上的训练方法产生了相当的精度。  

## 1引言  
众所周知，作为流体动力学中输运现象的典型模型问题，平流-扩散方程在平流主导的高佩克莱特数工况下会带来显著的数值挑战。该工况下的解通常表现出陡峭的边界层，若解析不足，可能导致虚假振荡和数值精度损失[6 (https://arxiv.org/html/2609.17841#bib.bib3)]。这些陡峭的、输运主导的特征还会导致解族具有缓慢衰减的Kolmogorov n-宽度，使得精确的低维逼近变得困难[10 (https://arxiv.org/html/2609.17841#bib.bib8)]。这些特征的空间局部性，以及解中呈现的不同尺度，自然启发了在域的不同区域使用不同局部模型的思路。例如，在梯度最陡峭的区域采用经典求解器，而在域的其他区域分配可复用的学习模型，是十分自然的[1 (https://arxiv.org/html/2609.17841#bib.bib15),11 (https://arxiv.org/html/2609.17841#bib.bib16),18 (https://arxiv.org/html/2609.17841#bib.bib17)]。在重复查询的场景中，这种基于区域分解的模型分配与耦合方式，有望在保留经典模型在最需要区域的精度的同时，降低在线计算成本。  

重叠Schwarz交替法通过在重叠子域上迭代求解局部问题来构建全局解，每个子域的解在每次迭代中为相邻子域提供更新的狄利克雷边界条件[16 (https://arxiv.org/html/2609.17841#bib.bib20),9 (https://arxiv.org/html/2609.17841#bib.bib19),5 (https://arxiv.org/html/2609.17841#bib.bib18)]。重要的是，局部模型不必相同，这使得Schwarz框架天然适合异构模型耦合。先前的工作已展示了这一能力，例如在固体力学中耦合不同的网格和时间积分器[12 (https://arxiv.org/html/2609.17841#bib.bib13),13 (https://arxiv.org/html/2609.17841#bib.bib14)]，以及将基于投影的降阶模型（ROMs）、算子推断ROMs和物理信息神经网络（PINNs）与全阶模型（FOMs）耦合[1 (https://arxiv.org/html/2609.17841#bib.bib15),11 (https://arxiv.org/html/2609.17841#bib.bib16),18 (https://arxiv.org/html/2609.17841#bib.bib17),17 (https://arxiv.org/html/2609.17841#bib.bib12)]。在本工作中，我们将这种异构Schwarz耦合框架扩展到一类新兴的数据驱动模型，称为“数值信息神经网络”（NINNs）[3 (https://arxiv.org/html/2609.17841#bib.bib10)]，展示了预训练的子域局部NINNs与子域局部FOMs在稳态二维（2D）平流-扩散方程上的耦合。  

本工作建立在Snyder等人[17 (https://arxiv.org/html/2609.17841#bib.bib12)]基于Schwarz的PINN耦合框架之上，该框架针对一维（1D）稳态平流-扩散方程开发。他们的主要关注点是使用区域分解和Schwarz迭代来促进PINN训练：子域局部PINNs与Schwarz迭代同步训练，同时在相邻子域之间交换界面数据。尽管这种方法在高佩克莱特数下并未显著改善PINN的可训练性，但在流出子域耦合PINN与FOM使得在佩克莱特数为 \(10^{6}\) 时能够收敛。而使用Schwarz耦合预训练的学习模型且在Schwarz迭代期间不进行额外训练这一互补问题，则留待未来研究。  

近年来，NINNs已成为PINNs的一个有前途的替代方案，在多个场景中展现出改进的精度和更大的训练便利性[3 (https://arxiv.org/html/2609.17841#bib.bib10),4 (https://arxiv.org/html/2609.17841#bib.bib11)]。PINNs和NINNs之间的关键区别在于，PINNs在其最小化的损失函数中强制执行强形式偏微分方程（PDE）残差，而NINNs则使用经典数值方法（例如有限差分法[3 (https://arxiv.org/html/2609.17841#bib.bib10)]或间断Galerkin（DG）方法[4 (https://arxiv.org/html/2609.17841#bib.bib11)]）获得的PDE离散形式来构建损失。通过将指定的数值离散化嵌入训练目标，NINN学习与该离散化相关的系数，而不是直接近似满足强形式PDE的连续解，从而简化了学习问题。  

在本工作中，我们首先证明，一个采用强狄利克雷边界条件（SDBC）强制执行的单一NINN，可以在超高佩克莱特数 \(10^{6}\) 下，通过最少训练准确求解2D平流-扩散问题，而相应的PINN在该工况下无法获得精确解。随后，我们研究了使用Schwarz交替法将预训练的子域局部NINN与子域局部FOM耦合，且在Schwarz迭代期间不进行任何额外的NINN训练。我们探索了NINN的两种训练方法：自上而下方法和自下而上方法。在自上而下方法中，训练界面数据从FOM-FOM Schwarz耦合中收集，随后用于训练NINN，得到的迹能够表征耦合问题，但在离线阶段需要进行耦合FOM模拟。相比之下，在自下而上方法中，界面迹而是从指定的函数族中合成生成，避免了对FOM-FOM Schwarz训练模拟的需求，但要求合成迹能够充分代表部署期间遇到的界面条件。我们在高佩克莱特数工况下的稳态平流-扩散问题上评估了所提出的混合NINN-FOM耦合。预训练的NINN可以通过Schwarz交替法成功地与FOM耦合，得到与相应FOM-FOM Schwarz解高度一致的解。此外，自上而下和自下而上的训练方法产生了相当的耦合精度，证明了在不需要FOM-FOM Schwarz模拟来生成NINN训练数据的情况下，也能实现精确的混合耦合。  

本文其余部分组织如下。在第2节[ (https://arxiv.org/html/2609.17841#S2)]，我们介绍本文考虑的2D稳态平流-扩散问题。第3节[ (https://arxiv.org/html/2609.17841#S3)]回顾了NINN的公式化，包括其Pocket U-Net架构和训练目标，并讨论了NINN与PINN方法的关键区别。第4节[ (https://arxiv.org/html/2609.17841#S4)]描述了用于异构NINN-FOM耦合的重叠乘法Schwarz交替法，以及用于预训练这些耦合中使用的NINNs的自上而下和自下而上的训练方法。第5节[ (https://arxiv.org/html/2609.17841#S5)]展示了数值结果，首先评估了在超高佩克莱特数 \(10^{6}\) 的平流主导工况下单一NINN的可训练性，随后演示了预训练的NINN-FOM Schwarz耦合，针对稳态平流-扩散边值问题。第6节[ (https://arxiv.org/html/2609.17841#S6)]总结了我们的发现，并讨论了结论和未来工作。  

## 2模型问题  
本文考虑如下2D稳态平流-扩散方程：  

\[
\mathcal{L}u = f \quad \text{in } \Omega := (0,1) \times (0,1), \qquad u = 0 \quad \text{on } \partial\Omega, \quad (1)
\]  

其中  

\[
\mathcal{L}u := \boldsymbol{\beta} \cdot \nabla u - \nu \Delta u. \quad (2)
\]  

此处 \(\boldsymbol{\beta} \in \mathbb{R}^{2}\) 是（常数）平流场，\(\nu \in \mathbb{R}\) 是粘度，\(f \in L^{2}(\Omega)\) 是源函数。佩克莱特数定义为 \(Pe_{L} := \|\boldsymbol{\beta}\| L / \nu = \|\boldsymbol{\beta}\| / \nu\)，因为与几何相关的长度尺度 \(L\) 为1。图1 [ (https://arxiv.org/html/2609.17841#S2.F1)] 描绘了空间域 \(\Omega\) 及其边界 \(\partial\Omega\)，以及将其分解为两个重叠子域 \(\Omega_{L} := (0, \gamma_{L}) \times (0,1)\) 和 \(\Omega_{R} := (\gamma_{R}, 1) \times (0,1)\)，其中 \(0 < \gamma_{R} < \gamma_{L} < 1\)，这将在后续章节中引用。本文我们将注意力限制在水平平流场的情况，即 \(\boldsymbol{\beta} = (1,0)\)。此时，解在 \(x=1\) 处具有宽度为 \(O(\varepsilon)\) 的流出层，在 \(y=0,1\) 处具有特征层宽度为 \(O(\sqrt{\varepsilon})\)，其中 \(\varepsilon := \nu / \|\boldsymbol{\beta}\|\)。  

插图说明：图1：空间域 \(\Omega := (0,1) \times (0,1)\) 及其分解为两个重叠子域 \(\Omega_{L} := (0, \gamma_{L}) \times (0,1)\) 和 \(\Omega_{R} := (\gamma_{R}, 1) \times (0,1)\)。  

## 3数值信息神经网络（NINNs）  
数值信息神经网络（NINNs）是物理信息神经网络的一类，其中控制PDE的数值离散化被直接嵌入到训练目标中。为阐明NINNs与传统PINNs的区别，考虑具有公式(2)定义的算子 \(\mathcal{L}\) 的稳态平流-扩散问题(1)。为简化且因其产生更优结果，我们在两种公式化中均考虑狄利克雷边界条件的强执行。在每种情况下，对网络输出应用边界拟合的拟设（提升），使得所得解精确满足指定的狄利克雷数据[17 (https://arxiv.org/html/2609.17841#bib.bib12)]。因此，不需要边界损失项，故我们在PINN和NINN公式化中省略了它。  

表1：本文使用的主要PINN和NINN公式化比较。典型PINN与NINN架构之间的主要区别总结在表1 [ (https://arxiv.org/html/2609.17841#S3.T1)]中。传统的PINN[14 (https://arxiv.org/html/2609.17841#bib.bib1)]将解 \(u\) 近似为(1)的解 \(u\) 作为连续函数 \(u_{\theta}(\boldsymbol{x})\)，通常由多层感知器（MLP）网络参数化。此处及后续，\(\theta\) 表示神经网络的一组可训练参数，包括一组权重和偏置。给定一组 \(N_{c} \in \mathbb{N}^{+}\) 配置点 \(\{ \boldsymbol{x}_{i} \}_{i=1}^{N_{c}} \in \Omega\)，并假设无数据损失项，PINN通过最小化  

\[
J_{\text{PINN}}(\theta) = \frac{1}{N_{c}} \sum_{i=1}^{N_{c}} \| \mathcal{L} u_{\theta}(\boldsymbol{x}_{i}) - f(\boldsymbol{x}_{i}) \|^{2}. \quad (3)
\]  

来进行训练。目标函数(3)通常使用Adam优化器[7 (https://arxiv.org/html/2609.17841#bib.bib6)]最小化，其中 \(\mathcal{L} u_{\theta}\) 中的导数使用自动微分计算。因此，PINN将空间坐标 \(\boldsymbol{x}\) 映射到该坐标处解的近似，并被训练以在一组配置点上近似满足连续强形式PDE。  

与传统PINN不同，NINN从控制PDE的数值离散化开始，对于我们的稳态线性问题(1)，会产生如下形式的线性离散系统：  

\[
\boldsymbol{A}_{h} \boldsymbol{u}_{h} = \boldsymbol{b}_{h}, \quad (4)
\]  

其中 \(\boldsymbol{A}_{h} \in \mathbb{R}^{N_{h} \times N_{h}}\) 是表示离散化模板的矩阵，\(\boldsymbol{u}_{h} \in \mathbb{R}^{N_{h}}\) 是离散化解向量，\(\boldsymbol{b}_{h} \in \mathbb{R}^{N_{h}}\) 包含离散化源项 \(f\) 和指定的狄利克雷数据的贡献，\(N_{h} \in \mathbb{N}^{+}\)。在本文工作中，\(\boldsymbol{A}_{h}\) 使用有限差分离散化构建，包含平流项的二阶迎风近似和扩散项的二阶近似，在靠近流入边界的第一内节点处使用一阶迎风闭合。在NINN中，离散解表示为节点场  

\[
\boldsymbol{u}_{\theta} = N_{\theta}(\boldsymbol{X}), \quad (5)
\]  

其中 \(\boldsymbol{X}\) 是基于网格的输入张量。然后通过最小化离散系统(4)的残差来确定NINN参数，由下式给出  

\[
J_{\text{NINN}}(\theta) = \frac{1}{N_{h}} \| \boldsymbol{A}_{h} \boldsymbol{u}_{\theta} - \boldsymbol{b}_{h} \|_{2}^{2}. \quad (6)
\]  

类似于PINN，NINN损失(6)通常使用Adam算法优化。虽然在PINN目标函数(3)中通常包含数据失配项（称为数据损失）以促进PINN训练并提高精度，但NINN是作为完全无监督的PDE求解器开发的：训练目标构建自数值离散化的残差，不需要标记的解数据。