通过高斯溅射表示的物理集成算子学习

# 基于高斯溅射表示的物理集成算子学习  
来源：https://arxiv.org/html/2608.24049  
期刊：Elsevier  
Junyi Guo  
Jian-Xun Wang  
电子邮件：[[email protected]](mailto:[email protected])  
地址：美国纽约州伊萨卡市康奈尔大学西布利机械与航空航天工程学院  
通讯作者：通讯作者。电话：+1 540 3156512  

###### 摘要  
神经算子为时空偏微分方程系统提供了高效的代理模型，但纯数据驱动的公式在长期自回归预测过程中常累积显著误差，且可能无法利用可用的控制方程结构。现有方法主要通过残差训练目标或PDE特定架构约束来整合物理知识，但这可能引入优化困难或限制架构的通用性。本文提出一种表示层面的物理集成方法，其中前馈高斯溅射（FFGS）表示作为离散化解场与控制算子之间的连续接口。FFGS表示将状态重建为具有闭式空间导数的连续高斯场，使得可用的物理PDE算子能够直接集成到学习的演化映射中，无需引入物理残差损失。我们在二维和三维PDE系统（包括平流、扩散、非线性自对流和反应动力学）上评估了该框架。在长期自回归滚动预测中，与最强的纯数据驱动基线相比，所提框架在基准测试套件中将相对$\ell_2$误差降低了$1.5\times$至$2.2\times$，同时持续提升频谱保真度。当控制方程部分已知时，该框架仍然有效，展示了对不完整物理的鲁棒性。这些结果表明，连续场表示可以为将已知物理结构整合到通用神经算子代理中提供实用接口。  

## 1 引言  
由偏微分方程（PDE）控制的时空动态在科学与工程中无处不在，从对流和扩散传输到非线性波陡峭化和移动反应界面。传统数值方法离散化控制算子并通过时间积分推进状态；这些方法能准确解析动态，但在设计优化、反问题、数据同化和不确定性量化等多查询场景中，其计算成本变得难以承受，因为前向模型必须在不同初始条件和物理参数下反复求值。这推动了构建数据驱动代理模型的快速发展，这些代理模型从预计算的轨迹中学习解算子的快速近似，一旦训练完成，便可以极小的成本替代数值求解器。  
神经算子（NOs）[1](https://arxiv.org/html/2608.24049#bib.bib1), [2](https://arxiv.org/html/2608.24049#bib.bib2)使用神经网络参数化无限维函数空间之间的映射，是目前这类代理模型的领先类别。它们在广泛时空系统（包括天气动力学[3](https://arxiv.org/html/2608.24049#bib.bib3), [4](https://arxiv.org/html/2608.24049#bib.bib4)和湍流[5](https://arxiv.org/html/2608.24049#bib.bib5), [6](https://arxiv.org/html/2608.24049#bib.bib6)）中表现出强大的预测性能。然而，标准NOs主要从轨迹数据中训练，并通过有限观测隐式推断底层动力学。这一局限性在自回归预测中尤为明显，其中局部近似误差通过重复的算子求值而累积，并逐渐降低长期精度[7](https://arxiv.org/html/2608.24049#bib.bib7)。当部署的动力学偏离训练分布时，这种退化进一步放大[8](https://arxiv.org/html/2608.24049#bib.bib8), [9](https://arxiv.org/html/2608.24049#bib.bib9)。这些故障模式推动了将控制方程知识整合到算子学习中。  
一种直接策略是在监督算子学习中增加源自控制方程的辅助损失项[10](https://arxiv.org/html/2608.24049#bib.bib10), [11](https://arxiv.org/html/2608.24049#bib.bib11)。这种物理信息公式继承了PINNs[12](https://arxiv.org/html/2608.24049#bib.bib12)的若干优化困难：数据和物理目标呈现不同的尺度和梯度动态，使得它们的相对权重设置微妙且问题依赖[13](https://arxiv.org/html/2608.24049#bib.bib13), [14](https://arxiv.org/html/2608.24049#bib.bib14)。此外，通过残差强制执行控制方程需要在训练期间重复评估空间和时间导数。对于基于坐标的表示，这些导数通常通过自动微分获得，其计算和内存成本随配置点数和导数阶数的增加而增加，从而限制了基于残差的物理集成的可扩展性。  
另一个方向是将物理知识直接整合到算子的构建中。例如，保形神经算子通过微分构造强制规定不变量[15](https://arxiv.org/html/2608.24049#bib.bib15)，而不变和等变算子则编码控制系统的对称性[16](https://arxiv.org/html/2608.24049#bib.bib16), [17](https://arxiv.org/html/2608.24049#bib.bib17)。其他方法在神经算子层中引入局部微分相互作用或物理启发的特征变换[18](https://arxiv.org/html/2608.24049#bib.bib18), [19](https://arxiv.org/html/2608.24049#bib.bib19)。这些方法表明，当物理知识在训练目标之外被整合时，可以改善学习的动力学。然而，相应的构造通常针对特定的PDE系统，整合不同的控制方程可能需要重新设计相应的物理感知组件。这种PDE特定设计促使我们通过场表示而非神经算子架构来引入控制知识。  
这种表示必须能够从离散化状态重建物理场，并直接提供控制算子所需的空间微分量。显式连续基表示非常适合此角色，因为重建的场及其空间导数都可以从基函数解析求值。然后可以直接在该连续表示上评估可用的控制项，同时保留通用的神经算子架构。  
显式连续基表示的使用在经典径向基函数（RBF）配置方法中已得到充分建立，其中解由光滑基函数表示，微分算子解析地应用于基函数，以在配置点强制执行控制方程[20](https://arxiv.org/html/2608.24049#bib.bib20), [21](https://arxiv.org/html/2608.24049#bib.bib21)。最近，通过3D高斯溅射获得的高斯基元[22](https://arxiv.org/html/2608.24049#bib.bib22)已被探索用于物理场表示和建模。现有研究涵盖了用于紧凑场编码的高斯表示[23](https://arxiv.org/html/2608.24049#bib.bib23)、高斯基算子学习[24](https://arxiv.org/html/2608.24049#bib.bib24)和PDE约束高斯优化[25](https://arxiv.org/html/2608.24049#bib.bib25)。然而，原始高斯溅射范式依赖于每个实例的基元参数优化。将此过程应用于每个演化的PDE状态将在自回归时间步进中引入大量开销。计算机视觉中开发的前馈高斯溅射（FFGS）方法提供了一种高效的替代方案，通过摊销高斯构造到学习模型中，这些模型在单次前向传播中预测基元参数[26](https://arxiv.org/html/2608.24049#bib.bib26), [27](https://arxiv.org/html/2608.24049#bib.bib27), [28](https://arxiv.org/html/2608.24049#bib.bib28)。相关的摊销高斯表示也已开始出现在科学应用中，例如从稀疏观测重建物理场[29](https://arxiv.org/html/2608.24049#bib.bib29)。然而，使用摊销高斯表示作为在神经算子时间演化中评估控制算子的连续接口，在很大程度上尚未被探索。  
为解决这一差距，我们开发了一种物理集成神经算子框架，该框架采用FFGS作为物理场的连续表示。解析的高斯表示直接提供了评估可用控制项所需的空间导数，允许将其贡献整合到学习的演化映射中，同时保留通用的神经算子骨干。我们进一步将该框架扩展到部分物理设置，其中控制形式已知，但其系数从轨迹数据中识别。  
我们在涉及平流、扩散、非线性自对流和反应动力学的二维和三维系统上评估了该框架。在这些设置中，表示层面的物理集成一致提高了长期滚动精度和频谱保真度，优于纯数据驱动基线，并在仅部分控制信息可用时保留了显著增益。组件消融研究进一步表明，嵌入物理组件和神经算子组件在产生的动态中起互补作用。总体而言，这些结果确立了FFGS作为将完全或部分已知控制结构整合到通用神经算子代理中的实用连续接口。  
本文其余部分结构如下。在第2节[第2节](https://arxiv.org/html/2608.24049#S2)，我们介绍物理集成神经算子框架，并公式化FFGS表示、嵌入物理组件和滚动训练过程。在第3节[第3节](https://arxiv.org/html/2608.24049#S3)，我们描述基准问题、训练协议、基线模型和评估指标。在第4节[第4节](https://arxiv.org/html/2608.24049#S4)，我们报告数值结果，并评估长期滚动精度、频谱保真度、部分物理性能和推理成本。第5节[第5节](https://arxiv.org/html/2608.24049#S5)分析各个组件的贡献，并讨论该框架的局限性和未来方向，随后在第6节[第6节](https://arxiv.org/html/2608.24049#S6)给出结论。  

## 2 方法论  
参见标题(a)阶段1：FFGS表示与局部高斯渲染。  
参见标题(b)阶段2：整体物理集成代理。  
图1：方法概述。(a) FFGS模块将归一化网格场编码为各向异性高斯参数，并通过局部渲染重建连续场。(b) 组合一步代理将基于FFGS的嵌入物理组件与神经算子组件相结合。嵌入物理组件提供闭式空间导数，应用低通滤波器，并在更新映射内评估可用的控制项；在滚动训练期间，梯度在此组件处停止。  

### 2.1 概述  
我们考虑一个一般类别的非线性耦合PDE系统，用于参数化设置中的$C$分量场，  
$$
\frac{\partial \mathbf{u}}{\partial t} = \mathcal{F}\!\left[ \mathbf{u}, \nabla_{\mathbf{x}}\mathbf{u}, \nabla_{\mathbf{x}}^{2}\mathbf{u}, \ldots; \boldsymbol{\lambda} \right] \tag{1}
$$
$$
\mathcal{I}[\mathbf{u}, \mathbf{u}_{0}] = \mathbf{0}, \qquad t=0, \ \mathbf{x} \in \Omega,
$$
$$
\mathcal{B}[\mathbf{u}, \nabla_{\mathbf{x}}\mathbf{u}, \ldots] = \mathbf{0}, \qquad \mathbf{x} \in \partial \Omega.
$$
其中$\mathbf{u}(\mathbf{x}, t) \in \mathbb{R}^{C}$是空间域$\Omega \subset \mathbb{R}^{d}$和时间范围$t \in [0,T]$上的解场；$\mathcal{F}[\cdot; \boldsymbol{\lambda}]$是作用于场及其空间导数的非线性算子，$\boldsymbol{\lambda}$表示物理参数；$\mathcal{I}$和$\mathcal{B}$分别编码初始和边界条件。当省略空间自变量时，$\mathbf{u}(t)$表示完整场$\mathbf{u}(\cdot, t)$。  
控制PDE通过$\mathcal{F}$生成的时间演化诱导出有限时间解算子$\mathcal{G}_{\Delta t}$。以显式时间步进方式，这给出  
$$
\mathbf{u}(t + \Delta t) = \mathcal{G}_{\Delta t}\!\left( \mathbf{u}(t); \boldsymbol{\lambda} \right) \tag{2}
$$
$$
= \mathbf{u}(t) + \int_{t}^{t + \Delta t} \mathcal{F}\!\left[ \mathbf{u}(\tau), \nabla_{\mathbf{x}}\mathbf{u}(\tau), \nabla_{\mathbf{x}}^{2}\mathbf{u}(\tau), \ldots; \boldsymbol{\lambda} \right] \, d\tau.
$$
该演化通常需要受底层积分方案的稳定性和精度要求约束的时间步长$\Delta t$进行数值评估。神经算子则使用参数化算子$\mathcal{N}_{\theta}$来近似有限时间解算子$\mathcal{G}_{\Delta t}$，允许在更大的时间区间上进行预测。  
为了通过表示整合可用的物理，我们构建有限时间解算子$\mathcal{G}_{\Delta t}$的基于物理的近似。具体来说，算子$\operatorname{FFGS}$将$\mathbf{u}(t)$重建为连续场，其闭式空间导数提供了评估控制算子$\mathcal{F}$所需的量。由此产生的控制项在$\Delta t$上积分，定义嵌入物理算子$\Phi_{\Delta t}^{\mathrm{FFGS}}(\mathbf{u}(t); \boldsymbol{\lambda})$。我们结合该嵌入物理算子和神经算子来近似$\mathcal{G}_{\Delta t}$，  
$$
\mathbf{u}(t + \Delta t) = \mathcal{G}_{\Delta t}\!\left( \mathbf{u}(t); \boldsymbol{\lambda} \right) \approx \underbrace{\mathcal{N}_{\theta}\!\left( \mathbf{u}(t); \boldsymbol{\lambda} \right)}_{\text{神经算子组件}} + \underbrace{\Phi_{\Delta t}^{\mathrm{FFGS}}\!\left( \mathbf{u}(t); \boldsymbol{\lambda} \right)}_{\text{嵌入物理组件}}. \tag{3}
$$
接下来的章节将从高斯表示及其闭式空间导数构造$\Phi_{\Delta t}^{\mathrm{FFGS}}$，然后描述公式(3)中组合算子的滚动训练。