基于物理信息的错误场学习:物理信息神经网络的后训练优化框架

arXiv cs.LG 论文

摘要

本文提出了一种用于物理信息神经网络(PINNs)的基于物理信息的错误场学习(PIEFL)框架,引入辅助错误网络以提高在计算约束下求解部分微分方程(PDEs)的解的精度。

arXiv:2608.24970v1 Announce Type: new 摘要:物理信息神经网络(PINNs)已成为解决部分微分方程(PDEs)的重要数值方法类别。然而,在后期优化过程中,进一步的参数更新往往在计算成本增加的同时,带来递减的精度改进。为解决这一问题,本文提出了一种用于PINNs的基于物理信息的错误场学习(PIEFL)框架。与使用单一网络连续近似解场的传统方法不同,PIEFL在主网络达到满意精度后引入辅助错误网络,并将学习目标从解场转移到错误场。通过在物理约束下推导错误控制方程,错误网络学习当前近似与精确解之间的差异,并将学习到的错误校正与主预测结合以提高解的精度。所提框架避免了对整个解空间的连续优化,并将计算资源集中在校正现有预测错误上。此外,PIEFL无需修改主网络架构,使其与现有PINN模型兼容,并可作为通用的后训练优化策略。在具有代表性的PDEs上的数值实验表明,PIEFL在相同计算预算下实现了更高的解精度,验证了其在提升PINNs性能方面的有效性。
查看原文
查看缓存全文

缓存时间: 2026/08/27 09:29

# 物理信息误差场学习:物理信息神经网络的训练后优化框架  
来源:https://arxiv.org/html/2608.24970  
孙九云 单位=山东科技大学数学与系统科学学院,地址=前湾港路579号,城市=青岛,邮编=266590,州=山东,国家=中国  

###### 摘要  

物理信息神经网络(PINNs)已成为求解偏微分方程(PDEs)的重要数值方法类别。然而,在后期优化过程中,进一步的参数更新往往导致精度提升逐渐减弱,同时计算成本增加。为解决此问题,本文提出了一种针对PINNs的物理信息误差场学习(PIEFL)框架。与传统方法通过单一网络持续逼近解场不同,PIEFL在主网络达到满意精度后引入辅助误差网络,并将学习目标从解场转向误差场。通过在物理约束下推导误差控制方程,误差网络学习当前近似解与精确解之间的差异,并将学习到的误差修正与主预测结合以提高解的精度。该框架避免了持续优化整个解空间,将计算资源集中于修正现有预测误差。此外,PIEFL无需修改主网络架构,兼容现有PINN模型,可作为通用的训练后优化策略。在代表性PDEs上的数值实验表明,PIEFL在相同计算预算下能实现更高的解精度,验证了其在提升PINNs性能方面的有效性。  

###### 关键词  

物理信息误差场学习,物理信息神经网络,偏微分方程  

## 1引言  

偏微分方程(PDEs)是描述自然科学与工程中复杂物理过程的基本数学工具,在流体力学、材料科学、环境科学及生物医学等领域有广泛应用(Evans 2022;Cai等 2021b;Pun等 2019;Cleary与Prakash 2004;Sobie等 2011)。开发高效准确的PDE求解方法长期是科学计算的核心研究课题。近年来,物理信息神经网络(PINNs)作为一种将数据驱动学习与物理约束相结合的新型计算框架,为求解PDEs提供了新范式(Raissi等 2019)。通过将物理残差纳入神经网络的损失函数,PINNs消除了传统数值方法所需的复杂网格划分过程,并在流体动力学、固体力学及生物医学工程等应用中展现出巨大潜力(Cai等 2021a;Hu等 2024;Roquemen-Echeverri与Mosquera-Lopez 2025;Rao等 2021)。  

尽管PINNs在求解PDEs方面展现出显著潜力,但在计算效率、训练稳定性及实现高精度解的能力方面仍面临重大挑战(Cuomo等 2022;Karniadakis等 2021;Krishnapriyan等 2021)。为解决PINN训练中遇到的优化困难、收敛缓慢及对复杂物理场的逼近能力有限等问题,现有研究主要聚焦于增强解网络的表示能力及改进训练策略(Jagtap等 2020a;Yang等 2021;Lin与Chen 2022)。一方面,已开发出更有效的神经网络架构,包括残差连接、傅里叶特征及其他高级特征映射技术,以提升神经网络表示复杂物理场的能力(Wang等 2021a;Wang等 2021b;Song与Wang 2023;Gao等 2021;Ren等 2022;Sun等 2024)。另一方面,引入自适应采样和域分解等策略优化训练点分布,使网络能更有效地聚焦于物理约束难以满足的区域(Wu等 2023;Tang等 2023;Jagtap等 2020b;Jagtap与Karniadakis 2020;Moseley等 2023)。此外,自适应损失加权、梯度平衡及高级优化算法被用于缓解不同损失分量之间的不平衡,提高训练过程的稳定性和收敛性(Wang等 2021a;Xiang等 2022;Feng等 2026;Li与Feng 2022;Hou等 2023;Wang等 2025;Tao等 2025)。这些方法从不同角度提升了PINNs的性能,但它们的共同特点是:本质上仍依赖持续优化解网络参数以逼近精确解。  

然而,一个尚未得到充分关注的问题是:在PINN训练的后期阶段,进一步优化网络参数往往导致解精度的提升逐渐减弱,而计算成本持续增加,产生显著的收益递减效应。此时,解网络通常已捕获目标解场的整体结构,大量计算资源用于进一步精炼网络参数,却只能实现解误差的边际改善。因此,一个重要问题自然浮现:是否仍需持续优化解网络,抑或通过转向学习目标能更高效地实现更高的解精度?  

基于上述观察,本文提出一种新颖的物理信息误差场学习(PIEFL)框架,为PINNs的后期优化提供新策略。与现有持续学习解场的方法不同,所提方法首先训练PINN以获得解场的精确近似(称为主网络)。一旦主网络达到满意精度,学习目标便从解场转向误差场。通过构建误差控制方程,主网络的预测误差被转化为满足底层物理约束的误差场,并采用辅助PINN学习该场。最终,将学习到的误差场叠加到主网络预测上,以获得更精确的数值解。  

与持续优化已接近收敛的解网络相比,PIEFL引入独立的误差网络直接学习现有预测中的残差误差,从而仅以边际额外计算开销实现精度进一步提升。因此,本工作专注于提升PINNs在后期优化过程中的计算效率。具体而言,通过转向学习目标实现更高效的误差修正,同时保留原始的物理约束求解框架。  

所提PIEFL框架无需修改现有PINNs的基本架构,可作为通用的训练后优化策略,兼容现有增强技术(包括网络架构改进、自适应采样和损失加权策略)。本文的主要贡献总结如下:  
- • 提出物理信息误差场学习(PIEFL)框架。与传统PINNs持续优化解网络不同,PIEFL将误差场视为独立学习目标,将优化目标从解场学习转向误差场学习。  
- • 建立误差场相应的物理控制方程。通过推导误差场满足的物理约束,将误差学习过程纳入PINNs框架,确保误差网络与原系统服从相同的物理约束。  
- • 开发PINNs的高效后期优化策略。在收益递减阶段从解优化转向误差场学习,PIEFL以更低计算成本进一步降低预测误差。  
- • 通过多个代表性PDE问题验证PIEFL的有效性。数值结果表明,与持续训练策略相比,PIEFL以更低计算成本实现更高解精度,同时表现出强适用性和兼容性。  

本文其余部分组织如下:第2节详细阐述PIEFL的理论基础和实现方法;第3节描述实验设置、分析数值结果并提供所提框架的对比验证;第4节总结本文工作。  

## 2方法  

本节介绍标准PINNs的基本结构以及所提PIEFL框架的学习原理。  

### 2.1标准PINNs  

本文主要考虑以下一般形式的PDEs:  

$$\frac{\partial u(x,t)}{\partial t} + \mathcal{N}[u(x,t)] = 0, \quad x \in \Omega \subset \mathbb{R}^D, \ t \in [0,T],$$  
$$u(x,0) = I(x), \quad x \in \Omega,$$  
$$u(x,t) = B(x,t), \quad x \in \partial\Omega.$$  

其中,$u(x,t)$ 表示目标解,$\mathcal{N}[u(x,t)]$ 代表非线性微分算子。$I(x)$ 和 $B(x,t)$ 分别表示初始条件和边界条件(IC/BC)。根据参考文献(Raissi等 2019),解 $u(x,t)$ 可由深度神经网络近似。本质上,PINNs通过物理约束将物理规律纳入损失函数。因此,方程(1)对应的物理残差 $f$ 定义为  

$$f := \frac{\partial u}{\partial t} + \mathcal{N}[u].$$  

PINNs的损失函数包含数据损失 $\text{MSE}_u$ 和物理损失 $\text{MSE}_f$:  

$$\text{MSE} = \text{MSE}_u + \text{MSE}_f,$$  

其中  

$$\text{MSE}_u = \frac{1}{N_u} \sum_{i=1}^{N_u} \| u(x_u^i, t_u^i) - u^i \|^2,$$  

以及  

$$\text{MSE}_f = \frac{1}{N_f} \sum_{i=1}^{N_f} \| f(x_f^i, t_f^i) \|^2.$$  

此处,$(t_u^i, x_u^i, u^i), i=1,\ldots,N_u$ 表示初始和边界训练数据,而 $(t_f^i, x_f^i), i=1,\ldots,N_f$ 代表用于评估物理残差 $f$ 的配置点。项 $\text{MSE}_u$ 对应于与初始和边界条件相关的损失,而 $\text{MSE}_f$ 在配置点集上施加方程(2)定义的物理约束。  

### 2.2物理信息误差场学习框架  

本节详细描述物理信息误差场学习(PIEFL)框架的基本原理。PIEFL采用新颖的级联架构,将求解过程分解为两个阶段。第一阶段,训练主网络以获得满足控制PDE的初始近似解。第二阶段,引入受主网络预测指导的误差网络,专门学习满足相应物理约束的误差场。最后,通过组合两个网络的输出获得高精度解。所提框架的整体架构如图1所示。  

![图1](figure_url) 图1:PIEFL示意图  

#### 2.2.1主网络  

在PIEFL框架中,主网络执行第一阶段求解任务,旨在为目标PDE提供满足控制物理定律和相应IC/BC约束的基础近似解。  

主网络与标准PINNs共享相同的输入配置和损失函数。其输出包括初始预测 $u_p$ 及相应的PDE残差:  

$$f_p := \frac{\partial u_p}{\partial t} + \mathcal{N}[u_p].$$  

预测解 $u_p$ 和残差 $f_p$ 随后用于误差网络的训练,为后续误差校正提供所需的初始预测信息和物理残差约束。  

#### 2.2.2误差网络  

误差网络是PIEFL框架中实现后续误差校正的核心组件。主网络参数固定后,其生成的基本近似解 $u_p$ 作为初步解信息。误差网络的目标是学习并重建一个由相应物理方程控制的、受物理约束的误差场。本文中,误差场定义为 $u_e$,满足  

$$u_e = u - u_p.$$  

将方程(7)改写为 $u = u_p + u_e$ 并代入方程(1),得到  

$$\frac{\partial (u_p + u_e)}{\partial t} + \mathcal{N}[u_p + u_e] = 0.$$

相似文章

具有可学习损失平衡和迁移学习的物理信息神经网络

arXiv cs.LG

本文提出了一种自监督物理信息神经网络(PINN)框架,该框架通过可学习的混合神经元自适应地平衡基于物理和数据驱动的损失,并结合迁移学习以提高数据稀缺情况下的效率。该框架在仅有87个数据点的液态金属微型散热器CFD数据上进行了验证,误差低于8%。

基于空间相关性的物理信息神经网络课程学习

arXiv cs.LG

本文提出了一种基于空间相关性的物理信息神经网络(PINNs)课程学习框架,通过利用子区域间的空间相关性来提高训练稳定性和求解精度,解决了高维非凸损失景观和多目标约束不平衡等问题。

用于物理信息学习的可训练样条表示

arXiv cs.LG

介绍了PI-Splines,一种基于结构化样条的物理信息学习架构,通过可训练的B样条系数对未知场进行参数化,提供了紧支撑、解析导数以及强边界条件施加能力,被证明是基于神经网络方法的有竞争力的替代方案。

物理信息机器学习泛化性的PAC-Bayesian视角

arXiv cs.LG

本文为物理信息机器学习开发了一种PAC-Bayesian框架,为无界损失提供了高概率泛化保证。它提出了一种多任务视角,联合处理数据保真度、偏微分方程残差和边界条件,并引入了一种自界限学习算法。