用于物理信息学习的可训练样条表示

# 可训练样条表示用于物理信息学习
来源：https://arxiv.org/html/2607.15751
Giovanni Canali111giovanni\.canali@sissa\.itNicola Demo222nicola\.demo@sissa\.itMathematics Area, mathLab, SISSA, via Bonomea 265, I\-34136, Trieste, ItalyFAST Computing Srl, via Mazzini 20, I\-34136, Trieste, ItalyGianluigi Rozza333gianluigi\.rozza@sissa\.itMathematics Area, mathLab, SISSA, via Bonomea 265, I\-34136, Trieste, ItalyFAST Computing Srl, via Mazzini 20, I\-34136, Trieste, Italy
###### 摘要
本文介绍物理信息样条（PI-Splines），一种基于结构化样条的物理信息学习架构。与使用神经网络表示微分方程解不同，PI-Splines通过带有可训练控制系数的张量积B样条展开直接参数化未知场。该公式保留了物理信息神经网络的基于残差的训练范式，同时提供了紧支撑、显式光滑性控制、解析导数以及训练参数的直接几何解释。当与样条表示兼容时，可以通过固定合适的边界控制系数来强制施加边界条件。所提出的方法在多个难度递增的基准问题上进行了评估，并在匹配的控制方程、配点集、损失项和优化过程下与标准物理信息框架进行了比较，以隔离近似架构的影响。数值实验表明，PI-Splines提供了有竞争力且稳定的替代方案，特别是在需要结构化表示、局部性和参数效率的场景中。

## 1 引言
物理信息神经网络（PINNs）[13 (https://arxiv.org/html/2607.15751#bib.bib2),7 (https://arxiv.org/html/2607.15751#bib.bib14)]已成为一种被广泛研究的微分方程数值求解框架。其主要思想是通过神经网络近似未知解，并通过最小化损失函数来训练其参数，该损失函数惩罚控制方程的残差，以及初始条件、边界条件和（当可用时）数据不匹配项。这一公式为正向和逆问题提供了灵活的免网格范式，并且由于其能够将物理约束与稀疏或有噪声的观测相结合，在计算科学和工程领域引起了相当大的兴趣。尽管具有这种灵活性，但将PINNs用作通用求解器仍然具有挑战性。它们的性能通常对网络架构、初始化、配点、损失权重和优化器的选择很敏感[22 (https://arxiv.org/html/2607.15751#bib.bib8),21 (https://arxiv.org/html/2607.15751#bib.bib19)]。此外，标准的多层感知机可能表现出频谱偏差，这可能会阻碍高频分量、尖锐梯度、边界层和多尺度结构的表示[12 (https://arxiv.org/html/2607.15751#bib.bib9)]。同时优化多个损失项会带来进一步的困难，因为它们的量级和收敛速度可能难以平衡[24 (https://arxiv.org/html/2607.15751#bib.bib7)]。因此，尽管PINNs在数据同化和逆问题建模中具有吸引力，但其精度和计算效率在需要高精度的正向问题上尚未与已建立的基于离散化的方法（如有限元法或有限体积法）持续竞争[5 (https://arxiv.org/html/2607.15751#bib.bib15)]。

近期的几项发展致力于提高微分方程神经求解器的表达能力、鲁棒性和可解释性。这些包括自适应采样策略[3 (https://arxiv.org/html/2607.15751#bib.bib16)]、修改的损失公式[10 (https://arxiv.org/html/2607.15751#bib.bib10),1 (https://arxiv.org/html/2607.15751#bib.bib11)]、区域分解方法[6 (https://arxiv.org/html/2607.15751#bib.bib17)]以及替代神经架构[20 (https://arxiv.org/html/2607.15751#bib.bib18)]。傅里叶特征PINNs[23 (https://arxiv.org/html/2607.15751#bib.bib20)]通过在进行神经网络之前用振荡特征丰富输入表示来解决标准多层感知机的频谱偏差问题。这可以改善高频和多尺度解的逼近，但试验空间仍然是全局神经参数化。因此，可训练参数的数量、对自动微分的依赖以及通过损失惩罚弱施加边界条件的方式并未发生根本改变。

在替代架构中，Kolmogorov–Arnold网络（KANs）[18 (https://arxiv.org/html/2607.15751#bib.bib4),9 (https://arxiv.org/html/2607.15751#bib.bib3)]最近作为多层感知机的基于样条的替代方案受到了关注，它将固定的激活函数替换为可学习的单变量非线性函数，这些函数在网络的边上由样条参数化。这种构造在架构内部引入了显式的函数表示，并在科学机器学习任务中显示出有希望的行为。然而，KANs仍然是神经网络模型，具有非平凡的架构选择、训练动态以及评估和优化许多样条参数化组件相关的计算成本。此外，样条函数是网络映射的内部组件，而不是解场的直接近似空间。

基于样条的参数化在物理信息学习中最近也得到了探索。Wandel等人引入了Spline-PINN，它将Hermite样条插值与卷积表示相结合，用于结构化网格上的无数据PDE求解[19 (https://arxiv.org/html/2607.15751#bib.bib22)]。Wang等人提出了物理信息深度B样条网络，其中神经网络预测B样条控制点以近似参数化PDE解[25 (https://arxiv.org/html/2607.15751#bib.bib21)]。Saidaoui等人开发了Deep NURBS，使用基于NURBS的容许构造在物理信息神经网络中编码几何和边界信息[14 (https://arxiv.org/html/2607.15751#bib.bib24)]。Sun等人引入了PiSL，其中样条学习与稀疏回归相结合，用于非线性动力系统的数据驱动识别[16 (https://arxiv.org/html/2607.15751#bib.bib23)]。在一个相关的几何方向中，Tamburlin等人提出了一个可微的CAD原生框架，其中神经位移场直接作用于NURBS控制点，物理上有意义的积分约束通过解析B样条导数和数值求积进行评估[17 (https://arxiv.org/html/2607.15751#bib.bib25)]。这些方法表明，样条和NURBS表示可以改善光滑性、可微性、边界处理、几何一致性和数据效率。然而，它们要么保留神经网络作为主要可训练映射，将样条用作插值或重构设备，侧重于几何参数化或容许神经试验函数，要么解决系统识别问题，而不是直接优化样条试验空间以进行正向物理信息解近似。

在这项工作中，我们研究了一种在物理信息学习中使用样条的不同方式。我们不将样条嵌入神经架构中，而是通过张量积B样条展开[4 (https://arxiv.org/html/2607.15751#bib.bib12),11 (https://arxiv.org/html/2607.15751#bib.bib13)]直接参数化试验解，并通过物理信息目标优化其控制系数。所得到的方法称为物理信息样条（PI-Splines），它保留了PINNs的基于残差的训练原则，同时用结构化样条近似取代了神经网络假设。边界条件可以通过固定合适的边界控制系数来强制施加，从而在规定的数据和样条表示兼容时，从损失中移除相应的边界惩罚。该公式相对于标准神经物理信息参数化提供了几个优势。首先，可训练参数的数量由未冻结的控制系数的数量显式控制，并且可以比多层感知机、傅里叶特征PINNs或样条增强的神经架构少得多。其次，B样条基函数具有紧支撑，因此每个控制系数只局部影响解。这在控制网格区域和解场区域之间产生了直接的几何对应关系，提高了可解释性，并能够对近似进行局部修正。第三，控制方程所需的导数可以从样条基解析获得。因此，物理残差可以通过显式样条导数公式进行评估，无需数值微分，也无需通过自动微分将微分算子传播到深度神经网络中。最后，近似的光滑性通过样条阶数和节点重数直接控制，而不是网络深度、激活函数选择或训练动态的隐式结果。

所提出的方法不应被解释为在固定离散化下的通用逼近器。对于规定的节点向量、样条阶数和控制系数数量，逼近空间是有限维的，因此无法表示任意函数。通用性仅在细化样条空间的序列级别上成立：随着控制系数数量的增加和网格尺寸趋近于零，样条空间在标准函数空间中提供稠密逼近族。因此，这项工作的目的不是通过过度参数化来最大化表达能力，而是评估一个紧凑、结构化且物理信息的样条空间是否能够为代表性的微分问题在精度、鲁棒性、可解释性和计算成本之间提供有利的权衡。

本文的其余部分组织如下。第2节 (https://arxiv.org/html/2607.15751#S2) 介绍方法论框架，重温PINN公式、张量积B样条表示、解析样条导数以及具有可学习控制系数的PI-Splines的构造。第3节 (https://arxiv.org/html/2607.15751#S3) 描述基准问题，展示数值结果，并将PI-Splines与标准PINN基线进行比较。特别是，第3.3节 (https://arxiv.org/html/2607.15751#S3.SS3) 分析了方法对样条阶数和控制系数数量的敏感性。最后，第4节 (https://arxiv.org/html/2607.15751#S4) 总结主要发现，讨论计算权衡，并概述未来的工作方向。

## 2 方法论
本节介绍所提出的方法论。我们首先回顾物理信息神经网络（PINN）公式和B样条表示，重点关注随后用于定义基于样条的框架的方面：基于残差的训练、张量积样条逼近、解析微分以及通过端点系数进行边界控制。然后，我们将这些元素结合到物理信息样条（PI-Splines）中，其中神经网络假设被可训练的样条展开取代，其控制系数定义了优化变量。所得到的方法保留了PINNs的物理信息结构，同时利用了B样条参数化的局部性、光滑性和几何可解释性。

### 2.1 物理信息神经网络
PINNs通过将控制物理定律直接嵌入训练过程来近似微分方程的解。设Ω⊂Rd\Omega\subset\mathbb{R}^d为空间域，设T>0T>0。我们考虑一个时间依赖问题，形式为
∂∂tu(x,t)−N[u](x,t)=0,(x,t)∈Ω×(0,T],\frac{\partial}{\partial t}u(\mathbf{x},t)-\mathcal{N}[u](\mathbf{x},t)=0,\qquad(\mathbf{x},t)\in\Omega\times(0,T],
其中u:Ω×[0,T]→Rqu:\Omega\times[0,T]\to\mathbb{R}^q是未知解，N\mathcal{N}是可能涉及空间导数的非线性微分算子。问题补充了初始条件和边界条件：
u(x,0)=u0(x)x∈Ω,B[u](x,t)=g(x,t)(x,t)∈∂Ω×(0,T],u(\mathbf{x},0)=u_0(\mathbf{x})\quad\mathbf{x}\in\Omega,\qquad\quad\mathcal{B}[u](\mathbf{x},t)=g(\mathbf{x},t)\quad(\mathbf{x},t)\in\partial\Omega\times(0,T],
其中B\mathcal{B}表示边界算子。在PINN框架中，解uu由神经网络uθ(x,t)u_\theta(\mathbf{x},t)近似，带有可训练参数θ\theta。将uθu_\theta代入控制方程定义物理残差
rθ(x,t)=∂∂tuθ(x,t)−N[uθ](x,t).r_\theta(\mathbf{x},t)=\frac{\partial}{\partial t}u_\theta(\mathbf{x},t)-\mathcal{N}[u_\theta](\mathbf{x},t).
通过最小化损失函数来优化参数，该损失函数惩罚残差、违反初始和边界条件，以及（当可用时）与观测数据或高保真数据的不匹配：
L(θ)=λrLr(θ)+λiLi(θ)+λbLb(θ)+λdLd(θ).\mathcal{L}(\theta)=\lambda_r\mathcal{L}_r(\theta)+\lambda_i\mathcal{L}_i(\theta)+\lambda_b\mathcal{L}_b(\theta)+\lambda_d\mathcal{L}_d(\theta).
这里，λr,λi,λb,λd≥0\lambda_r,\lambda_i,\lambda_b,\lambda_d\geq0权衡不同贡献的相对重要性。给定内部配点集Xr={(xr(j),tr(j))}j=1Nr⊂Ω×(0,T]\mathcal{X}_r=\{(\mathbf{x}_r^{(j)},t_r^{(j)})\}_{j=1}^{N_r}\subset\Omega\times(0,T]，残差损失通常近似为
Lr(θ)=1Nr∑j=1Nr‖rθ(xr(j),tr(j))‖2.\mathcal{L}_r(\theta)=\frac{1}{N_r}\sum_{j=1}^{N_r}\left\lVert r_\theta(\mathbf{x}_r^{(j)},t_r^{(j)})\right\rVert^2.
初始损失和边界损失类似地通过评估与规定初始和边界数据的偏差来定义。如果在点集Xd={(xd(j),td(j))}j=1Nd\mathcal{X}_d=\{(\mathbf{x}_d^{(j)},t_d^{(j)})\}_{j=1}^{N_d}上有测量值或参考解，可以包含额外的监督项：
Ld(θ)=1Nd∑j=1Nd‖uθ(xd(j),td(j))−u(j)‖2.\mathcal{L}_d(\theta)=\frac{1}{N_d}\sum_{j=1}^{N_d}\left\lVert u_\theta(\mathbf{x}_d^{(j)},t_d^{(j)})-u^{(j)}\right\rVert^2.
残差中出现的导数通过自动微分计算，这使得微分算子可以在计算图中直接评估。这使得PINNs成为无网格的，因为残差可以在时空域中的任意点施加。尽管PINNs提供了结合物理约束和数据的灵活框架，但其训练往往具有挑战性，并且对超参数选择敏感。