STCO: 用于时间依赖偏微分方程的条件神经算子

# STCO：面向时间依赖偏微分方程的条件神经算子  
来源：https://arxiv.org/html/2608.20477  

###### 摘要  
神经算子已成为求解由偏微分方程（PDE）控制的时间依赖物理系统的高效代理模型，但其未来状态预测通常仅基于观测状态和静态问题描述符。然而，对于控制或优化任务，查询时往往需要预定义的物体运动、入流或外力，而这些条件并非完全由观测状态决定。我们引入了**时空条件算子**（STCO）用于**预定义条件算子学习**（PCOL），这是一种通用接口，可将预定义的目标时间条件场传递给异构骨干架构，同时保留其架构特定的核心计算和上下文通路。其条件接口结合了**流向感知图叶子**（FAGL）和**双站点特征级线性调制**（DSFiLM）。非学习的FAGL利用最后一帧观测涡量构建固定基数的自适应分区，并在区域坐标处将观测历史场与目标时间条件场进行共定位。DSFiLM通过当前特征驱动的插槽级和通道级门控，在算子计算前后分别注入独立的运动、入流和外力路径。我们对十二种具有不同现有物理和时间输入的匹配骨干架构进行了评估。浸没边界计算流体动力学（CFD）基准测试涵盖预定义运动、入流扰动、物体外力驱动和形态变化。在十二种匹配骨干架构、三种工况和两个预测时长范围内，STCO实现了相对L2场误差平均降低31.1%，归一化压力载荷误差平均降低24.7%。它还将11种骨干架构的长时预测场误差进一步降低，而对单个条件组的干预措施在每个评估组中都产生了可测量的预测变化。  

## 引言  
神经算子学习函数空间之间的映射，为参数化偏微分方程（PDE）提供了高效的代理模型（Li et al. 2021；Lu et al. 2021；Li et al. 2023b）。对于时间依赖的PDE，它们通常从初始状态或观测轨迹预测未来场，并将预测时长或辅助轨迹作为上下文提供（Alkin et al. 2024；Herde et al. 2024；Mousavi et al. 2025；Kassaï Koupaï et al. 2025）。当所查询的未来完全由观测动力学和固定问题描述符确定时，这种公式是有效的。  

控制和优化通常需要不同的查询形式：系统响应必须根据查询指定的未来场景进行评估，例如阵风、目标物体几何形状或预定义边界输入（Bartels 2013；Sedky et al. 2022；Han et al. 2021；Hu and Liu 2025）。历史描述当前动力学，而预定义条件则用于区分待评估的未来。如图1所示，我们将此预测问题形式化为**预定义条件算子学习**（PCOL）。在PCOL中，条件神经算子将观测历史、预测时长和在目标时间指定的物理条件场映射到相应的未来响应。这种查询结构也与预测世界模型共享——后者从过去观测和提供的动作或干预推断未来状态（NVIDIA et al. 2025；Hafner et al. 2025）。PCOL将响应解析为可在下游控制或优化中评估的PDE解场。  

我们通过二维不可压缩移动物体流动来研究PCOL。几何形状和运动改变边界，入流扰动修改入口数据，分布力进入动量方程，这使得不同的预定义机制可以在同一个Navier–Stokes系统中进行变化（Mittal and Iaccarino 2005；Sotiropoulos and Yang 2014）。此设置揭示了三个相互关联的挑战：  

1. **表示对齐**：观测场和预定义场在通道、空间支撑和物理意义上存在差异。  
2. **选择性条件调制**：模型必须在保持几何形状、入流和外力作用的同时，适应其对当前特征的影响。  
3. **稀疏事件监督**：短暂的力和入流事件在均匀时间采样下仅提供少量揭示条件的配对样本。  

我们引入了如图2所示的**时空条件算子**（STCO），作为异构骨干架构的通用条件接口。其**流向感知图叶子**（FAGL）表示构成一个固定基数、涡度感知的分区，并在共享的区域插槽中共同定位历史场和预定义场。**双站点特征级线性调制**（DSFiLM）将逐帧的运动、入流和力分配到独立路径，并通过符号距离几何对运动路径进行定位。其独立参数化的IN-DSFiLM和OUT-DSFiLM模块分别在骨干核心计算前后作用，而当前特征通过插槽和通道对每条路径进行门控。外部活动采样增加了对穿越事件和活跃区间的暴露。  

STCO在添加目标时间条件的同时，保留了每个骨干的核心计算和现有上下文通路。我们通过十二对匹配的基线（Base）和STCO配置来评估该接口。在每对中，FAGL、外部活动采样、数据、骨干、解码器和训练协议均固定。基线模型保留其原始输入，其中11个接收观测帧条件，5个还编码预测时长。STCO保留这些输入并激活DSFiLM，后者将目标时间条件路径与预测时长调制相结合。配对差异衡量了在其他匹配表示和训练协议下，该完整接口的预测价值。  

STCO在所有12种骨干架构的六个工况-预测时长层中均产生正向的平均场增益，对11种骨干架构降低了超出训练预测时长的场误差，并整体降低了压力载荷误差。**调制反事实**（MCF）干预措施验证了模型对每个评估的空间条件组的预测敏感性。  

我们的贡献总结如下：  
- • 我们将PCOL形式化为根据观测历史和查询预定义的物理条件预测未来响应，并使用STCO这一通用条件接口解决该问题，该接口保留了异构骨干架构的核心计算。  
- • 我们引入了涡度感知的FAGL用于观测场和预定义条件的自适应空间对齐。DSFiLM在骨干计算前后调制独立的运动、入流和力路径，其影响通过当前特征进行门控。  
- • 我们构建了一个移动物体流动基准，并在十二种骨干架构的匹配比较中评估了STCO。外部活动采样增加了对稀疏力和入流事件的暴露。MCF测量了模型对每个评估的空间条件组的预测敏感性。  

## 相关工作  
**预定义响应与条件算子**。移动边界预测器从最近的流场和边界位置历史推断下一个流场（Han et al. 2021）。一个密切相关的刚体流固耦合研究从初始状态和整个预测区间内预定义的运动序列预测最终流体状态（Zhong and Meidani 2025）。该研究比较了直接拼接、时间池化和顺序耦合。边界控制算子将时间边界输入映射到边界输出轨迹（Hu and Liu 2025）。其他神经算子在外层优化循环中评估候选控制，或预测控制器增益和反馈输入（Hwang et al. 2022；Bhan, Shi, and Krstić 2024）。PCOL处理从观测历史和目标时间条件场得到的正向响应，将控制选择留给下游。MIONet表示函数空间的乘积（Jin, Meng, and Lu 2022），而GNOT、GINO和Unisolver处理异构输入、几何结构或结构化PDE描述符（Hao et al. 2023；Li et al. 2023b；Zhou et al. 2025）。GEPS学习环境条件，时间依赖算子则包含预测时长或上下文轨迹（Kassaï Koupaï et al. 2024；Herde et al. 2024；Mousavi et al. 2025；Kassaï Koupaï et al. 2025）。STCO通过一个接口组织多个目标时间物理场，而不是引入另一个骨干架构。  

**自适应表示与调制**。不规则域算子使用坐标变形、图-网格转换、区域图或潜在令牌（Li et al. 2023a；Li et al. 2023b；Mousavi et al. 2025；Alkin et al. 2024）。UPT还通过特征调制将Transformer和Perceiver模块条件化于时间或速度上下文（Alkin et al. 2024）。FAGL借鉴了流引导细化（Kamkar et al. 2011）和基于图的组件合并（Felzenszwalb and Huttenlocher 2004）来分配固定插槽预算并在共享索引处对齐场。FiLM应用条件相关的仿射变换，SPADE使其空间变化，而Squeeze-Excitation从当前特征派生通道权重（Perez et al. 2018；Park et al. 2019；Hu, Shen, and Sun 2018）。DSFiLM通过独立的空间条件路径、局部状态相关门控以及独立学习的IN-DSFiLM和OUT-DSFiLM模块结合了这些原理。  

## 方法论  
### 问题形式化  
**设置**。我们在不可压缩移动物体流动的时间依赖PDE中实例化PCOL。令\( \bm{x}\in\Omega(t)\subset\mathbb{R}^{2} \)表示时变流体域中的一点，\( \partial\Omega_{b}(t) \)为移动物体边界。使用物体弦长\( L \)、参考入流速度\( U_{\infty} \)和恒定密度\( \rho \)作为长度、速度和密度尺度，我们分别用\( L/U_{\infty} \)、\( \rho U_{\infty}^{2}/2 \)和\( U_{\infty}^{2}/L \)对时间、压力和加速度进行无量纲化。省略无量纲上标后，速度\( \bm{u}=(u,v) \)和压力系数\( p \)满足：  

\[  
\begin{align}  
\partial_{t}\bm{u}+(\bm{u}\cdot\nabla)\bm{u} &= -\frac{1}{2}\nabla p+\mathrm{Re}^{-1}\nabla^{2}\bm{u}+\bm{g}, \\  
\nabla\cdot\bm{u} &= 0.  
\end{align}  
\]  

其中\( \mathrm{Re}=U_{\infty}L/\nu \)，\( \nu \)为运动黏度，\( \bm{g}(\bm{x},t) \)为预定义的物体外力加速度。预定义边界条件为：在\( \partial\Omega_{b}(t) \)上\( \bm{u}=\bm{u}_{b} \)，在入口\( \Gamma_{\mathrm{in}} \)上\( \bm{u}=\bm{e}_{x}+\bm{u}_{\mathrm{bc}} \)。其中\( \bm{u}_{b} \)为预定义的物体速度，\( \bm{e}_{x}=(1,0)^{\top} \)为无量纲基准入流，\( \bm{u}_{\mathrm{bc}} \)为预定义的入流扰动。物体运动学定义了符号距离场\( \psi(\bm{x},t) \)，其零等值面即为\( \partial\Omega_{b}(t) \)。  

我们在时间\( \{t_{n}\}_{n=0}^{T-1} \)采样\( T \)个存储帧。在帧\( n \)处，域为\( \Omega_{n}=\Omega(t_{n}) \)，对于\( \bm{x}\in\Omega_{n} \)，定义响应和预定义条件场为：  

\[  
\begin{align}  
\bm{y}_{n}(\bm{x}) &= [u_{n}(\bm{x}),v_{n}(\bm{x}),p_{n}(\bm{x})]^{\top}, \\  
\bm{c}_{n}(\bm{x}) &= [\psi_{n}(\bm{x}),\Delta\psi_{n}(\bm{x}),\bm{g}_{n}(\bm{x})^{\top},\bm{u}_{\mathrm{bc},n}(\bm{x})^{\top}]^{\top}.  
\end{align}  
\]  

逐帧符号距离变化\( \Delta\psi_{n}=\psi_{n}-\psi_{n-1} \)（对于\( n\geq 1 \)，\( \Delta\psi_{0}=0 \)）。六个条件通道分别通过\( \psi_{n} \)和\( \Delta\psi_{n} \)编码几何和逐帧运动，通过\( \bm{g}_{n} \)编码分布外力，通过\( \bm{u}_{\mathrm{bc},n} \)编码入流扰动。  

**目标**。令\( n_{r} \)为最终观测参考帧索引，\( n_{q}>n_{r} \)为查询的未来帧索引。下标\( r \)和\( q \)随后表示在\( n_{r} \)和\( n_{q} \)处的评估。观测历史为\( \mathcal{H}_{r}=\{(\bm{y}_{n_{k}},\bm{c}_{n_{k}})\}_{k=1}^{K} \)，其中\( K \)为观测帧数，且\( n_{1}<\cdots<n_{K}=n_{r} \)。查询包含一个未来时间索引\( n_{q} \)和一个条件场\( \bm{c}_{q}(\bm{x}) \)，通常与历史在通道或空间支撑上不同。我们寻求一个条件神经算子\( \mathcal{M} \)，将历史、预测时长\( \tau=t_{q}-t_{r} \)和查询条件映射到未来响应：  

\[  
\bm{y}_{q}(\bm{x}) \approx \mathcal{M}\bigl(\mathcal{H}_{r};\,\tau,\,\bm{c}_{q}(\bm{x})\bigr),\quad \bm{x}\in\Omega_{q}.  
\]  

**骨干架构**。我们评估了十二种异构骨干架构，包括基于网格和基于点的模型，以测试STCO的通用性。骨干架构分为三类：（i）卷积神经网络（CNN），如U-Net；（ii）图神经网络（GNN），如MeshGraphNet；（iii）Transformer，如Perceiver。每个骨干架构接收历史场和可选的预测时长作为输入，并输出预测响应。  

### STCO架构  
STCO由两个主要组件组成：流向感知图叶子（FAGL）用于自适应空间对齐，双站点特征级线性调制（DSFiLM）用于条件注入。  

**FAGL**。FAGL将历史场和条件场映射到固定大小的表示。首先，从最后一帧观测场计算涡量场\( \omega_{r} \)。然后，使用基于涡量的自适应分区将计算域划分为\( N \)个区域，每个区域对应一个插槽。分区算法基于涡量幅度对网格点进行聚类，确保高涡度区域获得更多插槽。对于历史帧\( n \)和条件帧\( q \)，在区域坐标处对场进行采样，形成插槽-通道张量。  

**DSFiLM**。DSFiLM将条件信息注入骨干网络。它为运动、入流和力定义了独立的路径。每个路径包含一个编码器，将条件场转换为调制参数。调制发生在骨干计算的两个位置：骨干之前（IN-DSFiLM）和骨干之后（OUT-DSFiLM）。调制公式为：  

\[  
\bm{h}_{\mathrm{out}} = \bm{h}_{\mathrm{in}} \odot [1 + \bm{\gamma}(\tau)] + \bm{\alpha}_{\mathrm{mot}} \odot (w \bm{\beta}_{\mathrm{mot}}) + \bm{\alpha}_{\mathrm{inflow}} \odot \bm{\beta}_{\mathrm{inflow}} + \bm{\alpha}_{\mathrm{force}} \odot \bm{\beta}_{\mathrm{force}},  
\]  

其中\( \bm{h}_{\mathrm{in}} \)为输入特征，\( \bm{\gamma}(\tau) \)为预测时长的缩放因子，\( \bm{\beta}_{\mathrm{mot}} \)、\( \bm{\beta}_{\mathrm{inflow}} \)、\( \bm{\beta}_{\mathrm{force}} \)为路径特定的调制参数，\( \bm{\alpha}_{\mathrm{mot}} \)、\( \bm{\alpha}_{\mathrm{inflow}} \)、\( \bm{\alpha}_{\mathrm{force}} \)为由当前特征生成的门控信号。  

**外部活动采样**。为解决稀疏事件监督问题，我们引入了外部活动采样。该方法在训练期间选择性地采样稀疏事件（如力脉冲）发生的时间帧，以增加对这些关键条件的暴露。  

### 训练细节  
我们在多个二维不可压缩流动基准上训练STCO，包括圆柱绕流、翼型运动和多体相互作用。损失函数采用响应场的相对\( L_{2} \)误差：  

\[  
\mathcal{L} = \frac{\|\bm{y}_{q} - \hat{\bm{y}}_{q}\|_{2}}{\|\bm{y}_{q}\|_{2}},  
\]  

其中\( \hat{\bm{y}}_{q} \)为预测响应。训练使用Adam优化器，学习率为\( 10^{-4} \)，批量大小为32，共训练200个周期。所有实验在单个NVIDIA A100 GPU上进行。