学习离散化：基于扩散的自适应网格与谱引导

# 学习离散化：基于扩散的自适应网格与频谱约束

来源：https://arxiv.org/html/2607.11974

###### 摘要

大多数神经偏微分方程 (PDE) 代理模型在网格选定之后才学习场的演化方式。然而，在应用任何算子之前，网格已经决定了建模能力在空间、分辨率和频谱带宽上的分配方式。我们认为，这一隐藏的设计选择本身应当是可学习的，这引出了一个不同于标准算子学习的问题：在预测场演化之前，代理模型能否学会分辨率应当存在于何处？我们将自适应离散化问题形式化为一个受物理约束的、关于有效网格位移的条件生成问题。与PDE场预测类似，网格生成需要产生满足物理和几何约束的结构化输出。扩散模型在PDE场预测中的成功表明，它们在类似的结构化约束下学习自适应离散化方面具有潜力。这引出了一个两阶段扩散框架：第一阶段学习一个以观测动力学为条件的 r-自适应位移网格；第二阶段从网格信息表征中预测解的演化。网格生成器通过物理感知代理通道、几何有效性约束和局部频谱集中度进行正则化，使得自适应在物理上可解释且在数值上合法。在五个PDE场景中，结果表明，基于扩散的学习式离散化在性能上可与自适应网格和降阶基线相媲美，在固定或手工分配不足的场景中尤其具有显著优势。主要结论并非存在一个普适的最优网格规则，而是离散化应当以场景依赖的方式学习：不同的空间和频谱结构偏好不同的分配行为。这将神经PDE求解器中的自适应网格从特定求解器的启发式方法重新定位为一个生成式表征学习问题。

## 引言

参见图 1：经典自适应网格与基于扩散的自适应网格 (DAM) 的对比。提出的 DAM 将网格生成形式化为一个条件扩散过程，该过程耦合物理、几何和频谱信息以生成频率感知的位移场。这使得自适应节点分配成为可能，将分辨率集中到高频 (HF) 区域，同时保持低频 (LF) 区域的效率。

偏微分方程 (PDE) 是模拟时空现象的核心工具，但现代神经代理模型仍然继承了经典流程中的一个常见假设：先选择离散化，再学习算子 (Kovachki et al. 2023 (https://arxiv.org/html/2607.11974#bib.bib16))。这个假设很方便，却隐藏了一个表征瓶颈。离散化作为第一个表征层，在大多数神经PDE求解器中通常是预定义的，并且对演化的解状态保持不可知。网格决定了自由度花在何处、哪些结构得以解析、哪些频率在应用任何学习算子之前得以保留。这引出了算子设计之前的一个先验科学问题：表征本身能否从观测到的PDE状态中学习？因此，我们将网格位移视为一个可学习的表征策略：给定观测到的PDE历史和一个固定的节点预算，模型应当学习一个有效的坐标变形，将自由度重新分配到与预测相关的结构上。这个策略本身就是一个结构化预测问题：与PDE场预测一样，网格生成必须在物理和几何约束下产生一个连贯的场。这些相似性表明，最近在PDE场预测中表现强劲的扩散模型也可能非常适合网格生成，即在解预测之前从观测动力学中推断出有效的位移场。

近年来，神经代理模型取得了显著进展，包括算子学习、频谱神经架构和自适应离散化，但现有的神经PDE框架仍然存在几个重要局限性。诸如DeepONet (Lu et al. 2021 (https://arxiv.org/html/2607.11974#bib.bib22)) 等算子在函数空间之间提供与分辨率无关的映射；然而，这些框架在训练或推理时通常依赖固定的离散化，限制了它们集中资源的能力。像傅里叶神经算子 (Li et al. 2020 (https://arxiv.org/html/2607.11974#bib.bib20)) 这样的频谱方法有效地利用了全局傅里叶结构，但它们通常假设规则网格，并且当局部高频结构占主导时可能表现不佳。经典的自适应网格理论 (Babuška and Rheinboldt 1978 (https://arxiv.org/html/2607.11974#bib.bib3); Berger and Oliger 1984 (https://arxiv.org/html/2607.11974#bib.bib4); Oden and Prudhomme 2001 (https://arxiv.org/html/2607.11974#bib.bib24)) 提供了原则性的误差估计器和移动网格技术，但在学习型代理模型中使用这些工具并非易事，因为估计器设计和网格更新传统上是特定于求解器的。

这些研究工作留下了一个比精度本身所暗示的更大的空白。经典自适应方法通常依赖于特定求解器的监控函数或误差估计器，而学习型网格基线通常使用图消息传递、尺寸场预测、手工制作的细化代理或单次坐标回归。这些机制是有用的，但它们没有将网格放置建模为一个与解动力学联合耦合、以状态为条件演化过程。缺失的是一个将离散化作为一阶表征变量、与算子联合优化的神经PDE公式。从这个意义上说，算子学习主要问的是：场在网格上应当如何演化？我们问的是更前置的问题：考虑到物理和几何约束，模型在预测解之前应当选择什么样的网格？

参见图 2：DAM 架构概览，这是所提出的用于PDE场预测的两阶段基于扩散的自适应网格框架。第一阶段通过位移空间中的条件扩散生成自适应网格，以物理代理图为条件并由局部频谱集中度引导。生成的非规则网格被桥接回张量兼容的规则网格。第二阶段在网格信息条件张量上执行解空间扩散，用于下一步PDE预测，两个扩散阶段均使用基于CNN的去噪。

扩散模型在网格生成中的有效性体现在它如何回答前面的问题：在预测演化之前，模型应选择什么样的网格？在我们的公式中，这种选择并非仅从几何学习。演化过程与几何有效性、物理感知条件、频谱集中度和下游预测损失耦合，因此网格放置作为预测流程的一部分被优化。此外，将扩散模型同时用于网格生成和解预测进一步将整个框架置于统一的去噪范式之下，其中位移场和解场都通过在这些约束下的迭代细化来建模。由此产生的网格因此是从参考网格出发的结构化位移演化，而非一组无约束的节点扰动。图 1 展示了自适应离散化与 DAM 之间的对比，以说明这一公式：通过这个耦合目标，模型学习分辨率应如何在空间结构和频带之间移动，通过在平滑低频区域和局部高频细节之间重新分配容量来改善多尺度恢复，然后在解模型采取行动之前。

基于这一空白，提出的 DAM 是一个端到端的两阶段框架，联合学习自适应离散化和 PDE 场预测。在第一阶段，条件扩散模型充当网格自适应算子，从物理感知上下文中生成 r-自适应位移，而代理条件和几何投影保持网格的信息性和有效性。在位移空间中的学习将生成的网格与参考网格联系起来，这使得恒等初始化、有界采样和有效性投影变得自然。网格分支通过作用于生成网格的预测目标进行训练，因此离散化不仅因其看起来自适应而获得奖励，更因其能提高预测性能而获得奖励。在第二阶段，非规则网格被桥接回规则张量，并与解演化扩散去噪器耦合。局部频谱集中度目标将网格分配与观测场的频率结构联系起来。据我们所知，这是首次将离散化形式化为一个条件生成任务的尝试。我们的实验证明了为什么这一视角很重要：有效的离散化具有强烈的场景依赖性，随底层PDE动力学的空间和频谱特性而变化。

我们的贡献总结如下。

- • 耦合的网格自适应与解演化：我们将 PDE 场预测公式化为一个耦合学习问题，其中网格自适应扩散模型首先选择分辨率应存在于何处，然后解演化扩散模型在该学习到的离散化下预测下一个场。
- • 基于扩散的 r-自适应离散化：我们不依赖图风格的消息传递或固定的尺寸启发式方法，而是将网格自适应实例化为位移场上的条件去噪，并借助局部频谱引导和几何投影使生成的网格信息丰富且合法。
- • 用于网格生成的物理感知条件：我们从最新的观测帧计算因果代理通道，并将其与历史张量拼接，使得第一阶段获得物理信息条件，同时最终的离散化通过预测和频谱目标进行端到端训练。
- • 新设计原则的证据：我们通过实验发现，具有不同空间和频谱特性的PDE偏好不同的有用分配模式和机制选择，这表明未来的神经PDE求解器应将离散化视为一种依赖于场景的学习表征，而非继承一个固定的规则。

## 相关工作

神经算子和频率感知学习。神经算子为实现分辨率无关的代理模型提供了一条实用途径。DeepONet (Lu et al. 2021 (https://arxiv.org/html/2607.11974#bib.bib22)) 以及更广泛的神经算子项目 (Kovachki et al. 2023 (https://arxiv.org/html/2607.11974#bib.bib16)) 展示了如何在函数空间之间学习映射。基于傅里叶的方法，如傅里叶神经算子 (Li et al. 2020 (https://arxiv.org/html/2607.11974#bib.bib20)) 和 F-FNO (Lehmann et al. 2024 (https://arxiv.org/html/2607.11974#bib.bib17))，将频率结构置于架构的核心，这改善了对振荡模式的恢复，但通常假设规则网格。最近的变体以不同方式扩展了设计空间：DRIFT-Net (Li and Salim 2025 (https://arxiv.org/html/2607.11974#bib.bib18)) 引入了频谱耦合，LoGlo-FNO (Kalimuthu, Holzmüller, and Niepert 2025 (https://arxiv.org/html/2607.11974#bib.bib13)) 结合了局部和全局特征，Transolver++ (Luo et al. 2025 (https://arxiv.org/html/2607.11974#bib.bib23)) 则针对大规模几何上的可扩展 PDE 求解。这些设计提升了精度；然而，它们很少将网格放置作为一个显式的、可学习的、与算子损失相关的自由度。简而言之，算子的进展提供了强大的归纳偏差，但未能共同解决自适应离散化与预测的问题。

经典自适应网格与基于学习的离散化。自适应网格提供了一种最具原则性的方法，将分辨率分配到最需要的地方。误差估计器、移动网格方法和面向目标的自适应方法由以下工作确立：(Babuška and Rheinboldt 1978 (https://arxiv.org/html/2607.11974#bib.bib3); Berger and Oliger 1984 (https://arxiv.org/html/2607.11974#bib.bib4); Oden and Prudhomme 2001 (https://arxiv.org/html/2607.11974#bib.bib24)) 并在后来的后验技术中得到实用化 (Ainsworth and Oden 1997 (https://arxiv.org/html/2607.11974#bib.bib2); Huang and Russell 2010 (https://arxiv.org/html/2607.11974#bib.bib12))。这些方法在许多设置中提供了可证明的误差控制，但它们通常需要特定求解器的估计器和手工制作的细化规则。最近，数据驱动的网格策略将网格设计重新构建为一个学习问题：神经 r-自适应有限元法 (FEM) 和细化预测器 (Aballay et al. 2025 (https://arxiv.org/html/2607.11974#bib.bib1); Freymuth et al. 2025 (https://arxiv.org/html/2607.11974#bib.bib8)) 学习参数变形，强化学习方法 (Thacher, Pan, and Persson 2025 (https://arxiv.org/html/2607.11974#bib.bib35)) 搜索网格策略，以及学习的网格移动技术 (Song et al. 2022 (https://arxiv.org/html/2607.11974#bib.bib32)) 基于观测动力学调整节点。关于基于图和基于点的算子的工作 (Pfaff et al. 2020 (https://arxiv.org/html/2607.11974#bib.bib27); Qi et al. 2017 (https://arxiv.org/html/2607.11974#bib.bib28); Li et al. 2023 (https://arxiv.org/html/2607.11974#bib.bib19)) 表明算子架构可以适应非规则域，但将频谱目标与网格学习相结合仍然是一个开放问题。因此，网格文献提供了强大的工具，而学习方法提供了灵活性，这表明存在一个自然的机会来结合两者的优势。

用于结构化数据生成的扩散模型。扩散和基于分数的模型已经成熟为结构化数据的通用生成器。基础公式 (Song and Ermon 2019 (https://arxiv.org/html/2607.11974#bib.bib33); Ho, Jain, and Abbeel 2020 (https://arxiv.org/html/2607.11974#bib.bib9); Song et al. 2020 (https://arxiv.org/html/2607.11974#bib.bib34)) 以及条件引导和潜在扩散的发展 (Ho and Salimans 2022 (https://arxiv.org/html/2607.11974#bib.bib10); Hu et al. 2024 (https://arxiv.org/html/2607.11974#bib.bib11); Cai et al. 2026 (https://arxiv.org/html/2607.11974#bib.bib6)) 使得受控合成变得实用。降阶 PDE 生成器，如 Text2PDE (Zhou et al. 2024 (https://arxiv.org/html/2607.11974#bib.bib36)), Latent-FM (Li, Zhou, and Farimani 2025 (https://arxiv.org/html/2607.11974#bib.bib21)), AROMA (Serrano et al. 2024 (https://arxiv.org/html/2607.11974#bib.bib30)), 和 LoLA (Rozet et al. 2026 (https://arxiv.org/html/2607.11974#bib.bib29)) 表明生成建模对于紧凑的 PDE 模拟是有效的。这些方法主要是在选定离散化之后学习潜在状态演化或降阶表示。相比之下，我们对扩散模型的使用针对离散化层本身：在解演化模型预测未来场之前，去噪过程生成自适应网格位移。

## 方法

### 概述

我们研究具有学习离散化的下一步 PDE 场预测。每个样本在相同的物理域上提供一个归一化的历史张量和一个目标未来状态。提出的 DAM 耦合两个条件扩散过程。第一个通过去噪位移场生成一个 r-自适应网格，而一个可微的