物理信息生成的自增强扩散指导

arXiv cs.LG 论文

摘要

本文提出一种自增强扩散指导方法,将物理定律融入扩散模型,减少与真实动态的偏差,并实现更快的生成。

arXiv:2608.26748v1 公告类型:新 摘要:扩散模型可用于生成物理现象的时空信号,例如流体动力学的时间序列图像。然而,标准扩散模型的一个主要局限是未结合源自底层物理定律的约束。因此,生成的样本可能在视觉上看似合理,却与真实动态存在显著偏差。本研究提出一种基于扩散指导的自生成数据增强的简单而有效的物理信息方法。该方法学习以偏离物理正确动态的程度为条件的数据分布,并通过显式设置偏差条件为零来生成样本。该方法将控制方程的评估与扩散模型的训练和采样过程解耦,避免了在去噪过程的每次迭代中求解控制方程的需要。这种设计使其适用于需要计算昂贵的数值模拟的问题,并能实现更快的样本生成。实验结果表明,所提模型不仅显著减少了与标准扩散模型的偏差,而且在结合现有物理约束扩散方法时能进一步降低偏差。
查看原文
查看缓存全文

缓存时间: 2026/08/28 09:43

# 物理信息生成的自增强扩散引导
来源:https://arxiv.org/html/2608.26748
Akira Osaka [email protected]
Naoya Takeishi [email protected]
单位:工程学院
单位:东京大学
Takehisa Yairi [email protected]
单位:工程学院
单位:东京大学

###### 摘要

扩散模型可用于生成物理现象的时空信号,例如流体动力学的时间序列图像。然而,标准扩散模型的一个主要限制是,它们未纳入源自底层物理定律的约束条件。因此,生成的样本可能在视觉上看似合理,却与真实动力学存在显著偏差。本研究提出了一种基于自生成数据增强的物理信息扩散引导方法,该方法简单而有效。所提方法学习了以偏离物理正确动力学程度为条件的数据分布,并通过显式地将偏离条件设为零来生成样本。该方法将控制方程的评估与扩散模型训练和采样过程解耦,避免了在去噪过程的每次迭代中求解控制方程的需要。这种设计使得该方法适用于需要计算成本高昂的数值模拟的问题,并实现了更快的样本生成。实验结果表明,所提出的模型不仅显著减少了与标准扩散模型的偏差,而且与现有的物理约束扩散方法结合时,还能进一步降低偏差。

## 1引言

扩散模型为学习概率分布和生成逼真样本提供了一个强大的框架。其应用范围已扩展到一般图像生成之外,涉及流体动力学(Shu等,2023 (https://arxiv.org/html/2608.26748#bib.bib8))、海洋学(Xu和Li,2025 (https://arxiv.org/html/2608.26748#bib.bib21))以及大气科学(Wang等,2025 (https://arxiv.org/html/2608.26748#bib.bib18))等领域的物理现象。然而,当应用于物理问题时,包括基于分数的模型(Song和Ermon,2019 (https://arxiv.org/html/2608.26748#bib.bib1);Song等,2021b (https://arxiv.org/html/2608.26748#bib.bib2))和去噪模型(Sohl-Dickstein等,2015 (https://arxiv.org/html/2608.26748#bib.bib3);Ho等,2020 (https://arxiv.org/html/2608.26748#bib.bib4);Song等,2021a (https://arxiv.org/html/2608.26748#bib.bib5))在内的标准扩散模型面临一个关键限制:它们没有显式地考虑底层物理定律。因此,它们可能生成视觉上看似合理但物理上不一致的样本,从而降低了其有效性和实用性。

先前的一些研究通过开发遵守支配物理定律的扩散模型来解决此问题。物理信息扩散模型(PIDM)(Bastek等,2025 (https://arxiv.org/html/2608.26748#bib.bib6))通过将控制方程的残差纳入训练损失,来减少生成样本与底层物理约束之间的差异。PIDM仅在训练期间施加这些约束,采样过程与标准扩散模型保持不变。在采样过程中纳入物理约束的方法中,CoCoGen(Jacobsen等,2025 (https://arxiv.org/html/2608.26748#bib.bib7))修改了采样程序,使去噪沿着减少约束违反的方向进行。类似地,物理引导扩散(PG Diffusion)(Shu等,2023 (https://arxiv.org/html/2608.26748#bib.bib8))使用无分类器引导将残差信息整合到模型架构中。Bastek等(2025)(https://arxiv.org/html/2608.26748#bib.bib6)指出,尽管PG Diffusion将梯度信息纳入模型,但它并未显式地强制最小化残差,导致物理一致性不足。这一观察突出了在采样过程中显式施加零残差条件的方法的需求。

另一个关键挑战是计算成本。现有方法(Bastek等,2025 (https://arxiv.org/html/2608.26748#bib.bib6);Jacobsen等,2025 (https://arxiv.org/html/2608.26748#bib.bib7);Shu等,2023 (https://arxiv.org/html/2608.26748#bib.bib8))需要在训练或采样期间评估和区分约束。在某些问题中,例如生成流体动力学的时间序列数据,生成的空间和时间分辨率快照比稳定和精确的数值微分所需的分辨率要粗糙。这种数据特性使得评估以偏微分方程(PDE)表达的物理约束残差变得不可行。在这种情况下,应通过测量生成样本与通过使用较小的内部步长对控制方程进行数值积分获得的物理一致时间序列样本之间的偏差来评估约束满足程度。评估此类基于积分的约束及其导数通常比扩散模型训练或采样计算成本更高,尤其是在高维设置中,并可能导致过长的运行时间。为了拓宽物理信息生成模型的适用性,重要的是开发一种将约束评估与扩散训练和采样分离,同时仍将物理信息纳入模型的方法。

在本研究中,我们提出了一种简单而有效的物理感知扩散引导方法,该方法基于无分类器引导框架。我们的方法基于一种自增强策略,其中基础扩散模型用于生成一种负样本,而原始数据集被视为正样本。然后引导扩散模型生成更接近正样本、更远离负样本的样本。此外,对于需要计算成本高昂的数值模拟的问题,我们的方法将约束评估与扩散模型训练和采样解耦。它消除了在训练或采样期间计算约束函数梯度的需要。

与同样采用无分类器引导的PG Diffusion(Shu等,2023 (https://arxiv.org/html/2608.26748#bib.bib8))不同,我们的方法通过从以零约束违反为条件的扩散模型中采样来显式强制物理一致性。基于流匹配(Lipman等,2023 (https://arxiv.org/html/2608.26748#bib.bib29))的外推-校正-插值(ECI)采样方法(Cheng等,2025 (https://arxiv.org/html/2608.26748#bib.bib13))也通过利用其确定性流结构实现了无梯度生成。然而,它假设存在适当的校正算法将样本投影以满足约束。我们的方法进一步消除了这一要求,并且只要能以某种方式评估约束,就可以应用。表1 (https://arxiv.org/html/2608.26748#S1.T1)比较了先前方法与我们方法的要求。我们的方法不依赖于现有方法所需的任何假设。

表1:先前物理信息生成方法与我们方法所需假设的比较。
方法训练期间约束评估采样期间约束评估约束梯度投影/校正
PG Diffusion(Shu等,2023 (https://arxiv.org/html/2608.26748#bib.bib8))✓✓✓–
PIDM(Bastek等,2025 (https://arxiv.org/html/2608.26748#bib.bib6))✓–✓–
CoCoGen(Jacobsen等,2025 (https://arxiv.org/html/2608.26748#bib.bib7))–✓✓–
ECI(Cheng等,2025 (https://arxiv.org/html/2608.26748#bib.bib13))–––✓
提出的方法––––

注:ECI基于流匹配,而PG Diffusion、PIDM、CoCoGen和我们方法基于扩散模型。

我们在流体动力学任务上评估了我们的方法,并证明它显著减少了与底层物理定律的偏差。我们的方法还可以轻松地以即插即用的方式与现有的物理信息扩散方法结合。我们展示了将其与PIDM和CoCoGen等先前方法结合,可以进一步提高物理一致性。

## 2相关工作

随着扩散模型和流匹配在生成建模中日益流行,受约束生成近年来引起了越来越多的关注。该领域早期的研究之一是Fishman等(2023)(https://arxiv.org/html/2608.26748#bib.bib40),它研究了定义在约束域上的扩散模型。后续研究探索了几个方向,例如约束感知的扩散训练(Khalafi等,2024 (https://arxiv.org/html/2608.26748#bib.bib41))、用于满足约束的梯度引导采样(Huang等,2024b (https://arxiv.org/html/2608.26748#bib.bib42))以及采样期间到约束区域的投影(Christopher等,2024 (https://arxiv.org/html/2608.26748#bib.bib28))。在流匹配中,Li等(2026b)(https://arxiv.org/html/2608.26748#bib.bib43)利用其微分方程结构将受约束生成表述为一个最优控制问题。

在物理约束下的生成建模是受约束生成的主要应用领域。物理信息扩散模型和流匹配中的一个常见方法是将物理知识纳入采样过程。Yuan等(2023)(https://arxiv.org/html/2608.26748#bib.bib12)提出了PhysDiff,该方法通过模仿学习直接修改去噪过程中的中间样本,以生成物理上合理的人体动作。在流匹配的背景下,Cheng等(2025)(https://arxiv.org/html/2608.26748#bib.bib13)、Utkarsh等(2025)(https://arxiv.org/html/2608.26748#bib.bib14)和Christopher等(2026)(https://arxiv.org/html/2608.26748#bib.bib33)开发了将中间状态外推到终端时间、投影或细化得到的终端状态估计以满足约束、然后将校正传播回当前采样步骤的方法。这些方法利用了流匹配的确定性,并将约束操作应用于估计的终端状态,而不是直接应用于中间状态。对于扩散模型,Li等(2026a)(https://arxiv.org/html/2608.26748#bib.bib35)也在去噪过程中引入了向可行区域的投影。类似地,Blanke等(2026)(https://arxiv.org/html/2608.26748#bib.bib44)将投影步骤集成到朗之万采样中。为解决逆问题而设计的扩散后验采样(Chung等,2023 (https://arxiv.org/html/2608.26748#bib.bib15);Yao等,2025 (https://arxiv.org/html/2608.26748#bib.bib16))也已应用于物理约束生成。Huang等(2024a)(https://arxiv.org/html/2608.26748#bib.bib17)和Gallon等(2026)(https://arxiv.org/html/2608.26748#bib.bib37)提出了沿残差梯度校正中间样本的方法。Peng等(2026)(https://arxiv.org/html/2608.26748#bib.bib32)将物理梯度注入噪声预测步骤。类似地,CoCoGen(Jacobsen等,2025 (https://arxiv.org/html/2608.26748#bib.bib7))修改了采样过程,使去噪步骤朝着减少残差的方向移动:

x_{i-1}=\operatorname{Solver}(x_i)-\gamma\nabla_{x_i}\|r(x_i)\|_2^2,(1)

其中x_i是中间状态,r(x)是控制方程的残差,γ是超参数。

另一种主要方法是在训练期间引入约束,以减少与物理一致动力学的偏差。在流匹配的背景下,Tauberschmidt等(2026)(https://arxiv.org/html/2608.26748#bib.bib30)纳入了伴随匹配框架(Domingo-Enrich等,2025 (https://arxiv.org/html/2608.26748#bib.bib31)),使用额外的控制项微调流以减少偏差。对于扩散模型,PIDM(Bastek等,2025 (https://arxiv.org/html/2608.26748#bib.bib6))以及相关的基于训练的方法(Wang等,2025 (https://arxiv.org/html/2608.26748#bib.bib18);Zeng等,2026 (https://arxiv.org/html/2608.26748#bib.bib19);Bai等,2026 (https://arxiv.org/html/2608.26748#bib.bib36);Ismayilzada等,2026 (https://arxiv.org/html/2608.26748#bib.bib34))将基于物理的约束(如物理残差)纳入训练目标。例如,在训练模型估计添加的噪声ε时,PIDM目标的简化形式可以写为:

\|\epsilon_{\theta}(x_t,t)-\epsilon\|^2+\lambda\|r(\mathbb{E}[x_0|x_t])\|^2,(2)

其中\epsilon_{\theta}(x_t,t)表示估计噪声的函数,r(x)表示残差,λ是超参数(Bastek等,2025 (https://arxiv.org/html/2608.26748#bib.bib6))。PIDM的相关扩展也已在知识蒸馏(Zhang等,2026 (https://arxiv.org/html/2608.26748#bib.bib20))和无需完全了解底层动力学进行生成(Xu和Li,2025 (https://arxiv.org/html/2608.26748#bib.bib21);Tan等,2026 (https://arxiv.org/html/2608.26748#bib.bib22))等设置中进行了探索。

无分类器引导(Ho和Salimans,2022 (https://arxiv.org/html/2608.26748#bib.bib9))提供了一种学习条件分布p(x|c)的方法,也已应用于物理信息生成。尽管它最初是为通用图像生成引入的,但PG Diffusion(Shu等,2023 (https://arxiv.org/html/2608.26748#bib.bib8))在从低保真输入重建高分辨率图像时,使用无分类器引导将物理信息集成到模型架构中。通过使用物理残差的梯度作为无分类器引导框架中的条件信息,他们将残差信息纳入模型,并实现了物理感知的训练和采样。然而,正如Bastek等(2025)(https://arxiv.org/html/2608.26748#bib.bib6)所指出的,PG Diffusion并未显式地引导采样过程朝向零残差条件。

尽管这些方法能够实现物理感知生成,但它们需要在训练或采样期间进行约束评估。在某些问题设置中,例如生成3D流体流动的快照时间序列,进行约束评估所需的物理模拟计算成本高昂,并且可能显著增加训练和采样时间。受到这一限制的启发,我们的方法将进行约束评估所需的物理模拟与扩散训练和采样分离,即使在这种情况下也能避免计算成本的大幅增加。

## 3背景

### 3.1扩散模型

扩散模型(Ho等,2020 (https://arxiv.org/html/2608.26748#bib.bib4))是学习扩散过程逆时间动力学的生成模型,允许从高斯噪声生成数据。设t∈[0,T]。

相似文章

学习离散化:基于扩散的自适应网格与谱引导

arXiv cs.LG

本文提出了一种基于扩散的框架,用于学习条件于观测到的偏微分方程动力学的自适应网格离散化,利用谱引导和物理约束在需要的地方分配分辨率。该方法在五种偏微分方程场景中取得了具有竞争力或更优的性能。