不可压缩流动的变分最优传输算子
摘要
本文介绍了VIOT,一种变分不可压缩最优传输算子,使用Fourier Neural Operator预测无散度速度场,以实现高效的不可压缩密度传输,比传统优化方法实现了数量级的加速。
arXiv:2609.13729v1 公告类型:新
摘要:我们提出变分不可压缩最优传输(VIOT)算子,一种用于摊销不可压缩密度传输的生成神经算子。给定一个新的源-目标密度对,VIOT预测一个无散度速度场,并通过前馈推理生成完整的传输轨迹,取代了伴随流体求解器和可微模拟基线中使用的每对耗时小时级的优化。该系统由三个组件组成:一个流函数或向量势表示,通过构造强制不可压缩性;一个正则化的不可压缩传输目标,平衡端点准确性和流平滑性;以及一个Fourier Neural Operator骨干网络,摊销了跨新对和网格分辨率的求解。这些组件共同使不可压缩传输成为一个可重用的神经算子,促进各种传输过程。此外,生成能力超出了训练分布的范围,VIOT在实时交互系统中为用户绘制的源-目标对生成不可压缩传输。我们在2D和3D密度传输基准上演示了VIOT。2D和3D的展开都在每对几秒内完成,而在我们的2D比较中,每个实例的基线从头开始优化每个新对,大约需要一个小时,实现了大约$10^4\times$的在线加速。
查看缓存全文
缓存时间: 2026/09/15 08:50
# 不可压缩流的变分最优传输算子 来源:https://arxiv.org/html/2609.13729 CCS:计算建模与仿真 金金·何(Jinjin He) https://orcid.org/0009-0000-4319-1191 邮箱:[[email protected]](mailto:[email protected]) 所属机构:交互计算学院,佐治亚理工学院,亚特兰大,乔治亚州,美国 沈一帆·陆(Shenyifan Lu) 邮箱:[[email protected]](mailto:[email protected]) 所属机构:交互计算学院,佐治亚理工学院,亚特兰大,乔治亚州,美国 辛南·王(Sinan Wang) 邮箱:[[email protected]](mailto:[email protected]) 所属机构:交互计算学院,佐治亚理工学院,亚特兰大,乔治亚州,美国 志奇·李(Zhiqi Li) 邮箱:[[email protected]](mailto:[email protected]) 所属机构:交互计算学院,佐治亚理工学院,亚特兰大,乔治亚州,美国 多文·陈(Duowen Chen) 邮箱:[[email protected]](mailto:[email protected]) 所属机构:交互计算学院,佐治亚理工学院,亚特兰大,乔治亚州,美国 博·朱(Bo Zhu) 邮箱:[[email protected]](mailto:[email protected]) 所属机构:交互计算学院,佐治亚理工学院,亚特兰大,乔治亚州,美国 © 无 参见图例 图1\.VIOT算子用于不可压缩流控制的结果。每一行展示了经过训练的VIOT算子通过重复网络查询和使用谱散度为零的速度进行数值平流生成的示例(红框单元格为目标关键帧,内嵌图为真实值)。从顶部到底部依次为:二维MNIST数字、二维MPEG-7剪影、三维“SMOKE”字体序列、三维人体姿态序列,以及三维球体到飞机的传输。 ###### 摘要。我们提出了变分不可压缩最优传输(*VIOT*)算子,一种用于摊销不可压缩密度传输的生成式神经算子。给定新的源-目标密度对,VIOT通过前馈推理预测散度为零的速度场,并生成完整的传输轨迹,从而取代了伴随流体求解器和可微模拟基线中用于每对优化的小时级计算。该系统包含三个组件:一种通过构造强制不可压缩性的流函数或矢量势表示,一种平衡端点精度和流场平滑性的正则化不可压缩传输目标,以及一种跨新网格对和分辨率摊销求解过程的傅里叶神经算子主干网络。这些组件共同使不可压缩传输成为可复用的神经算子,从而促进各种传输过程。此外,其生成能力超越了训练分布,VIOT可在实时交互式系统中为用户绘制的源-目标对生成不可压缩传输。我们在二维和三维密度传输基准测试中展示了VIOT。二维和三维的逐次展开均在数秒内完成每对,而我们二维对比中的单实例基线则需从头优化每个新对,耗时约一小时,实现了约10⁴倍的在线加速。 ###### 关键词:最优传输、不可压缩流、生成建模、神经算子 ## 1\.引言 模拟和控制传输过程在计算机图形学中扮演着重要角色,例如在受控帧之间传输密度场、界面和角色动作(参见(Stam, 1999 (https://arxiv.org/html/2609.13729#bib.bib63);Treuille et al., 2003 (https://arxiv.org/html/2609.13729#bib.bib68);McNamara et al., 2004 (https://arxiv.org/html/2609.13729#bib.bib47);Pan and Manocha, 2017 (https://arxiv.org/html/2609.13729#bib.bib51);Holl and Thuerey, 2024 (https://arxiv.org/html/2609.13729#bib.bib28);Li et al., 2025 (https://arxiv.org/html/2609.13729#bib.bib41);Foster and Fedkiw, 2001 (https://arxiv.org/html/2609.13729#bib.bib22);Zhu and Bridson, 2005 (https://arxiv.org/html/2609.13729#bib.bib72);Holden et al., 2017 (https://arxiv.org/html/2609.13729#bib.bib26);Gou et al., 2025 (https://arxiv.org/html/2609.13729#bib.bib24))中的示例)。尽管这些任务通常由源状态和目标状态指定,但结果的视觉和物理质量本质上取决于它们之间的传输过程:质量如何在空间中移动,运动是否保持体积,以及诱导的速度场是否遵循预期的物理模型。在此类设置中,传输过程本身成为生成内容的一部分,通常需要大量计算来获得。在本文考虑的单实例控制方法中,源-目标对定义了用于中介速度或控制力的优化问题。获得此类传输过程的典型方式是使用伴随方法和可微模拟器求解逆问题(例如,(Treuille et al., 2003 (https://arxiv.org/html/2609.13729#bib.bib68); McNamara et al., 2004 (https://arxiv.org/html/2609.13729#bib.bib47); Holl et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib27); Holl and Thuerey, 2024 (https://arxiv.org/html/2609.13729#bib.bib28); Takahashi et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib64); Hu et al., 2019a (https://arxiv.org/html/2609.13729#bib.bib29); Hu et al., 2019b (https://arxiv.org/html/2609.13729#bib.bib30); Li et al., 2025 (https://arxiv.org/html/2609.13729#bib.bib41)))。在这些单实例配置中,这些方法为每个源-目标对优化流场;摊销该计算需要额外的学习形式。神经前向模型加速了流体模拟(Kochkov et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib34); Sanchez-Gonzalez et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib59); Pfaff et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib54); Um et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib69); Stachenfeld et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib62))。神经控制方法通过可微模拟训练任务特定的控制器(Li et al., 2024 (https://arxiv.org/html/2609.13729#bib.bib40))。这些控制器针对指定的控制目标进行优化,而非作为跨源-目标密度对的传输算子进行训练。最近的基于流的生成模型通过跨数据分布摊销生成提供了一个不同的视角(Ho et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib25); Lipman et al., 2022 (https://arxiv.org/html/2609.13729#bib.bib44); Lipman et al., 2024 (https://arxiv.org/html/2609.13729#bib.bib45))。特别是,流匹配公式参数化了一个时间条件速度场,该场沿连续时间ODE将基础分布推向数据分布,并且相同的模型通过数值ODE展开生成样本,无需逐样本优化。最近的扩展进一步表明,此类流可以在具有规定结构的非欧几里得空间上学习(Chen and Lipman, 2023 (https://arxiv.org/html/2609.13729#bib.bib14)),另一条平行的工作线使用扩散或流匹配先验来合成具有嵌入约束的物理场(Wei et al., 2024 (https://arxiv.org/html/2609.13729#bib.bib71); Baldan et al., 2025 (https://arxiv.org/html/2609.13729#bib.bib6))或在粗略模拟上合成并渲染流体细节(Chen et al., 2025 (https://arxiv.org/html/2609.13729#bib.bib13))。 本文我们学习了一个用于在关键帧之间传输密度的可复用算子。给定当前密度、目标密度和时间,*VIOT*预测一个流函数或矢量势,将其转换为谱散度为零的速度,并数值推进密度。在端点对分布上的训练摊销了传输优化,允许通过前馈展开生成新的过渡。该公式受不可压缩最优传输启发。Benamou–Brenier动能成本度量密度传输,而将速度限制到散度为零子空间则在连续介质中施加了体积保持重排(Arnold, 1966 (https://arxiv.org/html/2609.13729#bib.bib4); Brenier, 1989 (https://arxiv.org/html/2609.13729#bib.bib8); Emerick and Bamieh, 2025 (https://arxiv.org/html/2609.13729#bib.bib21))。我们将此传输成本与耗散正则化器和有限终端惩罚相结合,以平衡关键帧精度和平滑性。通过平流进行微分直接从密度对训练算子,并避免了预计算监督传输轨迹。权重和数值简化,包括三维中使用的仅耗散最终训练阶段,在第4.4节(https://arxiv.org/html/2609.13729#S4.SS4)中指定。傅里叶神经算子(Li et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib42))提供了全局感受野和模式索引权重,可在多个网格上评估;我们测量了由此产生的传输精度。我们的贡献如下: (1) 我们将端点条件的不可压缩密度传输表述为摊销的正则化优化,从端点对训练,无需轨迹监督。 (2) 我们使用谱流函数和矢量势实现该算子,并评估了旋度、投影和软惩罚参数化下的约束强制和终端精度。 (3) 我们在四个二维和三个三维设置中展示了复用性,将不相交的形状和字体评估与姿态插值和池内研究分开。对于所示的二维链,与所比较的优化器相比,算子将在线每对成本降低了约10⁴倍。 (4) 我们量化了动量一致性和数值密度变化,并在用户绘制的输入上展示了交互式传输。 参见图例 图2\.三维体素字体传输。由同一个训练后的三维算子生成的七条长链,从上到下:GRAPH (G→R→A→P→H),SHAPE (S→H→A→P→E),FLUID (F→L→U→I→D),SIGAS (S→I→G→A→S),THANK (T→H→A→N→K),2026S (2→0→2→6→S),12345 (1→2→3→4→5)。红框单元格是目标关键帧;相邻关键帧之间的两个未框单元格是中间展开帧。颜色编码展开阶段(红→粉),并在每行中共享。 ## 2\.相关工作 ##### 流体控制。通过偏微分方程约束优化进行流体关键帧控制可追溯到Treuille et al. (2003) (https://arxiv.org/html/2609.13729#bib.bib68)和McNamara et al. (2004) (https://arxiv.org/html/2609.13729#bib.bib47),他们向模拟器添加控制力并通过伴随法优化;后来的工作通过约束公式(Pan and Manocha, 2017 (https://arxiv.org/html/2609.13729#bib.bib51); Inglis et al., 2017 (https://arxiv.org/html/2609.13729#bib.bib31))和简化力基(Tang et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib65))提高了效率。可微模拟器(Hu et al., 2019a (https://arxiv.org/html/2609.13729#bib.bib29); Holl et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib27); Holl and Thuerey, 2024 (https://arxiv.org/html/2609.13729#bib.bib28); Takahashi et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib64); Du et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib19))使得此类伴随法广泛可用,并在耦合和降阶设置中实现了控制(Li et al., 2023 (https://arxiv.org/html/2609.13729#bib.bib43); Li et al., 2024 (https://arxiv.org/html/2609.13729#bib.bib40); Chen et al., 2024 (https://arxiv.org/html/2609.13729#bib.bib16); Li et al., 2025 (https://arxiv.org/html/2609.13729#bib.bib41)),扩散模型已被用作物理控制的先验(Wei et al., 2024 (https://arxiv.org/html/2609.13729#bib.bib71))。经典的关键帧求解器为每个请求的过渡优化轨迹,而学习的模拟组件和生成先验可以跨实例复用信息。VIOT旨在实现一个端点条件的密度传输算子,其推理包括重复的网络查询和平流步骤,无需每对控制优化。其动量残差提供了与预测速度兼容的外力诊断,而训练目标并不求解受控动量方程。 ##### 最优传输、流匹配与摊销传输。最优传输的动力学公式(Benamou and Brenier, 2000 (https://arxiv.org/html/2609.13729#bib.bib7); Peyré and Cuturi, 2019 (https://arxiv.org/html/2609.13729#bib.bib53))寻求两个密度之间动能最小的速度,其不可压缩对应物——通过体积保持流实现的传输——具有经典的几何理论(Arnold, 1966 (https://arxiv.org/html/2609.13729#bib.bib4); Ebin and Marsden, 1970 (https://arxiv.org/html/2609.13729#bib.bib20); Brenier, 1989 (https://arxiv.org/html/2609.13729#bib.bib8); Shnirelman, 1994 (https://arxiv.org/html/2609.13729#bib.bib61))和近期的控制论处理(Emerick and Bamieh, 2025 (https://arxiv.org/html/2609.13729#bib.bib21))。连续归一化流学习可逆的时间相关动力学,通常通过似然目标(Chen et al., 2018 (https://arxiv.org/html/2609.13729#bib.bib15));OT-Flow添加了受最优传输启发的正则化(Onken et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib50))。流匹配方法通过回归与所选条件路径相关联的速度场进行学习(Lipman et al., 2022 (https://arxiv.org/html/2609.13729#bib.bib44); Liu et al., 2022 (https://arxiv.org/html/2609.13729#bib.bib46); Albergo et al., 2023 (https://arxiv.org/html/2609.13729#bib.bib2); Tong et al., 2023 (https://arxiv.org/html/2609.13729#bib.bib67); Lipman et al., 2024 (https://arxiv.org/html/2609.13729#bib.bib45); Wang et al., 2026 (https://arxiv.org/html/2609.13729#bib.bib70))。相关工作摊销测度对之间的传输映射或对偶势(Amos et al., 2022 (https://arxiv.org/html/2609.13729#bib.bib3)),学习条件向量场族(Atanackovic et al., 2025 (https://arxiv.org/html/2609.13729#bib.bib5)),或使用学习的势求解Wasserstein拉格朗日流(Neklyudov et al., 2023 (https://arxiv.org/html/2609.13729#bib.bib48))。VIOT结合了密度场的端点条件、谱散度零参数化以及在无监督传输轨迹下训练的变分密度展开。 ##### 神经流体模拟与散度零网络。学习模型通过学习修正(Kochkov et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib34); Stachenfeld et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib62); Um et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib69))、图网络(Sanchez-Gonzalez et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib59); Pfaff et al., 2020 (https://arxiv.org/html/2609.13729#bib.bib54))、物理信息损失(Raissi et al., 2019 (https://arxiv.org/html/2609.13729#bib.bib55))、超分辨率(Kim et al., 2019 (https://arxiv.org/html/2609.13729#bib.bib33))、生成式运动模型(Chu et al., 2021 (https://arxiv.org/html/2609.13729#bib.bib18); Chu et al.
相似文章
VATO:一种用于非定常分离翼型流动的涡旋力感知Transformer算子
介绍VATO,一种涡旋力感知的Transformer算子,通过力感知的神经算子学习,减少速度、压力和涡量的误差,从而提高非定常分离气动流动的预测。
基于最优传输势的多边缘流匹配
提出OTP-FM,一种新颖的多边缘流匹配方法,利用最优传输势来软性地引导流通过中间边缘分布,在单细胞RNA测序、海洋学和气象学数据集上实现了最先进的性能。
快速与慢速变分持续学习
本文介绍了持续IVON(CoVON)优化器,它将快速和慢速适应整合到变分持续学习中,以平衡稳定性和可塑性,在领域增量学习、持续预训练以及大型语言模型的微调中优于现有方法。
通过隐式梯度传输加速基于 LMO 的优化
本文提出了 LMO-IGT,这是一类新的随机优化方法,它利用隐式梯度传输来加速收敛,同时保持每次迭代仅计算一次梯度的结构。文中引入了一个统一的理论框架,并展示了相较于 Muon 等现有基于 LMO 的优化器,该方法具有更优的性能。
浸没边界软体游泳器运动的神经算子
本文开发了神经算子代理模型,用于预测浸没边界软体游泳器周围的水动力学场(速度、涡量、压力),在保留轨迹上实现了较低的全局相对误差,同时指出压力精度和物理一致性是进一步工作的重点。