PDE-JEPA:面向参数化 PDE 的隐状态动力学建模预测表示学习

Hugging Face Daily Papers 论文

摘要

PDE-JEPA 为参数化 PDE 引入预测式表示预训练,包含一个掩码隐变量编码器、一个将隐轨迹与物理场演化对齐的几何投影器,以及一个物理结构化隐变量预测器;在九个 PDE 基准上,其分布内性能较 SOTA 提升 33.4%,外推性能提升 51.4%。

物理轨迹所包含的远不止系统在某一时刻的快照:它还揭示了系统状态在给定控制条件下如何演化。然而,针对参数化偏微分方程(PDE)的表示学习在很大程度上仍依赖于基于重建的目标,强调对已观测物理场的还原。本文将预测式表示预训练作为重建式学习的一种替代方案进行研究。我们发现,预测式表示能够保留丰富的物理信息,但仅凭这一优势并不能保证场演化的准确性。基于上述观察,我们提出了面向参数化 PDE 动力学的 PDE-JEPA。具体而言,我们首先利用掩码隐变量预测训练一个编码器,以捕捉 PDE 动力学的内在规律。为使预训练表示更明确地适配到与动力学一致的状态空间,我们进一步引入了一个几何投影器,将隐轨迹的几何结构与物理场演化的几何结构对齐。最后,在这一几何对齐的隐空间基础上,我们还构建了一个物理结构化隐变量预测器,将动力学分解为与参数无关的演化分量和与参数相关的响应分量。在九个广泛使用的 PDE 基准上的大量实验表明,我们的框架在分布内性能上平均优于现有最先进方法 33.4%,在向未见过的控制参数外推时平均提升 51.4%。项目主页为 https://tanpig-x.github.io/PDE-JEPA/{here}。
查看原文
查看缓存全文

缓存时间: 2026/10/05 04:45

论文页面 - PDE-JEPA:面向参数化 PDE 的潜在动力学建模的预测式表示学习

来源:https://huggingface.co/papers/2609.34715

摘要

物理轨迹所包含的信息远不止系统在某一时刻的快照:它们还揭示了系统在给定约束条件下的状态演化规律。然而,针对参数化偏微分方程(PDE)的表示学习长期依赖基于重建的目标,侧重于恢复观测到的物理场。本文研究了预测式表示预训练,将其作为基于重建的学习方法的一种替代方案。我们发现,预测式表征能够保留丰富的物理信息,但仅凭这一优势并不能保证准确的场演化预测。基于上述观察,我们提出了面向参数化 PDE 动力学的 PDE-JEPA 框架。具体而言,我们首先利用掩码潜在预测(masked latent prediction)训练编码器,以捕捉 PDE 动力学的内在规律性。为了将预训练表征显式地适配到更符合动力学特性的状态空间,我们进一步引入了几何投影器(geometry projector),用于对齐潜在轨迹几何与物理场演化几何。最后,在这一几何对齐的潜在空间之上,我们构建了物理结构化的潜在预测器(physics-structured latent predictor),将动力学分解为与参数无关的演化分量和与参数相关的响应分量。在九个广泛使用的 PDE 基准测试上进行的大量实验表明,我们的框架在分布内预测上平均优于现有最先进方法 33.4%,而在向未见过的控制参数进行外推时平均提升达 51.4%。项目主页见 https://tanpig-x.github.io/PDE-JEPA/ 。

查看 arXiv 页面 (https://arxiv.org/abs/2609.34715) 查看 PDF (https://arxiv.org/pdf/2609.34715) 项目主页 (https://tanpig-x.github.io/PDE-JEPA/) GitHub (https://github.com/Tanpig-X/PDE-JEPA) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.34715)

在你的 agent 中获取本论文:

hf papers read 2609.34715

还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型 0

暂无与本论文关联的模型。

在模型 README.md 中引用 arxiv.org/abs/2609.34715 即可从本页面链接过去。

引用本论文的数据集 0

暂无与本论文关联的数据集。

在数据集 README.md 中引用 arxiv.org/abs/2609.34715 即可从本页面链接过去。

引用本论文的 Spaces 0

暂无与本论文关联的 Space。

在 Space README.md 中引用 arxiv.org/abs/2609.34715 即可从本页面链接过去。

包含本论文的合集 0

暂无包含本论文的合集。

将本论文添加到合集 (https://huggingface.co/new-collection) 即可从本页面链接过去。

相似文章

AeroJEPA:学习用于可扩展3D气动场建模的语义潜在表示

arXiv cs.LG

本文介绍了AeroJEPA,一种用于可扩展3D气动场建模的联合嵌入预测架构。它通过预测流场的语义潜在表示,解决了当前代理模型在可扩展性和设计实用性方面的局限性,从而实现了高效的高保真分析和设计优化。

SJEPA:学习具有混合符号-神经预测器的优雅潜在动力学

arXiv cs.LG

SJEPA 引入了一种无需重建的 JEPA 框架,学习混合符号-神经潜在动力学,旨在获得最简单且充分的预测表示。实验表明,与事后拟合相比,它能发现更简单的符号动力学,并具有更低的展开误差,同时在语法错误设定下控制符号-神经分配。