PDE-JEPA:面向参数化 PDE 的隐状态动力学建模预测表示学习
摘要
PDE-JEPA 为参数化 PDE 引入预测式表示预训练,包含一个掩码隐变量编码器、一个将隐轨迹与物理场演化对齐的几何投影器,以及一个物理结构化隐变量预测器;在九个 PDE 基准上,其分布内性能较 SOTA 提升 33.4%,外推性能提升 51.4%。
查看缓存全文
缓存时间: 2026/10/05 04:45
论文页面 - PDE-JEPA:面向参数化 PDE 的潜在动力学建模的预测式表示学习
来源:https://huggingface.co/papers/2609.34715
摘要
物理轨迹所包含的信息远不止系统在某一时刻的快照:它们还揭示了系统在给定约束条件下的状态演化规律。然而,针对参数化偏微分方程(PDE)的表示学习长期依赖基于重建的目标,侧重于恢复观测到的物理场。本文研究了预测式表示预训练,将其作为基于重建的学习方法的一种替代方案。我们发现,预测式表征能够保留丰富的物理信息,但仅凭这一优势并不能保证准确的场演化预测。基于上述观察,我们提出了面向参数化 PDE 动力学的 PDE-JEPA 框架。具体而言,我们首先利用掩码潜在预测(masked latent prediction)训练编码器,以捕捉 PDE 动力学的内在规律性。为了将预训练表征显式地适配到更符合动力学特性的状态空间,我们进一步引入了几何投影器(geometry projector),用于对齐潜在轨迹几何与物理场演化几何。最后,在这一几何对齐的潜在空间之上,我们构建了物理结构化的潜在预测器(physics-structured latent predictor),将动力学分解为与参数无关的演化分量和与参数相关的响应分量。在九个广泛使用的 PDE 基准测试上进行的大量实验表明,我们的框架在分布内预测上平均优于现有最先进方法 33.4%,而在向未见过的控制参数进行外推时平均提升达 51.4%。项目主页见 https://tanpig-x.github.io/PDE-JEPA/ 。
查看 arXiv 页面 (https://arxiv.org/abs/2609.34715) 查看 PDF (https://arxiv.org/pdf/2609.34715) 项目主页 (https://tanpig-x.github.io/PDE-JEPA/) GitHub (https://github.com/Tanpig-X/PDE-JEPA) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.34715)
在你的 agent 中获取本论文:
hf papers read 2609.34715
还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本论文的模型 0
暂无与本论文关联的模型。
在模型 README.md 中引用 arxiv.org/abs/2609.34715 即可从本页面链接过去。
引用本论文的数据集 0
暂无与本论文关联的数据集。
在数据集 README.md 中引用 arxiv.org/abs/2609.34715 即可从本页面链接过去。
引用本论文的 Spaces 0
暂无与本论文关联的 Space。
在 Space README.md 中引用 arxiv.org/abs/2609.34715 即可从本页面链接过去。
包含本论文的合集 0
暂无包含本论文的合集。
将本论文添加到合集 (https://huggingface.co/new-collection) 即可从本页面链接过去。
相似文章
AeroJEPA:学习用于可扩展3D气动场建模的语义潜在表示
本文介绍了AeroJEPA,一种用于可扩展3D气动场建模的联合嵌入预测架构。它通过预测流场的语义潜在表示,解决了当前代理模型在可扩展性和设计实用性方面的局限性,从而实现了高效的高保真分析和设计优化。
SJEPA:学习具有混合符号-神经预测器的优雅潜在动力学
SJEPA 引入了一种无需重建的 JEPA 框架,学习混合符号-神经潜在动力学,旨在获得最简单且充分的预测表示。实验表明,与事后拟合相比,它能发现更简单的符号动力学,并具有更低的展开误差,同时在语法错误设定下控制符号-神经分配。
潜在PDE映射:面向有限数据跨几何的高效物理信息学习
介绍了 latent PDE mapping,一种物理信息学习技术,通过将 PDE 残差拉回到潜在几何结构,实现稀疏训练数据下的高效几何泛化。在心脏电生理 PDE 基准测试中,仅使用 15 个训练样本即展示了显著误差降低。
时序距离JEPA:面向潜在世界模型预测控制的规划感知表示学习
提出时序距离JEPA(TD-JEPA),从离线轨迹中挖掘有向时序代价,以改进潜在世界模型预测控制,在机器人环境中实现了更高的成功率。
XP-JEPA: 跨预测物理基础的可预测潜在动态
XP-JEPA 通过引入跨预测物理基础来改善潜在动态,从而在世界模型中实现更好的可预测控制,且在测试时无需物理输入。