D-JEPA:一种决策对齐的潜在世界模型

Hugging Face Daily Papers 论文

摘要

D-JEPA 是一种决策对齐的潜在世界模型,它学习候选未来之间的决策相关关系,以改善操作和自动驾驶等任务中的动作选择,展示了显著的性能提升。

潜在世界模型预测动作的后果,但准确的预测并不保证潜在距离能反映哪个候选将成功执行。我们发现了一个决策局部预测差距:在少数竞争执行的未来中,一个预测更接近目标的候选可能产生比可用替代方案更差的实际结果。我们引入 D-JEPA,一种决策对齐的潜在世界模型,它从执行的结果中学习候选未来之间的决策相关关系。一个有界、排列等变的算子联合推理目标相关的预测特征和序证据,细化预训练预测几何结构,在动作选择最至关重要的地方。受限的预测器适应和共享的序接口扩展了这种对齐到互补的预测几何结构。D-JEPA 进一步在 JEPA 兼容的未来表示中实现学习到的决策结构,使得通过原生潜在距离规划进行部署成为可能。跨潜在控制、操作、预训练动作生成模型、物理机器人和自动驾驶的评估展示了改进的动作选择,包括在 PushT 上的 87.89% 成功率,在 RoboTwin 上的平均 15.04 点增益,以及在物理机器人任务上的 17 点增益。这些结果确立了决策相关关系结构作为预测世界建模和有效控制之间的直接桥梁。
查看原文
查看缓存全文

缓存时间: 2026/09/29 00:07

论文页面 - D-JEPA:一种与决策对齐的潜在世界模型

来源:https://huggingface.co/papers/2609.24749

摘要

潜在世界模型能够预测行动的后果,但精确的预测并不能保证潜在距离能够反映哪个候选方案会成功执行。我们识别出一种决策局部预测差距:在少数竞争执行的未来中,一个被预测更接近目标的候选方案,可能产生比其他可用替代方案更差的实际结果。我们引入D-JEPA,一种与决策对齐的潜在世界模型,它从已执行的结果中学习候选未来之间与决策相关的关系。一种有界的、置换等变的算子联合推理目标相对预测特征和序证据,在行动选择最具决定性的地方优化预训练的预测几何。受限的预测器适应和共享的序接口将这种对齐扩展到互补的预测几何。D-JEPA还在与JEPA兼容的未来表示中进一步实现了所学的决策结构,从而能够通过原生潜在距离规划进行部署。在潜在控制、操作、预训练行动生成模型、实体机器人和自动驾驶方面的评估表明,行动选择得到了改善,包括在PushT任务上取得87.89%的成功率,在RoboTwin上平均提升15.04个百分点,在实体机器人任务上提升17个百分点。这些结果确立了与决策相关的关系结构作为预测世界建模与有效控制之间的直接桥梁。

查看 arXiv 页面 (https://arxiv.org/abs/2609.24749) 查看 PDF (https://arxiv.org/pdf/2609.24749) 项目页面 (https://nebulis-lab.com/D-JEPA) GitHub9 (https://github.com/NEBULIS-Lab/D-JEPA) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.24749)

在你的代理中获取此论文:

hf papers read 2609\.24749

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型1

Shuaijun/D-JEPA Robotics• 约2小时前更新 • 1 (https://huggingface.co/Shuaijun/D-JEPA)

引用此论文的数据集1

Shuaijun/D-JEPA-Dataset 约2小时前更新 • 158 • 1 (https://huggingface.co/datasets/Shuaijun/D-JEPA-Dataset)

引用此论文的空间0

没有链接到此论文的空间。 在空间的 README.md 中引用 arxiv.org/abs/2609.24749 以从本页面链接它。

包含此论文的合集0

没有包含此论文的合集。 将此论文添加到合集 (https://huggingface.co/new-collection) 以从本页面链接它。

相似文章

DVD-JEPA:一个开源、完全可复现的JEPA世界模型 [P]

Reddit r/MachineLearning

DVD-JEPA 是一个开源、极简的 JEPA 世界模型,它通过预测未来嵌入而非像素来从视频中学习表示。它使用弹跳的 DVD 标志来演示位置恢复、梦境生成和异常检测,所有这些都在浏览器中运行。

SJEPA:学习具有混合符号-神经预测器的优雅潜在动力学

arXiv cs.LG

SJEPA 引入了一种无需重建的 JEPA 框架,学习混合符号-神经潜在动力学,旨在获得最简单且充分的预测表示。实验表明,与事后拟合相比,它能发现更简单的符号动力学,并具有更低的展开误差,同时在语法错误设定下控制符号-神经分配。