JEPA-TTT:面向动力学分布偏移下规划的潜空间世界模型持续测试时训练
摘要
JEPA-TTT 在测试时通过自监督密集重放(dense replay)对预训练 JEPA 世界模型的潜空间动力学预测器进行适应,在四个连续控制环境中,相比冻结模型,潜空间预测误差降低 83%,规划性能提升 153%,从而改善了动力学偏移下的规划表现。
查看缓存全文
缓存时间: 2026/10/06 00:51
论文页面 - JEPA-TTT:面向动力学偏移下规划的潜在世界模型的持续测试时训练
来源:https://huggingface.co/papers/2610.00722
摘要
世界模型通过预测环境的未来状态使智能体能够进行规划,但当测试时的动力学与训练期间所见不同时,其预测可能变得不可靠。我们提出 JEPA-TTT,它在测试时持续地对预训练的动作条件联合嵌入预测架构(Joint Embedding Predictive Architecture, JEPA)世界模型的潜在动力学预测器进行适应。自监督更新会在多个 episode 之间不断累积,而视觉编码器和奖励头保持固定,从而保留预训练的表示和任务目标。规划既不需要目标图像,也不需要在线环境奖励。JEPA-TTT 采用密集回放(dense replay)机制:在每个时间偏移处构建预测窗口,将其保存在不断增长的缓冲区中,并从该缓冲区中采样小批量数据来更新预测器。在四个连续控制环境中的八种动力学偏移上,JEPA-TTT 在每一种偏移下都提升了规划性能。经过 500 个测试时 episode 后,与冻结的 JEPA 世界模型相比,其自回归潜在预测误差平均降低 83%,规划性能提升 153%。这些结果表明,持续的自监督测试时训练能够让预训练的潜在世界模型适应发生变化的动力学。
查看 arXiv 页面 (https://arxiv.org/abs/2610.00722) 查看 PDF (https://arxiv.org/pdf/2610.00722) 项目页面 (https://jepa-ttt.github.io/) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.00722)
引用该论文的模型 0
暂无模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2610.00722 即可将此页面关联起来。
引用该论文的数据集 0
暂无数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2610.00722 即可将此页面关联起来。
引用该论文的 Spaces 0
暂无 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2610.00722 即可将此页面关联起来。
包含该论文的合集 0
暂无合集包含此论文
将该论文添加到合集 (https://huggingface.co/new-collection) 即可将此页面关联起来。
相似文章
时序距离JEPA:面向潜在世界模型预测控制的规划感知表示学习
提出时序距离JEPA(TD-JEPA),从离线轨迹中挖掘有向时序代价,以改进潜在世界模型预测控制,在机器人环境中实现了更高的成功率。
@yingwww_: 温暖提示:你的世界模型永远不应该停止学习。介绍AdaJEPA,一个自适应的世界模型,可以规划、行动和适应……
AdaJEPA引入了一种自适应的潜在世界模型,该模型在测试期间通过闭环模型预测控制持续更新,显著提高了分布偏移下的规划成功率。
D-JEPA:一种决策对齐的潜在世界模型
D-JEPA 是一种决策对齐的潜在世界模型,它学习候选未来之间的决策相关关系,以改善操作和自动驾驶等任务中的动作选择,展示了显著的性能提升。
Delta-JEPA: 通过潜在差异解码学习动作敏感的世界模型
Delta-JEPA 引入了一种无重建的世界模型,通过潜在差异动作解码器增强潜在前向预测,以防止崩溃并提高动作敏感性,从而在视觉连续控制任务上实现更好的规划性能。
PDE-JEPA:面向参数化 PDE 的隐状态动力学建模预测表示学习
PDE-JEPA 为参数化 PDE 引入预测式表示预训练,包含一个掩码隐变量编码器、一个将隐轨迹与物理场演化对齐的几何投影器,以及一个物理结构化隐变量预测器;在九个 PDE 基准上,其分布内性能较 SOTA 提升 33.4%,外推性能提升 51.4%。