LeWAM:基于 JEPA 的端到端世界与动作建模

Hugging Face Daily Papers 论文

摘要

LeWAM 提出一种端到端的 JEPA 控制框架,通过联合训练下一隐状态预测与动作流匹配目标,并对隐状态施加各向异性高斯约束,使单一模型同时支持直接策略执行与高效规划,在接触丰富任务和长程任务上将成功率从 28.6% 提升至 89.7% 和从 10.9% 提升至 46.2%,规划速度提升 32.3 倍。

联合嵌入预测架构(JEPA)能够在不进行像素重建的情况下学习紧凑的隐空间世界模型。现有的 JEPA 流程通常先训练视觉表征和动作条件动力学,之后再加入控制策略或求解器。我们提出 LeWAM,一种面向控制的端到端 JEPA,其特点包括:(1) 将下一隐状态预测与动作流匹配(action flow matching)统一到一个联合训练目标中;(2) 对隐状态施加各向同性高斯约束,从而使单一模型既能直接执行策略,又能利用其学到的隐空间动力学评估采样动作、实现高效规划。与此前用于视觉规划的 JEPA 相比,LeWAM 在接触丰富任务上将成功率从 28.6% 提升至 89.7%,在长程任务上从 10.9% 提升至 46.2%,且规划速度快 32.3 倍。在仿真与实体机器人的行为克隆任务中,LeWAM 同样具备与现有成熟方法相当的竞争力。可解释性分析表明,LeWAM 能有效学习与控制相关的表征和动作分布,从而引导测试时的规划与控制。
查看原文
查看缓存全文

缓存时间: 2026/10/14 02:49

论文页面 - LeWAM:基于 JEPA 的端到端世界与动作建模

来源:https://huggingface.co/papers/2610.12818

摘要

联合嵌入预测架构(JEPA)能够在不进行像素重建的情况下学习紧凑的隐式(latent)世界模型。现有的 JEPA 流程通常先训练视觉表征与动作条件下的动力学模型,之后再接入控制策略或求解器。我们提出 LeWAM,一个用于控制的端到端 JEPA 模型,具备以下特点:

  1. 针对下一隐状态预测与动作流匹配(action flow matching)的联合训练目标;
  2. 对隐状态施加各向异性高斯约束,使单一模型既能直接执行策略,又能通过其学到的隐动力学模型评估采样出的动作,实现高效规划。

与以往用于视觉规划的 JEPA 相比,LeWAM 在接触密集型任务上将成功率从 28.6% 提升至 89.7%,在长时程任务上从 10.9% 提升至 46.2%,且规划速度快 32.3 倍。在仿真与实体机器人上的行为克隆任务中,LeWAM 同样具有与成熟方法相当的竞争力。可解释性分析表明,LeWAM 能有效学习与控制相关的表征和动作分布,从而引导测试时的规划与控制。

查看 arXiv 页面 (https://arxiv.org/abs/2610.12818)|查看 PDF (https://arxiv.org/pdf/2610.12818)|项目页面 (https://le-wam.github.io/)|GitHub 228 (https://github.com/MinghaoFu/lewam)|加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.12818)

在你的 agent 中获取该论文:

hf papers read 2610.12818

还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型:0

暂无模型关联该论文。

在模型的 README.md 中引用 arxiv.org/abs/2610.12818,即可从本页面链接过去。

引用该论文的数据集:0

暂无数据集关联该论文。

在数据集的 README.md 中引用 arxiv.org/abs/2610.12818,即可从本页面链接过去。

引用该论文的 Space:0

暂无 Space 关联该论文。

在 Space 的 README.md 中引用 arxiv.org/abs/2610.12818,即可从本页面链接过去。

包含该论文的合集:0

暂无合集包含该论文。

将该论文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接过去。

相似文章

# Long-WAM:扩展世界-动作模型的上下文长度

Hugging Face Daily Papers

Long-WAM 提出了一种在实时控制约束下扩展因果世界-动作模型(world-action model)上下文的模型-系统框架,研究发现:更长的视觉历史仅在视频基础模型采用自回归方式预训练时才会带来显著效果——在 RoboCasa GR-1 上,其将成功率从 63.3% 提升至 78.7%;而在 Unitree G1 实机上,实现了 95% 的动态杯子堆叠成功率。

UniWAM:统一世界-动作模型

Hugging Face Daily Papers

UniWAM 提出了一种统一的架构,将物理推理器、世界生成器和动作预测器整合在一起,联合学习物理世界的语义理解、视觉生成与动作预测。该模型在多项评估中达到 SOTA,并揭示了统一人机协同训练的对数线性缩放规律。