LeWAM:基于 JEPA 的端到端世界与动作建模
摘要
LeWAM 提出一种端到端的 JEPA 控制框架,通过联合训练下一隐状态预测与动作流匹配目标,并对隐状态施加各向异性高斯约束,使单一模型同时支持直接策略执行与高效规划,在接触丰富任务和长程任务上将成功率从 28.6% 提升至 89.7% 和从 10.9% 提升至 46.2%,规划速度提升 32.3 倍。
查看缓存全文
缓存时间: 2026/10/14 02:49
论文页面 - LeWAM:基于 JEPA 的端到端世界与动作建模
来源:https://huggingface.co/papers/2610.12818
摘要
联合嵌入预测架构(JEPA)能够在不进行像素重建的情况下学习紧凑的隐式(latent)世界模型。现有的 JEPA 流程通常先训练视觉表征与动作条件下的动力学模型,之后再接入控制策略或求解器。我们提出 LeWAM,一个用于控制的端到端 JEPA 模型,具备以下特点:
- 针对下一隐状态预测与动作流匹配(action flow matching)的联合训练目标;
- 对隐状态施加各向异性高斯约束,使单一模型既能直接执行策略,又能通过其学到的隐动力学模型评估采样出的动作,实现高效规划。
与以往用于视觉规划的 JEPA 相比,LeWAM 在接触密集型任务上将成功率从 28.6% 提升至 89.7%,在长时程任务上从 10.9% 提升至 46.2%,且规划速度快 32.3 倍。在仿真与实体机器人上的行为克隆任务中,LeWAM 同样具有与成熟方法相当的竞争力。可解释性分析表明,LeWAM 能有效学习与控制相关的表征和动作分布,从而引导测试时的规划与控制。
查看 arXiv 页面 (https://arxiv.org/abs/2610.12818)|查看 PDF (https://arxiv.org/pdf/2610.12818)|项目页面 (https://le-wam.github.io/)|GitHub 228 (https://github.com/MinghaoFu/lewam)|加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.12818)
在你的 agent 中获取该论文:
hf papers read 2610.12818
还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用该论文的模型:0
暂无模型关联该论文。
在模型的 README.md 中引用 arxiv.org/abs/2610.12818,即可从本页面链接过去。
引用该论文的数据集:0
暂无数据集关联该论文。
在数据集的 README.md 中引用 arxiv.org/abs/2610.12818,即可从本页面链接过去。
引用该论文的 Space:0
暂无 Space 关联该论文。
在 Space 的 README.md 中引用 arxiv.org/abs/2610.12818,即可从本页面链接过去。
包含该论文的合集:0
暂无合集包含该论文。
将该论文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接过去。
相似文章
WAVE-0:用轻量级潜在未来预测连接 VLA 策略与世界动作模型(WAM)
WAVE-0 提出一个轻量级潜在世界模型,将 VLA 策略与世界动作模型(WAM)结合,使预测的动作后果直接引导动作生成,在 RoboTwin2.0 和 LIBERO 系列基准上取得 91.47%/98.7% 的成功率,并将 π0.5 的真实任务成功率从 38.3% 提升至 73.3%。
# Long-WAM:扩展世界-动作模型的上下文长度
Long-WAM 提出了一种在实时控制约束下扩展因果世界-动作模型(world-action model)上下文的模型-系统框架,研究发现:更长的视觉历史仅在视频基础模型采用自回归方式预训练时才会带来显著效果——在 RoboCasa GR-1 上,其将成功率从 63.3% 提升至 78.7%;而在 Unitree G1 实机上,实现了 95% 的动态杯子堆叠成功率。
LaWAM:面向高效动力学感知机器人策略的潜在世界动作模型
LaWAM通过预测紧凑的潜在视觉子目标而非昂贵的视频生成,实现了高效的机器人控制,相比像素空间世界动作模型,成功率可达最先进水平,同时延迟降低高达24倍。
@yingwww_: 温暖提示:你的世界模型永远不应该停止学习。介绍AdaJEPA,一个自适应的世界模型,可以规划、行动和适应……
AdaJEPA引入了一种自适应的潜在世界模型,该模型在测试期间通过闭环模型预测控制持续更新,显著提高了分布偏移下的规划成功率。
UniWAM:统一世界-动作模型
UniWAM 提出了一种统一的架构,将物理推理器、世界生成器和动作预测器整合在一起,联合学习物理世界的语义理解、视觉生成与动作预测。该模型在多项评估中达到 SOTA,并揭示了统一人机协同训练的对数线性缩放规律。