CausalWAM:在世界动作模型中学习动作的成因

Hugging Face Daily Papers 论文

摘要

CausalWAM 提出在预训练 World Action Model 的动作头中加入一条稀疏路由路径,使生成的动作仅依赖于与动作相关的潜在变量,并在无需时间独立性假设的情况下,可证明地识别出因果结构(至多重排列)。在合成数据和真实机器人上的实验表明,闭环成功效率得到提升。

World action models(WAM)从观测中学习潜在变量,并利用这些变量既预测场景的演化,又生成动作。预测需要覆盖整个场景,而只有场景的一部分会导致动作。通常情况下,基于演示拟合的 WAM 并不能保证其生成的动作仅来自所演示动作的潜在成因(即与动作相关的潜在变量),因为模型同样可以以这种方式学会模仿,却将动作相关的潜在变量与干扰变量纠缠在一起。因此,我们将导致动作的因素与预测所依赖的因素分离开来。我们证明,在稀疏性约束下,用于生成动作的潜在变量仅是动作相关潜在变量的可逆函数,真实结构可被识别至多重潜在变量排列。这一结论既不需要足够的时间依赖性,也不需要对未观测机制的演化方式做任何假设,即使动作相关的潜在变量与其余变量存在统计依赖性也依然成立。因此我们提出 CWAM(Causal WAM),通过在预训练 WAM 的动作头中加入一条稀疏路由路径来引入该约束,同时保持世界建模目标不变。在合成数据和真实机器人上的实验既验证了理论,也展示了闭环成功率效率的提升。
查看原文
查看缓存全文

缓存时间: 2026/11/02 07:28

论文页面 - CausalWAM:学习世界动作模型中动作的成因

来源:https://huggingface.co/papers/2610.42096

摘要

Causal World Action Models(因果世界动作模型)强制执行稀疏路由,以隔离与动作相关的隐变量,从而在无需时间独立性假设的情况下确保可辨识的因果结构。

World action models(世界动作模型)(https://huggingface.co/papers?q=World%20action%20models)(WAMs)从观测中学习隐变量(https://huggingface.co/papers?q=latent%20variables),并利用它们来预测场景的演变以及生成动作。预测必须覆盖整个场景,但只有场景的一部分会导致动作。基于演示数据训练的 WAM 通常不能保证其仅根据被演示动作的隐性成因(即与动作相关的隐变量)(https://huggingface.co/papers?q=action-relevant%20latent%20variables)来生成动作,因为模型完全可能在将与动作相关的隐变量与干扰变量(https://huggingface.co/papers?q=nuisance%20variables)纠缠在一起的同时,以这种方式学会模仿。因此,我们将“导致动作的因素“与“预测所依赖的因素“分离开来。我们证明,在稀疏性约束(https://huggingface.co/papers?q=sparsity%20constraint)下,用于生成动作的隐变量(https://huggingface.co/papers?q=latent%20variables)仅是与动作相关的隐变量的可逆函数(https://huggingface.co/papers?q=invertible%20function),真实结构在隐变量(https://huggingface.co/papers?q=latent%20variables)的置换意义下可被辨识。这既不需要充分的时间依赖性,也不需要对未观测 regime 如何演化的任何假设,且即使与动作相关的隐变量与其余部分存在统计依赖性时仍然成立。因此,我们提出 CWAM(https://huggingface.co/papers?q=CWAM)(Causal WAM(https://huggingface.co/papers?q=Causal%20WAM)),它通过在其动作头上添加一条稀疏路由(https://huggingface.co/papers?q=sparse%20routing)路径,将该约束引入预训练的 WAM,而世界建模(https://huggingface.co/papers?q=world%20modeling)目标保持不变。在合成数据和真实机器人上的实验验证了该理论,并展示了闭环成功率的提升。

查看 arXiv 页面 (https://arxiv.org/abs/2610.42096) 查看 PDF (https://arxiv.org/pdf/2610.42096) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.42096)

在你的 agent 中获取这篇论文:

hf papers read 2610\.42096

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型 0

没有模型链接到本文

在模型的 README.md 中引用 arxiv.org/abs/2610.42096,即可从此页面链接该模型。

引用本文的数据集 0

没有数据集链接到本文

在数据集的 README.md 中引用 arxiv.org/abs/2610.42096,即可从此页面链接该数据集。

引用本文的 Spaces 0

没有 Space 链接到本文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.42096,即可从此页面链接该 Space。

包含本文的合集 0

没有合集包含本文

将本文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接。

相似文章

世界行动模型:具身智能的下一个前沿

Hugging Face Daily Papers

本综述论文介绍了世界行动模型(World Action Models,WAMs),这是一种将预测性状态建模与行动生成相结合的具身智能统一框架。该文提供了现有方法的分类体系,分析了数据生态系统,并概述了这一新兴范式的评估协议。

AHA-WAM:异步视野自适应世界动作建模与观测引导上下文路由

Hugging Face Daily Papers

AHA-WAM是一种异步世界动作模型,采用双扩散Transformer将世界预测与动作执行解耦,实现了高效的长视野规划和实时控制。它在机器人操作任务上达到了最先进的性能,在RoboTwin上成功率达92.8%,在现实世界任务中达78.3%,同时实现了24.17 Hz的闭环控制。

基于渐进式视觉规划的世界动作建模

arXiv cs.AI

ProWAM 是一种渐进式世界动作模型,能够联合预测机器人动作以及有序的稀疏视觉子目标序列,从而在无需密集视频生成的情况下实现高效的长时程控制。该模型在 LIBERO-Plus 和 RoboTwin 上取得了当前最优的结果,并在真实世界中实现了 70% 的零样本成功率。