RealtimeWAM:单步异步世界行动模型
摘要
RealtimeWAM 提出了一种单步异步的世界行动模型,通过教师锚定一致性蒸馏(TACD)和跨专家波前流水线(CEWP),在 LIBERO、LIBERO-Plus 和 RoboTwin 上实现了近乎无损的性能(性能下降 <1%),并在 H100 上实现了最高 25 倍的端到端加速。
查看缓存全文
缓存时间: 2026/10/06 04:52
论文页面 - RealtimeWAM:一步异步世界动作模型
来源:https://huggingface.co/papers/2610.06617
摘要
世界动作模型(World Action Models,WAMs)引入视频生成骨干网络的视觉表示来指导动作预测。近期高效的 WAM 采用 Mixture-of-Transformers(MoT)架构,仅计算一次视频表示以供动作专家复用。然而,专家内部迭代(即多步动作去噪)和专家间等待(即视频专家与动作专家的顺序执行)仍然限制着推理效率。为此,我们提出 RealtimeWAM,一种极其高效的 WAM 变体,具备一步动作生成和异步推理能力,从而解决这两个瓶颈问题。
为减少专家内部迭代,我们提出 Teacher-Anchored Consistency Distillation(TACD),以解决局部与全局之间的误差差距问题:仅有局部一致性误差低并不能保证最终动作的准确性。TACD 在局部一致性的基础上,引入冻结教师模型多步展开终点的显式监督,从而实现精确的一步动作生成。此外,我们提出 Cross-Expert Wavefront Pipelining(CEWP)以消除不必要的专家级等待。该方法通过分块共享视频 KV cache 来使两个专家相互重叠执行,仅在对应动作注意力实际消费该 cache 时才进行同步。在多样化基准(如 LIBERO、LIBERO-Plus 和 RoboTwin)以及不同模型变体(如 Fast-WAM 和 Faster-WAM)上的大量实验表明,RealtimeWAM 具有显著优势。值得注意的是,RealtimeWAM 在这些基准上保持近乎无损的性能(即下降 < 1%),同时带来显著的端到端加速(例如在 H100 上约 25 倍)。我们的代码和检查点可通过此 {link}(https://github.com/ModelTC/LightX2V/tree/main/examples/realtimewam)获取。
查看 arXiv 页面(https://arxiv.org/abs/2610.06617) 查看 PDF(https://arxiv.org/pdf/2610.06617) GitHub(https://github.com/ModelTC/LightX2V) 添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2610.06617)
在你的代理中获取此论文:
hf papers read 2610.06617
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型 0
没有模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2610.06617 即可从本页面链接它。
引用此论文的数据集 0
没有数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2610.06617 即可从本页面链接它。
引用此论文的 Spaces 0
没有 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2610.06617 即可从本页面链接它。
包含此论文的合集 0
没有合集包含此论文
将此论文添加到合集(https://huggingface.co/new-collection)即可从本页面链接它。
相似文章
AHA-WAM:异步视野自适应世界动作建模与观测引导上下文路由
AHA-WAM是一种异步世界动作模型,采用双扩散Transformer将世界预测与动作执行解耦,实现了高效的长视野规划和实时控制。它在机器人操作任务上达到了最先进的性能,在RoboTwin上成功率达92.8%,在现实世界任务中达78.3%,同时实现了24.17 Hz的闭环控制。
Light-WAM:基于状态融合动作解码的高效世界动作模型
Light-WAM是一种轻量级世界动作模型,用于高效机器人操作。它采用紧凑视频骨干网络和降采样潜在空间进行未来视频监督,在保持低推理延迟的同时实现了高性能。
Rolling-WAM:具有滚动想象的世界动作模型
Rolling-WAM 引入了一种方法,将去噪过程分布在用于机器人操作的世界动作模型的重规划周期中,在重规划中实现了4.5倍的速度提升,同时保持了竞争性能。
Flash-WAM: 面向世界行动模型的模态感知蒸馏
Flash-WAM提出了一种面向世界行动模型的模态感知蒸馏方法,通过将扩散压缩为每个模态单步推理,实现了实时推理,速度提升23倍。
SimWAM:一种用于端到端自动驾驶的简单世界动作模型
SimWAM是一种简单而有效的世界动作模型,用于端到端自动驾驶,它将视频生成纯粹用作训练信号,在NAVSIM上实现了最先进的91.5 PDMS,同时降低了推理延迟。