GameWAM:一种用于视频游戏的统一世界动作模型
摘要
GameWAM 引入了首个统一的世界动作模型,用于原生视频游戏控制,通过块因果流匹配和模式特定分布联合预测未来视觉和可执行动作。
查看缓存全文
缓存时间: 2026/08/28 07:24
论文页面 - GameWAM:面向电子游戏的世界动作模型
来源:https://huggingface.co/papers/2608.26200
摘要
GameWAM 是一个用于原生电子游戏控制的统一世界-动作模型,它利用区块因果流匹配、模式特定分布和区块循环重规划,联合预测未来视觉内容和可执行的键盘鼠标操作。
现代电子游戏融合了第一人称视角、快速视觉变化、持续的世界状态以及多样化的原生控制方式。现有游戏智能体直接将视觉和任务上下文映射到动作,但缺乏显式的动态世界建模;而交互式游戏世界模型能从给定动作预测视觉未来,却无法作为任务策略使用。世界-动作模型(https://huggingface.co/papers?q=World-Action%20Models)(WAMs)统一了这些目标,但在电子游戏的动态性和开放式交互场景中仍未得到充分探索。我们提出GameWAM——据我们所知首个用于原生闭环游戏玩法和GUI控制的WAM。GameWAM通过平行视觉与动作生成过程(采用区块因果条件化 https://huggingface.co/papers?q=block-causal%20conditioning 和流匹配 https://huggingface.co/papers?q=flow%20matching),联合生成未来视觉观测与可执行的键盘鼠标轨迹。为支持联合世界-动作学习,我们构建了同步的游戏玩法与GUI轨迹。为处理多样化的原生控制,GameWAM在每个动作步预测游戏玩法/GUI模式,并使用模式特定预测分布(https://huggingface.co/papers?q=mode-specific%20prediction%20distributions)与连续动作归一化(https://huggingface.co/papers?q=continuous-action%20normalization)生成动作。针对长程交互,区块循环控制(https://huggingface.co/papers?q=block-cycle%20control)预测超出承诺范围,仅执行短动作前缀,并基于新观测重新规划,同时循环内的细粒度上下文与层级化跨循环历史保持了时间连续性。实验证明,与对比智能体相比,GameWAM在执行更少原生动作的情况下取得了具有竞争力的任务成功率。我们进一步发现低频动作源印记(https://huggingface.co/papers?q=Low-Frequency%20Action%20Source%20Imprinting)(LASI)现象:在固定条件下,采样动作源的低频分量会系统性地引导生成相机的宏观运动,揭示了生成控制(https://huggingface.co/papers?q=generative%20control)中一种源敏感性失效模式。项目页面见 https://yunncheng.github.io/GameWAM/。
查看arXiv页面 (https://arxiv.org/abs/2608.26200)查看PDF (https://arxiv.org/pdf/2608.26200)项目页面 (https://yunncheng.github.io/GameWAM/)GitHub仓库 (https://github.com/yunncheng/GameWAM)添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.26200)
在您的智能体中获取本文:
hf papers read 2608.26200
没有最新CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型0
无模型链接本文
在模型README.md中引用arxiv.org/abs/2608.26200,即可从本页链接。
引用本文的数据集0
无数据集链接本文
在数据集README.md中引用arxiv.org/abs/2608.26200,即可从本页链接。
引用本文的Spaces0
无Space链接本文
在Space的README.md中引用arxiv.org/abs/2608.26200,即可从本页链接。
包含本文的合集0
无合集包含本文
将本文添加到合集 (https://huggingface.co/new-collection)即可从本页链接。
相似文章
GameWAM:视频游戏的世界动作模型
GameWAM引入了首个用于视频游戏原生闭环游戏玩法和GUI控制的世界动作模型,联合生成视觉观察和可执行动作,具有竞争力的任务成功率,并揭示了源敏感性故障模式。
世界行动模型:具身智能的下一个前沿
本综述论文介绍了世界行动模型(World Action Models,WAMs),这是一种将预测性状态建模与行动生成相结合的具身智能统一框架。该文提供了现有方法的分类体系,分析了数据生态系统,并概述了这一新兴范式的评估协议。
基于渐进式视觉规划的世界动作建模
ProWAM 是一种渐进式世界动作模型,能够联合预测机器人动作以及有序的稀疏视觉子目标序列,从而在无需密集视频生成的情况下实现高效的长时程控制。该模型在 LIBERO-Plus 和 RoboTwin 上取得了当前最优的结果,并在真实世界中实现了 70% 的零样本成功率。
SimWAM:一种用于端到端自动驾驶的简单世界动作模型
SimWAM是一种简单而有效的世界动作模型,用于端到端自动驾驶,它将视频生成纯粹用作训练信号,在NAVSIM上实现了最先进的91.5 PDMS,同时降低了推理延迟。
世界-动作交互模型的DAWN
本文介绍了DAWN,一种用于世界-动作交互模型(WAIMs)的潜在生成基线,通过递归细化联合建模场景演化与动作生成,在自动驾驶场景中实现了强大的长时域规划性能。