GameWAM:一种用于视频游戏的统一世界动作模型

Hugging Face Daily Papers 论文

摘要

GameWAM 引入了首个统一的世界动作模型,用于原生视频游戏控制,通过块因果流匹配和模式特定分布联合预测未来视觉和可执行动作。

现代视频游戏结合了第一人称感知、快速视觉变化、持久世界状态和异构原生控制。现有游戏代理将视觉和任务上下文直接映射到动作,但缺乏明确的世界动态建模,而交互式游戏世界模型从提供的动作预测视觉未来,却不作为任务策略。世界动作模型(WAMs)统一了这些目标,但在视频游戏的动态和开放交互下仍未被广泛探索。我们引入 GameWAM,据我们所知,这是首个用于原生闭环游戏玩法和 GUI 控制的 WAM。GameWAM 通过并行视觉和动作生成过程,结合块因果条件和流匹配,联合生成未来视觉观察和可执行的键盘鼠标轨迹。为支持联合世界动作学习,我们构建了同步的游戏玩法和 GUI 轨迹。为处理异构原生控制,GameWAM 在每个动作步骤预测游戏玩法/GUI 模式,并使用模式特定预测分布和连续动作归一化生成动作。对于长时域交互,块循环控制预测超出承诺时域,仅执行短动作前缀,并从新观察重新规划,而细粒度的循环内上下文和分层跨循环历史保持时间连续性。实验表明,与比较的代理相比,以更少的执行原生动作实现了有竞争力的任务成功率。我们进一步揭示了低频动作源印记(LASI),其中采样动作源的低频分量在固定条件下系统性地引导粗糙生成的相机运动,揭示了生成控制中的源敏感性故障模式。项目页面可在 https://yunncheng.github.io/GameWAM/ 访问。
查看原文
查看缓存全文

缓存时间: 2026/08/28 07:24

论文页面 - GameWAM:面向电子游戏的世界动作模型

来源:https://huggingface.co/papers/2608.26200

摘要

GameWAM 是一个用于原生电子游戏控制的统一世界-动作模型,它利用区块因果流匹配、模式特定分布和区块循环重规划,联合预测未来视觉内容和可执行的键盘鼠标操作。

现代电子游戏融合了第一人称视角、快速视觉变化、持续的世界状态以及多样化的原生控制方式。现有游戏智能体直接将视觉和任务上下文映射到动作,但缺乏显式的动态世界建模;而交互式游戏世界模型能从给定动作预测视觉未来,却无法作为任务策略使用。世界-动作模型(https://huggingface.co/papers?q=World-Action%20Models)(WAMs)统一了这些目标,但在电子游戏的动态性和开放式交互场景中仍未得到充分探索。我们提出GameWAM——据我们所知首个用于原生闭环游戏玩法和GUI控制的WAM。GameWAM通过平行视觉与动作生成过程(采用区块因果条件化 https://huggingface.co/papers?q=block-causal%20conditioning 和流匹配 https://huggingface.co/papers?q=flow%20matching),联合生成未来视觉观测与可执行的键盘鼠标轨迹。为支持联合世界-动作学习,我们构建了同步的游戏玩法与GUI轨迹。为处理多样化的原生控制,GameWAM在每个动作步预测游戏玩法/GUI模式,并使用模式特定预测分布(https://huggingface.co/papers?q=mode-specific%20prediction%20distributions)与连续动作归一化(https://huggingface.co/papers?q=continuous-action%20normalization)生成动作。针对长程交互,区块循环控制(https://huggingface.co/papers?q=block-cycle%20control)预测超出承诺范围,仅执行短动作前缀,并基于新观测重新规划,同时循环内的细粒度上下文与层级化跨循环历史保持了时间连续性。实验证明,与对比智能体相比,GameWAM在执行更少原生动作的情况下取得了具有竞争力的任务成功率。我们进一步发现低频动作源印记(https://huggingface.co/papers?q=Low-Frequency%20Action%20Source%20Imprinting)(LASI)现象:在固定条件下,采样动作源的低频分量会系统性地引导生成相机的宏观运动,揭示了生成控制(https://huggingface.co/papers?q=generative%20control)中一种源敏感性失效模式。项目页面见 https://yunncheng.github.io/GameWAM/。

查看arXiv页面 (https://arxiv.org/abs/2608.26200)查看PDF (https://arxiv.org/pdf/2608.26200)项目页面 (https://yunncheng.github.io/GameWAM/)GitHub仓库 (https://github.com/yunncheng/GameWAM)添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.26200)

在您的智能体中获取本文:

hf papers read 2608.26200

没有最新CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型0

无模型链接本文

在模型README.md中引用arxiv.org/abs/2608.26200,即可从本页链接。

引用本文的数据集0

无数据集链接本文

在数据集README.md中引用arxiv.org/abs/2608.26200,即可从本页链接。

引用本文的Spaces0

无Space链接本文

在Space的README.md中引用arxiv.org/abs/2608.26200,即可从本页链接。

包含本文的合集0

无合集包含本文

将本文添加到合集 (https://huggingface.co/new-collection)即可从本页链接。

相似文章

GameWAM:视频游戏的世界动作模型

arXiv cs.AI

GameWAM引入了首个用于视频游戏原生闭环游戏玩法和GUI控制的世界动作模型,联合生成视觉观察和可执行动作,具有竞争力的任务成功率,并揭示了源敏感性故障模式。

世界行动模型:具身智能的下一个前沿

Hugging Face Daily Papers

本综述论文介绍了世界行动模型(World Action Models,WAMs),这是一种将预测性状态建模与行动生成相结合的具身智能统一框架。该文提供了现有方法的分类体系,分析了数据生态系统,并概述了这一新兴范式的评估协议。

基于渐进式视觉规划的世界动作建模

arXiv cs.AI

ProWAM 是一种渐进式世界动作模型,能够联合预测机器人动作以及有序的稀疏视觉子目标序列,从而在无需密集视频生成的情况下实现高效的长时程控制。该模型在 LIBERO-Plus 和 RoboTwin 上取得了当前最优的结果,并在真实世界中实现了 70% 的零样本成功率。

世界-动作交互模型的DAWN

Hugging Face Daily Papers

本文介绍了DAWN,一种用于世界-动作交互模型(WAIMs)的潜在生成基线,通过递归细化联合建模场景演化与动作生成,在自动驾驶场景中实现了强大的长时域规划性能。