A2Z GameSpec-Bench:编码代理能多忠实地根据游戏设计文档生成游戏?
摘要
论文提出 A2Z GameSpec-Bench,一个包含 100 份长篇游戏设计文档(GDD)的基准,用于评估编码代理在端到端游戏开发中遵循互锁需求的能力。结果显示现有代理在同时满足代码实现与实际游玩的联动需求上表现不佳,而需求级反馈可在两轮修订后将 GDD 忠实度提升 10.9%。
查看缓存全文
缓存时间: 2026/10/01 04:21
论文页面 - A2Z GameSpec-Bench:编码智能体能多忠实地根据游戏设计文档生成游戏?
来源:https://huggingface.co/papers/2609.39564
摘要
将完整的应用开发委托给编码智能体,需要忠实保留原本的设计意图,而不是通过朴素提示(prompting)只生成看似合理的输出。游戏开发提供了一个极具挑战性的试验场:长篇游戏设计文档(Game Design Documents,GDDs)所描述的需求,必须在游戏逻辑、视觉渲染和玩家交互等多个层面协同工作。然而,现有的游戏开发基准(benchmark)通常只使用精简的规格说明,对于评估长篇 GDD 中各维度之间相互关联的需求支持有限。我们提出了 A2Z GameSpec-Bench,这是一个包含 100 份长篇 GDD 的基准,用于评估智能体的端到端游戏开发能力。我们通过检查游戏是否满足 GDD 中的需求、以及是否保留了需求之间的关联来衡量其忠实度。每份 GDD 都会被转化为一个“依赖感知契约“(dependency-aware contract),其中包含规则、约束以及前置依赖关系。遵循游戏开发实践,我们将源代码检查与智能体生成的测试策略相结合,用于基于场景的回放(scenario-based replay)和自适应试玩测试(adaptive playtesting)。该契约在所有智能体和迭代修订轮次中保持不变,而与相同需求相关联的判定和证据则支持一致的比较和失败检测。我们的评估结果表明,当前智能体难以在代码实现与实际试玩两个层面同时满足相互依赖的需求。在两轮迭代后,基于需求的反馈(requirement-specific feedback)可使 GDD 忠实度相对自我修订提升 10.9%。A2Z GameSpec-Bench 在实现层面的判定之外,评估了端到端的规格遵循能力,并提供了针对性的反馈,以支持更忠实的游戏开发。代码和数据集见:https://a2z-gamespec-bench.github.io
查看 arXiv 页面 (https://arxiv.org/abs/2609.39564) 查看 PDF (https://arxiv.org/pdf/2609.39564) 项目页面 (https://a2z-gamespec-bench.github.io/) GitHub2 (https://github.com/krafton-ai/a2z-gamespec-bench) 添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2609.39564)
引用本文的模型 0
暂无与本文关联的模型
在模型的 README.md 中引用 arxiv.org/abs/2609.39564,即可从本页面链接到该模型。
引用本文的数据集 0
暂无与本文关联的数据集
在数据集的 README.md 中引用 arxiv.org/abs/2609.39564,即可从本页面链接到该数据集。
引用本文的 Spaces 0
暂无与本文关联的 Space
在 Space 的 README.md 中引用 arxiv.org/abs/2609.39564,即可从本页面链接到该 Space。
包含本文的合集 0
暂无包含本文的合集
将本文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接到该合集。
相似文章
GameXpert-Bench: 编程代理距离专家游戏开发还有多远?
本文介绍了GameXpert-Bench,一个包含三个轨道的基准测试,用于评估编程代理在游戏创建、错误修复和优化方面的开发能力。研究发现,当前代理在初始生成方面优于缺陷发现和多轮优化。
GameCraft-Bench:智能体能否在真实游戏引擎中端到端构建可玩游戏?
GameCraft-Bench是一个基准测试,用于评估AI编程智能体在Godot引擎上根据自然语言描述进行端到端游戏生成的能力。最强智能体仅达到41.46%,表明该任务依然极具挑战性。
SWE-Game:编码智能体能否构建我们想要的游戏?
我们提出 SWE-Game,一个包含 247 项任务的基准,基于 41 款可执行的 Godot 游戏,涵盖五类游戏开发任务。在六个模型的评测中,Opus5 表现最佳,但最高分仍低于 60/100,凸显了智能体在需求满足和游戏玩法逻辑方面的不足。
GameASG-Bench:游戏开发中自主软件生成基准测试
GameASG-Bench 是一个用于评估游戏开发中自主软件生成系统的基准测试平台,它通过静态与运行时检查来纳入行为可测试性。
AgSpec:推动检索式推测解码在编码智能体流水线中的性能极限
AgSpec 是一个检索式推测解码框架,通过从会话、工作区和全局语料中检索草稿并动态调整草稿长度,在多智能体编码基准上实现了最高 4.37 倍(batch size 1)和 4.76 倍(batch size 16)的生成吞吐提升,优于五种现有检索式草稿器和 EAGLE-3。