A2Z GameSpec-Bench:编码代理能多忠实地根据游戏设计文档生成游戏?

Hugging Face Daily Papers 论文

摘要

论文提出 A2Z GameSpec-Bench,一个包含 100 份长篇游戏设计文档(GDD)的基准,用于评估编码代理在端到端游戏开发中遵循互锁需求的能力。结果显示现有代理在同时满足代码实现与实际游玩的联动需求上表现不佳,而需求级反馈可在两轮修订后将 GDD 忠实度提升 10.9%。

将完整的应用开发工作委托给编码代理,需要忠实保留预期的设计,而不能仅靠朴素的提示来生成看似合理的输出。游戏开发提供了一个极具挑战性的测试场景,因为长篇游戏设计文档(GDD)中描述的需求必须在游戏逻辑、视觉渲染和玩家交互之间协同运作。然而,现有的游戏开发基准通常采用简洁的规格说明,在评估长篇 GDD 中跨这些方面的相互依赖需求方面支持有限。我们提出 A2Z GameSpec-Bench,一个包含 100 份长篇 GDD 的基准,用于评估代理的端到端游戏开发能力。我们通过检验游戏是否满足 GDD 中的需求以及是否保留这些需求之间的关系来衡量忠实度。每份 GDD 被转化为一个依赖感知的契约,其中包含规则、约束和前置关系。参照游戏开发的实践,我们将源代码检查与代理生成的测试策略相结合,实现基于场景的回放和自适应游戏测试。该契约在不同代理和修订轮次中保持固定,而与同一需求相关联的判断和证据则支持一致的比较和故障检测。我们的评估表明,当前代理难以在代码实现和实际游玩之间同时满足相互依赖的需求。与自我修订相比,需求级反馈在两轮修订后可将 GDD 忠实度提升 10.9%。A2Z GameSpec-Bench 评估的是超越实现判断的端到端规格遵循能力,并提供有针对性的反馈,以支持更忠实的游戏开发。代码和数据集可在 https://a2z-gamespec-bench.github.io 获取。
查看原文
查看缓存全文

缓存时间: 2026/10/01 04:21

论文页面 - A2Z GameSpec-Bench:编码智能体能多忠实地根据游戏设计文档生成游戏?

来源:https://huggingface.co/papers/2609.39564

摘要

将完整的应用开发委托给编码智能体,需要忠实保留原本的设计意图,而不是通过朴素提示(prompting)只生成看似合理的输出。游戏开发提供了一个极具挑战性的试验场:长篇游戏设计文档(Game Design Documents,GDDs)所描述的需求,必须在游戏逻辑、视觉渲染和玩家交互等多个层面协同工作。然而,现有的游戏开发基准(benchmark)通常只使用精简的规格说明,对于评估长篇 GDD 中各维度之间相互关联的需求支持有限。我们提出了 A2Z GameSpec-Bench,这是一个包含 100 份长篇 GDD 的基准,用于评估智能体的端到端游戏开发能力。我们通过检查游戏是否满足 GDD 中的需求、以及是否保留了需求之间的关联来衡量其忠实度。每份 GDD 都会被转化为一个“依赖感知契约“(dependency-aware contract),其中包含规则、约束以及前置依赖关系。遵循游戏开发实践,我们将源代码检查与智能体生成的测试策略相结合,用于基于场景的回放(scenario-based replay)和自适应试玩测试(adaptive playtesting)。该契约在所有智能体和迭代修订轮次中保持不变,而与相同需求相关联的判定和证据则支持一致的比较和失败检测。我们的评估结果表明,当前智能体难以在代码实现与实际试玩两个层面同时满足相互依赖的需求。在两轮迭代后,基于需求的反馈(requirement-specific feedback)可使 GDD 忠实度相对自我修订提升 10.9%。A2Z GameSpec-Bench 在实现层面的判定之外,评估了端到端的规格遵循能力,并提供了针对性的反馈,以支持更忠实的游戏开发。代码和数据集见:https://a2z-gamespec-bench.github.io

查看 arXiv 页面 (https://arxiv.org/abs/2609.39564) 查看 PDF (https://arxiv.org/pdf/2609.39564) 项目页面 (https://a2z-gamespec-bench.github.io/) GitHub2 (https://github.com/krafton-ai/a2z-gamespec-bench) 添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2609.39564)

引用本文的模型 0

暂无与本文关联的模型

在模型的 README.md 中引用 arxiv.org/abs/2609.39564,即可从本页面链接到该模型。

引用本文的数据集 0

暂无与本文关联的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2609.39564,即可从本页面链接到该数据集。

引用本文的 Spaces 0

暂无与本文关联的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2609.39564,即可从本页面链接到该 Space。

包含本文的合集 0

暂无包含本文的合集

将本文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接到该合集。

相似文章

SWE-Game:编码智能体能否构建我们想要的游戏?

Hugging Face Daily Papers

我们提出 SWE-Game,一个包含 247 项任务的基准,基于 41 款可执行的 Godot 游戏,涵盖五类游戏开发任务。在六个模型的评测中,Opus5 表现最佳,但最高分仍低于 60/100,凸显了智能体在需求满足和游戏玩法逻辑方面的不足。

AgSpec:推动检索式推测解码在编码智能体流水线中的性能极限

Hugging Face Daily Papers

AgSpec 是一个检索式推测解码框架,通过从会话、工作区和全局语料中检索草稿并动态调整草稿长度,在多智能体编码基准上实现了最高 4.37 倍(batch size 1)和 4.76 倍(batch size 16)的生成吞吐提升,优于五种现有检索式草稿器和 EAGLE-3。