游戏中的规模化：面向多样化虚拟世界中具身智能体的持续预训练

Hugging Face Daily Papers 论文
embodied-agents scaling-law continued-pre-training virtual-worlds multi-world-generalization imitation-learning

摘要

该论文在多样化虚拟世界中系统研究了延续预训练（CPT）的扩展规律，横跨数据量、多样性和模型规模三个轴共120组训练配置，发现数据提升世界内表现、多样性改善相关世界迁移但对远距离世界收益有限，并拟合出经验扩展定律，指出仅靠模仿式延续预训练难以构建通用具身智能体，还需更丰富的训练阶段。

扩大数据规模、增加数据多样性和提升模型容量，已推动物理环境中的具身学习取得进展；在这些环境中，多样化的体验始终以共同的物理定律为基础。这些收益能否延伸至视觉风格、动态机制、控制方式和目标各不相同的虚拟世界，目前仍不明确。我们通过一项受控研究来探讨这一问题，沿数据量、多样性和模型规模三个维度考察持续预训练（CPT）。我们的120种训练配置涵盖四种模型规模，参数量从8亿到270亿不等；六档数据预算，从50小时到1,600小时不等；以及五种数据混合方案，从仅包含Minecraft数据到包含多个不同世界的多样化语料库。我们采用三个层级的验证损失，以及涵盖语料库内世界到未见世界的游戏基准，评估模型的性能和泛化能力。结果表明：（1）更多数据可提升模型在语料库内世界中的表现，多样性可改善向相关世界的迁移，但对差异较大世界的收益有限；更大的模型可提高数据效率，但在仅使用单一世界训练时，对差异较大世界的泛化表现更差；（2）我们观察到，早期的界面阶段具有广泛的跨世界收益，而后期的世界阶段则将收益收窄至语料库内世界和相关世界，并拟合了一条描述验证损失与数据量、多样性及模型规模之间关系的经验缩放定律；（3）我们的模型在3D世界中可与Minecraft专用模型及前沿模型相媲美，且在实时场景中表现最佳。然而，模仿学习的局限性，以及在差异较大世界中持续存在的差距表明，构建通用具身智能体需要在持续预训练之外引入更丰富的训练阶段。
查看原文
查看缓存全文

缓存时间: 2026/10/22 15:40

论文页面 - 游戏中的规模扩展：面向多样化虚拟世界中具身智能体的持续预训练

来源：https://huggingface.co/papers/2610.28698 作者：

,

,

,

,

,

,

,

,

,

摘要

在数据规模、多样性和模型规模三个维度上进行持续预训练，能够改善虚拟世界中的具身学习，但也揭示了在差异较大的世界中泛化的局限性，因此需要超越模仿学习的更丰富训练方式.

扩大数据规模、增加多样性和提升模型容量 (https://huggingface.co/papers?q=model%20capacity) 已经改善了物理环境中的具身学习，其中多样化的经验仍建立在共同的物理定律之上. 这些收益能否扩展到视觉风格、动力学、控制方式和目标各不相同的虚拟世界，仍不明确. 我们通过一项受控研究来探讨这一问题，研究沿数据量、多样性和模型规模三个维度开展持续预训练 (https://huggingface.co/papers?q=continued%20pre-training)(CPT). 我们的 120 种训练配置涵盖四种模型规模，从 0.8B 到 27B；六种数据预算，从 50 到 1,600 小时；以及五种数据混合方案，从仅含 Minecraft 的数据到多样化的多世界语料库 (https://huggingface.co/papers?q=multi-world%20corpora). 我们使用三个层级的验证损失 (https://huggingface.co/papers?q=validation%20loss) 和游戏游玩基准，评估模型从语料库内世界到未见世界的性能与泛化能力. 结果表明：(1) 更多数据能提升语料库内的表现，多样性能改善向相关世界的迁移，但对差异较大的世界提升有限；增大模型规模能提高数据效率，但在单一世界训练下，对差异较大的世界的泛化反而更差；(2) 我们观察到，早期的界面阶段带来了广泛的跨世界收益，而后期的世界阶段则将收益收窄至语料库内世界和相关世界，并拟合出一条经验缩放定律 (https://huggingface.co/papers?q=scaling%20law)，将验证损失 (https://huggingface.co/papers?q=validation%20loss) 与数据量、多样性和模型规模联系起来；(3) 在 3D 世界中，我们的模型可与 Minecraft 专用模型和前沿模型相媲美，并且在实时场景中表现最佳. 然而，模仿学习的局限性以及在差异较大的世界中持续存在的差距表明，构建通用具身智能体 (https://huggingface.co/papers?q=embodied%20agents) 需要在持续预训练 (https://huggingface.co/papers?q=continued%20pre-training) 之外引入更丰富的训练阶段.

查看 arXiv 页面 (https://arxiv.org/abs/2610.28698)查看 PDF (https://arxiv.org/pdf/2610.28698)项目页面 (https://gamescaling.github.io/)GitHub181 (https://github.com/THUSI-Lab/GameScaling)添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.28698)

在你的智能体中获取这篇论文：

hf papers read 2610\.28698

还没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型9

THUSI-Lab/GameScaling 图像文本转文本• 约 4 小时前更新 • 35 • 22 (https://huggingface.co/THUSI-Lab/GameScaling)

THUSI-Lab/GameScaling-27B-S3 图像文本转文本• 27B• 约 2 小时前更新 • 53 • 1 (https://huggingface.co/THUSI-Lab/GameScaling-27B-S3)

THUSI-Lab/GameScaling-0.8B-S1 图像文本转文本• 1B• 约 2 小时前更新 • 49 (https://huggingface.co/THUSI-Lab/GameScaling-0.8B-S1)

THUSI-Lab/GameScaling-2B-S3 图像文本转文本• 3B• 约 2 小时前更新 • 57 (https://huggingface.co/THUSI-Lab/GameScaling-2B-S3)

浏览引用这篇论文的 9 个模型 (https://huggingface.co/models?other=arxiv:2610.28698)## 引用这篇论文的数据集0

没有关联这篇论文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2610.28698，即可从此页面链接到该数据集.

引用这篇论文的 Spaces1

收录这篇论文的收藏集1

相似文章

EmbodiedCLBench：评估自我进化具身智能体的持续学习能力

arXiv cs.AI

本文提出EmbodiedCLBench，首个用于评估自进化智能体持续学习能力的具身仿真基准，采用组合泛化为核心评估原则。实验结果显示当前智能体虽能从基础任务经验中获益，但改进程度无法随学习样本数量有效扩展。

EmbodiedCLBench：评估自我进化具身智能体的持续学习能力

Hugging Face Daily Papers

EmbodiedCLBench 引入了首个用于评估具身模拟中持续学习能力的基准测试，检验智能体能否重组基本技能来解决未见过的高级任务。实验表明，虽然先验经验能稳定提升性能，但当前智能体无法通过增加训练样本实现性能的相应扩展。

不止于看见：视觉作为原生多模态预训练中可扩展的锚点

arXiv cs.CL

该论文通过受控消融实验研究原生多模态预训练中视觉信号对扩展行为的影响，发现视觉内容作为可扩展锚点不仅能提升多模态理解，其收益还能延伸到纯文本空间推理任务（如定位、导航和符号规划），同时不损害整体语言性能。