InfiniDream:通过程序化生成构建开放式的照片级真实 3D 世界

Hugging Face Daily Papers 论文

摘要

InfiniDream 是一个由视觉语言模型驱动的框架,通过符号化约束资产生成与确定性场景放置,实现开放、可编辑、照片级真实的 3D 世界程序化生成,并在物体与场景生成任务上验证了其效果。

程序化生成在合成数据创建和游戏开发中发挥着关键作用,与静态网格表示相比,它提供了更强的可控性、可编辑性和多样性。然而,基于视觉语言模型(VLM)的代码生成往往产生相对简单的 3D 资产,而复杂的照片级真实程序化系统则需要大量手动开发。现有的 VLM 引导的程序化方法在很大程度上仍受限于预定义的工厂和 API,限制了其创建新型资产类型的能力。我们提出 InfiniDream,这是一个由视觉语言模型驱动的开放式程序化 3D 世界生成框架。首先,我们提出了符号化约束资产生成(Symbolically Constrained Asset Generation),利用现有程序化算法创建新颖的照片级真实资产,同时保持可编辑性和基于随机种子的多样性。其次,我们开发了端到端的文本到世界管线,将语义场景规划与确定性视锥引导网格放置(Deterministic Frustum-Guided Grid Placement)相结合,构建具有精确物体放置、程序化填充和动画的大规模 3D 世界。在 100 个物体生成任务和 20 个场景生成任务上的大量评估表明,四项感知指标均有提升。多样性分析、消融实验和人类偏好评估进一步验证了我们框架的有效性。项目主页:https://yichuanh.github.io/infinidream-page/
查看原文
查看缓存全文

缓存时间: 2026/10/20 07:35

论文页面 - InfiniDream: 通过程序化生成实现开放式照片级真实感 3D 世界

来源:https://huggingface.co/papers/2610.26853

摘要

InfiniDream 是一个视觉语言模型(VLM)框架,通过符号化的程序化资产创建与确定性场景布局,生成开放式、可编辑、照片级真实感的 3D 世界。

程序化生成(https://huggingface.co/papers?q=Procedural%20generation)在合成数据构建和游戏开发中扮演关键角色,相比静态网格表示提供了更强的可控性、可编辑性和多样性。然而,基于 VLM(https://huggingface.co/papers?q=VLM) 的代码生成往往产生相对简单的 3D 资产,而成熟的照片级真实感程序化系统则需要大量人工开发。现有的 VLM 引导的程序化方法在很大程度上仍受限于预定义的工厂和 API,限制了其创建新型资产类型的能力。我们提出了 InfiniDream,一个由 VLM 驱动的开放式程序化 3D 世界生成框架。首先,我们提出了符号约束资产生成(https://huggingface.co/papers?q=Symbolically%20Constrained%20Asset%20Generation),该方法利用现有的程序化算法创建新颖的照片级真实感资产,同时保持可编辑性和基于随机种子的多样性。其次,我们开发了一个端到端的文本到世界管线(https://huggingface.co/papers?q=text-to-world%20pipeline),将语义场景规划(https://huggingface.co/papers?q=semantic%20scene%20planning) 与确定性视锥引导网格布局(https://huggingface.co/papers?q=Deterministic%20Frustum-Guided%20Grid%20Placement) 相结合,构建具有精确物体定位、程序化填充和动画能力的大规模 3D 世界。在 100 个物体和 20 个场景生成任务上的大量评估表明,该方法在四项感知指标上均有提升。多样性分析、消融实验和人类偏好评估进一步验证了我们框架的有效性。项目主页:https://yichuanh.github.io/infinidream-page/

查看 arXiv 页面 (https://arxiv.org/abs/2610.26853) | 查看 PDF (https://arxiv.org/pdf/2610.26853) | 项目主页 (https://yichuanh.github.io/infinidream-page/) | GitHub3 (https://github.com/yichuanH/InfiniDream) | 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.26853)

在你的 agent 中获取这篇论文:

hf papers read 2610.26853

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型 0

暂无关联此论文的模型。

在模型 README.md 中引用 arxiv.org/abs/2610.26853 以从此页面链接到该模型。

引用本论文的数据集 0

暂无关联此论文的数据集。

在数据集 README.md 中引用 arxiv.org/abs/2610.26853 以从此页面链接到该数据集。

引用本论文的 Spaces 0

暂无关联此论文的 Space。

在 Space README.md 中引用 arxiv.org/abs/2610.26853 以从此页面链接到该 Space。

包含本论文的合集 0

暂无包含本论文的合集。

将本论文添加到合集 (https://huggingface.co/new-collection) 以从此页面链接到该合集。

相似文章

DreamX-World 1.0: 通用交互式世界模型

Hugging Face Daily Papers

DreamX-World 1.0 是一个通用的交互式文本/图像到视频世界模型,支持相机导航、场景持久化和跨多个领域的可提示事件,利用 E-PRoPE、因果强制和记忆条件场景持久化等新技术实现可控的长时程生成。

基于 DAO 和 JING 的生成式世界模拟

Hugging Face Daily Papers

提出生成式世界模拟框架,将持久共享世界状态引擎 DAO 与第一人称交互体验模型 JING 耦合,通过连续交互循环生成可随用户动作演化并保留历史的沉浸式视听体验。

OuroWorld:将任意 3D 世界转化为多样且无限循环的 3D 动态摄影

Hugging Face Daily Papers

OuroWorld 是一个无掩码框架,可将任意静态 3D Gaussian Splatting 场景转化为 3D 动态摄影(cinemagraph):一个具有生动多样运动、从任意视角均可无缝循环的动态场景。它利用视觉语言模型推断合理的动态并引导视频模型合成参考视频,随后将其提升并补全为多视角视频。为从这种不完美的监督中学习,作者提出了 Inconsistency-Robust Periodic 4DGS:傅里叶级数形变场从结构上保证循环性,而锚定于参考视角的 Grounded Drift Field 则吸收跨视角的不一致性。与局限于流体式运动的既有欧拉方法不同,该方法能够捕捉一般形变、物体运动和光照变化。作者还引入了一套无需真值的评估体系,涵盖生动性、自然度、循环接缝连贯性和场景质量。在 39 个重建与生成场景上,OuroWorld 优于所有基线,并在用户研究对比中以 70.8%-99.0% 的胜率胜出。项目主页:https://ouroworld.userwei.com