InfiniDream:通过程序化生成构建开放式的照片级真实 3D 世界
摘要
InfiniDream 是一个由视觉语言模型驱动的框架,通过符号化约束资产生成与确定性场景放置,实现开放、可编辑、照片级真实的 3D 世界程序化生成,并在物体与场景生成任务上验证了其效果。
查看缓存全文
缓存时间: 2026/10/20 07:35
论文页面 - InfiniDream: 通过程序化生成实现开放式照片级真实感 3D 世界
来源:https://huggingface.co/papers/2610.26853
摘要
InfiniDream 是一个视觉语言模型(VLM)框架,通过符号化的程序化资产创建与确定性场景布局,生成开放式、可编辑、照片级真实感的 3D 世界。
程序化生成(https://huggingface.co/papers?q=Procedural%20generation)在合成数据构建和游戏开发中扮演关键角色,相比静态网格表示提供了更强的可控性、可编辑性和多样性。然而,基于 VLM(https://huggingface.co/papers?q=VLM) 的代码生成往往产生相对简单的 3D 资产,而成熟的照片级真实感程序化系统则需要大量人工开发。现有的 VLM 引导的程序化方法在很大程度上仍受限于预定义的工厂和 API,限制了其创建新型资产类型的能力。我们提出了 InfiniDream,一个由 VLM 驱动的开放式程序化 3D 世界生成框架。首先,我们提出了符号约束资产生成(https://huggingface.co/papers?q=Symbolically%20Constrained%20Asset%20Generation),该方法利用现有的程序化算法创建新颖的照片级真实感资产,同时保持可编辑性和基于随机种子的多样性。其次,我们开发了一个端到端的文本到世界管线(https://huggingface.co/papers?q=text-to-world%20pipeline),将语义场景规划(https://huggingface.co/papers?q=semantic%20scene%20planning) 与确定性视锥引导网格布局(https://huggingface.co/papers?q=Deterministic%20Frustum-Guided%20Grid%20Placement) 相结合,构建具有精确物体定位、程序化填充和动画能力的大规模 3D 世界。在 100 个物体和 20 个场景生成任务上的大量评估表明,该方法在四项感知指标上均有提升。多样性分析、消融实验和人类偏好评估进一步验证了我们框架的有效性。项目主页:https://yichuanh.github.io/infinidream-page/
查看 arXiv 页面 (https://arxiv.org/abs/2610.26853) | 查看 PDF (https://arxiv.org/pdf/2610.26853) | 项目主页 (https://yichuanh.github.io/infinidream-page/) | GitHub3 (https://github.com/yichuanH/InfiniDream) | 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.26853)
在你的 agent 中获取这篇论文:
hf papers read 2610.26853
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本论文的模型 0
暂无关联此论文的模型。
在模型 README.md 中引用 arxiv.org/abs/2610.26853 以从此页面链接到该模型。
引用本论文的数据集 0
暂无关联此论文的数据集。
在数据集 README.md 中引用 arxiv.org/abs/2610.26853 以从此页面链接到该数据集。
引用本论文的 Spaces 0
暂无关联此论文的 Space。
在 Space README.md 中引用 arxiv.org/abs/2610.26853 以从此页面链接到该 Space。
包含本论文的合集 0
暂无包含本论文的合集。
将本论文添加到合集 (https://huggingface.co/new-collection) 以从此页面链接到该合集。
相似文章
任何3D场景都值得1K token:面向大规模场景生成的3D-grounded表示
提出在由2D基础模型导出的高维隐式3D潜在空间中直接进行扩散建模,实现3D-grounded的场景级3D生成,相比2D多视角方法在空间一致性和效率上更具优势,并验证了其在表示与模型容量上的可扩展性。
DreamX-World 1.0: 通用交互式世界模型
DreamX-World 1.0 是一个通用的交互式文本/图像到视频世界模型,支持相机导航、场景持久化和跨多个领域的可提示事件,利用 E-PRoPE、因果强制和记忆条件场景持久化等新技术实现可控的长时程生成。
NVIDIA OmniDreams:用于闭环自动驾驶仿真的实时生成式世界模型
NVIDIA推出OmniDreams,这是一个基于Cosmos扩散模型构建的生成式世界模型,用于实时动作条件视频生成,能够在复杂的未见场景中实现自动驾驶策略评估的闭环仿真。
基于 DAO 和 JING 的生成式世界模拟
提出生成式世界模拟框架,将持久共享世界状态引擎 DAO 与第一人称交互体验模型 JING 耦合,通过连续交互循环生成可随用户动作演化并保留历史的沉浸式视听体验。
OuroWorld:将任意 3D 世界转化为多样且无限循环的 3D 动态摄影
OuroWorld 是一个无掩码框架,可将任意静态 3D Gaussian Splatting 场景转化为 3D 动态摄影(cinemagraph):一个具有生动多样运动、从任意视角均可无缝循环的动态场景。它利用视觉语言模型推断合理的动态并引导视频模型合成参考视频,随后将其提升并补全为多视角视频。为从这种不完美的监督中学习,作者提出了 Inconsistency-Robust Periodic 4DGS:傅里叶级数形变场从结构上保证循环性,而锚定于参考视角的 Grounded Drift Field 则吸收跨视角的不一致性。与局限于流体式运动的既有欧拉方法不同,该方法能够捕捉一般形变、物体运动和光照变化。作者还引入了一套无需真值的评估体系,涵盖生动性、自然度、循环接缝连贯性和场景质量。在 39 个重建与生成场景上,OuroWorld 优于所有基线,并在用户研究对比中以 70.8%-99.0% 的胜率胜出。项目主页:https://ouroworld.userwei.com