行走于隐空间:基于神经场景表示的交互式世界探索
摘要
NeuWorld 是一个新的交互式视频生成系统,它利用紧凑的神经隐式场景表示以及结合扩散变换器的变换器VAE,实现轨迹条件渲染,达到长时一致性。
查看缓存全文
缓存时间: 2026/06/30 07:35
Paper page - Walking in the Implicit: Interactive World Exploration via Neural Scene Representation
来源:https://huggingface.co/papers/2606.30045
摘要
NeuWorld 通过将场景表示为紧凑的神经隐式状态,并利用 Transformer VAE 与扩散 Transformer 进行轨迹条件渲染,实现了高效的交互式视频生成。
用于相机控制的世界探索的交互式视频生成系统会逐步扩展潜视频帧序列,将状态转换与高频观测合成纠缠在一起。我们提出 Walking in the Implicit,这是一种以场景为中心的范式,将滚动变量从帧潜在变量更改为固定长度、可渲染的隐式状态,称为神经隐式场景(NIS)。这使交互式生成分解为紧凑场景状态的随机转换和给定采样状态下的确定性姿态条件渲染。我们将该范式实例化为 NeuWorld:一个 Transformer VAE 从稀疏的姿态帧中学习局部锚定的 NIS,一个扩散 Transformer 在给定未来相机轨迹和基于几何感知检索的历史信息的条件下演化 NIS。通过重用 VAE 编码器作为统一的条件器,NeuWorld 将相机、参考图像和历史线索映射到同一 NIS 模态,避免了外部异构编码器。NeuWorld 在公开的姿态视图数据上从头训练,无需预训练的视频主干或辅助 3D 重建器,即可实现强大的长程一致性,并具有较高的推理效率。
查看 arXiv 页面 (https://arxiv.org/abs/2606.30045)查看 PDF (https://arxiv.org/pdf/2606.30045)项目页面 (https://lizhiqi49.github.io/NeuWorld)GitHub17 (https://github.com/WU-CVGL/NeuWorld)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.30045)
在你的 Agent 中获取此论文:
hf papers read 2606\.30045
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型链接到此论文
在模型 README.md 中引用 arxiv.org/abs/2606.30045 以从此页面链接。
引用此论文的数据集0
没有数据集链接到此论文
在数据集 README.md 中引用 arxiv.org/abs/2606.30045 以从此页面链接。
引用此论文的空间0
没有空间链接到此论文
在空间 README.md 中引用 arxiv.org/abs/2606.30045 以从此页面链接。
包含此论文的收藏0
没有收藏包含此论文
将此论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
WorldCrafter: 一致的视频世界模型与隐式3D感知记忆
WorldCrafter是一个视频世界模型,它学习一个可相机查询的隐式3D感知记忆,用于从单张图像或文本提示进行一致且相机可控的流式场景探索。
用于视频世界模型的潜在空间记忆
本文介绍了用于视频世界模型的潜在空间记忆,将3D场景信息直接存储在扩散潜在空间中,以避免昂贵的像素空间重建。所提出的Mirage框架实现了高达10.57倍的生成加速和55倍的内存缩减,同时在WorldScore和RealEstate10K上取得了最先进的性能。
情境中的世界:基于上下文条件化的交互式视频世界建模
World-in-Context 提出了一种交互式视频世界建模框架,通过上下文条件化(In-Context Conditioning),将视角、动作和相机控制作为显式 token 统一纳入共享的自注意力空间,并引入 Interaction-Transport RoPE 以保持时间连续性。其 5B 模型在 WBench 上的导航性能与 22B 的 EchoWM 相当,同时实现了 93.8% 的视角切换成功率,而现有 5B 基线模型的成功率仅为 18.8%。
World in World: 用世界模型探索世界
本文介绍了 World in World,这是一个无需训练的接口,可以通过使用对应引导查询和基于证据的注意力指导,在冻结的自回归视频世界模型中实现灵活的相机和时间控制。
Image2Sim: 通过生成式神经模拟器实现具身导航规模化
Image2Sim是一个神经模拟框架,它能从RGB-D图像创建高保真交互环境,为具身导航智能体提供可扩展的训练。该框架生成了近20K场景和超过1000万训练样本,在基准测试上展现了显著改进,并实现了有效的真实世界零样本迁移。