行走于隐空间:基于神经场景表示的交互式世界探索

Hugging Face Daily Papers 论文

摘要

NeuWorld 是一个新的交互式视频生成系统,它利用紧凑的神经隐式场景表示以及结合扩散变换器的变换器VAE,实现轨迹条件渲染,达到长时一致性。

用于相机控制的世界探索的交互式视频生成系统会逐步展开不断增长的潜在视频帧序列,将状态转换与高频观测合成纠缠在一起。我们提出“行走于隐空间”这一以场景为中心的范式,将展开变量从帧潜在表示更改为固定长度、可渲染的隐式状态,称为神经隐式场景(NIS)。这将交互式生成分解为紧凑场景状态的随机转换和基于采样状态的确定性姿态条件渲染。我们将该范式实例化为 NeuWorld:一个变换器VAE从稀疏的带姿态帧中学习局部锚定的NIS,而一个扩散变换器在基于未来相机轨迹和几何感知的历史检索条件下演化NIS。通过复用VAE编码器作为统一的条件器,NeuWorld将相机、参考图像和历史线索映射到相同的NIS模态,避免了外部异构编码器。NeuWorld在公开的带姿态视图数据上从零开始训练,无需预训练的视频主干或辅助3D重建器,实现了强大的长时一致性并具有高效的推理性能。
查看原文
查看缓存全文

缓存时间: 2026/06/30 07:35

Paper page - Walking in the Implicit: Interactive World Exploration via Neural Scene Representation

来源:https://huggingface.co/papers/2606.30045

摘要

NeuWorld 通过将场景表示为紧凑的神经隐式状态,并利用 Transformer VAE 与扩散 Transformer 进行轨迹条件渲染,实现了高效的交互式视频生成。

用于相机控制的世界探索的交互式视频生成系统会逐步扩展潜视频帧序列,将状态转换与高频观测合成纠缠在一起。我们提出 Walking in the Implicit,这是一种以场景为中心的范式,将滚动变量从帧潜在变量更改为固定长度、可渲染的隐式状态,称为神经隐式场景(NIS)。这使交互式生成分解为紧凑场景状态的随机转换和给定采样状态下的确定性姿态条件渲染。我们将该范式实例化为 NeuWorld:一个 Transformer VAE 从稀疏的姿态帧中学习局部锚定的 NIS,一个扩散 Transformer 在给定未来相机轨迹和基于几何感知检索的历史信息的条件下演化 NIS。通过重用 VAE 编码器作为统一的条件器,NeuWorld 将相机、参考图像和历史线索映射到同一 NIS 模态,避免了外部异构编码器。NeuWorld 在公开的姿态视图数据上从头训练,无需预训练的视频主干或辅助 3D 重建器,即可实现强大的长程一致性,并具有较高的推理效率。

查看 arXiv 页面 (https://arxiv.org/abs/2606.30045)查看 PDF (https://arxiv.org/pdf/2606.30045)项目页面 (https://lizhiqi49.github.io/NeuWorld)GitHub17 (https://github.com/WU-CVGL/NeuWorld)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.30045)

在你的 Agent 中获取此论文:

hf papers read 2606\.30045

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接到此论文

在模型 README.md 中引用 arxiv.org/abs/2606.30045 以从此页面链接。

引用此论文的数据集0

没有数据集链接到此论文

在数据集 README.md 中引用 arxiv.org/abs/2606.30045 以从此页面链接。

引用此论文的空间0

没有空间链接到此论文

在空间 README.md 中引用 arxiv.org/abs/2606.30045 以从此页面链接。

包含此论文的收藏0

没有收藏包含此论文

将此论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面链接。

相似文章

用于视频世界模型的潜在空间记忆

Hugging Face Daily Papers

本文介绍了用于视频世界模型的潜在空间记忆,将3D场景信息直接存储在扩散潜在空间中,以避免昂贵的像素空间重建。所提出的Mirage框架实现了高达10.57倍的生成加速和55倍的内存缩减,同时在WorldScore和RealEstate10K上取得了最先进的性能。

情境中的世界:基于上下文条件化的交互式视频世界建模

Papers with Code Trending

World-in-Context 提出了一种交互式视频世界建模框架,通过上下文条件化(In-Context Conditioning),将视角、动作和相机控制作为显式 token 统一纳入共享的自注意力空间,并引入 Interaction-Transport RoPE 以保持时间连续性。其 5B 模型在 WBench 上的导航性能与 22B 的 EchoWM 相当,同时实现了 93.8% 的视角切换成功率,而现有 5B 基线模型的成功率仅为 18.8%。

World in World: 用世界模型探索世界

Hugging Face Daily Papers

本文介绍了 World in World,这是一个无需训练的接口,可以通过使用对应引导查询和基于证据的注意力指导,在冻结的自回归视频世界模型中实现灵活的相机和时间控制。

Image2Sim: 通过生成式神经模拟器实现具身导航规模化

Hugging Face Daily Papers

Image2Sim是一个神经模拟框架,它能从RGB-D图像创建高保真交互环境,为具身导航智能体提供可扩展的训练。该框架生成了近20K场景和超过1000万训练样本,在基准测试上展现了显著改进,并实现了有效的真实世界零样本迁移。