NAMVIS:基于下一尺度自回归的多视图图像合成
摘要
NAMVIS 提出了一种无扩散框架,将稀疏视角多视图图像合成重新定义为几何条件下的下一尺度自回归任务,通过多尺度投影位姿编码将生成过程锚定到相机几何上。在 Objaverse、GSO 和 OmniObject3D 数据集上,NAMVIS 在 PSNR/SSIM/LPIPS 指标上超越了基于扩散的基线方法,同时运行速度快 3 倍以上。
查看缓存全文
缓存时间: 2026/10/08 12:10
论文页面 - NAMVIS:面向下一尺度的自回归多视角图像合成
来源:https://huggingface.co/papers/2610.04722
摘要
稀疏视角新视角合成是 3D 内容创作中的核心问题,但基于扩散的方法受制于迭代去噪过程,导致多视角生成在推理时开销巨大。我们提出 NAMVIS,一个无需扩散的框架,将多视角图像合成重新表述为以几何为条件的下一尺度自回归过程。NAMVIS 不再通过反复去噪生成目标视角,而是通过少量由粗到精的尺度步骤预测离散视觉 token,并在每个尺度内以及跨目标视角之间并行采样所有 token。为了将这一生成过程锚定在显式的相机几何之上,我们提出了多尺度投影位姿编码(Multi-scale Projective Pose Encoding),在每个分辨率下将源视角与目标视角的相机变换同时注入目标视角的自注意力和源到目标的交叉注意力中。NAMVIS 进一步将全局条件化与密集的几何感知交叉注意力相结合,使模型在保持源视角外观的同时维持目标视角的一致性。在 Objaverse、GSO 和 OmniObject3D 上,NAMVIS 在 PSNR、SSIM 和 LPIPS 指标上均优于基于扩散的基线方法,并且在相同的评估设置下运行速度超过扩散基线的 3 倍。这些结果表明,以几何为条件的下一尺度自回归是一种高效且有潜力的稀疏视角多视角合成方案,可作为扩散方法的替代选择。更多定性结果、视频及资源请访问 https://corl-team.github.io/namvis/
[查看 arXiv 页面 (https://arxiv.org/abs/2610.04722)] [查看 PDF (https://arxiv.org/pdf/2610.04722)] [项目页面 (https://corl-team.github.io/namvis/)] GitHub [添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.04722)]
在你的 agent 中获取本论文:
hf papers read 2610.04722
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本论文的模型 1
smileyenot983/NAMVIS Image-to-Image • 约 2 小时前更新 • 2 (https://huggingface.co/smileyenot983/NAMVIS)
引用本论文的数据集 2
smileyenot983/objaversexl_sketchfab_pmap (https://huggingface.co/datasets/smileyenot983/objaversexl_sketchfab_pmap)
smileyenot983/objaversexl_github6.5_pmap (https://huggingface.co/datasets/smileyenot983/objaversexl_github6.5_pmap)
引用本论文的 Spaces 1
包含本论文的合集 0
暂无包含本论文的合集
[将本论文添加到合集 (https://huggingface.co/new-collection)],即可从此页面链接到该合集。
相似文章
MetaView: 单目新视角合成与尺度感知的隐式几何先验
MetaView 提出了一种基于扩散的单目新视角合成框架,该框架结合了隐式几何先验与度量深度引导,能够在单张图像的大视角变化下实现一致且可控的渲染。
MV-Forcing:通过4D基底的时空自强迫实现长时间多视角视频生成
MV-Forcing 提出了一种扩散框架,结合时间自回归和视角自回归,生成动态场景的长时间多视角一致视频。通过使用4D几何桥梁和时空蒸馏,实现基于少步学生模型的任意长度视频生成。
GeoVerse:几何潜空间中的全局一致新视角合成
GeoVerse 是一个框架,通过在三维基础模型的几何潜空间中进行生成,并注入视频生成模型的外观先验,来合成全局一致的新视角,展示了相比现有方法在视觉质量和几何一致性上的提升。
MoVerse: 实时视频世界建模与全景高斯脚手架
MoVerse 通过创建360°全景图和3D高斯脚手架,从单张图像生成实时交互式视频,利用基于扩散的技术实现高效渲染。
UniWorld-View:基于视频扩散模型的大基线视图合成
提出了UniWorld-View,一个用于从单目输入进行大基线新视图合成的统一框架,将遮挡感知的点云渲染与视频扩散模型相结合,以实现精确的相机控制和几何一致性。