NAMVIS:基于下一尺度自回归的多视图图像合成

Hugging Face Daily Papers 论文

摘要

NAMVIS 提出了一种无扩散框架,将稀疏视角多视图图像合成重新定义为几何条件下的下一尺度自回归任务,通过多尺度投影位姿编码将生成过程锚定到相机几何上。在 Objaverse、GSO 和 OmniObject3D 数据集上,NAMVIS 在 PSNR/SSIM/LPIPS 指标上超越了基于扩散的基线方法,同时运行速度快 3 倍以上。

稀疏视角新视图合成是 3D 内容创作中的核心问题,但基于扩散的方法受限于迭代去噪过程,导致多视图生成在推理时代价高昂。我们提出了 NAMVIS,一种无扩散框架,将多视图图像合成重新构建为几何条件下的下一尺度自回归任务。NAMVIS 不再通过反复去噪生成目标视图,而是通过少量由粗到细的尺度步骤预测离散视觉 token,并在每个尺度内以及跨目标视图之间并行采样所有 token。为了将该生成过程锚定到显式相机几何上,我们提出了多尺度投影位姿编码(Multi-scale Projective Pose Encoding),在每个分辨率层级上将源视角和目标视角的相机变换同时注入目标视图自注意力和源到目标交叉注意力中。NAMVIS 进一步将全局条件化与密集的几何感知交叉注意力相结合,使模型在保持目标视图一致性的同时保留源视图的外观。在 Objaverse、GSO 和 OmniObject3D 上,NAMVIS 在 PSNR、SSIM 和 LPIPS 指标上均优于基于扩散的基线方法,且在相同评估设置下运行速度快于所评测扩散基线 3 倍以上。这些结果表明,几何条件下的下一尺度自回归是稀疏视角多视图合成中一种高效且有前景的扩散替代方案。更多定性结果、视频和资源请访问 https://corl-team.github.io/namvis/
查看原文
查看缓存全文

缓存时间: 2026/10/08 12:10

论文页面 - NAMVIS:面向下一尺度的自回归多视角图像合成

来源:https://huggingface.co/papers/2610.04722

摘要

稀疏视角新视角合成是 3D 内容创作中的核心问题,但基于扩散的方法受制于迭代去噪过程,导致多视角生成在推理时开销巨大。我们提出 NAMVIS,一个无需扩散的框架,将多视角图像合成重新表述为以几何为条件的下一尺度自回归过程。NAMVIS 不再通过反复去噪生成目标视角,而是通过少量由粗到精的尺度步骤预测离散视觉 token,并在每个尺度内以及跨目标视角之间并行采样所有 token。为了将这一生成过程锚定在显式的相机几何之上,我们提出了多尺度投影位姿编码(Multi-scale Projective Pose Encoding),在每个分辨率下将源视角与目标视角的相机变换同时注入目标视角的自注意力和源到目标的交叉注意力中。NAMVIS 进一步将全局条件化与密集的几何感知交叉注意力相结合,使模型在保持源视角外观的同时维持目标视角的一致性。在 Objaverse、GSO 和 OmniObject3D 上,NAMVIS 在 PSNR、SSIM 和 LPIPS 指标上均优于基于扩散的基线方法,并且在相同的评估设置下运行速度超过扩散基线的 3 倍。这些结果表明,以几何为条件的下一尺度自回归是一种高效且有潜力的稀疏视角多视角合成方案,可作为扩散方法的替代选择。更多定性结果、视频及资源请访问 https://corl-team.github.io/namvis/

[查看 arXiv 页面 (https://arxiv.org/abs/2610.04722)] [查看 PDF (https://arxiv.org/pdf/2610.04722)] [项目页面 (https://corl-team.github.io/namvis/)] GitHub [添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.04722)]

在你的 agent 中获取本论文:

hf papers read 2610.04722

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型 1

smileyenot983/NAMVIS Image-to-Image • 约 2 小时前更新 • 2 (https://huggingface.co/smileyenot983/NAMVIS)

引用本论文的数据集 2

smileyenot983/objaversexl_sketchfab_pmap (https://huggingface.co/datasets/smileyenot983/objaversexl_sketchfab_pmap)

smileyenot983/objaversexl_github6.5_pmap (https://huggingface.co/datasets/smileyenot983/objaversexl_github6.5_pmap)

引用本论文的 Spaces 1

包含本论文的合集 0

暂无包含本论文的合集

[将本论文添加到合集 (https://huggingface.co/new-collection)],即可从此页面链接到该合集。

相似文章

GeoVerse:几何潜空间中的全局一致新视角合成

Hugging Face Daily Papers

GeoVerse 是一个框架,通过在三维基础模型的几何潜空间中进行生成,并注入视频生成模型的外观先验,来合成全局一致的新视角,展示了相比现有方法在视觉质量和几何一致性上的提升。