VGGT-Diff:视觉几何与扩散在稀疏视角新视角合成中的融合
摘要
VGGT-Diff是一种基于几何路由的多视角扩散模型,它将视觉几何潜在变量与预训练扩散模型相结合,以改进稀疏视角新视角合成,达到竞争性或最先进的性能。
查看缓存全文
缓存时间: 2026/09/29 04:09
论文页面 - VGGT-Diff:视觉几何与扩散模型在稀疏视角新视角合成中的结合
来源:https://huggingface.co/papers/2609.33253 作者:
摘要
我们提出了 VGGT-Diff,一种用于稀疏视角新视角合成的几何引导多视角扩散模型。现有新视角合成方法面临一个根本性的权衡:基于重建的方法能保留已观测到的几何信息,但难以合成未见区域;而基于扩散的方法虽然具有强大的生成先验能力,却依赖于隐式的源-查询对应关系。VGGT-Diff 通过将视觉几何潜在表示从 VGGT-Ω 路由到预训练的视频扩散模型中,桥接了这两种技术路线。每个视觉标记都关联一个三维点及其置信度,然后通过一个置信度感知的视觉几何路由器将其转换为查询对齐的潜在条件,该路由器能同时保留前表面和后表面的几何证据。这些条件引导联合目标视角去噪过程,同时,点轨迹残差一致性正则化方法沿可靠的三维轨迹约束预测的去噪残差,提升了多视角稳定性。我们进一步引入了鲁棒的几何条件化策略,结合训练时正则化与推理时引导,以增强模型的鲁棒性。实验表明,在不同视角难度下的插值和外推任务中,本方法取得了具有竞争力或达到最优水平的性能。我们的代码已开源:https://github.com/chenkangjie1123/VGGT-Diff。
查看 arXiv 页面 (https://arxiv.org/abs/2609.33253) 查看 PDF (https://arxiv.org/pdf/2609.33253) 项目主页 (https://chenkangjie1123.github.io/VGGT-Diff/) GitHub (https://github.com/chenkangjie1123/VGGT-Diff) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.33253)
在你的 Agent 中获取此论文:
hf papers read 2609\.33253
还没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型 0
无模型链接此论文
在模型 README.md 中引用 arxiv.org/abs/2609.33253 以将其链接到此页面。
引用此论文的数据集 0
无数据集链接此论文
在数据集 README.md 中引用 arxiv.org/abs/2609.33253 以将其链接到此页面。
引用此论文的 Spaces 0
无 Space 链接此论文
在 Space README.md 中引用 arxiv.org/abs/2609.33253 以将其链接到此页面。
包含此论文的收藏集 1
相似文章
Geometry-Aware Tabular Diffusion
介绍了Geometry-Aware Tabular Diffusion(GATD),该方法通过显式的成对几何特征增强表格扩散去噪器。在十个基准测试上取得了最先进的性能,同时使用的参数显著更少。
GeoVerse:几何潜空间中的全局一致新视角合成
GeoVerse 是一个框架,通过在三维基础模型的几何潜空间中进行生成,并注入视频生成模型的外观先验,来合成全局一致的新视角,展示了相比现有方法在视觉质量和几何一致性上的提升。
PointDiT: 像素空间扩散用于单目几何估计
PointDiT提出了一种极简的像素空间扩散变换器,使用纯ViT架构进行单目几何估计,在超越复杂基于潜空间模型的同时,在模糊区域保持简洁性和鲁棒性。
VidSplat:利用几何引导的视频扩散先验进行高斯泼溅重建
VidSplat 是一种无需训练的生成式重建框架,它利用视频扩散先验,通过合成新视角,从稀疏输入中恢复完整的 3D 场景。
用于鲁棒多视图三维重建的几何感知表示去噪
提出GARD,一种基于扩散的框架,在前馈三维重建器的特征空间中操作,从退化输入中联合恢复场景几何和高质量图像。