@vincieye: 从几张照片生成完整的3D场景通常意味着凭空想象盲点或内存爆炸。SPAR3S s…
摘要
SPAR3S是一种稀疏自回归生成模型,能高效地从稀疏多视角图像生成完整的3D场景,无需3D真值数据,使用体素对齐的潜在空间和可微分的3D Gaussian Splatting。
查看缓存全文
缓存时间: 2026/09/09 11:53
仅凭几张照片生成完整3D场景通常意味着对盲区进行幻觉推断或导致内存爆炸。SPAR3S巧妙规避了这一问题:稀疏自回归建模能高效填充未观测体素,且无需3D真实数据监督 🧩 📄 https://arxiv.org/abs/2609.03931v1…
基于多视图图像的稀疏自回归场景生成建模
来源:https://arxiv.org/abs/2609.03931v1 查看PDF (https://arxiv.org/pdf/2609.03931v1)
摘要:从稀疏无约束视图生成完整3D场景是三维视觉领域的基础性挑战,这需要超越观测内容进行推理,同时保持计算可行性。现有的前馈重建方法本质上局限于输入图像中可见的内容,而3D生成建模则受限于密集体素表征的高昂计算成本以及大规模3D监督数据的稀缺性。我们提出SPAR3S——一种稀疏体素对齐的3D潜在生成模型,用于条件场景补全,无需真实3D数据作为监督。核心思想是在结构化的紧凑体素对齐3D潜在空间中构建3D场景生成框架,该空间仅表征被占据的体素。我们通过可微分3D高斯溅射的光度监督,直接从多视图图像中学习这一稀疏潜在空间。基于从稀疏输入视图编码的部分观测体素集,场景补全任务转化为在体素网格中预测缺失的潜在令牌及其空间分布。为此,我们训练了一个掩码自回归Transformer,联合建模体素占据状态与潜在令牌值,从而实现未观测区域的高效且空间一致的生成。我们在合成室内场景上验证了该方法的有效性,其新视角质量优于现有工作。进一步在RealEstate10k数据集上的泛化能力验证,凸显了其在现实世界数据中的应用价值。
提交历史
作者:Thomas Lucas [查看邮箱 (https://arxiv.org/show-email/33b8a700/2609.03931)] [版本1] 2026年9月3日 星期四 14:41:34 UTC (20,908 KB)
相似文章
@svpino: 这个世界生成模型太不可思议了。我上传了一张图片(左边的那张),它就创建了一个完整的3…
一位用户展示了Hyper3D WorldGen,这是一个AI模型,能从单张图片生成完整、可编辑的3D场景,突出其令人印象深刻的功能。
@zhiwen_fan_: DUSt3R 团队的论文
DUSt3R 团队的一篇论文提出了用于多视图图像 3D 场景生成的稀疏自回归建模方法,使用了体素对齐的 3D 潜空间与占用感知的掩码自回归 Transformer。
Sat3DGen:基于单张卫星图像的全面街景级3D场景生成
Sat3DGen采用几何优先的方法,从单张卫星图像生成街景级3D场景,通过新颖的约束条件和训练策略,提高了几何精度和照片级真实感。该方法在VIGOR-OOD基准测试上相比先前工作有显著改进。
GS-Voxel:无需拟合的大规模3DGS生成结构化潜变量
GS-Voxel引入了一个无需拟合的框架,将3D Gaussian Splatting重建转换为结构化潜变量,通过流模型和分块推理实现大规模空中3D场景的可扩展生成。
VidSplat:利用几何引导的视频扩散先验进行高斯泼溅重建
VidSplat 是一种无需训练的生成式重建框架,它利用视频扩散先验,通过合成新视角,从稀疏输入中恢复完整的 3D 场景。