Sat3DGen:基于单张卫星图像的全面街景级3D场景生成

Hugging Face Daily Papers 论文

摘要

Sat3DGen采用几何优先的方法,从单张卫星图像生成街景级3D场景,通过新颖的约束条件和训练策略,提高了几何精度和照片级真实感。该方法在VIGOR-OOD基准测试上相比先前工作有显著改进。

从单张卫星图像生成街景级3D场景是一项关键且具有挑战性的任务。当前方法存在明显的权衡:几何着色模型可实现高几何保真度,但通常仅聚焦于建筑物,缺乏语义多样性。相比之下,基于代理模型的方法采用前馈图像到3D框架,通过联合学习几何和纹理来生成整体场景,这一过程可产生丰富的内容,但几何结构粗糙且不稳定。我们将这些几何失败归因于卫星到街道数据中极端的视角差异以及稀疏、不一致的监督。我们提出Sat3DGen来应对这些根本性挑战,该方法体现了几何优先的方法论。该方法通过整合新颖的几何约束和视角视图训练策略,显式地对抗几何误差的主要来源,从而增强了前馈范式。这种以几何为中心的策略在3D精度和照片级真实感方面均取得了显著提升。为验证效果,我们首先通过将VIGOR-OOD测试集与高分辨率DSM数据配对,构建了一个新基准。在该基准上,我们的方法将几何RMSE从6.76m降至5.20m。关键的是,这种几何上的飞跃也提升了照片级真实感,将FID(弗雷歇初始距离)从sim40降至19(相较于领先方法Sat2Density++),尽管我们没有使用额外的定制图像质量模块。我们通过多样化的下游应用展示了高质量3D资产的通用性,包括语义图到3D合成、多摄像头视频生成、大规模网格化以及无监督单图像数字表面模型(DSM)估计。代码已发布于https://github.com/qianmingduowan/Sat3DGen。
查看原文
查看缓存全文

缓存时间: 2026/05/15 16:26

论文页面 - Sat3DGen:从单张卫星图像生成全面的街道级3D场景

来源:https://huggingface.co/papers/2605.14984

摘要

Sat3DGen 解决了从卫星图像生成街道级3D场景的挑战,采用几何优先的方法,通过新颖的约束和训练策略,提高了几何精度和照片真实感。

从单个卫星图像生成街道级3D场景是一项至关重要但极具挑战性的任务。当前方法存在明显的权衡:几何着色模型实现了高几何保真度,但通常专注于建筑,缺乏语义多样性。相比之下,基于代理的模型使用前馈式图像到3D框架(https://huggingface.co/papers?q=feed-forward%20image-to-3D%20frameworks)通过联合学习几何和纹理来生成整体场景,这一过程产出了丰富的内容,但几何形状粗糙且不稳定。我们将这些几何失败归因于卫星到街道数据中固有的极端视角差异和稀疏、不一致的监督。我们引入 Sat3DGen 来应对这些根本性挑战,它体现了几何优先的方法论(https://huggingface.co/papers?q=geometry-first%20methodology)。该方法通过整合新颖的几何约束(https://huggingface.co/papers?q=geometric%20constraints)和透视视角训练策略(https://huggingface.co/papers?q=perspective-view%20training%20strategy),显式地对抗几何误差的主要来源,从而增强了前馈式范例。这种以几何为中心的策略在3D精度和照片真实感方面带来了显著提升。为了验证,我们首先通过将 VIGOR-OOD(https://huggingface.co/papers?q=VIGOR-OOD)测试集与高分辨率 DSM(https://huggingface.co/papers?q=high-resolution%20DSM)数据配对,构建了一个新的基准。在此基准上,我们的方法将几何RMSE从6.76米降至5.20米。至关重要的是,这一几何跃升也提升了照片真实感,将 Fréchet Inception Distance(https://huggingface.co/papers?q=Fr%C3%A9chet%20Inception%20Distance)(FID)从40降至19(相对于领先方法 Sat2Density++),尽管没有使用额外的定制图像质量模块。我们通过多种下游应用展示高质量3D资产的通用性,包括语义图到3D合成、多相机视频生成、大规模网格化以及无监督单图像数字表面模型(https://huggingface.co/papers?q=Digital%20Surface%20Model)(DSM(https://huggingface.co/papers?q=DSM))估计。代码已在 https://github.com/qianmingduowan/Sat3DGen 发布。

查看 arXiv 页面(https://arxiv.org/abs/2605.14984)查看 PDF(https://arxiv.org/pdf/2605.14984)项目页面(https://qianmingduowan.github.io/Sat3DGen_project_page/)GitHub28(https://github.com/qianmingduowan/Sat3DGen)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.14984)

在你的 agent 中获取本论文:

hf papers read 2605.14984

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型1

qian43/Sat3DGen 图像到3D• 更新于约1小时前 • 44 • 2 (https://huggingface.co/qian43/Sat3DGen)

引用本论文的数据集1

qian43/VIGOR_SAT3DGEN_add_skymask_DSM_satdepth 查看器• 更新于约1小时前 • 89.9k • 51 • 2 (https://huggingface.co/datasets/qian43/VIGOR_SAT3DGEN_add_skymask_DSM_satdepth)

引用本论文的 Spaces1

包含本论文的收藏0

没有包含本论文的收藏

将本论文添加到收藏(https://huggingface.co/new-collection)以从本页面链接。

相似文章

ABot-Earth 0.5:生成式3D地球模型

Hugging Face Daily Papers

ABot-Earth 0.5 是一个生成式3D框架,它利用3D高斯泼溅(3D Gaussian Splatting)从卫星图像合成逼真的3D城市环境,实现实时可视化和低成本的闭环无人机导航。