PixWorld:在像素空间中统一3D场景生成与重建
摘要
PixWorld提出了一种统一的像素空间扩散方法,用于3D场景重建与生成,通过直接的图像级监督和几何感知特征对齐,克服了潜在空间方法的局限性。该方法优于先前的生成方法,并达到了与最先进的重建方法相当的性能。
查看缓存全文
缓存时间: 2026/07/07 06:42
论文页面 - PixWorld:在像素空间中统一3D场景生成与重建
来源:https://huggingface.co/papers/2607.05373
摘要
PixWorld提出了一种统一的像素空间扩散方法,用于3D重建和生成,通过直接的图像级监督和几何感知特征对齐,克服了潜空间方法的局限性。
3D重建(https://huggingface.co/papers?q=3D%20reconstruction)与生成通常采用不同的范式:基于像素的回归用于重建,潜扩散用于生成。近期研究尝试在潜空间(https://huggingface.co/papers?q=latent%20space)中统一两者,但存在明显缺陷:扩散目标定义在潜特征上而非底层3D表示,且两个分支都因潜编码引入的信息损失而受损,同时还需要预训练变分自编码器(VAE)(https://huggingface.co/papers?q=Variational%20Autoencoder)或表示自编码器(RAE)(https://huggingface.co/papers?q=Representation%20Autoencoder)。本文中,我们将这两项任务重新定义在统一的像素空间扩散范式下,并引入PixWorld——一个同时处理3D重建(https://huggingface.co/papers?q=3D%20reconstruction)与生成的单一模型。通过直接在渲染图像(https://huggingface.co/papers?q=rendered%20images)上监督扩散过程,PixWorld消除了上述限制,并将优化目标与3D场景保真度(https://huggingface.co/papers?q=3D%20scene%20fidelity)对齐。除在2D图像层面运作且缺乏3D几何感知的光度与感知监督外,我们进一步引入了几何感知损失(https://huggingface.co/papers?q=geometry%20perception%20loss),该损失在预训练3D基础模型(https://huggingface.co/papers?q=3D%20foundation%20model)的几何感知特征空间中,将渲染视图与真实视图对齐,从而提供3D结构监督。PixWorld在性能上持续优于先前的潜空间生成方法,并与最先进的重建方法媲美,证明了统一像素空间方法的优越性。
查看arXiv页面(https://arxiv.org/abs/2607.05373)查看PDF(https://arxiv.org/pdf/2607.05373)项目页面(https://sensengao.github.io/PixWorld/)添加至收藏(https://huggingface.co/login?next=%2Fpapers%2F2607.05373)
在你的Agent中获取本篇论文:
hf papers read 2607.05373
没有最新CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本论文的模型0
暂无模型关联本论文
请在模型README.md中引用arxiv.org/abs/2607.05373以从本页面链接至该模型。
引用本论文的数据集0
暂无数据集关联本论文
请在数据集README.md中引用arxiv.org/abs/2607.05373以从本页面链接至该数据集。
引用本论文的Space0
暂无Space关联本论文
请在Space README.md中引用arxiv.org/abs/2607.05373以从本页面链接至该Space。
包含本论文的收藏集0
暂无收藏集包含本论文
请将本论文添加至收藏集(https://huggingface.co/new-collection)以从本页面链接至该收藏集。
相似文章
Pixal3D:基于图像的像素对齐3D生成
Pixal3D提出了一种像素对齐的3D生成方法,通过反向投影条件化建立直接的像素到3D对应关系,从而提高保真度,解决了规范空间生成中的问题。
World Tracing:超越可见的生成式像素对齐几何
World Tracing 引入了一种生成式像素对齐几何表示,它在预测与观测像素对齐的3D点的同时,补全被遮挡的表面。它使用一个经过像素空间流匹配训练的扩散Transformer,在物体、场景和动态基准测试中的可见表面重建和完整几何生成上取得了强劲性能。
TencentARC/Pixal3D
Pixal3D是由TencentARC和微软开发的高保真单图转3D模型,通过反向投影显式地将像素特征提升到3D,实现接近重建级别的几何结构和PBR纹理。该模型已被SIGGRAPH 2026接收,并提供推理代码和演示。
GenRecon:结合生成先验的多视图3D场景重建
GenRecon提出了一种3D场景重建方法,将生成式3D先验与多视图图像条件相结合,实现了室内环境的高保真、可编辑网格重建,性能比现有方法提升16%。
HY-World 2.0:用于重建、生成和模拟三维世界的多模态世界模型
HY-World 2.0 是一个多模态世界模型框架,通过全景生成、轨迹规划和场景组合等专用模块,从文本、图像和视频中生成高保真度的三维高斯泼溅场景,在开源方法中实现了最先进的性能。