PixWorld:在像素空间中统一3D场景生成与重建

Hugging Face Daily Papers 论文

摘要

PixWorld提出了一种统一的像素空间扩散方法,用于3D场景重建与生成,通过直接的图像级监督和几何感知特征对齐,克服了潜在空间方法的局限性。该方法优于先前的生成方法,并达到了与最先进的重建方法相当的性能。

3D重建和生成通常由不同的范式处理:基于像素的回归用于重建,以及潜在扩散用于生成。最近的工作尝试在潜在空间中统一它们,但存在显著缺点:扩散目标定义在潜在特征上而非底层3D表示,且两个分支都因潜在编码引入的信息损失而受影响,同时需要预训练变分自编码器(VAE)或表示自编码器(RAE)。在本文中,我们将这两个任务重新表述为统一的像素空间扩散范式,并引入PixWorld——一个同时处理3D重建和生成的单一模型。通过直接在渲染图像上监督扩散,PixWorld消除了上述限制,并使优化与3D场景保真度对齐。除了在2D图像层面操作且缺乏3D几何意识的摄影测量和感知监督外,我们进一步引入了几何感知损失,将渲染视图与它们在预训练3D基础模型的几何感知特征空间中的真实值对齐,提供3D结构监督。PixWorld持续优于先前的潜在空间生成方法,并与最先进的重建方法性能相当,展示了统一像素空间方法的优越性。
查看原文
查看缓存全文

缓存时间: 2026/07/07 06:42

论文页面 - PixWorld:在像素空间中统一3D场景生成与重建

来源:https://huggingface.co/papers/2607.05373

摘要

PixWorld提出了一种统一的像素空间扩散方法,用于3D重建和生成,通过直接的图像级监督和几何感知特征对齐,克服了潜空间方法的局限性。

3D重建(https://huggingface.co/papers?q=3D%20reconstruction)与生成通常采用不同的范式:基于像素的回归用于重建,潜扩散用于生成。近期研究尝试在潜空间(https://huggingface.co/papers?q=latent%20space)中统一两者,但存在明显缺陷:扩散目标定义在潜特征上而非底层3D表示,且两个分支都因潜编码引入的信息损失而受损,同时还需要预训练变分自编码器(VAE)(https://huggingface.co/papers?q=Variational%20Autoencoder)或表示自编码器(RAE)(https://huggingface.co/papers?q=Representation%20Autoencoder)。本文中,我们将这两项任务重新定义在统一的像素空间扩散范式下,并引入PixWorld——一个同时处理3D重建(https://huggingface.co/papers?q=3D%20reconstruction)与生成的单一模型。通过直接在渲染图像(https://huggingface.co/papers?q=rendered%20images)上监督扩散过程,PixWorld消除了上述限制,并将优化目标与3D场景保真度(https://huggingface.co/papers?q=3D%20scene%20fidelity)对齐。除在2D图像层面运作且缺乏3D几何感知的光度与感知监督外,我们进一步引入了几何感知损失(https://huggingface.co/papers?q=geometry%20perception%20loss),该损失在预训练3D基础模型(https://huggingface.co/papers?q=3D%20foundation%20model)的几何感知特征空间中,将渲染视图与真实视图对齐,从而提供3D结构监督。PixWorld在性能上持续优于先前的潜空间生成方法,并与最先进的重建方法媲美,证明了统一像素空间方法的优越性。

查看arXiv页面(https://arxiv.org/abs/2607.05373)查看PDF(https://arxiv.org/pdf/2607.05373)项目页面(https://sensengao.github.io/PixWorld/)添加至收藏(https://huggingface.co/login?next=%2Fpapers%2F2607.05373)

在你的Agent中获取本篇论文:

hf papers read 2607.05373

没有最新CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型0

暂无模型关联本论文

请在模型README.md中引用arxiv.org/abs/2607.05373以从本页面链接至该模型。

引用本论文的数据集0

暂无数据集关联本论文

请在数据集README.md中引用arxiv.org/abs/2607.05373以从本页面链接至该数据集。

引用本论文的Space0

暂无Space关联本论文

请在Space README.md中引用arxiv.org/abs/2607.05373以从本页面链接至该Space。

包含本论文的收藏集0

暂无收藏集包含本论文

请将本论文添加至收藏集(https://huggingface.co/new-collection)以从本页面链接至该收藏集。

相似文章

Pixal3D:基于图像的像素对齐3D生成

Hugging Face Daily Papers

Pixal3D提出了一种像素对齐的3D生成方法,通过反向投影条件化建立直接的像素到3D对应关系,从而提高保真度,解决了规范空间生成中的问题。

World Tracing:超越可见的生成式像素对齐几何

Hugging Face Daily Papers

World Tracing 引入了一种生成式像素对齐几何表示,它在预测与观测像素对齐的3D点的同时,补全被遮挡的表面。它使用一个经过像素空间流匹配训练的扩散Transformer,在物体、场景和动态基准测试中的可见表面重建和完整几何生成上取得了强劲性能。

TencentARC/Pixal3D

Hugging Face Models Trending

Pixal3D是由TencentARC和微软开发的高保真单图转3D模型,通过反向投影显式地将像素特征提升到3D,实现接近重建级别的几何结构和PBR纹理。该模型已被SIGGRAPH 2026接收,并提供推理代码和演示。

GenRecon:结合生成先验的多视图3D场景重建

Hugging Face Daily Papers

GenRecon提出了一种3D场景重建方法,将生成式3D先验与多视图图像条件相结合,实现了室内环境的高保真、可编辑网格重建,性能比现有方法提升16%。