Luce:用于3D资产生成的可重光照高斯模型

Hugging Face Daily Papers 论文

摘要

Luce在体素化的高斯云中统一几何和PBR材质,从单图像生成可重光照的3D资产,并在如Toys4K等基准测试中取得最先进的结果。

高保真图像到3D生成需要一种能够同时捕获几何和外观的3D表示。为了支持重光照并集成到标准渲染管线中,该表示应包含基于物理的渲染(PBR)模态,如反照率、金属-粗糙度和表面法线。我们提出Luce,这是一种在体素化的多模态高斯云中统一几何和PBR材质的3D表示,使用专用的高斯原语为每个模态。变分自编码器将此表示压缩到一个统一的材质感知潜在空间。整流流变换器从单图像生成此潜在空间,条件是来自预训练图像编码器的多层特征,这些特征保留了语义上下文和精细空间细节。然后,潜在空间解码为可重光照的PBR高斯模型和一个可选的带有切线空间法线贴图的纹理网格。在Toys4K上,Luce实现了最先进的单图像到3D生成,将FID比最强基线提高了28%。我们进一步引入了一个AI生成图像的基准测试,其中Luce将CLIP图像对齐分数比最佳基线提高了(0.8519 vs. 0.8299)。Luce生成可重光照、几何准确且材质忠实的资产,保留如文本、徽标和铭文等精细细节。
查看原文
查看缓存全文

缓存时间: 2026/08/29 03:30

论文页面 - Luce:用于3D资产生成的可重光照高斯模型

来源:https://huggingface.co/papers/2608.23943

摘要

Luce 将几何结构与PBR材质统一表示在体素化的高斯云中,通过变分自编码器与整流流变换器,从单张图像生成可重新光照的3D资产。

高保真的图像到3D生成需要同时捕捉几何与外观的3D表示。为支持重新光照并集成到标准渲染管线中,该表示应包含基于物理的渲染(PBR)模态,如反照率、金属度-粗糙度和表面法线。我们提出Luce——一种将几何与PBR材质(https://huggingface.co/papers?q=PBR%20materials)统一在体素化多模态高斯云(https://huggingface.co/papers?q=voxelized%20multimodal%20Gaussian%20cloud)中的3D表示,为每种模态使用专用的高斯基元。变分自编码器(https://huggingface.co/papers?q=variational%20autoencoder)将此表示压缩到统一的材质感知潜空间。整流流变换器(https://huggingface.co/papers?q=rectified-flow%20transformer)根据预训练图像编码器的多层特征(https://huggingface.co/papers?q=multi-layer%20features)条件,从单张图像生成该潜空间表示,同时保留语义上下文和精细空间细节。该潜空间随后解码为可重新光照的PBR高斯模型,以及带有切线空间法线贴图(https://huggingface.co/papers?q=tangent-space%20normal%20map)的可选纹理网格。在Toys4K数据集上,Luce实现了最先进的单图转3D生成,将FID指标相较于最强基线提升28%。我们进一步引入了一个AI生成图像基准测试,其中Luce在CLIP图像对齐分数上超越最佳基线(0.8519 对比 0.8299)。Luce生成的资产具有可重光照、几何精确和材质保真的特性,并保留了文字、标识和铭文等精细细节。

查看arXiv页面 (https://arxiv.org/abs/2608.23943)
查看PDF (https://arxiv.org/pdf/2608.23943)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.23943)

在你的代理工具中获取本文:

hf papers read 2608\.23943

尚未安装最新CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型 0

暂无模型关联本文

在模型的 README.md 中引用 arxiv.org/abs/2608.23943,即可从本页链接至该模型。

引用本文的数据集 0

暂无数据集关联本文

在数据集的 README.md 中引用 arxiv.org/abs/2608.23943,即可从本页链接至该数据集。

引用本文的空间 0

暂无空间关联本文

在空间的 README.md 中引用 arxiv.org/abs/2608.23943,即可从本页链接至该空间。

包含本文的收藏 0

暂无收藏包含本文

将本文添加到收藏 (https://huggingface.co/new-collection) 即可从本页链接至该收藏。

相似文章

FLUX3D: 基于扩散对齐稀疏表示的高保真3D高斯生成

Hugging Face Daily Papers

FLUX3D引入了一个框架,通过利用扩散对齐的结构化潜变量和稀疏结构感知的扩散变压器来增强表示学习和跨模态对齐,实现高保真图像到3D高斯泼溅生成,取得了最先进的结果。

用于可扩展且多用途3D生成的结构化3D潜在表示

Papers with Code Trending

微软提出统一的结构化潜在表示(SLAT),结合校正流 Transformer 实现高质量、多格式(辐射场、3D 高斯、网格)的 3D 资产生成,支持文本/图像条件及局部编辑,在 50 万个 3D 样本的数据集上训练的 20 亿参数模型显著超越现有方法。