ZipSplat:更少的高斯,更优的 Splats
摘要
ZipSplat 是一种基于 token 的前馈 3D 高斯溅射模型,利用 k-means 聚类将高斯放置与像素网格解耦,在无需真实位姿或内参的情况下,在 DL3DV 和 RealEstate10K 上实现了约 6 倍的高斯减少,同时设立了新的最佳结果。
前馈式 3D 高斯溅射方法可以在一次前向传递中从带位姿或无位姿的图像中重建场景,但当前方法为每个输入像素预测一个高斯点,将表示预算与相机分辨率而非场景复杂度绑定。因此,一面平坦的墙壁和一个纹理丰富的物体会产生同样多的高斯点,尽管两者的几何需求截然不同。我们提出 ZipSplat,一种基于 token 的前馈模型,将高斯放置与像素网格解耦。多视角骨干网络提取密集的视觉 token,k-means 聚类将其压缩为一组紧凑的场景 token。交叉注意力和自注意力进一步细化这些 token,一个轻量级 MLP 将每个 token 解码为一组具有无约束三维位置的高斯点。由于聚类在推理时应用,单个训练好的模型即可覆盖质量-效率曲线,无需重新训练。ZipSplat 无需真实位姿或内参即可运行,但在 DL3DV 和 RealEstate10K 上,以比像素对齐方法少约 6 倍的高斯点,分别超过最佳无位姿基线 2.1dB 和 1.2dB PSNR,达到了新的最佳水平。它还能零样本泛化到 Mip-NeRF360 和 ScanNet++,并优于所有可比基线。我们的项目页面位于 {https://veichta.com/zipsplat{https://veichta.com/zipsplat}}。
相似文章
GlobalSplat: 通过全局场景标记实现高效的前馈式三维高斯散射
GlobalSplat 引入了一种高效的前馈框架,用于三维高斯散射,通过全局场景标记实现紧凑且一致的场景重建,将计算开销和推理时间降低至78毫秒以下。该方法采用从粗到细的训练策略,防止表示膨胀,同时以显著更少的高斯原语(16K)达到有竞争力的新视角合成性能,与密集基线相比更为高效。
ATSplat: 紧凑的前馈式3D高斯溅射与自适应Token扩展
ATSplat 提出了一种前馈式3D高斯溅射框架,利用自适应3D Token根据场景复杂度分配图元,在实现最先进渲染质量的同时,将高斯体数量相比密集方法减少了5.7倍以上。
在Julia中实现更好的高斯溅射
GaussianSplatting.jl 2.0版本通过KernelAbstractions.jl带来了多GPU后端支持、多线程UI、MCMC致密化策略,以及用于更好3D重建的深度/几何监督。
AsySplat: 用于长序列场景建模的高效非对称3D高斯泼溅
AsySplat提出了一种非对称架构,将3D高斯泼溅中的几何和外观建模解耦,实现了长序列场景建模的高效率,相比基于优化的方法加速近800倍。
高斯点溅射
研究人员提出了高斯点溅射(Gaussian Point Splatting),这是一种随机渲染方法,利用像素大小的不透明点和64位GPU原子操作,能够实时渲染数亿个高斯点。该方法已被SIGGRAPH 2026接收,采用层次化剔除与并行编程原语,实现均匀的工作负载分配,与原始高斯溅射相比仅存在轻微的噪声差异。