CONGA:为结构化贝叶斯推断编译高斯纤维几何

Hugging Face Daily Papers 论文

摘要

CONGA 是一个编译器,能够在结构化贝叶斯模型中检测高斯潜在块,并构建仿射传输映射(Brenier 和 Knothe-Rosenblatt),以加速后验推断:在 Stock-Watson 通胀模型上将 NUTS 的每秒最小 ESS 提升 12.5 倍,并在 6760 维电力负荷模型上恢复了收敛性。

在结构化贝叶斯模型中,一个大的潜在块在给定较小参数集合的条件下往往是高斯的,然而通用推断方法会在预热阶段重新学习这种几何结构。我们研究如何利用这种结构为后验推断构造传输映射。条件均值和精度矩阵可以确定精确的仿射映射,包括对称的 Brenier 映射和三角形的 Knothe-Rosenblatt 映射,从而将一个标准正态块与其余非高斯核心分离。KL 散度和相对 Fisher 目标因此归结为该核心上的目标函数。我们提出了 CONGA,一个编译器,它能识别候选高斯块,并根据其结构和计算成本选择时域、频域或稀疏的实现方式。边缘化需要一个由模型建立的恒等式;仅有数值证据只能支持一个保持目标不变的变量替换,校验失败则模型保持不变。在 Stock-Watson 通胀模型上,CONGA 将 NUTS 的每秒最小 ESS 提升了 12.5 倍。它还在原始目标失效的情况下恢复了收敛:同一模型上的 WALNUTS,以及一个被约简到 34 个核心坐标的 6760 维电力负荷模型上的 NUTS。在图索引场上的实验展示了着色和填充度如何影响映射的选择,包括保留原始目标更优的情形。 代码见 https://github.com/vicgalle/conga
查看原文
查看缓存全文

缓存时间: 2026/11/19 03:40

论文页面 - CONGA:为结构化贝叶斯推断编译高斯纤维几何

来源:https://huggingface.co/papers/2611.20995

摘要

在结构化贝叶斯模型中,一个大的潜变量块在给定较小的参数集合的条件下通常是高斯分布的,但通用的推断方法往往会在 warmup 阶段重新学习这种几何结构。我们研究了如何利用这种结构来构造后验推断的传输映射(transport)。条件均值与精度矩阵决定了精确的仿射映射,包括对称的 Brenier 映射和三角形的 Knothe-Rosenblatt 映射,它们能够把一个标准正态块与剩余的非高斯核心分离开来。KL 与相对 Fisher 目标函数随后便可归结为定义在这个核心上的目标。我们提出 CONGA,一个编译器,它能够识别候选高斯块,并根据这些块的结构和计算代价选择时域、频域或稀疏实现。边缘化需要用到一个由模型推导出的恒等式;仅有数值证据时只能进行保持目标分布的变量变换,校验失败则保持模型不变。在 Stock-Watson 通胀模型上,CONGA 将 NUTS 的每秒最小 ESS 提升了 12.5 倍。它还在原始目标无法收敛的情形下恢复了收敛性:例如在同一模型上对 WALNUTS 的应用,以及在一个降至 34 个核心坐标的 6760 维电力负荷模型上对 NUTS 的应用。在图索引场上的实验展示了着色(coloring)与填充(fill)如何影响映射的选择,其中也包括保留原始目标更优的情形。代码位于 https://github.com/vicgalle/conga

查看 arXiv 页面 (https://arxiv.org/abs/2611.20995) 查看 PDF (https://arxiv.org/pdf/2611.20995) GitHub1 (https://github.com/vicgalle/conga) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2611.20995)

在你的 agent 中获取这篇论文:

hf papers read 2611.20995

还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

暂无模型关联本文

在模型的 README.md 中引用 arxiv.org/abs/2611.20995,即可从本页面链接到它。

引用本文的数据集 0

暂无数据集关联本文

在数据集的 README.md 中引用 arxiv.org/abs/2611.20995,即可从本页面链接到它。

引用本文的 Spaces 0

暂无 Space 关联本文

在 Space 的 README.md 中引用 arxiv.org/abs/2611.20995,即可从本页面链接到它。

包含本文的收藏 0

暂无收藏包含本文

将本文添加到收藏 (https://huggingface.co/new-collection) 即可从本页面链接到它。

相似文章

CompactSplat:用于前馈场景重建的空间自适应高斯分布

Hugging Face Daily Papers

CompactSplat 是一种前馈框架,通过纹理引导的空间划分和分层采样来自适应地分配三维高斯,在稀疏视角场景重建中提升几何与纹理的恢复效果,同时支持无需重新训练的动态稀疏度控制。

几何感知R结构Kolmogorov-Arnold网络

arXiv cs.LG

提出几何感知R结构KAN(GRS-KAN),一种将R函数集成到KAN中以编码几何和逻辑约束的混合神经架构,在含不连续性的回归基准上实现了高达67%的RMSE降低。