标签
该论文提出了多层粒子边缘Metropolis-Hastings(MLPMMH)方法,通过伪边缘推断与跨网络宽度截断层级的耦合SMC相结合,实现分层贝叶斯深度学习中参数与超参数的联合推断,并在理论上证明了O(ε²)的均方误差与O(ε⁻²)的计算复杂度,同时给出可扩展的近似版本S-MLPMMH用于MNIST实验。
Kirk Borne 分享并推荐了教材《Bayes Rules!: An Introduction to Applied Bayesian Modeling》,该书由 Alicia A. Johnson、Miles Q. Ott 和 Mine Dogucu 编写,涵盖共轭先验、MCMC、回归与层级模型,并配有 bayesrule R 包。
本文提出 OSIS(单步隐式采样器),利用短时间 MCMC 动力学为隐式建模分布定义局部目标,实现单步摊销采样。作者分析了收敛性质,并表明该方法在采样效率上优于多步摊销采样器和非摊销 MCMC 基线。
作者分享了从概率视角解释Hamiltonian Monte Carlo (HMC)的笔记,以增强理解,而不依赖于基于物理的动机。
FLARE MCMC是一种新颖的多保真度方法,通过使用层自适应递归提案和低保真度似然近似来增强马尔可夫链蒙特卡洛采样,在水文学和宇宙学等应用中显示出更高的效率。
本文提出了一种用于条件因果发现的贝叶斯方法,其中因果图和参数的后验以用户指定的因果效应约束(例如,较大的因果效应)为条件。他们采用稀有事件估计技术来处理后验质量较小的事件,并在合成数据和Sachs蛋白质数据集上验证了该方法。
本文提出了一种面向大型视觉语言模型的测试时对齐方法,利用轨迹引导的结构化采样和迭代MCMC细化,在不进行大量后训练的情况下提高视觉推理准确性。
本文提出BayesPO,一种使用梯度引导离散MCMC与并行回火的贝叶斯提示优化框架,在指令归纳任务上提升了准确率。
介绍深度熵引导采样(DEGS),一种无需训练、测试时的方法,利用大语言模型中逐层熵崩塌来改善推理能力,无需强化学习训练,达到与RL后训练模型相竞争的结果。
本文提出熵引导幂采样(EGPS),一种无需训练和验证器的采样方法,提高了幂采样在增强基础语言模型推理中的效率。与标准Metropolis-Hastings采样相比,EGPS在MATH500、HumanEval和GPQA等基准测试上达到最佳或并列最佳准确率,同时实现高达12.6倍的加速。
本文提出了一种四阶段方法,用于构建建模LLM推理过程的因果图,利用反事实增强实现稳定的因果发现,并提供透明、概念级的可解释性。
bde是一个Python包,通过MILE方法将基于采样的贝叶斯深度学习带给实践者,结合了JAX的速度和scikit-learn的API,用于表格监督学习任务。