边界方差膨胀导致高斯过程中的采集偏差

# 边界方差膨胀导致高斯过程中的采集偏差

来源：https://arxiv.org/html/2606.07561
,Sanna JarlRISE 瑞典研究院瑞典斯德哥尔摩andJens Sjölund乌普萨拉大学瑞典乌普萨拉

###### 摘要。

在有限域上使用平稳核的高斯过程，其边界附近的估计后验方差会出现膨胀现象。尽管这在地统计学中是一个长期被认知的伪影，并且在贝叶斯优化中是过度探索的根源，但边界引起的采集偏差的原因和影响尚未得到充分探索。我们将根源追溯到一个简单的几何机制：在域边界处核相关邻域的截断产生了一个与观测无关的扭曲，并且这种扭曲会随维度增加而加剧。我们展示了这种扭曲如何在三类采集函数中表现出来：方差最大化将选择集中到角落，而负积分后验方差和期望预测信息增益则将选择向内移动到与轴对齐的内部壳层。这些模式在没有参考任何目标函数的情况下出现，意味着采集行为可能由核几何主导，而非期望的任务特定不确定性。为了量化这一点，我们引入了一种无需函数的“选择剖面”诊断方法，适用于任意采集函数、核和有限域几何。

高斯过程，后验方差，边界偏差，贝叶斯优化，实验设计，采集函数，主动学习

## 1. 引言

高斯过程（GPs）被广泛用作贝叶斯优化（BO）(Shahriari et al., 2016 (https://arxiv.org/html/2606.07561#bib.bib10); Garnett, 2023 (https://arxiv.org/html/2606.07561#bib.bib8))和贝叶斯实验设计（BED）(MacKay, 1992 (https://arxiv.org/html/2606.07561#bib.bib3); Chaloner and Verdinelli, 1995 (https://arxiv.org/html/2606.07561#bib.bib4); Rainforth et al., 2024 (https://arxiv.org/html/2606.07561#bib.bib6))中的代理模型。在这两种设置中，下一个观测点是通过优化采集函数来选择的，而这些采集函数直接或间接依赖于 GP 后验方差。在诸如 \([0,1]^D\) 这样的有界域上，此方差容易受到几何伪影的影响，即后验方差在边界处被人为地膨胀，无论函数值如何。

这种边界效应在克里金文献中有记载 (Cressie, 1993 (https://arxiv.org/html/2606.07561#bib.bib21))。在基于 GP 的传感器布置中，Krause et al. (2008 (https://arxiv.org/html/2606.07561#bib.bib9)) 注意到基于熵的准则倾向于将传感器聚集在边界处，从而“浪费”了感知信息，并提出了互信息作为补救措施。Siivola et al. (2018 (https://arxiv.org/html/2606.07561#bib.bib17)) 在 BO 中发现了类似的边界过度探索问题，并提出了虚拟导数符号观测作为每次采集的修正。边界感知的 GP 构造 (Solin and Kok, 2019 (https://arxiv.org/html/2606.07561#bib.bib20); Gulian et al., 2022 (https://arxiv.org/html/2606.07561#bib.bib19)) 在已知物理边界条件时对其编码，而归一化卷积 (Knutsson and Westin, 1993 (https://arxiv.org/html/2606.07561#bib.bib22)) 通过使用确定性场重新加权和重新归一化卷积，解决了图像滤波中类似的支撑丢失问题。

基于方差的设计准则，如 IMSPE (Gramacy, 2020 (https://arxiv.org/html/2606.07561#bib.bib14))，通过全局积分缓解了某些症状，但很少明确其与边界机制的联系。尽管有这些先前工作，在采集函数的开发或基准测试中，边界引起的采集偏差却很少被单独考虑。几何机制很少与目标函数行为分离，不同采集系列之间的差异影响也未被刻画，空间选择模式也未被常规测量。

我们的贡献是隔离这种方差膨胀机制，并刻画一个单一的几何效应如何在三个由方差驱动的采集类别中传播。简而言之，偏差源于核相关邻域在域边界处被截断，导致边界点比可比较的内部点具有更少的域内相关体积。该效应与观测无关：对于固定的超参数，它依赖于核、有界域和训练位置，但*不*依赖于观测到的函数值。一步方差最大化（VM），其中包括高斯单点期望信息增益（EIG）(Lindley, 1956 (https://arxiv.org/html/2606.07561#bib.bib2)) 和上置信界（UCB）探索项 (Srinivas et al., 2010 (https://arxiv.org/html/2606.07561#bib.bib16))，将选择集中在角落。负积分后验方差（NIPV）(Seo et al., 2000 (https://arxiv.org/html/2606.07561#bib.bib18); Cohn et al., 1996 (https://arxiv.org/html/2606.07561#bib.bib7)) 和期望预测信息增益（EPIG）(Bickford Smith et al., 2023 (https://arxiv.org/html/2606.07561#bib.bib5)) 则选择与轴对齐的内部壳层，其中 NIPV 比 EPIG 更靠近边界。这些模式在没有参考任何特定目标函数的情况下出现，表明采集行为可能由核几何主导，而非任务特定的不确定性。

我们通过一种无需函数的*选择剖面诊断*来量化这种效应，该诊断适用于任意采集函数、核和域几何，并在代表性测试函数上针对顺序采集进行验证。

## 2. 背景

我们考虑一个未知函数 \(f: [0,1]^D \to \mathbb{R}\)，由高斯过程建模 (Rasmussen and Williams, 2006 (https://arxiv.org/html/2606.07561#bib.bib1))，\(z \sim \mathcal{GP}(m(\mathbf{x}), k_\theta(\mathbf{x}, \mathbf{x}'))\)，带有噪声观测 \(y_i = z(\mathbf{x}_i) + \varepsilon_i\)，\(\varepsilon_i \sim \mathcal{N}(0, \sigma_n^2)\)。在测试点 \(\mathbf{x}_*\) 处的后验方差以及任意两点之间的后验协方差为

\( (1) \quad s^2(\mathbf{x}_*) = k_\theta(\mathbf{x}_*, \mathbf{x}_*) - \mathbf{k}_*^\top (K + \sigma_n^2 I)^{-1} \mathbf{k}_*, \qquad c(\mathbf{x}, \mathbf{x}') = k_\theta(\mathbf{x}, \mathbf{x}') - \mathbf{k}_{\mathbf{x}}^\top (K + \sigma_n^2 I)^{-1} \mathbf{k}_{\mathbf{x}'}, \)

其中 \(K_{ij} = k_\theta(\mathbf{x}_i, \mathbf{x}_j)\)，\(\mathbf{k}_{\mathbf{x}} = (k_\theta(\mathbf{x}_1, \mathbf{x}), \ldots, k_\theta(\mathbf{x}_N, \mathbf{x}))^\top\)，而方差是对角线情况 \(s^2(\mathbf{x}) = c(\mathbf{x}, \mathbf{x})\)。

采集函数类别中，其空间偏好由 \(s^2\) 和 \(c\)（直接或通过后验相关性）决定的范围很大，包含了几个最常见的选择。对于目标点 \(\{\mathbf{x}_j^*\}_{j=1}^M\)，令 \(c_j = c(\mathbf{x}, \mathbf{x}_j^*)\) 表示候选点 \(\mathbf{x}\) 与目标点 \(\mathbf{x}_j^*\) 之间的后验协方差。相应的平方后验相关性为

\[
\rho_j^2 = \frac{c_j^2}{(s^2(\mathbf{x}) + \sigma_n^2)(s^2(\mathbf{x}_j^*) + \sigma_n^2)}.
\]

我们考虑的三种采集类别：方差最大化、负积分后验方差和期望预测信息增益，分别为

\[
(2) \quad \mathrm{VM}(\mathbf{x}) = s^2(\mathbf{x}), \qquad \mathrm{NIPV}(\mathbf{x}) = \sum_j \frac{c_j^2}{s^2(\mathbf{x}) + \sigma_n^2}, \qquad \mathrm{EPIG}(\mathbf{x}) = \frac{1}{M} \sum_j h(\rho_j^2),
\]

其中 \(h(\rho^2) = -\frac{1}{2} \log(1 - \rho^2)\)。我们将方差最大化视为一个包含 GP-UCB 探索项和 GP EIG (\(\frac{1}{2} \log(1 + s^2(\mathbf{x}) / \sigma_n^2)\)) 的总称，因为这些是 \(s^2\) 的单调变换，因此与纯方差最大化共享相同的 argmax (MacKay, 1992 (https://arxiv.org/html/2606.07561#bib.bib3))。

NIPV 和 EPIG 都使用候选点与目标点之间的后验互协方差 \(c_j\)，但以不同的方式聚合它们。NIPV 衡量在 \(\mathbf{x}\) 处观测所移除的总后验方差，而 EPIG 通过凸函数 \(h\) 对候选点与目标点之间的成对互信息进行平均。我们在预测导向的设置中分析 EPIG，其中目标点覆盖整个域，因此所有三种方法共享相同的候选空间，可以直接比较。在 BO 中，完整的 UCB \(\mu(\mathbf{x}) + \beta \sigma(\mathbf{x})\) 通过 \(\mu\) 依赖于 \(\mathbf{y}\)，但其探索部分并不依赖。当探索在优化早期占主导地位时，这种方差偏差控制着观测点的放置位置。

## 3. 边界方差膨胀

后验方差 \(s^2(\mathbf{x}_*)\) 是先验方差减去由 \(\mathbf{x}_*\) 与训练输入之间的协方差决定的减少量。对于平稳核，此协方差随距离衰减，衰减速率由长度尺度 \(\ell\) 决定。在有界域上，边界点的相关邻域被截断：训练数据可以从内部一侧贡献，但不能从边界之外贡献。

###### 定义 3.0（边界距离）。

对于 \(\mathbf{x} \in [0,1]^D\)，边界距离为 \(d_\partial(\mathbf{x}) = \min_d \min(x_d, 1 - x_d)\)，即 \(\mathbf{x}\) 到单位超立方体任何面的最小距离。该距离范围从任何面上的 \(0\) 到立方体中心处的 \(1/2\)。

一个内部点，其 \(d_\partial(\mathbf{x}) \gg \ell\)，在域内拥有近似完整的相关邻域；而一个边界点，其 \(d_\partial(\mathbf{x}) \ll \ell\)，其相关邻域被一个或多个面截断。平均而言，与具有相当局部训练密度的内部点相比，边界点具有更高的后验方差。这种效应随维度增加而加剧：边界在每一个坐标方向上独立地截断相关邻域，因此角落点同时在所有 \(D\) 个面上损失相关体积。对于典型的 \(N\) 和 \(D\)，这系统地抬高了角落和边缘相对于内部的后验方差。由于这种膨胀的方差通过不同的函数表达式进入采集函数，因此产生的伪影也不同。

参考标题图1. 在 \([0,1]^2\) 上，使用各向同性 Matérn-5/2 核（\(\ell=0.2\)，\(N=15\)）的采集面和 argmax 位置密度。左侧：对于固定的 Sobol 训练设计，采集值（各自归一化）；★ 标记 argmax。右侧：在 10,000 个随机训练集上的 D4-对称化 argmax 位置密度。VM 集中在角落，NIPV 形成一个近边界的方形框架，而 EPIG 形成一个更靠内的框架。这些是全文中讨论的与轴对齐内部壳层的二维实例，由核几何和训练位置而非观测函数值决定。VM、NIPV 和 EPIG 在单位正方形上的采集面（左）和 argmax 密度（右）的两行三列网格图。VM 在角落处达到峰值，NIPV 沿边缘远离角落，EPIG 在内部。

VM 直接继承了伪影，将观测集中在边界，因为采集函数是 \(s^2(\mathbf{x})\) 的单调函数。NIPV 部分纠正了这一点：边界候选点处的高局部方差 \(s^2(\mathbf{x})\) 使分母增大，而与目标集之间较小的互协方差 \(c_j\) 则使分子降低。最大值位于边界内侧的一个与轴对齐的内部壳层上。EPIG 通过 \(h\) 的软阈值结构将选择进一步向内移动，该结构在 \(\rho^2 \approx 1\) 时陡峭，在接近 0 时平缓：每个目标点仅在候选点与其具有高后验相关性时才有显著贡献。内部候选点与所有方向的目标点都能实现这一点；而边界候选点的截断相关性意味着大多数远处目标点对平均值的贡献很小。因此，EPIG 的最大值位于一个比 NIPV 的壳层更大的 \(d_\partial\) 处的壳层上。

在固定超参数下，这些空间偏好均不会对观测到的函数值做出响应 (注释 2.1 (https://arxiv.org/html/2606.07561#S2.Thmremark1))；特别地，它们都不能单独识别已实现函数变化最大的区域。因此，边界偏差是方差场本身的一个属性；采集函数仅决定了如何将该偏差转化为放置偏好。

图1 (https://arxiv.org/html/2606.07561#S3.F1) 说明了二维下的效应。左侧面板显示了每种方法的一个代表性采集面，针对一个固定的 Sobol 设计，使用各向同性 Matérn-5/2 核（\(\ell=0.2\)，\(N=15\)）计算得出。VM 在域的一个角落处达到峰值（★）；NIPV 在边界附近但远离角落处达到峰值；EPIG 在内部达到峰值。右侧面板显示了在 10,000 个随机训练设计上的 argmax 位置密度。这些共同表明，偏差反映了核几何和训练位置，而非观测到的函数值。

## 4. 选择剖面诊断

该诊断跟踪的是 argmax 出现的位置，而不是每个边界距离处的平均采集值。这一点很重要，因为顺序设计会选择最大化者，而即使平均剖面近乎平坦，只要 argmax 反复落在特定的边界距离壳层上，该现象依然成立。我们将*选择剖面*定义为在许多独立训练集上 \(d_\partial(\mathbf{x}_{\mathrm{next}})\) 的经验分布。这在任何维度上都给出了一个一维的总结。

我们运行一个*受控诊断*：对于固定的 \(D\)、\(N\) 和核超参数，我们在 \([0,1]^D\) 上抽取 \(S=1000\) 个随机训练集，在 Matérn-5/2 核下计算 GP 后验，并记录采集 argmax 的边界距离区间。为了将采集偏好与立方体几何分离，候选点按边界距离壳层进行分层，然后重新加权以恢复均匀采样的分布。

参考标题图2. 在 Matérn-5/2 核下，\(N=50\) 个训练点（1000 个种子；阴影带为 95% 置信区间）的选择剖面。每条曲线显示了按壳层体积重新加权后每个边界距离区间的选择概率；虚线基线为几何无偏好分布。长度尺度 \(\ell=0.20, 0.30, 0.40, 0.55\) 分别对应 \(D=2,3,4,6\)，被选为高于最近邻距离 \(N^{-1/D}\) 的最小扫描值；附录 C.2 (https://arxiv.org/html/2606.07561#A3.SS2) 显示了偏差 i