范围感知贝叶斯优化在目标属性窗口内发现多样化设计

# 范围感知贝叶斯优化：在目标属性窗口中发现多样化设计

来源：https://arxiv.org/html/2606.11574
Jason Wu, Charles M. Schroeder, Michael A. Webb, [email protected] (https://arxiv.org/html/2606.11574v1/mailto:) 普林斯顿大学化学与生物工程系，美国新泽西州普林斯顿 08540

###### 摘要

在许多材料和产品设计问题中，理想的候选方案所表现出的属性应落在可接受的范围内，而非达到单一最优值。同时找到多个满足此类规格的不同解也具有实际价值，因为某些候选方案可能因成本、可加工性或鲁棒性等原因更受青睐，而这些原因很难直接编码到目标函数中。在此，我们开发了一个范围感知的贝叶斯优化（BO）框架，其中采集函数直接对候选方案满足目标范围的后验概率进行评分。该框架可自然地扩展到在共享候选空间中并行追求多个不同的规格。在基准任务中，范围感知采集方法一致地比标准BO基线和最近的目标寻求方法找到更大、更多样化的有效设计集。其效用进一步在两个实际驱动的设计案例研究中得到证明：涉及使用动力学蒙特卡罗模拟优化聚合物合成的反应条件，以及基于量子化学计算为指定光吸收带发现序列定义的寡聚体。这些结果表明，范围感知BO可以为规格驱动的设计提供一个实用且样本高效的框架，特别是当设计灵活性和解决方案多样性是重要考虑因素时。

###### 关键词：

高斯过程，逆向设计，主动学习，采集函数，规格满足，目标范围发现，材料设计，产品设计，聚合物合成，共轭聚合物

\\SectionNumbersOn

## 1 引言

许多材料和产品设计任务由规格满足而非单一属性优化或约束所主导。在这些场景中，只要设计的属性落在规定的范围内，它就是有效的。chitturi2024targeted, tian2025materials 我们将这些可接受的属性区间称为“目标范围”。例如，用于柔性电子和航空航天复合材料的聚合物通常围绕应用特定的玻璃化转变窗口进行设计；qian2019glass, kim2019active 光伏吸收体在其带隙接近适合光谱匹配的值时性能最佳；yu2012identification, kim2020upper, eperon2016perovskite 而润滑油在合适的粘度范围内才具有可行性。bhushan2013principles, chen2024investigation 这种基于范围的视角在更广泛的设计实践中也很常见，包括Ashby式材料选择，其中在基于目标的排序之前，属性范围指导候选筛选；ashby1993materials 药品质量源于设计，其中关键质量属性由可接受范围指定；schofield2015critical 以及产品开发，其中需求被转化为具有理想和勉强可接受值的目标规格。ulrich2020product 由于多个候选方案可能满足相同的预定范围，但在合成、成本、鲁棒性、可扩展性或可加工性方面存在差异，如果设计活动能返回一组有效选项而非单一解决方案，其效用就能增强。ashby2004selection, zeni2025generative, renz2024diverse 因此，相关的搜索问题通常不是优化单个属性，而是在有限的评估预算下，找到属性落在预定范围内且彼此不同的候选方案。

贝叶斯优化（BO）因其通过概率代理模型实现样本高效探索而非常适合材料设计。mockus1974bayesian, jones1998efficient, snoek2012practical 它已成功应用于反应筛选、shields2021bayesian, taylor2023accelerated 合金配方、pedersen2021bayesian, khatamsaz2023bayesian 以及聚合物或蛋白质设计。an2024active, wilding2025integrating, dalal2024polymer, jiang2025generative 标准的BO采集函数，包括期望改进（EI）、jones1998efficient 改进概率（PI）kushner1964method 和置信界限法，srinivas2010gaussian 主要设计用于识别极值点而非由规格定义的有效区域。多目标BO方法knowles2006parego, emmerich2011hypervolumebased, daulton2020differentiable 将这一范式扩展到帕累托前沿发现，但仍优先考虑前沿点，而非落在可接受属性范围内的候选点。即使帕累托点恰好落在目标范围内，受前沿点支配的内部有效设计也不会被优先恢复，尽管它们在实践中可能同样可取。因此，传统的BO公式通常与规格驱动设计不一致。

最近的工作已将BO扩展到目标寻求和可行性感知任务。水平集估计gotovos2013active 和等值线发现方法，bryan2005active, marques2018contour 包括期望可行性函数（EFF），bichon2008efficient 优先考虑阈值穿越或边界结构，而非在预定范围内发现不同候选点。贝叶斯算法执行（BAX）及其多目标扩展MultiBAXneiswanger2021bayesian, chitturi2024targeted 通过后验采样编码一般的目标寻求效用，但在连续或高维域中可能产生高昂的计算成本，并可能在预测不确定性高时提出落在目标范围外的点。tian2025materials 目标约束方法如t-EGO 专注于围绕期望标量目标值进行采样，但并未自然处理向量值规格或多个独立的目标范围。约束BO公式gardner2014bayesian, gelbart2014bayesian 将可行性视为独立目标采集的乘数，将范围满足概率从属于外部优化目标。层次化标量化方法（如Chimera）hase2018chimera 允许用户对目标进行排序并分配容忍度，然后将它们折叠成一个单一目标函数。由于搜索由这一个聚合得分驱动，这些方法按优先级顺序追求目标，而非跟踪每个标准是否落在其目标范围内。这些局限性共同促使开发一个以范围满足为主要搜索信号的BO框架。

在这项工作中，我们开发了一个用于规格驱动材料设计的范围感知BO框架，该框架围绕两种无需采样的范围感知采集函数构建：容忍度球（TB）和Heaviside（HV）。与优先在指定值附近采样的点目标方法或视可行性为独立目标修正符的约束BO方法不同，我们的框架将满足目标范围的后验概率本身作为采集目标。由于许多设计活动必须在共享的试验或计算预算下追求多个规格，attia2020closed, kusne2020fly, szymanski2023autonomous, ren2018accelerated, tamasi2022machine, an2024active, jiang2025generative 包括同一设计空间内的不同产品等级或操作窗口，我们的框架自然地扩展到跨多个目标范围的并行目标搜索。我们根据恢复跨越不同宽度和难度的目标范围的不同有效设计的能力，将提出的采集函数与现有的目标寻求和目标驱动方法进行比较。最后，除了理想化的基准测试，我们还在两个实际设计场景中演示了该框架。这些包括使用动力学蒙特卡罗模拟的聚合反应条件设计，以及基于量子化学计算的支持下，针对指定光吸收带进行序列定义寡聚体设计。

## 2 方法

### 2.1 问题表述

#### 2.1.1 单目标逆向设计

我们考虑识别设计 $\mathbf{x}\in\mathcal{X}\subset\mathbb{R}^M$ 的问题，其 $K$ 维属性向量相对于目标 $\mathbf{y}^{\mathrm{tgt}}\in\mathbb{R}^K$ 落在规定的欧几里得容忍度内。这里，$\mathcal{X}$ 表示设计空间，$\mathbb{R}^M$ 是 $M$ 维实值可能设计空间，$f:\mathcal{X}\to\mathbb{R}^K$ 表示从设计到其预测属性的属性映射。一个设计 $\mathbf{x}$ 被认为是有效的，如果

$$\|f(\mathbf{x})-\mathbf{y}^{\mathrm{tgt}}\|_2^2 \leq \varepsilon^2,$$  (1)

其中 $\|\cdot\|_2$ 表示欧几里得范数，$\varepsilon>0$ 是容忍度半径。当目标属性在尺度或可容忍半径上存在差异时，在应用公式 (1) 之前，每个输出维度会被归一化。我们在归一化的输出空间中使用欧几里得范数，因为归一化后，它能对称地处理跨输出维度的偏差，并提供与目标总体不匹配的简单度量。对于固定目标，我们记 $\mathcal{S}=\{\mathbf{x}_1,\mathbf{x}_2,\dots,\mathbf{x}_N\}$ 为搜索过程中识别的有效设计集合，其中 $N=|\mathcal{S}|$ 是集合 $\mathcal{S}$ 的基数（即集合中成员的数量）。我们记 $n_{\mathrm{eval}}$ 为分配给该目标的函数评估总数。

#### 2.1.2 多目标并行搜索

我们将单目标公式扩展到一组 $T$ 个目标 $\mathcal{Y}^{\mathrm{tgt}}=\{\mathbf{y}_1^{\mathrm{tgt}},\dots,\mathbf{y}_T^{\mathrm{tgt}}\}$。对于每个目标 $t\in\{1,\dots,T\}$，我们定义相应的有效集合为

$$\mathcal{S}_t = \left\{\mathbf{x}\in\mathcal{X}: \|f(\mathbf{x})-\mathbf{y}_t^{\mathrm{tgt}}\|_2^2 \leq \varepsilon^2\right\},$$  (2)

并记 $N_t=|\mathcal{S}_t|$ 为目标 $t$ 识别的有效设计数量。为方便起见，全文对所有目标使用共同的容忍度 $\varepsilon$，尽管该公式可以很容易地适应特定于目标的容忍度。

### 2.2 性能指标

我们通过每次函数评估发现的有效设计的多样性来量化搜索性能。多样性仅用作评估指标，不作为采集函数中的显式项。konakovic2020diversity, maus2022discovering

#### 2.2.1 连续设计空间

对于连续设计空间，使用 $\delta$ -唯一性来衡量多样性。子集 $\mathcal{S}_{\delta} \subseteq \mathcal{S}$ 是 $\delta$ -唯一的，如果对于所有不同的 $\mathbf{x}_i,\mathbf{x}_j\in\mathcal{S}_{\delta}$，有

$$\|\mathbf{x}_i-\mathbf{x}_j\|_2^2 > \delta^2$$  (3)

记 $N_{\mathrm{u}}(\delta)$ 为 $\mathcal{S}$ 的 $\delta$ -唯一子集的最大基数。我们将原始多样性得分定义为唯一性曲线下的面积，

$$A_{\mathrm{u}} = \int_0^{\delta_{\max}} N_{\mathrm{u}}(\delta) \, d\delta,$$  (4)

其中 $\delta_{\max}$ 固定为 $0.1\phi$，$\phi$ 表示设计空间的直径。对于归一化设计空间（其中 $M$ 个设计变量每个的取值范围为 0 到 1），$\phi=\sqrt{M}$。连续设计空间的归一化多样性得分则定义为

$$D_{\mathrm{c}} = \frac{A_{\mathrm{u}}}{n_{\mathrm{eval}} \,\delta_{\max}}.$$  (5)

当跨多个目标容忍度范围汇总性能时，我们报告相应 $D_{\mathrm{c}}$ 值的几何平均值。

#### 2.2.2 离散设计空间

对于离散设计空间，原始多样性是发现的不同有效设计数量 $N=|\mathcal{S}|$。记 $N_{\mathrm{valid}}^{\mathrm{all}}$ 为完整离散候选集中有效设计的总数。由于每次函数评估最多只能识别一个以前未见过的有效设计，在 $n_{\mathrm{eval}}$ 次评估后可达到的最大有效发现数量是

$$N_{\max} = \min\left(n_{\mathrm{eval}},\, N_{\mathrm{valid}}^{\mathrm{all}}\right).$$  (6)

如果 $N_{\mathrm{valid}}^{\mathrm{all}}$ 未知，我们设 $N_{\max}=n_{\mathrm{eval}}$。然后离散设计空间的归一化多样性得分定义为

$$D_{\mathrm{d}} = \frac{N}{N_{\max}}.$$  (7)

### 2.3 高斯过程代理模型

我们使用高斯过程（GP）回归来建模从候选到属性的映射。williams2006gaussian 对于 $K$ 维属性向量，我们对每个输出维度独立拟合一个 GP：

$$f_k(\mathbf{x}) \sim \mathcal{GP}\bigl(m_k(\mathbf{x}),\, \kappa_k(\mathbf{x},\mathbf{x}')\bigr), \qquad k=1,\dots,K,$$  (8)

使用零先验均值 $m_k(\mathbf{x})\equiv 0$。每个 GP 使用 Matérn 5/2 核，具有信号方差 $\sigma_k^2$ 和长度尺度 $l_k$：

$$\kappa_k(\mathbf{x},\mathbf{x}') = \sigma_k^2 \left(1 + \frac{\sqrt{5}\|\mathbf{x}-\mathbf{x}'\|_2}{l_k} + \frac{5\|\mathbf{x}-\mathbf{x}'\|_2^2}{3l_k^2}\right) \exp\left(-\frac{\sqrt{5}\|\mathbf{x}-\mathbf{x}'\|_2}{l_k}\right).$$  (9)

每次 BO 迭代后，通过最大化边际似然来重新估计核超参数。Matérn 5/2 核是贝叶斯优化的一个标准且稳健的默认选择；snoek2012practical 其二次可微的样本路径比平方指数（RBF）核施加更弱的平滑性，rasmussen2006gaussian 从而更好地适应分子数据中常见的适度粗糙的结构-性质关系。aldeghi2022roughness

给定输出 $k$ 的观测值 $\{(\mathbf{x}_i, y_{ik})\}_{i=1}^n$，新点 $\mathbf{x}_*$ 处的后验预测均值和方差为

$$\begin{aligned}
\mu_k(\mathbf{x}_*) &= \mathbf{k}_{k,*}^\top \left(\mathbf{K}_k + \sigma_{n,k}^2 \mathbf{I}\right)^{-1} \mathbf{y}_k, \\
s_k^2(\mathbf{x}_*) &= \kappa_k(\mathbf{x}_*,\mathbf{x}_*) - \mathbf{k}_{k,*}^\top \left(\mathbf{K}_k + \sigma_{n,k}^2 \mathbf{I}\right)^{-1} \mathbf{k}_{k,*}.
\end{aligned}$$  (10)

其中 $\mathbf{y}_k = [y_{1k},\dots,y_{nk}]^\top$，$\mathbf{k}_{k,*} \in \mathbb{R}^n$ 的条目为

$$(\mathbf{k}_{k,*})_i = \kappa_k(\mathbf{x}_*,\mathbf{x}_i),$$  (11)

且 $\mathbf{K}_k \in \mathbb{R}^{n \times n}$ 的条目为

$$(\mathbf{K}_k)_{ij} = \kappa_k(\mathbf{x}_i,\mathbf{x}_j).$$