基于LLM的多目标贝叶斯优化算法演化生成

# 基于LLM的多目标贝叶斯优化算法演化生成
来源：https://arxiv.org/html/2607.08791

G. Laskaris  
Terra Quantum AG, Kornhausstrasse 25, 9000 St. Gallen, 瑞士  
LIACS, 莱顿大学, 莱顿, 荷兰  

N. van Stein  
LIACS, 莱顿大学, 莱顿, 荷兰  

E. Raponi  
LIACS, 莱顿大学, 莱顿, 荷兰  

T. Bäck  
Terra Quantum AG, Kornhausstrasse 25, 9000 St. Gallen, 瑞士  
LIACS, 莱顿大学, 莱顿, 荷兰  

F. Neukart  
Terra Quantum AG, Kornhausstrasse 25, 9000 St. Gallen, 瑞士  
LIACS, 莱顿大学, 莱顿, 荷兰  

###### 摘要

设计有效的多目标贝叶斯优化（MOBO）算法需要平衡许多相互依赖的设计选择，其最优配置通常取决于具体问题，且需要深厚的专业知识。我们将 LLaMEA 框架扩展至 MOBO，利用大语言模型作为演化策略中的变异与交叉算子，生成完整的算法实现，并将 SMAC 超参数优化集成到演化循环中。通过九次演化运行，我们生成了约 900 个算法，并在 12 个合成问题（ZDT、DTLZ、WFG）和三个真实世界工程问题（RE）上进行了基准测试，以 BoFire qParEGO 实现作为最先进的贝叶斯优化基线。在合成问题集上，最强生成的算法达到了最高的平均归一化超体积（0.971，对比 qParEGO 的 0.869），同时所需实际运行时间约减少 60 倍；Friedman 检验与事后分析将两者归入同一最优性能组，而逐个问题的检验发现，生成的算法在 12 个问题中的 7 个上显著优于 qParEGO，且从未表现更差，以低一个数量级的成本匹配了最先进的精度。在三个未见过的真实世界工程问题上，一个生成的算法取得了最佳平均归一化超体积（0.985，对比 qParEGO 的 0.971）——在三个问题中的两个上显著优于 qParEGO——实际运行成本降低约 3.4 倍，证实了增益可迁移至合成问题之外。因此，LLM 驱动的演化搜索能够发现手动设计难以实现的帕累托高效折衷的算法设计。

## I. 引言

多目标优化（MOO）问题在科学和工程领域自然存在，广泛应用于药物设计[39](https://arxiv.org/html/2607.08791#bib.bib9)、[44](https://arxiv.org/html/2607.08791#bib.bib10) 和结构工程[13](https://arxiv.org/html/2607.08791#bib.bib11)、[34](https://arxiv.org/html/2607.08791#bib.bib12) 等。当目标函数评估成本高昂时，贝叶斯优化（BO）[40](https://arxiv.org/html/2607.08791#bib.bib14)、[24](https://arxiv.org/html/2607.08791#bib.bib13) 提供了在有限预算下获得帕累托最优解的框架。设计有效的多目标贝叶斯优化（MOBO）算法仍然是一项挑战，因为存在众多相互依赖的设计选择。最佳配置通常取决于具体问题，需要深厚的专业知识和大量的实证调优。

近期关于 LLM 驱动算法生成的工作[38](https://arxiv.org/html/2607.08791#bib.bib5)、[31](https://arxiv.org/html/2607.08791#bib.bib61)、[55](https://arxiv.org/html/2607.08791#bib.bib21)、[46](https://arxiv.org/html/2607.08791#bib.bib6)、[37](https://arxiv.org/html/2607.08791#bib.bib35) 表明，大语言模型与演化搜索相结合，能够自动设计出与人类设计相媲美的优化算法——超越了参数调优，从而综合出新的算法。LLaMEA-BO[29](https://arxiv.org/html/2607.08791#bib.bib7) 是一种自动化方法，它在演化循环中使用大语言模型作为变异算子来设计完整的贝叶斯优化算法。在本工作中，我们将其扩展至多目标设置，并以发现的算法作为研究对象。我们将此项工作视为 LLaMEA 框架的扩展，而非一种新的自动化设计范式：我们的贡献在于 MOBO 生成的循环及其所产出的具体、有竞争力的算法，我们针对这些算法与已有手工设计的 MOBO 方法进行了基准测试。

我们的贡献如下：

- • 我们将 LLaMEA 框架[46](https://arxiv.org/html/2607.08791#bib.bib6)、[29](https://arxiv.org/html/2607.08791#bib.bib7) 扩展至多目标贝叶斯优化设置，生成并配置完整的 MOBO 算法，以归一化超体积（跨合成与真实世界问题集）作为适应度信号。遵循 LLaMEA-HPO 方法[48](https://arxiv.org/html/2607.08791#bib.bib8)，我们将基于 SMAC 的超参数优化直接集成到演化循环中，并在我们自己的多目标流水线中实现。
- • 我们在此框架内对三种演化策略配置进行了基准测试——\((1+1)\)-ES、\((4+16)\)-ES 和 \((8,16)\)-ES——使用 Gemini-2.5-flash 作为 LLM 算子，并分析了选择机制如何影响生成算法的多样性和质量。
- • 我们展示了合成问题集上最强的生成算法 **MOEAD-EI Hybrid** 在 12 个合成问题上达到了最高的平均归一化超体积——在 12 个问题中的 7 个上显著优于最先进的 BoFire qParEGO 基线（逐个问题的 Welch t 检验），且从未显著更差——同时所需实际运行时间减少约 60 倍。在三个未见过的真实世界工程问题上，最佳系统性生成算法 **Improved-Scalarized-EI** 是最准确的方法，在三个问题中的两个上显著优于 qParEGO，成本降低约 3.4 倍。
- • 我们表征了所有九个基准测试算法（四个 LLaMEA 生成算法、最先进的 qParEGO 基线、代理辅助的 IOC-SAMO-COBRA、两个经典演化基线和随机搜索）在时间-精度之间的权衡，表明生成的算法占据了有效前沿：它们在匹配或超越最先进精度的同时，运行速度快了一到三个数量级，并且每个算法在所有 15 个问题上都显著快于 qParEGO（Wilcoxon 符号秩检验，p=6.1×10^{-5}）。

本文的其余部分组织如下。第二部分（[II](https://arxiv.org/html/2607.08791#S2)）回顾了多目标贝叶斯优化、基于 LLM 的算法设计和自动化算法配置的相关工作。第三部分（[III](https://arxiv.org/html/2607.08791#S3)）描述了扩展至多目标设置的 LLaMEA-BO 框架。第四部分（[IV](https://arxiv.org/html/2607.08791#S4)）介绍了实验设置——九次演化运行、十二个合成基准问题以及用于泛化评估的三个真实世界工程问题。第五部分（[V](https://arxiv.org/html/2607.08791#S5)）报告了三个阶段各自的基准测试结果以及时间-精度权衡分析。第六部分（[VI](https://arxiv.org/html/2607.08791#S6)）解释了所选算法表现良好的原因，并概述了局限性和未来方向。第七部分（[VII](https://arxiv.org/html/2607.08791#S7)）进行总结。

## II. 相关工作

### II.1 多目标贝叶斯优化

贝叶斯优化扩展到多目标设置的方式是用一个考虑多个目标的采集函数替代标量采集函数。ParEGO[25](https://arxiv.org/html/2607.08791#bib.bib1) 通过随机标量化实现这一点：每次迭代时，它抽取一个权重向量，通过增广切比雪夫分解将目标标量化，并在所得标量代理模型上最大化期望改进（EI）。ParEGO 的一个局限是每次迭代仅评估单个标量化，影响了帕累托前沿不同区域的同步探索。qParEGO[9](https://arxiv.org/html/2607.08791#bib.bib15) 通过蒙特卡洛并行重新公式化解决了这一问题：它为批次中的每个点抽取一个新的随机标量化，从而允许每次迭代联合选择 \(q\) 个候选点；我们在实验中采用 BoFire 框架[15](https://arxiv.org/html/2607.08791#bib.bib41)（具体是其 `QparegoStrategy`，构建于 BoTorch[2](https://arxiv.org/html/2607.08791#bib.bib16) 之上）的实现作为最先进的基线。

另一种方法家族直接针对超体积指标。期望超体积改进（EHVI）[17](https://arxiv.org/html/2607.08791#bib.bib2) 计算候选点带来的被支配超体积的期望增益，提供了一种平衡收敛性与多样性的采集函数。EHVI 计算随目标数量增加而扩展性差的局限已通过蒙特卡洛近似[9](https://arxiv.org/html/2607.08791#bib.bib15) 和 BoTorch 框架[2](https://arxiv.org/html/2607.08791#bib.bib16) 中的可微公式得到缓解。信息论方法包括 MESMO[3](https://arxiv.org/html/2607.08791#bib.bib17)（将最大值熵搜索扩展到多目标设置）和 PESMO[21](https://arxiv.org/html/2607.08791#bib.bib18)（使用预测熵搜索来识别能最大程度降低不确定性的点）。基于分解的方法如 MOEA/D-EGO[57](https://arxiv.org/html/2607.08791#bib.bib19) 将演化多目标优化中的权重向量分解策略与高斯过程代理模型相结合。尽管方法繁多，每种算法都体现了特定的设计选择——代理类型、采集函数、候选点生成、归一化——这些很难在没有专家知识的情况下重新组合或修改。我们的工作避免了这种手动设计过程，利用 LLM 从头开始生成 MOBO 算法。

### II.2 基于 LLM 的算法设计

将 LLM 用于自动化算法设计的先河由 FunSearch[38](https://arxiv.org/html/2607.08791#bib.bib5) 开创，这是一种演化过程，表明由执行反馈引导的 LLM 可以发现新颖的数学构造以及帽子集问题[20](https://arxiv.org/html/2607.08791#bib.bib62) 的新解。不久之后，LLaMEA[46](https://arxiv.org/html/2607.08791#bib.bib6) 引入了一个框架，其中 LLM 作为演化策略中的变异算子来生成单目标元启发式算法，接收当前最佳算法及其性能反馈，并返回改进版本。该范式后来被 AlphaEvolve[37](https://arxiv.org/html/2607.08791#bib.bib35) 扩展到广泛的科学和工程问题，它结合了前沿 LLM 的集成、演化外循环和自动化评估工具，报告了诸如改进的矩阵乘法算法等发现；开源重实现（OpenEvolve[41](https://arxiv.org/html/2607.08791#bib.bib57)）和相关系统（ShinkaEvolve[27](https://arxiv.org/html/2607.08791#bib.bib58)）也随之出现。另一条并行路线针对自动化*启发式*设计：启发式演化（EoH）[31](https://arxiv.org/html/2607.08791#bib.bib61) 共同演化自然语言设计思想及其代码，ReEvo[55](https://arxiv.org/html/2607.08791#bib.bib21) 增加了对过去失败进行反思以引导生成，而其他方法则完全替代了演化种群——LHNS[54](https://arxiv.org/html/2607.08791#bib.bib60) 使用 LLM 驱动的邻域搜索，MCTS-AHD[58](https://arxiv.org/html/2607.08791#bib.bib59) 使用蒙特卡洛树搜索。EvoPrompting[8](https://arxiv.org/html/2607.08791#bib.bib20) 将类似的演化 LLM 循环应用于神经架构搜索。这些方法针对不同的问题类别，且不同系列之间很少有直接比较，因此我们将其视为背景而非基线。

与我们的工作最相关的是 LLaMEA-BO[29](https://arxiv.org/html/2607.08791#bib.bib7)，它将 LLaMEA 扩展至单目标贝叶斯优化，生成带有自己代理模型和采集函数的 BO 算法，以及 LLaMEA-HPO[48](https://arxiv.org/html/2607.08791#bib.bib8)，它将基于 SMAC 的超参数优化集成到演化循环中，使得每个生成算法的可调参数都能自动配置。我们基于这一系列工作——而非上述启发式设计方法——因为它是为我们设置量身定制的：据我们所知，LLaMEA-BO 是唯一一个综合*完整*BO 算法的 LLM 驱动框架。由于其模块化设计将问题套件和评估器与生成循环解耦，将其扩展至多目标设置主要是改变评估信号的问题——将其改为帕累托前沿近似上的归一化超体积——而无需重新设计生成机制。

### II.3 自动化算法配置

自动化算法配置旨在为一组问题实例上的给定算法找到最优参数设置。SMAC[30](https://arxiv.org/html/2607.08791#bib.bib3) 使用随机森林代理模型来建模配置与性能之间的关系，采用贝叶斯优化高效搜索配置空间。irace[32](https://arxiv.org/html/2607.08791#bib.bib4) 采用迭代竞赛方法，通过统计检验逐步淘汰较差的配置。我们的工作直接建立在 LLaMEA-BO 和 LLaMEA-HPO 的基础上，将其扩展到多目标设置。这种扩展并非平凡：多目标算法必须处理帕累托支配、超体积计算、目标归一化和分解策略，这些在单目标情况下没有对应物。

## III. 方法论

### III.1 框架概述

我们的多目标实现 LLaMEA-MOBO 以一个演化循环运行，其中 LLM 同时充当变异算子和交叉算子。图 1（[III.1](https://arxiv.org/html/2607.08791#S3.F1)）展示了该流水线。在每一代中，框架：

参考图注

**图 1：LLaMEA-MOBO 框架概述。** *初始化*阶段根据问题规范和示例算法（及其配置空间）编译起始提示。*LLM 驱动的优化循环*随后使用 Gemini 2.5 Flash 综合候选算法，过滤重复和非编译代码，使用 SMAC 调整超参数，在基准套件上评估每个候选算法，并将结果适应度（以及任何错误信息）通过会话历史反馈，直到满足停止条件。

1. 1.  向 LLM 提供父算法的源代码、其适应度反馈（带一个标准差的归一化超体积和执行时间）以及前一次评估中的任何运行时错误。对于变异，提供一个父算法，指令是*“改进所选解的策略以提升其性能”*；对于交叉，提供两个父算法，指令是*“将所选解组合成一个新解，然后对其进行改进”*，并额外分析和避免父算法报告中出现的任何运行时错误。
2. 2.  提取响应，该响应必须遵循结构化格式：自然语言描述、设计选择理由、完整的 Python 实现以及超参数搜索空间定义。
3. 3.  通过去除注释并使用 `difflib.SequenceMatcher` 与所有先前生成的算法进行比较来检测重复。