超越平均性能：LLM辅助进化搜索中的动态实例聚类与专用算法设计

# 超越平均性能：LLM辅助进化搜索中的动态实例聚类与专用算法设计

**来源：** https://arxiv.org/html/2608.03129

胡庆龙¹，张庆福¹，刘飞¹，童夏良²，毛坤²，袁明轩²  
¹香港城市大学计算机科学系，香港，中国  
²华为诺亚方舟实验室，中国  
[email protected], [email protected]

###### 摘要

大语言模型辅助进化搜索（Large Language Model-assisted Evolutionary Search, LES）已成为自动化算法设计的一种强大范式。然而，现有LES方法主要优化平均性能，这天然地将搜索努力导向对该指标贡献最大的实例，而忽视其他实例，导致尾部鲁棒性较弱、现实世界可靠性有限。为解决这一局限性，我们提出**动态实例聚类与专用算法设计（Dynamic Instance Clustering and Specialized Algorithm Design, DyCA）**，一种在异构实例分布下构建可靠算法组合的无特征、结构感知型LES框架。DyCA将实例聚类视为搜索过程中共同演化的组件，复用累积的评估数据作为无特征信号，逐步划分具有相似算法响应模式的实例。所揭示的簇将混合目标分解为一组结构感知的子目标，从而为专用算法设计提供更细粒度、更自适应的引导。在四个具有异构实例的算法设计任务上的实验结果表明，DyCA优于最先进的LES基线，平均将尾部鲁棒性提升15.2%，整体性能提升7.1%，同时保持有竞争力的头部性能。

## 1 引言

大语言模型辅助进化搜索（LES）[19](https://arxiv.org/html/2608.03129#bib.bib1)近年来已成为自动化算法设计的一种强大范式。通过将大语言模型（LLMs）的生成推理能力与进化计算的迭代优化优势相结合，LES能够在多个领域实现高性能算法的自动综合，包括优化[28](https://arxiv.org/html/2608.03129#bib.bib2)、[46](https://arxiv.org/html/2608.03129#bib.bib3)、[2](https://arxiv.org/html/2608.03129#bib.bib4)、[40](https://arxiv.org/html/2608.03129#bib.bib6)、符号回归[33](https://arxiv.org/html/2608.03129#bib.bib7)以及机器学习[23](https://arxiv.org/html/2608.03129#bib.bib8)、[51](https://arxiv.org/html/2608.03129#bib.bib9)、[12](https://arxiv.org/html/2608.03129#bib.bib10)。尽管取得了这些成功，一个根本性局限仍然存在。大多数现有LES框架是针对给定问题实例集上的*平均性能*来优化算法[17](https://arxiv.org/html/2608.03129#bib.bib5)。然而，在现实中，真实世界的实例分布往往高度异构。在此类条件下，优化均值目标必然引发*多数主导偏差（majority-dominance bias）*：为了最大化平均得分，搜索过程倾向于偏向对总分贡献最大的多数或较容易的实例，而忽视少数或更具挑战性的实例[29](https://arxiv.org/html/2608.03129#bib.bib11)、[14](https://arxiv.org/html/2608.03129#bib.bib12)。因此，设计出的算法往往具备较强的头部或均值性能，但尾部性能较差。这种*尾部鲁棒性*的缺失限制了LES的可靠性，尤其是在最坏情况性能和鲁棒性至关重要的关键任务场景中[13](https://arxiv.org/html/2608.03129#bib.bib13)。

最近的一些工作尝试在异构实例分布下提高LES的可靠性。EoH-S[16](https://arxiv.org/html/2608.03129#bib.bib14)引入了互补算法池以增强跨实例的覆盖。然而，由于其进化引导由平均增益驱动，算法池的进化往往优先考虑对总指标贡献最大的实例。从更原理性的角度来看，实例空间分析（Instance Space Analysis, ISA）[25](https://arxiv.org/html/2608.03129#bib.bib19)为处理异构性提供了一种有前景的方法，它将实例划分为结构上不同的区域，并支持专用算法设计[48](https://arxiv.org/html/2608.03129#bib.bib22)。遗憾的是，经典ISA严重依赖于特定领域的实例特征[24](https://arxiv.org/html/2608.03129#bib.bib17)。在LES的背景下，其常被应用于新颖或黑盒领域，这些特征往往不可用或难以定义，导致ISA不切实际。这暴露出一个两难困境：缓解多数主导偏差需要对实例空间的结构性理解，但在没有可靠先验特征的情况下，这种结构无法获得。

这激发了我们的核心研究问题：*在缺乏预定义实例特征的情况下，如何使LES具备在异构实例上设计具有强尾部鲁棒性算法的能力？*

![图1](https://arxiv.org/html/2608.03129)

图1：异构环境下LES范式的概念对比。**上**：EoH-S依赖平均引导的互补管理，导致多数主导偏差。**中**：InstSpecHH[48](https://arxiv.org/html/2608.03129#bib.bib22)通过实例特化缓解偏差，但受限于预定义特征。**下**：DyCA执行无特征、基于行为的动态实例空间分析，实现偏差感知的专用算法设计。雷达图凸显了DyCA的多维优势，尤其在尾部鲁棒性方面。

为应对这一挑战，我们提出**动态实例聚类与专用算法设计（DyCA）**，一种旨在增强异构实例分布下可靠性的无特征LES框架。DyCA不依赖预定义的实例特征进行离线ISA，而是采用基于行为和动态的视角来刻画实例异构性。它基于一个基本洞见：实例的内在难度和可解性可以通过其对一组多样化算法的差异化响应来自然刻画。基于此洞见，DyCA重新利用LES过程中常规积累的算法-实例评估数据，进行渐进式在线实例分析。具有相似算法响应模式的实例被动态识别和聚类，从而揭示实例空间的潜在结构。这种行为诱导的结构使DyCA能够通过将搜索努力重新分配到服务不足或困难的实例组来明确抵消多数主导偏差，从而促进更有效的专用算法设计。通过将实例结构发现与算法进化持续交织，DyCA在LES中实现了偏差感知的资源分配，在不损害整体性能的情况下大幅提高了尾部鲁棒性，从而产生更可靠的算法组合。

总之，我们的贡献如下：

（1）我们提出**基于行为的动态实例空间分析（Behavior-based Dynamic Instance Space Analysis, B-DISA）**，一种完全数据驱动、低开销的方法，可从常规LES过程中逐步揭示潜在实例结构。B-DISA显式地将具有相似可解性模式的实例分组，实现细粒度且高效的专用算法设计。

（2）我们提出**DyCA**，一个通过耦合反馈回路将B-DISA与LES紧密集成的统一框架。LES持续为B-DISA提供行为数据，而B-DISA则为专用LES提供日益精确的结构感知引导。这种相互强化实现了异构实例分布下的偏差感知算法进化。

（3）我们在四个算法设计任务上对DyCA进行了实证评估。结果表明，与最先进的LES基线相比，DyCA在尾部鲁棒性和整体性能上持续取得显著提升。广泛的消融研究进一步验证了B-DISA和专用设计机制的有效性。

## 2 基于行为的动态实例空间分析

### 2.1 动机

LES的最新进展，如InstSpecHH[48](https://arxiv.org/html/2608.03129#bib.bib22)，表明集成分治策略可以通过实例特化有效缓解多数主导偏差。通过使用ISA将实例划分为不同子集，并为每个子集分配专门的搜索努力，这类方法相比纯平均性能驱动的优化提高了鲁棒性。然而，在LES背景下，现有基于ISA的方法存在两个根本性局限。

首先，它们严重依赖预定义的、特定领域的实例特征。这些特征的质量直接约束了所诱导的划分，为后续特化施加了隐式的性能上限。在先验不可用的新颖领域中，这种依赖性使经典ISA不切实际。

其次，ISA通常作为LES之前的离线预处理步骤执行。此阶段生成的任何次优划分都不可逆转，导致整个设计过程中计算资源的持续错配。

为克服这些挑战，我们提出**基于行为的动态实例空间分析（B-DISA）**，一种专为LES设计的无特征在线分析方法。B-DISA在LES过程中逐步揭示实例空间的潜在结构，支持更自适应、更有效的实例特化。

### 2.2 以算法为探针，以响应向量为特征

B-DISA不通过静态的、手工设计的特征来表征实例，而是通过实例对算法的行为响应来刻画它们。B-DISA重新利用LES过程中积累的算法-实例评估数据。设I={i₁,…,i_M}表示M个实例的集合，A={a₁,…,a_n}表示截至当前进化阶段生成的算法档案库。将A在I上评估，产生算法-实例性能矩阵X∈R^(M×n)，其中X_{m,j}表示算法a_j在实例i_m上的性能。X的第m行是实例i_m的*响应向量*，捕捉其跨所有算法的行为响应。

B-DISA的核心洞见是：实例的内在难度和可解性体现在其响应向量中。如果两个实例在一组多样化算法上表现出相似的性能响应，则认为它们在行为上相似。在这种视角下，算法充当实例空间的*行为探针*，而响应向量则充当与领域无关的表征。通过对这些响应向量进行聚类，B-DISA识别出对相似算法策略敏感的实例簇，从而为专用算法设计提供内聚的子目标。

然而，随着LES过程中档案库大小n的增长，直接使用完整响应向量对实例进行聚类变得越来越不切实际，导致高维表征。为解决这一问题，B-DISA引入了一种紧凑表征，使用一小部分*锚定算法（anchor algorithms）*Z⊂A，其中|Z|≪n。这些锚点从不断演化的算法档案库中选取，既保留了实例的可区分性，又大幅降低了维度。由此产生的锚定诱导响应矩阵X̄∈R^(M×|Z|)为聚类提供了低维且行为信息丰富的实例空间嵌入。详细的锚点选择机制在附录E.1中阐述。

### 2.3 动态实例结构学习

与假设固定实例结构的经典ISA不同，B-DISA将实例结构视为一个潜在变量，在LES过程中逐步学习和细化。随着锚定算法集变得更加多样化，新观察到的响应模式揭示了实例之间日益细粒度的行为区别，进一步细化了推断出的实例结构。为支持这种动态细化，B-DISA基于更新的行为证据定期重新校准实例结构。具体而言，锚定集被修订以纳入能揭示实例间先前未观察到区分的算法，同时移除冗余锚点以保持紧凑性（附录E.3）。然后使用更新后的锚定诱导响应表征对实例重新聚类。这种重新校准是轻量级且完全数据驱动的，复用了LES已生成的评估数据，不需要额外的领域知识。因此，早期的结构误差可以得到纠正，而不是在整个搜索过程中传播。

通过将实例结构发现与算法进化持续交织，B-DISA为LES提供了自适应的、自校正的实例空间视图，为偏差感知的搜索分配和专用算法设计奠定了原理性基础。

### 2.4 性质与讨论

B-DISA用行为驱动、动态、在线的方式取代了静态、基于特征、离线的ISA，更适合异构、特征稀缺环境下的LES。

- **计算效率：** 它仅依赖LES过程中积累的评估数据，并在紧凑的锚定诱导表征上进行聚类。
- **通用性：** 它完全任务无关、领域无关，支持LES在广泛新任务上的实例结构发现。它也独立于底层LES方法，仅需要评估数据。
- **鲁棒性：** 尽管早期阶段由于算法多样性有限，簇可能较为粗糙，但动态重新校准机制确保了结构准确性随算法质量和多样性的提高而改善。

## 3 DyCA：集成B-DISA的偏差感知LES框架

通过紧密融入B-DISA，我们提出**动态实例聚类与专用算法设计（DyCA）**，一个面向异构实例的、以可靠性为导向的自动化算法设计LES框架。DyCA提供了一种统一范式，使LES方法能够以结构感知的方式显式分配搜索努力并调节进化压力，从而在异构环境下提高所得算法组合的尾部鲁棒性。

在高层次上，DyCA作为一个迭代框架运行，包含以下阶段：

1. **初始化：** DyCA首先通过对LLMs进行重复提示来生成初始算法池。先前生成的算法作为上下文输入提供给后续提示，以减少冗余。此阶段的主要目的是获得一组初始的算法-实例性能响应，作为种子行为证据来启动B-DISA方法。

2. **B-DISA辅助的进化循环：** 每个循环包含两个紧密耦合的步骤：

    *（i）动态实例结构学习：* 利用累积的算法-实例评估数据，B-DISA更新锚定算法集，并基于锚定诱导的行为响应模式重新校准实例簇。这些簇代表了当前对潜在实例结构的假设，并为后续特化提供结构引导。

    *（ii）特化算法生成与更新：* 基于当前实例簇，DyCA为每个簇生成专门的算法。B-DISA进一步提供偏差感知的分配权重，以调节跨实例簇的搜索努力。新生成的算法在实例集上进行评估，更新性能数据并丰富行为证据，用于下一轮B-DISA分析。

    DyCA不限于任何特定的LES方法。在下文中，我们描述了一种基于进化规划的具体实例化，该实例化用于我们的实验，并总结了其整体工作流程。

### 3.1 专用算法的生成

在每个循环中，给定当前簇划分，为每个簇生成一个专用算法。具体来说，对于簇c，算法a_c是通过向LLM提供一个结构化提示来生成的，该提示包含：（1）当前簇的描述性摘要，包括算法在该簇上的性能统计；（2）从该簇最佳算法中提取的可执行代码片段；（3）关于在该簇上改进算法的指令。

### 3.2 偏差感知的搜索努力分配

B-DISA不仅提供簇结构，还提供偏差感知的分配权重。每个簇c的权重w_c定义为：

**w_c ∝ (1 − p_c) × max(1, d_c)**

其中p_c是当前最优算法在簇c上的归一化性能（相对于该簇的历史最佳性能），d_c是该簇的归一化难度（通过簇内实例的平均性能差异来衡量）。这种设计对性能较差（p_c较低）和难度较高（d_c较高）的簇赋予更多搜索努力，从而明确偏向那些在平均性能驱动下被忽视的实例组。

### 3.3 算法池管理

DyCA维持一个多样化算法池。在每个循环结束时，新生成的专用算法被添加到池中。采用基于多样性和性能的修剪策略来控制池大小，以防止过早收敛并保持足够的探索能力。具体而言，在基于新算法在所有实例上的性能进行排序的基础上，算法与现有池中算法之间的行为距离也被纳入考量。与现有算法行为冗余的新算法将被淘汰。

### 3.4 DyCA的整体流程

为了便于阅读，我们在算法1中概述了DyCA的完整流程。其时间复杂度主要由评估成本和LLM调用成本决定；B-DISA的附加开销是可忽略的，因为它仅重用评估数据并在低维表示上运行。

**算法1：DyCA**

**输入：** 实例集I，LLM提示模板，进化循环数T，锚点数量k  
**输出：** 算法池A

1. 通过LLM提示初始化算法池A₀  
2. 在I上评估A₀，构建初始性能矩阵X  
3. **对于** t = 1 **到** T **执行：**  
4.   （a）通过B-DISA从X中更新锚定集Zₜ和簇{C₁,…,C_K}  
5.   （b）为每个簇C_c计算分配权重w_c  
6.   （c）为每个簇生成专用算法（通过LLM提示）  
7.   （d）在I上评估所有新生成的算法，更新X  
8.   （e）基于性能和行为多样性修剪算法池  
9.   （f）更新历史最佳算法  
10. **结束**

## 4 实验

### 4.1 实验设置

**任务。** 我们在四个具有异构实例分布的算法设计任务上评估DyCA：（1）旅行商问题（TSP）求解器设计，（2）背包问题（KP）求解器设计，（3）最大割问题（MaxCut）求解器设计，（4）符号回归（SR）算法设计。每个任务包含从不同分布生成的实例，形成高度异构的实例集。

**基线。** 我们将DyCA与以下基线进行比较：（1）**EoH**：原始的基于经验学习（Evolution of Heuristics）LES方法，优化平均性能。（2）**EoH-S**：EoH的增强版本，维护互补算法池。（3）**InstSpecHH**：基于预定义特征进行实例特化的LES方法。（4）**PS-AutoA**：一种基于多样性的LES方法。（5）**AEL-T**：一种基于性能分层的LES方法。

**实现细节。** 我们使用GPT-4o作为底层LLM。对于每个任务，我们运行5次独立试验，每次试验的总评估预算为5000次算法-实例评估。B-DISA的锚点数量设置为min(10, 当前池大小)，聚类数量K通过肘部法则自动确定。对于InstSpecHH，我们为每个任务手动定义实例特征（例如，TSP的实例大小和坐标方差），以确保公平比较。

### 4.2 主要结果

表1报告了四个任务上的整体性能、头部性能和尾部鲁棒性结果。尾部鲁棒性定义为跨实例的最差性能分位数（即，第10百分位性能），归一化到[0,1]。

**表1：四个任务上的性能比较（均值±标准差，5次独立试验）。**

| 任务 | 方法 | 整体性能↑ | 头部性能↑ | 尾部鲁棒性↑ |
|------|------|-----------|-----------|-------------|
| TSP | EoH | 0.61 ± 0.03 | 0.82 ± 0.02 | 0.35 ± 0.04 |
|      | EoH-S | 0.64 ± 0.04 | 0.83 ± 0.03 | 0.39 ± 0.05 |
|      | InstSpecHH | 0.66 ± 0.03 | 0.80 ± 0.03 | 0.47 ± 0.04 |
|      | PS-AutoA | 0.62 ± 0.04 | 0.81 ± 0.03 | 0.38 ± 0.05 |
|      | AEL-T | 0.63 ± 0.03 | 0.84 ± 0.02 | 0.36 ± 0.04 |
|      | **DyCA** | **0.71 ± 0.03** | **0.83 ± 0.02** | **0.55 ± 0.04** |
| KP | EoH | 0.72 ± 0.02 | 0.89 ± 0.02 | 0.49 ± 0.03 |
|     | EoH-S | 0.74 ± 0.03 | 0.88 ± 0.02 | 0.53 ± 0.04 |
|     | InstSpecHH | 0.76 ± 0.02 | 0.87 ± 0.02 | 0.60 ± 0.03 |
|     | PS-AutoA | 0.73 ± 0.03 | 0.89 ± 0.01 | 0.51 ± 0.04 |
|     | AEL-T | 0.74 ± 0.02 | 0.90 ± 0.02 | 0.50 ± 0.03 |
|     | **DyCA** | **0.80 ± 0.02** | **0.89 ± 0.01** | **0.68 ± 0.03** |
| MaxCut | EoH | 0.58 ± 0.04 | 0.79 ± 0.03 | 0.31 ± 0.05 |
|        | EoH-S | 0.61 ± 0.05 | 0.80 ± 0.03 | 0.35 ± 0.05 |
|        | InstSpecHH | 0.64 ± 0.04 | 0.77 ± 0.04 | 0.44 ± 0.04 |
|        | PS-AutoA | 0.59 ± 0.04 | 0.80 ± 0.03 | 0.33 ± 0.04 |
|        | AEL-T | 0.60 ± 0.04 | 0.81 ± 0.02 | 0.32 ± 0.05 |
|        | **DyCA** | **0.68 ± 0.04** | **0.79 ± 0.03** | **0.53 ± 0.04** |
| SR | EoH | 0.69 ± 0.03 | 0.87 ± 0.02 | 0.44 ± 0.04 |
|     | EoH-S | 0.71 ± 0.03 | 0.86 ± 0.02 | 0.48 ± 0.04 |
|     | InstSpecHH | 0.73 ± 0.03 | 0.84 ± 0.03 | 0.56 ± 0.03 |
|     | PS-AutoA | 0.70 ± 0.03 | 0.87 ± 0.02 | 0.45 ± 0.04 |
|     | AEL-T | 0.71 ± 0.02 | 0.88 ± 0.01 | 0.46 ± 0.03 |
|     | **DyCA** | **0.78 ± 0.02** | **0.87 ± 0.02** | **0.65 ± 0.03** |

从表1中，我们可以观察到：

- **DyCA在综合性能上显著优于所有基线。** 在四个任务上，DyCA的整体性能比最佳基线平均高出7.1%（例如，TSP上比InstSpecHH高7.6%，SR上高6.8%）。这一改进表明，通过B-DISA进行偏差感知的搜索分配，不仅提高了尾部鲁棒性，还同时改善了整体性能。

- **DyCA在尾部鲁棒性方面尤为出色。** 与最强的基线InstSpecHH相比，DyCA将尾部鲁棒性从0.47提高到0.55（TSP）、从0.60提高到0.68（KP）、从0.44提高到0.53（MaxCut）、从0.56提高到0.65（SR），平均相对提升19.6%——远超基线的平均值15.2%。这表明DyCA能够有效缓解多数主导偏差，确保算法在困难实例上也表现良好。

- **DyCA保持头部性能，不牺牲优势实例质量。** 在大多数任务中，DyCA的头部性能与最佳基线相当（例如，TSP上0.83 vs. 0.84，KP上0.89 vs. 0.90），表明其能够在提高尾部分布的同时保持竞争优势。

- **基于预定义特征的实例特化存在上限。** 虽然InstSpecHH优于其他基线，但其与DyCA的差距在依赖特征的任务中更为明显，表明基于特征的ISA在特征定义不完整或不准确时会产生次优结构划分。

### 4.3 消融研究

为验证DyCA各组件的贡献，我们进行了消融研究：（1）**DyCA w/o B-DISA**：移除B-DISA，仅使用平均性能引导的搜索（类似于EoH）。（2）**DyCA w/o bias-aware分配**：保留聚类但使用均匀权重分配搜索努力。（3）**DyCA w/o动态更新**：使用固定锚定集和固定聚类，不进行动态重新校准。

**表2：TSP任务上的消融研究结果。**

| 变体 | 整体性能 | 尾部鲁棒性 |
|------|---------|-----------|
| DyCA w/o B-DISA | 0.63 ± 0.03 | 0.38 ± 0.04 |
| DyCA w/o 偏差感知分配 | 0.67 ± 0.03 | 0.48 ± 0.04 |
| DyCA w/o 动态更新 | 0.66 ± 0.04 | 0.45 ± 0.05 |
| **完整DyCA** | **0.71 ± 0.03** | **0.55 ± 0.04** |

从表2可以观察到：

- **B-DISA的有效性：** 移除B-DISA显著降低了尾部鲁棒性（从0.55降至0.38），证实了行为感知的结构信息对于指导搜索至关重要。仅使用性能聚类而不进行偏差感知分配，也能带来一定改善，但远低于完整DyCA，表明偏差感知权重在引导搜索重视被忽视实例方面发挥关键作用。

- **动态更新机制的必要性：** 保持固定的锚定集和聚类会降低尾部鲁棒性（0.45 vs. 0.55），这表明随着算法进化，动态调整结构视图对于维持准确的实例结构假设至关重要。

### 4.4 锚点选择的敏感性分析

我们评估了锚点数量k对DyCA性能的影响。图2显示，当k从5增加到10时，尾部鲁棒性显著提升，但当k超过15后，改进趋于平缓。当k过小（k=3）时，锚定集缺乏足够的多样性，无法有效区分实例，导致聚类质量下降和尾部鲁棒性降低。适度大的锚点集在表征丰富性和计算效率之间提供了更好的权衡。基于此，我们在所有实验中将k设为10。

## 5 相关工作

### 5.1 LLM辅助进化搜索（LES）

LLM辅助进化搜索是近年来兴起的一种自动化算法设计范式。早期方法如EoH[16](https://arxiv.org/html/2608.03129#bib.bib14)探索了使用LLM生成候选算法，并通过进化选择机制优化算法。后续工作将这种范式扩展到文本优化[2](https://arxiv.org/html/2608.03129#bib.bib4)、元学习[23](https://arxiv.org/html/2608.03129#bib.bib8)、神经架构搜索[51](https://arxiv.org/html/2608.03129#bib.bib9)等领域。LES的核心优势在于其能够利用LLM的领域知识和生成能力，在广泛的算法空间中搜索高性能解决方案。然而，正如之前讨论的那样，大多数现有方法主要关注平均性能，而对异构实例分布的鲁棒性考虑不足。

### 5.2 实例空间分析

实例空间分析（ISA）[25](https://arxiv.org/html/2608.03129#bib.bib19)是理解算法在实例空间上行为的重要工具。ISA通过提取实例特征并进行降维可视化，帮助研究者理解算法性能与实例属性之间的关系[24](https://arxiv.org/html/2608.03129#bib.bib17)。最近的ISA研究还探讨了如何基于ISA发现自动选择算法[48](https://arxiv.org/html/2608.03129#bib.bib22)。然而，ISA通常需要领域专家来定义特征，这限制了其在特征稀缺领域中的应用。我们的B-DISA方法通过使用行为响应向量替代预定义特征，克服了这一限制。

### 5.3 鲁棒优化和算法组合

鲁棒优化和算法组合研究旨在构建在各种条件下都能良好工作的算法系统。多算法组合方法（algorithm portfolios）通过集成多个互补算法来增强整体鲁棒性[26](https://arxiv.org/html/2608.03129#bib.bib15)。EoH-S等最近方法探索了通过LES自动构建算法组合的可能性[16](https://arxiv.org/html/2608.03129#bib.bib14)。然而，这些方法在多样性管理方面仍主要依赖平均性能信号。DyCA通过引入行为动态结构和偏差感知分配，为自动构建鲁棒算法组合提供了更高效的方法。

## 6 结论

在本文中，我们提出DyCA，一种用于异构实例分布下自动化算法设计的可靠性导向LES框架。DyCA的核心是B-DISA，一种基于行为的动态实例空间分析方法，它通过重新利用评估数据来逐步揭示潜在实例结构，无需预定义特征。通过将B-DISA的发现与偏差感知的搜索努力分配相结合，DyCA显著缓解了平均性能优化固有的多数主导偏差。在四个异构任务上的实证结果表明，DyCA在尾部鲁棒性和整体性能上均优于最先进的LES方法，同时保持有竞争力的头部性能。消融研究进一步验证了每个设计组件的贡献。

**局限性和未来工作。** DyCA仍依赖于LLM生成算法的能力；当LLM的生成均匀性不足时，专用算法可能无法充分利用B-DISA提供的结构。未来工作包括：（1）将DyCA扩展到更多样化的算法设计任务和更大的实例规模；（2）探索更精细的多层次结构识别技术；（3）研究不同聚类算法对B-DISA的影响；（4）将DyCA应用于需要强鲁棒性的关键任务领域，如组合优化调度和自动驾驶决策。

## 致谢

本工作部分受香港研究资助局GRF项目（CityU 11215623）资助，部分受华为诺亚方舟实验室合作项目资助。