EXPLORE: 使用语言模型进行模拟拓扑生成的引导式搜索探索

# EXPLORE：使用语言模型的模拟拓扑生成中的引导探索搜索
来源：https://arxiv.org/html/2607.13416 Guanglei Zhou¹, Chen\-Chia Chang¹, Yikang Shen², Jonathan Ku¹, Isaac Jacobson¹, Jingyu Pan¹, Yiran Chen¹, Xin Zhang³
¹杜克大学电气与计算机工程系，美国达勒姆
²MIT\-IBM Watson AI Lab，美国剑桥
³IBM T. J. Watson Research Center，美国约克敦海茨
¹{guanglei.zhou, chenchia.chang, jonathan.ku, isaac.jacobson, jingyu.pan, yiran.chen}@duke.edu
²[email protected]
³[email protected]

###### 摘要。自动化模拟电路拓扑设计对于减少日益多样化和定制化的应用需求所需的大量手动工作至关重要。最近的研究进展通过序列到序列微调预训练语言模型，直接从用户规范中一步生成电路拓扑。然而，这些一次性生成方法由于搜索空间呈指数级增长且训练数据集有限，无法生成复杂电路。在本文中，我们提出EXPLORE，一个增强搜索的框架，将模拟器引导的蒙特卡洛树搜索（MCTS）与基于Transformer的解码相结合，实现了模拟拓扑生成中的推理时间扩展。通过利用语言模型先验并绕过高置信度结构化标记，EXPLORE将昂贵的模拟器预算主要分配给搜索过程中改变拓扑的决策。在一个6组件、严格容差0.01的基准测试中，EXPLORE将一次性生成的成功率从12%和采样-过滤基线的33%提高到65%，并在相同搜索预算下，均方误差比采样-过滤基线降低20倍以上。这些结果确立了EXPLORE作为第一个将结构化推理时间搜索与语言模型解码相结合用于模拟拓扑生成的框架，并朝扩展LLM驱动的设计自动化迈出了实际一步。††copyright:none††conference:; ;

## 1. 引言

参考图1的标题图1.拓扑空间随电路复杂度呈组合式增长，而收集到的拓扑仍然有限，导致设计空间覆盖越来越稀疏(Fan等人，2024 (https://arxiv.org/html/2607.13416#bib.bib7); Chang等人，2024 (https://arxiv.org/html/2607.13416#bib.bib1))。

模拟电路拓扑设计位于现代电子系统的核心，支撑着从高效功率转换到高速信号处理的一切。随着设备需求的激增——不同的电压转换比率、效率目标和性能规格——设计人员定制拓扑结构的负担越来越重。传统工作流程仍然主要依靠手动，需要大量的领域专业知识，并且每次新需求都要进行数百次模拟迭代，这反过来延长了开发周期，推迟了上市时间。为了应对这些挑战，自动化拓扑设计过程变得至关重要：通过将搜索和学习方法直接嵌入设计流程，工程师可以快速探索广阔的设计空间，减少迭代次数，并加速创建优化的模拟电路。早期工作(Fan等人，2021 (https://arxiv.org/html/2607.13416#bib.bib5); Zhao and Zhang,2022 (https://arxiv.org/html/2607.13416#bib.bib8); Lu等人，2023 (https://arxiv.org/html/2607.13416#bib.bib6))利用强化学习(RL)或贝叶斯优化，通过模拟反馈发现有效的拓扑结构。这些方法降低了评估成本并生成了功能设计，但存在两个关键限制：(1)对于每个新规格，它们必须重新开始搜索或重新训练策略，(2)它们仅在小型、宽松的3-5组件电路上展示了成功。由于缺乏跨任务的先验知识，这类方法在实际应用中仍然效率低下且不可扩展。

LaMAGIC(Chang等人，2024 (https://arxiv.org/html/2607.13416#bib.bib1))将拓扑生成重新定义为自回归语言模型的序列到序列问题，并引入了多种基于文本的电路表述。在一个包含13.2万个3-5组件转换器拓扑的语料库上训练后，LaMAGIC在该范围内取得了强劲的成绩。然而，如图1 (https://arxiv.org/html/2607.13416#S1.F1)所示，拓扑搜索空间随组件数量呈指数级增长。在六个组件的情况下，良好的数据集覆盖变得不切实际：假设每个拓扑平均模拟时间为9秒，枚举整个设计空间将需要超过2000个CPU天。因此，LaMAGIC(Chang等人，2024 (https://arxiv.org/html/2607.13416#bib.bib1))难以将知识从3-5个组件迁移到六个组件，进一步扩展到8-10个组件的复杂电路就更不可行了。这一差距突出了一个根本瓶颈：现有方法受限于有限的数据集，无法独立扩展拓扑生成。克服这一限制不仅需要新的计算范式，如增强搜索的推理时间扩展技术，还需要新的数据集收集策略，以高效地在更大、更复杂的电路空间中获取高质量训练数据。

在这项工作中，我们提出了EXPLORE，一个用于自动化模拟拓扑生成的增强搜索语言模型框架。EXPLORE将模拟器引导的蒙特卡洛树搜索(MCTS)与基于Transformer的解码相结合，利用推理时间计算来生成更高质量、更具可扩展性的模拟电路拓扑。基于文本形式的电路表述，我们的框架将预训练语言模型先验与模拟器反馈相结合，引导探索走向有效且高性能的电路结构。此外，我们构建了一个更大规模的高复杂度模拟拓扑数据集，以研究基于语言模型的拓扑生成超越先前工作的可扩展性。本工作的主要贡献如下：

- •第一个推理时间扩展框架。EXPLORE是第一个将推理时间扩展引入模拟拓扑生成的工作，两个方向：一个LM引导的MCTS作为推理时间解码器，以及将相同搜索重用为模型原生的数据收集引擎。
- •结构化标记过滤。我们通过p过滤(p=0.99)绕过基于文本的电路表述中的结构化标记，跳过了24-48%昂贵的模拟试验，使得扩展到更高复杂度电路在计算上可行。
- •卓越的生成成功率和查询效率。在6组件、严格容差0.01的情况下，EXPLORE将一次性LaMAGIC的12%成功率以及其采样-过滤变体的33%提高到65%，并且在相同搜索预算下，MSE比采样-过滤低20倍以上，收敛速度比我们的MCTS-Base消融更快（100代以内）。
- •超越一次性生成方法的可扩展性。EXPLORE能够在7、8和9个组件上生成，而这是一种一次性LM解码成功率几乎为零、且先前3-6组件数据集未覆盖的领域。

## 2. 预备知识

### 2.1. 模拟拓扑设计

参考图2的标题图2.（a）一个电源转换器电路示例以及（b）其对应的图表示。

在这项工作中，我们解决与LaMAGIC(Chang等人，2024 (https://arxiv.org/html/2607.13416#bib.bib1))相同的问题：生成满足特定电压转换比率和效率目标的定制化电源转换器。电压转换比率是输出电压与输入电压之比，而功率转换效率是输出功率与输入功率之比。占空比（一个0-1之间的数字）是一个设计参数，控制开关的导通时间，影响性能。我们使用五个离散的占空比：{0.1, 0.3, 0.5, 0.7, 0.9}。我们将电路表示为超图G，顶点为V，超边为E。顶点包括三个端子（输入V_IN、输出V_OUT和地GND）以及四种组件类型（电容C、电感L和开关S_a、S_b）。超边定义了组件与端子之间的连接。图2 (https://arxiv.org/html/2607.13416#S2.F2)显示了一个示例转换器及其超图表示。

问题陈述：给定顶点V、目标转换比率r和效率η，我们的模型生成连接E并选择占空比s，创建一个满足两个性能要求的电路。

### 2.2. 基于搜索和优化的方法

经典的模拟拓扑生成将问题视为一个黑盒搜索，在组合图空间中由模拟器反馈引导。(Fan等人，2021 (https://arxiv.org/html/2607.13416#bib.bib5))将电源转换器设计建模为使用基于UCT的RL树及物理引导剪枝的序贯决策过程，与遗传或随机搜索相比，SPICE调用减少了多达67%。(Zhao and Zhang,2022 (https://arxiv.org/html/2607.13416#bib.bib8))将深度RL应用于运算放大器综合，结合符号分析和记忆，在数小时内收敛到可行设计，但需要对每个电路类别重新训练。(Lu等人，2023 (https://arxiv.org/html/2607.13416#bib.bib6))将变分自编码器与贝叶斯优化配对，以比图语法引擎更高效地识别符合规格的拓扑，而(Fan等人，2024 (https://arxiv.org/html/2607.13416#bib.bib7))通过图Transformer SPICE代理加速同一搜索循环。最近，ADO-LLM(Yin等人，2024 (https://arxiv.org/html/2607.13416#bib.bib22))用LLM上的上下文学习取代手工调整的采集函数，为贝叶斯优化提供种子以进行模拟尺寸优化。在这一系列工作中，每个新规格仍然会触发一次全新的搜索或策略重新训练，且展示的领域规模较小。

### 2.3. 基于语言模型的方法

最近的一个范式转变将拓扑生成重新表述为条件序列生成任务：给定目标规格，模型逐词条解码电路描述。AnalogCoder(Lai等人，2025 (https://arxiv.org/html/2607.13416#bib.bib4))、AnalogCoder-Pro(Lai等人，2026 (https://arxiv.org/html/2607.13416#bib.bib20))、AnalogXpert(Zhang等人，2025 (https://arxiv.org/html/2607.13416#bib.bib18))和Artisan(Chen等人，2024 (https://arxiv.org/html/2607.13416#bib.bib9))提示或微调通用或领域LLM，以输出SPICE风格的代码或在精选子电路库上操作，主要针对通用电路族。与我们的设置最接近的是LaMAGIC(Chang等人，2024 (https://arxiv.org/html/2607.13416#bib.bib1))，它微调了一个编码器-解码器Transformer，将目标(v⋆, η⋆)映射到一个自回归步骤中的转换器拓扑。后续工作通过压缩邻接表示到O(|V|)(Chang等人，2025 (https://arxiv.org/html/2607.13416#bib.bib2),2026 (https://arxiv.org/html/2607.13416#bib.bib3))以及应用RL微调(Vijayaraghavan等人，2025 (https://arxiv.org/html/2607.13416#bib.bib21))来优化这一范式。CktGNN(Dong等人，2023 (https://arxiv.org/html/2607.13416#bib.bib15))将邻接与图VAE配对，AnalogGenie(Gao等人，2025a (https://arxiv.org/html/2607.13416#bib.bib27))/AnalogGenie-Lite(Gao等人，2025b (https://arxiv.org/html/2607.13416#bib.bib19))采用欧拉电路和器件引脚表示。所有这些仍然是一步生成器：它们将所有模型能力投入到单个解码序列中，当第一次尝试在结构上无效或不符合规格时，没有机制来投入额外计算。对于需要迭代改进和模拟器反馈的复杂电路创建来说，这种一步范式效率极低。

与所有先前工作不同，EXPLORE通过一个由模拟器反馈引导的结构化搜索框架引入了推理时间扩展。EXPLORE保留了基于文本的表述，但将生成重新表述为引导搜索，借鉴了搜索增强LLM解码文献(Li等人，2022 (https://arxiv.org/html/2607.13416#bib.bib17); Hao等人，2023 (https://arxiv.org/html/2607.13416#bib.bib25); Yao等人，2023 (https://arxiv.org/html/2607.13416#bib.bib26))，在模型不确定的标记上投入额外的推理时间计算，并结合模拟器反馈。

### 2.4. 复杂电源转换器数据集：现有语料库与挑战

缺乏足够大的模拟电路数据集继续阻碍基于AI的生成方法在自动化模拟集成电路设计中的发展。现有的语料库如AnalogGenie(Gao等人，2025a (https://arxiv.org/html/2607.13416#bib.bib27))、Align(Kunal等人，2019 (https://arxiv.org/html/2607.13416#bib.bib14))、CktGNN(Dong等人，2023 (https://arxiv.org/html/2607.13416#bib.bib15))、AMSNet(Tao等人，2024 (https://arxiv.org/html/2607.13416#bib.bib16))、AMSnet-KG(Shi等人，2025 (https://arxiv.org/html/2607.13416#bib.bib24))和AICircuit(Mehradfar等人，2024 (https://arxiv.org/html/2607.13416#bib.bib23))优先考虑广度，涵盖多样化的电路族，每个电路类型仅有数千个样本。尽管需要大量手动工作从教科书和数据手册中整理这些样本，但每种类型的样本量仍然太小，无法让模型学习复杂电路的内部动态。相比之下，我们优先考虑电源转换器，并探索在单一电路类别内扩展到更高组件数量的拓扑。

然而，将电源转换器数据集扩展到更高组件数量会引入三个相互加剧的挑战：(1)学习任务变得更加复杂，因此需要显著更多的训练样本；(2)无效或无用的拓扑（例如，不连通图或近乎零效率的电路）的比例急剧上升；(3)纯随机排列产生高效转换器的概率随着搜索空间呈组合式增长而迅速缩小。这些障碍推动了第3.2节 (https://arxiv.org/html/2607.13416#S3.SS2)中详述的两阶段构建流程。

## 3. 增强搜索的语言模型框架

参考图3的标题图3.（a）浮动输入邻接矩阵公式用于边生成任务的电路示例，突出了由于结构化标记而引起的低效。（b）EXPLORE框架流程的示意图，通过逐步示例说明如何利用MCTS算法引导Transformer生成模拟电路拓扑。

我们基于LaMAGIC(Chang等人，2024 (https://arxiv.org/html/2607.13416#bib.bib1))，其用于电路生成的基于文本的表述包括浮动输入邻接矩阵公式(FM)，在6组件电路上取得了最佳的MSE。如图3 (https://arxiv.org/html/2607.13416#S3.F3)(a)所示，FM将电路连接表示为超图上的邻接矩阵，使用不同的标记、<和>指示每对顶点之间的连接类型。我们在下文利用的一个特性是，FM序列中超过一半的标记是结构化的：它们使表述在语法上合法，但不携带拓扑选择（在图3 (https://arxiv.org/html/2607.13416#S3.F3)(a)中突出显示），这是p过滤利用的切入点。

虽然我们的流程遵循用于代码生成的PUCT风格LM引导MCTS模板(Li等人，2022 (https://arxiv.org/html/2607.13416#bib.bib17); Zhang等人，2023 (https://arxiv.org/html/2607.13416#bib.bib28))，但模拟拓扑生成的三个特性几乎重塑了每一个设计选择。(i)搜索目标是图，而非文本。电路拓扑是一个无向（超）图；FM标记流只是其邻接矩阵的一种序列化形式，因此搜索空间是图空间，而非标记空间。这一点从根本上改变了探索与利用的含义：搜索中的一个节点对应于部分构造的邻接矩阵，而不是部分句子，两个操作——展开一个节点和评估一个叶子——都必须涉及对未完成图的模拟。(ii)模拟器反馈是确定性的，但高度非均匀。与代码执行不同，代码执行通常要么通过要么失败，模拟器会返回一个连续的性能度量（例如，效率数值、电压电平）。此外，这一度量仅在拓扑完全构造（即所有边都已指定）后才能获得，因此我们无法像代码搜索那样在中间部分结果上分配部分奖励。这迫使我们使用延迟奖励设置，其中整个图序列的末端模拟器结果是唯一的反馈信号。(iii)模拟器成本占主导地位。调用SPICE模拟器所需的时间比单个Transformer前向传递高出数个数量级。因此，MCTS策略必须大规模过滤模拟器调用，仅在最可能产生有效拓扑的候选者上花费这一昂贵资源。在代码生成中，可以在每个步骤廉价地过滤有语法错误或不正确调试的样本；在这里，大多数廉价过滤必须在标记空间中进行，因为每种结构选择（例如，添加一个电容还是电感）在模拟之前没有直接的成本。

这些特性共同塑造了我们的框架，如图3 (https://arxiv.org/html/2607.13416#S3.F3)(b)所示。在最外层，EXPLORE作为一个LMMCTS系统运行：给定一个目标规格，搜索在根节点从LM采样，在每个部分解码步骤选择动作（即下一个标记），并最终在叶子节点调用模拟器以获得奖励，这些奖励被反向传播以更新访问计数和值估计。与标准MCTS相比，我们使用LM策略进行动作选择（从而执行PUCT）而不是均匀的UCT，并且我们通过跳过结构化标记来加速搜索，这得益于我们研究的表述语法。在内部，搜索循环中嵌入了一个模拟器池，用于评估完整拓扑。

我们框架的核心是结构化标记过滤机制，我们称之为p过滤。关键观察是，在FM序列中，超过一半的标记是结构化的：它们是诸如和的标记，用于隔离顶点对之间的连接类型（在图3(a)中突出显示）。这些标记是必需的存在，但携带零拓扑信息：它们只保持表述语法有效。因为LM在结构化标记上赋值极高概率（≥0.99），我们可以在不牺牲拓扑完整性的情况下安全地绕过它们，在搜索过程中跳过对这些标记的模拟器评估。对于表示实际连接选择的非结构化标记，我们保留标准的PUCT搜索。这种过滤将模拟器调用减少了24-48%，使我们能够在给定的计算预算下评估更多的拓扑结构。

算法1总结了EXPLORE的完整流程。在每次搜索迭代中，从根开始，MCTS选择具有最高上置信区间的动作，利用过滤来避免在结构化标记上扩展（第4行）。当达到叶子节点时，根据当前部分序列从LM采样来完成拓扑，或者如果已经完整（即所有边都已声明），则直接使用它（第6行）。模拟器随后评估完整的图，返回性能指标（第8行）。学习的值函数被更新，奖励被反向传播以完善未来的搜索方向。该循环持续进行，直到预算用完或生成满足规格的拓扑。

算法1 EXPLORE：LM引导MCTS

输入：语言模型Pθ，模拟器S，目标规格(v⋆, η⋆)，搜索预算B，过滤阈值τ
输出：满足规格的拓扑t

1: 初始化根节点n₀
2: for i = 1...B do
3: n ← n₀
4: while n未完成且不是叶子 do
5: n ← arg maxₐ Q(n,a)+c·πₐ/a · √(Σ_b N_b)/(1+N_a)  // LM引导选择
6: 如果n是结构化标记且Pθ(n)≥τ，则跳过模拟器评估（过滤）
7: end while
8: 如果n是叶子且完整拓扑t，则
9: r ← S(t, v⋆, η⋆)  // 模拟器反馈
10: 否则
11: 从n使用LM采样完成t
12: r ← S(t, v⋆, η⋆)
13: end if
14: 反向传播r通过访问的节点
15: end for
16: 返回拥有最高奖励的拓扑t