用于多智能体代码生成的检索条件拓扑选择及其可证明的预算守恒

arXiv cs.AI 论文

摘要

本文介绍了 RGAO,这是一种用于多智能体代码生成的检索引导自适应编排框架,可根据代码复杂度动态选择拓扑结构。它提供了一种形式化的预算代数,在显著降低相较于基线方法的路由错误率的同时,确保了资源的可证明守恒。

arXiv:2605.05657v1 公告类型:新文章 摘要:用于代码生成的多智能体 LLM 系统面临一个基本的路由问题:最优的编排拓扑取决于待修改代码的结构复杂度,然而现有系统在选择拓扑时并未参考代码库。我们提出了检索引导自适应编排(RGAO),这是一种通过在选定编排拓扑之前从分层代码索引中提取结构复杂度向量来闭合这一循环的架构。RGAO 运行于 Code-Agent 框架内,这是一个多智能体框架,其子智能体由包含六维预算向量的形式化契约进行约束。我们的核心贡献在于将此前独立的两个研究领域——基于复杂度条件的 LLM 路由和形式化资源代数——相结合,产生出单独使用任一方法都无法实现的特性:在检索条件动态拓扑选择下的可证明预算守恒。具体而言,我们的贡献包括:(1)一种基于复杂度条件的拓扑路由器,将代理测量的错误路由率从 30.1% 降低至 8.2%;(2)一种具有结构归纳守恒定理的预算代数;以及(3)一种分层代码检索引擎。实证评估表明,其 DAG 构建时间低于毫秒级,且树索引具备线性扩展性。
查看原文
查看缓存全文

缓存时间: 2026/05/08 08:29

# 带有可证明预算守恒的多智能体代码生成检索条件拓扑选择

来源:https://arxiv.org/html/2605.05657

Abhijit Talluri
独立研究人员
talluri\.abhijit@gmail\.com

&Raghavendra Chilukuri
独立研究人员
raghubt\.2020@gmail\.com

Pujith Anne
独立研究人员
annep\.devops@gmail\.com

&Bhagavan Choudary Pendiyala
独立研究人员
bhagavanchoudary@gmail\.com

###### 摘要

用于代码生成的多智能体大语言模型(LLM)系统面临一个根本性的路由问题:最优编排拓扑——我们区分 **FastPath**(单体)、**SubAgent**(单一专家)、**MultiAgent**(流水线或蜂群)和 **DeepResearch**(多阶段检索密集型)——取决于待修改代码的结构复杂性,然而现有系统在选择拓扑时并不咨询代码库。我们提出了 *检索引导自适应编排*(RGAO),这是一种通过从分层代码索引中提取结构复杂度向量来关闭此循环的架构,*然后*选择编排拓扑。RGAO 在 **Code-Agent** 内运行,这是一个多智能体框架,其子智能体受具有六维预算向量的形式化 $\langle\mathcal{I},\mathcal{C},\mathcal{T},\mathcal{M}\rangle$ 合约约束。我们的核心贡献是结合了两条先前独立的研究路线——复杂度条件 LLM 路由和形式化资源代数——产生了两者单独都无法具备的属性:*在检索条件动态拓扑选择下的可证明预算守恒*。具体而言,我们的贡献包括:(1)一个 *复杂度条件拓扑路由器*,它将基于检索的代码结构信号(依赖深度、跨模块耦合、符号密度)映射到编排决策,将基于正则表达式分类的代理测量误路由率从 30.1%(95% Wilson CI [26.4, 34.1])降低到 8.2% [6.1, 10.9](配对 McNemar, $p<10^{-6}$);(2)一个带有结构归纳守恒定理(定理1 (https://arxiv.org/html/2605.05657#Thmtheorem1))的 *预算代数*,确保层次化合约委派永远不超过父级边界,在执行前以 $O(|V|+|E|)$ 进行静态验证;以及(3)一个 *层次化代码检索* 引擎,结合 LATTICE 路径分数校准、KohakuRAG 风格的多查询重构与 RRF 融合,以及在树状仓库索引上的 RepoGraph 风格一跳类型依赖扩展。实证评估显示了亚毫秒级的 DAG 构建、线性树索引可扩展性(200个文件在 11.1 毫秒内处理 2,002 个节点,中位数±MAD, $n=20$ 轮)以及 0.65$\mu$s 的预算检查开销。路由和延迟数据通过代理工具报告;完整的 SWE-bench Verified / SWE-bench Pro 运行留待后续评估阶段,原因详见第 6 节 (https://arxiv.org/html/2605.05657#S6)。

## 1 引言

LLM 驱动的代码生成在几年内已从单函数完成发展为自主仓库级错误修复 Yang et al. (2024 (https://arxiv.org/html/2605.05657#bib.bib44)); Wang et al. (2024 (https://arxiv.org/html/2605.05657#bib.bib43))。多智能体架构——为规划、编码、测试和审查设置专门的子智能体——现在是复杂任务上的主导方法,MetaGPT Hong et al. (2024 (https://arxiv.org/html/2605.05657#bib.bib13))、AOrchestra Ruan et al. (2026 (https://arxiv.org/html/2605.05657#bib.bib32)) 和 Magentic-One Fourney et al. (2024 (https://arxiv.org/html/2605.05657#bib.bib9)) 在公共基准测试中领先。然而,多智能体分解的理由并非无懈可击。MultiAgentBench Zhu et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib53)) 报告在工具密集设置中存在 2–6 倍的效率惩罚,且在总计算量恒定的情况下,具有统一上下文的单智能体可以匹配多智能体系统 Yin et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib48))。

我们认为这种紧张关系有一个简单的根源:现有编排器在选择拓扑时不看代码。正则表达式分类器根据查询的表面特征进行路由 Yang et al. (2024 (https://arxiv.org/html/2605.05657#bib.bib44));AdaptOrch 使用任务的依赖图 Yu (2026 (https://arxiv.org/html/2605.05657#bib.bib49));DAAO 将 VAE 拟合到查询难度 Su et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib36))。它们都没有咨询任务实际触及的代码结构,这是唯一能清晰区分单文件编辑和跨模块重构的信号。直观地说,单个文件内的五行 bug 修复和十几个包之间的协调更改不应该通过相同的流水线进行路由——但当前的系统无法区分这两者。

本文提出了 *检索引导自适应编排*(RGAO),从而关闭了这个循环。在初始检索传递后,RGAO 以亚毫秒级成本直接从树索引中提取五维复杂度向量 $\mathbf{c}=(d_{\text{dep}},n_{f},n_{s},h_{t},\rho_{x})$——最大依赖深度、文件数量、符号数量、树深度和跨模块耦合——并与其一起使用查询来选择四种编排拓扑之一:**FastPath**(单体,平凡范围)、**SubAgent**(单一专家合约)、**MultiAgent**(线性流水线或并行蜂群)和 **DeepResearch**(检索密集型多阶段)。在一个包含 250 个实例的标记路由集上,这使误路由率从基于正则表达式的分类的 30.1% 降低到 8.2%(配对 McNemar $p<10^{-6}$)。

RGAO 与一个 *预算代数* 配对,其守恒定理(定理1 (https://arxiv.org/html/2605.05657#Thmtheorem1))在任何 LLM 调用前以 $O(|V|+|E|)$ 进行静态验证,并与一个 *层次化检索引擎* 配对,该引擎在树状仓库索引上融合 LATTICE 路径校准 Gupta et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib12))、KohakuRAG 多查询重构 Tanaka et al. (2026 (https://arxiv.org/html/2605.05657#bib.bib37)) 以及通过 RRF Cormack et al. (2009 (https://arxiv.org/html/2605.05657#bib.bib7)) 的 BM25-向量混合搜索。这两个组件都在 **Code-Agent** 内操作,后者此外还提供了三门预执行协议、确定性干预恢复 Ma et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib19))、针对只读合约的锁保护并行扇入输入,以及 $O(k)$ 类型化工件传递以替代 $O(n^2)$ 转录共享。

这项工作的头条是组合:单独的条件复杂度路由或形式化预算代数都不能产生我们为组合所证明的属性,即在检索条件动态拓扑选择下的可证明预算守恒。

需要预先指出的一个注意事项:第 5 节 (https://arxiv.org/html/2605.05657#S5) 中的路由和延迟数据来自代理工具 (`evals/swebench_proxy.py`);完整的 SWE-bench Verified 和 Pro 运行留待后续评估阶段,原因详见第 6 节 (https://arxiv.org/html/2605.05657#S6)。

## 2 相关工作

#### 多智能体 LLM 的拓扑路由

MasRouter Yue et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib51)) 通过查询分类器级联模式/角色/LLM 路由(在 MBPP 上降低 52% 的开销)。AgentConductor Wang et al. (2026 (https://arxiv.org/html/2605.05657#bib.bib42)) 训练一个 RL 编排器,从查询难度构建密度感知 DAG(相对于最佳静态基线提升 14.6% pass@1)。AFlow Zhang et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib52)) 和 GPTSwarm Zhuge et al. (2024 (https://arxiv.org/html/2605.05657#bib.bib54)) 通过 MCTS 或梯度优化搜索代理工作流图;AdaptOrch Yu (2026 (https://arxiv.org/html/2605.05657#bib.bib49)) 增加了性能收敛缩放定律。**我们的不同之处在于** *条件信号*:以上所有都基于查询侧特征进行路由,而 RGAO 基于从分层索引中提取的 *检索侧* 代码结构信号进行条件判断——机制可解释且为亚毫秒级。

#### 形式化预算代数

Agent Contracts Ye and Tan (2026 (https://arxiv.org/html/2605.05657#bib.bib47)) 指定了七元组合约并证明 *在运行时* 的层次化预算守恒。Self-Healing Router Bholani (2026 (https://arxiv.org/html/2605.05657#bib.bib4)) 证明了在加权工具图上基于 Dijkstra 的二进制可观测性。MonoScale Shao et al. (2026 (https://arxiv.org/html/2605.05657#bib.bib35)) 给出了信任区域单调性能保证。**我们的不同之处在于** *静态* $O(|V|+|E|)$ DAG 级验证器,它在任何 LLM 调用前拒绝不可行配置,加上对委派森林的显式结构归纳证明(定理1 (https://arxiv.org/html/2605.05657#Thmtheorem1),附录 H (https://arxiv.org/html/2605.05657#A8))。数学平行于线性资源类型 Wadler (1990 (https://arxiv.org/html/2605.05657#bib.bib40)) 和 S-不变 Petri 网守恒定律 Murata (1989 (https://arxiv.org/html/2605.05657#bib.bib21))。

#### 成本感知 LLM 路由和代码检索

RouteLLM Ong et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib22)) 和 FrugalGPT Chen et al. (2023 (https://arxiv.org/html/2605.05657#bib.bib6)) 在每查询级别在 LLM 之间进行路由;我们在每任务级别路由拓扑,并自然地与它们组合。对于检索,我们使用 LATTICE Gupta et al. (2025 (https://arxiv.org/html/2605.05657#bib.bib12))、RepoGraph Liu et al. (2025a (https://arxiv.org/html/2605.05657#bib.bib17))、HyDE Gao et al. (2023 (https://arxiv.org/html/2605.05657#bib.bib10))/ RAG-Fusion Raudaschl (2024 (https://arxiv.org/html/2605.05657#bib.bib29));Tanaka et al. (2026 (https://arxiv.org/html/2605.05657#bib.bib37))、RAPTOR Sarthi et al. (2024 (https://arxiv.org/html/2605.05657#bib.bib33)) 和 PageIndex Vectify AI (2025 (https://arxiv.org/html/2605.05657#bib.bib39)) 作为正交原语;我们的贡献是 *使用它们的输出作为路由信号*,而不是原语本身。

#### 组合新颖性

检索信号条件拓扑路由与结构验证的预算守恒定律配对,没有完全并行的匹配。每种成分都经过充分研究;组合产生了两者单独都不具备的属性。扩展的 25 系统比较(附录 K (https://arxiv.org/html/2605.05657#A11))支持这一定位。

## 3 系统架构

**Code-Agent** 将 LLM 代码生成智能体组织为五层:(i) *智能体图*(LangGraph 推理循环),(ii) *子智能体编排*(意图分类、合约注册表),(iii) *蜂群执行*(DAG 调度、干预),(iv) *代码检索*(树索引、混合 BM25-向量搜索),以及 (v) *基础设施*(A2A Google (2025 (https://arxiv.org/html/2605.05657#bib.bib11))、MCP Anthropic (2024 (https://arxiv.org/html/2605.05657#bib.bib2))、可观测性)。图 1 (https://arxiv.org/html/2605.05657#S3.F1) 显示了带有 RGAO 的检索到路由循环(绿色虚线箭头突出显示)的端到端数据流。

```text
检索层          路由层          拓扑选择          执行层
用户查询 q
|
v
树索引: Root → Dir → File → Sym
|
v
多策略搜索: LATTICE + KohakuRAG + BM25
|
v
c ∈ R^5 (复杂度向量)
|
v
代码上下文: top-k 结果
|
v
拓扑路由器: τ* = argmin_τ L̂(τ,c,q) + λ Cost(τ)
|
v
FastPath (单体)
SubAgent (1 合约)
MultiAgent (DAG/蜂群)
DeepRes. (多阶段)
|
v
预算代数验证器: ⨁_{i=1}^k B_i ⪯ B_parent (O(|V|+|E|), 静态)
|
v
蜂群执行器: 3-门协议 + 干预
|
v
结果 + 工件
```

图 1: 带有 RGAO 的 Code-Agent 架构。用户查询 $\mathbf{q}$ 进入 *检索层*(蓝色),该层构建树索引并提取复杂度向量 $\mathbf{c}\in\mathbb{R}^5$。*路由层*(绿色)将 $(\mathbf{c},\mathbf{q})$ 映射到四种拓扑之一。*执行层*(红色)验证预算守恒($O(|V|+|E|)$,静态)然后通过三门蜂群执行器分发。实线:数据;虚线:合约检查;点线:检索信号(先前系统中缺乏的 RGAO 循环)。

#### 运行时表面

这五层组合成一个端到端的运行时,支持长时间、多轮智能体执行的操作形状:通过带有可选 AES-256-GCM 静态加密 LangChain (2024 (https://arxiv.org/html/2605.05657#bib.bib15)) 的 Postgres 支持的检查点序列化器实现持久任务状态;内置工具用于文件系统操作、沙盒代码执行、Web 检索(带有 SSRF 守卫和方案白名单)以及动态 MCP Anthropic (2024 (https://arxiv.org/html/2605.05657#bib.bib2)) 连接器;跨九个单元分布的跨会话内存(工作/短期/长期 $\times$ 语义/情景/程序),通过结构而非字符串前缀纪律强制实施租户隔离;通过 `delegate` 工具进行具有隔离上下文的子智能体分发;基于四级风险格 (`read_only` $\prec$ `internal` $\prec$ `write` $\prec$ `execute`) 的人工在环批准门;以及通过带有 OpenInference 标签的 MLflow 追踪实现的可观测性。几个商业和开源智能体运行时(LangGraph LangChain (2024 (https://arxiv.org/html/2605.05657#bib.bib15))、OpenAI Agents OpenAI (2025 (https://arxiv.org/html/2605.05657#bib.bib24))、AutoGPT Richards (2023 (https://arxiv.org/html/2605.05657#bib.bib30)))也提供相同的表面;**Code-Agent** 的区别在于静态预算保证(§3.5 (https://arxiv.org/html/2605.05657#S3.SS5)),现有平台仅在运行时承认这一点。轻量级委派协议 Anderson et al. (2026 (https://arxiv.org/html/2605.05657#bib.bib1)) 在没有预算保证的情况下实现了相同的隔离;**Code-Agent** 的 `delegate` 工具组合了两者。

### 3.1 基于合约的子智能体抽象

每个子智能体都由具有四个组件的形式化合约 $\langle\mathcal{I},\mathcal{C},\mathcal{T},\mathcal{M}\rangle$ 定义:$\mathcal{I}$ 指令(包括完成谓词 $\kappa$),$\mathcal{C}$ 上下文,带有六维预算向量 $B=(B_{\text{iter}},B_{\text{calls}},B_{\text{tok}},B_{\text{sec}},B_{\text{retry}},B_{\text{handoff}})\in\mathbb{N}^6$,$\mathcal{T}$ 工具,通过四级风险格过滤 (`read_only` $\prec$ `internal` $\prec$ `write` $\prec$ `execute`),以及 $\mathcal{M}$ 模型选择。六个内置工厂(Coder, Researcher, Planner, Tester, Reviewer, Diagnostician)每个实例化耗时 $\approx 1.1\,\mu$s(附录 E (https://arxiv.org/html/2605.05657#A5))。三个预设预算层级(tight/standard/generous)和每个组件的完整文本在附录 B (https://arxiv.org/html/2605.05657#A2) 中;合约解剖和预算组合示例见 图 2 (https://arxiv.org/html/2605.05657#S3.F2)。

(a) $\langle\mathcal{I},\mathcal{C},\mathcal{T},\mathcal{M}\rangle$ 合约
$\mathcal{I}$ 指令:提示,完成谓词 $\kappa$,拒绝/接受关键词,验证阶段
$\mathcal{C}$ 上下文 ($B\in\mathbb{N}^6$):迭代,调用,令牌,秒,重试,移交
$\mathcal{T}$ 工具:4 级风险格:读/内部/写

相似文章

COAgents:用于学习和导航路径规划问题搜索空间的多智能体框架

arXiv cs.AI

COAgents是一个合作式多智能体框架,用于解决车辆路径问题,它将搜索过程建模为图,使用专门智能体进行节点选择、移动选择和跳跃以逃离局部最优。在CVRP和VRPTW基准测试上取得了最先进的结果,相比先前的基于学习的方法,将最佳已知解差距最多缩小了44%。