CORVUS:基于底层同步的LLM编码代理上下文优化与缩减
摘要
CORVUS提出了一种新的轨迹架构用于LLM编码代理,通过维护相关文件的同步注册表,将文件读取操作与观察结果解耦,从而减少输入令牌9-50%,推理周期最多减少37%,同时在SWE-bench基准上保持相当的通过率。
arXiv:2607.22711v1 公告类型:新
摘要:LLM编码代理通过构建轨迹来累积推理、工具调用和结果,以实现多步决策。然而,在实践中发现的传统仅追加轨迹架构将文件读取操作与其观察结果紧密耦合,捕获的快照永久固定在时间历史中。随着文件通过代理编辑或并发的人类修改而变化,这些快照变得过时,导致推理错误,并导致代理冗余重新读取文件,每次重新读取都会向轨迹中追加另一个副本。为了缓解这一问题,我们提出了CORVUS,一种新颖的轨迹架构,通过维护相关文件的同步注册表并将它们当前的内容仅注入每个推理循环,从而将文件读取操作与其观察结果解耦。这一结构性变化产生了显著更轻量的轨迹,这些轨迹通过构造与实际代码库状态保持同步,消除了冗余文件副本和过时快照,这些快照膨胀了常规轨迹。我们在SWE-POLYBENCH_VERIFIED和SWE-BENCH PRO上使用四种LLM评估了CORVUS,实现了每个任务平均输入令牌减少9-50%,最终提示缩短15-32%,推理周期最多减少37%,同时保持相当的通过率。
查看缓存全文
缓存时间: 2026/07/28 06:20
# CORVUS: 基于底层同步的LLM编码智能体上下文优化与缩减 来源:https://arxiv.org/abs/2607.22711 查看PDF (https://arxiv.org/pdf/2607.22711) > 摘要:LLM编码智能体通过构建轨迹来运行,这些轨迹累积推理、工具调用和结果,以实现多步骤决策。然而,实践中常见的仅追加轨迹架构将文件读取操作与其观察结果紧密耦合,捕获的快照永久固定在时间顺序历史中。当文件因智能体编辑或并发的人类修改而发生变化时,这些快照变得陈旧,导致推理错误,并使得智能体冗余重新读取文件,每次重新读取都会在轨迹中追加另一个副本。为了缓解这一问题,我们提出了CORVUS,一种新颖的轨迹架构,它通过维护相关文件的同步注册表并在每个推理周期仅注入其当前内容,将文件读取操作与其观察结果解耦。这种结构变化产生了更轻量级的轨迹,通过设计保持与实际代码库状态的同步,消除了使传统轨迹膨胀的冗余文件副本和陈旧快照。我们在SWE-POLYBENCH_VERIFIED和SWE-BENCH PRO上使用四种LLM评估了CORVUS,每个任务的输入token平均减少9-50%,最终提示缩短15-32%,推理周期最多减少37%,同时保持相当的通过率。 ## 提交历史 来自:David OBrien [查看邮件 (https://arxiv.org/show-email/36df42a4/2607.22711)] **[v1]**2026年7月20日星期一 23:01:39 UTC (452 KB)
相似文章
长时段LLM智能体服务的并行上下文压缩
介绍了用于长时间范围LLM智能体的并行上下文压缩,实现了对摘要量的细粒度控制,并相比多个骨干模型上的顺序同步压缩,降低了端到端延迟。
@bojie_li:如果你在生产环境中运行LLM智能体,你就会明白其中的代价。每一轮都要重新读取相同的长上下文——系统策略、工具……
研究人员提出了可编程KV缓存(Programmable KV Cache),这是一种用于编辑和组合KV缓存的方法,旨在避免LLM智能体推理过程中重新预填充长上下文,在保持决策一致性的同时,将p90首令牌时间减少了53至398倍。
面向LLM智能体的确定性折叠:无需LLM压缩的连续性
Context Warp Drive 是一个面向LLM智能体的开源库,它使用确定性折叠来管理长上下文窗口,无需基于LLM的摘要,从而实现高效、缓存友好的智能体连续性。
当大型语言模型发展语言:用于高效多智能体推理的符号通信
本文提出通信语言符号路由(CLSR),多个LLM智能体自主发明并演化紧凑的符号语言进行推理,相比思维链(CoT)实现3-6倍的令牌减少,同时保持准确性。
LLM智能体能够查看代码仓库
本文首次系统性地实证研究了使用可视化仓库表示来增强基于LLM的编码智能体,结果表明,将可视化图作为补充模态集成,可以在保持或提高问题解决准确率的同时,将令牌消耗降低高达26%。