Self-GC：面向长时域LLM智能体的自管理上下文

# Self-GC: 面向长程LLM智能体的自治理上下文 来源：https://arxiv.org/html/2607.00692 ###### 摘要 长程LLM智能体会积累工具结果、文件、计划及用户约束，这些内容结构复杂，无法仅作为可丢弃的文本后缀处理。目前的系统大多依赖运行时启发式方法（如按时间顺序修剪、工具输出掩码）或接近上下文限制时的最终自总结。启发式方法成本低，但对未来依赖关系视而不见；总结保留了叙事状态，但往往隐藏了精确的证据、定位器和可编辑制品。我们提出Self-GC，其中GC代表自治理上下文，同时有意呼应垃圾回收（garbage collection）：系统不仅回收未使用的令牌，还治理智能体上下文对象的生命周期。Self-GC将用户轮次、工具片段和技能状态转换为带索引的对象；通过侧信道规划器提出折叠、掩码和修剪操作；并让执行框架强制实施可恢复的侧车、安全的提交边界及缓存感知的提交。在包含33个会话的Hard Set上，Self-GC修剪了43.95%的前缀令牌，同时84.85%的未来延续不受影响，而启发式基线的无影响率仅为54.55%至69.70%。在包含332个会话的生产衍生套件上，三种规划器主干的无影响率达到91.27%至94.58%，而基线仍停留在77.71%至87.46%。在生产中，在线账户级拆分使日间平均输入令牌减少10%至15%，峰值减少接近20%。这些结果表明，上下文管理应作为对索引化、可恢复对象的运行时生命周期控制，而非事后文本清理。

## 引言

参考图注图1：共享智能体轨迹上的对象级上下文管理。令牌缓冲区方法会丢弃对后续关键依赖的锚点；Self-GC通过折叠、掩码和修剪配合侧车恢复来保留它们。

大语言模型（LLMs）已从单轮助手快速演变为交互式智能体，能够浏览网页、调用工具、编辑文件并协调多步骤工作流（Liu et al.2023a (https://arxiv.org/html/2607.00692#bib.bib16)；Zhou et al.2024 (https://arxiv.org/html/2607.00692#bib.bib34)；Guo et al.2026 (https://arxiv.org/html/2607.00692#bib.bib8)）。这些智能体在信息检索、编码、文档生成和数据分析方面展现出强大潜力。然而，与单轮提示不同，长程智能体必须承载远超自然语言对话的内容。其活动上下文还会积累执行轨迹，包括用户请求、shell输出、浏览器证据、中间制品、技能状态和局部计划。随着交互时间跨度增长，活动上下文成为核心运行时资源，直接影响总成本、延迟和下游任务质量。

然而，一个关键的系统挑战持续存在：大多数已部署的上下文管理机制仍将智能体历史视为线性令牌缓冲区。一类方法在运行过程中根据消息年龄、长度和类型使用简单规则修剪片段。另一类方法则等待上下文接近硬限制，然后让模型总结先前的交互（Cassano and Rush2026 (https://arxiv.org/html/2607.00692#bib.bib2)；Xu, Zhang, and Arunachalam2026 (https://arxiv.org/html/2607.00692#bib.bib28)）。这两种策略都有用，但暴露了尖锐的权衡。基于位置的启发式方法无法判断某个旧工具输出是否包含后续步骤仍需要的唯一URL、表格值、文件路径或可编辑正文。最终总结保留了叙事状态，但往往将精确证据压缩为散文，使得这些证据无法再被寻址、审计或恢复。

本研究通过挑战令牌缓冲区视图本身来解决这一权衡。我们的关键观察是：长程智能体上下文更适合理解为具有不同生命周期需求的运行时对象集合。某些对象已过时可移除，某些重复但应保留结构提示，某些体积庞大但必须精确可恢复。因此，编辑是否安全或有害并非仅由时间位置决定，而是取决于该对象是否将成为未来依赖。如图1 (https://arxiv.org/html/2607.00692#Sx1.F1)所示，当前系统的失败模式并非仅仅是上下文过长。更深层的问题是令牌缓冲区操作与对象级未来依赖之间的不匹配。

基于这一见解，我们提出Self-GC，一个可移植到不同执行框架的框架，用于长程LLM智能体的自治理上下文。该名称有意呼应垃圾回收：Self-GC不仅仅回收未使用的令牌，还治理智能体上下文对象的生命周期。它首先将用户轮次、工具片段和技能状态映射为带稳定标识符的索引上下文对象。然后，侧信道规划器反思这些对象的未来价值，并针对这些标识符提出折叠、掩码或修剪操作。在任何编辑进入实时对话之前，执行框架在本地预演提议的计划，强制执行有效目标和安全的轮次边界，将折叠后的有效载荷存储在可恢复的侧车中，修复断裂的谱系，规范化提供者消息，并在前缀缓存破坏所导致的损失超过预期节省时延迟每次提交。在这种分工中，模型提供关于未来价值的语义判断，而执行框架维护运行时不变性，如可恢复性和协议有效性。

为验证Self-GC，我们结合离线反事实判断与在线部署证据。在包含33个会话的Hard Set上，Self-GC在43.95%修剪率下达到84.85%的无影响率，而启发式基线尽管修剪率更高，无影响率仅为54.55%至69.70%。在包含332个会话的Production Suite上，三种规划器主干的无影响率达到91.27%至94.58%。在生产账户级拆分中，Self-GC进一步使日间平均输入令牌在汇总覆盖流量上减少10%至15%。本研究的主要贡献总结如下：

- • 我们将长程智能体上下文管理表述为对索引化运行时对象的生命周期控制，而非线性消息修剪。
- • 我们提出Self-GC，一个包含折叠、掩码和修剪操作、侧车恢复及缓存感知提交策略的反思式计划-预演-提交框架。
- • 我们在生产衍生轨迹上评估Self-GC，并表明其在离线与在线场景中均改善了令牌缩减与未来依赖保留之间的权衡。

## 相关工作

### 智能体记忆与上下文管理

长程智能体通常通过外部记忆或检索进行扩展。检索增强生成向提示中添加选定的证据（Lewis et al.2020 (https://arxiv.org/html/2607.00692#bib.bib12)），而后续工作将交互历史组织为显式记忆单元、用户画像、情景记录或任务意图对齐的记忆（Zhong et al.2024 (https://arxiv.org/html/2607.00692#bib.bib33)；Du et al.2026 (https://arxiv.org/html/2607.00692#bib.bib7)；Tan, Subagdja, and Tan2026 (https://arxiv.org/html/2607.00692#bib.bib22)；Dai et al.2026 (https://arxiv.org/html/2607.00692#bib.bib5)；Zhao et al.2024 (https://arxiv.org/html/2607.00692#bib.bib32)）。诸如MemGPT、LongMem、Mem0、A-MEM、HippoRAG、REMem和TiMem等系统进一步研究分层记忆、持久存储、图结构记忆和时间整合（Packer et al.2024 (https://arxiv.org/html/2607.00692#bib.bib19)；Wang et al.2023 (https://arxiv.org/html/2607.00692#bib.bib23)；Chhikara et al.2025 (https://arxiv.org/html/2607.00692#bib.bib3)；Xu et al.2025 (https://arxiv.org/html/2607.00692#bib.bib29)；Gutiérrez et al.2024 (https://arxiv.org/html/2607.00692#bib.bib9)；Shu et al.2026 (https://arxiv.org/html/2607.00692#bib.bib21)；Li et al.2026 (https://arxiv.org/html/2607.00692#bib.bib13)）。运行时上下文压缩解决一个相关但不同的问题：如何在智能体持续运行过程中治理活动提示视图。原生或训练过的自总结正成为平台能力（Cassano and Rush2026 (https://arxiv.org/html/2607.00692#bib.bib2)；Xu, Zhang, and Arunachalam2026 (https://arxiv.org/html/2607.00692#bib.bib28)），而近期任务感知方法使压缩更具语义性，包括用于编码智能体上下文的SWE-Pruner、用于预算搜索智能体决策的ContextBudget、用于压缩指南优化的ACON，以及用于对检索块进行智能体修剪的Chroma Context-1（Wang et al.2026 (https://arxiv.org/html/2607.00692#bib.bib24)；Wu et al.2026 (https://arxiv.org/html/2607.00692#bib.bib25)；Kang et al.2025 (https://arxiv.org/html/2607.00692#bib.bib11)；Chroma2026 (https://arxiv.org/html/2607.00692#bib.bib4)）。Self-GC与记忆存储方法互补，并不同于消息或块修剪：它将活动上下文治理为带有显式折叠、掩码和修剪生命周期的索引化运行时对象。

### 高效智能体推理与评估

几个近期系统更接近Self-GC，因为它们直接减少智能体轨迹或长上下文。AgentDiet通过轨迹缩减降低LLM智能体成本（Xiao et al.2025 (https://arxiv.org/html/2607.00692#bib.bib27)），AgentFold对长程网络智能体执行主动上下文折叠（Ye et al.2026 (https://arxiv.org/html/2607.00692#bib.bib30)），LongCodeZip为代码语言模型压缩长代码上下文（Shi et al.2025 (https://arxiv.org/html/2607.00692#bib.bib20)）。这些方法为Self-GC提供了更强的基线，但它们在缩短历史时未通过执行框架强制对索引对象的可恢复性。另一项工作在不改变任务语义的前提下降低推理或智能体循环成本。AutoTool减少重复的工具选择开销（Jia and Li2026 (https://arxiv.org/html/2607.00692#bib.bib10)），而模型内部的长上下文系统通过重击点选择、注意力汇点、查询感知选择、金字塔信息漏斗或可恢复通道压缩来压缩或淘汰KV缓存（Zhang et al.2023 (https://arxiv.org/html/2607.00692#bib.bib31)；Xiao et al.2023 (https://arxiv.org/html/2607.00692#bib.bib26)；Li et al.2024 (https://arxiv.org/html/2607.00692#bib.bib14)；Cai et al.2024 (https://arxiv.org/html/2607.00692#bib.bib1)；Liao et al.2026 (https://arxiv.org/html/2607.00692#bib.bib15)）。提示缓存的进一步经济学表明，语义压缩必须考虑缓存破坏（Lumer et al.2026 (https://arxiv.org/html/2607.00692#bib.bib18)）。Self-GC在KV层之上操作：它编辑语义活动视图，并仅在预期节省超过前缀缓存破坏时提交。正交地，交互式基准如AgentBench、WebArena和MCP-AgentBench衡量工具使用智能体（Liu et al.2023a (https://arxiv.org/html/2607.00692#bib.bib16)；Zhou et al.2024 (https://arxiv.org/html/2607.00692#bib.bib34)；Guo et al.2026 (https://arxiv.org/html/2607.00692#bib.bib8)），而LLM-as-a-judge协议如G-Eval和JudgeLM支持可审计的基于评分卡的评估（Liu et al.2023b (https://arxiv.org/html/2607.00692#bib.bib17)；Zhu, Wang, and Wang2023 (https://arxiv.org/html/2607.00692#bib.bib35)）；我们采用此类裁判来隔离这些基准未回答的问题，即保留的上下文是否仍包含真实未来延续所需的唯一锚点。

参考图注图2：Self-GC运行时框架概览。上下文引擎钩子将索引化上下文对象暴露给侧信道规划器；执行框架随后在本地预演提议的编辑，并仅在安全的轮次边界提交。

## Self-GC框架

Self-GC是介于智能体执行框架与模型输入构建之间的治理层，如图2 (https://arxiv.org/html/2607.00692#Sx2.F2)所示。它仅假设执行框架能够识别上下文边界、维护对象索引，并在每次模型调用前投影活动视图。完整转录始终存在于活动视图之外，以供后续审计和恢复。

**执行框架接口。** 移植Self-GC需要一个小型上下文引擎钩子，而非特定于提供商的智能体重写。执行框架必须暴露轮次和工具片段边界，分配稳定的对象标识符，让侧信道规划器读取分叉后的前缀，将候选编辑重放到本地投影中，将折叠的有效载荷持久化到侧车存储，并仅在安全的轮次边界提交已接受的投影。提供商特定的消息规范化仍留在执行框架内部；规划器仅对现有标识符发出对象操作。

### 索引化上下文对象

Self-GC将转录映射为可寻址对象，而非编辑原始消息文本。当前实现使用`conversation:user:k`表示用户请求及其后续执行片段，`function:tool:n`表示可独立编辑的工具级片段。轻量级标签使这些对象对规划器可见，无需模型原生记忆原语。助手轮次不是首要的GC目标，因为它们通常包含连接文本和工具调用外壳；相反，当相邻对象发生变化时，执行框架会保留或规范化它们。

对象标识符由会话本地的单调分配器分配。每个可见的用户输入在其头部元数据中接收稳定的`conversation:user:k`标识符，每个工具结果在轻量级XML边界标签中接收稳定的`function::n`标识符。这些标识符是控制元数据而非助手散文，因此规划器可以定位精确对象，而执行框架可以重放、验证和恢复编辑，无需模糊文本匹配。索引扮演三个角色：为规划器提供稳定目标，让执行框架跟踪生命周期状态，以及将恢复路径与总结散文分离。因此，压缩后的活动视图仍可指向侧车存储中字节精确的折叠有效载荷。这是与最终总结的核心区别：Self-GC减少提示表面积，同时保留对象身份。

### 操作：折叠、掩码与修剪

每个对象可以接收一个生命周期操作，如图3 (https://arxiv.org/html/2607.00692#Sx3.F3)总结。**折叠**将精确有效载荷移至侧车，并留下紧凑的恢复指针。**掩码**保留结构边界提示，同时省略重复或低信号的中间内容。**修剪**从活动视图中移除过时内容，不提供恢复保证。这些区别在智能体轨迹中很重要：失败的命令日志可能被修剪，重复的浏览器截图可能被掩码，生成的报告正文可能需要折叠，以便未来轮次能够精确引用或修订。

参考图注图3：针对索引对象的生命周期操作。折叠将精确有效载荷移至侧车并留下紧凑恢复指针，掩码保留对象边界同时省略低信号中间内容，修剪移除过时片段且不提供恢复保证。

### 反思式规划、预演与提交

当令牌压力、轮次边界或策略触发治理轮次时，Self-GC分叉当前上下文前缀并附加仅规划器可见的指令。规划器看到索引化对象，并针对现有标识符发出结构化计划。它不重写对话，也不生成最终活动视图。因此，规划器提示被编写为对象-操作契约，而非总结提示。它要求模型依次决定排除、未来依赖、粒度及操作语义，并配以围绕精确锚点、可编辑制品、活动句柄和来源支持的证据的示例。这使得规划器在执行框架应用确定性修剪前表现得像保守的对象过滤器。