Paper page - PEEK：面向长上下文LLM代理的上下文地图作为方向缓存

来源：https://huggingface.co/papers/2605.19932

摘要

PEEK使大型语言模型代理能够通过持久化上下文地图高效复用关于重复外部上下文的方向知识，从而降低计算成本并提升性能。

大型语言模型（LLM）代理越来越多地在长且重复的外部上下文（如文档语料库和代码仓库）中运行。在多次调用之间，现有方法要么保留代理的轨迹，要么保留对原始材料的被动访问，要么保留任务级别的策略。但没有任何方法保留我们认为对于重复同上下文工作负载最需要的东西：关于重复上下文本身的可复用方向知识（例如，上下文包含什么、如何组织，以及历史上哪些实体、常量和模式是有用的）。我们提出PEEK，一个系统，它将这些方向知识缓存并维护为一张上下文地图：代理提示中一个大小恒定的小构件，为其提供对外部上下文的持久窥探。该地图通过一个可编程缓存策略维护，包含三个模块：一个蒸馏器，从推理时信号中提取可迁移知识；一个制图师，将其转化为结构化编辑；以及一个基于优先级的驱逐器，强制执行固定的令牌预算。在长上下文推理和信息聚合任务上，PEEK相比强基线提升6.3–34.0%，同时使用少93–145次迭代，成本比最先进的提示学习框架ACE低1.7–5.8倍。在上下文学习任务上，PEEK的求解率和评分准确性分别提升6.0–14.0%和7.8–12.1%，成本仅为ACE的1.4倍以下。这些增益在多种语言模型和代理架构上通用，包括生产级编码代理OpenAI Codex。综合这些结果表明，上下文地图有助于长上下文LLM代理更准确、更高效地与重复外部上下文交互。

查看arXiv页面 (https://arxiv.org/abs/2605.19932) 查看PDF (https://arxiv.org/pdf/2605.19932) 项目页面 (https://zhuohangu.github.io/blog-post-peek/) GitHub0 (https://github.com/zhuohangu/peek) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.19932)

引用此论文的模型0

没有模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2605.19932 即可从此页面链接。

引用此论文的数据集0

没有数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2605.19932 即可从此页面链接。

引用此论文的Spaces0

没有Space关联此论文

在Space README.md 中引用 arxiv.org/abs/2605.19932 即可从此页面链接。

包含此论文的收藏集0

没有收藏集包含此论文

将此论文添加到收藏集 (https://huggingface.co/new-collection) 即可从此页面链接。