标签
微软推出了PEEK，一个1,024 Token的'上下文地图'，为LLM代理缓存定位知识，减少冗余推理，实现了高达34%的准确率提升，减少93-145次重试，成本降低5.8倍。
PEEK 引入了一种上下文地图作为面向 LLM 智能体的方向缓存，使它们能够对外部环境（如代码仓库）保持持久的知识。该系统相比 RAG 和 ACE 等基线方法，在更低成本下实现了 6.3–34.0% 的质量提升。
本文介绍了PEEK系统，该系统将关于重复出现的外部上下文的定向知识缓存为上下文图，使得LLM代理能够跨调用复用上下文知识，并在长上下文推理和信息聚合任务上显著提高效率和准确性。