我构建了一种方法,防止巨大的工具输出撑爆AI代理的上下文窗口

Reddit r/AI_Agents 工具

摘要

LeanCTX已更新,作为管理AI代理工具输出的网关,压缩大数据,擦除秘密,并通过MCP集成外部工具,以防止令牌爆炸。

大家好。我一直在构建LeanCTX来管理编码代理的上下文。到现在为止,它主要专注于文件系统,决定你的代理读取什么并进行压缩。在最新更新中,我调整了架构以解决另一个问题:臃肿的工具输出。当你让代理访问外部工具时,它们返回的原始数据往往会烧光你的令牌预算并降低代理的推理能力。为了解决这个问题,LeanCTX现在充当生态系统的网关。你可以使用单个命令插入外部工具,例如 lean-ctx addon add repomix。如果它支持MCP,就能无缝集成。网关不是直接将原始输出传递给模型,而是拦截它。它将所有插件输出视为不可信,并擦除其中的秘密。然后压缩响应以符合特定的令牌预算。如果工具返回大量数据转储,系统会将过大的结果溢出到磁盘,并给模型一个小的引用句柄。所有内容都在后台建立索引,以便代理稍后可以搜索。工具不再是孤立的侧通道。它们成为管理上下文的原生部分。到目前为止,我整理了一个包含19个工具的注册表,涵盖从记忆到推理等方面。我包括了Headroom、Serena、Repomix和Mem0等项目。碎片化的生态系统对任何人都没有帮助,所以目标是整合而非竞争。其中十个可以通过一个命令安装,对于其中四个,LeanCTX完全负责二进制安装。
查看原文

相似文章

@akshay_pachaar: https://x.com/akshay_pachaar/status/2053166970166772052

X AI KOLs Timeline

The article discusses a shift in AI agent tool usage from the 'MCP vs CLI' debate to 'Code Mode,' where agents write code to dynamically import tools, significantly reducing context window usage. It highlights Anthropic's approach and Cloudflare's implementation, demonstrating a 98.7% reduction in token consumption for specific tasks.

@rwayne: Context Mode 解决了 AI Agent 的另一半上下文问题:工具输出沙箱化 + 会话持久化。 56 KB 的 Playwright 快照压缩到 299 字节,98% 的数据不进上下文。每次文件编辑、Git 操作、任务决策都存入…

X AI KOLs Timeline

Context Mode is a tool that solves AI agent context problems by sandboxing tool outputs and persisting sessions, achieving up to 98% compression of Playwright snapshots and using BM25 retrieval to reduce context window usage. It supports 15 platforms including Claude Code, Gemini CLI, VS Code Copilot, and is used by major tech companies.