@hasantoxr: 所以我发现了一个GitHub仓库,它可以阻止AI代理无谓地消耗token。它叫Headroom。它是由一位……

X AI KOLs Timeline 工具

摘要

Headroom是Netflix的Tejas Chopra开发的一个GitHub工具,它能在将输入(工具输出、日志、RAG块等)发送给LLM之前进行压缩,承诺在不改变答案的前提下减少60–95%的token。它支持Python/TypeScript库、本地代理、MCP服务器,以及针对流行编程代理的封装器。

所以我发现了一个GitHub仓库,它可以阻止AI代理无谓地消耗token。它叫Headroom。它是由一位名叫Tejas Chopra的Netflix员工开发的。基本上,它会在AI代理读取的所有内容到达LLM之前进行压缩。例如:- 工具输出 - 日志 - 文件 - RAG块 - 代码搜索结果 - 对话历史。开发者声称在保持答案不变的情况下,可减少60–95%的token。目前你可以通过以下方式使用它:- Python/TypeScript库 - 本地代理 - MCP服务器 - 针对Claude Code、Codex、Cursor、Aider和Copilot的封装器。如果你的编码代理变得昂贵、缓慢,或者在庞大的日志中迷失方向,这个仓库值得一看。感谢阅读。
查看原文

相似文章

Headroom (GitHub 仓库)

TLDR AI

Headroom 是一个开源工具,能在 AI 代理读取上下文(工具输出、日志、RAG 块、对话历史等)之前对其进行压缩,在到达 LLM 时可减少 60–95% 的令牌数量,同时保留答案质量。它支持多种集成模式,包括库、代理、代理包装和 MCP 服务器,并提供可逆压缩与跨代理记忆。

@akshay_pachaar: https://x.com/akshay_pachaar/status/2053166970166772052

X AI KOLs Timeline

The article discusses a shift in AI agent tool usage from the 'MCP vs CLI' debate to 'Code Mode,' where agents write code to dynamically import tools, significantly reducing context window usage. It highlights Anthropic's approach and Cloudflare's implementation, demonstrating a 98.7% reduction in token consumption for specific tasks.