@neural_avb: rtk 库在我所有的编码代理中节省了 250 万个 token……大约两周时间!这是一个库/技能,教……
摘要
rtk 库通过压缩 shell 命令输出来减少 token 消耗,在两周内为编码代理节省了 250 万个 token。
查看缓存全文
缓存时间: 2026/06/01 09:34
rtk 库在我所有的编码代理中节省了 250 万个 token……大约在两周内!这是一个库/技能,教 LLM 使用 rtk 运行 shell 命令。shell 输出会被过滤、分组、截断。代理看到精简的终端输出 -> 更少的 token 消耗 https://t.co/f6VDRGcrnv
相似文章
@yibie: 推荐这篇硬核实测。一个工程师用了一周追踪自己的 coding agent session,发现任务本身只消耗了 0.67% 的 token——其余 99% 全花在搬运工具目录、skill 描述和系统 prompt 上。工作对开销比 1:1…
An engineer tracked his coding agent's token usage over a week, finding that only 0.67% of tokens were spent on actual tasks, with 99% consumed by tool directories, skill descriptions, and system prompts. He provides optimization strategies, including shell output filtering which saved 46.9% of tokens.
@_avichawla: 我仅凭一项改动就将Fable 5的token用量降低了2.5倍! - 之前:5.5 M tokens · 7 errors · $8.94 - 之后:2.3 M tokens · …
作者通过从Firebase切换到InsForge(一个用于智能体编程的开源后端平台),将AI智能体的token用量降低了2.5倍,token数从550万降至230万,并消除了人工干预。
@pallavishekhar_: 如何减少AI代理中的Token使用?我们来理解一下。AI代理使用LLM进行思考、规划和推荐工具。每一步…
本帖子分享了减少AI代理中Token使用的策略,包括提示缓存、上下文摘要、使用较小模型、修剪工具输出、子代理、RAG以及紧凑的系统提示。
rtk-ai/rtk
RTK 是一个高性能的 CLI 代理,可在命令输出到达 LLM 上下文之前对其进行过滤和压缩,从而将 token 消耗减少 60-90%,且开销极低。
@alex_prompter: 我的智能体每次我给它们更多工具时,它们都变得更笨了。原因是机械性的。你连接的每个 MCP 服务器…
Ratel 是一个开源工具,通过使用 BM25 索引仅加载所需的工具(而不是所有可用工具),将输入令牌减少 79%,并提高了 AI 智能体的工具选择准确性。