我导出了 10 小时的 Grok Bot 使用数据 CSV:89% 的消耗来自后台子任务,5 条规则可将其削减约 25-30%

Reddit r/AI_Agents 新闻

摘要

作者导出10小时Grok Bot使用数据发现89%消耗来自后台子任务、96%输入token用于重读旧上下文,并总结出5条规则,预计可节省25-30%的用量。

我在 Grok Bot 里为不同项目运行着一堆 AI 助手,用量消耗得比我预想的快得多。于是我从用量页面导出了详细的用量 CSV,交回给 bot 让它自己分析。10 小时的情况是:8,915 次模型调用,约 1.15B token。和我直接对话的只占约 11%,其余约 89% 来自助手们自行启动的后台子任务。更大的意外是:96% 的输入 token 都用在了重读旧上下文上。平均每次调用携带约 128K token 的历史记录。最严重的几个是:一个 3D 建模任务反复截屏,以及多个 PR 被并行推送。于是我给所有助手定了 5 条规则: - 子任务等待时间不超过 5 分钟。缓存 5 分钟后过期,整个上下文都要重写,这约占成本的 13%。 - 任务保持小规模,上下文在 120K 左右收尾。超过 150K 的调用占了支出的 54%。 - 每个助手最多同时运行 2 个子任务。高峰时我同时有 23 个在跑。 - 轮询间隔至少 5 分钟,而不是每 60 秒一次,并且只读取日志尾部。 - 截图更少,分辨率更低。 我粗略估计这些规则能节省约 25% 到 30%,但这只是估算,还没有实测。如果你也在跑 agent,成本最低的做法大概就是导出你的用量数据,好好看看它。
查看原文

相似文章

@yibie: 推荐这篇硬核实测。一个工程师用了一周追踪自己的 coding agent session,发现任务本身只消耗了 0.67% 的 token——其余 99% 全花在搬运工具目录、skill 描述和系统 prompt 上。工作对开销比 1:1…

X AI KOLs Timeline

An engineer tracked his coding agent's token usage over a week, finding that only 0.67% of tokens were spent on actual tasks, with 99% consumed by tool directories, skill descriptions, and system prompts. He provides optimization strategies, including shell output filtering which saved 46.9% of tokens.