@AstroHanRay: 我们针对工具裁剪(active tool prune)实际跑了 A/B benchmark 测试,121 组 Terminal Bench 任务对比: - 性能:无回退(甚至略有提升 +2.48pp) - Token 消耗:减少 41.7…
摘要
针对Agent工具裁剪(active tool prune)的A/B测试显示:在121组Terminal Bench任务中性能略有提升(+2.48个百分点),Token消耗减少41.7%,成本降低31.6%。
查看缓存全文
缓存时间: 2026/06/28 22:07
我们针对工具裁剪(active tool prune)实际跑了 A/B benchmark 测试,121 组 Terminal Bench 任务对比:
- 性能:无回退(甚至略有提升 +2.48pp)
- Token 消耗:减少 41.7%
- 成本:降低 31.6%
kabikabi (@jakevin7): 做 Agent 有个不成文的默认假设:tool result 很重要,模型要看完原文才能继续推理。
最近发现这个假设可能是错的。
https://t.co/3wF7yrD3ES 欢迎 star
在 maka 里,我们对 tool result 做了激进的
相似文章
TUA-Bench: 通用终端使用代理的基准测试
TUA-Bench是一个综合性基准测试,用于评估通用终端使用代理在各种数字活动和专业工作流中的表现,揭示了当前前沿代理之间的显著性能差距。
GTA-2:从原子工具使用到开放式工作流的通用工具Agent基准测试
GTA-2 引入了一个分层基准,用于评估通用工具Agent在原子工具使用和开放式工作流中的表现,揭示了显著的能力鸿沟:前沿模型在复杂任务上仅取得14.39%的成功率,尽管在原子任务上表现尚可。
@wsl8297: 用 AI Agent 跑复杂任务,最难受的往往不是模型不够强,而是对话一变长,上下文就开始爆仓。 你还得一遍遍补背景、重讲流程,再加上工具调用吐出来的冗余日志,Token 像开了口子一样往外流。 最近看到腾讯开源的 TencentDB A…
腾讯开源了 TencentDB Agent Memory,通过分层记忆管理(符号化短期记忆+分层长期记忆)解决AI Agent长对话上下文爆仓问题,实测Token消耗最高降低61%,任务通过率提升超50%。
@BohuTANG: 经过量化,发现 pi 现在这 4 个 tool(read / bash / edit / write)再加上 glob 和 grep,还能再上一个台阶。这俩是高频工具,但想靠 LLM 自己拼出好用的 bash 来顶替,其实挺难的——它经常…
BohuTANG通过量化分析发现,在pi工具中增加专门的grep和glob功能,能减少LLM自己拼bash时的绕路问题,提升效率。
@AYi_AInotes: Damn,这个开源工具直接减少了95%token消耗 这可能是今年最狠的LLM降本神器, Netflix工程师开源的Headroom 把本地Agent套在Codex,Cursor,OpenClaw,Hermes或Claude code外面…
Netflix工程师开源了Headroom工具,在本地预处理阶段自动压缩LLM输入上下文,减少高达95%的token消耗,兼容Codex、Cursor等主流AI编码工具,无需修改代码即可生效。