@alex_prompter: 我的智能体每次我给它们更多工具时,它们都变得更笨了。原因是机械性的。你连接的每个 MCP 服务器…
摘要
Ratel 是一个开源工具,通过使用 BM25 索引仅加载所需的工具(而不是所有可用工具),将输入令牌减少 79%,并提高了 AI 智能体的工具选择准确性。
查看缓存全文
缓存时间: 2026/07/22 08:28
每次我给智能体添加更多工具,它们反而变得更笨了。
原因很机械。
你连接的每个MCP服务器每轮都会把完整工具列表塞进上下文,正确的工具最终被埋在一百条模型永远不会用到的描述里。
Ratel则反过来:它位于智能体和工具目录之间,只加载当前轮次所需的工具。
无需嵌入向量,无需向量数据库,仅用进程内的纯BM25索引。
他们的基准测试:在180个工具的情况下,Sonnet的输入token减少79%。
本地模型的工具选择准确率从8%跃升至77%。
代码库已开源。
当前智能体的主要问题在于上下文,而非能力。
Ratel (@ratelai): 我们刚刚让智能体运行成本降低7倍
今天我们发布了Ratel
现在你的智能体会加载你拥有的所有工具和技能来完成一个小任务 Ratel只加载该任务所需的部分
看看它是如何工作的 ↓
相似文章
当工具数量达到多少时,你的代理开始变笨?
作者讨论了AI代理的推理能力如何因工具过多而下降,指出Genie Code将MCP工具数量限制在20个,并邀请社区讨论解决方案。
@ryanlanciaux: "他们会安装MCP服务器,让智能体能访问更多工具。" "它怎么知道什么时候该用这个工具?" "没人知道…"
一条推文讨论了AI智能体如何利用MCP服务器访问工具,并提出疑问:它们怎么知道何时使用这些工具?并坦言没人知道答案。
@hanakoxbt:你的智能体有三十个工具。它只调用了其中两个。另外二十八个并没有闲置在某个地方。它们就在请求中…
AI 智能体工具集中未使用的工具仍然会消耗令牌,并给工具选择增加噪音,因此智能体应只加载当前任务所需的工具。
给一个代理30个工具后,它在关键工具的使用上表现更差了。
作者观察到,给AI代理添加更多工具会增加分类复杂度,从而降低其选择正确工具的准确性;并且发现使用多个工具集更窄的小型代理可以提高可靠性。
@akshay_pachaar: https://x.com/akshay_pachaar/status/2053166970166772052
The article discusses a shift in AI agent tool usage from the 'MCP vs CLI' debate to 'Code Mode,' where agents write code to dynamically import tools, significantly reducing context window usage. It highlights Anthropic's approach and Cloudflare's implementation, demonstrating a 98.7% reduction in token consumption for specific tasks.