当工具数量达到多少时,你的代理开始变笨?
摘要
作者讨论了AI代理的推理能力如何因工具过多而下降,指出Genie Code将MCP工具数量限制在20个,并邀请社区讨论解决方案。
我注意到当工具数量超过一定值时,我的代理不再选择正确的工具,而是选择看似合理的工具。大约在15-20个工具时,推理变得模糊,我开始看到奇怪的选择——例如在上下文已有答案时还调用搜索工具。有趣的是,Genie Code在所有连接的服务器上将MCP工具数量限制为20个。第一反应是“这很烦人”。第二反应是可能有人测量过这个并选定了一个数字。我好奇其他人的上限是多少,以及你们是通过精简工具还是通过将子代理路由到狭窄工具集来解决这个问题的。
相似文章
智能体在增加更多工具后是否变得更难维护?
探讨了随着集成工具数量的增加,维护AI智能体可能面临的挑战,质疑其可扩展性和复杂性。
你的智能体在长时间会话中表现会下降
本文讨论了AI智能体在长会话中性能下降的问题,原因是上下文窗口被原始历史、工具输出和重复推理所充斥,并提出了通过总结旧轮次和修剪工具输出来延长有效运行长度的解决方案。
@hanakoxbt:你的智能体有三十个工具。它只调用了其中两个。另外二十八个并没有闲置在某个地方。它们就在请求中…
AI 智能体工具集中未使用的工具仍然会消耗令牌,并给工具选择增加噪音,因此智能体应只加载当前任务所需的工具。
代理应该如何处理那些对初学者非常有用但后期会限制其发展的工具?
讨论AI代理是否应基于用户当前需求推荐工具,还是考虑未来的可扩展性,以及如何沟通潜在的长期限制。
@alex_prompter: 我的智能体每次我给它们更多工具时,它们都变得更笨了。原因是机械性的。你连接的每个 MCP 服务器…
Ratel 是一个开源工具,通过使用 BM25 索引仅加载所需的工具(而不是所有可用工具),将输入令牌减少 79%,并提高了 AI 智能体的工具选择准确性。