减少智能体工具数量反而提升了其能力

我花了数周时间为我的智能体添加工具，以为更多能力意味着更多工具。但事实恰恰相反。每添加一个工具，都会让智能体选择变慢、更容易选错，并且在每一次调用中增加成本，因为整个菜单及其所有描述都占据着上下文窗口，无论智能体是否使用它们。真正让我取得进展的是：更少、更粗粒度的工具胜过了许多细粒度的工具。十个每个只做一个API调用的小工具被合并成两三个接收意图的工具。模型擅长推理意图，但不擅长推理管道，所以我停止了让它选择管道。工具返回结构化的、由服务器计算的数据，绝不返回散文式文本。一旦工具返回自由格式的文本，模型就会开始信任该文本为指令，这时你就有了一个从未想要的第二提示面。无聊的类型化字段让模型保持叙述而不是工具本身。我将“事实”工具与“假设分析”工具分开。报告真实状态的诊断工具与故意编造数字的预测工具分开存放。当它们混合在一起时，模型会悄悄地将模拟数字呈现为真实数字。分离它们消除了一整类自信但错误的回答。工具和参数描述是提示词的宝贵资源，而不是文档。我将每个描述重写为一行。token节省固然很好，但从更小决策面获得的可靠性提升更大。我最终的心智模型是：智能体擅长决定做什么，而不擅长决定怎么做，因此工具应该表达做什么，隐藏怎么做。更小、更钝的工具表面给了模型更少的出错方式。好奇其他人如何划分这些界限。你使用粗而少的工具还是精细而多的工具？你是否将事实输出和模拟输出放在不同的工具中，还是信任模型能将它们区分开？