给我们的智能体添加4个工具后，评估成本增加了3倍。有人做过优化吗？
摘要
一名用户报告称，在为其AI智能体添加四个工具后，评估成本增加了两倍，寻求优化建议。
暂无内容
相似文章
当我最终对智能体的工具调用进行监控时，成本分解让我感到惊讶。几点经验教训。
作者分享了监控AI智能体工具调用的经验教训，揭示了像web_search这样的工具可能占支出的约50%，并强调了追踪p95延迟以及按工作流或客户归因成本的重要性，以避免意外。
智能体在增加更多工具后是否变得更难维护？
探讨了随着集成工具数量的增加，维护AI智能体可能面临的挑战，质疑其可扩展性和复杂性。
给一个代理30个工具后，它在关键工具的使用上表现更差了。
作者观察到，给AI代理添加更多工具会增加分类复杂度，从而降低其选择正确工具的准确性；并且发现使用多个工具集更窄的小型代理可以提高可靠性。
@svpino: 我们的token成本在几周内翻了三倍。我们只运行了少量代理，一切正常，但成本却飙升到预期的3倍...
作者解释了由于AI代理活动增强导致token成本翻三倍的原因，强调了可观测性在管理自主系统中的重要性，并推广了由Honeycomb和Liz Fong-Jones提供的免费可观测性工程大师课。
当某个AI工作流成本突然翻倍时，如何排查？
文章讨论了AI工作流成本激增的常见原因，例如重试、重复的工具调用、长时间运行的工作流以及不断增长的上下文，并询问团队如何调查此类问题。