AI成本管理中最难的部分或许并非削减成本
摘要
本文重点介绍了将AI费用追溯到特定项目和工作负载的挑战，并提出了一种主动预算和监控成本的实用方法。
可能就是要弄清楚它们实际来自哪里。每月AI账单只显示你花了多少钱，但无法说明是哪个项目造成的、哪些工作负载失控了，或者有多少支出根本没有被追踪。我一直在探索一种围绕项目预算代理使用的实用方法，以便在账单到来之前发现那些昂贵的部分。
相似文章
如何应对AI成本上升？
一篇探讨AI开发与部署成本日益增长的文章，并提出了应对这些成本的潜在策略。
AI成本悖论：为何有些公司支出更多？
本文讨论了企业在部署AI处理重复性任务时面临的AI成本上升悖论，指出AI更像昂贵的基建而非廉价劳动力，需要监控、人工审核和集成等成本。
你实际上是如何在AI费用出现在发票之前就预测出来的？
一位开发者分享了导致AI账单超出预期的隐性成本变量，包括推理模型的思维链token、多模态每张图片费用、函数调用系统token，并询问社区是如何提前预测成本的。
每个AI提示都需花费成本——这改变了一切
文章认为，AI的真正挑战不仅在于构建更智能的模型，更在于以规模化的方式降低成本效率，强调了减少token使用、提升速度以及优化基础设施的重要性。
人们究竟是如何给AI代理分配成本的？
这篇文章探讨了准确评估AI代理成本的挑战，这些成本超出了LLM的开销，包括在多代理环境中用于测量的工具和模型。