标签
使用更小、更便宜的LLMs可能因审查时间和错误纠正等隐藏费用而增加整个工作流的成本,这突显了进行全面成本追踪的必要性。
一篇文章指出,AI自动化演示常常轻描淡写地忽略系统监控、修复和维护的持续运营成本,导致出现“虚假生产力”,即团队花在管理AI上的时间比完成原始工作更多。
文章认为,大多数AI聊天应用的定价模式不可持续,因为它们将重试、上下文增长和多模型调用等复杂成本隐藏在固定订阅费背后,并提出基于使用量并设置限制和超额费用的定价模式更为可行。