AI编码工具是否正在成为新的云账单问题?
摘要
本文将AI编码工具日益增长的成本与早期云计算进行比较,突出了token使用量、代码审查和维护等隐藏费用,并对团队是否追踪每个工作流的真实成本提出疑问。
不知道这在大团队工作的人看来是否显而易见,但AI编码工具的成本问题感觉就像早期的云计算重演。每个人都说token越来越便宜,这确实没错,但不知怎的公司仍然对AI账单感到焦虑。我认为原因很简单:人们把这些工具当作普通的SaaS席位来对待,但实际上它们更像是按量计费的基础设施。就像普通的开发工具,你大概知道成本:X个用户,Y美元每月,搞定。但对于智能编码工具,一个小请求可能悄悄变成一堆模型调用、上下文加载、工具调用、重试、验证、更多重试等等。从用户角度看,看起来只是“修复这个bug”或“写这个函数”,但底层可能已经完成了一整个迷你工作流。还有另一个我觉得人们谈论不够的成本:审查生成的代码。有时代码能运行,但引入了奇怪的重复,忽略了已有的抽象,或者创建了别人日后需要清理的东西。所以账单不仅仅是token,还包括审查时间+维护+未来的技术债务。顺便说一句,我并不是说这些工具不好。我也用它们,显然它们很有用。但感觉行业正在从“看它能做什么”的有趣阶段转向“谁在支付所有这些调用,以及这真的交付了有用东西了吗?”的无聊阶段。好奇团队现在是否真的正确跟踪这些成本?比如每个PR的成本、每个已解决工单的成本、每个工作流的成本等等。或者这些是否仍然大多隐藏在“AI生产力”和感觉之下。
相似文章
Microsoft 和 Uber 表示,AI 编码工具正变得比人类工作者更昂贵
Microsoft 和 Uber 发现,尽管 AI 编码工具提高了生产力,但它们也推高了 token 消耗成本,有时甚至超过了人类劳动力的成本。文章探讨了这一经济悖论,并警告称,由于使用量激增,单位 token 更便宜并不意味着总账单会更低。
你实际上是如何在AI费用出现在发票之前就预测出来的?
一位开发者分享了导致AI账单超出预期的隐性成本变量,包括推理模型的思维链token、多模态每张图片费用、函数调用系统token,并询问社区是如何提前预测成本的。
美国AI编码工具即将迎来清算
GitHub Copilot 已改用基于使用量的计费模式,使AI编码代理的成本变得透明,并标志着美国AI编码工具补贴时代的结束。这一转变可能会降低美国市场份额,因为开发者意识到大多数任务并不需要昂贵的尖端模型。
如何应对AI成本上升?
一篇探讨AI开发与部署成本日益增长的文章,并提出了应对这些成本的潜在策略。
代币账单到期:行业竞相应对AI失控成本的内幕
本文探讨了企业因代币消耗增加而面临AI成本飙升的困境,导致预算超支,并成立新的标准机构Tokenomics Foundation,以对AI代币进行成本管控。