“相当疯狂”的代币使用正在考验老板们对AI的押注

# “相当疯狂”的令牌使用量正考验老板们对AI的押注 来源：https://www.wired.com/story/claude-tokens-compute-cost-code-8x8/ 在软件公司8x8，员工正使用Anthropic的Claude（https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/）来撰写邮件、分析客户反馈和编写代码，但迄今为止，他们对这款人工智能聊天机器人日益增长的依赖并未让财务团队感到困扰。尽管其他硅谷公司，如Meta、Uber和Salesforce，已公开表达对生成式AI工具成本上升的担忧，并在某些情况下开始引入使用上限，但8x8表示自己处于盈利状态。 在过去18个月里，该公司估计通过取消数十个被认为不必要的软件和教育工具订阅，节省了约500万美元的年成本，部分原因是Claude能提供类似功能。8x8的首席转型与业务运营官Joel Neeb表示，截至目前，Claude的年度账单“远低于”这个数字。Neeb预计，随着8x8鼓励更多员工采用AI，并将其融入更复杂的工作中，节省下来的成本与支出最终会趋于平衡。但就目前而言，仍有巨大差距，这“让我的首席财务官很高兴”，他告诉WIRED。他拒绝透露生成式AI的总支出。 随着各公司 collectively 将数亿美元投入用于编程（https://www.wired.com/story/claude-code-success-anthropic-business-model/）、营销和客户服务（https://www.wired.com/story/ai-takes-over-debt-collection/）的AI工具，科技行业出现了一种新的痴迷：“Token经济学”，即如何管理AI使用成本的飙升。（Token代表AI模型分析和生成的内容量。） 上个月，加拿大皇家银行CEO透露，其Token使用量在过去六个月内激增了500%。在思科，三分之一的员工每天都在使用内部AI聊天机器人，因此“Token使用量变得相当疯狂”，CEO Chuck Robbins在财报电话会议上表示。分析软件开发商Amplitude的一些顶尖工程师“每月在Token上花费数千美元甚至更多”，其CEO Spenser Skates说。Box的CEO Aaron Levine表示，“Token预算的讨论绝对已经成为最重要”且“激烈（https://x.com/levie/status/2056965292753146019）”的话题之一。 根据WIRED对数据提供商AlphaStreet的转录文件审查，大约有300家公司在4月或5月的财报电话会议或与金融分析师的公开讨论中提到了关于AI Token的问题或担忧。这仅占该期间数千场电话会议的一小部分，但一年前的4月和5月，只有93家公司提到了“Token”。 几家公司的高管表示，他们正在开发或寻求购买系统，以帮助监控Token使用情况，并为特定提示选择价格最低的模型。其他人则表示，他们仍在试图平衡招聘更多人员与增加Token预算以实现目标之间的关系。 软件向来不便宜，但最新一代AI工具因多种原因给高管层带来了异常压力。价格持续波动。每个月都有比上一代更强大、更昂贵的新模型（https://www.wired.com/story/anthropic-releases-claude-fable-5-mythos-5/）发布。而让整个组织接受新的工作方式本身就是一个挑战，因此一个团队因AI带来的生产力提升可能导致另一个团队出现瓶颈。 ## 20% 尽管如此，一些公司仍在鼓励员工更多地使用AI，而不必担心账单。今年4月，位于纽约长岛的服装品牌Baseball Lifestyle 101——预计今年销售额将达到2.5亿美元——向其约50名高层管理人员表示，每月应将相当于其工资20%的金额用于AI Token。 Baseball Lifestyle 101的联合创始人兼首席战略官Bill Rom告诉WIRED，到年底，这项成本可能超过每月10万美元，但这已经带来了回报。Claude最近通过识别出一家零售商库存不足其流行的冰淇淋图案短裤的某些尺码，帮助赢得了一笔100万美元的订单。“这原本需要一天半的工作，现在可以在一两小时内完成，这可能会在12个月内为我带来八位数的额外收入，”Rom说。 AI聊天机器人还帮助撰写财务报告和规划摄影，使公司能够减少初级员工招聘，并将投资转向其他方面。Rom表示，在制定AI技术的财务基本规则之前，“激励人们如何使用AI”非常重要。 在8x8，这家开发通信平台以帮助管理销售和客户服务的公司，所有约1800名全职员工都被鼓励定期查看一个仪表板，显示他们和同事使用Claude的情况，本着不让任何人掉队的精神。“这完全不是惩罚性的；这只是为了让我们在这段旅程中紧密团结在一起，”Neeb说。5月份，产品和客户成功团队是使用最多的，而销售和财务团队则是最少的。 Neeb表示，8x8有可能对员工使用Claude设置上限。他最近首次与CFO讨论了这一想法，原因是内部对Claude Opus 4.8模型的使用量不断增加。该模型于上个月发布，成本几乎是Anthropic在2月发布的产品的1.7倍。尽管尚未做出任何决定，但Neeb表示，未来使用Opus可能需要证明老模型无法完成任务。“我们能不能稍微降级一下模型，仍然得到相同的结果？” 除此之外，Neeb表示8x8绝不会放弃生成式AI。客户满意度和忠诚度指标呈上升趋势，收入连续四个季度增长，因为AI生成的分析加速了销售团队的工作。将这些趋势完全归因于AI，甚至根本归因于AI，都很困难，但Neeb怀疑存在联系。“当你做得对时，这确实是一股涨潮，能浮起所有船只，”他说。 ## “加速前进” 大约两年前，8x8开始涉足生成式AI，为所有员工提供OpenAI的ChatGPT和Google的Gemini的培训和支持。Neeb说，后来少数人获得了Claude的使用权，并在过去一年中成为公司范围内的标准。 管理层监控使用情况，并警告员工拒绝掌握AI技能将带来后果。“如果你在你的岗位上没有以某种方式使用AI，那么你就错过了比同行更快前进、更有效地获得更好答案的机会，”Neeb说。 其他科技雇主也发布了类似的指令，结果好坏参半。在Amazon和Meta等公司，员工报告称，他们仅仅因为觉得自己必须这样做而将AI融入工作，或者因为AI工具解放了他们的时间而懈怠，这两者都导致批评者所说的浪费。Neeb认为，耐心和问责措施对于引导员工是必要的。他不希望他们在AI加速工作后延长午餐时间或坐在海滩上。 Neeb还对他所说的“这条路上的落后者”抱有更高期望，比如销售和财务团队，这两个团队合计占公司员工总数的28%，但Token消耗量仅占15%。他希望最近为财务团队举办的AI黑客马拉松能激励他们自动化其大量的手动流程，例如向客户收款和生成季度账目。 这位运营负责人表示，他亲眼目睹了Claude如何提高公司效率。Neeb使用该工具自动化了一封每日发送给公司的电子邮件，其中总结了来自YouTube上行业影响者的顶级AI使用技巧。在注意到这项任务消耗了“大量Token”后，Neeb说他问Claude是否能以更经济的方式运行。Claude重新设计了自动化程序，将Token使用量减少了80%。