从token最大化到效率优先的转变将打破许多AI定价模式
摘要
文章讨论了企业如何更高效地使用AI,导致从基于token的定价模式转向基于结果的定价,这可能打破当前许多AI产品的定价策略。
两年来,几乎所有AI产品背后的假设都是:使用量只会增长。按token或按席位定价,看着消耗攀升,增长自然就来了。这周,这个假设开始公开瓦解。几天前,瑞银在一份报告中给出了数据。大约60%的企业已经对AI支出设置了限制。他们发现个人用户每月消耗高达3.5万美元,有些团队超出了token配额的200%。没有人打算放弃AI,但他们正变得无情地精打细算:将简单任务路由到更便宜的模型、池化token、限制重度用户、并向那些并非严格需要前沿模型的场景倾斜使用开放权重模型。这对任何在这些模型之上构建产品的人来说都是一个问题。大多数产品直接复制了提供商的定价模式——按token或按请求。这在买家想要更多时有效,但当买家的主要目标是减少使用时,就变成了反作用。你最终是在为你的客户刚雇了一个团队来缩减的东西收费。在困境中脱颖而出的产品,很可能会停止按消耗收费,转而按结果收费:按已解决工单收费、按已合并PR收费、按已成交线索收费。token变成了你在后台管理的输入成本,就像SaaS公司管理其AWS账单一样,而不是发票上的头条数字。这也会改变产品本身。如果买家现在奖励效率,那么路由、成本可见性和基于结果的定价就不再是后台事务,而是变成了功能特性。如果效率成为新的默认本能,那么基于使用量的定价还是正确的模式吗?还是它正在悄然退出历史舞台?
相似文章
为什么AI代币会让你的企业云账单再次飙升
文章分析了向基于代币的AI定价模式的转变,这种模式比固定费用模式昂贵得多,并且给企业带来了成本不可预测性,与早期云定价的挑战相类似。
OpenAI和Anthropic面临新的人工智能现实:企业从tokenmaxxing转向效率提升
本文报道了人工智能行业从大量tokenmaxxing支出向效率提升的转变,Lindy和Uber等公司通过改用更便宜的模型或实施支出上限来降低成本,这对OpenAI和Anthropic产生了影响,它们正准备进行IPO。
代币账单到期:行业竞相应对AI失控成本的内幕
本文探讨了企业因代币消耗增加而面临AI成本飙升的困境,导致预算超支,并成立新的标准机构Tokenomics Foundation,以对AI代币进行成本管控。
@levie: Token成本将成为企业未来AI应用中的主导话题。刚与许多Fortu…
Token成本正成为企业采用AI的关键关注点,CIO们难以管理不同模型和用例的开支。OpenAI宣布推出Guaranteed Capacity以解决长期计算资源获取问题。
Tokenmaxing已过时 - 节约型AI成新趋势
Tokenmaxing(无限AI令牌使用)的时代正在结束,因为企业面临高昂成本和生态破坏,取而代之的是tokenminimizing——注重效率并为任务选择合适的AI模型。