从token最大化到效率优先的转变将打破许多AI定价模式

Reddit r/ArtificialInteligence 新闻

摘要

文章讨论了企业如何更高效地使用AI,导致从基于token的定价模式转向基于结果的定价,这可能打破当前许多AI产品的定价策略。

两年来,几乎所有AI产品背后的假设都是:使用量只会增长。按token或按席位定价,看着消耗攀升,增长自然就来了。这周,这个假设开始公开瓦解。几天前,瑞银在一份报告中给出了数据。大约60%的企业已经对AI支出设置了限制。他们发现个人用户每月消耗高达3.5万美元,有些团队超出了token配额的200%。没有人打算放弃AI,但他们正变得无情地精打细算:将简单任务路由到更便宜的模型、池化token、限制重度用户、并向那些并非严格需要前沿模型的场景倾斜使用开放权重模型。这对任何在这些模型之上构建产品的人来说都是一个问题。大多数产品直接复制了提供商的定价模式——按token或按请求。这在买家想要更多时有效,但当买家的主要目标是减少使用时,就变成了反作用。你最终是在为你的客户刚雇了一个团队来缩减的东西收费。在困境中脱颖而出的产品,很可能会停止按消耗收费,转而按结果收费:按已解决工单收费、按已合并PR收费、按已成交线索收费。token变成了你在后台管理的输入成本,就像SaaS公司管理其AWS账单一样,而不是发票上的头条数字。这也会改变产品本身。如果买家现在奖励效率,那么路由、成本可见性和基于结果的定价就不再是后台事务,而是变成了功能特性。如果效率成为新的默认本能,那么基于使用量的定价还是正确的模式吗?还是它正在悄然退出历史舞台?
查看原文

相似文章

为什么AI代币会让你的企业云账单再次飙升

Reddit r/ArtificialInteligence

文章分析了向基于代币的AI定价模式的转变,这种模式比固定费用模式昂贵得多,并且给企业带来了成本不可预测性,与早期云定价的挑战相类似。

Tokenmaxing已过时 - 节约型AI成新趋势

Reddit r/ArtificialInteligence

Tokenmaxing(无限AI令牌使用)的时代正在结束,因为企业面临高昂成本和生态破坏,取而代之的是tokenminimizing——注重效率并为任务选择合适的AI模型。