AI的最大赢家并非token支出大户

AI的赢家将是那些在每美元支出中获得最高智能的公司——不是Token挥霍者，而是Token配置者。

多年间，我负责决定如何将有限的自有资金池分配到一家高频交易公司的各交易台之间——预测它们需要多少资本，并评估如何跨主体部署以获得最高回报。

如今，各公司采购AI算力的方式，是那些交易台做梦都想得到的资本获取方式。没有上限，没有资本占用成本，不需要业务理由。算力竞赛正在进行，更大的token承诺、更多的智能体、更多的模型。共识是：谁在智能上花得最多，谁就赢。但它们不会赢。赢家将是那些能告诉你最后一百万token买了什么的人——或者更进一步的，能告诉你下一百万token将买到什么的人。

大多数公司甚至不知道该如何着手回答这些问题。

从HFT转行到AI，我忍不住想问：推理的“资金库”在哪里？跨工作流、跨团队、跨部门——以及在最高层面，跨法律实体和司法辖区的token支出优化在哪里？而驱动上述所有决策的“token边际产出”（marginal product of tokens, MPT）计算，又在哪里？

几乎没有公司意识到自己正在经营一个交易账簿。而那些已经意识到的公司，正把它们甩在身后。

Chamath Palihapitiya最近在All-In播客中描述了他自己公司的处境。其token成本大约每45天翻一番——但生产率最多只提升了5%。每一新增的质量增量都需要消耗堆积如山的token。

把这翻译成交易大厅的语言：增量资本的边际回报已经向零崩塌。你为几乎毫无所得的东西付出指数级的代价，却还在不断扩大资本使用量。按这种逻辑运营的交易台，午饭前就会被关停。

上述数字固然惊人，但最令人惊讶的是，他们居然真的在衡量这些指标。大多数公司经营者同样的账簿，却没有任何恰当的度量标准。那位为资本成本中的每一个基点而据理力争的CFO，从未被人问过一次token能带来多少回报。资本被精心分配，而算力却被随手挥霍。

Token配置应该在3个层面进行。大多数公司还停留在新手教程阶段。

几乎每家公司都在做以下三件事之一。

最常见的是：开通席位、购买智能体、因为演示效果好而续费订阅。完全没有配置这回事。某家大型科技公司曾推出一个token排行榜，直到它变得显而易见——这个榜单奖励的是消耗量，而非有效产出。

更成熟一点的公司会为每个项目单独定价，并资助那些达标通过的项目。这看起来体面，而且相比“谁演示效果好就买谁”，确实是实实在在的进步。但每个项目各自通过回报门槛，并不能告诉你项目之间是否应该进行资源再分配——或者一个尚未构建的新工作流，是否能带来更高的回报。

采用这种方法，AI点状解决方案的蔓延最终会变得无法忽视，于是有人强制实施全公司范围的预算上限。这是大多数公司关于token做出的第一个真正自上而下的决策——而且这个决策的做出，底下没有任何需求曲线支撑。因此，这个上限最终限制住的，恰恰是全公司MPT最高的工作流——仅仅因为它在哪个团队手里。

第一种方法完全不配置。第二种一次只为一个用例定价。第三种则是设定整个资金池的规模。没有一种方法将不同用例相互对比——而对比恰恰是价值所在。

没有任何CFO会这样分配人员编制——有的团队无限制招人，有的团队被政策冻结，而且彼此之间从不比较。正确的做法是：你的下一个招聘或下一美元资本能带来多少回报，完全取决于你把它放在哪里。所以你持续（重新）配置，直到每个用例的每美元回报趋于相等。这就是MPL/w = MPK/r，其中w和r分别是劳动力和资本的价格。柯布和道格拉斯（Cobb和Douglas）近一个世纪前就将其形式化了，然而公司的行为却仿佛这一切完全不适用于token的边际产出。

最后，领先的公司开始有所不同——它们借鉴了世界上最优秀资本配置者的理念。

像个量化交易员一样配置token支出

token价格的下跌让配置问题变得更糟，而非更好。这就是杰文斯悖论（Jevons paradox）：当一种商品的效率提高时，你不会减少对它的支出。相反，你会消费得更多，以至于总账单反而上涨。这是当今许多公司面临的现实。

以往因成本过高而无法论证合理性的AI用例，如今成了投资候选。其中一些将创造巨大价值，另一些则几乎毫无价值。据此进行优先级排序并配置token，将把AI赢家与其他人区分开来。

把token当作资本来对待，我们可以从3个层面思考配置：第一，分配到单个用例。第二，在不同用例、工作流和部门之间分配。第三，跨越整个公司——即总的token池。

大多数公司把这三个层面压缩成单一的AI预算。交易公司绝不会这样做。

Token配置，第一层：单个用例

配置从用例层面开始。在公司把token交给一个智能体、工作流或员工之前，它需要知道下一单位的支出预期能带来什么产出。不是该用例的平均回报，而是下一百万token可能赚到什么。

交易公司也是如此。表现强劲的策略不一定配得上下一美元资本。它们容易发生alpha衰减，而且随着你部署更多资本，还会遇到容量约束。

因此，公司现在需要估算token的边际产出——用每个用例的“每项已验证结果的成本”来衡量：公司为每个成功案例支付了多少token。几乎没有人能给出这个数字。公司终于开始密切监控token成本了，但很少有人把这些成本与结果联系起来。

一个支持工单分类智能体，在第一个百万token时，每张已解决工单的成本可能是0.40美元，然后随着智能体接手更难的边缘案例——需要更多重试和更多人工来回审核——成本开始攀升。当每项已验证结果的成本开始上升时，就该评估这个用例的MPT是否已经过低了。

该用例对公司的回报，第一个百万token可能是30倍——每1美元token带来30美元的已验证价值——而最后一批则只有9倍。同一个工作流，同一个模型，同一个团队。一个起初是绝佳投资的用例，很容易就被推过了它的极限。

评估token的边际产出也是选择模型的环节，因为并非每个token都一样。顶级模型如Claude Opus，每百万输出token约25美元；强大的开源模型如Kimi约4美元；像Grok这样的快速档位约0.50美元。每项已验证结果的成本定价的是结果而非token，这让讨论大大简化。如果一个小模型以0.40美元解决一张工单，而一个顶级模型以0.90美元解决且验证率并无改善，那么更便宜的模型赢得配置。公司可以把“前沿token”留给那些真正受益于它们的工作流。

注意这两个比率并不匹配。顶级token的成本约为前者的六倍，但解决工单的成本仅约为两倍——因为更强的模型可能用三分之一的token就解决了问题。单看每token定价几乎说明不了任何问题。每token价格≠每结果价格。

因此，按模型和用例基准化MPT，是进行第一层配置的关键输入。

Token配置，第二层：用例之间

一旦公司学会了评估每个用例的MPT，就需要跨用例进行比较：下一百万token在哪里能创造最大价值？这意味着要把支持工单分类与发票匹配进行对比，把销售研究简报与一个还没人构建的智能体进行对比。

最显而易见的做法是把token全部投给表现最好的用例。但通常你做不到。

让我们看一个例子。假设一个发票智能体在其最后一个百万token上获得了27倍回报，但它已经处理了所有到达它那里的发票。它已经没有更多工作了，下一百万token将一无所获。这是许多公司开始实施智能体时的现实。流程管道上存在硬性约束，而放松这些约束的价值可能仍然是27倍（例如拓展新区域）。但那是放松约束的回报，而不是向现有工作流继续倾倒token的回报。

因此，下一批token更适合花在尚不存在的地方。假设一个尚未构建的采购智能体，预估价值为15倍。我们可以用两种方式为其融资：扩大预算，或从现有用例中重新分配。在这个例子中，我们选择从低MPT用例中重新分配——可能是一个销售研究智能体，不必要地使用最新模型或研究范围过宽，边际回报只有1.3倍。

每1美元从1.3倍的用例转移到15倍的用例，实际上价值10.50美元。在一个400万美元的token预算中，从现有支出中重新分配20万美元，其收益超过向低MPT的现有用例追加200万美元投资。

换句话说，重新分配5%的预算，胜过给总预算增加50%！

那些盲目与大型实验室签约、或仅凭漂亮演示就做决定的公司，正是这种陷阱的受害者。它们错过的机会远超上文例子所示。

在战术层面，（重新）配置可能是一个缓慢的过程。评估切换或实施成本并非易事。回到交易领域，一个交易台不会在差距出现的那一刻就立刻转移资本——尤其是面对新用例时：接入一个新标的意味着打通连接、借券和风险限额，而启动一个新策略则需要研究、回测和一段爬坡期，之后才能开始盈利。此外，作为做市商，你可能甚至需要先建立报价、市场和底层执行，然后才能部署更高级的策略。Token的行为方式完全相同。一个需要花一个季度才能建好的工作流，必须比一个明天就能上线的用例设定更高的门槛——而且其估值应当享受与资金库对任何预测资本使用的交易台相同的折扣。

在交易公司，这一层级的配置必须从一个总组合视角集中进行。首先针对特定主体或区域，然后在全球层面再次进行。资本动态地向最高潜力的策略流动。

类似的东西最终会在每一家财富500强公司内部出现。一个中央化的“推理”职能将以风险委员会、资金库和全球战略负责人管理资本的方式来掌管token配置。它衡量每个工作流的预期回报，并决定下一批token的去向。“首席推理官”（Chief Inference Officer）因此看起来将不再像管理软件支出的IT高管，而更像一个投资组合经理，其使命是最大化公司token配置的回报。

Token配置，第三层：总token池

最终的决策是公司到底应该购买多少token。基金只在下一美元仍能赚取可接受回报的时候和地点部署资本。与第一层类似，这涉及容量约束和流动性瓶颈——只不过现在是基金层面的，而非单个用例层面的。

理论上，这很简单：只要项目能超过你的门槛收益率，就扩大token支出和预算。也就是说，将你的token回报与资本和劳动力投资的回报进行比较——即你的稳态门槛收益率。如果管道中剩下的项目没有能超过门槛的，你可能就应该停止增加token配置。等你的门槛或MPT（例如通过模型改进）变得更有利时，再重新审视。

实际上，这要难得多。即使你正确执行了第一层和第二层，调整token预算也可能耗时且成本高昂。Token规模调整并非没有摩擦。然而，与司库对资本注入和股息的管理相比，token规模调整对未来首席推理官而言，很可能是动态得多的操作。

有效配置创造赢家

下一波AI赢家将是那些在每美元支出中获得最高智能的公司——而不是那些拥有花哨排行榜的Token挥霍者。

我们兜兜转转又回到了柯布与道格拉斯。部署劳动力和资本，直到每单位要素每美元支出的回报相等。这一点从未改变。现在只是多了一个新的变量：

MPLw=MPKr=MPTp\frac{\mathrm{MP}_L}{w} = \frac{\mathrm{MP}_K}{r} = \frac{\mathrm{MP}_T}{p}

其中p是token的价格。

我们在上面讨论了3个token配置层面。每一个都在解决这个等式的一个部分：第一层确保我们甚至能够计算出MPT。第二层让各用例之间的MPT/p趋于均等。第三层决定各要素之间的稳态均衡。

走完这3个层面，不仅是你公司不断攀升的token成本的答案——它还是一个如何对每一项AI举措进行优先级排序的蓝图。

大多数公司能精确到美元地告诉你它们的token支出。但几乎没有任何公司能说出，哪一项AI举措在边际上带来了15倍的回报，哪一项只有1.3倍。

想了解更多关于评估AI用例的业务影响、在它们之间进行优先级排序以及如何实施的方法吗？订阅我们的通讯：https://www.varickagents.com/newsletter