@rohanpaul_ai: 智能体的token消耗速率接近人类的5倍，同时其使用量自二月以来已暴涨约14倍。一旦智能体…

X AI KOLs Timeline 新闻
ai-agents token-consumption openrouter model-providers caching

摘要

AI智能体消耗token的速率接近人类的5倍，使用量自二月以来已暴涨14倍，这可能会降低像OpenRouter这样的路由器利用模型提供商之间竞争的能力，原因在于缓存和任务连续性。

智能体的token消耗速率接近人类的5倍，同时其使用量自二月以来已暴涨约14倍。 一旦智能体成为OpenRouter上token的大多数，路由器利用供应商相互竞争的能力可能会大大降低。 OpenRouter位于开发者和运行模型的公司之间。它通过价格比较赚钱，将每个查询发送给当时最便宜的提供商。 当下一个问题是一个单独的问题时，这没问题；问题之间不需要任何连续性。 但是，执行长任务的智能体的行为不同：它在每个阶段重新发送相同的长块背景指令（即缓存命中）。 缓存命中只存在于仍持有热前缀的机器上，任务中途重新路由意味着需要再次支付完整的预填充费用。 即，模型提供商将该缓存命中块存储在内存中，并只收取一小部分费用以供重用。 这就是为什么OpenRouter上超过85%的智能体token是这些廉价的重用（缓存提示）而不是全新的提示。 副本存储在单一公司的服务器上。如果任务中途转移到更便宜的竞争对手，存储的副本将被丢弃，并重新支付完整块。 这意味着智能体将留在它们开始任务时的提供商那里，直到任务完成，路由器将其业务转移到别处的威胁被消除。 所以看起来，路由器能从模型提供商那里挤出的折扣，在智能体流量上可能比在其他地方更早缩小。
查看原文
查看缓存全文

缓存时间: 2026/08/23 15:40

智能体消耗的token量几乎是人类用户的5倍，而自二月以来其使用量已激增约14倍。

当智能体成为OpenRouter平台上的主要token消耗者后，路由器协调供应商之间竞争的能力可能会大大减弱。

OpenRouter处于开发者与模型运营公司之间。它通过比价策略盈利，即在每次查询时将其分配给当前最便宜的供应商。

如果下一个问题是独立问题，这种做法无可厚非；问题之间无需保持连续性。

但智能体执行长期任务时行为模式截然不同：它会在每个阶段重新发送相同的长段背景指令（即缓存命中）。

缓存命中的内容仅存在于保留着有效前缀的机器上，任务中途重新路由意味着需要重新支付完整的预填充费用。

换言之，模型提供商会将该缓存块存储在内存中，仅收取少量费用用于重复使用。

正因如此，OpenRouter上超过85%的智能体token属于这类廉价的重复使用（缓存提示词），而非全新查询。

数据副本存储在单一公司的服务器上。若任务中途转给更便宜的竞争对手，存储的副本将被丢弃，需重新支付完整区块费用。

这意味着智能体将始终由初始任务供应商服务直至任务完成，路由器以转移业务相威胁的影响力将不复存在。

因此看来，在其他场景受影响之前，路由器可从模型供应商获取的折扣，在智能体流量领域可能率先大幅缩减。

a16z (@a16z)： 人类已成为AI的少数用户

智能体消耗的token量是人类用户的近5倍，自二月以来增长约14倍

本周图表：

相似文章

OpenRouter 云代理排行榜 - 2026年7月9日

Reddit r/AI_Agents

OpenRouter 的云代理排行榜展示了按 Token 消耗排名靠前的代理，Gitlawb 以 83.4 亿 Token 领先，其次是 Ito 和 Roo Code，反映出云代理平台的快速增长。