@levie：代理已经占据了推理的大部分。这将很快在未来一年内趋向于几乎所有的推理……

X AI KOLs Following 新闻
ai-agents inference-traffic multi-turn-ai long-context kv-cache-reuse ai-workflows token-consumption

摘要

这条推文声称，AI代理现在主导了推理流量，预计这一趋势将加速，导致代理全天候执行大量任务并消耗大量令牌。

代理已经占据了推理的大部分。这将在未来一两年内很快趋向于几乎所有的推理。 世界上使用的绝大部分令牌将是代理，它们在后台全天候为我们执行难以置信的大量任务。 代理将被部署来读取所有代码更改以保护我们的软件，处理工作流中的所有数据，处理招聘和客户挖掘中大部分的研究工作，审查世界上每个系统的事件流和日志，在我们的个人生活中执行任务，以及数百种其他用例。 新代理上线并消耗大量令牌的速度并未放缓。就在过去一周，我引入了多个全新的工作流程，这些在技术上甚至一个月前都是不可能的。 这是做任何推理相关工作的绝佳时机，当然也是在此基础上进行构建的好时机。
查看原文
查看缓存全文

缓存时间: 2026/09/18 06:31

智能体目前已占据推理流量的主要部分。这一趋势将在未来一两年内迅速发展，直至几乎涵盖全部推理任务。

全球范围内使用的绝大多数Token，将是智能体在后台全天候为我们执行的海量任务所产生。

智能体将被部署用于：审阅所有代码变更以保障软件安全、处理工作流中的全部数据、承担招聘与客户拓展中的绝大部分研究工作、审查全球所有系统的事件流与日志、在个人生活中代为执行任务，以及数百种其他应用场景。

新智能体接入并消耗惊人Token量的增长速度丝毫未减。仅在过去一周，我就推出了多个全新工作流，这些工作流甚至在一个月前都还无法实现。

当下正是投身推理领域、并基于这一切进行构建的绝佳时机。

SemiAnalysis (@SemiAnalysis_): 智能体现在占据了超过70%的全部推理流量🚀

智能体工作负载具有四大特征：

🟠 多轮交互：单个会话包含数十至数百轮对话，极大提升了KV缓存复用潜力。

🟠 长上下文：系统提示词、工具

相似文章