控制效应：编排设计如何设定企业代理型人工智能的代币经济

# 编排设计如何塑造企业级智能体AI的代币经济学  
来源: https://arxiv.org/html/2607.06906  

Muayad Sayed Ali, Aliaksandra Novik, Anji Boddupally, Artem Yavorskyi, Chris Nickerson, Daniel Rica, Emily DuGranrut, Felix Leung, Garrett Prince, Grace Barnett, Heath Robinson, Hosain Al Ahmad, Jesse Resnick, Juan Carlos Farah, Jyothi Swaroop Meruga, Leonid Kuznetsov, Brock Perry, Luke Gorham, Marie Schmoll, Michael Paciullo, Saumya Das, Sharath Sheripally, Tommy Griscom, Mykyta Osadchyi, Neha Mantri, Nick Westrum, Olivia Benowitz, Parikshith Kulkarni, Radik Chernyshov, Rakshith Vasudev, Rohith Nadimpally, Vikas Gangadevi, and Waseem AlShikh  

Writer, Inc\. \{muayad, aliaksandra, anji, artem, chris, daniel, emily, felix, garrett, grace, heath, hosain, jesse, juan, jyothi, leonid, brock, luke, marie, michael, saumya, sharath, tommy, mykyta, neha, nick, olivia, parikshith, radik, rakshith, rohith, vikas, waseem\}@writer\.com (2026年7月)  

###### 摘要  

智能体AI开发中的主导模式是我们所称的*代币最大化*：用代币购买能力——更长的推理轨迹、更多的智能体轮次、更宽的工具负载、更大的重放上下文——使得每个任务的代币消耗增长速度超过任务价值的增长速度。代币单价下降掩盖了这种模式，但并未解决根本问题；总支出仍然在上升。我们认为，对抗代币最大化的决定性杠杆是*管理器*：负责组装上下文、暴露工具、编排轮次、委派工作，并承载企业部署所需的可观测性和治理面的编排层。为了隔离这一层，我们进行了一次受控交换：在相同的六款基础模型（Claude Sonnet 4.6, Gemini 3.1, Gemini Flash 3.5, Qwen 3.6, GLM 5.1, Palmyra X6）上执行相同的22个锁定评估任务，仅更改编排层：一个传统的生产级智能体循环（冻结基线）对比 Writer Agent Harness。保持模型不变，将管理器置于执行核心，使得混合平均每个任务的成本降低了41%（$0.21→\\rightarrow$0.12），中位挂钟时间降低了44%（48秒→\\rightarrow27秒），每个任务的代币消耗降低了38%（14.2k→\\rightarrow8.8k），同时总的任务完成质量保持持平（0.78→\\rightarrow0.81，在此样本量下仅为方向性差异）。效率提升是*模型不变*的——每个模型都变得更便宜，幅度在33%到61%之间——而质量提升则*依赖于能力*：模型从管理器中获得的改进与其基线强度几乎完全相关（r=0.99r=0.99, n=6n=6），我们将此现象称为*管理器杠杆*。每美元质量提升82%，每百万代币完成任务数从54.9提升至92.0。在此工作负载下，编排层对任务成本的影响超过了在最便宜和最昂贵模型之间切换所带来的影响。我们在编排层形式化了代币经济学，包括提示缓存下的有效输入价格模型；定义了代币最大化；详细阐述了产生该效应的六种机制家族，从缓存形状纪律到失败支出治理；在同一维度上比较了六个广泛使用的智能体系统；并论证了管理器是一个组件，其效率会在组织运行的每一个模型上倍增——无论是现在还是未来。  

## 1 引言  

一个智能体任务并不仅仅是一次模型调用。一个单一的请求——“对这两份合同进行核对并起草修订备忘录”——会展开成十几次或更多的轮次：系统提示、工具模式、检索负载、中间推理、工具输出，以及在幼稚实现中，在后续的每一个轮次中对以上所有内容的完整重放。任务的代币账单是该循环的总和，而这个循环并非由模型控制，而是由其周围的软件控制。我们将这种软件称为*管理器*：它决定哪些内容进入上下文窗口、哪些工具可见、何时检索、何时重试、何时委派以及何时停止的编排层。  

行业内对不断增长的智能体能力需求的默认反应是花费更多的代币。推理模型会为每个答案生成数千个思考代币；智能体框架以轮次数的二次方重放对话历史；工具生态系统将每个模式注入到每次调用中。代币单价持续下降\[24 (https://arxiv.org/html/2607.06906#bib.bib24)\]，而不断下降的单价助长了这种习惯：团队将代币视为近乎免费的边际资源，并相应地扩大消耗。这是一种经典的 Jevons 动态——资源效率的提升降低了其价格并提高了总消耗量\[1 (https://arxiv.org/html/2607.06906#bib.bib1)\]——这产生了一条我们称之为代币最大化的发展轨迹：质量是通过单调递增的代币密集度来购买的，且每代币的边际质量递减（定义 1，第3节 (https://arxiv.org/html/2607.06906#S3)）。代币最大化在报告质量的基准测试表中不可见，但在报告代币数的云账单中却刺眼可见。  

大多数已发表的效率工作都在*一次*模型调用内部解决这个问题——提示压缩\[9 (https://arxiv.org/html/2607.06906#bib.bib9)\]、预算约束推理\[12 (https://arxiv.org/html/2607.06906#bib.bib12)\]、简洁解码\[13 (https://arxiv.org/html/2607.06906#bib.bib13)\]、推测解码\[14 (https://arxiv.org/html/2607.06906#bib.bib14)\]、服务端内存管理\[15 (https://arxiv.org/html/2607.06906#bib.bib15)\]——或者在模型*之间*，通过路由和级联来解决\[10 (https://arxiv.org/html/2607.06906#bib.bib10),11 (https://arxiv.org/html/2607.06906#bib.bib11)\]。这两类方法都接受编排层为既定事实。然而，管理器控制着除模型自身冗长度之外代币账单的每一项：系统提示由管理器重放或缓存；历史由管理器重放或压缩；工具模式由管理器广播或限定范围；检索负载由管理器设定大小；重试由管理器触发。如果管理器是将模型调用组合成工作的层，那么它也是设定工作价格的层。  

本文通过分层架构提供的一个自然实验直接衡量了这一主张：*保持任务和模型不变，仅交换编排层*。我们在跨越五个供应商和三个权重级别的六款基础模型上，评估了22个锁定的、经过能力审计的企业任务，采用两种编排层：一个传统的生产级智能体循环（冻结于2026年6月7日作为基线）和 Writer Agent Harness（一个具有子智能体委派能力的、模型无关的编排层）。两个分支中的每个任务、提示、模型标识符、评估器和价格表都完全相同；唯一的变量是编排代码。主要结果（第6节 (https://arxiv.org/html/2607.06906#S6)）如下：  

1. 1.效率大幅提升，且普遍发生。跨模型混合后，每个任务成本下降41%（$0.21→\\rightarrow$0.12），中位挂钟时间下降44%（48秒→\\rightarrow27秒；快1.8×\\times倍），每个任务代币数下降38%（14.2k→\\rightarrow8.8k）。每个模型的成本降低范围从−-33%（Gemini 3.1）到−-61%（Flash 3.5）：*每个*模型都显著变便宜。在此工作负载下，管理器是一个比模型选择更大的成本杠杆：在基线下从最贵模型切换到最便宜模型节省了36%，而保留任何模型并采用管理器则节省了33%到61%。  

2. 2.质量保持不变——而在发生变化之处，它与模型一同变化。总任务完成率为0.78→\\rightarrow0.81（在n=22n=22时差异不显著）。在48个能力×\\times模型单元格中，30个改进，11个持平，7个退步；所有7个退步都发生在三个较小的模型上，集中在编排密集型的能力上（通过 MCP 的工具使用、多步骤 Playbooks）。模型从管理器中获得的平均质量增益与其基线强度几乎完美相关（r=0.99r=0.99）：更强的模型将管理器结构转化为质量；较弱的模型可能被其压倒。我们将此称为*管理器杠杆*（第6.4节 (https://arxiv.org/html/2607.06906#S6.SS4)）。  

3. 3.效率与能力这一次并非权衡。每美元质量提升82%；每百万代币完成任务数从54.9提升至92.0（++68%）。管理器还增加了一项全新的能力——委派子智能体——该能力仅在两个最强的模型上跨过了可用的可靠性阈值（0.85–0.86），这是管理器特性所携带的能力门槛的一个具体实例。  

贡献如下：(1) 在编排层建立了代币经济学的形式化框架，包括将每个任务的代币开销分解为管理器控制的项、提示缓存下的有效输入价格模型，以及将代币最大化定义为一种可衡量的发展轨迹（第3节 (https://arxiv.org/html/2607.06906#S3)）。(2) 一种受控的管理器交换方法论，通过锁定任务集、冻结基线和跟踪级核算，隔离编排效应与模型效应（第5节 (https://arxiv.org/html/2607.06906#S5)）。(3) 跨六个模型的实证发现：模型不变的效率提升、依赖于能力的质量提升（管理器杠杆），以及高级编排能力的能力门槛（第6节 (https://arxiv.org/html/2607.06906#S6)）。(4) 一个管理器机制清单——缓存形状纪律、结构化压缩、上下文卸载、零代币等待、失败支出治理以及模型无关的地板——映射到成本分解上，并附带六个广泛使用的智能体系统在同一维度上的架构比较（第4.3节 (https://arxiv.org/html/2607.06906#S4.SS3)–4.4节 (https://arxiv.org/html/2607.06906#S4.SS4)）。(5) 对管理器效率为何会产生复合效应——它针对每个模型、每次供应商迁移以及每个单位量进行倍增——及其对编排基础设施自建与租赁决策含义的经济分析（第7节 (https://arxiv.org/html/2607.06906#S7)）。  

## 2 相关工作  

#### 模型侧与服务端效率。  
大量文献致力于降低*给定*代币序列的成本：推测解码加速自回归生成而不改变输出\[14 (https://arxiv.org/html/2607.06906#bib.bib14)\]；PagedAttention 及相关内存管理器提高服务吞吐量\[15 (https://arxiv.org/html/2607.06906#bib.bib15)\]。这些技术降低了单个代币的价格。它们并未减少智能体决定消耗的代币数量，而本文正是针对这一数量。  

#### 提示侧代币减少。  
LLMLingua 及其后继者能够在保持任务性能的同时压缩提示\[9 (https://arxiv.org/html/2607.06906#bib.bib9)\]；代币预算感知推理约束了思考长度\[12 (https://arxiv.org/html/2607.06906#bib.bib12)\]；Chain-of-Draft 表明简洁的中间推理可以媲美冗长的思维链\[13 (https://arxiv.org/html/2607.06906#bib.bib13),4 (https://arxiv.org/html/2607.06906#bib.bib4)\]。这些方法在单次调用内运作。而一个智能体管理器在单个任务中会调用此类调用数十次，并增加了跨调用结构——历史重放、工具模式、检索——这些是任何单次调用方法都无法看到的。我们的结果表明，更大的节约就存在于跨调用结构中：通过不改变模型或提示，实现了每个任务代币减少38%。  

#### 路由与级联。  
FrugalGPT 和 RouteLLM 通过将简单查询发送给廉价模型来降低成本\[10 (https://arxiv.org/html/2607.06906#bib.bib10),11 (https://arxiv.org/html/2607.06906#bib.bib11)\]。路由选择*哪个*模型来支付账单；而管理器决定了无论选择哪个模型，*账单有多大*。两者是互补的，第7.4节 (https://arxiv.org/html/2607.06906#S7.SS4) 论证了我们的能力门槛发现可以优化路由：请求不仅应根据难度进行路由，还应根据它们将要执行的编排特性进行路由。  

#### 智能体架构。  
ReAct 引入了推理与工具调用的交错执行\[6 (https://arxiv.org/html/2607.06906#bib.bib6)\]；Reflexion 增加了言语自我修正\[7 (https://arxiv.org/html/2607.06906#bib.bib7)\]；Toolformer 将工具调用训练到模型中\[8 (https://arxiv.org/html/2607.06906#bib.bib8)\]；SWE-agent 表明*智能体-计算机接口*会显著影响任务成功率\[18 (https://arxiv.org/html/2607.06906#bib.bib18)\]；MemGPT 引入了类似操作系统的上下文分页\[16 (https://arxiv.org/html/2607.06906#bib.bib16)\]；Model Context Protocol 标准化了工具连接\[23 (https://arxiv.org/html/2607.06906#bib.bib23)\]。这一研究方向确立了编排框架塑造能力。长上下文研究解释了一种机制：模型在较长的输入中注意力分布不均匀，因此臃肿的上下文在提高成本的同时可能*降低*准确性\[17 (https://arxiv.org/html/2607.06906#bib.bib17)\]。我们将编排框架塑造能力的结果扩展为它的经济两重性——编排框架设定成本——并在受控交换下量化了这两个方面。  

#### 评估与测试时计算。  
LLM-as-judge 协议\[20 (https://arxiv.org/html/2607.06906#bib.bib20)\] 和锁定基准套件\[19 (https://arxiv.org/html/2607.06906#bib.bib19)\] 支撑了我们的测量设计。关于最优测试时计算分配的研究\[21 (https://arxiv.org/html/2607.06906#bib.bib21)\] 表明质量可以通过推理代币来购买；我们的框架将此购买视为一种边际递减的经济决策，而管理器则是实际购买方。诸如 GEPA\[22 (https://arxiv.org/html/2607.06906#bib.bib22)\] 之类的反思性提示进化系统优化了管理器发出的指令；它们是通过我们测量的层进行运作的自然补充。  

#### 推理经济学。  
缩放定律曾对训练计算进行定价\[2 (https://arxiv.org/html/2607.06906#bib.bib2),3 (https://arxiv.org/html/2607.06906#bib.bib3)\]；Epoch AI 记录了推理价格数量级的下降\[24 (https://arxiv.org/html/2607.06906#bib.bib24)\]。Jevons 在1865年观察到煤炭效率的提升提高了煤炭总消耗量\[1 (https://arxiv.org/html/2607.06906#bib.bib1)\]；第3节 (https://arxiv.org/html/2607.06906#S3) 论证了智能体AI正处于 Jevons 动态之中，而管理器是可以实际实施消耗纪律的层面。  

#### 管理器作为一等对象。  
最接近我们框架的是近期一系列将管理器本身提升为研究对象的著作：Gu 认为智能体的进步现在既涉及*系统*缩放——上下文治理、记忆、技能路由——也涉及模型缩放\[27 (https://arxiv.org/html/2607.06906#bib.bib27)\]；Harness-Bench 通过5,194条轨迹测量出，完成度、效率和失败行为在不同模型-管理器配置间存在显著差异\[28 (https://arxiv.org/html/2607.06906#bib.bib28)\]。实践者证据也指向同一方向：生产环境中的上下文工程指南将 KV 缓存命中率视为智能体的首要指标\[30 (https://arxiv.org/html/2607.06906#bib.bib30)\]；供应商文档将缓存输入的定价定为列表价的约十分之一\[32 (https://arxiv.org/html/2607.06906#bib.bib32)\]；受控测量显示模型质量随输入增长而下降\[31 (https://arxiv.org/html/2607.06906#bib.bib31)\]；Anthropic 报告智能体消耗约∼4×\{\\sim\}4\\times，多智能体系统消耗约∼15×\{\\sim\}15\\times聊天级别的代币量\[29 (https://arxiv.org/html/2607.06906#bib.bib29)\]。我们添加了缺失的经济层面：在管理器层面的形式化代币经济学框架（第3节 (https://arxiv.org/html/2607.06906#S3)）、实现该框架的机制清单（第4.3节 (https://arxiv.org/html/2607.06906#S4.SS3)），以及为其定价的受控交换（第6节 (https://arxiv.org/html/2607.06906#S6)）。  

## 3 编排层的代币经济学  

### 3.1 单个智能体任务的账单