@akshay_pachaar:https://x.com/akshay_pachaar/status/2091558537982075055

X AI KOLs Timeline 工具

摘要

本文分析了 Claude Code 部署中的 token 成本构成,揭示只有 14% 的输入 token 是用户提示,其余为配置和上下文,并提供了降低账单 20-40% 的见解。

https://t.co/qkTRWC0Kd7
查看原文
查看缓存全文

缓存时间: 2026/08/23 17:39

Claude Code 账单的构成

在一项跨越45人团队、持续30天的部署追踪中,只有14%的输入token是用户提示词。其余部分是你一次性设置后,每次交互都在付费的配置内容。了解这些费用流向何处,进行一次15分钟的审计就可能削减你20-40%的账单。

你让 Claude Code 构建一个小型Python工具。会话结束时,token计数高达数百万。你打开控制台想查明原因。它只给了你一个总数,没有明细。于是你合理推测:成本肯定来自你的提示词加上返回的代码。

我们需要精确理解哪些内容会被计费。输入token是模型在回答前读取的所有文本,这包括 Claude Code 代你加载到会话中的所有内容。这才是钱花出去的地方。

我们追踪了一个真实的 Claude Code 部署——一个45人的工程团队,为期30天——并分析了每一类token,发现实际用户提示词仅占输入token的14%。其余部分是开发者从未主动选择发送的上下文。仅先前助手的上下文就占了输入成本的30-45%。

后续的账单趋势已经可见。Uber 将 Claude Code 推广到约5,000名工程师,发现每人的月花费在500美元到2,000美元之间。一名使用200美元Max套餐的开发者,仅按现有功能使用,一个月就消耗了价值50,000美元的token。Claude Code 的年化收入已超过10亿美元,所以这不是舍入误差。

问题不在于你提示得太多,而在于每次交互都在悄悄重新加载一个你早已停止查看的会话。本文将详细剖析每个token去向何处、为何内置工具无法显示它们,以及可以改变什么。数据来自那次30天的追踪,以及 Comet 自己的工程团队——他们在将审计功能产品化之前,先在自己身上运行了同样的流程。

一旦你能看到这些分类,就会发现许多浪费其实是你可以在一个下午就修复的配置问题。

Claude Code 会话的解剖

每个 Claude Code 的交互轮次都是一次新的API请求。模型在轮次之间不保持状态。因此,每条消息都会发送完整的对话历史、完整的工具定义模式(schema)以及会话中加载的所有上下文。

首先需要澄清一点:Anthropic 的提示词缓存(prompt caching)将重放上下文的价格降至标准输入费率的大约10%。Claude Code 就是围绕缓存构建的,这里的每个数字都已经考虑了这一点。缓存降低的是每个token的价格,而不是重放的数据量。一个臃肿的配置仍然会在每轮支付相同的数据量,只是打了折扣。

以下是这些token的去向。

静态开销

基础系统提示词、工具定义和行为指令在每轮都会加载,并且没有设置可以移除它们。这是你基本无法修复的一类,因为系统提示词必须携带 Claude Code 工作所需的所有工具定义和行为指令。

技能和 CLAUDE.md

这些是赋予 Claude Code 领域知识的文本文件。它们通过通配符模式加载,或者始终保持开启。添加一个只需十秒钟。但移除一个几乎不会发生,所以这个集合只会增长。CLAUDE.md 是其中最严重的,因为 Claude Code 在每次会话开始时都会读取它,而你发送的每条消息都会为其中的每个单词支付token费用。

这些文件通常达到5,000甚至10,000个token。位置比人们想象的更重要。放在项目根目录下的 CLAUDE.md 会被注入到每个工具调用中,其成本大约是将其放在 .claude/rules/ 目录下的10倍,后者只在适用时才加载。

MCP 服务器模式(Schema)

每个连接的服务器会将其工具序列化为JSON,描述每个工具、其用途以及输入输出的形状。Claude Code 在每轮交互前都会添加这个JSON,而不是在会话开始时只加载一次。乘以一个会话的轮次数,你就是在为你从未调用过的工具定义支付“租金”。

服务器会一直保持连接,直到有人手动移除,而几乎没人会这么做。

工具结果与内置工具调用

文件读取、bash 输出和 grep 结果属于输入侧。Claude 运行的文件写入和命令属于输出侧。两者都会被计费,因为每个结果都被捕获到历史记录中,并在后续轮次中重放。加起来,工具流量是典型会话中最大的类别。

先前助手上下文

这是向前传递的对话历史。长会话会在每轮重放 Claude 早期的思考、文本和工具结果。对话文本本身并不昂贵。昂贵的是旧的文件读取和 grep 输出,并且随着会话增长,它们会不断累积。

思考token(Thinking Tokens)

这是用于推理的输出token。Claude Code 在 Opus 模型上默认启用了高强度思考,Reddit 上的开发者报告说其 Max 套餐限额的消耗速度是之前模型版本的10倍。在 SWE-bench 数据显示在相同任务完成率下输出token减少76%后,Anthropic 将默认值改为中等。这是一个罕见的设置,更便宜的选项不会带来任何质量损失。

模型选择

Sonnet 在每个层级上都远低于 Opus,并且在大多数开发工作中表现相当。让 Opus 作为格式化、代码检查和样板代码的默认模型,是团队可能忽视的最昂贵选择。

可见性缺口

目前存在四种选项,但每种都有局限。

  • /cost 给出会话总计。它不会告诉你该会话中45%的token用于重放工具结果。
  • Anthropic 控制台显示整个组织随时间的使用情况。当团队在无人使用的 MCP 上消耗token时,你只看到一条上升的线,却不知道原因。
  • /context 提供当前对话窗口的快照,分为系统提示词、历史和工具定义。它不会跟踪随时间变化的模式或比较开发者,且其token计数存在已知错误。
  • 手动审计适用于单个开发者。对于50或100名开发者,它就失效了,因为配置会漂移,没有人会移除他们不确定是否安全移除的东西。

这四种方式的共同缺陷是:它们都没有将“什么在消耗token”与“应该改变什么”联系起来,或者无法在团队范围内实施这些改变。

token级可观测性是什么样子

Comet 在 Opik 中构建了 Cost Intelligence 来填补这一空白。一个代理插件位于 Claude Code 和 Anthropic API 之间。它对内容进行哈希处理,因此你的提示词和代码永远不会被存储或发送给 Comet,它只提取结构化元数据,如类别、字符数和模型。只有成本指标会离开你的机器。

无需安装SDK,无需修改代码,只需在你的 Claude Code 设置文件中添加一个配置块即可完成设置。查看这个:

{
  "enabledPlugins": {
    "opik-cipx@opik-enterprise": true
  },
  "env": {
    "OPIK_CIPX_API_KEY": "",
    "OPIK_CIPX_BASE_URL": "https://www.comet.com/opik/api",
    "OPIK_CIPX_PROJECT": "claude-code"
  }
}

连接后,主页仪表盘会显示一个桑基图(Sankey diagram),将每个token从其来源类别,经过编码代理,映射到其输出类别。查看这个:

你可以点击任何类别,确切查看是什么在驱动成本。点击“先前助手上下文”会显示重放的 tool_use (64.5%)、文本 (35.4%) 和思考 (0.1%) 之间的成本分布。查看这个:

点击“MCP 服务器”,你会得到一个按服务器排名的视图,显示总支出、调用量,以及一个“浪费”指标,该指标会标记那些已安装但从未调用、却仍在每轮加载其模式的服务器。查看这个:

用户排行榜 显示每个开发者的支出,以及他们的模型选择、token消耗、技能数量、MCP数量和MCP调用量。查看这个:

“高支出”标记用于突出异常用户。正是这个视图,让工程领导者能够提出有见地的问题,而不是实施一刀切的限制。

从可见性到优化

这与普通仪表盘的区别在于其节省引擎。每条建议都包含一个预估节省金额、机制的通俗解释,以及质量真正面临风险时的警告。

将默认模型切换为 Sonnet 通常是最大的单项节省。其次是更早地压缩上下文,因为长会话每轮都会以缓存读取的费率重新读取其整个前缀。降低思考强度能节省双倍,因为限制思考量不仅减少了当前轮的输出,也减少了后续每次重放的量。限制 Bash 输出对长安装日志和测试运行也能达到同样效果。

其余的是清理工作,包括阻止失效的MCP服务器、关闭自动记忆功能,以及移除那些存在于每轮系统提示词中的 git 指令。每个优化项都有一个“应用”按钮来写入更改,而设置导出会生成一个 managed-settings.json,将启用的策略推送给整个团队。

Comet 在发布产品前就在自己的使用情况上运行了此流程。在集中规则、将始终开启的技能改为按需加载并保持会话简短后,他们的中位数输出成本从每百万输出token 229美元降至181美元,在速度不变的情况下削减了21%。

你现在就可以进行的15分钟审计

你可以立即检查自己的设置,无需安装任何东西。

  • 审计你的MCP服务器: 打开 ~/.claude.json 和你的工作区 .mcp.json。禁用任何你在过去两周内未使用的服务器。即使移除两三个未使用服务器所节省的token,也会在每个会话的每轮交互中累积。
  • 精简你的 CLAUDE.md: 将其控制在200行以内。将领域知识、工作流指导和一次性修复移至按需加载的技能中,只在相关时加载。全局文件应只包含真正的不变项,如构建命令、项目架构和硬性约束。
  • 将思考强度设置为中等: 相同的任务完成率,输出token减少76%。这是目前可用的、杠杆率最高的单项设置更改。
  • 保持会话简短: 完成一项任务、提交代码、压缩上下文或开始新会话。长会话是先前助手上下文膨胀、过时的工具结果在每轮被重放的温床。
  • 审查你的默认模型: 如果 Opus 是你组织的默认模型,请检查每种任务类型是否真正需要它。将常规开发工作切换到 Sonnet,对于大多数编码任务,可以在保持输出质量相当的情况下,将成本削减约40%。

对于个人开发者,Opik Claude Code 插件是免费且开源的。一条命令即可安装,你将获得带有完整 span 细分的会话级追踪。

/plugin marketplace add comet-ml/opik-claude-code-plugin

对于需要组织级归因、配置策略以及跨所有开发者一键优化的团队,Cost Intelligence 将数小时的繁琐审计转化为一个仪表盘。

Opik Cost Intelligence → Comet ML Opik GitHub 仓库 →(别忘了点个星 🌟)

如果你正在构建 AI 工程师会喜爱的开源工具,请联系我们。我们只报道通过我们自己测试的工具,所以我们会先试用你的工具,只有它通过了才会撰写报道。

感谢 Comet ML 赞助本期内容。

相似文章

@akshay_pachaar: https://x.com/akshay_pachaar/status/2045910818450182526

X AI KOLs Following

一份实用指南,介绍 Claude Opus 4.7 与 4.6 的区别,涵盖新的 xhigh 努力等级、以自适应思考取代固定 token 预算,以及 1M 上下文窗口,并就如何调整提示策略和任务分配方式提供建议,以避免 token 成本虚高。

@akshay_pachaar: https://x.com/akshay_pachaar/status/2053166970166772052

X AI KOLs Timeline

The article discusses a shift in AI agent tool usage from the 'MCP vs CLI' debate to 'Code Mode,' where agents write code to dynamically import tools, significantly reducing context window usage. It highlights Anthropic's approach and Cloudflare's implementation, demonstrating a 98.7% reduction in token consumption for specific tasks.