标签
OpenAI 报告称,其前 10% 的研究人员每天消耗价值超过 23,000 美元的 API 令牌,凸显了推动 AI 研究加速发展的巨大算力需求。
Garry Tan 提到正在努力精简 GStack 以减少 token 消耗和任务延迟,有回复指出 CI 流水线耗时从 7 分钟降到 3 分钟,同时询问了 20 个并发 subagent 造成的延迟波动问题。
作者导出10小时Grok Bot使用数据发现89%消耗来自后台子任务、96%输入token用于重读旧上下文,并总结出5条规则,预计可节省25-30%的用量。
有用户建议,Grok 产品应在某项任务的 token 消耗速率极高时主动提醒用户,以防止意外耗尽每周使用额度。
llm-echo 0.5 发布更新,改进了模拟 token 用量统计,现在会考虑工具调用、系统提示和推理 token,用于调试 LLM CLI。
该推文分析认为Anthropic的"增长放缓"可能被过度解读,指出8月假期季节性因素及OpenAI新模型Astra的发布分流了部分用量,但长期看Anthropic在高难度任务上仍将占据重要份额,开源模型则主导标准化任务。
Anthropic 的 Claude Opus 5.5 模型家族大受欢迎,OpenRouter 数据显示其上线后短短约 6 天内,Anthropic 就从 OpenAI 手中夺回了可观的 token 用量与支出份额。
Vercel的AI Gateway十月生产指数显示,开源权重模型已处理71.5%的token流量并占近23%的支出,自6月以来支出份额翻了四倍多;整体AI支出较12月增长13倍,而每token均价下降47%。
一名用户详细拆解了自己一周内使用 Grok Bot 的费用:升级到每月 $200 套餐,其中 52% 的成本来自 16 步以上的长任务,90% 的 token 是对已有上下文的重复读取。文章给出了测量用量、脚本化重复任务、将长任务交给独立代理等省钱建议。
对 Grok Bot 和 Muse 作为个人 AI 智能体进行了实测对比,各自使用超过 20 小时,结论是:Muse 凭借充裕的 token 配额在价格上胜出,而 Grok Bot 在智能水平上更胜一筹,但由于频繁执行定时任务和反复重读上下文,很快就会耗尽昂贵档位的使用额度。
一位实践者分享了在 Codex 和 Claude 中通过选择单智能体或多智能体配置来节省 AI 使用额度的技巧,并指出子智能体和反复交叉核查会消耗 token,却无法改善结果。作者测试了以 Opus 5.5 作为协调器,动态选择 Haiku 5.5 Short 或 Long,并优化缓存设置,将两小时内的用量降至每周额度的约 5%。
Aaron Levie 借 Prime Intellect 的最新实验指出,AI 智能体群将是未来 token 消耗的主要场景,可在软件开发、网络安全、生命科学等企业领域并行协作,实现人类无法企及的执行方式,这也是未来需要 1000 倍算力的原因。Prime Intellect 的 Prime Agent 此前指挥超过 2000 个智能体在两周内用 Rust 重写自身,消耗了 2000 亿以上 GLM-5.3 token。
文章预测一两年内,与AI聊天将显得过时,AI代理将在后台协作、自我复制并以群体方式运行,这可能使token用量激增1000倍,届时算力与网络带宽都将成为重大瓶颈。
一项技术对比显示,运行 Gemini 3 Flash 这类更便宜、更轻量的模型,其成本可能远高于 Gemini 3 Pro 这类价格更高但具备推理能力的模型——Flash 在失败前烧掉了约 1,000 个步骤和 14 美元的 token,而 Pro 仅用 85 个步骤就成功完成任务,只花了 1 美元,这凸显了不同模型乃至同一模型不同运行之间的 token 消耗差异。
作者对比了 $200 的 GPT(Codex,使用 GPT-6 Astra)与 Claude(主要使用 Opus 5.5)订阅额度,估算 Claude 每周额度约等值 $3,400 API 成本,而 Codex 约为 $1,700,考虑缓存命中率后 Claude 的耐用度约为 Codex 的 10 倍。
一位用户报告称,Android 充电通知反复唤醒其 OpenClaw Astra 智能体,单日记录的 token 用量高达 127.8M——不过其中约 98% 是缓存输入 token,并非按全价计费。帖子就如何对系统通知事件进行防抖,或将后台事件隔离到更小的上下文中征求建议。
Jamon Holmgren 分享说,一个来自 Matt Pocock 的 `retro` 技能帮助他在 AI 代理运行框架(harness)中发现了约 15 个真实存在的问题,这些问题导致了不必要的 token 消耗,例如 linter 的错误提示误导代理跳过检查,以及构建符号不完整的问题。
Vercel AI Gateway的CEO @rauchg 表示,大多数token聚合器充斥着噪音,包括那些要求你把数据用于训练的token促销,以及声称支持ZDR(零数据保留)但信誉存疑的提供商;而Vercel AI Gateway凭借真实客户用量、40万+付费客户规模和零加价,成为理解全球AI token流向的最可信数据源。
这条推文讨论了AI代理到2030年将使用比人类多100倍的令牌的预测,并介绍了Fo,一个结合AI与人工协助以处理现实任务的个人AI产品。
该推文将 Opus 5.5 在一项任务上的性能与 Astra 进行了对比,指出其表现更好但使用了 10 倍的 token,且绘制速度更快。