令牌
摘要
美国陆军在一个月内消耗了全年的AI令牌预算,迫使重新实施使用上限,并凸显出令牌经济学——而不仅仅是GPU可用性——正成为大规模企业AI部署的关键瓶颈。
据报道,美国陆军在大约一个月内消耗了全年的AI令牌预算。根据2026年7月21日WIRED的一篇报道(基于内部DEVCOM电子邮件和对陆军员工的采访),陆军快速推广AI的做法很快与基于令牌的AI经济学发生了冲突。发生了什么?• 2026年5月,陆军首席信息官宣布为生成式AI工具提供无限令牌。• 到6月中旬,陆军中央令牌池完全耗尽,迫使陆军重新实施使用上限。• 企业订阅据说每年包含1亿个令牌,个人用户最初每月获得20万以上的令牌,并自动补充。• 令牌资金按当前水平续订,但2026年10月1日之后的资金仍不确定。由Ask Sage提供支持的陆军企业LLM工作空间,可访问包括ChatGPT、Gemini和Llama在内的模型,用于从文档分析到人事管理等任务。一位陆军员工总结了情况:“显然,整个陆军仅仅为了一个服务就用完了全年的令牌。”这不仅仅是陆军的故事。它突显了一个更大的转变:AI令牌已成为新的计算经济单位。一些数字可以说明问题:• 1亿个令牌听起来很多,但现代推理模型和AI智能体每个任务可能消耗数万到数十万个令牌。• GenAI.mil据报道从约8万用户增长到2026年中期的超过150万用户——接近国防部劳动力的半数。• 在“史诗之怒”行动期间,国防部据报道在某些操作工作流中每天处理约200亿个AI令牌。• 类似的成本超支也出现在私营部门,组织在早期“无限AI”部署后不得不引入令牌预算、使用上限和回收费。教训:瓶颈不再仅仅是GPU——而是令牌经济学。组织发现,一旦成千上万或数百万用户每天开始依赖大语言模型,“无限AI”很难维持。随着AI智能体变得更加自主,上下文窗口不断扩大,令牌消耗——以及支持它的成本——可能增长得远比预期快。企业AI的未来将不仅仅以模型性能来衡量。它将以组织在规模上生成、分配和管理令牌的效率来衡量。
相似文章
陆军正在耗尽AI令牌
美国陆军在鼓励广泛使用后,一个月内用完了Ask Sage分配的年度AI令牌配额,被迫重新实施限制,这引发了关于国防部采用生成式AI可持续性的质疑。
@levie: Token成本将成为企业未来AI应用中的主导话题。刚与许多Fortu…
Token成本正成为企业采用AI的关键关注点,CIO们难以管理不同模型和用例的开支。OpenAI宣布推出Guaranteed Capacity以解决长期计算资源获取问题。
代币账单到期:行业竞相应对AI失控成本的内幕
本文探讨了企业因代币消耗增加而面临AI成本飙升的困境,导致预算超支,并成立新的标准机构Tokenomics Foundation,以对AI代币进行成本管控。
AI token 使用在什么情况下会成为业务问题?
文章强调了AI token使用经济性在大规模应用时被低估的挑战,讨论了随着组织从概念验证转向企业级部署,成本如何成为治理问题。它提出了关于成本可见性、监控以及平衡性能与成本的问题。
Token消耗狂飙正成为一类生产事故。你如何为AI代理费用设置上限?
AI代理导致Token消耗失控,使超支成为一类生产事故。文章列举了诸如一位工程师130万美元的OpenAI账单以及Uber在四个月内烧掉全年AI预算等案例,并向社区询问如何为代理费用设置上限。