令牌

Reddit r/ArtificialInteligence 新闻

摘要

美国陆军在一个月内消耗了全年的AI令牌预算,迫使重新实施使用上限,并凸显出令牌经济学——而不仅仅是GPU可用性——正成为大规模企业AI部署的关键瓶颈。

据报道,美国陆军在大约一个月内消耗了全年的AI令牌预算。根据2026年7月21日WIRED的一篇报道(基于内部DEVCOM电子邮件和对陆军员工的采访),陆军快速推广AI的做法很快与基于令牌的AI经济学发生了冲突。发生了什么?• 2026年5月,陆军首席信息官宣布为生成式AI工具提供无限令牌。• 到6月中旬,陆军中央令牌池完全耗尽,迫使陆军重新实施使用上限。• 企业订阅据说每年包含1亿个令牌,个人用户最初每月获得20万以上的令牌,并自动补充。• 令牌资金按当前水平续订,但2026年10月1日之后的资金仍不确定。由Ask Sage提供支持的陆军企业LLM工作空间,可访问包括ChatGPT、Gemini和Llama在内的模型,用于从文档分析到人事管理等任务。一位陆军员工总结了情况:“显然,整个陆军仅仅为了一个服务就用完了全年的令牌。”这不仅仅是陆军的故事。它突显了一个更大的转变:AI令牌已成为新的计算经济单位。一些数字可以说明问题:• 1亿个令牌听起来很多,但现代推理模型和AI智能体每个任务可能消耗数万到数十万个令牌。• GenAI.mil据报道从约8万用户增长到2026年中期的超过150万用户——接近国防部劳动力的半数。• 在“史诗之怒”行动期间,国防部据报道在某些操作工作流中每天处理约200亿个AI令牌。• 类似的成本超支也出现在私营部门,组织在早期“无限AI”部署后不得不引入令牌预算、使用上限和回收费。教训:瓶颈不再仅仅是GPU——而是令牌经济学。组织发现,一旦成千上万或数百万用户每天开始依赖大语言模型,“无限AI”很难维持。随着AI智能体变得更加自主,上下文窗口不断扩大,令牌消耗——以及支持它的成本——可能增长得远比预期快。企业AI的未来将不仅仅以模型性能来衡量。它将以组织在规模上生成、分配和管理令牌的效率来衡量。
查看原文

相似文章

陆军正在耗尽AI令牌

Wired

美国陆军在鼓励广泛使用后,一个月内用完了Ask Sage分配的年度AI令牌配额,被迫重新实施限制,这引发了关于国防部采用生成式AI可持续性的质疑。

AI token 使用在什么情况下会成为业务问题?

Reddit r/AI_Agents

文章强调了AI token使用经济性在大规模应用时被低估的挑战,讨论了随着组织从概念验证转向企业级部署,成本如何成为治理问题。它提出了关于成本可见性、监控以及平衡性能与成本的问题。