@seclink: 由此估算,当前国内token需求量是1000万亿每天的。 但是现在产能还是不行,还是供不应求 。
摘要
The article estimates that the daily token demand in China has reached 1000 trillion, but computing capacity remains insufficient, leading to a supply-demand imbalance.
由此估算,当前国内token需求量是1000万亿每天的。 但是现在产能还是不行,还是供不应求 。
相似文章
@seclink: 确实token plan 不太透明。 小米送的 16亿 token,我不到一周(只计工作日)就给它用完了。 仔细想想折算下来,每天都超过1个亿用量了。 想想,全国有1000万个像我这样的程序员, 2026年,算力荒还是有的 ...
用户抱怨小米赠送的16亿token很快用完,认为token计划不透明,并预测2026年将出现算力荒。
@rohanpaul_ai: "每10秒,全球代币需求在2026年约为317亿。到2030年将达到1.27万亿,增长40倍。" ~ 高通CEO
高通CEO克里斯蒂亚诺·安蒙预计,到2030年全球代币需求将增长40倍,这由AI智能体从人类节奏转向持续后台操作驱动,需要大量基础设施来支持上下文、记忆和错误处理。
@Vincent_AINotes: 本地部署大模型,就算你显卡性能拉满,稳定每秒跑100Token,24小时不间断满载运行,一天满打满算也就跑出8.64M Token。 拿这点吞吐量去搞什么Agent自动化集群、海量合成数据或者大批量业务分析,简直是杯水车薪。本地部署图个数…
本地部署大模型受限于硬件吞吐量,即使显卡性能满载,一天仅能处理约8.64M Token,不足以支持Agent自动化集群或大规模数据分析,因此规模化应用仍需依赖云端API。
@heyshrutimishra: 简直疯狂 六年半前,全球token使用量最高的是OpenAI的一名员工,每月使用10万个token。当…
Shruti Mishra 强调了AI token使用量的爆炸式增长——从六年前OpenAI员工每月使用10万token,到如今全球平均每月使用10万token——并认为对廉价、高质量AI智能的需求实际上是无限的。
@FinanceYF5: Chamath说他今天问CTO公司AI token花费怎么样,得到一个离谱答案:token成本每45天翻一倍,但下游生产力提升最多5%。 他的原话是,成本翻倍、收益基本持平,团队发现要往下一代能力迭代,需要的token量在指数级增长,因为…
Chamath 透露其公司发现 AI token 成本每 45 天翻倍,但下游生产力提升最多 5%,认为 AI 发展正接近瓶颈,建议公司重新审视策略甚至考虑退出。