@seclink: 由此估算,当前国内token需求量是1000万亿每天的。 但是现在产能还是不行,还是供不应求 。

X AI KOLs Following 新闻

摘要

The article estimates that the daily token demand in China has reached 1000 trillion, but computing capacity remains insufficient, leading to a supply-demand imbalance.

由此估算,当前国内token需求量是1000万亿每天的。 但是现在产能还是不行,还是供不应求 。
查看原文

相似文章

@Vincent_AINotes: 本地部署大模型,就算你显卡性能拉满,稳定每秒跑100Token,24小时不间断满载运行,一天满打满算也就跑出8.64M Token。 拿这点吞吐量去搞什么Agent自动化集群、海量合成数据或者大批量业务分析,简直是杯水车薪。本地部署图个数…

X AI KOLs Following

本地部署大模型受限于硬件吞吐量,即使显卡性能满载,一天仅能处理约8.64M Token,不足以支持Agent自动化集群或大规模数据分析,因此规模化应用仍需依赖云端API。

@FinanceYF5: Chamath说他今天问CTO公司AI token花费怎么样,得到一个离谱答案:token成本每45天翻一倍,但下游生产力提升最多5%。 他的原话是,成本翻倍、收益基本持平,团队发现要往下一代能力迭代,需要的token量在指数级增长,因为…

X AI KOLs Timeline

Chamath 透露其公司发现 AI token 成本每 45 天翻倍,但下游生产力提升最多 5%,认为 AI 发展正接近瓶颈,建议公司重新审视策略甚至考虑退出。