数百万美元AI资金背后：企业GPU平均利用率仅5%，推理成本与所有权成本从34%升至41%

Reddit r/singularity 新闻
ai-infrastructure gpu-utilization inference-costs enterprise-ai cost-optimization hardware-allocation

摘要

急于购买大规模GPU集群部署AI的企业，如今面临低利用率（5%）和成本飙升（推理加所有权成本从34%升至41%）的困境，凸显AI部署中的重大基础设施低效问题。

嗯，在ChatGPT推出后的几年里，企业争相购买大规模GPU集群，因为AI需求爆发且算力稀缺。但我认为现在这不仅仅取决于利用率，还涉及调度、推理效率、路由、治理、能源接入和运营管理等多个方面。讽刺意味十足：本应最高效改善人类生活的技术，却存在如此庞大的基础设施低效问题，大部分预算都花在了硬件资源分配上。 来源：https://winbuzzer.com/2026/05/11/enterprises-face-underused-gpu-fleets-as-ai-costs-rise-xcxwbn
查看原文

相似文章

AI太贵了

Hacker News Top

文章认为，对于大多数公司而言，人工智能过于昂贵，在经济上不可行。超大规模云服务商在数据中心上花费了数万亿美元，但却未能产生相应的人工智能收入。文章指出，只有像NVIDIA这样的硬件供应商才能从当前的人工智能泡沫中受益。

AI 和计算

OpenAI Blog

OpenAI 发布分析表明，自 2012 年以来，最大规模 AI 训练运行所使用的计算量以 3.4 个月的倍增周期呈指数级增长，累计增长 30 万倍，远远超过摩尔定律的增长速度。该分析预测这一趋势可能会继续，并呼吁增加学术 AI 研究经费以应对不断上升的计算成本。

今年AI支出2.5万亿美元，其中95%对损益表毫无影响。

Reddit r/artificial

尽管2026年全球AI支出预计达2.5万亿美元，但MIT的NANDA倡议报告指出，95%的企业生成式AI项目可衡量ROI为零。一位从业者对14个项目的第一手分析表明，预算分配不当、偏重模型工作而忽视数据基础设施是根本原因。