数百万美元AI资金背后：企业GPU平均利用率仅5%，推理成本与所有权成本从34%升至41%

Reddit r/singularity 新闻
ai-infrastructure gpu-utilization inference-costs enterprise-ai cost-optimization hardware-allocation

摘要

急于购买大规模GPU集群部署AI的企业，如今面临低利用率（5%）和成本飙升（推理加所有权成本从34%升至41%）的困境，凸显AI部署中的重大基础设施低效问题。

嗯，在ChatGPT推出后的几年里，企业争相购买大规模GPU集群，因为AI需求爆发且算力稀缺。但我认为现在这不仅仅取决于利用率，还涉及调度、推理效率、路由、治理、能源接入和运营管理等多个方面。讽刺意味十足：本应最高效改善人类生活的技术，却存在如此庞大的基础设施低效问题，大部分预算都花在了硬件资源分配上。 来源：https://winbuzzer.com/2026/05/11/enterprises-face-underused-gpu-fleets-as-ai-costs-rise-xcxwbn
查看原文

相似文章

AI太贵了

Hacker News Top

文章认为，对于大多数公司而言，人工智能过于昂贵，在经济上不可行。超大规模云服务商在数据中心上花费了数万亿美元，但却未能产生相应的人工智能收入。文章指出，只有像NVIDIA这样的硬件供应商才能从当前的人工智能泡沫中受益。