数据中心更换硬件时会面临什么情况?

Reddit r/artificial 新闻

摘要

本文探讨了AI数据中心的长期财务可持续性,重点在于更换昂贵GPU硬件的高成本和挑战。

公司已花费数千亿美元为AI建设配备最新GPU的数据中心。但这些芯片能使用多久?它们会在两年、三年,甚至五年后过时吗?到那时,公司是否必须花费同样多的钱来更换它们?这不像云公司每隔几年更换存储硬盘那样简单;他们必须更换数据中心中最昂贵的部件。我很好奇这一切的长期财务逻辑是什么。除了Nvidia赚取了大量利润,鉴于目前的做法,AI公司似乎将永远在烧钱。
查看原文

相似文章

运营 AI 数据中心每花费 100 美元,其中 60 美元用于承担 GPU 的贬值成本,电费则为 7 美元。真正的大头不是电费,而是折旧。

Reddit r/ArtificialInteligence

一部动画解说,剖析科技巨头约8000亿美元的AI支出究竟花在了哪里,指出GPU折旧(每100美元中约占60美元)——而非电费(约7美元)——才是运营AI数据中心的真正成本,并质疑在2000年式的光纤泡沫重演之前,AI热潮能否带来回报。

谁害怕那个又大又可怕的GPU?

The Verge

本文探讨了驱动AI热潮的GPU在环境和伦理上的代价,从制造过程到数据中心的能源和水消耗,并质疑其收益是否足以抵消影响。

为AI供能是一个架构问题

MIT Technology Review

本文讨论了电网架构故障如何对AI数据中心构成重大挑战,引用弗吉尼亚州的停电事件,并倡导重新设计以应对高密度、波动的AI负载。