@TheAhmadOsman: 嘿我的朋友，不错的配置。如果8x RTX PRO 6000是真正的目标，我会把它当成一个严肃的基础设施建设，而不是一个工作站……

X AI KOLs Timeline 新闻
hardware gpu-cluster infrastructure nvidia rtx-pro-6000 pcie-gen5 workstation-build

摘要

关于搭建配备8张RTX PRO 6000 GPU的高端AI工作站的建议，强调适当的基础设施、散热，以及避免重复使用DDR4。

嘿我的朋友，不错的配置。如果8x RTX PRO 6000是真正的目标，我会把它当成一个严肃的基础设施建设，而不是一个工作站。我不会为了尝试重复使用DDR4而优化。这将是一台十万美元以上的机器，你会庆幸自己把它做好了。你随时可以卖掉DDR4来收回成本。一旦你追求大量PCIe Gen5通道，无论如何你基本上已经进入了DDR5/ECC RDIMM的领域。GENOAD8X在这里似乎非常适合，搭配MCIO和CPayne PCB：7条Gen5 x16 + 1条Gen5 x8，而且无需分叉。当然，真正的8x16很罕见，因为它在存储/网络之前就占用了128条通道。最大的问题是240V电源、配电盘空间的裕量以应对增加的电力负荷、系统气流和散热。即使是这样满功率部署，你完全可以保持风冷（这实际上是企业数据中心级别以下的商业服务器最常见的配置），你只需要选择和安装专用散热系统，当然它也会有自身的电力需求。这里有很多不错的选择。随时乐意和你详谈。
查看原文

相似文章

我的4.8万美元GPU服务器值吗？

Hacker News Top

一位前FAANG工程师讲述了为独立AI研究构建一台配备六张RTX 6000 Ada显卡、价值4.8万美元的GPU服务器的经历，详细介绍了构建过程、电源限制以及与云GPU租用的成本对比。