@TheAhmadOsman: 嘿我的朋友,不错的配置。如果8x RTX PRO 6000是真正的目标,我会把它当成一个严肃的基础设施建设,而不是一个工作站……
摘要
关于搭建配备8张RTX PRO 6000 GPU的高端AI工作站的建议,强调适当的基础设施、散热,以及避免重复使用DDR4。
嘿我的朋友,不错的配置。如果8x RTX PRO 6000是真正的目标,我会把它当成一个严肃的基础设施建设,而不是一个工作站。我不会为了尝试重复使用DDR4而优化。这将是一台十万美元以上的机器,你会庆幸自己把它做好了。你随时可以卖掉DDR4来收回成本。一旦你追求大量PCIe Gen5通道,无论如何你基本上已经进入了DDR5/ECC RDIMM的领域。GENOAD8X在这里似乎非常适合,搭配MCIO和CPayne PCB:7条Gen5 x16 + 1条Gen5 x8,而且无需分叉。当然,真正的8x16很罕见,因为它在存储/网络之前就占用了128条通道。最大的问题是240V电源、配电盘空间的裕量以应对增加的电力负荷、系统气流和散热。即使是这样满功率部署,你完全可以保持风冷(这实际上是企业数据中心级别以下的商业服务器最常见的配置),你只需要选择和安装专用散热系统,当然它也会有自身的电力需求。这里有很多不错的选择。随时乐意和你详谈。
相似文章
@TheAhmadOsman:他感谢我激励他搭建这套4x RTX PRO 6000工作站,但实际上我嫉妒他的配置太漂亮了……
Ahmad Osman分享了一条来自Killy的推文,Killy感谢他激励自己搭建了4x RTX PRO 6000 AI工作站,同时他也承认自己对这漂亮的结果感到嫉妒。
@0xSero:我不得不重新整理我的 RX 6000 显卡,以便将四张并排放置。这块主板(Asrock romed8-2t 有点奇怪)我还买了一个……
一位用户分享了在 Asrock romed8-2t 主板上重新整理四张 RX 6000 显卡的经验,讨论了添加 UPS,并寻求添加至八张显卡、改进散热和服务器机架的建议。
从双3090升级 - 应该添加什么?(双A6000/5090/48GB 4090?)
关于从双RTX 3090升级到替代方案(如双A6000、RTX 5090或48GB RTX 4090)的讨论,可能用于AI/ML工作负载。
@gippp69: 这位用户看到一张430美元的AI账单,于是干脆在桌下自己搭了个AI实验室 RTX 5090 + RTX 4090, 56GB VRAM, 128GB RAM, …
一位用户在桌下搭建了一个私人AI实验室,使用RTX 5090和RTX 4090显卡,运行Qwen、DeepSeek、Llama等本地开源模型,以避免API费用。
我的4.8万美元GPU服务器值吗?
一位前FAANG工程师讲述了为独立AI研究构建一台配备六张RTX 6000 Ada显卡、价值4.8万美元的GPU服务器的经历,详细介绍了构建过程、电源限制以及与云GPU租用的成本对比。