梦想是达到200GB VRAM

Reddit r/LocalLLaMA 新闻
vram nvidia-gpus hardware-setup ai-training pc-building high-memory

摘要

用户概述了一个逐步计划，通过在自定义PC构建中组合多个NVIDIA GPU来实现200GB VRAM，涉及购买、安装和电源管理。

步骤 1) 尽快找到16k，以免几个月后涨到20k 步骤 2) 购买 RTX PRO 6000 (MAXQ) 步骤 3) 移除 pcie_1 插槽中的 RTX PRO 5000。替换为 RTX PRO 6000 步骤 4) 购买 NVME to PCIE 转换器和 HPPLEX 500W，然后将 RTX PRO 5000 移到那里 步骤 5) 限制 RTX PRO 6000、RTX 5090 和 RTX PRO 4000 的功耗，以适应 1300W PSU ATX 3.1 4 个 GPU：RTX PRO 6000 (MAXQ) (96GB) gen5 x8，RTX 5090 (32GB) gen5 x8，RTX PRO 5000 (48GB) gen4 x4，RTX PRO 4000 (24GB) gen4 x4 =200GB VRAM !!! 如何完成步骤 1？？
查看原文

相似文章

70级显存停滞不前

Reddit r/LocalLLaMA

作者观察到Nvidia桌面级70系列GPU已经连续两代停留在12GB显存，并暗示Nvidia可能是故意限制显存，以维持对利润率更高的AI硬件需求的增长。

RTX 2080 Ti 显存升级至22GB

Hacker News Top

GPU Solutions 提供一项服务，通过更换GDDR6模块将NVIDIA GeForce RTX 2080 Ti的显存从11 GB升级至22 GB，包括BIOS配置和稳定性测试。