RTX 8000 48GB 价格两年来持续下跌，而 3090 价格翻倍

2024 年我以 2400 美元购买了一块 RTX 8000 48GB。随着市场变化，我一直关注着价格。两年后，它的价格大约在 2100 美元。它的推理速度比 3090 稍慢（672GB/s 对比 936GB/s），但显存翻倍，因此可以运行更大的模型 / 更长的上下文 / 更高的量化精度。RTX 8000 在功耗上也更胜一筹，265W 对比 700W（要达到 48GB 需要 2 张 3090）。2024 年两张 3090 大约要 1600-1800 美元，而现在单张 3090 就要 1500-1600 美元，使得 RTX 8000 每 GB 的价格更便宜。Strix Halo 和 DGX Spark 的价格也大幅上涨。RTX Pro 6000 显存翻倍，但价格是它的 8 倍。过去两年里，我在驱动、兼容性软件或其他方面没有遇到任何问题。我可以把所有'本地'级别的模型完全跑在显存里，通常以 256k token 运行，有时还能用 q6（Qwen 3.8 27B、llama 3 70B、QWQ）。更大的 MoE 模型配合层卸载到系统内存也运行得很好，比如 gpt oss 120b，而现在配合 Strata，QFN 可以在 390k 上下文下以 q4_xs 运行，prompt 处理速度 850t/s，token 生成 60-70t/s。（64GB DDR4 系统内存，i9 9900K CPU）2100 美元的 GPU 并不便宜，但可能是目前家庭实验室环境下最好的'全能'选择。比双 3090、Strix Halo、DGX Spark、M5 Max 都便宜。看到在整个市场价格普遍翻倍以上的同时，这款显卡的价格反而在下降，真是令人着迷。