RTX 5000 PRO (48GB) 到货了，比我想象的要好。

我几天前在这里发帖说买了它：[https://www.reddit.com/r/LocalLLaMA/comments/1t2slmw/first\\_time\\_gpu\\_buyer\\_got\\_a\\_rtx\\_5000\\_pro\\_was\\_it\\_a/?utm\\_source=share&utm\\_medium=web3x&utm\\_name=web3xcss&utm\\_term=1&utm\\_content=share\\_button](https://www.reddit.com/r/LocalLLaMA/comments/1t2slmw/first_time_gpu_buyer_got_a_rtx_5000_pro_was_it_a/?utm_source=share&utm_medium=web3x&utm_name=web3xcss&utm_term=1&utm_content=share_button) 在决定下单之前，我原本更倾向于 Mac Studio。但我读到的关于提示处理速度的内容让我犹豫了。预算是 5000/6000 美元。所以 256GB 版本根本不在考虑范围内。我冒险买了 RTX 5000 Pro。我对 PC 毫无经验，不知道怎么组装、买哪些零件……但这笔交易很划算。我花了 4300 美元买了这块 GPU（含税）（在之前的帖子评论里我写的是 4700，但我搞错了，我查了收据），然后还需要购买电脑的其他配件。最终总共花费了 5600 美元，配了 64GB 内存。作为一个完全的新手，组装机器对我来说并不容易，但幸好有 LLM 指导我们。然后是 Linux 和 vLLM……说实话，我完全迷失了。如果没有 Claude Code，根本不可能完成。另外，还需要知道用什么设置来运行 Qwen3.6-27B-FP8 并启用全精度缓存。幸好有这位老兄发布了我需要告诉 Claude 的一切：[https://www.reddit.com/r/LocalLLaMA/comments/1t46klu/qwen36\\_27b\\_fp8\\_runs\\_with\\_200k\\_tokens\\_of\\_bf16\\_kv/](https://www.reddit.com/r/LocalLLaMA/comments/1t46klu/qwen36_27b_fp8_runs_with_200k_tokens_of_bf16_kv/) 在消耗了 50% 的 Claude Code Max 每周 20 次限制后，这东西终于能用了，我不得不承认……我做了正确的选择。这东西太棒了。我在 TG 中获得了高达 80 ts 的速度（对于非常大的提示，大约是 50/60），这非常惊人。但最重要的是，我在 PP 中获得了每秒 4400 个 token！全精度缓存只能容纳 20 万个 token，但这对我来说完全可以接受。说实话，我不明白为什么人们不多谈论这款 GPU。它只比 RTX 5090 贵 1000 美元，却能容纳 27B 的 8FP 模型以及 20 万全精度上下文。功耗只有它的一半……当然性能稍差一些，但我实际获得的数字远超我的预期。两块 5090 肯定会击败它。但成本会高得多，噪音也会大得离谱，电费账单上也会烧出一个大洞。