# 穷人 Vulkan GPU 列表

Reddit r/LocalLLaMA 工具

摘要

# 通过 Vulkan 后端在 Linux 上运行 LLM 推理的显卡社区清单 一份由社区维护整理的显卡清单,涵盖预算级与旧款 GPU(NVIDIA GTX/Maxwell/Pascal、AMD Radeon 以及 Instinct MI 系列),可在 Linux 上借助 **Vulkan 后端**运行 LLM 推理,无需依赖最新的 CUDA/ROCm 支持要求。 其中特别推荐 **AMD Instinct MI50 16GB**,售价约 **$150**,是目前性价比最高的选择。

# 已不受支持的 GPU:推荐清单 > 目标:预算友好 + Vulkan 后端原生运行。所有 GPU 均已脱离最新 CUDA / ROCm 支持范围,本文假设使用 Linux + Vulkan 后端。 --- ## 推荐等级速览 | 等级 | GPU | 显存 | 带宽 | 二手参考价(USD) | 一句话理由 | |---|---|---|---|---|---| | ⭐ 首选 | AMD Instinct MI50 16GB | 16 GB | 1024 GB/s | ~$150 | 带宽怪兽,HBM2,Vulkan 原生可用 | | ⭐ 首选 | Radeon VII | 16 GB | 1024 GB/s | ~$300–400 | 与 MI50 同固件,驱动路径最顺 | | 推荐 | GeForce GTX 1080 Ti | 11 GB | 484 GB/s | ~$150–200 | 已实测跑通,消费卡最稳 | | 推荐 | NVIDIA P102-100 | 10 GB | 400 GB/s | ~$80–120 | 已实测,性价比极高 | | 可选 | NVIDIA P104-100 | 8 GB | 320 GB/s | ~$60–90 | 同家族,略弱于 P102 | | 可选 | Radeon RX 5700 XT | 8 GB | 448 GB/s | ~$100–130 | RDNA1,Vulkan 表现好,有开源驱动 | | 可选 | GeForce GTX 1080 | 8 GB | 320 GB/s | ~$90–120 | 稳,但 8GB 显存开始吃紧 | | 可选 | Tesla P40 | 24 GB | 347 GB/s | ~$120–160 | 大显存、无风扇、功耗 250W | | 可选 | Radeon Instinct MI25 | 16 GB | 484 GB/s | ~$60–100 | Vega 10,便宜的 16GB HBM2 | | 可选 | GeForce GTX Titan X (Pascal) | 12 GB | 480 GB/s | ~$250–350 | 比 1080 Ti 贵,性价比一般 | | 可选 | GeForce GTX 1070 Ti | 8 GB | 256 GB/s | ~$70–100 | 低端入门,显存偏小 | | ⚠️ 谨慎 | GeForce GTX Titan X (Maxwell) | 12 GB | 336 GB/s | ~$200+ | Maxwell 驱动支持在退化,别高价买 | | ⚠️ 谨慎 | Tesla M40 | 12 / 24 GB | 288 GB/s | ~$50–90 | 同上,Maxwell 老平台风险 | | ⚠️ 谨慎 | GeForce GTX Titan Xp | 12 GB | 548 GB/s | ~$400+ | 规格漂亮,价格不值 | | ⚠️ 谨慎 | Radeon RX Vega 56 / Vega 64 | 8 GB | 410 / 484 GB/s | ~$120–180 | 8GB 显存 + 高功耗,除非找得到改卡 | | ⚠️ 谨慎 | Radeon RX 480 / 580 / 590、R9 390/390X | 8 GB | 256–384 GB/s | ~$40–80 | 带宽刚好卡在门槛,功耗高,不划算 | | ⚠️ 谨慎 | NVIDIA CMP 50HX | 10 GB | 560 GB/s | ~$120–180 | Turing 家族但无显示输出,生态支持不确定 | --- ## 详细数据表(原文保留,翻译表头) ### NVIDIA GeForce GTX 消费卡(≥256 GB/s,≥8 GB) | GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 | |---|---|---|---|---| | GeForce GTX 1070 | 8 GB | 256.3 GB/s | 256-bit | GDDR5 | | GeForce GTX 1070 Ti | 8 GB | 256.3 GB/s | 256-bit | GDDR5 | | GeForce GTX 1080 | 8 GB | 320.3 GB/s | 256-bit | GDDR5X | | GeForce GTX Titan X (Maxwell) | 12 GB | 336.5 GB/s | 384-bit | GDDR5 | | GeForce GTX Titan X (Pascal) | 12 GB | 480.0 GB/s | 384-bit | GDDR5X | | GeForce GTX 1080 Ti | 11 GB | 484.4 GB/s | 352-bit | GDDR5X | | GeForce GTX Titan Xp | 12 GB | 547.7 GB/s | 384-bit | GDDR5X | ### NVIDIA 数据中心 / 企业 / 挖矿卡(≥256 GB/s,≥8 GB) | GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 | 定位 / 架构 | |---|---|---|---|---|---| | NVIDIA P104-100 | 8 GB | 320.3 GB/s | 256-bit | GDDR5X | 挖矿(Pascal) | | Tesla M40 | 12 GB / 24 GB | 288.4 GB/s | 384-bit | GDDR5 | 数据中心(Maxwell) | | Tesla P40 | 24 GB | 347.1 GB/s | 384-bit | GDDR5 | 数据中心 / AI(Pascal) | | NVIDIA P102-100 | 10 GB | 400.0 GB/s | 320-bit | GDDR5X | 挖矿(Pascal) | | NVIDIA CMP 50HX | 10 GB | 560.0 GB/s | 320-bit | GDDR6 | 挖矿(Turing) | ### AMD Radeon 桌面卡(≥256 GB/s,≥8 GB,已移除 RX 6000 / RX 7000 系列) | GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 | |---|---|---|---|---| | Radeon RX 480 (8 GB) | 8 GB | 256.0 GB/s | 256-bit | GDDR5 | | Radeon RX 580 (8 GB) | 8 GB | 256.0 GB/s | 256-bit | GDDR5 | | Radeon RX 590 | 8 GB | 256.0 GB/s | 256-bit | GDDR5 | | Radeon R9 390 | 8 GB | 384.0 GB/s | 512-bit | GDDR5 | | Radeon R9 390X | 8 GB | 384.0 GB/s | 512-bit | GDDR5 | | Radeon RX Vega 56 | 8 GB | 410.0 GB/s | 2048-bit | HBM2 | | Radeon RX 5700 | 8 GB | 448.0 GB/s | 256-bit | GDDR6 | | Radeon RX 5700 XT | 8 GB | 448.0 GB/s | 256-bit | GDDR6 | | Radeon RX Vega 64 | 8 GB | 483.8 GB/s | 2048-bit | HBM2 | | Radeon VII | 16 GB | 1,024.0 GB/s | 4096-bit | HBM2 | > 注意:MI50 与 Radeon VII / Radeon Pro VII 共享同一套固件。 ### AMD Instinct 数据中心卡 | GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 | 定位 / 架构 | |---|---|---|---|---|---| | Radeon Instinct MI25 | 16 GB | 484.0 GB/s | 2048-bit | HBM2 | 机器学习(Vega 10) | | Radeon Instinct MI50 | 16 GB / 32 GB | 1,024.0 GB/s | 4096-bit | HBM2 | 数据中心 AI(Vega 20) | --- ## 我的最终建议 ### 🥇 如果只买一张:AMD Instinct MI50 16GB **二手市场约 $150**,这个价位没有对手。 - **1024 GB/s HBM2 带宽** —— 对大模型推理来说,带宽就是生命线,MI50 在这张表里比第二名高出一倍。 - **16 GB 显存** —— 远高于 8GB 门槛,能放下更大的模型和更大的 KV cache。 - **Vulkan 路径已验证** —— 你已经在同一台系统上跑通过,说明驱动、固件、运行时三者都对齐了。 - **AMD 开源驱动(amdgpu)+ Mesa**,不需要 ROCm 魔改,装完就能用。 - **功耗约 150–300W**(取决于 VBIOS 配置),需注意供电和散热。 💡 提示:MI50 有两种 VBIOS 配置(MaxP / MaxQ,即功耗墙高低)。买的时候尽量挑 **MaxP**(更高功耗墙)版本,性能差距可达 20%。 ### 🥈 如果想要"消费卡体验":GeForce GTX 1080 Ti - **11 GB 显存 + 484 GB/s**,综合规格在消费卡里最均衡。 - 你已经实测跑通,**这是最省事的一张卡**:无需无头补丁、无需改 VBIOS、插上就能出画面。 - NVIDIA 闭源驱动对 Pascal 的 Vulkan 支持非常成熟。 - 二手约 **$150–200**,和 MI50 价格重叠但显存少 5GB、带宽少一半。 👉 **结论:性能导向选 MI50,稳定性/易用性导向选 1080 Ti。** ### 🥉 如果预算极致紧张:NVIDIA P102-100 - **10 GB / 400 GB/s**,约 **$80–120**,单位显存成本最低的卡之一。 - 你已实测跑通,说明"挖矿卡跑 Vulkan"这条路是通的。 - ⚠️ **必须知道的坑**: - 大多数 P102-100 **没有视频输出接口**,需要加装一块亮机卡,或使用 HDMI/DP 空头头 + 驱动的 `ConcealNonVRAM` 补丁(NVIDIA 支持的官方做法)。 - 原厂 VBIOS 的 **PCIe 通道被切成 ×4 / ×1**(挖矿优化),会严重拖累推理性能。购买前确认卖家是否已刷新了 **"GT 1030 BIOS" 或其他可解锁 ×16 的 VBIOS**。 --- ## 需要避开的卡 ### ❌ 所有 Maxwell 架构(GeForce GTX Titan X Maxwell、Tesla M40、GeForce GTX 900 系列) NVIDIA 对 Maxwell 的驱动支持已经进入维护模式,**新版本驱动随时可能彻底移除**。当前能跑不代表半年后还能跑。这些卡的二手价格也没有比 Pascal 便宜多少,不值得承担"哪天升级驱动就跑不了"的风险。 ### ❌ 显存刚好 8 GB 且带宽刚好 256 GB/s 的卡(RX 480 / 580 / 590、GTX 1070) 它们只是**刚好**通过你的筛选门槛,实际使用中: - 8 GB 显存在跑 7B–13B 量化模型时几乎没有余量; - 256 GB/s 的带宽是这张表的下限,比 MI50 低了 4 倍; - Polaris / Pascal 低端卡的功耗比(性能/瓦)很差,200W 的电只换来 MI50 一半的带宽。 **省下的钱,建议直接补到 MI50 上。** ### ❌ GeForce GTX Titan Xp、RX Vega 64(除非价格极低) Titan Xp 规格漂亮(548 GB/s),但价格是 1080 Ti 的两倍,**多花的钱买不到对应的带宽收益**。Vega 64 则是 8GB HBM2 + 高功耗,除非你以 $120 以下的价格捡到,否则不划算。 --- ## 部署前检查清单 不管选哪张卡,动手之前先确认: 1. **内核与 Mesa 版本** - AMD 卡:确保 `amdgpu` 内核模块与 Mesa(Vulkan 驱动 `radv`)版本匹配。 - NVIDIA 卡:使用对应 Pascal 支持的最后几个驱动分支(例如 535 LTS 系列),升级驱动前先在测试机上验证 Vulkan 能力是否正常。 2. **检查 Vulkan 可见性** ```bash vulkaninfo | grep -i "deviceName\|apiVersion" ``` 3. **确认没有被 BIOS/驱动屏蔽** - 挖矿卡(P102 / P104 / CMP)需确认 **PCIe 通道已解锁**。 - 数据中心卡(MI50 / MI25 / P40 / M40)需确认 **VBIOS 功耗墙**配置。 4. **PCIe 带宽瓶颈** - MI25、Vega 系列的 HBM2 带宽极高,但若插在 **PCIe 3.0 x8** 槽位上,数据传输会成为瓶颈。 - 尽量使用 **x16** 槽位,多卡并行时注意主板的 PCIe 拓扑与通道拆分。 5. **散热与供电** - 数据中心卡(MI55 / MI25 / P40 / M40)**多数无风扇**,需要自己加装风道或替换散热器。 - 挖矿卡同样无风扇,且原装散热器往往很薄。 6. **多卡共存** - 你已经证明 MI50 + 1080 Ti + P102-100 能在同一系统共存,这是 Vulkan 后端相对 CUDA/ROCm 最大的优势:**不同厂商、不同架构的卡可以混插**。 - 但注意:AMD 与 NVIDIA 混插时,某些 Vulkan 扩展会按设备不同行为,务必在实际推理前逐卡验证。 --- ## 一句话总结 > **预算允许就买 MI50 16GB(约 $150)**——16GB HBM2、1024 GB/s、Vulkan 已验证、AMD 开源驱动无需折腾。 > **追求零折腾就买 1080 Ti**——消费卡里唯一"插上就能跑"的高带宽选项。 > **预算不够再看 P102-100**,但要做好无输出 + 刷 VBIOS 的心理准备。 > **不要买 Maxwell 与 8GB/256GB/s 的入门卡**,它们只是勉强达标,很快会成为瓶颈。
查看原文

相似文章

# GPU - 按性价比排序的 Vulkan llama.cpp 基准测试

Reddit r/LocalLLaMA

社区汇编的 76 款 GPU 排名,使用 llama.cpp 的 Vulkan 后端进行本地 LLM 推理基准测试,按二手市场性价比排序。像 P102-100、MI50 和 Radeon VII 这类早期宽显存总线和 HBM2 显卡在性价比上占据优势,而现代中端显卡则受限于狭窄的显存总线,成为瓶颈。

还有哪些隐藏的GPU宝藏吗?

Reddit r/LocalLLaMA

本文讨论了寻找性价比高的GPU选项,如Tesla P40和V100,并指出价格在热门视频后常常上涨,同时质疑当前可行的替代方案。

显卡资源有限 - 别错过 Laguna XS 2.1

Reddit r/LocalLLaMA

一位使用显存有限硬件的用户评测了 Laguna XS 2.1 模型,发现它性能出色,对于他的用例来说优于 Qwen 和 Gemma 等替代方案,尽管不够精致。