# 穷人 Vulkan GPU 列表
摘要
# 通过 Vulkan 后端在 Linux 上运行 LLM 推理的显卡社区清单 一份由社区维护整理的显卡清单,涵盖预算级与旧款 GPU(NVIDIA GTX/Maxwell/Pascal、AMD Radeon 以及 Instinct MI 系列),可在 Linux 上借助 **Vulkan 后端**运行 LLM 推理,无需依赖最新的 CUDA/ROCm 支持要求。 其中特别推荐 **AMD Instinct MI50 16GB**,售价约 **$150**,是目前性价比最高的选择。
# 已不受支持的 GPU:推荐清单
> 目标:预算友好 + Vulkan 后端原生运行。所有 GPU 均已脱离最新 CUDA / ROCm 支持范围,本文假设使用 Linux + Vulkan 后端。
---
## 推荐等级速览
| 等级 | GPU | 显存 | 带宽 | 二手参考价(USD) | 一句话理由 |
|---|---|---|---|---|---|
| ⭐ 首选 | AMD Instinct MI50 16GB | 16 GB | 1024 GB/s | ~$150 | 带宽怪兽,HBM2,Vulkan 原生可用 |
| ⭐ 首选 | Radeon VII | 16 GB | 1024 GB/s | ~$300–400 | 与 MI50 同固件,驱动路径最顺 |
| 推荐 | GeForce GTX 1080 Ti | 11 GB | 484 GB/s | ~$150–200 | 已实测跑通,消费卡最稳 |
| 推荐 | NVIDIA P102-100 | 10 GB | 400 GB/s | ~$80–120 | 已实测,性价比极高 |
| 可选 | NVIDIA P104-100 | 8 GB | 320 GB/s | ~$60–90 | 同家族,略弱于 P102 |
| 可选 | Radeon RX 5700 XT | 8 GB | 448 GB/s | ~$100–130 | RDNA1,Vulkan 表现好,有开源驱动 |
| 可选 | GeForce GTX 1080 | 8 GB | 320 GB/s | ~$90–120 | 稳,但 8GB 显存开始吃紧 |
| 可选 | Tesla P40 | 24 GB | 347 GB/s | ~$120–160 | 大显存、无风扇、功耗 250W |
| 可选 | Radeon Instinct MI25 | 16 GB | 484 GB/s | ~$60–100 | Vega 10,便宜的 16GB HBM2 |
| 可选 | GeForce GTX Titan X (Pascal) | 12 GB | 480 GB/s | ~$250–350 | 比 1080 Ti 贵,性价比一般 |
| 可选 | GeForce GTX 1070 Ti | 8 GB | 256 GB/s | ~$70–100 | 低端入门,显存偏小 |
| ⚠️ 谨慎 | GeForce GTX Titan X (Maxwell) | 12 GB | 336 GB/s | ~$200+ | Maxwell 驱动支持在退化,别高价买 |
| ⚠️ 谨慎 | Tesla M40 | 12 / 24 GB | 288 GB/s | ~$50–90 | 同上,Maxwell 老平台风险 |
| ⚠️ 谨慎 | GeForce GTX Titan Xp | 12 GB | 548 GB/s | ~$400+ | 规格漂亮,价格不值 |
| ⚠️ 谨慎 | Radeon RX Vega 56 / Vega 64 | 8 GB | 410 / 484 GB/s | ~$120–180 | 8GB 显存 + 高功耗,除非找得到改卡 |
| ⚠️ 谨慎 | Radeon RX 480 / 580 / 590、R9 390/390X | 8 GB | 256–384 GB/s | ~$40–80 | 带宽刚好卡在门槛,功耗高,不划算 |
| ⚠️ 谨慎 | NVIDIA CMP 50HX | 10 GB | 560 GB/s | ~$120–180 | Turing 家族但无显示输出,生态支持不确定 |
---
## 详细数据表(原文保留,翻译表头)
### NVIDIA GeForce GTX 消费卡(≥256 GB/s,≥8 GB)
| GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 |
|---|---|---|---|---|
| GeForce GTX 1070 | 8 GB | 256.3 GB/s | 256-bit | GDDR5 |
| GeForce GTX 1070 Ti | 8 GB | 256.3 GB/s | 256-bit | GDDR5 |
| GeForce GTX 1080 | 8 GB | 320.3 GB/s | 256-bit | GDDR5X |
| GeForce GTX Titan X (Maxwell) | 12 GB | 336.5 GB/s | 384-bit | GDDR5 |
| GeForce GTX Titan X (Pascal) | 12 GB | 480.0 GB/s | 384-bit | GDDR5X |
| GeForce GTX 1080 Ti | 11 GB | 484.4 GB/s | 352-bit | GDDR5X |
| GeForce GTX Titan Xp | 12 GB | 547.7 GB/s | 384-bit | GDDR5X |
### NVIDIA 数据中心 / 企业 / 挖矿卡(≥256 GB/s,≥8 GB)
| GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 | 定位 / 架构 |
|---|---|---|---|---|---|
| NVIDIA P104-100 | 8 GB | 320.3 GB/s | 256-bit | GDDR5X | 挖矿(Pascal) |
| Tesla M40 | 12 GB / 24 GB | 288.4 GB/s | 384-bit | GDDR5 | 数据中心(Maxwell) |
| Tesla P40 | 24 GB | 347.1 GB/s | 384-bit | GDDR5 | 数据中心 / AI(Pascal) |
| NVIDIA P102-100 | 10 GB | 400.0 GB/s | 320-bit | GDDR5X | 挖矿(Pascal) |
| NVIDIA CMP 50HX | 10 GB | 560.0 GB/s | 320-bit | GDDR6 | 挖矿(Turing) |
### AMD Radeon 桌面卡(≥256 GB/s,≥8 GB,已移除 RX 6000 / RX 7000 系列)
| GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 |
|---|---|---|---|---|
| Radeon RX 480 (8 GB) | 8 GB | 256.0 GB/s | 256-bit | GDDR5 |
| Radeon RX 580 (8 GB) | 8 GB | 256.0 GB/s | 256-bit | GDDR5 |
| Radeon RX 590 | 8 GB | 256.0 GB/s | 256-bit | GDDR5 |
| Radeon R9 390 | 8 GB | 384.0 GB/s | 512-bit | GDDR5 |
| Radeon R9 390X | 8 GB | 384.0 GB/s | 512-bit | GDDR5 |
| Radeon RX Vega 56 | 8 GB | 410.0 GB/s | 2048-bit | HBM2 |
| Radeon RX 5700 | 8 GB | 448.0 GB/s | 256-bit | GDDR6 |
| Radeon RX 5700 XT | 8 GB | 448.0 GB/s | 256-bit | GDDR6 |
| Radeon RX Vega 64 | 8 GB | 483.8 GB/s | 2048-bit | HBM2 |
| Radeon VII | 16 GB | 1,024.0 GB/s | 4096-bit | HBM2 |
> 注意:MI50 与 Radeon VII / Radeon Pro VII 共享同一套固件。
### AMD Instinct 数据中心卡
| GPU 型号 | 总显存 | 显存带宽 | 位宽 | 显存类型 | 定位 / 架构 |
|---|---|---|---|---|---|
| Radeon Instinct MI25 | 16 GB | 484.0 GB/s | 2048-bit | HBM2 | 机器学习(Vega 10) |
| Radeon Instinct MI50 | 16 GB / 32 GB | 1,024.0 GB/s | 4096-bit | HBM2 | 数据中心 AI(Vega 20) |
---
## 我的最终建议
### 🥇 如果只买一张:AMD Instinct MI50 16GB
**二手市场约 $150**,这个价位没有对手。
- **1024 GB/s HBM2 带宽** —— 对大模型推理来说,带宽就是生命线,MI50 在这张表里比第二名高出一倍。
- **16 GB 显存** —— 远高于 8GB 门槛,能放下更大的模型和更大的 KV cache。
- **Vulkan 路径已验证** —— 你已经在同一台系统上跑通过,说明驱动、固件、运行时三者都对齐了。
- **AMD 开源驱动(amdgpu)+ Mesa**,不需要 ROCm 魔改,装完就能用。
- **功耗约 150–300W**(取决于 VBIOS 配置),需注意供电和散热。
💡 提示:MI50 有两种 VBIOS 配置(MaxP / MaxQ,即功耗墙高低)。买的时候尽量挑 **MaxP**(更高功耗墙)版本,性能差距可达 20%。
### 🥈 如果想要"消费卡体验":GeForce GTX 1080 Ti
- **11 GB 显存 + 484 GB/s**,综合规格在消费卡里最均衡。
- 你已经实测跑通,**这是最省事的一张卡**:无需无头补丁、无需改 VBIOS、插上就能出画面。
- NVIDIA 闭源驱动对 Pascal 的 Vulkan 支持非常成熟。
- 二手约 **$150–200**,和 MI50 价格重叠但显存少 5GB、带宽少一半。
👉 **结论:性能导向选 MI50,稳定性/易用性导向选 1080 Ti。**
### 🥉 如果预算极致紧张:NVIDIA P102-100
- **10 GB / 400 GB/s**,约 **$80–120**,单位显存成本最低的卡之一。
- 你已实测跑通,说明"挖矿卡跑 Vulkan"这条路是通的。
- ⚠️ **必须知道的坑**:
- 大多数 P102-100 **没有视频输出接口**,需要加装一块亮机卡,或使用 HDMI/DP 空头头 + 驱动的 `ConcealNonVRAM` 补丁(NVIDIA 支持的官方做法)。
- 原厂 VBIOS 的 **PCIe 通道被切成 ×4 / ×1**(挖矿优化),会严重拖累推理性能。购买前确认卖家是否已刷新了 **"GT 1030 BIOS" 或其他可解锁 ×16 的 VBIOS**。
---
## 需要避开的卡
### ❌ 所有 Maxwell 架构(GeForce GTX Titan X Maxwell、Tesla M40、GeForce GTX 900 系列)
NVIDIA 对 Maxwell 的驱动支持已经进入维护模式,**新版本驱动随时可能彻底移除**。当前能跑不代表半年后还能跑。这些卡的二手价格也没有比 Pascal 便宜多少,不值得承担"哪天升级驱动就跑不了"的风险。
### ❌ 显存刚好 8 GB 且带宽刚好 256 GB/s 的卡(RX 480 / 580 / 590、GTX 1070)
它们只是**刚好**通过你的筛选门槛,实际使用中:
- 8 GB 显存在跑 7B–13B 量化模型时几乎没有余量;
- 256 GB/s 的带宽是这张表的下限,比 MI50 低了 4 倍;
- Polaris / Pascal 低端卡的功耗比(性能/瓦)很差,200W 的电只换来 MI50 一半的带宽。
**省下的钱,建议直接补到 MI50 上。**
### ❌ GeForce GTX Titan Xp、RX Vega 64(除非价格极低)
Titan Xp 规格漂亮(548 GB/s),但价格是 1080 Ti 的两倍,**多花的钱买不到对应的带宽收益**。Vega 64 则是 8GB HBM2 + 高功耗,除非你以 $120 以下的价格捡到,否则不划算。
---
## 部署前检查清单
不管选哪张卡,动手之前先确认:
1. **内核与 Mesa 版本**
- AMD 卡:确保 `amdgpu` 内核模块与 Mesa(Vulkan 驱动 `radv`)版本匹配。
- NVIDIA 卡:使用对应 Pascal 支持的最后几个驱动分支(例如 535 LTS 系列),升级驱动前先在测试机上验证 Vulkan 能力是否正常。
2. **检查 Vulkan 可见性**
```bash
vulkaninfo | grep -i "deviceName\|apiVersion"
```
3. **确认没有被 BIOS/驱动屏蔽**
- 挖矿卡(P102 / P104 / CMP)需确认 **PCIe 通道已解锁**。
- 数据中心卡(MI50 / MI25 / P40 / M40)需确认 **VBIOS 功耗墙**配置。
4. **PCIe 带宽瓶颈**
- MI25、Vega 系列的 HBM2 带宽极高,但若插在 **PCIe 3.0 x8** 槽位上,数据传输会成为瓶颈。
- 尽量使用 **x16** 槽位,多卡并行时注意主板的 PCIe 拓扑与通道拆分。
5. **散热与供电**
- 数据中心卡(MI55 / MI25 / P40 / M40)**多数无风扇**,需要自己加装风道或替换散热器。
- 挖矿卡同样无风扇,且原装散热器往往很薄。
6. **多卡共存**
- 你已经证明 MI50 + 1080 Ti + P102-100 能在同一系统共存,这是 Vulkan 后端相对 CUDA/ROCm 最大的优势:**不同厂商、不同架构的卡可以混插**。
- 但注意:AMD 与 NVIDIA 混插时,某些 Vulkan 扩展会按设备不同行为,务必在实际推理前逐卡验证。
---
## 一句话总结
> **预算允许就买 MI50 16GB(约 $150)**——16GB HBM2、1024 GB/s、Vulkan 已验证、AMD 开源驱动无需折腾。
> **追求零折腾就买 1080 Ti**——消费卡里唯一"插上就能跑"的高带宽选项。
> **预算不够再看 P102-100**,但要做好无输出 + 刷 VBIOS 的心理准备。
> **不要买 Maxwell 与 8GB/256GB/s 的入门卡**,它们只是勉强达标,很快会成为瓶颈。
相似文章
# GPU - 按性价比排序的 Vulkan llama.cpp 基准测试
社区汇编的 76 款 GPU 排名,使用 llama.cpp 的 Vulkan 后端进行本地 LLM 推理基准测试,按二手市场性价比排序。像 P102-100、MI50 和 Radeon VII 这类早期宽显存总线和 HBM2 显卡在性价比上占据优势,而现代中端显卡则受限于狭窄的显存总线,成为瓶颈。
预算有限,为我的RX 6800提供购买建议
本帖子讨论在RX 6800基础上,为LLM推理选择预算GPU(Radeon VII vs 两块P100),重点分析MoE模型的VRAM与速度权衡。
还有哪些隐藏的GPU宝藏吗?
本文讨论了寻找性价比高的GPU选项,如Tesla P40和V100,并指出价格在热门视频后常常上涨,同时质疑当前可行的替代方案。
ROCm vs Vulkan vs vLLM 在双R9700上的对比
对运行在双AMD Radeon 9700 GPU上的AI推理框架ROCm、Vulkan和vLLM进行比较,可能是在对大型语言模型的性能进行基准测试。
显卡资源有限 - 别错过 Laguna XS 2.1
一位使用显存有限硬件的用户评测了 Laguna XS 2.1 模型,发现它性能出色,对于他的用例来说优于 Qwen 和 Gemma 等替代方案,尽管不够精致。