还有哪些隐藏的GPU宝藏吗?

Reddit r/LocalLLaMA 新闻

摘要

本文讨论了寻找性价比高的GPU选项,如Tesla P40和V100,并指出价格在热门视频后常常上涨,同时质疑当前可行的替代方案。

你可能会读到一些像Tesla P40、V100、AMD M150这样的GPU,人们以低价入手。可能还有很多其他的。大多数都是逐步淘汰的服务器GPU或挖矿淘汰品,对吧?问题当然是,每当有人发现这些,他们就会制作YouTube视频来赚取流量,结果价格瞬间上涨4倍。我意识到鉴于上述情况提问的讽刺性,但目前真的有可行的选项吗?例如24GB的?或者最佳选择仍然是AMD(因为Nvidia的价格膨胀)?Intel的支持在改善吗?
查看原文

相似文章

旧款Titan显卡还值得用吗?

Reddit r/LocalLLaMA

一位用户探讨了旧款Nvidia Titan显卡在运行Gemma/Qwen MOE编程模型方面的可行性,并与新款消费级显卡在内存带宽和成本上进行了比较。

# 穷人 Vulkan GPU 列表

Reddit r/LocalLLaMA

# 通过 Vulkan 后端在 Linux 上运行 LLM 推理的显卡社区清单 一份由社区维护整理的显卡清单,涵盖预算级与旧款 GPU(NVIDIA GTX/Maxwell/Pascal、AMD Radeon 以及 Instinct MI 系列),可在 Linux 上借助 **Vulkan 后端**运行 LLM 推理,无需依赖最新的 CUDA/ROCm 支持要求。 其中特别推荐 **AMD Instinct MI50 16GB**,售价约 **$150**,是目前性价比最高的选择。