还有哪些隐藏的GPU宝藏吗?
摘要
本文讨论了寻找性价比高的GPU选项,如Tesla P40和V100,并指出价格在热门视频后常常上涨,同时质疑当前可行的替代方案。
你可能会读到一些像Tesla P40、V100、AMD M150这样的GPU,人们以低价入手。可能还有很多其他的。大多数都是逐步淘汰的服务器GPU或挖矿淘汰品,对吧?问题当然是,每当有人发现这些,他们就会制作YouTube视频来赚取流量,结果价格瞬间上涨4倍。我意识到鉴于上述情况提问的讽刺性,但目前真的有可行的选项吗?例如24GB的?或者最佳选择仍然是AMD(因为Nvidia的价格膨胀)?Intel的支持在改善吗?
相似文章
对15款“电子垃圾”GPU进行现代工作负载基准测试
对15款退役的NVIDIA Tesla GPU(K80、P100、V100)进行现代AI工作负载基准测试,展示它们在家庭实验室推理设置中的可行性和性价比。
旧款Titan显卡还值得用吗?
一位用户探讨了旧款Nvidia Titan显卡在运行Gemma/Qwen MOE编程模型方面的可行性,并与新款消费级显卡在内存带宽和成本上进行了比较。
# 穷人 Vulkan GPU 列表
# 通过 Vulkan 后端在 Linux 上运行 LLM 推理的显卡社区清单 一份由社区维护整理的显卡清单,涵盖预算级与旧款 GPU(NVIDIA GTX/Maxwell/Pascal、AMD Radeon 以及 Instinct MI 系列),可在 Linux 上借助 **Vulkan 后端**运行 LLM 推理,无需依赖最新的 CUDA/ROCm 支持要求。 其中特别推荐 **AMD Instinct MI50 16GB**,售价约 **$150**,是目前性价比最高的选择。
为何NVIDIA的A100 GPU在发布六年后仍能赚钱
本文探讨了为何NVIDIA的A100 GPU在发布六年后仍能保持盈利,强调了其在AI和数据中心应用中的持续需求。
如果需要四颗GPU,那么“GPU小时”就不再是商品了(6分钟阅读)
对Vast.ai上GPU租赁价格的分析显示,由于供应限制,多GPU配置的定价与每GPU小时的标价存在显著偏差,较大的集群往往不可用或更昂贵。