构建本地 LLM 设备的人会关注 RTX Ada/工作站显卡的价格吗?还是只关注消费级显卡如 5090?
摘要
讨论本地 LLM 设备构建者是否会监控像 RTX 6000 Ada 这样的工作站 GPU 的价格,还是主要关注像 RTX 5090 这样的消费级显卡,以及是否存在针对这些不频繁但高风险的购买的专门跟踪工具。
好奇这里的人如何购买用于本地 LLM 任务的高端/工作站显卡(RTX 6000 Ada、5000 Ada 等),你们会主动关注这些显卡的价格和时机吗?还是说消费级 5090 通常就足够大多数搭建了?另外还想知道是否有针对这类显卡的价格提醒/跟踪工具,因为这类购买比典型的游戏 GPU 购买频率更低、风险更高。
相似文章
为什么 RTX 6000 PROs 仍然以 16000 美元以上的价格被购买?而且是谁在购买?
作者质疑为什么昂贵的 RTX 6000 PRO GPU 仍然以超过 16,000 美元的价格被购买,并推测了购买者和经济可行性。
改装版RTX 4090 48GB vs Radeon AI Pro R9700 vs Arc Pro B70:本地编程LLM选哪个?
用户寻求关于在改装版RTX 4090 48GB、双AMD Radeon AI Pro R9700或双Intel Arc Pro B70之间选择的建议,用于运行本地编程LLM,重点比较价格、显存、软件生态和推理速度的权衡。
根据我的需求,购买5090值得吗?
用户询问,相较于云计算的替代方案,花费约5500美元购买RTX 5090及高端PC用于LLM实验和学习是否值得。
我追踪了欧盟15家商店的GPU价格超过50天——RTX 5090是唯一没有降价的显卡
追踪欧盟15家GPU商店显示,RTX 5090价格因AI/工作站需求上涨3%,而其他GPU下降7-9%,表明AI推理硬件价格将持续高位。
请不要因为这个问题责怪我…
用户询问人们如何通过本地LLM设置赚钱,考虑到GPU设备的高昂成本,并探讨硬件领域的潜在职业机会。