70级显存停滞不前

Reddit r/LocalLLaMA 新闻

摘要

作者观察到Nvidia桌面级70系列GPU已经连续两代停留在12GB显存,并暗示Nvidia可能是故意限制显存,以维持对利润率更高的AI硬件需求的增长。

一直在想桌面级70系列已经连续两代保持在12GB显存这件事——4070、4070 Super、5070,全都是12GB。2016年的1070给了你8GB,当时感觉这个价位相当慷慨。十年之后,提升只有……4GB。而且关键在于,这些芯片本身并不弱。核心性能在不断提升,只是被显存限制住了。一张24GB显存的70级显卡本来会是一台真正有能力跑本地模型的廉价机器。这或许正是关键所在。Nvidia通过销售高显存AI显卡赚到的钱,远多于让一张550美元的游戏卡去运行那些目前需要更贵硬件才能跑的模型。显然无法证明其意图,但利益动机的契合度实在太高了。显存短缺也是一个现实因素,只是感觉不止如此。
查看原文

相似文章

RTX 2080 Ti 显存升级至22GB

Hacker News Top

GPU Solutions 提供一项服务,通过更换GDDR6模块将NVIDIA GeForce RTX 2080 Ti的显存从11 GB升级至22 GB,包括BIOS配置和稳定性测试。