中国用户正在制作单槽半高PCIe V100显卡,配备NVLINK

Reddit r/LocalLLaMA 新闻

摘要

中国GPU爱好者自制了一款单槽半高PCIe V100显卡,配备NVLINK,保留完整性能,目标售价约220美元。

https://preview.redd.it/iysrmwmjr96h1.png?width=869&format=png&auto=webp&s=c44258020dc9bbde13dbf6ff3522a778c57baf05 https://preview.redd.it/yu3jolmnm96h1.png?width=899&format=png&auto=webp&s=4a938ad5675015cc6b5e4bb9d1f1bdf7e23d1792 https://preview.redd.it/1xoi8uw4n96h1.png?width=850&format=png&auto=webp&s=434fb60d256413af75fa435044ed24bf1f2986ab https://preview.redd.it/skl63bego96h1.jpg?width=857&format=pjpg&auto=webp&s=1de6255928505ce6697c1bd476720f62cb9181f3 视频两天前在Bilibili发布,实物尚未开售,但看起来很真实。并非转接卡,而是核心直接焊在定制PCB上。设计为被动散热,因此默认版本仅通过PCIe供电,功耗限制在75W,但也有支持300W的供电接口版本。尺寸为16cm长、7.5cm高。功能完整,保留核心全部性能。视频中包含基准测试。据视频介绍,还将推出32GB版本。他们预计16GB版本售价在1500元人民币左右(约合220美元)。我的一个朋友已经预定了两张……创造者被称为“显卡仙人”,意为“GPU之神”或“GPU修行者”。如果这是真的,那他们确实配得上这个称号。
查看原文

相似文章

我花了200英镑将数据中心GPU装进我的游戏PC

Lobsters Hottest

一位博主描述了他们如何以150英镑的价格购得一块Tesla V100 SXM2数据中心GPU,并使用定制转接器将其与RTX 4080一起安装到自己的游戏PC中,实现了总计32GB的显存,并能够以每秒32个token的速度本地推理27B参数模型。

便宜的V100 32GB

Reddit r/LocalLLaMA

在Aliexpress上有一笔二手V100 32GB GPU的交易,价格约为526美元,包含优惠券代码。

在中国购买AI加速器/GPU……

Reddit r/LocalLLaMA

用户询问在中国购买用于推理的国产AI加速器/GPU,特别是寻找华为替代英伟达的产品,并希望支持vLLM或Llama.cpp。