v100

讨论运行 Qwen 3.6 模型的最便宜硬件选项，比较 RTX 3090 和 Tesla V100 GPU，并详细列出约 2000 美元系统的成本构成。

在Aliexpress上有一笔二手V100 32GB GPU的交易，价格约为526美元，包含优惠券代码。

一位博主描述了他们如何以150英镑的价格购得一块Tesla V100 SXM2数据中心GPU，并使用定制转接器将其与RTX 4080一起安装到自己的游戏PC中，实现了总计32GB的显存，并能够以每秒32个token的速度本地推理27B参数模型。

一位用户对 Flash Attention 2 的 V100 兼容端口进行了基准测试，报告称相比默认的 PyTorch 注意力机制，速度提升了 3 到 17 倍，内存减少了高达 94%。

在 V100 GPU 上，使用 Qwen3.6 27B 模型，通过 128 个并发请求实现了每秒 1000 tokens 的生成速度，单用户下为 80 t/s。