4090

AlpinDale称，在4个节点的RTX 4090（48GB）上运行GLM-5.2-FP8，通过10吉比特以太网实现约28 tok/s的解码速度，并计划使用DSpark进行优化。

一位GPU改装者警告称，截至2026年6月，96GB的4090和5090显卡并不存在，它们是利用买家绝望心理的骗局。

一位用户分享了他们在4090 GPU上通过vLLM运行DiffusionGemma 26B的经验，速度高达475t/s，但指出了单用户限制、准确度较低和上下文短等缺点，并认为它不值得替代常规的26B模型。