serving-stack

标签

#serving-stack

今日在双DGX Spark上运行Qwen3.8-Flash-Next时聚合吞吐量达到181 tok/s

Reddit r/LocalLLaMA ↗ · 2026-08-28

使用2台DGX Spark集群，通过NVMe映射和推测解码等优化，在Qwen3.8-Flash-Next模型上实现了181令牌每秒的聚合吞吐量。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈