mtp-3

#mtp-3

@WescheNex1q: 16人同时与Qwen3.6-35B聊天，仅用一台DGX Spark。这是真实截图，并非模拟：您看到的每个token均…

X AI KOLs Timeline ↗ · 2026-07-09 缓存

一个实时演示展示了16个并发用户在同一台DGX Spark上与Qwen3.6-35B聊天，使用vLLM上的NVFP4 + MTP-3，达到总峰值440 tok/s，每用户105 tok/s。

0 人收藏 0 人点赞