标签
Laguna S 2.1 118B-A8B 模型在 DGX Station 上使用 NVFP4 和 FP8 KV 缓存运行，对于 10 个并行代理（每个拥有 256k 上下文）达到约 1k tokens/秒 的速度。