throughput

Open-dLLM 将 Qwen3.6 适配为使用扩散式生成，在 RTX 5090 上对于短序列实现了超过 3,000 tok/s 的吞吐量，相关代码已在 GitHub 上发布。

Kimi K2.6 在单张 MI300X GPU 上达到 56 token/s，用户计划进一步测试整体吞吐。

K2.6在Mac本地成功部署Qwen3.5-0.8B模型，使用Zig语言实现推理优化，经过14轮迭代将吞吐量从约15 tokens/s提升至约193 tokens/s，比LM Studio快20%。

文章介绍了《系统性能》书中关于延迟、吞吐量、缓存层级等核心概念，并引用了Jeff Dean等专家的延迟数字资源，强调动手实践对性能工程的重要性。