@davideciffa: 如果你拥有Nvidia RTX 4090，--ddtree-budget 36是最佳配置，可在解码过程中带来2.5倍速度提升…
摘要
一条推文推荐Nvidia RTX 4090使用--ddtree-budget 36，声称在Qwen3.6_27B解码时实现2.5倍加速。
查看缓存全文
缓存时间: 2026/05/24 16:35
如果你拥有Nvidia RTX 4090，使用--ddtree-budget 36是最佳配置，在解码Qwen3.6_27B时能带来2.5倍的速度提升。感谢这个基准测试：https://t.co/bs8xGnAl76 🙌 https://t.co/mO82mEWH7S
相似文章
Qwen 3.6 27B 投机解码基准测试：单张 RTX 3090 上实现 ~100 TPS
一份详细的基准测试，比较了单张 RTX 3090 上 Qwen 3.6 27B 的投机解码引擎，显示 ik_llama 在代码生成中达到约每秒 100 个 token。结果包括 5 种引擎变体的解码 TPS、TTFT、显存占用和上下文退化情况。
[基准测试] RTX 5090上的DFlash推测解码与KV缓存压缩 — 3.26倍加速
在 RTX 5090 上对 DFlash 推测解码结合 KV 缓存压缩进行的基准测试显示，针对 Qwen3.6-27B 模型最高可实现 3.26 倍加速，且困惑度下降极小，其中 q4_0/turbo4 提供了最佳平衡。
48GB VRAM + Qwen 3.6 27B 的最佳设置
一位用户分享了在双GPU配置（RTX 4090 + RTX 3090）上使用llama.cpp运行Qwen3.6 27B (Q8_0)的优化设置，在250k上下文下实现了75-100 t/s和1500 pp。
三元 Qwen3.6 27B 在 3090 上测试！
用户在 RTX 3090 上测试了三元量化版本的 Qwen3.6 27B，使用两个槽位和 100k KV 缓存，占用 21GB 显存，达到了 60 tk/s 的速度，质量良好且工具调用稳定。
Qwen3.6-35B-A3B APEX 在单张 RTX 3090 上——充分发挥其潜力
在 RTX 3090 上运行 Qwen3.6-35B-A3B APEX 模型的详细指南：比较两个 llama.cpp 分支及量化方法，以达到最佳速度与质量。