@ngxson: 关于 llama.cpp 投机解码 (MTP, dflash, dspark) 在 dotAI 的演讲回放即将发布！

X AI KOLs Following 2026/09/17 12:36 新闻

llama-cpp speculative-decoding dotai talk-replay ai-research

摘要

在 dotAI 大会上关于 llama.cpp 投机解码方法 (MTP, dflash, dspark) 的演讲回放即将发布。

我在 dotAI 关于 llama.cpp 投机解码 (MTP, dflash, dspark) 的演讲回放即将发布！🦙🦙 https://t.co/KH3F6H046w

查看原文

查看缓存全文

缓存时间: 2026/09/18 00:27

我在 dotAI 分享的关于 llama.cpp 推测解码（MTP、dflash、dspark）的演讲 🦙🦙 回放即将上线！
https://t.co/KH3F6H046w

相似文章

Reddit r/LocalLLaMA

llama.cpp 在 Qwen 3.6 27B 上的推测性解码方法的全面基准测试表明，在 DFlash 上叠加 n-gram 堆叠在迭代编码任务中实现了高达 6 倍的加速，其中 ngram-mod 贡献了大部分增益且零 VRAM 成本。

X AI KOLs Timeline

分享在 llama.cpp 中使用 dflash 投机解码的新方案，在单张 RTX 3090 上结合 Qwen3.6-27B GGUF 和草稿模型达到约 70 TPS。

Reddit r/LocalLLaMA

通过拉取请求向llama.cpp添加DSpark推测解码支持，提升推理性能。

X AI KOLs Timeline

该文章宣布了 llama.cpp 对 AMD Strix Halo 集成 GPU (iGPU) 上的 DFlash 和 PFlash 投机解码的支持，并展示了使用 ROCm 时推理性能的显著提升。

Reddit r/LocalLLaMA

拉取请求为 llama.cpp 添加多令牌预测（MTP）支持，启用推测解码以加速推理。