dense-vs-moe

标签

Cards List
#dense-vs-moe

Gemma 4 MTP 与 DFlash 在单张 H100 上:密集模型 vs MoE 模型结果

Reddit r/LocalLLaMA · 2026-05-12

该基准测试将 Gemma 4 的多 Token 预测 (MTP) 与 z-lab 的 DFlash 推测性解码方法在单张 H100 GPU 上进行了比较,结果显示 MTP 在密集模型上更快,而 DFlash 在 MoE 模型上更快。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈