exo

标签

#exo

我在exo中为Qwen3.6 MLX模型添加了原生MTP支持；以下是精确度和速度结果

Reddit r/LocalLLaMA ↗ · 2026-05-23

为exo本地推理工具添加了对Qwen3.6 MLX模型的原生多token预测（MTP）支持，在M5 Max笔记本上对27B模型实现了高达2倍的加速，同时保持精确度。

0 人收藏 0 人点赞