@Youssofal_: 在搭载M5 Max的Macbook Pro上，Qwen 3.6 27B模型达到72+ TPS。MTPLX V2现已发布！在MLX上运行模型的最快方式。
摘要
MTPLX V2已发布，声称在搭载M5 Max的Macbook Pro上通过MLX运行Qwen 3.6 27B模型时每秒可处理72+ tokens。
查看缓存全文
缓存时间: 2026/07/08 04:26
在 Macbook Pro M5 Max 上，Qwen 3.6 27B 达到 72+ TPS。
MTPLX V2 现已发布！
在 MLX 上运行模型的最快方式。https://t.co/ppfmzsED6v
相似文章
@Youssofal_: 感谢 Kate 对 MTPLX 的全面评测。她测试了多种不同的 MLX 运行时，并得出结论 MTP…
nicekate 在 Mac 上测试了多种 MLX 运行时以运行 Qwen3.6-27B，并得出结论 MTPLX 是最快的，在 4bit 量化下达到 43 tok/s。
~ 2 倍速度提升：针对 Apple Silicon 上的 Qwen3.8 27B
MTPLX 框架在 Apple Silicon 上实现了 Qwen3.8 27B 模型 ~ 2 倍速度提升和 Qwen3.6 35B 模型 ~ 1.5 倍速度提升，具备自动调优和针对 MLX 模型的基准转换功能。
oMLX vs Rapid-MLX vs Splash vs MTPLX 在 M3 Max 36 GB 上实测：Qwen3.6-35B-A3B 达 110 tok/s，Qwen3.8-27B 约 32 tok/s
一项实测对比，测试了四款本地 LLM 推理引擎（oMLX 0.7.0、Rapid-MLX 0.15.5、Splash 1.2.1、MTPLX 2.12.2）在 36 GB M3 Max MacBook Pro 上的表现，结果显示 Rapid-MLX 在 Qwen3.6-35B-A3B 上最快（约 110 tok/s），而 Splash 在稠密模型 Qwen3.8-27B 上最快（通过投机解码达到约 31.7 tok/s）。
MTPLX V1：用于运行和创建MLX MTP模型的Swift应用（2倍TPS的Qwen 3.6 27B）
MTPLX V1是一款原生Mac应用，集成了用于MLX模型的MTP投机解码引擎，提供通过Forge进行模型转换、内置聊天、基准测试以及支持较小模型等功能。它实现了超过2倍的加速，且数学上精确无误。
Swift-1.5-Qwen3.8-27b-oQ8e-mtp 在 Apple M5 Max 上 — 34.8 tok/s — llm-bench.io
本文基准测试了 Swift-1.5-Qwen3.8-27b-oQ8e-mtp AI 模型在 Apple M5 Max 上的表现，达到 34.8 令牌每秒，并提供了运行的重现步骤。