@no_stp_on_snek: 哇,看看 Metal 上的提升!!!
摘要
Qwen MLX 挑战赛是一项在 Apple Silicon 上对 AI 模型进行基准测试的比赛,鼓励在验证过程中提供官方分数并进行本地迭代。
查看缓存全文
缓存时间: 2026/08/17 20:27
哇,这金属性能提升太强了!!!👀👀
https://t.co/5djHHpYYMq
通义千问 MLX 挑战赛
来源:https://www.yukon.org/mlxfast
官方成绩均基于 Apple Silicon 实测数据;请在本地继续迭代优化,验证队列仍在处理中
版权所有 © 2026 Eigen Labs (https://eigenlabs.org/), Inc.
隐私政策 (https://www.yukon.org/mlxfast/privacy) 服务条款 (https://www.yukon.org/mlxfast/terms) GitHub (https://github.com/Layr-Labs/qwen-3.8-mtp-challenge) X (https://x.com/eigenlabs) Slack (https://join.slack.com/t/ecdsafail/shared_invite/zt-4667dhade-vm6H9hWQwSGxv8WnXYUlpQ)
相似文章
Metal-Sci:用于 Apple Silicon 上 LLM 驱动演化内核搜索的科学计算基准
Metal-Sci 推出了一项包含 10 个任务的基准测试,用于优化 Apple Silicon 上的科学计算内核,并配套了由大语言模型驱动的演化搜索框架。该研究评估了 Claude Opus 4.7、Gemini 3.1 Pro 和 GPT 5.5 等模型,在实现显著加速的同时,利用分布外测试来捕获静默的性能退化问题。
Kapitsa:专为 Qwen 和 Nemotron 打造的开源 Apple Silicon 优化 Metal 引擎。查看 Qwen 27B、Nemotron 等 8 个模型在 M1 Pro(16GB)、M4 Pro(48GB)和 M5 Max(128GB)上的基准测试
Nace.ai 发布开源(Apache 2.0)Apple Silicon 优化 Metal 推理引擎 Kapitsa,专为 Qwen 和 Nemotron 模型定制内核,并在 M1 Pro、M4 Pro、M5 Max 上公布对比 MLX、llama.cpp、Ollama 等引擎的解码基准。
@Alex_tra_memory: Kev on Core ML 看到这条推文后,我们受到启发,移植了 Kev-0.8B(Qwen3.5 变体)并在 8…
本文详细介绍了将 Kev-0.8B 模型(Qwen3.5 变体)移植到 Core ML 的过程,通过基准测试展示了在 Apple Silicon 设备上推理速度和内存效率的显著提升。
@LinusEkenstam: 相当重要的进展。比MLX-LM推理速度快1.35倍,在预填充阶段速度快1.23倍,能够从内部选择混合选项。
Perplexity已经开源了Lily,这是一个针对Apple Silicon优化的本地推理引擎,专门用于Qwen3.6-35B-A3B模型,实现了比MLX-LM快1.35倍的推理速度。
~ 2 倍速度提升:针对 Apple Silicon 上的 Qwen3.8 27B
MTPLX 框架在 Apple Silicon 上实现了 Qwen3.8 27B 模型 ~ 2 倍速度提升和 Qwen3.6 35B 模型 ~ 1.5 倍速度提升,具备自动调优和针对 MLX 模型的基准转换功能。