@TheAhmadOsman: MLX的优化非常糟糕，DHH是对的，Apple没有硬件问题，他们有软件问题

X AI KOLs Timeline 2026/09/25 02:37 工具

mlx apple-silicon performance machine-learning software-optimization hardware-issue

摘要

一条推文批评了MLX的优化，指出Apple存在软件问题而非硬件问题，这是基于M5 Ultra Macs的性能测试得出的。

MLX的优化非常糟糕，DHH是对的，Apple没有硬件问题，他们有软件问题

查看原文

查看缓存全文

缓存时间: 2026/09/25 14:40

MLX的优化简直糟透了，DHH说得对，苹果根本没有硬件问题，而是软件问题。

Alex Ziskind (@digitalix): 更快的芯片，新的瓶颈🤯 两台集群M5 Ultra Mac的运行速度竟然比单台更慢：35 tok/s 对比 53 tok/s。这很奇怪，因为我之前测试M3 Ultra时情况完全相反。

保持GPU活跃状态后，速度提升到58 tok/s。

相似文章

Reddit r/LocalLLaMA

一名用户质疑MLX在Apple M5芯片上的相关性，因为llama.cpp的Metal更新提升了GGUF模型的预填充性能，使得MLX在某些任务上可能变得冗余。

X AI KOLs Timeline

讨论比较了CUDA与MLX在Apple的M5 Ultra Mac Studio背景下的成熟度，强调需要竞争来优化本地AI硬件，这可能使Apple超越NVIDIA。

X AI KOLs Following

Awni Hannun 展示了两台 M5 Ultra 配合 MLX 所能达到的性能水平，凸显本地 Apple Silicon 推理能力的显著提升。

X AI KOLs Timeline

作者演示了在搭载 M5 Max 芯片的设备上，将 LivePortrait 的实现从 MPS 迁移到 Apple 的 MLX 框架后，性能和速度有了显著提升。

Reddit r/LocalLLaMA

Apple M5 芯片支持矩阵乘法中的 INT8 激活，但 MLX 和 Llama.cpp 等推理后端目前仍使用 16 位；自定义 w8a8 内核在 Gemma4 预填充任务上实现了高达 1.4 倍的加速。