标签
作者使用Codex优化了oMLX上的DeepSeek V4 Flash 8-bit MLX，实现了约1.6倍的预填充速度和3倍的解码加速。
OpenMed privacy-filter v2使用nemotron和MLX 8位，在Mac上实现了每秒755个token的处理速度，从一份13,000个token的临床文件中脱敏了22个类别的1,152个PII标识符，且数据从未离开本机。
Prism ML 发布了 Ternary-Bonsai-27B-mlx-2bit，这是一个三元量化的 27B 参数语言模型，在约 7.2 GB 内存下实现了 FP16 性能的约 95%，使笔记本电脑能够进行完整推理。
一个免费、完全本地的语音克隆和TTS工具，由Qwen3-TTS和Kokoro驱动，通过MLX在Apple Silicon上运行，无需云服务即可从PDF生成工作室级有声书。
Ollama 宣布，Gemma 4 在 Apple Silicon 上使用 MLX 后速度提升近 90%，这得益于默认启用的改进多 token 预测机制，并支持自动调节以避免减速。
QuixiAI 将 ThunderKittens 移植到了 Metal，从而在 MPS 和 MLX 上实现了内核支持，使得可以在 Mac 上训练模型。
650多个Apache-2.0许可的生物医学NER和去标识化模型集合，通过MLX在设备端运行，在M3 Max上实现比PyTorch-CPU快30-40倍的推理速度，且输出一致。
Rapid-MLX 是一个针对苹果 M 系列芯片优化的本地大模型推理工具，基于 MLX 框架开发，推理速度比 Ollama 快 2 到 4 倍，支持多种模型、工具调用及 OpenAI API 兼容接口。
GLM 5.2 是一款与顶级闭源模型相媲美的开放权重 AI 模型，现已发布，并在两台 Mac Studio（M3 Ultra）上通过 MLX 运行。
发布了 MiniMax-M3 的 Config-I 量化版本，在 MLX 上使用 2-bit 专家和 4-bit 注意力，将 427B MoE 模型从 869GB 减少到约 167GB，但该量化版本未经测试且需要为 mlx_lm 打补丁。
react-native-executorch 库现已集成 Google 的 Gemma 4 模型，可实现完全离线的 GPU 加速推理，在 Android 上使用 Vulkan 委托，在 Apple Silicon 上使用 MLX 委托。
MLX-LoRA-Studio 是一款原生的macOS应用，用于在Apple Silicon上微调LLM，提供用户友好的界面，支持多种训练算法，包括SFT、DPO和QAT。它完全开源，允许本地私有微调，无需依赖云端。
oMLX是一款用于本地AI的MLX服务器，现在支持标准的Hugging Face缓存模型目录，简化了模型加载过程。
一条推文强调了Angelos Kath在WWDC上关于使用MLX构建本地自主AI的出色视频，指出开源权重模型和硬件能力的快速进展。
MTPLX V1是一款原生Mac应用，集成了用于MLX模型的MTP投机解码引擎，提供通过Forge进行模型转换、内置聊天、基准测试以及支持较小模型等功能。它实现了超过2倍的加速，且数学上精确无误。
Yagil Bubrovnik在WWDC上演讲，现场演示了LM Studio即将推出的聚类功能，并对MLX团队的工作表示感谢。
Cohere正式发布North Mini Code编程模型，权重可在Hugging Face上获取，并支持vLLM和MLX部署。
Three MLX videos from WWDC demonstrate running AI agents entirely locally on Apple Silicon using the MLX stack, including local inference, tool calling, and distributed inference across Macs, enabling no-cloud, offline AI workflows.