标签
mlx-vlm v0.6.4 已发布，支持5个新模型系列、TTS/STT端点，以及包括 TurboQuant 和连续批处理在内的重大性能改进。
作者使用Codex优化了oMLX上的DeepSeek V4 Flash 8-bit MLX，实现了约1.6倍的预填充速度和3倍的解码加速。
OpenMed privacy-filter v2使用nemotron和MLX 8位，在Mac上实现了每秒755个token的处理速度，从一份13,000个token的临床文件中脱敏了22个类别的1,152个PII标识符，且数据从未离开本机。
Prism ML 发布了 Ternary-Bonsai-27B-mlx-2bit，这是一个三元量化的 27B 参数语言模型，在约 7.2 GB 内存下实现了 FP16 性能的约 95%，使笔记本电脑能够进行完整推理。
一个免费、完全本地的语音克隆和TTS工具，由Qwen3-TTS和Kokoro驱动，通过MLX在Apple Silicon上运行，无需云服务即可从PDF生成工作室级有声书。
Ollama 宣布，Gemma 4 在 Apple Silicon 上使用 MLX 后速度提升近 90%，这得益于默认启用的改进多 token 预测机制，并支持自动调节以避免减速。
QuixiAI 将 ThunderKittens 移植到了 Metal，从而在 MPS 和 MLX 上实现了内核支持，使得可以在 Mac 上训练模型。
650多个Apache-2.0许可的生物医学NER和去标识化模型集合，通过MLX在设备端运行，在M3 Max上实现比PyTorch-CPU快30-40倍的推理速度，且输出一致。
Rapid-MLX 是一个针对苹果 M 系列芯片优化的本地大模型推理工具，基于 MLX 框架开发，推理速度比 Ollama 快 2 到 4 倍，支持多种模型、工具调用及 OpenAI API 兼容接口。
GLM 5.2 是一款与顶级闭源模型相媲美的开放权重 AI 模型，现已发布，并在两台 Mac Studio（M3 Ultra）上通过 MLX 运行。
发布了 MiniMax-M3 的 Config-I 量化版本，在 MLX 上使用 2-bit 专家和 4-bit 注意力，将 427B MoE 模型从 869GB 减少到约 167GB，但该量化版本未经测试且需要为 mlx_lm 打补丁。
react-native-executorch 库现已集成 Google 的 Gemma 4 模型，可实现完全离线的 GPU 加速推理，在 Android 上使用 Vulkan 委托，在 Apple Silicon 上使用 MLX 委托。
MLX-LoRA-Studio 是一款原生的macOS应用，用于在Apple Silicon上微调LLM，提供用户友好的界面，支持多种训练算法，包括SFT、DPO和QAT。它完全开源，允许本地私有微调，无需依赖云端。
oMLX是一款用于本地AI的MLX服务器，现在支持标准的Hugging Face缓存模型目录，简化了模型加载过程。
一条推文强调了Angelos Kath在WWDC上关于使用MLX构建本地自主AI的出色视频，指出开源权重模型和硬件能力的快速进展。
MTPLX V1是一款原生Mac应用，集成了用于MLX模型的MTP投机解码引擎，提供通过Forge进行模型转换、内置聊天、基准测试以及支持较小模型等功能。它实现了超过2倍的加速，且数学上精确无误。
Yagil Bubrovnik在WWDC上演讲，现场演示了LM Studio即将推出的聚类功能，并对MLX团队的工作表示感谢。
Cohere正式发布North Mini Code编程模型，权重可在Hugging Face上获取，并支持vLLM和MLX部署。