650多个Apache-2.0许可的生物医学NER/去标识化模型，在MLX中设备端运行。相同fp32权重，输出一致：临床NER模型在3年前的M3 Max上比PyTorch-CPU快30-40倍。内部可复现。
摘要
650多个Apache-2.0许可的生物医学NER和去标识化模型集合，通过MLX在设备端运行，在M3 Max上实现比PyTorch-CPU快30-40倍的推理速度，且输出一致。
相似文章
@Raullen：Rapid-MLX 0.11.0 发布！让 Apple Silicon 上的本地模型可靠到足以运行你的代理工作流程，而不仅仅是演示…
Rapid-MLX 0.11.0 带来了显著的性能提升，包括前缀缓存和响应缓存，支持新的模型家族，如 HY3 295B MoE 和 Qwen3-Coder-Next 80B，引入了结构化输出，确保有效的工具调用，并添加了与 MCP 服务器的无缝集成，用于自主代理工作流程。
@maximelabonne: 我们刚刚发布了两个新的编码器模型（MLM）在2026年。它们非常快，易于训练，并且多语言能力强。试试…
Liquid AI发布了两个新的编码器模型，LFM2.5-Encoder-230M和LFM2.5-Encoder-350M。这些模型快速、易于训练且多语言能力强。速度基准测试显示，与ModernBERT-base相比，CPU性能提升了3.7倍以上。
LiquidAI/LFM2.5-2.6B
Liquid AI released LFM2.5-2.6B, a 2.6B-parameter hybrid model optimized for on-device deployment with 128K context, agentic post-training, and fast inference (220 tok/s on Apple M5 Max) under 2.5GB memory.
新本地模型在PII移除上达到接近前沿性能，仅需9毫秒CPU推理
介绍了ScreenLeak基准，用于衡量计算机使用AI数据中的PII编辑，并提出了两个本地模型（用于文本的v45_phase3和用于图像的rfdetr_v8），在低延迟下实现了接近前沿的性能。
@Phoenixyin13: 这是全新的最佳美国开源模型。 Thinking Machines Lab 直接放出一个 975B 参数MoE 多模态巨兽，Apache-2.0 完全开源！在常规基准上，它甚至干掉了 NVIDIA 的 Nemotron 强项模型。 它的核心…
Thinking Machines Lab 发布了全新的 975B 参数 MoE 多模态开源模型，Apache-2.0 许可，在常规基准上超越 NVIDIA Nemotron，支持文本、图像、音频全模态，激活参数仅 41B，高效且友好部署。