@eisokant: 激动地宣布今天与@eigenlabs共同推出http://MLX.fast。这是一个开放的自动研究竞赛,旨在使Laguna XS 2.1在…
摘要
Eigen Labs 发起了一项名为 MLX.fast 的开放自动研究竞赛,旨在优化 Laguna XS 2.1 模型在消费级 Mac 上的推理速度,通过社区贡献使其尽可能快。
查看缓存全文
缓存时间: 2026/07/30 01:49
很高兴今天与 @eigenlabs 共同推出 http://MLX.fast。
这是一项开放式的自动研究竞赛,目标是在消费级 Mac 上实现 Laguna XS 2.1 推理速度的极致(包括人工和智能体方式)。
Eigen 的智能体已经发现了 36.8% 的推理速度提升,而这还是在竞赛正式开始之前。
开放权重最棒的地方在于,社区能把模型推向我们任何一个人都无法企及的高度。
期待看到大家在排行榜上的表现!
https://mlx.fast
Gajesh (@gajesh): 仅为 DeepSeek V4 Pro 模型大小的 6%,Laguna S 2.1 却实现了显著更高的性能。
今天,我们与 @poolsideai 合作,让 Laguna XS 2.1(与 Laguna S 2.1 采用相同架构)在消费级 Mac 上运行得更快。
我们推出了 MLX(.)fast:一个公开竞赛,
相似文章
@jun_song: MLX 的新引擎正处于开发的最后阶段。刚刚在一台 MacBook(116GB)上运行 GLM-5.2,达到 41.8…
Jun Song 宣布 MLX 新引擎进入最终开发阶段,在 MacBook 上以 256k 上下文窗口达到 41.8 tok/s,仅有约 4% 质量损失,代表着显著的性能提升。
@AlexJonesax: 如果你在 Mac 上运行 LLM,值得了解的两个开源 MLX 推理服务器:MTPLX (@youssofal) 利用模型自身的…
本文介绍了两个适用于 Mac 的开源 MLX 推理服务器:MTPLX 通过投机解码(无需草稿模型)优化 token 生成速度,而 oMLX 则通过持久化的 KV 缓存提升代码智能体的工作流效率。
oMLX
oMLX 是一款开源的 Mac 应用程序,作为 LLM 推理服务器,通过 RAM+SSD 分层 KV 缓存,显著降低了 AI 编码工具的响应时间,从 90 秒缩短至约 5 秒。
我构建了mlx-Chronos——一个面向Apple Silicon上本地LLM引擎的社区基准测试排行榜(oMLX、Rapid-MLX、mlx-lm、Ollama)
一位计算机科学学生构建了mlx-Chronos,这是一个开源命令行工具,通过测量TTFT、吞吐量、内存使用和热状态,标准化Apple Silicon上MLX推理引擎的基准测试,并提供一个社区排行榜来分享结果。
@jundotkim: oMLX 0.5.2 已发布。(很抱歉沉默了这么久!)https://github.com/jundot/omlx/releases… oMLX 是最方便的...
oMLX 0.5.2 版本新增了实时菜单栏活动、重新组织的模型菜单、Bonsai 低位内核,以及通过自定义 Metal 内核和原生推测解码实现的性能提升,使其成为在 Mac 上运行 MLX 模型的最快方式。