Jun Kim, oMLX 的创建者和维护者,加入 Hugging Face 以支持 MLX 社区
摘要
Jun Kim, oMLX 的创建者,加入 Hugging Face 以支持 MLX 社区,提升在 Apple Silicon 上本地 AI 的稳定性和开发。
查看缓存全文
缓存时间: 2026/09/22 08:59
oMLX 创建者兼维护者 Jun Kim 加入 Hugging Face,以支持 MLX 社区
来源:https://huggingface.co/blog/omlx 我们非常激动地欢迎 Jun 加入我们的团队,成为最新成员🔥。我们完全致力于本地人工智能的发展,而 MLX 是这一生态系统的核心组成部分。我们很高兴 Jun 选择了我们,将 Hugging Face 作为他的新家,并继续为 MLX 做出贡献。
MLX 是苹果公司专为本地人工智能开发的框架,尤其针对 Apple Silicon 进行了优化。自从 2023 年 Awni (https://x.com/awnihannun/status/1732184443451019431?s=20) 和 Angelos (https://x.com/angeloskath/status/1732304844403429477?s=20) 将它作为圣诞礼物呈现以来,我们一直是 MLX 的坚定支持者,并且自豪于 Hugging Face 成为用户寻找 MLX 模型以及贡献自身模型的中心平台。开放、本地人工智能的使用正在加速,我们相信一个健康的生态系统能让人们找到适合自己的工具。
https://huggingface.co/blog/omlx#what-is-the-impact-for-omlx 这对 oMLX 意味着什么?
稳定性的提升,并且有望实现更快的开发!从一项兼职工作转变为一个完全维护和资助的项目,将使 Jun 能够更好地指导贡献者,并从长远角度进行构建。oMLX (https://github.com/jundot/omlx) 将继续保持 Apache 2.0 许可,Jun 也将继续像以前一样领导该项目。
https://huggingface.co/blog/omlx#what-is-the-impact-for-mlx-at-large 这对 MLX 整体有何影响?
我们的最终目标是为社区赋能,使其能以任何形式运行本地人工智能,并提供相应的工具和构建模块来实现这一目标。我们期望 oMLX 能成为新想法的试验场,同时利用它已经依赖的基础依赖项的工作成果,例如 mlx-lm (https://github.com/ml-explore/mlx-lm) 或 mlx-vlm (https://github.com/Blaizzy/mlx-vlm)。我们相信强大的建模和推理库对社区有益,因此我们乐意将工作贡献到任何有意义的地方。我们一直与 mlx-lm、mlx-vlm、LMStudio 等许多项目合作,我们希望能加强与 Cheng (https://x.com/zcbenz)、Prince (https://x.com/Prince_Canuma)、Yagil (https://x.com/yagilb) 及其团队的关系,以便更好地共同服务于社区。
具体而言,一个重点领域是实现从 transformers 模型定义到可供不同引擎使用的参考 MLX 实现的快速转换,以便每个引擎都能专注于其提供的独特功能。transformers 库已成为机器学习模型定义的参考标准,我们希望简化流程,使新的 transformers 模型能够顺利在 MLX 上运行。
我们对未来充满无比激动的心情。
欢迎你,Jun!🙌
相似文章
@jundotkim:我刚发布了 oMLX v0.4.0,这是首个搭载全新原生 Swift macOS 应用的正式版本。
oMLX v0.4.0 搭载了原生 Swift macOS 应用,具备重新设计的引导流程、设置界面、Hugging Face 缓存发现功能,以及改进的模型管理,用于在 Mac 上运行本地 AI。
@jundotkim: oMLX 0.5.2 已发布。(很抱歉沉默了这么久!)https://github.com/jundot/omlx/releases… oMLX 是最方便的...
oMLX 0.5.2 版本新增了实时菜单栏活动、重新组织的模型菜单、Bonsai 低位内核,以及通过自定义 Metal 内核和原生推测解码实现的性能提升,使其成为在 Mac 上运行 MLX 模型的最快方式。
@jundotkim: oMLX 0.3.9.dev2 已发布。亮点包括:- 视觉路径上的 Gemma 4 MTP(感谢 @Prince_Canuma 的 mlx-vlm)。图像+文本的解码速度显著提升 -...
oMLX 0.3.9.dev2 已发布,带来了对 Gemma 4 的改进支持、DFlash 引擎集成以及 ParoQuant 功能,优化了在 Apple Silicon 上的本地 LLM 推理体验。
@jundotkim: oMLX 0.3.9rc1 发布。亮点:- 低内存Mac保持稳定,不再被系统杀死 - DFlash 升级至…
oMLX 0.3.9rc1,一个为Apple Silicon Mac优化的LLM推理服务器,增加了低内存稳定性、分块预填充、多任务管理聊天等功能。
oMLX
oMLX 是一款开源的 Mac 应用程序,作为 LLM 推理服务器,通过 RAM+SSD 分层 KV 缓存,显著降低了 AI 编码工具的响应时间,从 90 秒缩短至约 5 秒。