@jundotkim：我刚发布了 oMLX v0.4.0，这是首个搭载全新原生 Swift macOS 应用的正式版本。

X AI KOLs Timeline 工具
mlx llm-inference macos-app open-source swift local-ai model-management

摘要

oMLX v0.4.0 搭载了原生 Swift macOS 应用，具备重新设计的引导流程、设置界面、Hugging Face 缓存发现功能，以及改进的模型管理，用于在 Mac 上运行本地 AI。

我刚发布了 oMLX v0.4.0，这是首个搭载全新原生 Swift macOS 应用的正式版本。 https://github.com/jundot/omlx/releases/tag/v0.4.0… oMLX 现在搭载了重新设计的引导流程、设置界面、Hugging Face 缓存发现功能，以及更加原生的方式来管理和运行 macOS 上的本地模型。 - 特别感谢 GitHub 贡献者 popfido 为 Swift 转换所做的出色工作。 我的目标仍然不变：我希望 oMLX 成为一款在 Mac 上打开就能立即尝试本地 AI 的应用，无需先理解所有底层机制。 如果你尝试了 0.4.0 版本，我非常希望得到关于 macOS 应用体验的反馈，尤其是首次启动、模型发现、服务器启动/停止、更新检查，以及任何仍然令人困惑的地方。
查看原文
查看缓存全文

缓存时间: 2026/06/03 17:53

oMLX

LLM推理，针对你的Mac优化了连续批处理和分层KV缓存，直接从菜单栏管理。

[email protected] · https://omlx.ai/me

安装 · 快速入门 · 功能 · 模型 · CLI配置 · 基准测试 · oMLX.ai

English · 中文 · 한국어 · 日本語

相似文章

jundot/omlx

GitHub Trending (daily)

oMLX 是一个用于在 Apple Silicon Mac 上进行优化 LLM 推理的新开源工具，具备持续批处理和分层 KV 缓存功能，并通过菜单栏应用进行管理。