@julien_c:这是个好消息:由@jundotkim开发的oMLX现在支持标准的HF缓存模型目录。为本地AI打造的优秀MLX服务器…
摘要
oMLX是一款用于本地AI的MLX服务器,现在支持标准的Hugging Face缓存模型目录,简化了模型加载过程。
查看缓存全文
缓存时间: 2026/06/13 14:21
这真是个好消息:
@jundotkim 开发的 oMLX 现已支持标准的 Hugging Face 缓存模型目录。
面向本地 AI 的出色 MLX 服务器!太棒了!https://t.co/CLDhaLhxRY
相似文章
适用于 Arduino 的 Tiny Basic
Tiny Basic for Arduino 是一款轻量级、可移植的 BASIC 解释器,适用于中端 Arduino 开发板和微控制器,配备可在硬件上直接使用的代码编辑器,以及功能全面的内置标准库,支持硬件输入/输出、数学运算和位操作。
Particle-1 已在 OpenClaw 中可用
Particle-1 是一款面向编程智能体、注重 token 效率的模型(在准确率相当的情况下,输出 token 数比 DeepSeek V4.1 Flash 少约 45%),现已在 OpenClaw v2026.10.10 中上线,标准推理采用零数据保留政策。
Octomind – 节省词元的开源 AI 框架,静态 Rust
Octomind 是一个开源的、基于 Rust 的 AI 编码智能体运行时,以 CLI 为优先交互方式,通过 MCP 工具让大语言模型访问代码仓库,支持交互式、管道、守护进程、WebSocket 和 ACP 子智能体模式,并提供基于 TOML 的安全护栏、预算控制和自适应压缩。
mtmd:添加对 Nemotron 3.5 Transcribe 的支持,由 pskrunner14 提交 · 拉取请求 #31471 · ggml-org/llama.cpp
一个针对 llama.cpp 的拉取请求在 mtmd(多模态)模块中添加了对 Nemotron 3.5 Transcribe 的支持,扩展了该库的音频转录能力。
balbal-v2:可在 CPU 上运行的土耳其语语音识别模型,在 Mu-Bench TR 上仅次于 Google Chirp 3 排名第二
balbal-v2 发布了两个 CPU 高效的土耳其语语音识别模型(3.13 亿和 4500 万参数,CTC + KenLM),训练成本不到 250 美元,在 Mu-Bench TR 基准测试中仅次于 Google Chirp 3 排名第二,在普通硬件上运行速度最高可达实时的 236 倍。