model-management

一位开发者构建了 llmux，这是一个开源工具，用于简化跨不同引擎（如 vLLM 和 llama.cpp）管理模型配置，支持一键切换，并集成了 Docker 和 NVIDIA GPU 支持。

Ketch 是一款用于查找和管理本地AI模型的搜索工具。

llama.cpp 现在通过API支持模型管理，包括下载和生命周期管理，无需外部工具即可完全部署。

EchoBird 是一个开源的桌面客户端，将 AI 工具安装、本地大模型运行和应用管理整合在一起，支持一键配置和统一接口管理。

oMLX v0.4.0 搭载了原生 Swift macOS 应用，具备重新设计的引导流程、设置界面、Hugging Face 缓存发现功能，以及改进的模型管理，用于在 Mac 上运行本地 AI。

一份实用指南，介绍如何通过分层包装系统和一致的目录结构来组织本地LLM实验，以避免模型位置漂移、标志遗忘和测试框架耦合。