Unsloth 登陆 Apple Silicon - 预公告
摘要
Unsloth，一款流行的 LLM 微调库，宣布即将支持 Apple Silicon 设备，将其优化能力扩展至 NVIDIA GPU 之外。
暂无内容
相似文章
Unsloth 现已支持 AMD！
Unsloth，这个高效的 LLM 微调库，现已支持 AMD GPU，扩展了硬件可访问性。
优化Apple Silicon设备端推理（20分钟阅读）
Apple的Lily引擎通过利用统一内存和硬件，优化了Apple silicon上的设备端LLM推理，性能超越MLX-LM，并针对Qwen3.6-35B-A3B模型架构进行了调优。
SiliconBench：统一内存桌面LLM服务速度、内存与保真度评估
SiliconBench评估了九款Apple Silicon上的LLM服务引擎，从速度、内存和保真度三个维度进行考察，发现显式内存预算并不能确保内存余量，且只有少数技术栈满足并发扩展和模型覆盖的所有标准。
@DanKornas：微调本地大语言模型不应需要租用云端GPU。Silicon Studio 是一款开源桌面应用，适用于本地大语言模型的……
Silicon Studio 是一款开源桌面应用，支持在 Apple Silicon Mac 上使用 MLX 进行本地大语言模型微调和推理，具备数据准备、模型管理和可视化配置等功能。
前沿Apple Silicon推理（2026年8月15日）
作者对Apple Silicon上的AI推理优化进行了为期两周的调查，发现软件生态系统碎片化，缺少前缀缓存和推测解码等关键功能，建议围绕vllm-metal等框架进行整合。