标签
作者因不满 Apple 官方配置器，开发了 modelfit.io——一个专为购买 Mac 运行本地 LLM 的用户设计的配置工具，可实时显示所选 Mac 配置能运行哪些模型及预计推理速度。
一位开发者正在优化 Kimi-K2.6 (1T) 模型，使其能在 128GB Mac 上高效运行，目标速度为 40 tok/s，同时尽可能降低质量损失。