exllama

ExLlamav3 发布了重大更新，包括 MoE 专家的 CPU 卸载、对新 AI 模型如 GLM-5.3-Flash 和 Qwen-3.8-Flash 的支持，以及各种性能优化。

ExLlamaV3 v1.0.0 为本地运行大型语言模型带来了重大性能升级。