Kimi K2.6 Unsloth GGUF 已发布
摘要
Unsloth 推出了 Kimi K2.6 的 GGUF 量化版本，可在本地高效推理。
[https://huggingface.co/unsloth/Kimi-K2.6-GGUF](https://huggingface.co/unsloth/Kimi-K2.6-GGUF) [https://unsloth.ai/docs/basics/unsloth-dynamic-2.0-ggufs](https://unsloth.ai/docs/basics/unsloth-dynamic-2.0-ggufs)
相似文章
unsloth/Kimi-K2.6-GGUF
Unsloth 推出开源 1T 参数 Kimi K2.6 MoE 模型的量化 GGUF 版本，专为长程编码、自主智能体集群及生产级设计任务优化。
unsloth/Kimi-K2.7-Code-GGUF
Unsloth 发布了 Kimi K2.7 Code 的 GGUF 量化版本，这是一个基于 Kimi K2.6 构建的 1 万亿参数 MoE 编码模型，具有改进的 Token 效率和智能体编码能力。
全新 Unsloth KImi K3 发布！Q1_0 (466GB)、TQ1_0 (509GB)、IQ1_M (649)、TQ2_0 (551GB)！！
Unsloth 发布了 Kimi K3 的新 GGUF 量化版本，大小从 466GB 到 649GB 不等，使大型模型能够高效部署。
Unsloth MiniMax M3 GGUF
Unsloth 正在将 MiniMax M3 模型的 GGUF 量化版本上传到 Hugging Face。
有人试过Q1 Kimi K3吗？（555GB）
Kimi K3是一个庞大的2.9万亿参数混合专家模型，拥有1040亿活跃参数，100万上下文长度，原生支持MXFP4训练，现已提供从540GB到更小尺寸的GGUF量化版本，但运行需要强大的硬件。