Kimi k3 达到 2.8t！需要激进的 iQ2_XXS 或 IQ1.8 才行！

Reddit r/LocalLLaMA 模型
model-release large-language-model 2-8t-parameters quantization open-source moe

摘要

Kimi 发布了一个新的 2.8 万亿参数模型 k3，规模超出预期，要在消费级硬件上运行需要采用激进量化方案。

我本来希望 Kimi 只有 2t，但结果居然高达 2.8t！！（泪流满面）这会让它更难流畅运行。希望 Unsloth 团队能对这个模型施展魔法。
查看原文

相似文章

Kimi K3: 开放前沿智能

Reddit r/LocalLLaMA

Kimi 推出 Kimi K3，一个拥有 2.8 万亿参数的开放模型，具备原生视觉和 100 万上下文能力，基于 Kimi Delta Attention 和 Attention Residuals 构建。它在编码与推理方面达到前沿性能水平，完整权重将于 2026 年 7 月前发布。