Mellum 2 12B A2.5B
摘要
JetBrains发布了Mellum 2 12B A2.5B,这是一个专注于编码的小型MoE模型,其推理性能与Qwen 3.5 9B相当,但在其他任务上较弱。
JetBrains推出的专注于编码的小型MoE模型。他们声称推理模型的编码性能与Qwen 3.5 9B相当,但在所有其他方面都不如Qwen 3.5 4B。模型:[https://huggingface.co/collections/JetBrains/mellum-2](https://huggingface.co/collections/JetBrains/mellum-2) 技术报告:[https://arxiv.org/abs/2605.31268](https://arxiv.org/abs/2605.31268)
相似文章
Mellum2 技术报告
Mellum 2 是一个由 JetBrains 开发的 12B 参数开源权重的 MoE 语言模型,具有 2.5B 活跃参数,专注于软件工程任务,并针对商用 GPU 上的高效推理进行了优化。
JetBrains/Mellum2.1-12B-A2.5B-Thinking-MTP · Hugging Face
JetBrains 发布了 Mellum2.1-12B-A2.5B-Thinking-MTP,这是一款拥有 120 亿参数(激活参数为 25 亿)的 MoE 思考型编程模型,配备多 token 预测头,用于在 vLLM 中进行推测解码。此次更新主要侧重于在真实代码仓库环境中进行强化学习后训练,以提升模型执行智能体软件工程任务的能力。
JetBrains Mellum 2.1 12B A2.5B MoE 是一个非常出色的模型。
JetBrains Mellum 2.1 12B A2.5B MoE 被评价为一款表现优秀的编码模型,能在 M4 Max 上以 130k 全上下文跑出 60 TPS,在 9070XT 上达到 140 TPS,且可在 8GB/12GB 显卡上流畅运行。
JetBrains 的 Mellum 2(阅读时间 49 分钟)
JetBrains 发布 Mellum 2,这是一个 12B 参数的开源权重混合专家语言模型,专注于软件工程领域,在代码生成、推理和工具使用方面性能具有竞争力,基于 Apache 2.0 许可证发布。
JetBrains/Mellum2-12B-A2.5B-Thinking
JetBrains releases Mellum2-12B-A2.5B-Thinking, an open-source Mixture-of-Experts reasoning model with 131k context length, trained with RLVR for explicit chain-of-thought reasoning.