@svpino:首次,我觉得开源权重模型已无法忽视。我们正处于这些模型具有竞争…
摘要
Santiago (@svpino) 强调 MiniMax-M2.7,一个 230B 参数的开源权重模型,能与 Opus 4.6 和 GPT-5.4 等顶级专有模型相抗衡,在 SambaNova 上以低成本实现 440+ tokens/s 的推理速度。
首次,我觉得开源权重模型已无法忽视。我们正处于这些模型与顶尖模型竞争的局面。MiniMax-M2.7 是最新出品的猛兽,我以 440+ tokens/s 的速度运行它。230B 参数,真是一头猛兽。作为对比,我发现 Gemma4 31b 对很多我做的事情已经足够好了,所以想象一下额外增加 200B 参数会带来什么。当然,我无法在本地运行 MiniMax-M2.7,所以我使用 SambaNova。 • 极快的推理速度(可能是市场上最快的之一) • 极其便宜(大约是你为专有模型支付的 5%) • MiniMax 2.7 在 SWE-Pro 上得分为 56.22%,在 Terminal Bench 2 上为 57.0%,在 SWE Multilingual 上为 76.5% 这使其与 Opus 4.6/GPT-5.4 处于同一水平,区别在于 MiniMax 是开源权重。我录制了一段 MiniMax-M2.7 在 SambaNova 上运行的实时视频,这样你就能感受一下它的速度。这里我没有使用流式传输。该模型持续以约 440 tokens/秒的速度运行。使用这个在线测试工具测试 MiniMax M2.7:https://fandf.co/41uJXzw 感谢团队与我合作撰写此篇文章。
相似文章
@PrajwalTomar_: 大家又在忽视MiniMax了。他们刚刚发布了M3。首个结合前沿编码、1…
MiniMax发布了M3,一个开放权重模型,结合了前沿编码、1M上下文和原生多模态能力,性能与Opus相当,但成本仅为其一小部分。
Dario:“开源意味着你能看到源代码。而在这里,我们看不到模型内部。”我那以 0.646 token/秒的速度硬挤着跑在 128GB Jetson AGX Thor 上的 MiMo-2.6-Pro:“是啊,不过嘛,那也就只是,呃,你的看法罢了,老兄。”
一位技术爱好者在配备 128GB 内存的 Jetson AGX Thor 上运行 MiMo-2.6-Pro(FP8,约 566GB),以每秒 0.646 个 token 的速度,戏谑地反驳了 Dario Amodei 对开放权重模型的批评——速度慢得令人痛苦,但整个过程都有完整记录,并可逐步回放。
@with_gene2626: 什么?397b nvfp4 是一个3或4 Spark配置……显示比所有当前开放权重模型更好的基准测试?有人……
Ornith-1.5,一个开源大语言模型家族,推出版本高达397B MoE,在同类模型中达到最先进的性能,并在基准测试中与Claude Opus相媲美。
@stevibe:MiniMax M2.7 有 230B 参数,家里真能跑?我用 Unsloth 的 UD-IQ3_XXS(80 GB)在 4 套配置上实测:…
MiniMax M2.7 有 230B 参数,家里真能跑?我用 Unsloth 的 UD-IQ3_XXS(80 GB)在 4 套配置上实测:4×RTX 4090(96 GB):71.52 tok/s,首 token 延迟 1045 ms;4×RTX 5090(128 GB):120.54 tok/s,首 token 延迟 725 ms;1×RTX PRO 6000(96 GB):118.74 tok/s,首 token 延迟 765 ms;DGX
@sdrzn: MiniMax的新m3模型在terminal-bench 2.1上得分与opus 4.7相同,计算/成本仅为前一代模…
MiniMax新推出的m3模型在terminal-bench 2.1上取得了与Opus 4.7相同的分数,但计算量和成本仅为原来的二十分之一,这归功于其全新的MiniMax Sparse Attention架构。