@svpino:首次,我觉得开源权重模型已无法忽视。我们正处于这些模型具有竞争…

X AI KOLs Following 模型

摘要

Santiago (@svpino) 强调 MiniMax-M2.7,一个 230B 参数的开源权重模型,能与 Opus 4.6 和 GPT-5.4 等顶级专有模型相抗衡,在 SambaNova 上以低成本实现 440+ tokens/s 的推理速度。

首次,我觉得开源权重模型已无法忽视。我们正处于这些模型与顶尖模型竞争的局面。MiniMax-M2.7 是最新出品的猛兽,我以 440+ tokens/s 的速度运行它。230B 参数,真是一头猛兽。作为对比,我发现 Gemma4 31b 对很多我做的事情已经足够好了,所以想象一下额外增加 200B 参数会带来什么。当然,我无法在本地运行 MiniMax-M2.7,所以我使用 SambaNova。 • 极快的推理速度(可能是市场上最快的之一) • 极其便宜(大约是你为专有模型支付的 5%) • MiniMax 2.7 在 SWE-Pro 上得分为 56.22%,在 Terminal Bench 2 上为 57.0%,在 SWE Multilingual 上为 76.5% 这使其与 Opus 4.6/GPT-5.4 处于同一水平,区别在于 MiniMax 是开源权重。我录制了一段 MiniMax-M2.7 在 SambaNova 上运行的实时视频,这样你就能感受一下它的速度。这里我没有使用流式传输。该模型持续以约 440 tokens/秒的速度运行。使用这个在线测试工具测试 MiniMax M2.7:https://fandf.co/41uJXzw 感谢团队与我合作撰写此篇文章。
查看原文

相似文章

Dario:“开源意味着你能看到源代码。而在这里,我们看不到模型内部。”我那以 0.646 token/秒的速度硬挤着跑在 128GB Jetson AGX Thor 上的 MiMo-2.6-Pro:“是啊,不过嘛,那也就只是,呃,你的看法罢了,老兄。”

Reddit r/LocalLLaMA

一位技术爱好者在配备 128GB 内存的 Jetson AGX Thor 上运行 MiMo-2.6-Pro(FP8,约 566GB),以每秒 0.646 个 token 的速度,戏谑地反驳了 Dario Amodei 对开放权重模型的批评——速度慢得令人痛苦,但整个过程都有完整记录,并可逐步回放。