miniMax-m3

标签

Cards List
#miniMax-m3

MiniMax M3:稀疏注意力如何让长程智能体变得实用(11分钟阅读)

TLDR AI · 2026-07-08 缓存

MiniMax M3通过稀疏注意力保持上下文成本可预测且低廉,使500KToken的上下文在质量损失极小的情况下实现显著的速度提升,从而让长程智能体变得实用。

0 人收藏 0 人点赞
#miniMax-m3

MiniMax M3 的“推理回退到密集注意力” - 这是否意味着每一步都使用 428B 权重?

Reddit r/LocalLLaMA · 2026-06-12

讨论的是 MiniMax M3 在 GGUF 格式中尚未支持稀疏注意力,因此推理回退到密集注意力,可能每一步都使用全部 428B 权重,导致显著减速。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈