deepgrove/maple-preview

Hugging Face Models Trending 模型
open-source reasoning llm ternary-weights on-device efficient-inference moe

摘要

DeepGrove 发布了 Maple-Preview，这是一款开源的 20B-A1B 三值权重推理大语言模型，在同类权重规模中推理能力达到最先进水平，在 Mac mini M4 上每秒可生成 200+ tokens，并与更大模型相比具有竞争力。

任务：text-generation 标签：transformers, safetensors, text-generation, causal-lm, mixture-of-experts, reasoning, ternary, custom-code, conversational, custom_code, en, license:mit, region:us
查看原文
查看缓存全文

缓存时间: 2026/08/05 19:39

deepgrove/maple-preview · Hugging Face

来源：https://huggingface.co/deepgrove/maple-preview

DeepGrove · 2026

今天我们介绍 Maple-Preview，一个开源的 20B-A1B 三元权重推理大语言模型。Maple-Preview 在其权重级别上拥有 SOTA 推理能力，甚至可以与更大的模型竞争。它能解决 IMO 级别的问题，并在 Mac mini M4 上以每秒 200+ tokens 的速度运行，比 Gemma 4、Qwen3.5 和 gpt-oss 等高效模型快 5–16 倍。

  • 20B-A1B 模型
  • 218 tok/s M4 Mac mini
  • 5.31 GB 检查点
  • 131,072 Token 上下文

Maple-Preview 速度与性能前沿 (https://huggingface.co/deepgrove/maple-preview/blob/main/assets/01-speed-frontier.png)

随附的 Transformers 实现依赖于 Triton 和 FlashAttention，并面向兼容的 CUDA 环境。报告的 Apple Silicon 结果使用了单独的设备端运行时。

架构

Maple-Preview 是一个 20B-A1B 推理模型，从一开始就为高效的设备端推理而设计。它采用 24 层、256 专家（8 个激活）的配置，并带有 3:1 的 SWA-512:GA 注意力。

评估

在基准测试中，Maple-Preview 在内存-性能比和速度-性能比的帕累托前沿上树立了新标杆，展示了其强大的推理能力。然而，我们注意到，这个预览版主要侧重于原始推理，因此可能在代理型基准测试中表现不佳。我们计划在 Maple 完全发布之前，通过延长训练来继续提升整体性能。

基准测试分数对比 (https://huggingface.co/deepgrove/maple-preview/blob/main/assets/05-benchmark-scores-table.png)

使用密集输出头在 LCBv6、AIME 2026、HMMT 2026 和 GPQA-D 上的能力对比。

局限性

此预览版仅接受了极少的代理任务后训练，以及小规模的一般强化学习。

许可证

Maple-Preview 在 MIT 许可证 (https://huggingface.co/deepgrove/maple-preview/tree/main/LICENSE) 下发布。

相似文章

微软的全新MAI模型

Simon Willison's Blog

微软宣布推出两款全新大语言模型（LLMs）：MAI-Thinking-1（350亿参数推理模型）和MAI-Code-1-Flash（50亿参数代码模型）。两款模型均基于企业级、无污染的干净数据训练，且未使用第三方蒸馏技术。据称，在盲评中，MAI-Thinking-1的受欢迎程度超过了Sonnet 4.6。