@AdinaYakup:社区成员带来的有趣模型 Groot 系列 4 个 MoE 模型,参数从 19B 到 280B,19B/A3B 支持 128K 上下文……
摘要
社区成员 GrootTeam 发布了 Groot 系列 4 个多模态 MoE 模型(19B 到 280B),提供 FP8、NVFP4 和 GGUF 量化版本,据报告在基准测试上表现优于更大的模型。
查看缓存全文
缓存时间: 2026/10/28 13:35
社区成员带来的有趣模型 Groot 系列 4 个 MoE 模型,参数范围从 19B 到 280B 19B/A3B 在 16GB GPU 上支持 128K 上下文,在报告的基准测试中超越更大的模型 65B/A6B 输出 token 比 Qwen3.8 Flash Next 减少 28% 238B/A18B 击败更大模型
System-Two - 一个 GrootTeam 合集
来源:https://huggingface.co/collections/GrootTeam/system-two
GrootTeam (https://huggingface.co/GrootTeam) 的合集
- — #### GrootTeam/Groot-19B-A3B-261023 图文转文本 • 19B • 5天前更新 • 237 • 37 (https://huggingface.co/GrootTeam/Groot-19B-A3B-261023)
- — #### GrootTeam/Groot-19B-A3B-261023-FP8 图文转文本 • 19B • 5天前更新 • 38 • 4 (https://huggingface.co/GrootTeam/Groot-19B-A3B-261023-FP8)
- — #### GrootTeam/Groot-19B-A3B-261023-NVFP4 图文转文本 • 11B • 5天前更新 • 34 • 5 (https://huggingface.co/GrootTeam/Groot-19B-A3B-261023-NVFP4)
- — #### GrootTeam/Groot-19B-A3B-261023-GGUF 图文转文本 • 19B • 5天前更新 • 2.33k • 16 (https://huggingface.co/GrootTeam/Groot-19B-A3B-261023-GGUF)
- — #### GrootTeam/Groot-65B-A6B-261023 图文转文本 • 118B • 5天前更新 • 110 • 12 (https://huggingface.co/GrootTeam/Groot-65B-A6B-261023)
- — #### GrootTeam/Groot-65B-A6B-261023-FP8 图文转文本 • 118B • 5天前更新 • 43 • 3 (https://huggingface.co/GrootTeam/Groot-65B-A6B-261023-FP8)
- — #### GrootTeam/Groot-65B-A6B-261023-NVFP4 图文转文本 • 88B • 5天前更新 • 54 • 3 (https://huggingface.co/GrootTeam/Groot-65B-A6B-261023-NVFP4)
- — #### GrootTeam/Groot-65B-A6B-261023-GGUF 图文转文本 • 117B • 5天前更新 • 787 • 12 (https://huggingface.co/GrootTeam/Groot-65B-A6B-261023-GGUF)
- — #### GrootTeam/Groot-238B-A18B-261023 图文转文本 • 243B • 5天前更新 • 76 • 5 (https://huggingface.co/GrootTeam/Groot-238B-A18B-261023)
- — #### GrootTeam/Groot-238B-A18B-261023-GGUF 图文转文本 • 243B • 5天前更新 • 97 • 5 (https://huggingface.co/GrootTeam/Groot-238B-A18B-261023-GGUF)
- — #### GrootTeam/Groot-280B-A16B-261023 图文转文本 • 491B • 5天前更新 • 87 • 6 (https://huggingface.co/GrootTeam/Groot-280B-A16B-261023)
- — #### GrootTeam/Groot-280B-A16B-261023-GGUF 图文转文本 • 477B • 5天前更新 • 230 • 5 (https://huggingface.co/GrootTeam/Groot-280B-A16B-261023-GGUF)
相似文章
@AdinaYakup: 来自社区成员的有趣模型 Groot 系列 4 款 MoE 模型,参数从 19B 到 280B,19B/A3B 支持 128K 上下文……
一位社区成员发布了 Groot 系列,这是一组包含四个 MoE 模型的家族,参数规模从 19B 到 280B,基准测试表现亮眼:其中 19B 模型可在 16GB 显卡上运行 128K 上下文,280B 模型以低成本在 SWE-bench Pro 上取得 63.47 分。
你最喜欢的中大型(约 500 亿至 1500 亿参数)MoE 模型是什么?除了 Qwen flash next 之外。
社区用户询问除 Qwen Flash Next 外,还有哪些值得尝试的 50–150B 参数量级的 MoE 模型,列举了 GPT OSS 120B、Mistral 4 Small 119B、Qwen 3.5 122B A10b 和 Ling 3.0 Flash 等候选模型,希望获得适合本地部署和非编程用途的推荐。
@MaxForAI: hey!居然有这么一个nb的模型?? Ornith @ornith_ 刚刚开源了一个新的开源模型家族。 包含9BDense、31BDense、和35BMoE以及397B的MoE 而且官方的Benchmark令人印象深刻,甚至可以与 GLM…
Ornith开源了Ornith-1.0模型家族,包含9B Dense、31B Dense、35B MoE和397B MoE多个尺寸,在编码任务上取得领先性能,甚至能与GLM5.2媲美。
unsloth/flint-GGUF
Unsloth 发布了 Recursive 公司的 Flint 模型(一个面向编码智能体、总参数量为 39.8B、激活参数量为 2.5B 的混合专家模型)的 GGUF 量化版本,并附带在 Unsloth Desktop 中运行该模型的指南和量化基准测试。
OpenBonsai 开源了:将你自己的 BF16 模型和微调压缩为约 2 GB 的三值 GGUF
OpenBonsai 是一个 Apache-2.0 许可的后训练三值量化框架,可将 BF16 模型和微调压缩为约 2 GB 的三值 GGUF 文件,兼容 Prism 的 PTQ1_0 格式,并通过 Qwen3.5-9B(18 GB → 2 GB)验证了效果。