low-active-parameters

标签

#low-active-parameters

总共124B参数但仅~5B活跃——这正是我想要的本地模型形态。低激活参数的MoE现在成为了本地最佳选择吗？

Reddit r/singularity ↗ · 2026-07-25

关于专家混合模型（MoE）的讨论，该模型总参数为124B但仅约5B活跃，表明低激活参数的MoE可能成为本地最佳选择。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈