moe-routing

标签

Cards List
#moe-routing

GLM-5.3 在 HF Viewer 中

Reddit r/LocalLLaMA ↗ · 2026-08-28

GLM-5.3 是一个与 GLM-5.2 架构相同的 AI 模型,通过训练取得了显著改进,现在可在 HF Viewer 中可视化,展示稀疏注意力和 MoE 路由等复杂功能。

0 人收藏 0 人点赞
#moe-routing

@Suryanshti777: NVIDIA刚刚揭秘了它们用来让LLM微调显著加速的隐藏技巧。不是新GPU。不是大…

X AI KOLs Timeline ↗ · 2026-05-07

NVIDIA和Unsloth发布了一篇技术指南,详细介绍了三种底层优化方法,可将LLM微调速度提升高达25%,包括打包序列缓存、双缓冲检查点存储和优化的MoE路由。该指南提供了深入的系统级解释和基准测试,面向机器学习工程师和开发者。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈