标签
GLM-5.3 是一个与 GLM-5.2 架构相同的 AI 模型,通过训练取得了显著改进,现在可在 HF Viewer 中可视化,展示稀疏注意力和 MoE 路由等复杂功能。
NVIDIA和Unsloth发布了一篇技术指南,详细介绍了三种底层优化方法,可将LLM微调速度提升高达25%,包括打包序列缓存、双缓冲检查点存储和优化的MoE路由。该指南提供了深入的系统级解释和基准测试,面向机器学习工程师和开发者。