@VukRosic99: GLM 5.2 后训练代码已开源 (slime) Megatron-LM 进行训练。SGLang 生成 rollout。单数据缓冲…
摘要
GLM 5.2 后训练代码已开源，使用 Megatron-LM 进行训练，SGLang 生成 rollout，形成一个持续强化学习循环，权重同步。
查看缓存全文
缓存时间: 2026/06/28 03:59
GLM 5.2 后训练代码已开源 (slime)
Megatron-LM 负责训练，SGLang 负责生成 rollout。通过一个统一的数据缓冲区，两者连接成连续的强化学习循环，每一步都会同步回传权重。
以下是我的技术详解。https://t.co/v6fhZ19aqP
相似文章
@VukRosic99: GLM 5.2 是如何训练的？清华异步强化学习论文解读——该论文用单次展开异步训练取代 GRPO 的等待全部展开批次的方法。
这篇来自清华大学的论文提出了单次展开异步优化 (SAO, Single-rollout Asynchronous Optimization)，用于大语言模型的强化学习后训练。SAO 用单次展开异步训练取代了基于批次的 GRPO，以减少 GPU 空闲时间并提高稳定性。该技术被用于训练 GLM-5.2 模型（750B-A40B），在智能体编程和推理基准测试上取得了最先进的结果。
@didier_lopes: 难以置信，Z. ai 竟然将其强化学习基础设施开源了。GLM-5.2 的整个 OPD 后训练只用了…
Z. ai 将其强化学习基础设施 slime 框架开源，该框架使 GLM-5.2 的 OPD 后训练在约两天内高效完成。slime 是一个用于强化学习扩展的 LLM 后训练框架，集成了 Megatron 和 SGLang，并已通过 GLM、Qwen、DeepSeek 和 Llama 等前沿模型的实战测试。
GLM-5.2 可能是目前最强大的纯文本开放权重大语言模型
中国AI实验室Z.ai发布了GLM-5.2，这是一个拥有7530亿参数的开放权重大语言模型，支持100万token的上下文窗口，采用MIT许可证。该模型在Artificial Analysis Intelligence Index上获得最高分，并在Code Arena WebDev排行榜上排名第二。
GLM-5.3
GLM-5.3 是一个AI模型更新，它通过对相同基础模型进行大规模后训练，实现了编码能力的飞跃。
PSA: unsloth/GLM-5.2-GGUF 正在上传
unsloth 已将 GLM-5.2 的 GGUF 版本上传至 Hugging Face，为 llama.cpp、vLLM 和 SGLang 等多种推理引擎提供了可直接使用的模型文件。