@arXivBangers: 闭环训练：循环语言模型的实用训练配方 新训练配方使循环语言模…

X AI KOLs Timeline 论文
looped-language-models recurrent-architectures parameter-efficiency training-recipes pretraining dense-to-looped

摘要

该论文提出了一套实用训练配方，将循环（递归）语言模型的训练数据量从 7.7 万亿 token 缩减至 3100 亿 token，其中 1.4B 的 LoopLM 在全部 12 个基准测试上均超越了参数量相当的稠密基线模型；论文还展示了如何以极少的额外参数，将 Qwen3-1.7B-Base 等预训练稠密模型转换为循环模型。

闭环训练：循环语言模型的实用训练配方 新的训练配方使得循环语言模型既可以仅用 3100 亿 token 从零开始训练，也可以从预训练稠密模型中转换而来，并在与参数量相当的稠密基线对比中取得更优表现。 https://t.co/EmksVDh6QP https://t.co/fTLwfWEwkl
查看原文
查看缓存全文

缓存时间: 2026/10/04 19:18

Closing the Loop：循环语言模型的实用训练配方

新的训练配方使循环语言模型能够在 310B token 上从零训练，或从预训练的稠密模型进行适配，超越了参数量相当的稠密基线模型。

https://t.co/EmksVDh6QP https://t.co/fTLwfWEwkl

Closing the Loop：循环语言模型的实用训练配方

来源：https://arxivb.org/abs/2610.00673 [于 2026 年 9 月 30 日提交]

选择快照保存于 10 月 4 日 10:45 PT。标题、作者、摘要和提交日期在此处已冻结。

Andrei Marchenko, Viacheslav Bezrukov, Oleg Kashurin, Inessa Fedorova, Dmitry Bocharov, Yuliana Shakhvalieva, Maria Tikhonova, Valerii Ternovskii

获评于 10/04/2026 11:11am PDT

82/100编辑评分 (https://arxivb.org/abs/2610.00673#selection)

新的训练配方使循环语言模型能够在 310B token 上从零训练，或从预训练的稠密模型进行适配，超越了参数量相当的稠密基线模型。

等待 24 小时统计数据

摘要

循环语言模型通过反复应用同一组层来增加有效深度，但现有的大规模配方需要在数万亿 token 上进行多阶段训练，而循环带来的收益仍然难以与数据和训练方面的差异区分开来。在本工作中，我们为循环语言模型确立了实用的训练配方，取得了三项主要成果。(1) 我们开发了一条计算高效的从零开始训练流程，将训练预算从 Ouro 的 7.7T token 降至 310B token，同时保持了较强的推理性能。预训练之后接以高质量的中期训练，再加上学习率预热和更强的出口门正则化，无需既往的多阶段调度即可实现稳定的循环训练。(2) 在受控对比中，我们的 1.4B LoopLM 在全部 12 个评测基准上均优于在相同数据和 token 预算下训练的参数量相当的稠密模型，其中 GSM8K 提升 +14 分、MATH 提升 +10 分、DROP 提升 +22 分。在推理计算量相当的条件下，它在数学推理和阅读理解上接近 3.9B 稠密模型，而参数量仅为后者的 36%。(3) 我们提出了一种将预训练稠密模型转换为循环模型的极简配方：一个学习得到的输入混合标量和一个平滑的出口损失，不引入任何与步数相关的参数。应用于 Qwen3-1.7B-Base 后，在两种数据设定下，Looped Qwen 在所有评测基准上均优于持续训练的稠密基线，且在精心筛选的混合数据上，GSM8K、MATH 和 MMLU-Pro 的提升具有统计显著性。综合来看，这些成果使循环语言模型从零训练的成本大幅降低，并可便捷地引入现有的预训练检查点中，同时分离出了循环本身带来的收益。

编辑评估

82/ 100

对标题、作者和摘要的自动化评估。结果可能存在误差。该评估随选择一同保存。

核心思想 本文提出了稳定并加速循环（循环递归）语言模型训练的实用配方，表明在推理计算量相同的条件下，循环模型可以匹敌规模大得多的稠密模型，同时标准预训练稠密模型仅需极少的参数增量即可转换为循环架构。

为何重要 面临边缘设备或 GPU 集群严格内存约束的从业者，可以通过循环执行将一个约 4B 参数模型的推理能力压缩到 1.4B 参数的显存占用中，从而从中受益。

评测者的看法 权重共享的循环架构在参数效率上一直具备理论吸引力，但众所周知它们脆弱且训练成本高昂。本文通过大幅削减训练 token 需求，并为 Qwen 等现有稠密检查点提供即插即用的转换配方，直接攻克了这些实际瓶颈。如果结果成立，这将使循环模型成为资源受限推理场景中切实可行的架构选择。

保留意见 摘要中的提升主要体现在约 1.4B–1.7B 规模下的数学推理和阅读理解任务（GSM8K、MATH、DROP）；这些收益能否推广到通用生成任务，或在 7B+ 参数规模之外仍能有效扩展，尚不明确。

接下来应核查什么 在实际服务框架中执行多次循环时，需要验证确切的推理延迟开销、内存带宽权衡以及 KV 缓存的影响。

讨论切入点 深度权重共享是否为迭代推理提供了真正的架构归纳偏置，还是一种纯粹的显存压缩技巧——用墙钟时间换取更小的模型权重？

评估置信度：高 · 评估于 Oct 1, 18:20 PT

排名模型：Gemini 编辑判断 · v1.0.0作者：arxivbangers contributors方法：editorial-v1指纹：b77c6baf8d02a4e3e142dca12bb5ed63f6cfea5ae5d3c1faa5bc8437002c3e1d

讨论

相似文章

突破两次循环：一种可扩展的循环混合专家模型配方

Hugging Face Daily Papers

论文提出了 LOOM，一种面向循环混合专家（Looped MoE）模型的可扩展配方，通过残差缩放与输入重注入来稳定循环过程，同时利用逐循环路由器（per-loop routers）提升专家使用的多样性，实现了稳定扩展至 9-12 次循环，并在 100M-1.7B 参数规模的模型上改善了困惑度与零样本准确率。