开放实验室终于拥抱了持续后训练的力量

几年前，每一代模型发布都是全新的模型，例如Qwen, Qwen 1.5, 2, 2.5, 3, 3.5, llama, llama 2, llama 3等。但根据最近几天的事件，我认为我们可以得出结论，这不是正确的前进道路。对现有模型进行持续后训练似乎完全能够实现性能的代际飞跃，而无需重新训练新的基础模型。GLM 5.3和Qwen3.8 27B是很好的例子，它们启发了这篇文章，此外还有Deepseek V4 Flash 0731。我认为这对本地社区特别有益，因为llama.cpp和其他推理引擎并不总能跟上新版本的发布，就像以前的ling模型从未得到良好支持，而ling 3.0 flash的支持在我上次检查时仍在进行中。在久经考验的架构上进行改进要好得多，因为当它发布时，我们都可以立即运行它，并实际验证公司的声明。封闭实验室已经在这样做了，比如Anthropic的opus模型在过去一年中不断进行迭代改进，最终跳跃到opus 5，而ChatGPT从5一路发展到5.6。当然，我们无法确定，但增量式的命名可能表明这些模型只是从前任模型持续后训练而来。很高兴看到开放实验室也采用了同样的方式。