@kimmonismus: 太疯狂了:一个3B模型现在在可验证推理任务上取得了极具竞争力的结果。VibeThinker-3B得分94.3……
摘要
一个3B模型VibeThinker-3B通过在Qwen2.5-Coder上进行后训练优化,包括课程SFT、多领域RL、离线自我蒸馏以及最终的基于RL的指令阶段,在可验证推理任务上取得了极具竞争力的结果。
查看缓存全文
缓存时间: 2026/06/16 13:35
疯狂:一个3B模型如今在可验证推理任务上达到了极具竞争力的结果。
VibeThinker-3B在AIME26上得分94.3,在LiveCodeBench v6上Pass@1达到80.2,在未见过的LeetCode竞赛中正确率96.1%。
这些提升主要来自在Qwen2.5-Coder基础上的后训练:课程式SFT、多领域强化学习、离线自蒸馏,以及最后的基于强化学习的指令阶段。
核心启示:某些形式的可验证推理可能高度可压缩至小型稠密模型中。
前沿规模模型对于广泛知识和通用能力仍至关重要,但紧凑型推理模型正成为一条严肃的互补路径。
喜闻乐见!
Francesco Bertolotti (@f14bertolotti): 一款3B模型表现卓越。这些结果主要通过Qwen2.5-Coder上的后训练微调实现。论文未提供太多细节,但似乎是从强化学习检查点进行蒸馏,然后进行最终的基于强化学习的指令调优。
🔗
相似文章
@f14bertolotti:一款3B模型的出色表现。这些成果主要通过对Qwen2.5进行训练后优化而实现……
本技术报告介绍了VibeThinker-3B,一个3B参数的模型,通过对Qwen2.5-Coder进行训练后优化(包括基于课程的有监督微调、多域强化学习和离线自蒸馏),实现了前沿水平的可验证推理性能,达到或超越了DeepSeek V3.2等更大的模型。
VibeThinker-3B:探索小型语言模型中可验证推理的前沿
VibeThinker-3B是一款紧凑型3B参数量模型,通过专门的训练流程在可验证推理任务上实现了前沿水平的性能,与DeepSeek V3.2和Gemini 3 Pro等更大模型相当。
WeiboAI/VibeThinker-3B
VibeThinker-3B 是一个拥有 3B 参数的模型,通过优化 Spectrum-to-Signal Principle (SSP) 后训练流程,在数学、编程和 STEM 基准测试上实现了前沿水平的推理性能,达到了与更大模型相当的性能。
VibeThinker: 在推理上击败Opus 4.5的3B参数模型,采用新颖的SFT+GRPO方法
本技术报告介绍了VibeThinker-3B,一个3B参数的密集模型,在AIME26和LiveCodeBench等基准测试上实现了前沿水平的推理性能,通过结合基于课程的SFT、多领域RL和离线自蒸馏,匹配或超越了DeepSeek V3.2和GLM-5等更大的模型。
将原先的VibeThinker-1.5B扩展到3B——现已达到前沿数学与编程性能
VibeThinker-3B模型在数学和编程推理性能上达到了最先进水平,在AIME'26上得分为94.3,在未见过的LeetCode问题上正确率为96.1%,表明小模型在可验证领域可以达到前沿推理水平。