@kimmonismus: 太疯狂了:一个3B模型现在在可验证推理任务上取得了极具竞争力的结果。VibeThinker-3B得分94.3……

X AI KOLs Following 模型

摘要

一个3B模型VibeThinker-3B通过在Qwen2.5-Coder上进行后训练优化,包括课程SFT、多领域RL、离线自我蒸馏以及最终的基于RL的指令阶段,在可验证推理任务上取得了极具竞争力的结果。

太疯狂了:一个3B模型现在在可验证推理任务上取得了极具竞争力的结果。 VibeThinker-3B在AIME26上得分94.3,在LiveCodeBench v6上Pass@1达到80.2,在未见过的LeetCode竞赛中准确率为96.1%。 这些提升主要来自在Qwen2.5-Coder基础上的后训练:课程SFT、多领域RL、离线自我蒸馏以及最终的基于RL的指令阶段。 核心启示:某些形式的可验证推理可能可以高度压缩到小密集模型中。 前沿规模的模型在广泛知识和通用能力方面仍然重要,但紧凑推理模型正成为一种重要的补充路径。 真高兴看到这一点!
查看原文
查看缓存全文

缓存时间: 2026/06/16 13:35

疯狂:一个3B模型如今在可验证推理任务上达到了极具竞争力的结果。

VibeThinker-3B在AIME26上得分94.3,在LiveCodeBench v6上Pass@1达到80.2,在未见过的LeetCode竞赛中正确率96.1%。

这些提升主要来自在Qwen2.5-Coder基础上的后训练:课程式SFT、多领域强化学习、离线自蒸馏,以及最后的基于强化学习的指令阶段。

核心启示:某些形式的可验证推理可能高度可压缩至小型稠密模型中。

前沿规模模型对于广泛知识和通用能力仍至关重要,但紧凑型推理模型正成为一条严肃的互补路径。

喜闻乐见!

Francesco Bertolotti (@f14bertolotti): 一款3B模型表现卓越。这些结果主要通过Qwen2.5-Coder上的后训练微调实现。论文未提供太多细节,但似乎是从强化学习检查点进行蒸馏,然后进行最终的基于强化学习的指令调优。

🔗

相似文章

WeiboAI/VibeThinker-3B

Hugging Face Models Trending

VibeThinker-3B 是一个拥有 3B 参数的模型,通过优化 Spectrum-to-Signal Principle (SSP) 后训练流程,在数学、编程和 STEM 基准测试上实现了前沿水平的推理性能,达到了与更大模型相当的性能。