论文页面 - 通过后训练实现编码竞赛金牌水平的语言模型

来源：https://huggingface.co/papers/2609.02849

摘要

一个结合精选题目、合成推理轨迹、监督微调与强化学习的专项训练流程，训练出的竞赛编程模型通过迭代式测试时优化，在IOI基准测试中超越了顶尖人类选手的分数。

竞赛编程已成为检验大语言模型推理能力的关键测试，其中IOI和ICPC等国际竞赛代表着最具挑战性的场景。我们提出一个端到端的专项训练流程，结合大规模题目筛选、合成推理轨迹(https://huggingface.co/papers?q=synthetic%20reasoning%20traces)、监督微调(https://huggingface.co/papers?q=supervised%20fine-tuning)(SFT)与强化学习(https://huggingface.co/papers?q=reinforcement%20learning)(RL)。使用22,000道精选题目，我们通过SFT和RL训练了Nemotron-3-Nano-CC (30B-A3B)，并通过仅SFT训练了Nemotron-3-Ultra-CC (550B-A55B)。我们进一步引入GenCorrect(https://huggingface.co/papers?q=GenCorrect)——一种反馈驱动的测试时计算(https://huggingface.co/papers?q=test-time%20compute)策略，能迭代生成、评估和优化多种解决方案。在IOI 2025中，Nano-CC在后训练后得分从130分提升至291分，使用GenCorrect(https://huggingface.co/papers?q=GenCorrect)后更达到468分，超越了438.3分的金牌线，而Ultra-CC则达到502分。基于这些成果，我们开发了竞赛专用的Ultra-CC系统，并在IOI 2026期间进行了前瞻性评估。在与人类选手相同的时间限制、网络访问权限和提交限制条件下，该系统在600分满分中获得535.4分，同时超越了361.12分的金牌线和498.27分的人类最高分。据我们所知，这是首个在IOI题目集上超越最高分人类选手的人工智能系统。

查看arXiv页面 (https://arxiv.org/abs/2609.02849) 查看PDF (https://arxiv.org/pdf/2609.02849) 添加至收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.02849)

通过智能助手获取本文：

hf papers read 2609\.02849

未安装最新CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型

无模型关联本文

在模型的README.md中引用 arxiv.org/abs/2609.02849 以在此页面建立链接。

引用本文的数据集

无数据集关联本文

在数据集的README.md中引用 arxiv.org/abs/2609.02849 以在此页面建立链接。

引用本文的Space

无Space关联本文

在Space的README.md中引用 arxiv.org/abs/2609.02849 以在此页面建立链接。

包含本文的收藏

无收藏包含本文

将本文添加至收藏 (https://huggingface.co/new-collection) 以在此页面建立链接。