论文页面 - Frontis-MA1：训练一个面向机器学习工程递归自我改进的AI4AI模型

作者：

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

递归自我改进（RSI）要求AI系统能够改进构建AI的过程（即AI4AI）；机器学习工程（MLE）为研究这一能力提供了一个具体且可执行的测试平台。我们推出了OpenMLE，一个面向MLE中RSI研究的开放全栈系统，涵盖带执行反馈的可验证任务环境（OpenMLE-Gym）、算子学习（OpenMLE-RL）和长时程搜索（OpenMLE-Evo）。在这套系统之上，我们将Frontis-MA1（35B）后训练为面向MLE的元进化智能体，将后训练和推理过程围绕四个原子程序进化算子（Draft、Improve、Debug、Crossover）进行对齐：这些算子通过基于执行结果的SFT和RL进行训练，训练数据均与所有评估基准去重，然后组合成长时程搜索，在单一循环中耦合学习与进化。在MLE-Bench Lite上，每任务在单张RTX 4090（显存上限12GB）的12小时预算下，Frontis-MA1（35B）使用OpenMLE-Evo将Medal Average从其基础模型的39.39%提升至60.61%，使用OpenMLE-Evo-Max（与基准无关的经验先验和异步搜索）达到71.21%，超过了GPT-5.5+Codex，接近GPT-5.6 Sol和2.8T Kimi K3。在留出的NatureBench Lite上，两者都能迁移：固定框架时，换用训练后的模型将Match-SOTA从50%提升到70%；固定模型时，换用OpenMLE-Evo将其从20%提升到50%。我们发布了模型权重和完整的OpenMLE栈，以支持面向RSI的可执行AI4AI的可复现研究。代码：https://github.com/FrontisAI/OpenRSI

查看arXiv页面 (https://arxiv.org/abs/2607.28568) 查看PDF (https://arxiv.org/pdf/2607.28568) 项目页面 (https://frontisai.github.io/OpenRSI/) GitHub1 (https://github.com/FrontisAI/OpenRSI) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.28568)

引用该论文的模型4

• FrontisAI/Frontis-MA1-30B 文本生成• 31B• 更新于约3小时前 • 1 (https://huggingface.co/FrontisAI/Frontis-MA1-30B)

• FrontisAI/Frontis-MA1-30B-GGUF 文本生成• 31B• 更新于约3小时前 • 1 (https://huggingface.co/FrontisAI/Frontis-MA1-30B-GGUF)

• FrontisAI/Frontis-MA1-35B 图像-文本到文本• 36B• 更新于约3小时前 • 1 (https://huggingface.co/FrontisAI/Frontis-MA1-35B)

• FrontisAI/Frontis-MA1-35B-GGUF 图像-文本到文本• 35B• 更新于约3小时前 • 1 (https://huggingface.co/FrontisAI/Frontis-MA1-35B-GGUF)

引用该论文的数据集2

• FrontisAI/OpenMLE-Tasks 更新于约3小时前 • 1 (https://huggingface.co/datasets/FrontisAI/OpenMLE-Tasks)

• FrontisAI/OpenMLE-SFT-Traces 查看器• 更新于约3小时前 • 26.3k • 1 (https://huggingface.co/datasets/FrontisAI/OpenMLE-SFT-Traces)

引用该论文的Spaces0

没有链接此论文的Space

在Space的README.md中引用arxiv.org/abs/2607.28568，即可从本页链接到该论文。

包含该论文的收藏集0

没有包含此论文的收藏集

将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从本页链接到它。