论文页面 - ParetoRSI-Gym：AI 智能体能否跨多个领域改进语言模型？

来源：https://huggingface.co/papers/2610.34386

摘要

ParetoRSI-Gym 通过固定模型和流水线，同时允许数据筛选整理和训练循环，评估跨多个领域的递归自我改进智能体，揭示了显著的泛化能力提升和不同的智能体策略。

递归自我改进 (https://huggingface.co/papers?q=Recursive%20self-improvement)(RSI) 要求智能体系统设计、训练并评估自身的后继系统。数据驱动的后训练是这一循环的核心环节，但现有评估仅在单个基准上衡量其效果：智能体从静态数据池中选择数据，或蒸馏更强的模型，以在单次运行中提高某一项分数。实际的后训练涉及多个领域，一个领域的提升必须与另一个领域的退步进行权衡。我们提出 ParetoRSI-Gym (https://huggingface.co/papers?q=ParetoRSI-Gym)，其中智能体搜索数据、筛选整理数据、进行训练、读取各领域的结果，并重复这一过程，而除数据之外的所有要素均保持固定：初始大语言模型、五个领域(数学、代码、金融、医学、科学)、工具集以及 SFT 流水线。每个领域的泛化基准 (https://huggingface.co/papers?q=Generalization%20benchmarks) 用于区分真正的能力提升与对智能体所优化分数的过拟合。在涵盖三个智能体系统、三个基础模型、五轮迭代和多个随机种子的实验中，最强的系统——搭载 Opus-5 的 Claude Code——所选代理指标最优检查点的泛化分数，相比初始模型提高了 9.2% (绝对提升 2.3 个百分点)。这一结果对三个基础模型和五个领域进行等权平均，单个领域的相对提升最高达 63% (Ministral-3-3B 上的医学领域)。进一步分析表明，运行框架与其驱动的模型同样重要，而且每个智能体都保持着独特的数据选择策略。我们认为，这项工作是迈向在真实世界机器学习工程中评估 RSI 系统的一步。

查看 arXiv 页面 (https://arxiv.org/abs/2610.34386)查看 PDF (https://arxiv.org/pdf/2610.34386)GitHub1 (https://github.com/haojinw0027/ParetoRSI-GYM)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.34386)

在你的智能体中获取这篇论文：

hf papers read 2610\.34386

还没有最新版本的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型链接到这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.34386，即可从此页面链接到该模型。

引用这篇论文的数据集0

没有数据集链接到这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.34386，即可从此页面链接到该数据集。

引用这篇论文的 Space0

没有 Space 链接到这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.34386，即可从此页面链接到该 Space。

包含这篇论文的合集0

没有合集包含这篇论文

将这篇论文添加到合集 (https://huggingface.co/new-collection)，即可从此页面链接到该合集。