Repo-to-Skill:将GitHub仓库蒸馏成AI4AI技能

Hugging Face Daily Papers 论文

摘要

DisCo是一个研究代理,能从GitHub仓库中蒸馏操作知识到可复用技能,显著提升自主机器学习研究在诸如MLE-bench等基准测试上的性能。

自主代理正在开始端到端地执行机器学习(ML)研究。这些代理将模型骨干与用于规划、执行、内存和验证的框架相结合,但这种架构仍然将领域特定知识排除在代理之外。我们将这个缺失的层称为操作知识,即知道一个方法与使其工作之间的区别。这种知识并非不存在。它出现在仓库和论文中,但以面向人类读者的形式存在,并且太大无法在任务期间加载。一旦蒸馏成紧凑、验证过的技能,这种知识可以跨任务重用,而不是在每次运行中重新发现。 我们介绍DisCo,一个技能驱动的研究代理,它创建技能并在研究中使用它们。它的蒸馏以两种互补形式运行:任务无关的,将领域广泛使用的仓库压缩成可复用技能;以及任务导向的,生成具体任务所需的技能。前者,应用于整个开放生态系统,产生了AREX-Skill Library,包含从1000个广泛使用的ML仓库中蒸馏出的5000多个验证技能,并组织成20个领域和178个能力族。在GPT-5.5骨干、研究框架和下游执行预算固定不变的情况下,配备技能的研究代理在MLE-bench上得分提高134.3%,在PaperBench上提高34.4%,在FrontierCS上提高9.2%,在PassNet上提高14.0%,比没有技能的相同代理表现更好。这些增益来自于在固定设置下添加蒸馏的操作上下文。
查看原文
查看缓存全文

缓存时间: 2026/09/03 03:49

论文页面 - Repo-To-Skill:将GitHub仓库提炼为AI4AI技能

来源:https://huggingface.co/papers/2609.02749

摘要

DisCo 是一个研究智能体,它将操作性知识提炼为可复用技能,显著提升了跨基准的自主机器学习研究表现。

自主智能体(https://huggingface.co/papers?q=Autonomous%20agents)正在开始端到端地执行机器学习(ML)研究。这些智能体将模型骨干与规划、执行、记忆和验证的框架相结合,但这种架构仍然使领域特定的专门知识游离在智能体之外。我们将这个缺失的层次称为操作性知识(https://huggingface.co/papers?q=operational%20knowledge),即那些区分“知道一个方法”和“让方法有效运作”的知识。这些知识在该领域中并非缺失。它们出现在代码库和论文中,但以人类读者可读的形式存在,并且体量太大,无法在任务执行期间加载。一旦被提炼成紧凑、经过验证的技能,这些知识就可以跨任务复用,而无需在每次运行时重新发现。我们提出 DisCo(https://huggingface.co/papers?q=DisCo),一个技能驱动的研究智能体,它创建技能并在研究过程中使用它们。它的提炼以两种互补形式进行:任务无关的,将领域内广泛使用的代码库浓缩为可复用技能;以及任务导向的,生成具体任务所需的技能。前者应用于整个开源生态系统,产出了 AREX-Skill Library(https://huggingface.co/papers?q=AREX-Skill%20Library),包含从 1,000 个广泛使用的 ML 仓库中提炼的 5,000 多个经过验证的技能,并组织成 20 个领域和 178 个能力族。在固定使用 GPT-5.5 骨干模型、研究框架和下游执行预算的情况下,配备技能的研究智能体在 MLE-bench(https://huggingface.co/papers?q=MLE-bench)上的得分提高了 134.3%,在 PaperBench(https://huggingface.co/papers?q=PaperBench)上提高了 34.4%,在 FrontierCS 上提高了 9.2%,在 PassNet 上提高了 14.0%,相比于没有技能的同一智能体。这些增益来自于在固定配置下增加了提炼的操作上下文。

查看arXiv页面 查看PDF GitHub 添加到收藏

在你的智能体中获取这篇论文:

hf papers read 2609.02749

没有最新的CLI? curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

没有链接本文的模型

在模型的 README.md 中引用 arxiv.org/abs/2609.02749 以从此页面链接它。

引用本文的数据集 0

没有链接本文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2609.02749 以从此页面链接它。

引用本文的 Spaces 0

没有链接本文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2609.02749 以从此页面链接它。

包含本文的收藏 0

没有包含本文的收藏

将本文添加到收藏以从此页面链接它。

相似文章