我为 RSI 开发了一个类似 scikit-learn 的工具包
摘要
作者们发布了 Gear——一个受元学习启发的开源框架,被称为"遥感领域的 scikit-learn"。它将搜索决策与执行和评估分离,使 GEPA、RRSI 和 Harness² 等方法更易于实现与比较。其中一个可用的 GEPA 变体采用了共享故障诊断和分阶段评估机制,在 AutomationBench 和 Terminal-Bench 上取得了通过率的提升;同时,在使用同一优化后 harness 的条件下,GPT-5.6 Luna 相较于 Astra 的每任务 API 成本降低了约 95%。
读了许多 RSI 论文之后,我总回到 RL 与进化搜索中那些熟悉的问题:
- **采样(Sampling)**:如何高效找到有前景的改动?
- **评估(Evaluation)**:如何判断一个新变体真的让智能体变强了?
- **多样性(Diversity)**:如何避免过早收敛?
这促使我们构建了 Gear——一个受元学习启发的开源框架。任务智能体(task agent)产出执行轨迹(execution traces);元智能体(meta-agent)利用这些轨迹和评估反馈来改进提示词、工具、工作流以及上下文管理。Gear 将搜索决策与执行、评估分离开来。我们的目标是打造 RSI 领域的 scikit-learn,让 GEPA、RRSI、Harness² 等方法更容易实现与比较。
目前我们有一个可运行的 GEPA 变体,具备共享失败诊断和分阶段评估能力。在 GPT 5.6 Luna 保持 medium reasoning effort 的条件下,我们观察到以下任务通过率:
| Benchmark | Base DSH | Gear-optimized DSH |
| --- | --- | --- |
| AutomationBench Marketing | 27.0% | 40.0% |
| AutomationBench Support | 17.0% | 25.0% |
| Terminal-Bench 2.1 | 52.8% | 62.9% |
在 Marketing 上以 max effort 运行时,配备优化后 harness 的 Luna 达到了 88.88% 的目标完成率,而 Astra + Codex 为 84.08%。严格任务通过率则是 53% 对 57%,因此优势体现在部分完成上。
另外,在两个模型都使用相同的优化 DSH、以 max effort 运行的条件下,Luna 的预估 API 成本平均每任务 $0.0568,而 Astra 为 $1.1858——低 95.21%(不计优化与基础设施成本)。
我们很乐意收到关于候选评估,以及在有限预算下保持多样性方面的反馈。
Code · Paper
相似文章
AI能自我改进吗?RSI或许是答案[研究]
介绍HarnessOpt-Bench以测量AI中的递归自我改进,评估了5个前沿模型在4项任务上的表现,发现模型选择比编程工具选择的影响更大。
RSI Arena:迈向基于人类反馈的递归自我改进
RSI Arena 推出了一项分为两个阶段的研究:十个前沿 AI 智能体在固定的 GPU 和 API 预算下,以人类偏好反馈为指导,从同一个基础模型出发,自主开展语言模型后训练。表现最强的智能体(GPT-6 Astra)弥合了基础模型与指令模型之间差距的 76%,且大多数模型在第二阶段比第一阶段更受人类青睐,展示了在结合人类反馈的递归自我改进(RSIHF)方向上迈出的一步。
ModularRSI:模块化与可泛化的递归式智能体框架自我改进
ModularRSI 提出了一种模块化、可泛化的递归式自我改进框架,用于智能体框架。该框架利用跨任务的对比学习独立演进模块,提升在未见任务上的性能。
@SakanaAILabs:从“Harness工程”到RSI 递归自我改进(RSI)——即AI自我构建与提升——将如何实现…
Lilian Weng的博客文章认为,AI中的递归自我改进(RSI)将通过完善“harness”(模型周围系统)的设计与优化来实现,并重点介绍了Sakana AI的研究案例。
RRSI: 智能体框架的正则化递归自我改进
本文介绍了针对AI智能体框架的正则化递归自我改进(RRSI),该方法在递归进化过程中应用正则化以防止过拟合,在多个基准测试中展示了性能提升。