@SakanaAILabs：从“Harness工程”到RSI 递归自我改进（RSI）——即AI自我构建与提升——将如何实现…

从 Harness 工程到 RSI：递归自我改进（RSI）——即 AI 构建并改进自身——将如何实现？针对这一问题，Thinking Machines Lab 联合创始人 Lilian Weng（@lilianweng）发布了一篇博客文章，认为设计模型周围的执行系统（她称之为“harness”）是现实的起点。关于 RSI 的研究组织得异常出色，这使得本文成为该领域的绝佳综述，我强烈推荐。https://lilianweng.github.io/posts/2026-07-04-harness/… Sakana AI 也重点介绍了以下研究作为示例。・The AI Scientist（Nature 2026）：一个自动化流水线，能自主处理从提出研究思路到实验、论文写作和同行评审的全过程。・ShinkaEvolve：一个利用 LLM 的程序演化框架，引入机制大幅提升样本效率。・Darwin Gödel Machine：一个能够重写自身 harness 代码以实现自我改进的编码代理。Weng 认为，对于 RSI，直接重写模型权重并非路径，而是应先彻底完善 harness 的设计与优化。同时，她指出了自我改进循环固有的结构性问题，如评估困难、多样性崩溃和奖励篡改。RSI 之路是否确实以这种方式推进，目前无人知晓。Sakana AI 的 RSI 实验室将继续探索这一令人兴奋的领域。参考文献・The AI Scientist（Nature 2026）：https://nature.com/articles/s41586-026-10265-5… ・ShinkaEvolve：https://sakana.ai/shinka-evolve/ ・Darwin Gödel Machine：— # 面向自我改进的 Harness 工程 来源：https://lilianweng.github.io/posts/2026-07-04-harness/ 递归自我改进（RSI） 的概念可追溯至 I. J. Good（1965）(https://philpapers.org/rec/GOOSCT)，他将“超智能机器”定义为能在所有智力活动中超越人类，并设计出更优机器来改进自身的系统。Yudkowsky（2008）(https://www.lesswrong.com/posts/JBadX7rwdcRFzGuju/recursive-self-improvement) 使用“递归自我改进”这一短语来描述一个特定的反馈回路：AI 利用其当前的智能来改进产生其智能的认知机制。在现代 AI 中，这一反馈回路可能意味着模型直接重写自身权重，或更广义地，模型改进训练流水线和部署系统，从而催生一个性能更优的后续模型，在经济价值高的任务上表现出色。前沿实验室的研究开发速度已显著加快（Anthropic (https://www.anthropic.com/institute/recursive-self-improvement)；OpenAI (https://openai.com/index/how-agents-are-transforming-work/)）。我特意提到*“部署系统”，是因为原始模型与现实世界之间的那层与模型原始智能（即预训练后的评估）同等重要。Harness 是 AI 部署的重要组成部分，Claude Code 和 Codex 等成功的编码代理产品已证明了这一点。Harness 是围绕基础模型的系统，负责编排执行，决定模型如何思考与规划、调用工具与行动、感知与管理上下文、存储工件以及评估结果。本文专注于 Harness 工程的相关研究，以及它如何为 RSI 做出贡献。近期许多关于自动研究、自我改进代理和演化程序搜索的工作都可以围绕这个问题来组织。其他关于模型自我对弈、合成数据、测试时训练以及更广泛的持续学习主题的工作也符合 RSI 的愿景（例如 Yuan 等 2024 (https://arxiv.org/abs/2401.10020)，Chen 等 2024 (https://arxiv.org/abs/2401.01335)，Zhao 等 2025 (https://arxiv.org/abs/2505.03335)，Choi 等 2026 (https://openreview.net/forum?id=lTbBFAoPSA)），但它们不是本文的重点。 ## Harness 设计模式 与早期的代理框架 (https://lilianweng.github.io/posts/2023-06-23-agent/)（“代理 = LLM + 记忆 + 工具 + 规划 + 行动”）相比，Harness 工程额外包括工作流设计（如循环工程）、评估、权限控制和持久化状态管理*。它不再仅仅是提示模板，而更接近运行时和软件系统设计：模型如何观察、行动、记忆、自我检查以及改进。设计应有意识地保持简单和通用，以便泛化，很可能需要参考现有的软件工程实践，从而受益于预训练知识。Harness 与操作系统之间也有很强的类比关系。类似于操作系统，harness 应封装复杂逻辑，同时保持接口简单。与此同时，配置、工具接口及其他协议可能逐渐在行业中走向标准化。 ## 模式 1：工作流自动化 定义一个模型可以操作、测试和迭代的工作流，是实现自动化的关键设计。Karpathy 的自动研究仓库 (https://github.com/karpathy/autoresearch) 是此类工作流构建方式的一个简洁示例。常见工作流遵循一个目标导向的循环：规划、执行、观察/测试、改进，然后再次执行，直到目标达成。过程中可能会主动向用户请求更清晰的任务说明或执行偏好。一个简化的 Codex 代理循环：代理调用工具，工具响应影响模型的下一步生成。（图片来源：OpenAI codex agent post (https://openai.com/index/unrolling-the-codex-agent-loop/)）工作流图还强调模型分析自身的轨迹和失败案例，然后通过“代理运行时”迭代其进展，而非使用静态提示模板。 ## 模式 2：文件系统作为持久化记忆 在长周期代理系统中，一个反复出现的模式是对丰富状态和工件的简单控制。Harness 不应将所有工作流及日志都塞进上下文；相反，它应将持久化状态存放在文件中。在长周期代理式执行中，实验日志、代码差异、论文摘要、错误跟踪以及过往执行轨迹等工件常常增长到远超模型训练过的上下文窗口。学会如何读写和编辑文件系统（通常通过 bash 命令）是 LLM 的基础技能，因此以简单的文件形式管理持久化记忆自然能受益于核心模型能力的提升。 ## 模式 3：子代理与后台任务 Harness 可以生成多个子代理并行执行并监控后台任务。当主代理需要探索多个假设、并发运行实验，或委托隔离的子任务而不污染主上下文时，这非常有用。父代理需要一个精简的进程管理器：启动作业、检查日志、取消失败运行，并将结果合并回主代理线程。关键设计选择是使并行性显式且可检查。如果子代理的输出仅存在于临时的聊天上下文中，它们很快就会过时且隐藏起来。如果它们被存储为文件、日志和状态记录，模型就可以在中断后恢复，并对其自身的执行历史进行推理。 ## 案例研究：编码代理 Harness 主流编码代理的核心接口已在 Claude Code、Codex、OpenCode 和 Cursor 风格的代理中趋于稳定。它们通常使用类似下面的循环：通过一组工具，编码代理能够开发并调试给定仓库中的问题，类似于人类开发者配备 IDE。 （非详尽列表；仅用于演示。如有兴趣可阅读 此链接 (https://github.com/yasasbanukaofficial/claude-code)。）组 工具定义文件系统- 文件发现：glob、grep、ls- 文件读取：read、read\_many- 文件修改：write（整个新文件）；edit（字符串精确匹配替换）；multi\_edit；apply\_patch（应用结构化补丁/diff）Shell 执行运行命令：bash、PowerShell输入输出lsp，git 工具如 git\_status、git\_diff、git\_commit外部上下文MCP 工具、技能网络搜索web\_search、web\_fetch、浏览器工具工件读取文档、图片；生成 HTML、图片后台进程例如：CronCreate、CronDelete、CronList代理委托例如：spawn\_agent、resume\_agent、wait\_agent、list\_agents、close\_agent、interrupt\_agent 等。## Harness 层 vs 核心智能？ 很难预测未来的 RSI 在多大程度上依赖 Harness 工程，但 RSI 的近期路径很可能不会以模型直接重写权重为起点。我对实际近期路径的预测是：1. Harness 工程将朝着元方法论的方向发展（即改进获取更优答案的机制，而不仅仅是改进答案本身）。Harness 系统本身成为优化目标，启发式规则减少，通用机制增多。2. 反过来，成熟的 Harness 使得模型自我改进循环的自动研究成为可能，而更智能的模型则防止 Harness 过度工程化，保持系统可持续性。最终，许多 Harness 改进可能会被内化为核心模型行为，但与外部上下文和工具的接口应保持。我们已经看到了这种模式的较软版本，即提示工程 (https://lilianweng.github.io/posts/2023-03-15-prompt-engineering/)：随着指令微调和模型推理能力的提升，手动提示技巧变得不那么重要，但指定目标、约束、上下文和评估的需求并未消失。 ## Harness 优化 在 Harness 系统中所优化对象的演进大致为：指令 → 提示 (https://lilianweng.github.io/posts/2023-03-15-prompt-engineering/) → 结构化上下文 → 工作流 → Harness 代码 → 优化器代码。随着模型变得愈发智能和强大，我们朝着更复杂的目标和更通用的方法前进。 ## 上下文工程 简单地将所有工具响应和模型生成结果追加到上下文中，会随着代理任务周期的显著增加而迅速失控。上下文管理是一个层次，用于为 LLM 构建更结构化、更简洁的上下文，并管理持久化状态。毫无疑问，长上下文研究将持续取得进展，但目前长上下文智能与上下文工程有时相互交织。代理式上下文工程（Agentic Context Engineering，ACE；Zhang 等 2025 (https://arxiv.org/abs/2510.04618)）将上下文视为不断演化的行动手册，而非越来越长的提示。它由三个组件组成，维护一个由要点构成的上下文手册，每个要点包含标识符和描述。1. 生成器：生成任务轨迹，参考要点。2. 反思器：从成功和失败的轨迹中提炼见解。3. 策展器：以增量的、逐项的方式更新结构化上下文。代理式上下文工程（ACE）框架。（图片来源：Zhang 等 2025 (https://arxiv.org/abs/2510.04618)）为了防止在迭代重写过程中出现上下文崩溃和简洁性偏差，ACE 的一个关键设计选择是策展器不会重写整个提示文本块。相反，它以 (identifier, description) 的形式输出一系列结构化、逐条要点的项目，并通过确定性逻辑将这些要点合并到结构化上下文日志中。上下文项目会定期得到优化和去重。ACE 从执行中学习见解的事实帮助我们走向自我管理的记忆，但更新规则和整体工作流仍然是手工制作的。为了迈向更自我改进的循环，元上下文工程（Meta Context Engineering，MCE；Ye 等 2026 (https://arxiv.org/abs/2601.21557)）将机制（如何管理上下文）与工件内容（上下文中是什么）分离开来，在元优化层面运行技能演化，在基础层面运行上下文优化。一个 MCE 技能 s \in \mathcal{S} 定义了一个上下文函数 c_s=(\rho_s,F_s)，并将输入 x 映射到上下文 c = F_s(x;\rho_s)，其中：- \rho_s = \{\rho_1,\dots,\rho_m\} 是静态组件（提示、知识库、代码库）。- F_s = \{F_1,\dots,F_k\} 是动态算子（搜索、选择、过滤、格式化）。双层优化的目标是：在给定技能 s 的情况下，在训练数据上找到最佳上下文 c_s^*；而外层循环则寻找在验证集上提供最佳性能的最优技能： \text{内层：} c_s^*=\arg\max_{c_s}J_\text{train}(c_s;s) \quad \text{外层：} s^*=\arg\max_{s\in\mathcal{S}}J_\text{val}(c_s^*) 技能数据库跟踪先前技能、上下文函数和评估指标的历史 \mathcal{H}_{k-1} = \{(s_i,c_i,J_i^\text{train}, J_i^\text{val})\}_{i=1}^{k-1}。一个元层代理对先前的技能执行代理式交叉 (https://en.wikipedia.org/wiki/Crossover_(evolutionary_algorithm))，以基于任务 \tau 创建新技能：s_k=\text{crossover}(\tau,\mathcal{H}_{k-1})。然后一个基层上下文工程师执行技能 s_k，并根据当前技能从执行反馈 \mathcal{R}_k 中学习上下文函数：c_k=\text{engineer}(\tau,s_k;c_{k-1}^*,\mathcal{R}_k)。元上下文工程（MCE）框架：元层技能演化搜索上下文管理机制，而基层优化任务上下文。（图片来源：Ye 等 2026 (https://arxiv.org/abs/2601.21557)）MCE 并不像 ACE 那样强制执行用于组织上下文的启发式规则。它使用自由形式技能来存储任务最重要的知识，并迭代地共同演化技能和技能条件上下文。在实现上，上下文函数 c 被实例化为专用目录中的一组文件，包括静态（skill.md）和动态（上下文和数据执行）组件。元层和基层优化均在标准工具集的代理式编码环境中执行： \mathcal{T}=\{\texttt{Read},\texttt{Write},\texttt{Edit},\texttt{Bash},\texttt{Glob},\texttt{Grep},\texttt{TodoWrite}\} 元 Harness（Meta-Harness；Lee 等 2026 (https://arxiv.org/abs/2603.28052)）再深入一层：优化的对象是决定和优化哪些信息应被存储、检索并呈现给模型的代码。其名称中的“元”意味着它是用于优化 Harness 的 Harness。元 Harness 的外层循环优化算法。（图片来源：Lee 等 2026 (https://arxiv.org/abs/2603.28052)）用于创建新 Harness 的提议者本身就是一个编码代理，最终输出是 Pareto 前沿上的一系列 Harness 候选。- 整个执行历史可通过文件系统访问，因此编码代理使用 grep 或 cat 等命令来读取，而不是将所有内容塞进单个提示上下文中。- 提议的 Harness 是文件系统中的一个字典，包含其自身的源代码、分数、执行轨迹和状态更新。- 元 Harness 循环迭代地创建新 Harness，仅保留合格的 Harness。元 Harness 在（左）少量迭代的文本分类任务和（右）TerminalBench-2 上的性能表现。注意，TerminalBench-2 实验中的搜索是从两个非常强大的 Harness（Terminus-KIRA 和 Terminus-2）初始化的。（图片来源：Lee 等 2026 (htt