研究加速：OpenAI 内部视角

# 研究加速：OpenAI内部视角 来源：https://openai.com/index/research-acceleration-view-inside-openai/ 为了让AGI惠及全人类，我们认为它必须接受民主治理。这只能通过公众就高能力AI系统的能力、风险与安全保障进行充分知情的辩论来实现。世界各地的人们都需要了解前沿AI可能的未来轨迹，以便在AI的发展过程中拥有有意义的发言权。 对具体风险、事件和安全保障的透明度是必要的，但还不够。我们认为公众还需要了解前沿实验室内部最强系统的发展状况，以及它们如何推动研究进步。 我们的目标是在人类监督下安全地构建一个自动化AI研究员，以推进深度学习和对齐（alignment）领域的进步，实现迭代改进。根据我们的测算，我们已经实现了去年秋天宣布的目标——在今年9月前拥有一个自动化研究实习生。所谓“研究实习生”，指的是一个能在人类指导下执行明确研究任务的系统，包括那些需要熟练研究员花费数天才能完成的任务。我们正朝着在2028年3月前创建自动化AI研究员的目标稳步迈进。 今年，OpenAI研究人员的日常工作发生了重大变化。研究人员全天都在使用编程智能体（通常以并发会话的形式），总使用量正在迅速增长，增速超过了OpenAI其他团队。研究人员提交代码的速度更快，运行的实验也更多。研究人员使用智能体的方式也在变化：智能体正在处理越来越复杂的任务，并且成功率越来越高。AI研究是一个有许多潜在瓶颈的复杂过程，因此整体进步速度可能无法与这些具体指标同步。但总体而言，这些发现与我们内部许多人的总体印象一致，即智能体工具正在切实加速研究进展。研究优先级仍由人类设定，判断哪些想法和结果值得跟进，并决定是否扩大规模、暂停或部署系统。 如果负责任地进行，我们相信自动化AI研究将产生能够直接增进人类福祉并推动OpenAI使命的模型。它可以降低先进智能的成本，让全世界人民受益。我们推进这项工作，部分原因是自动化研究可以帮助我们解决对齐问题，并构建防御措施以应对能力日益增强的AI。自动化AI研究员也可以成为自动化的安全或对齐研究员。更强大且对齐的系统可以帮助保护关键基础设施，防御危险的AI智能体，并开发新的保护措施。 这些是开发有用自动化研究能力的理由，但这并不意味着我们应该追求快速的RSI（递归自我改进）。是否以及如何推进，必须取决于我们保持人类控制的能力，以及公众在充分知情的前提下对收益与风险做出的民主选择。 我们尚不知道如何安全地实现完全对齐的完整RSI。我们正努力在扩展能力的同时扩大对齐和安全措施的规模。但我们不能假设对齐和安全的进步会同步跟上，能力更强的系统可能变得更难监控。谨慎的对齐和安全工作是这一努力的核心，它始于衡量和缓解我们在当前智能体编码系统中看到的安全问题。每当我们发现继续推进会带来不可接受的安全风险时，我们将做出适当回应，包括放慢或停止那些我们无法充分保障安全的系统的开发或部署。 在最近的Hugging Face事件之后，我们将这一承诺付诸行动，暂停了针对最新部署模型的强化学习（RL）训练，同时进一步加固并对研究环境进行红队测试，还扩大了监控系统的覆盖范围。这并未停止所有研究：部分工作负载在更强控制下恢复运行，而其他部分仍处于暂停状态。我们提高了安全与对齐标准，将安全工作更深入地融入模型生命周期，要求在整个训练过程中提供更强有力的对齐行为证据。 今天，我们将提供一份详细快照，展示智能体系统在近几个月如何推动了我们在RSI方面的进展。智能体系统是新事物且变化迅速，我们的测量工作仍处于初步阶段。通过分享这些早期结果及其背后的方法，我们旨在让公众知情，鼓励公开披露成为常态，并帮助该领域朝着共享的测量标准迈进。 最终，正如我们在前沿政策蓝图中所写，我们认为应该要求OpenAI及其他公司公开追踪我们在RSI方面的进展。即使没有这样的要求，我们也计划继续对RSI进展保持透明。随着测量技术和理解的提升，我们将不断完善透明度的做法，同时兼顾保护安全和专有信息的需要。 ## 1. 编程智能体正在重塑OpenAI研究人员的日常工作 今年年初，在OpenAI按智能体使用量排名的研究人员中，中位数用户仅少量使用编程智能体。到8月中旬，中位数研究人员已将智能体日常融入工作，按API价格计算，每日推理费用超过600美元。研究组织中第90百分位的用户现在每天使用超过7000美元的token。 在2026年6月之前，整个研究组织的智能体总运行时间仍低于人类总劳动时间。此后情况已发生变化。按照标准8小时工作日计算，截至8月中旬，研究组织总体上每1个人类劳动工作日就投入3.1个智能体工作日。 另一种看待此问题的方式是了解有多少研究人员使用高度并发的工作流（例如同时运行4个或更多智能体）。如下所示，这一数字正在增长。这些数据包括用户直接启动的智能体以及由用户直接启动的智能体下游创建的子智能体的每日峰值。 ## 2. 研究人员正在编写更多代码并运行更多实验 AI研究在很大程度上可以被视为一个劳动密集型过程，目标是将模型智能或性能的新改进整合进我们的某个核心模型。这一过程依赖于许多步骤，只有当所有步骤都协同配合时，能力才会进步：研究人员必须设计新的改进方案，编写评估来判断模型性能，编写基础设施以大规模测试这些改进，在训练过程中捕捉bug以及不安全或不对齐的行为，并将成功的想法整合进核心训练运行中。研究过程中任何一环的失败都可能制约整个循环。 编写代码和运行实验是研究人员工作中的两项主要活动，我们有证据表明这些流程正在加速。 这些数据点相对容易衡量，但可能难以解读。随着自动化的推进，最难自动化的任务将占据研究人员精力的更大比例，并成为未来进展的重要瓶颈。算力是进展的另一个门槛因素，随着其他瓶颈的减少，算力可能随时间变得更重要。 整个2026年，每位活跃实验者的实验数量有所增加，其中2026年8月创下自2025年1月开始追踪以来的历史新高。这与Codex使用量的增加相关，不过我们注意到，自2025年以来，我们可用的算力也大幅增长了。 ## 3. 研究人员使用智能体完成的工作正在发生变化 定性印象和内部数据均表明，研究人员委托给编程智能体的任务组合正在变化，随着时间推移，更高级别和更长周期的任务委托正变得越来越普遍。 为了更清晰地了解这一趋势，我们使用Epoch AI最近发布的一个分类法分析了研究组织中的近期使用情况，该分类法涵盖了AI研发生命周期中不同类型的工作。这个分类法借鉴了长期存在的O*NET工作分类系统，专门面向前沿AI研发，将流程分解为六个主要阶段： 1. 决策：做什么、继续做什么、资源分配到哪里 2. 设计：研究思路和工程规范 3. 构建：代码和数据集 4. 运行：训练/评估运行、硬件、服务 5. 分析：实验、模型、部署、外部工作 6. 沟通：发现、反馈、状态、决策 下面，我们根据该分类法对编程智能体的token进行分类。 我们看到，2026年1月至8月间，所有类别的研究活动都有所增加。1月份，主导类别是研究与基础设施代码。这一类别的规模已经扩大，但我们还看到其他类别显著增加，尤其是技术支持和监控运行。高级规划在智能体输出token中仍占极小比例。 据同事反映，编程智能体在排查内部研究基础设施故障方面表现出色，这解决了研究进展中的一个重要瓶颈。多个此前定期举办答疑时段以帮助研究人员排查实验问题的团队注意到，2026年的出席率有所下降，其中一个团队已完全停止举办此类活动，转而专注于进行其他系统改进。 在此，我们绘制了研究人员向主要内部渠道之一寻求其他团队技术支持时每日顶层帖子的数量。据我们所知，该渠道活动的减少并未因查询转向另一个人工运营的技术支持渠道而得到抵消。流量的下降与这一更广泛的转变相吻合。 我们还可以研究编程智能体是否在研究人员要求的任务上取得了成功。使用智能体分类器，我们发现从1月到7月，在我们能找到真实结果基准的任务中，几个难度层级（以人类完成该任务所需时间的估计值代理）的成功率普遍提高。然而，智能体仍然需要大量的人类引导才能成功，尤其是在任务复杂度上升时。在过去6个月中，超过一半成功的4-8小时任务涉及1次或多次人工干预。 研究人员任务的成功率随时间提高。图表排除了结果不确定的分类，以及会话数<50或独立用户数<50的数据点。 1月至7月按时间跨度划分的任务成功率和干预率