深入前沿实验室:首批 AGI 组织(阅读约 12 分钟)

TLDR AI 新闻

摘要

深入了解 OpenAI、Anthropic 等前沿实验室如何围绕 AI 智能体重组组织架构——由智能体执行大部分研究工作,人类负责指明方向并验证结果;已有证据表明,面向 AGI 的这些组织内部,递归式自我改进早已在稳步推进。

前沿实验室正在围绕智能体重构组织方式:由智能体执行研究工作,人类则负责选择方向并验证结果。
查看原文
查看缓存全文

缓存时间: 2026/11/02 15:16

前沿实验室内部:首个 AGI 组织

前沿实验室里越来越多的研究人员,如今每天开工时只向自己的 agent 提一个问题:我今天该做什么?

过去他们亲自跑的大部分测试,如今都交给了 agent。只有在 agent 卡住时他才会介入,比如批准一个 PR 或者推动另一个团队配合。

这就是从内部观察到的递归自我改进(RSI):模型在帮助构建下一代模型。我一直在和前沿实验室的研究员朋友交流,最大的收获是:RSI 在这些公司内部已经走得相当远。随着模型变强,实验室围绕 AI 的工作方式重建了自己的组织、上下文和基础设施。互联网时代的公司从来不是这样搭建的。

我对“AGI 组织“的检验标准是:它构建出来的东西是否直接回流,用于构建它的下一个版本?一家保险公司可以用 AI 更快地处理理赔,但处理理赔的 AI 永远不会帮它构建更好的 AI。目前几乎只有前沿实验室通过这项检验,所以下一类公司正在这里成形。

研究人员如今负责判断和验证

研究人员几乎不写代码了。他们的时间花在把工作交给 agent,以及审查 agent 交回来的成果上。

在 OpenAI 的研究部门,截至 8 月中旬,每个人类工作日对应 3.1 个 agent 工作日。在 6 月之前,agent 的总运行时间还低于人类工作时间。在 Anthropic,截至 5 月,按代码行数计算,合入代码库的代码中有超过 80% 是 Claude 写的。

OpenAI 研究员 Zuxin Liu(@LiuZuxin)9 月发文称,他两个月前就已停止手写代码。他的工作台现在是 Codex 和 Slack:同时跟踪多个 agent,判断哪些方向值得投入更多精力。roon(@tszzl)描述说,研究人员把一个高层级的算法想法交给 GPT-5.5,醒来时就能看到一个完成的扫描仪表盘和样本,期间没有人碰过代码或终端。中国一家实验室的后训练研究员告诉我们,他通过飞书把工作发给 agent,并估计自己 90% 的工作可以用手机完成。

过去,一个研究想法要经过研究员亲自实现、调试、运行,才能变成结果。如今这些步骤可以并行推进。

一位 Anthropic 员工描述了另一面。一切顺利时,机器做得更快也更好。一旦出了问题,你会意识到自己完全不知道这期间发生了什么。亲手构建也是你理解系统的方式。一旦把执行交出去,理解 AI 究竟做了什么就成了新的瓶颈。

我的判断:研究人员如今最有价值的技能,是决定哪些问题重要,以及知道如何善用 agent。

AI 如今主导了大部分研究循环

从数据到预训练、后训练和部署,agent 现在承担了大部分执行工作。

Karpathy(@karpathy)让一个 agent 以 autoresearch 为循环跑他的 nanochat 实验:阅读上次的结果,修改代码,如果验证损失改善就保留改动。大约两天内它尝试了约 700 次改动,找到约 20 个在更大模型上仍然成立的方案。DeepSeek 的 Deli Chen(@victor207755822)在几乎没有监督的情况下,连续六天对 DeepSeek-V4 跑真实的强化学习实验。z.ai 的 Infra Agent 在不到两周内完成了在超过 10 万张中国加速器上部署 GLM-5.3-Flash 的大部分工作。

Google 的一位研究员说,只要你把想法写清楚,模型就能实现并测试它。难点在于找到真正有效的想法,以及验证提升是否真实。 在 Anthropic 的自动化弱到强研究中,9 个 agent 在小模型实验中超越了人类基线。当最好的想法迁移到生产基础设施上的 Sonnet 4.0 时,只获得了 0.5 分的提升,处于噪声范围内。

这是单个研究员。他们周围的公司也需要重新设计,有三个层面:组织、上下文和基础设施。

组织:构建能力不再决定分工

产品和设计团队不再把每个想法都丢给工程师。他们自己构建原型、运行评测、调整产品,也能更早判断模型下一步需要什么能力。

领导 Claude Code 的 Boris Cherny(@bcherny)说,他团队里的工程、产品、设计和数据科学正在融合为一个角色。Claude Code 的产品负责人 Cat Wu(@_catwu)描述说,设计师在交付代码,工程师在做产品决策,产品经理在构建原型和评测。

以那个为 Claude.ai 撰写问候语的团队为例——“你好,夜猫子“这类文案。2026 年春,他们构建了一个上下文图谱,让 agent 也能撰写这些文案,随后转向为 Claude 编写评测和提示词。过去他们思考的是用什么措辞打动用户,现在思考的是如何用措辞引导 Claude。

研究和产品仍需共同决定模型接下来学什么。在 Anthropic,模型研究员和推理基础设施工程师共享规划周期、汇报线和绩效目标,因此模型架构和 serving 系统从第一天起就是协同设计的。Claude Code 是按照团队对下一代模型 agentic coding 能力的预期构建的,所以每个新模型发布当天就能在产品中使用。

更松散的边界带来了新的摩擦。有了 agent,每个人可以承担多得多的工作,在好几家实验室内部,人们开始争夺原本属于其他团队的工作。

所以一家公司能否实现 RSI,组织本身是否是 AI 原生的至关重要。 无论模型多强,如果组织不是从第一天起就按 AGI 组织来搭建,模型的能力就不会体现在工作成果中。

上下文:让 agent 看到公司知道的一切

据我们了解,Claude Tag 在 Anthropic 内部用起来像魔法一样。同事们请求的很多事情,它直接就做了。它能看到公司的全部上下文:如果有同事掌握某个企业客户的背景,或者有人已经解决过类似问题,它能找到。拥有全部背景信息时,它有时能给出比人更好的答案。

但它只在 Anthropic 内部才有这么神奇。

大多数公司无法获得这种体验。它们的上下文分散在聊天工具、各种应用和几十个群聊里。在一个项目上,背景信息分散在几个人手里,agent 只能看到一个切片,无法像在 Anthropic 那样提供帮助。我们聊过的团队也这么说。

两边的模型水平其实差不多。区别在于 agent 能看到多少。 在 Anthropic,上下文基本上是共享的,决策按设计就是书面记录的,所以 agent 能看到全貌,才能真正帮上忙。大多数公司从未为 agent 设计过这样的东西。

每天三万次合并:为 AI 而建的基础设施

一家公司的 IT 基础设施过去是为人设计的。在前沿实验室,问题变成了 AI 如何获得权限、AI 如何发布代码、AI 需要什么资源。DeepSeek 新建的平台和数据系统同样是围绕 agent 的使用方式设计的。

权限。Anthropic 发现 Claude Code 用户批准了 93% 的权限提示,因此逐个批准已经失去了意义。他们从观察 agent 在做什么,转向限制 agent 能做什么:默认使用沙箱,并为风险更高的动作配备分类器。

发布代码。Anthropic 首先面对的是体量问题。每日合并的变更量从 5 月的约 2500 个增长到 9 月的超过 30000 个,七名与 Claude 协作的工程师为这些永远在线、按需拉取代码的 agent 重建了源代码控制系统。

合并代码。Claude Code 团队按风险分级审批,因此大多数 PR 最多只需一名人类参与,而这个人也可以就是作者。agent 的批准永远不能替代人类的批准。

自动审查也带来了自己的问题。在一个 PR 中,写代码的 agent 和审查代码的 agent 整晚来回交锋超过 50 次,直到作者叫停。Claude Code 团队里没有人了解 Claude Code 运作的每个细节,他们也不认为有人需要知道。

前沿实验室的经济学已经变了

Anthropic 内部使用 Claude(按 API 价格计费)的支出,从 1 月到 9 月增长了超过 250 倍。4 月,这一支出首次超过了当月的人力成本(不含股权激励)。8 月中旬,OpenAI 研究人员按 API 价格计算的每日推理使用量中位数超过 600 美元,90 分位超过 7000 美元。头衔相同的两个人,调配的算力可以相差十倍以上。

十倍的 token 不意味着十倍的产出。Jellyfish 分析了 7548 名工程师。按 token 使用量排名前 20% 的人合并的 PR 约是后 20% 的两倍,但成本大约是十倍。Meta 和 Amazon 都曾下架内部 token 排行榜,因为有人为了上榜跑无意义任务的 agent。

所以招聘比以往任何时候都更重要,面试和绩效评估需要一个新的问题:这个人能用 AI 拿到结果吗?Google DeepMind 的 AGI 安全团队允许候选人在每一项工程面试中使用编码 agent,Meta 现在也在绩效评估中衡量“AI 驱动的影响力“。Gergely Orosz(@GergelyOrosz)在科技行业看到了同样的分化:享受自主的人在重新发明他们与 AI 协作的方式,而习惯被安排工作的人则感到沮丧,怨气越来越重。

研究 agent 和客户使用的是同一池算力,这是实验室最大的成本开支。花在客户身上的算力换来的是今天的收入;给研究的算力是对下一个模型的押注。据其 S-1 文件,Anthropic 第三季度超过 80% 的收入来自此前六个月内发布的模型。研究能获得多少算力,决定了接下来有什么模型可卖。

如今评估这些公司意味着要问:每个人能调度多少算力,每单位算力带来多少收入。作为投资者,我们认为在投资 AI 公司时,组织越来越重要,因为它决定了 RSI 能否在其内部发生。

AGI 组织只能存在于前沿实验室内部吗?

前沿实验室的不同之处在于,它们的产品直接回流到自身的制造过程中。一代模型编写训练代码、生成数据、搜索算法、调优基础设施。如果这些工作进入下一代模型,更强的模型就会回来做更多研究,实验室也就更擅长构建更好的 AI。

其他公司可以复制组织设计、管理方式和算力分配,但对它们来说,AI 主要提升的是效率。一家银行的业务不是 AI,所以它用 AI 构建的东西永远不会回流,帮它构建更好的 AI。

在围绕 AI 设计公司方面,中国实验室远落后于美国实验室。中国的研究员也在用 agent,其中很多跑在美国的模型上。这让个人更快,但构不成循环。没有 Claude 级别的模型,人们很少能体验到 AI 真正完成工作的那一刻。如果你自己的模型不能像员工一样工作,它就不能用于你自己的研究,公司也就没有理由围绕 AI 重组。

前沿实验室之外也会出现 AGI 组织。它们可能不训练模型,但它们的上下文从第一天起就是为 agent 设计的,所以 agent 一加入就能看到一切。

多人游戏公司 Spawn 提供了一个早期范例。其创始人 Jacob Sansbury(@jsnnsa)10 月下旬写道,公司大约十人,上个月在 token 上花费约 310 万美元,大约是其工资支出的 30 倍。agent 编写了大部分代码,每小时都在发布。到 10 月,唯一还等人类拍板的就是品味问题,某个早上积压了 700 个这样的问题。团队把两年来的通话和聊天记录提炼成原则,并据此构建了 AI 评委。八天内,这些评委裁决了超过 11000 个问题,Jacob 亲自拍板了 27 次。这些是创始人提供的数字,未经独立核实。

我认为 agent 会不断向上渗透到组织架构中。在《The future of the firm》(10 月 28 日,代表他们个人观点而非 OpenAI)一文中,OpenAI 的 Hemanth Asirvatham 和 Elliott Mokski 指出 AI 进入公司的三个位置:在我们之下,作为每个人下面的一层;在我们身旁,像同事一样接管团队工作的一部分;以及在我们之间,阅读公司的 Slack、文档和代码,为高管呈现问题。研究员的 agent 分身处于“之下“。Spawn 的 agent 接近“身旁“,其 AI 评委触及了“之间“的边缘。我们认同他们的观点:一家公司必须学会使用工具,而优秀的劳动力会学会适应公司。每上一个台阶都需要更多权限和更多上下文,所以一家公司能走多远,取决于这些是否是为 agent 设计的。

美国实验室的循环能走多远,取决于模型能否持续产出有效的研究。上面那个 0.5 分的结果表明它仍然非常脆弱。研究人员对让 AI 提出假设和新想法仍持谨慎态度。目前,人类选择方向,AI 负责执行。说实话,我们大约能看到三个月以后。再往后,我们不知道。

相似文章

是时候调查AI实验室了

Lobsters Hottest

本文呼吁国会公开调查OpenAI和Anthropic等前沿AI实验室的做法与理念,指出其近期引发争议的行为以及可能对社会构成的风险。

OpenAI Frontier 介绍

OpenAI Blog

# OpenAI Frontier 介绍 来源:[https://openai.com/index/introducing-openai-frontier/](https://openai.com/index/introducing-openai-frontier/) AI 让团队能够承担他们过去只谈论但从未执行的事情。事实上,75% 的企业员工表示 AI 帮助他们完成了以前无法完成的任务。我们听到来自各个部门的反馈,而不仅仅是技术团队。工作的方式已经改变,企业开始感受到巨大变化。我们已经看到这在行动中 w

为 AGI 及其未来做好准备

OpenAI Blog

OpenAI 阐述了为 AGI 做准备的战略,强调通过真实世界反馈循环进行渐进式部署,随着系统接近 AGI 能力而提高谨慎程度,以及开发更好的对齐技术以确保 AI 系统保持可控和安全。