@LotusDecoder:继续强烈推荐Claude于9月18日发布的博客文章——它基本上清晰地解释了Anthropic的RSI...

X AI KOLs Timeline 新闻

摘要

这篇文章推荐了Anthropic解释AI中递归自我改进的博客文章,详细描述了AI系统如何加速发展以及未来的潜在影响。

继续强烈推荐Claude于9月18日发布的博客文章——它基本上清晰地解释了Anthropic的RSI:- 内部如何实现 - 为何要这样做 - 已产生了哪些益处。这可能是近几个月来最重要的文章之一。
查看原文
查看缓存全文

缓存时间: 2026/09/27 11:22

继续强烈推荐Claude 9月18日的博客文章——它相当清晰地解释了Anthropic的递归自我改进(RSI):

  • 内部如何实施
  • 为何开展这项工作
  • 已取得哪些效益
    这可能是近期最重要的一篇文章之一。

当AI构建自身

来源:https://www.anthropic.com/institute/recursive-self-improvement
在人工智能发展的大部分历史中,人类一直主导着其开发周期的每一步。但在Anthropic,我们正将越来越多AI开发工作委托给AI系统自身完成,这正加速我们的工作效率。

若这一趋势持续发展,在足够的算力支持下,它将指向一个能够完全自主设计和开发自身后继系统的AI系统。这被称为递归自我改进。我们尚未达到这一阶段,递归自我改进也并非必然发生。但它可能比大多数机构预期的来得更早。

利用公开基准测试与Anthropic此前未公开的数据,Anthropic研究所(https://www.anthropic.com/institute)正展示AI已开始加速AI系统本身的开发。仅举一例:如今Anthropic工程师平均每季度交付的代码量是2021-2025年期间的8倍。

本文讨论的技术趋势表明,未来数年AI系统的能力将大幅提升。这些趋势具有深远影响。能够自我构建的AI将是科技史上的重大突破——这可能为科学、医疗等领域带来巨大福祉(https://www.darioamodei.com/essay/machines-of-loving-grace)。但完全的递归自我改进也可能加剧人类失去对AI系统控制的风险(https://www.darioamodei.com/essay/the-adolescence-of-technology)。如果系统能够完全构建自身后继者,我们保障安全、实施监控及引导行为的方式将变得愈发重要。

2021–2023
构建首个Claude
在Anthropic早期,工作模式与其他科技公司无异:人们在笔记本电脑上编写代码和文档。

2023–2025
聊天机器人
人们使用早期聊天机器人辅助流程中的部分环节,例如生成简短代码片段并将其复制到文本编辑器中。

2025–2026
编码代理
随着代理能力的提升,它们能够自主编写和编辑代码,有时是整个文件。

如今
自主代理
代理现已能自行运行代码,并将数小时的工作委派给其他代理。

20XX?
闭环系统
未来,代理可能发展到足以自主构建和训练模型。若此成为现实,未来版本的Claude或将由Claude自身持续改进。

外部证据

AI模型能力的提升速度正在加快。模型能够可靠自主完成任务的时长(https://metr.org/time-horizons/)大致每四个月翻一番,较之前每七个月翻番的趋势显著加速。2024年3月,Claude Opus 3能完成人类需耗时约四分钟的软件任务。一年后,Claude Sonnet 3.7可处理约一个半小时的任务。再过一年,Claude Opus 4.6已能完成12小时级别的任务¹。若此趋势持续,今年内或将能处理专业人员需数日完成的任务。到2027年,AI系统可能具备处理耗时数周任务的能力。

相同模式同样体现在编码与研究基准测试中。基准测试衡量模型在特定领域的表现,当模型表现接近100%时即视为“饱和”²。SWE-bench(https://www.swebench.com/)是一项真实的软件工程标准测试:它向模型提供实际开源代码库和真实缺陷报告,要求其编写能修复问题并通过项目自身测试的代码变更。两年内,模型得分已从个位数低段跃升至基准测试饱和水平。

CORE-Bench(https://arxiv.org/abs/2409.11363)测试模型是否能复现现有研究——这是开展原创研究的前提。该测试向AI模型提供已发表论文的代码和数据,要求其重新运行所有流程并确认能否复现论文结果。AI系统复现结果的成功率从2024年的约20%,在十五个月后达到基准测试饱和水平。运行长耗时任务能力评估基准的METR发现(https://x.com/METR_Evals/status/2052896621760004602),Claude Mythos Preview能持续工作“至少”16小时,处于“[METR]无需新任务即可测量范围的上限”。

公开基准测试虽能揭示这些系统的部分能力,但无法反映AI系统对加速AI开发本身的实际影响。为此,我们需要像Anthropic这样的AI企业提供的内部直接证据。

Anthropic内部证据

构建前沿模型需两类工作:一是工程实践:编写代码、搭建基础设施、监督模型训练;二是研究探索:决定实验方向、解读结果、规划后续尝试。

在工程与研究领域,情况具有相似性。工程方面,Claude能处理表述模糊的问题并自主找到解决方案;人类只需设定目标,无需再规定方法。研究方面,Claude在执行明确界定的实验时,已能达到甚至超越熟练人类的表现。然而在研究目标的自主决策能力上,Claude与人类仍存在显著差距。这正是当前AI与能自主设计后继系统的未来AI之间的关键差距。

Anthropic员工通常会随经验积累承担更开放、更重要的任务。初期他们执行他人明确指定的任务,例如:“导出按钮失效,请修复”。随着经验增长,他们会获得目标并自行设计方案,例如:“调查网络在高负载下变慢的原因”。最高级别的员工则负责决策团队应聚焦的问题:“下个季度团队应开发什么?”我们可以利用Anthropic内部数据观察Claude在处理这些不同类别任务上的进展。

**Claude编写了Anthropic相当比例的代码。**截至2026年5月,我们合并到Anthropic代码库的代码中,超过80%由Claude创作³。在2025年2月Claude Code发布研究预览版之前,这一比例仅为个位数。每位工程师的产出量变化也印证了这一趋势。2021-2024年间,每位工程师每日合并的代码行数保持稳定;2025年Claude开始直接运行代码(而不仅是建议工程师复制粘贴)后,该指标开始攀升;2026年模型能够自主进行长时间跨度工作时,增长斜率进一步增大。下图展示了这两个拐点:2026年第二季度,典型工程师每日合并代码量达到2024年的8倍⁴。这主要因为大部分代码由Claude编写,工程师负责指导与审核,而非亲自编写。

柱状图展示每位人员每季度贡献的代码量(2021年Q2至2026年Q2),标注了八款不同模型的发布时间:Claude 1、Claude 2、Claude 3、Claude 4、Claude Code、Claude Sonnet 4.5、Claude Opus 4.5、Claude Mythos Preview(内部访问)及Claude Mythos Preview。
需注意:代码行数是衡量数量而非质量的不完美指标,因此2026年第二季度“每位工程师每日代码行数增加8倍”的说法几乎肯定高估了实际生产力提升幅度。尽管如此,它仍表明加速趋势的存在。在Anthropic,我们并不按代码行数论功行赏;团队成员产出更多代码,只是因为他们使用AI系统编写了更多代码。

代码量的增长与员工对生产力大幅提升的主观感受相符。2026年3月对Anthropic研究团队130名员工的调查显示,受访者中位数估算:在使用Mythos Preview时,其常规项目的产出约是没有AI辅助时的4倍⁵。我们预计3月的实际提升幅度略低⁶。尽管如此,我们认为这一总体判断合理,且与其它观察一致:相当比例的Anthropic技术人员在AI辅助下完成核心工作的速度,较无AI时提升了数倍。

我们还发现证据表明,Anthropic员工正使用Claude完成许多原本不会进行的工作,例如构建探索性工具和处理长期积压的清理任务。例如,2026年4月,Claude交付了超过800个修复,将某类API错误降低了三个数量级。负责监督的工程师估计,人类完成此工作需耗时四年——解决他人代码中的缺陷缓慢而艰巨,人类难以同时处理如此庞大的陌生上下文。

我大约一年前开始深度应用Claude化开发。这趟旅程非常疯狂,至今已约5个月未亲自编写任何代码。

Anthropic员工*

Claude编写的代码质量“良好”且持续提升。“良好代码”包含两层含义:能正常运行,且结构清晰可供他人理解与扩展。在第一个标准上,证据明确:过去一年,Anthropic员工对Claude输出进行纠正、调整或中途接管的频率持续下降,即使面对最复杂和开放的任务。这意味着对于目标不明确的难题(工程师不确定答案形态),Claude的适用性不断提高。下图展示了不同难度任务的成功率变化趋势——Claude编写的代码确实能运行。

折线图显示Claude Code会话在四类任务(琐碎任务、常规任务、重要任务、开放式问题)上的成功率,涉及六款模型:Claude Sonnet 4.5、Claude Opus 4.5、Claude Opus 4.6、Mythos Preview(内部访问)、Mythos Preview、Claude Opus 4.7。***图表解读说明:*会话成功与否由Claude判定;若Claude Code代理无需修正即明确完成用户任务,则视为成功。工作负载变化可能导致成功率短期波动。
在最开放的任务中,Claude的成功率于2026年5月达到76%,六个月内提升50个百分点。此类难度的典型任务示例如下:某次常规升级导致数万训练任务崩溃。工程师仅向Claude提供基本文本描述和集群访问权限,让其处理线上事故。Claude通过分析运行中的任务、逐一测试环境设置,最终隔离出导致崩溃的冷门调试标志,稳定复现问题并确认修复方案。约两小时内,Claude完成了通常需两到三天的工作量。

第二个标准是编写可供他人理解和扩展的代码。人类与AI在此方面仍存在差距,但差距正在快速缩小。虽然Anthropic内部尚未形成完全共识,但许多员工认为,2025年末Claude编写的代码质量仍劣于人类代码,目前已达到基本持平水平。我们预计年内Claude代码质量将反超人类。

这也改变了Anthropic的代码审查流程。现在所有代码变更提交前,都会经过自动化Claude审查器的检查,以识别缺陷、安全漏洞等问题。通过该工具的回溯分析发现,若过去所有claude.ai(http://claude.ai/)的代码变更均经Claude审查,约三分之一导致生产事故的本可避免。编写这些代码的工程师本已是构建系统的顶尖人才,而Claude如今能捕捉到他们遗漏的错误。

2025年末Claude编写的代码质量略低于Anthropic人类代码,目前已基本持平,预计年内将明确超越人类。

**Claude擅长执行他人设定的实验目标。**每次Anthropic发布模型前,我们都会进行相同测试:向Claude提供训练小型AI模型的代码,要求其在保证正确性检验通过的前提下,将代码运行速度优化到极致。目标和成功标准预先固定,Claude的工作是通过重写代码、运行、计时、重复来寻找加速方案。这是实验研究循环的微型实践。2025年5月,Claude Opus 4(https://www-cdn.anthropic.com/6d8a8055020700718b0c49369f60816ba2a7c285.pdf)平均实现约3倍加速。到2026年4月,Claude Mythos Preview(https://www-cdn.anthropic.com/8b8380204f74670be75e81c820ca8dda846ab289.pdf)已达到约52倍。作为参照,熟练人类研究员需四至八小时才能达到4倍加速⁷。在这个清晰界定的实验优化环节,Claude在一年内从“极具助益”跃升至“超越人类”。

当前的工作模式大致是:‘人类提出想法,模型能以[数量级]更快的速度实现、测试和评估这些想法。’

**Claude提出自主实验的能力正在增强。**2026年4月,Anthropic发布了首次Claude独立完成开放式研究项目的示范(https://alignment.anthropic.com/2026/automated-w2s-researcher/)。Claude驱动的代理被赋予一个AI安全领域的开放问题——大致为:较弱的模型能否可靠监督更强的模型?——并被留待自主解决。这包括提出假设、进行测试、与并行代理分享发现、反复迭代。该任务存在明确的性能“底线”和“天花板”:底线是弱监督器独立工作的表现;天花板是强模型在正确答案上训练后的表现。两名人类研究员耗时约一周,弥合约23%的差距;而代理在累计800小时、约18000美元算力消耗下,弥合了97%的差距。该工作存在局限:结果未能直接迁移至生产规模模型,且人类仍负责问题选择与评分标准制定。但在此边界内,代理自主设计了所有实验。设定方向是人类唯一参与的关键环节。

Claude在1-2天内几乎完全自主完成了这一切,我仅提供极少帮助。我认为如果[初级同事]在相同时间内向我提交类似成果,我会感到些许惊喜。未来已至。

**Claude正更善于引导研究会话得出研究发现。**我们分析了2026年1-3月间真实的Claude Code会话——当时Anthropic研究人员正与Claude协作解决开放式探索性问题,如查明训练任务持续崩溃的原因或模型在基准测试中得分低下的缘由。在每个案例中,我们发现

相似文章

@Jackywine: 今天 Anthropic 这篇文章,被所有人转发了 https://anthropic.com/institute/recursive-self-improvement… 但是只有真正去官网看的人才会体会到,这段动画的“恐怖感” 递归开始了

X AI KOLs Timeline

Anthropic's research article details the accelerating trend of AI systems taking over more of their own development, pointing toward recursive self-improvement. The article presents evidence and implications of AI's growing autonomy in software engineering and model training.

当AI自我构建:我们在递归自我改进方面的进展

Hacker News Top

Anthropic研究院发布了一项关于递归自我改进进展的分析报告,显示AI已在加速AI开发——工程师每季度的代码产出提升了8倍——并预测具备完全自主自我改进能力的AI系统或将比大多数机构所预期的更早到来。