@AnthropicAI: 这一切都不能保证递归自我改进即将到来。目前还不清楚Claude是否具备研究能力……
摘要
Anthropic讨论了AI系统设计自身后继者的可能性，指出Claude可能接近研究级别的判断能力，并宣布成立Anthropic Institute研究日益强大、可能自我改进的AI系统的影响。
这一切都不能保证递归自我改进即将到来。目前还不清楚Claude是否具备研究判断能力——即选择正确问题进行研究的能力。但如果这些趋势持续下去，AI系统设计和构建自身后继者是有可能的。这可能会以更好的方式彻底改变社会——医学、技术、经济。但也可能加剧对齐问题，最终导致失控。Anthropic Institute（与外部利益相关者合作）将进行研究，思考日益强大、可能自我改进的系统的影响——以及如何让世界有能力对未来技术发展做出深思熟虑的选择。阅读完整文章：
相似文章
Anthropic - 我们的内部数据显示，Claude正在加速AI开发——这可能是一条通往递归自我改进的道路，或者AI自主构建一个更强大的后继者。
Anthropic报告的内部数据表明，Claude正在加速AI开发，从而带来了递归自我改进或AI自主构建更强大后继者的可能性。
当AI自我构建：我们在递归自我改进方面的进展
Anthropic研究院发布了一项关于递归自我改进进展的分析报告，显示AI已在加速AI开发——工程师每季度的代码产出提升了8倍——并预测具备完全自主自我改进能力的AI系统或将比大多数机构所预期的更早到来。
Anthropic警告自我改进的AI，支持前沿AI暂停，称Claude编写了公司80%的代码
Anthropic警告称AI正在加速AI开发（递归自我改进），并支持协调暂停，透露Claude目前编写了其生产代码的80%以上。
Anthropic研究人员首次展示了自我改进AI的潜力
Anthropic研究人员发表了一篇论文，介绍了一种自动化系统，该系统能够通过使用其他AI模型训练模型来可靠地提高AI对齐性，显示出在递归自我改进方面的潜力，并在某些场景中超越了人类研究人员。
人工智能的递归自我改进可能不会那么快到来
一项新研究发现，人工智能代理缺乏进行开放式研究的判断力和创造力，这表明人工智能的递归自我改进可能比宣传的更需要时间。