标签
本文提出广义代理迭代（GAI）作为一个形式框架，统一了迭代策略改进和递归自我改进，将代理定义为可修改组件，并根据外部评估和内部改进区分不同案例。
1996年，哲学家David Chalmers质疑递归自我改进（RSI）是否会推动人类进化，或成为AI的危险'Pandora's box'。
一篇新论文认为，递归自我改进 (RSI) 并非迫在眉睫，因为当前的 AI 代理无法进行开放式的机器学习研究，这在针对 NeurIPS 论文的实验中得到证明。
这篇由中国机构发表的预印本论文，为递归自我改进（RSI）提供了一个开源路线图，详细阐述了定义、实现方法以及衡量指标，旨在推动AI发展。
一篇文章提出了一个反问：人类是否已经跨越了实现通用人工智能（AGI）的事件视界，并暗示进一步的进步可能是不可避免的。
RSIAgent 是一个无需训练的多智能体框架，它使数字智能体能够通过递归自我改进、自主记忆构建和广度优先然后深度优先的探索来适应新环境，在基准测试中优于闭源模型。
Dream-RSI 是一个用于AI代理的可扩展递归自我改进框架，它利用历史发现树创建重放模拟器，用于离线策略评估，减少在线成本并提高发现效率。
智谱宣布完成50亿美元融资，将用于开发下一代GLM模型及递归自我改进（RSI）技术，与OpenAI和Google DeepMind的行业趋势保持一致。
作者认为，当前的人工智能模型可以解决狭窄定义的任务，并推测通过迭代改进可能解决大型语言模型的瓶颈，从而可能通过递归自我改进实现通用人工智能。
据内部消息来源称，DeepMind已实现递归自我改进(RSI)，这引发了关于其范围的疑问——它是否仅仅是DevOps管理，还是更深层次的进步。
The tweet discusses why Recursive Self-Improvement in AI cannot proceed rapidly due to stability constraints derived from control theory, highlighting that safe self-improvement requires slow, bounded adaptation.
Dario Amodei的文章讨论了AI中的递归自我改进，并呼吁通过限制训练计算和内部AI使用等资源来减缓发展。
Dario Amodei 表示，递归自我改进正在整个AI行业中发生，并预测在6-12个月内，AI群体可能能够接管整个互联网。
OpenAI和Anthropic的研究人员正增加对AI灭绝风险的警告，并因对递归自我改进和潜在灾难性后果的担忧，呼吁放缓发展步伐。
达里奥·阿莫迪主张放慢AI能力发展的速度，以应对风险并确保安全，强调需要使技术进步与风险防范工作保持同步。
AI研究人员辩论递归自我改进的可行性和时间线，讨论自动化AI研究人员、强化学习以及向AGI的进展。
AI研究人员日益担忧，先进的AI通过递归自我改进，可能对人类构成生存风险，导致一些人从大型实验室辞职以强调这些危险。
Jacob Coxon，前 Anthropic 和 OpenAI 研究员，在 NBC News 上讨论了 AI 中递归自我改进的危险，警告它可能失控并强调需要透明度。
这条推文讨论了美国AI实验室在开发中领先的优势，因为他们能够警告风险，与可能保持沉默的中国实验室形成对比，并提出了对递归自我改进AI未解决危险的担忧。
一名离职的 Anthropic 研究员警告称，AI 开发者相信人工智能可能在本十年末导致人类灭绝，并引用了快速进展、自主能力和缺乏安全计划作为原因。