早在1996年，哲学家和认知科学家David Chalmers想知道RSI是否会成为进化的下一阶段——还是会像打开Pandora's box一样。
摘要
1996年，哲学家David Chalmers质疑递归自我改进（RSI）是否会推动人类进化，或成为AI的危险'Pandora's box'。
暂无内容
相似文章
你个人对RSI（递归自我改进）的预测是什么？现实一点。
一位用户询问对AI递归自我改进（RSI）的可能性和时间线的预测。
RSI 是奇点来临的时刻吗？
讨论 Google 和 Anthropic 的预测，即递归自我改进（RSI）可能在 2027-2028 年实现，并可能导致无法控制的人工智能奇点。
我对RSI的三点看法
Vadim Fedenko 分享了关于递归自我改进（RSI）的技术分析，认为真正的 RSI 需要能力的提升速度快于复杂度的增长，并且要拓展架构空间，而不仅仅是在固定参数内优化。他对 xAI 和 Anthropic 近期提出的 RSI 可能在一两年内到来的说法表示怀疑，理由是当前的大语言模型（LLM）缺乏减法工程能力，且现有的奖励函数忽视了复杂度。
@omarsar0: 这已经开始发生了。如果你相信RSI是可行的，为什么雄心勃勃的构建者不能建立自己的前沿实验室……
这篇帖子认为，随着递归自我改进变得可行，雄心勃勃的构建者可以创建自己的AI前沿实验室，而OpenAI和Anthropic的模型可能成为标准，而非垄断领导者。
RSI 未实现 [R]
一篇新论文认为，递归自我改进 (RSI) 并非迫在眉睫，因为当前的 AI 代理无法进行开放式的机器学习研究，这在针对 NeurIPS 论文的实验中得到证明。