警惕下一次大规模预训练

Reddit r/singularity 新闻
ai pre-training superhuman speculation compute recursive-improvement

摘要

推测性文章：下一次大规模预训练可能在12-14个月内产生超人类AI，进而引发递归式自我改进。

如果Open AI（以及Anthropic/Grok/Meta/Deepmind内部正在研发的模型）的内部模型如展示的那样优秀……那么下一次大规模预训练（计算量增加2-3倍）可能会产生一个具有超人类结果的模型。也许我们将解开数学/物理学中的开放问题，并开启递归式自我改进循环……从主要计算集群上线的时间来看（那些大型集群），恰好距离现在12-14个月（为优化预训练/后训练/脚手架等留出了足够时间）。AI-2027可能会有所不同。它可能比预期的更具指数性。从在狭窄领域略胜一筹/略逊于顶尖研究人员（当前内部模型）→在最重要的逻辑领域（数学/物理/计算机科学/科学等）超越顶尖研究人员/团队。然后循环开始。我真的认为就是如此。现在有人有同感吗？感觉和以前不一样了。
查看原文

相似文章

An Alien Mind

Hacker News Top

OpenAI researchers reflect on the rapid scaling of reasoning models and warn that AI systems are likely to achieve recursive self-improvement within years, calling for extreme caution and broader interventions beyond technical solutions.