近期人工智能的改进主要来自哪里？
摘要
讨论近期AI进步的来源，指出后训练、微调和强化学习已成为关键，并询问超越规模扩展的未来方向。
我理解在2023年初，主要依靠规模扩展，即基于训练数据、参数和算力的提升。随后是MOE（混合专家模型）。最近的更新则得益于后训练和微调，以及前沿AI系统的奖励模型策略和强化学习。但即使如此，它们也终将达到极限。AI是否有持续改进的未来方向？如何了解前沿系统和使用方法的最新研究？尤其是针对封闭AI系统。
相似文章
来自Adam Majmudar（OpenAI研究员）的有趣帖子——全文见正文
Adam Majmudar对AI能力快速发展的分析，重点介绍了新的扩展规律如何推动超越外部预期的飞跃。
AI似乎每周都在进步，过去一个月真正值得了解的变化是什么？
一位用户询问过去一个月中有什么重大的AI变化值得了解，寻求超越炒作的真知灼见。
AI公司或AI技术（大致）的现状如何？
用户请求关于AI公司和模型最新发展的简明摘要，在脱离科技一年后，注意到新模型和争议。
模型驱动 → 数据驱动 → 决策驱动的AI：瓶颈是否上移？
文章讨论了一个从模型驱动到数据驱动再到决策驱动的AI发展框架，质疑随着模型和数据在后训练环境中变得丰富，瓶颈是否转向决策制定。
AI自我改进能否克服收益递减？（38分钟阅读）
本文探讨AI递归自我改进是否能克服收益递减，认为当前数据表明，除非有显著进步，否则自我改进循环不足以引发失控的智能爆炸。