AI 研究正逐渐分化为具备训练能力与仅能做微调的两类群体
摘要
探讨算力资源如何成为推动 AI 进步的核心驱动力，以及由此在能训练大模型的组织与仅限微调基础模型的组织之间形成的分化。
我坚信，现阶段算力获取对 AI 演进的推动作用已远超任何算法上的洞察——这不是说想法不重要，而是脱离海量算力，你根本无法落地验证那些宏大的构想。放眼望去，只有极少数机构握有这种顶级算力。其他团队要么只能在夹缝中生存，要么就得去微调别人已经训练好的基础模型。我是不是看错了？还是在业内同行看来，这正是行业的真实缩影？非常想听听各位的看法。
相似文章
AI训练正成为新的编程革命
文章认为，AI训练正变得前所未有地易于获取，使得小团队和个人无需大型基础设施即可训练专业化模型，标志着AI从企业主导转向面向特定领域的开发。
我们是否正在慢慢走向两种不同的AI？
观察到高度受限的主流AI模型与更开放、限制较少的本地模型之间的分歧日益扩大，并质疑这种分裂是否会持续，或者一方会占主导地位。
@oneill_c: https://x.com/oneill_c/status/2054604986269802579
文章指出，严肃的AI公司正从封装通用模型转向使用专有交互数据训练自己的专业化模型，因为在分布内智能体任务中，专业化现在经常能匹配甚至超越前沿模型，从而推动更好的单位经济效益。
近期人工智能的改进主要来自哪里？
讨论近期AI进步的来源，指出后训练、微调和强化学习已成为关键，并询问超越规模扩展的未来方向。
@EXM7777：过去几年，玩AI是一场公平游戏，任何人都能以低至200美元每月的价格获得近乎无限的前沿算力……
随着前沿模型成为战略资产，AI访问正受到限制，但作者认为当前模型已足以赚钱，因此用户应专注于培养技能，而非等待更好的模型。