@FinanceYF5:AI训练数据是唯一一种一见效就变质的产品:一旦模型在某项任务上达到约70%的正确率,实验室就会抛弃这项任务……
摘要
一篇推文串,论述AI训练数据是一种独特的易腐商品——当模型在某项任务上的准确率达到约70%时,其价值便荡然无存。这催生了一个火热的市场,甚至造就了最年轻的白手起家亿万富翁,然而最大的买家正在将数据生产收归内部。
查看缓存全文
缓存时间: 2026/10/10 04:45
AI训练数据是唯一一种“一旦起作用就会过期“的产品:当模型对某个任务的准确率达到约70%时,实验室就会把这个任务丢弃。
这也造就了地球上最年轻的白手起家亿万富翁。三分钟带你了解这个市场有多火热,以及为什么最大的买家都在自建团队。🧵
市场有多热?Mercor的三位联合创始人在22岁时成为最年轻的白手起家亿万富翁(福布斯)。Surge的Edwin Chen从未融过一分钱,福布斯估算其身价达180亿美元。Meta以约143亿美元收购Scale AI 49%的股份,并挖走了其创始人。已经倒闭的初创公司的旧Slack聊天记录,现在能卖到1万至10万美元。
但数据会过期。一旦模型对某个任务的准确率达到约70%,该任务就会被弃用(@EpochAIResearch)。正如 @athomasq 所说:一旦你完成了训练,就真的完成了。而且最大的买家都在自建团队:Google挖走了Mechanize的创始人和团队;xAI裁掉了500名通用标注员。
趋势也有反向流动:LoRA的联合创作者 @edwardjhu 加入了 @mercor_ai 负责训练模型,他们的首个模型基于阿里巴巴的Qwen构建。一项2023年的研究发现,超过三分之一的众包工人使用AI来撰写“人类“回答。下一代“老师“:头戴摄像头的工厂工人。
三种观点。@EverettRandle:数据是下一个万亿美元级别的品类。@viks_rum:到2031年,规模化运营的独立玩家将不足10家。@satyanadella:企业为智能付费了两次,理应保留自己的数据。最有价值的数据,或许是你从不出售的那份。你会卖掉你的数据吗?
相似文章
@viks_rum: https://x.com/viks_rum/status/2077650169265590727
对向前沿AI实验室出售训练数据这一蓬勃发展的业务进行了深入分析,详细介绍了六种不同的数据产品以及市场的财务动态。
AI 实验室正从倒闭的初创公司手中购买数据来训练模型
随着公开和合成训练数据集日渐见顶,AI 实验室越来越多地通过 SimpleClosure 和 Sunset 等公司,从濒临倒闭的初创企业手中购买代码库与工作区数据(邮件、聊天记录、文档)。目前尚无明确的基准测试证明真实档案数据优于合成数据,但此类交易正日益常态化,估值则取决于关于数据效用的推测性「研究论点」。
AI正在实时退化
AI模型因使用递归生成的合成数据进行训练而不断退化,导致模型崩溃;多项研究强调了使用合成数据进行规模化训练的风险。
@quxiaoyin: 看来埃隆又对了。AI中最糟糕的层是模型层。AI的真正利润在于算力、能源……
该推文认为AI模型层最不赚钱,而算力、能源和应用才是利润所在,并指出中国的开源权重模型正在侵蚀OpenAI和Anthropic等公司的利润空间。
为什么一些实验室在算力远少的情况下追赶得这么快?
作者质疑为何一些海外AI实验室能用远少于前沿水平的算力迅速赶超前沿模型,并推测高质量专家训练数据的重要性可能远超人们的想象——同时声称像SurgeAI这样的美国数据实验室正在向中国大规模出售数据,从而削弱美国在AI竞赛中的地位。