@FinanceYF5: 1/ Neolab 最难的,可能不是训练出模型,而是算清这笔账。 所谓 Neolab,通常是由顶尖 AI 研究员创办、在产品和收入出现前就募集巨额资金,用 GPU 算力攻克大型 AI 问题的初创公司。 但从买下算力的那一刻起,它就进入了一…
摘要
该推文讨论了所谓 Neolab(由顶尖 AI 研究员创办、在没有产品和收入前就募集巨额资金、用 GPU 算力攻克大型 AI 问题的初创公司)面临的最大挑战——并非训练模型,而是算清 GPU 算力成本这笔昂贵的经济账,从买下算力那一刻起就进入了昂贵的倒计时。
查看缓存全文
缓存时间: 2026/10/28 21:39
1/ Neolab 最难的,可能不是训练出模型,而是算清这笔账。
所谓 Neolab,通常是由顶尖 AI 研究员创办、在产品和收入出现前就募集巨额资金,用 GPU 算力攻克大型 AI 问题的初创公司。
但从买下算力的那一刻起,它就进入了一场极其昂贵的倒计时。👇
1/ Neolab The hardest part might not be training the model, but rather figuring out the math on this bill.
What is commonly referred to as Neolab is typically a startup founded by top AI researchers, which raises massive funding before products and revenue even emerge, using GPU computing power to tackle large-scale AI challenges.
But from the moment it purchases that computing power, it enters an extremely expensive countdown. 👇
2/ 购买 1000 张 GB300,约等于 14 套 NVL72 机架。
三年成本约 1.25 亿至 1.5 亿美元,需要预付 15% 至 30%,功耗约为 2 至 2.5MW。
这些算力每季度大约可以完成 10²⁵ FLOPs,足以训练出 GPT-4 级别模型,但预训练能力仍落后前沿模型 1 至 2 个数量级。
3/ 如果基于优秀的开源模型进行后训练,追上前沿水平的机会更大。
但有两个风险:
-
RL 环境本身还要投入数百万美元
-
团队会被绑定在某个基础模型上,一旦新的底座模型发布,现有成果可能迅速被超越
4/ 要收回投资,Neolab 必须提供比基础模型更好、最好也更便宜的推理服务,并让客户使用足够长的时间。
即使推理毛利率达到 50%,若按 Fable 或 Astra 约 2 美元/百万 Token 的综合价格计算,仅收回 1000 万美元训练成本,就要服务约 10 万亿 Token。
5/ 而且,它还必须证明自己优于 Opus 5.5 这类价格更低的前沿模型。
因此,很多 Neolab 最终不能只靠推理收费,而是向客户额外收取高额平台费与算力费。
与此同时,GPU 每闲置一小时都在烧钱。团队通常只能转售算力、为开放模型提供推理,或出售 Spot 实例。
Spot 利用率低于约 60%,仍然会亏损。
还没算极其昂贵的人才成本。
6/ 这些算力还能用来做什么?
-
完全不参与通用模型竞争
-
选择大实验室不愿进入的新模型方向,例如 Jev、World Labs。因为这类产品可能蚕食现有业务、短期收入不够大,或让大公司偏离主线
-
获取大规模专有数据,在机器人、生物、化学等领域做出超过通用前沿模型的能力,例如 Periodic Labs
7/ 即使成功做出比大实验室更实用、定价更合理的模型,仍必须进入一个“收入/算力成本”足够高、市场需求又足够大的领域,才能收回巨额投入。
这是一场非常困难的游戏。
这些假设中,哪些是错误的,或者值得质疑?
8/ Neolab 持续融资同样困难。
第一轮资金可能帮助团队完成技术里程碑,但收入会让它陷入两难:
公开收入,如果规模不够大、增长不够快,就缺乏吸引力。
不公开收入,又只能继续依靠“规模化后会非常成功”的承诺融资。
9/ 留住人才也很难。
如果公司以高估值融资后长期停滞,员工会开始怀疑:
自己是否选对了公司?
手里的股权还有多少价值?
是否应该去增长更快的地方?
Neolab 往往聚集了 AI 领域最优秀的人才,他们每年的机会成本可能达到七位数、八位数美元,甚至更高。
10/ 高估值也抬高了被收购的门槛。
如果一家公司以 50 亿美元估值融资 10 亿美元,收购方至少要先拿出 10 亿美元清偿优先权,员工股权才可能获得回报。
人才争夺战正在降温,能支付这个价格的买家并不多。
相比之下,收购不到 10 人、估值低于 1 亿美元、融资较少的年轻团队,往往能以更低成本获得同样优秀的人才,投资回报也更高。
阅读原文:
相似文章
@FinanceYF5: 模型公司想放慢脚步?先看看算力账单。Oguz Erkan的统计显示,Anthropic的算力容量公布超过11.5GW,但当前实际运营估计仅为1-2GW。根据他的计算,一旦完全建成,每年可能花费115-1200亿美元。如果OpenAI也以类似规模扩张,两家公司未来五年的算力支出可能达到1万亿美元。放慢脚步——他们将如何支付这笔账单?
本文讨论了Anthropic和OpenAI等AI公司的高算力成本,估计显示它们的年度支出可能达到115-1200亿美元,长期支出超过万亿美元。
@FinanceYF5: 没有大模型实验室的预算,怎么做出世界级 AI 研究? Harvey 分享了自己的“Moneyball”打法: 让领域专家指导合成数据,建立法律评测集;同时与多家新型实验室合作,内部完成后训练,并通过模型路由、自动切换和 SLA,为60个国…
Harvey 分享在预算有限的情况下通过领域专家指导合成数据、建立评测集、与实验室合作及使用模型路由等技术实现世界级 AI 研究的策略。
@FinanceYF5: 只会出租 GPU 的 Neocloud,最后只能靠价格竞争,而这是一场不断压低利润的比赛。 出租 GPU 已经不再稀缺。鞋类公司 Allbirds、电信公司、前比特币矿商、AI 实验室,甚至视频网站都开始提供算力。 真正领先的 Neocl…
Neocloud 们正从单纯的 GPU 租赁转向通过收购软件公司来建立护城河,因为单纯出租算力已不再稀缺,最终只会陷入价格战。Nscale、Nebius、IREN、CoreWeave、Crusoe 等纷纷通过收购来提高客户粘性和产品差异化。
@FinanceYF5: AI应用层的反击 1/ 大模型公司正在被反向蚕食 Cursor、Decagon、Harvey、Notion都在干同一件事:从API搬到自训模型。 不是为了省钱,是为了拿回飞轮。
AI应用层公司如Cursor、Decagon、Harvey、Notion正从使用大模型API转向自训练模型,这一趋势旨在重新掌控数据飞轮而非仅仅节省成本。
@FinanceYF5: AI模型陷入价格战,但GPU却越来越贵。自六月以来,平均token价格:OpenAI下降62%…
由于竞争,AI模型价格大幅下降,但GPU租赁成本上升,这凸显了计算资源日益增长的价值。