@FinanceYF5: 1/ Neolab 最难的,可能不是训练出模型,而是算清这笔账。 所谓 Neolab,通常是由顶尖 AI 研究员创办、在产品和收入出现前就募集巨额资金,用 GPU 算力攻克大型 AI 问题的初创公司。 但从买下算力的那一刻起,它就进入了一…

X AI KOLs Following 新闻

摘要

该推文讨论了所谓 Neolab(由顶尖 AI 研究员创办、在没有产品和收入前就募集巨额资金、用 GPU 算力攻克大型 AI 问题的初创公司)面临的最大挑战——并非训练模型,而是算清 GPU 算力成本这笔昂贵的经济账,从买下算力那一刻起就进入了昂贵的倒计时。

1/ Neolab 最难的,可能不是训练出模型,而是算清这笔账。 所谓 Neolab,通常是由顶尖 AI 研究员创办、在产品和收入出现前就募集巨额资金,用 GPU 算力攻克大型 AI 问题的初创公司。 但从买下算力的那一刻起,它就进入了一场极其昂贵的倒计时。👇
查看原文
查看缓存全文

缓存时间: 2026/10/28 21:39

1/ Neolab 最难的,可能不是训练出模型,而是算清这笔账。

所谓 Neolab,通常是由顶尖 AI 研究员创办、在产品和收入出现前就募集巨额资金,用 GPU 算力攻克大型 AI 问题的初创公司。

但从买下算力的那一刻起,它就进入了一场极其昂贵的倒计时。👇

1/ Neolab The hardest part might not be training the model, but rather figuring out the math on this bill.

What is commonly referred to as Neolab is typically a startup founded by top AI researchers, which raises massive funding before products and revenue even emerge, using GPU computing power to tackle large-scale AI challenges.

But from the moment it purchases that computing power, it enters an extremely expensive countdown. 👇

2/ 购买 1000 张 GB300,约等于 14 套 NVL72 机架。

三年成本约 1.25 亿至 1.5 亿美元,需要预付 15% 至 30%,功耗约为 2 至 2.5MW。

这些算力每季度大约可以完成 10²⁵ FLOPs,足以训练出 GPT-4 级别模型,但预训练能力仍落后前沿模型 1 至 2 个数量级。

3/ 如果基于优秀的开源模型进行后训练,追上前沿水平的机会更大。

但有两个风险:

  1. RL 环境本身还要投入数百万美元

  2. 团队会被绑定在某个基础模型上,一旦新的底座模型发布,现有成果可能迅速被超越

4/ 要收回投资,Neolab 必须提供比基础模型更好、最好也更便宜的推理服务,并让客户使用足够长的时间。

即使推理毛利率达到 50%,若按 Fable 或 Astra 约 2 美元/百万 Token 的综合价格计算,仅收回 1000 万美元训练成本,就要服务约 10 万亿 Token。

5/ 而且,它还必须证明自己优于 Opus 5.5 这类价格更低的前沿模型。

因此,很多 Neolab 最终不能只靠推理收费,而是向客户额外收取高额平台费与算力费。

与此同时,GPU 每闲置一小时都在烧钱。团队通常只能转售算力、为开放模型提供推理,或出售 Spot 实例。

Spot 利用率低于约 60%,仍然会亏损。

还没算极其昂贵的人才成本。

6/ 这些算力还能用来做什么?

  1. 完全不参与通用模型竞争

  2. 选择大实验室不愿进入的新模型方向,例如 Jev、World Labs。因为这类产品可能蚕食现有业务、短期收入不够大,或让大公司偏离主线

  3. 获取大规模专有数据,在机器人、生物、化学等领域做出超过通用前沿模型的能力,例如 Periodic Labs

7/ 即使成功做出比大实验室更实用、定价更合理的模型,仍必须进入一个“收入/算力成本”足够高、市场需求又足够大的领域,才能收回巨额投入。

这是一场非常困难的游戏。

这些假设中,哪些是错误的,或者值得质疑?

8/ Neolab 持续融资同样困难。

第一轮资金可能帮助团队完成技术里程碑,但收入会让它陷入两难:

公开收入,如果规模不够大、增长不够快,就缺乏吸引力。

不公开收入,又只能继续依靠“规模化后会非常成功”的承诺融资。

9/ 留住人才也很难。

如果公司以高估值融资后长期停滞,员工会开始怀疑:

自己是否选对了公司?

手里的股权还有多少价值?

是否应该去增长更快的地方?

Neolab 往往聚集了 AI 领域最优秀的人才,他们每年的机会成本可能达到七位数、八位数美元,甚至更高。

10/ 高估值也抬高了被收购的门槛。

如果一家公司以 50 亿美元估值融资 10 亿美元,收购方至少要先拿出 10 亿美元清偿优先权,员工股权才可能获得回报。

人才争夺战正在降温,能支付这个价格的买家并不多。

相比之下,收购不到 10 人、估值低于 1 亿美元、融资较少的年轻团队,往往能以更低成本获得同样优秀的人才,投资回报也更高。

阅读原文:

相似文章

@FinanceYF5: 模型公司想放慢脚步?先看看算力账单。Oguz Erkan的统计显示,Anthropic的算力容量公布超过11.5GW,但当前实际运营估计仅为1-2GW。根据他的计算,一旦完全建成,每年可能花费115-1200亿美元。如果OpenAI也以类似规模扩张,两家公司未来五年的算力支出可能达到1万亿美元。放慢脚步——他们将如何支付这笔账单?

X AI KOLs Following

本文讨论了Anthropic和OpenAI等AI公司的高算力成本,估计显示它们的年度支出可能达到115-1200亿美元,长期支出超过万亿美元。

@FinanceYF5: 没有大模型实验室的预算,怎么做出世界级 AI 研究? Harvey 分享了自己的“Moneyball”打法: 让领域专家指导合成数据,建立法律评测集;同时与多家新型实验室合作,内部完成后训练,并通过模型路由、自动切换和 SLA,为60个国…

X AI KOLs Following

Harvey 分享在预算有限的情况下通过领域专家指导合成数据、建立评测集、与实验室合作及使用模型路由等技术实现世界级 AI 研究的策略。

@FinanceYF5: 只会出租 GPU 的 Neocloud,最后只能靠价格竞争,而这是一场不断压低利润的比赛。 出租 GPU 已经不再稀缺。鞋类公司 Allbirds、电信公司、前比特币矿商、AI 实验室,甚至视频网站都开始提供算力。 真正领先的 Neocl…

X AI KOLs Following

Neocloud 们正从单纯的 GPU 租赁转向通过收购软件公司来建立护城河,因为单纯出租算力已不再稀缺,最终只会陷入价格战。Nscale、Nebius、IREN、CoreWeave、Crusoe 等纷纷通过收购来提高客户粘性和产品差异化。