构建上帝的商业（13分钟阅读）

# 构建“上帝”的商业逻辑 来源：https://www.strangeloopcanon.com/p/the-business-of-building-god 前沿实验室正呼吁为前沿领域设定节奏（https://darioamodei.com/post/we-must-pace-the-frontier）。他们真诚地相信这其必要性，而在此前各大厂商的模型反复攻击外部网站之后阅读此文，更凸显了其现实性。这些模型似乎在欺骗、撒谎、窃取机密，寻找各种借口相互串通协作，并且日益精进于完成那些曾经不可思议的任务——比如破解千禧年难题，或是破译（https://www.tomshardware.com/tech-industry/artificial-intelligence/chatgpt-6-astra-cracks-108-year-old-unsolved-wwi-german-code-for-the-first-time-radio-message-sharing-enemy-movement-intelligence-had-evaded-decoding-1918-crimean-fleet-warning-verified-against-hms-canterbury-logs）一战时期的德国密码。 部分原因在于，关于这些实验室的许多论述都采用近乎宗教或形而上学的语言。大量讨论围绕着未来的不可知性以及智能究竟会带来何种效益展开。但与此同时，OpenAI和Anthropic正筹备上市，因此不妨暂时将这些实验室视为企业，思考可能的发展轨迹。 根本问题不在于所需的投资或利润率，而在于前沿实验室仅比开源浪潮和全球其他机构领先一两个模型。这一两个模型*就是*他们的护城河。 这主要源于既有的人才优势与算力优势。正如许多中国实验室所示，这种优势可以逐渐被追平，但即使模型本身不再显著变得更聪明，前沿实验室仍可能保持护城河——因为他们往往在捕获你输出的信息方面拥有持久优势——你的编程轨迹、工作记录和对话内容正是造就下一代模型如此优秀的关键！ 但这类数据其实并不稀缺。因此，这或许不会立即压垮前沿实验室，但很可能会最终侵蚀他们的利润。 因此他们可能需要拓宽业务以获取收入。利用当前的主导地位尽可能接管经济的其他领域。OpenAI正利用其消费者主导地位打造广告平台，对于超过10亿用户而言这很可能奏效。他们也重新涉足机器人领域。而Anthropic则设立了生物实验室，尝试攻克癌症。 智能优势若能转化为其他领域的成功，足以替代当前年增长3倍、超千亿美元的收入规模，那么这种优势确实可能被长期守护。 但这异常艰难。真的非常艰难。大多数行业根本不存在年收入千亿美元的企业，更不用说多倍于此。市场或许会扩张，没错，但其他市场也在发展。而当企业在自身模型之上构建服务以捕获部分经济价值时，这会进一步导致市场碎片化——就像Meta推出Muse以争夺个人助理市场那样。 关键在于，在此过程中，其他模型制造商看到这盆“黄金”也会蜂拥而至。单次训练成本10亿美元，数据和人才各需10亿美元，能如此挥霍的企业确实不多，但也不在少数！并且投资回报率越高，尝试的企业就越多。我们应记得Facebook曾在元宇宙上豪掷近900亿美元。 世界上总有大量资本在追逐新的“黄金”。 与此同时，那些在AI token上花费超过2000亿美元的消费者，似乎正逼近钱包极限。支出可能翻倍甚至三倍，但每家公司都已让财务总监仔细审视这笔新的运营支出。 “嗯，”他们说道，“这是新项目。我们从中得到了什么？” 而你——也许是CEO——会说：“我们行动迅速。我们锐意创新。我们以AI为先。” 市场喜欢这套说辞，股价上涨，员工们因你能提供Claude而爱戴你，于是他们持续投入。但总有一天财务总监也会问：“能不能给我看看你们用它创造的有趣东西？什么时候能在利润表上看到成效？” “呃，”你会说，“快了。” “在它出现之前，”财务总监会告诉你，“我们不如试着少用点？” 这已经在发生。公司们正在将顶级模型限制给顶级用户使用，并将支出转向更廉价的模型——这些模型便宜得离谱且唾手可得。 当企业和个人从模型中看到更多收益时，情况自然会改变。比如有些企业很乐意将全部人力成本以token形式支出，只要能获得相应回报。但当这种支出发生时，它将是异质化的，注重回报，而非盲目在前沿领域消费最多token。就我个人而言，大约从Sol Max版本开始，我就不再使用各模型的最高档前沿版本了，因为它们已经足够好用。 因此，如果前沿实验室的领先优势确实只有一两个模型，这就是个令人不安的趋势。你有两种选择：a) 同时制造更廉价的模型并以更低价提供，但这是一场利润率不断收窄的竞赛，虽然你仍可成为成功的云服务商，但你已不再是“构建上帝”；或者b) 想办法将这些模型阻挡在门外，让人们只能使用你的模型。 第一种选择是可行的！OpenAI和Anthropic在推理业务上拥有高利润率，且他们异常擅长此道。但Deepseek、或许GLM、MiniMax或其他公司也很擅长。人们可能不如他们，但许多追赶者正步步紧逼。我们最终可能进入一个类似云计算公司的世界，或者竞争激烈到难以维持。 然而第二种选择在软件领域很难实现。你无法像控制华为交换机那样从物理上控制它们，因此只能通过监管手段阻止。你必须告诉国会这关乎生死存亡，需要控制供应链的每个环节，就像限制人员流动一样，你需要AI模型移民法，阻止它们来这里抢走我们的工作。也许是出于安全原因、信任原因或文化融合原因，谁知道呢。总之就是拒之门外。 但这很难！而且适得其反——这解释了为什么我们最初没有这么做，对吧？因为要让大多数人相信他们需要害怕某个可以轻易复制并从美国提供服务的特定文件，并非易事，无论那个文件多么智能。 但当这些文件与其他文件合谋攻击Hugging Face，或相互传递笔记时？没错，这绝对是个更诡异、更可怕的处境。 我尝试思考平衡状态。如果前沿实验室的模型不再对所有人变得如此出色，或者仅在特定领域（如前沿数学甚至科学）取得进步，那么前沿实验室的主导地位就显得岌岌可危。如果实验室能将前沿模型转化为持久的新业务，他们的收入基础就会更稳固。 这也有助于我们思考替代方案。例如，为什么我们会讨论：在未来某个时刻，实验室是否能关闭API，让我们无法直接访问他们的模型？他们之所以能做到这一点，仅在能够阻止我们重新创建那些特定前沿模型，并且能以特定形式为我们提供闭源模型的成果时。即使在今天，如果Anthropic创建了一个专门擅长设计的特定模型，并通过单独的Claude设计工具提供给我们，他们或许能将其转化为一家公司，而我们则不必尝试自行获取Claude并重新创建，因为他们拥有优势——因为他们投入了全部精力并专门为此创建，假设这确实很难实现。 但真正的奖赏并非如此，而是递归自我改进（RSI）。这正是Anthropic和OpenAI所追求的。也是Deepseek的目标。打造一个能自主学习和研究的自动化AI研究员，使其能够自动化迭代自身的下一代，进而实现一切自动化。这本质上意味着实验室找到了某种方法，让每个模型以某种方式生成后继模型，从而不仅能像今天这样领先两代，而是能从两代领先的起点在极短时间内跃进二十代。 这一场景显然包含大量假设，持续生成下一代模型的过程可能在某个节点达到瓶颈——若是如此，我们就会回到类似今天的状况，只是领先时间更长，这倒是好事；若没有瓶颈，没人知道会发生什么。如果前沿领域能持续扩展或被推动到足以让人们继续支付数千亿美元的水平，那么局面可能紧张，但仍能持续。 递归自我改进是真正的未知之未知。审视过去几年的方式之一，是我们理解智能的一场仪式性误解。如果几年前有人告诉我们，一个能解决纳维-斯托克斯方程的模型竟无法经营一个香蕉摊，我们一定会目瞪口呆！ 我们可以争论这告诉我们什么、它有何不同、智能如何多面，但事实是：我们能够在智识上达到某些内在惊人的成就，同时却在现实世界导航中远不够实用。 尽管支出增加了千倍，能力也令人难以置信，但我们尚未看到对白领就业的实质性负面影响。影响甚至可能是正面的，尽管伴随一些波动。这对我所称的“智能标量理论”构成了明确挑战。 提供智能的业务并不简单。我们都无法预见其结局。如果由于资金、算力或人才短缺，能够训练这些模型的参与者数量变得极少，那么前沿实验室的持久优势就显而易见了。 巨额支出总会要求一定的内部收益率（IRR），这就是大宗商品业务仍然相当盈利的原因。如果AI成为全球公用事业，那将是一个巨大的奖赏。如果实验室最终成为提供者，并且有些在某些方面具有优势，那同样是一个巨大奖赏。在维多利亚湖中，慈鲷鱼类根据栖息深度分化出不同物种，AI模型最终也可能如此。 但在大多数正常情况下，我们很可能继续分形地犯错。AI将掌握所有基准测试，但不会突然实现外推。它们将学会做研究，但仍会有边界。它们将掌握训练数据中的特定公司运作，但无法像人类那样转换工作。 我敢打赌，打造一个AI研究员也不会立即解锁递归自我改进。这个研究员会很出色，就像今天的编程模型一样出色，但它不会是无缝替代品。或许我们能克服这个障碍，或许它们能学会学习，但那时它们将是一个团队的无缝替代品，而非所有团队。我们只是不知道它们可能学会学习什么，或者学习的泛化能力如何。获取新模型将依然昂贵但实用。破解某些前沿数学、物理和生物学难题，或许并不意味着能破解*所有*可能的前沿数学、物理和生物学难题，也不意味着我们找不到大量其他问题去攻克。 这意味着AI发展的步伐和经济转型的速度将持续推进，而关于它将导致多少人工超智能（ASI）的想法将继续伴随着大量目标位移。 我相当确信我们能创造出在特定领域表现卓越的超级智能，但我相当怀疑我们能创造无所不能的超级智能。 如果前沿实验室最终仅领先其他机构1-2个模型，同时支出却是去年的10倍，这种状况无法持久。世界上根本没有足够的资金！如果他们向不同领域分化，或许能维持更久，但那将是在经济中与其他可能也训练模型的机构竞争，是短期优势。但这正是我们确实可以让众多公司相互竞争以创造新事物的世界。例如，如果你是风险投资人，这正是你可以投资的唯一世界。 如果护城河是他们领先的那两个模型，那就是芝诺悖论——你必须越来越努力地奔跑，以维持越来越小的差距。如果护城河是获取资本和人才的更多渠道，那将是一条逐渐贬值的护城河，因为更多人才将进入世界，更多资本会找到转化为AI的方法。如果护城河是第一个发现名为递归自我改进的秘密灵药，那么抢先到达确实至关重要，因为它能让你对其他人建立持久优势。如果护城河是能够获取海量数据，从而教导你的模型吞噬经济的这些部分，那么你更快成为集团公司的能力就变得至关重要，代价是经济的其他部分做出反应并与你竞争。 AI极有可能带来世界的剧烈变化。就业将改变，社会将改变，文化将调整适应。但围绕它建立的企业仍将受制于常规约束。我们将拥有新的超级智能，能够解决不可能的问题并帮助创造新奇迹。而在这一切发生时，我们将争先恐后地填补由此开启的所有生态位。