为什么计算成本未来几年可能上涨10倍（8分钟阅读）

# 为什么未来几年算力可能会涨价10倍 来源：https://www.dwarkesh.com/p/why-compute-might-get-10x-more-expensive 我想尝试一种非常快速的博客写作方式——限定自己在2小时内完成。这样虽然无法深入探讨很多重要的子问题，但总比在众多感兴趣的话题上毫无进展要好。 今天我想聊的是各大实验室未来几年的算力状况。 Anthropic的收入已经实现了年同比增长10倍。Anthropic今年年底营收可能达到约1000-1500亿美元。如果要保持这一趋势，Anthropic明年年底就需要实现1万亿美元的收入。这条趋势并非必然延续，很可能不会——这归根结底是一个关于AI能力的问题。但假设它真的延续了，那个世界需要满足什么条件? 实验室算力每年增长3倍 (https://epoch.ai/gradient-updates/frontier-labs-dont-use-most-ai-compute)。如果一个实验室要实现收入增长10倍而算力只增长3倍，那么以下三种情况必须至少有一部分发生：1. 实验室利润率必须提高，2. 算力价格必须上涨，3. 实验室必须将更大比例的算力用于推理。 据我所知，这三种情况实际上都在发生：1. Anthropic的利润率从2025年的40%上升到今年Fable推理1的80%以上 (https://www.dwarkesh.com/p/why-compute-might-get-10x-more-expensive#footnote-1)(尽管可能不是针对边际算力——下文会进一步说明)。2. 算力的现货价格比2月份的低谷上涨了40%以上，而这可能还低估了实验室实际支付的涨幅(下文会继续讨论)。3. 根据Epoch (https://epoch.ai/data-insights/openai-compute-spend) 的数据，OpenAI 2024年算力支出中大约四分之一用于推理，现在这个比例肯定接近50%甚至更高。 实验室其实*不希望*做第3点(将越来越大的算力份额用于推理)。正如有人开玩笑说的，推理收入的目的是说服投资者给你更多钱去买更多算力来训练更大的模型。如果你把大部分算力都花在推理上，那基本上就等于在宣告AI进步停滞了——因为不值得再投资训练，你的业务本质上就是个云服务商。实验室并不这么认为——他们认为自己目前提供的模型在一年后看起来会非常糟糕，但这样做是为了建立商业案例，以便继续训练更智能的模型。 那么剩下的就是：1. 实验室利润率会提高，或者 2. 算力变得更贵。如果领先的1到2家实验室明显领先于竞争对手，那前者就会更突出。在一个市场中，你的利润率取决于你比次优替代方案强多少。如果想让第1点主导，那么到明年年底，利润率必须达到95%左右。这在我看来相当疯狂。但AI实验室收入继续惊人地快速增长，听起来确实是有可能的。 那么，要解释为什么明年年底可能出现1万亿美元收入这种疯狂的世界，就只剩下一个因素了：算力变得非常昂贵。正如我提到的，这已经开始发生了。如果我们看看实验室需要的那批算力，价格上涨更为剧烈——他们显然不能依赖竞价实例，他们需要保护自己的权重和客户信息安全，还需要足够的规模来实现良好的利用率和灵活性。为了了解这批算力的市场有多疯狂，我们可以看看Google和Anthropic从SpaceX租用算力的价格。据报道，Google每月向SpaceX支付9亿美元 (https://finance.yahoo.com/sectors/technology/articles/google-paying-spacex-over-900-151816933.html) 租用11万个GPU，这些GPU是GB200和GB300的混合体。这大约是这些GPU现货时租价格的2倍。而当前的现货价格本身已经比2月份高出40%。 我想强调这里的关键结论：随着AI模型变得更智能，它们将更好地将同等算力货币化。如果一个相当于人类水平的软件工程师能在一个H100等效设备上运行，按照当前软件工程师的市场价格，那个H100的年租金应该超过25万美元。这是当前现货价格的15倍。 当然，你可能会想，如果我们多了1000万个软件工程师，软件工程师的边际价值就会下降，那么那个H100就不一定能产生比现在多15倍的收入。但我其实不确定这是否正确。如果我们把这个论点套用到人身上而不是AI上，那就是经典的劳动力总量谬误 (https://en.wikipedia.org/wiki/Lump_of_labour_fallacy)。经济学家普遍认为，从长远来看，高技能移民并不会降低工资，因为专业化和创新会提高劳动力的价值。也许这次劳动力供给冲击太大、太快，以至于这个一般性启发式不再适用。但如果我们相信标准经济学关于劳动的说法，那么算力的边际价值(以及算力的边际价格)应该变得惊人地高。 在这样的世界里会发生什么？ - 随着顶级模型在算力货币化方面越来越好，追赶会变得越来越困难。如果到2028年我们实现了软件工程自动化，而算力价格比现在高15倍，那么对于一个没有收入的你来说，要与前沿实验室竞争算力将变得更加困难。 - 如果你能训练出最好、最高效的模型，那么你就能收取比今天高得多的利润率。这就是阿尔钦-艾伦效应 (https://en.wikipedia.org/wiki/Alchian%E2%80%93Allen_effect)：当固定成本附加到两种不同质量的商品上时，优质商品相对变得更便宜，因此需求会转向它。如果每H100小时20美元，那么使用一个较弱的、效率较低的模型将非常昂贵和愚蠢，因为为了得到相同的结果，它会在你昂贵的算力上烧掉更多的token。因此，如果实验室能够训练出一个更好地节约这种稀缺资源的模型，他们就能收取非常高的溢价。如果你一开始就必须为底层算力支付这么多(直接或间接)，你不如多付一点钱，使用在同等算力上运行的最好、最高效的模型。 - 当前很多流行的AI应用将被挤出市场。AI目前相对便宜(至少与人类劳动相比)的部分原因是它做不了顶级人类能做的很多事情。到了某个时候，情况将不再如此。因此，用GPU制作短视频垃圾内容将被挤出市场。 - 与此同时，这种预测与过去人们关于稀缺性的错误判断模式相符。我想到了西蒙-埃利希赌约，保罗·埃利希打赌一篮子商品的价格在1990年之前的十年里会上涨而非下跌。这个赌约在流行的经济学讨论中很有名，因为它被认为是用来证明埃利希的马尔萨斯世界观被证伪了——他低估了市场信号和人类智慧会找到更好地节约稀缺投入的方法。(尽管其他分析 (https://en.wikipedia.org/wiki/Simon%E2%80%93Ehrlich_wager#Analysis) 显示，如果这个赌约是在另一个十年进行的，埃利希就会赢)。 - 我猜测西蒙-埃利希的那篮子商品不是算力的正确参考类别，因为算力供应的弹性远小于不同金属的开采，也更难吸收巨大的需求冲击。每年算力容量增长3倍是通过以下数字相乘得出的：1.4倍来自摩尔定律，1.2倍来自新晶圆厂建设(至少到2030年受限于EUV工具供应 (https://www.dwarkesh.com/p/dylan-patel))，1.8倍来自AI从其他设备中获取前沿晶圆分配(这将在2027年底开始触及极限，届时AI将从N3工艺的60%上升到86%)。这三个投入因素中的任何一个似乎都很难大幅提高算力规模，而最后一个因素实际上会在一两年内随着晶圆分配的饱和而触及瓶颈。 - 我想澄清的是，在未来的某个时刻，算力会再次变得便宜。到了某个时候，机器人将能够把硅砂海岸和铜矿变成计算机。到那时，算力的价格应该会降到接近原材料和工具的成本。我谈论的只是当前这个AI算力每年仅增长3倍的机制，这个速度不足以抵消AI每年变得更有用所带来的价格效应。 - 顺便说一句，Ant收入每年增长10倍，而算力只增长3倍的事实表明，模型业务存在非常强大的规模经济。这在逻辑上是合理的——当你训练一个模型时，你一次性支付了学习所有这些不同技能的成本，然后你可以将这些成本分摊到所有用户身上。(与人类劳动不同，后者的每个实例都需要从头重新训练)。我希望我们不要生活在这样一个智力规模经济如此强大的世界里(因为我担心权力集中)。但看起来我们确实身在其中。 #### 关于此文章的讨论 ### 想看更多？