如果这是真的,hyperscalers就完蛋了

Lobsters Hottest 论文

摘要

斯坦福的一项研究表明,在本地设备上运行的小型语言模型可以达到与数据中心的大型语言模型相当的性能,这可能会影响hyperscalers的基础设施投资。

<p>人工智能的未来不是大型语言模型(LLM),而是小型语言模型(SLM)。</p> <p><a href="https://lobste.rs/s/xgxp9m/if_this_is_true_hyperscalers_are_toast">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/08/20 12:43

# 若此言属实,超级规模企业恐将面临灭顶之灾 来源:https://klementoninvesting.substack.com/p/if-this-is-true-the-hyperscalers 在我的付费专栏定期研究中,我一直强调认为人工智能的未来并非大型语言模型(LLM),而是运行在本地台式机甚至手机上的小型语言模型(SLM)。今年5月,斯坦福大学团队发表了一项研究(https://arxiv.org/abs/2511.07885),对比了这类SLM与数据中心运行的LLM性能。若该研究结论成立,未来我们或将不再需要大规模数据中心,而那些超级规模企业斥资数千亿美元的投资将付诸东流。 认真地说,若你作为投资者正试图在AI热潮中寻找投资方向,必须通读这篇论文。为方便理解,我先提炼几个核心发现: 首先,研究团队测试了一系列可在本地PC下载的SLM(QWEN 3、GEMMA 3、GPT-OSS、GRANITE 4.0),并将其性能与云端最先进的LLM(ChatGPT 5、Claude Sonnet 4.5、Gemini 2.5 Pro)进行对比。 这些SLM在搭载Nvidia芯片或Apple M4芯片的本地PC上运行——这两种芯片已普遍应用于当前高端台式机(整个研究在Nvidia发布PC专用AI芯片[https://www.bbc.com/news/articles/crmp9mppvzro]之前完成,而后者将进一步加速从数据中心向桌面模型转移的趋势)。 随后,研究追踪了2023年至2025年10月间,这些SLM与LLM在聊天任务和推理任务上的性能表现。 下图展示了SLM在聊天请求(目前仍占绝大多数请求类型)中与LLM的胜率/平手率对比。可见在所有领域中,最佳SLM在90%以上的案例中能提供与LLM相当或更优的答案,各领域平均胜率高达98.6%。 **SLM与LLM在聊天请求中的胜率/平手率对比** [](https://substackcdn.com/image/fetch/$s_!e9IY!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ff0c92aa6-bba4-40d6-b029-566107561201_548x394.jpeg) 来源:Saad-Falson等人(2026) 在要求更高的推理任务中,SLM正快速追赶。平均而言,它们在62.5%的案例中能提供优于或至少持平LLM的答案。 **SLM与LLM在推理任务中的胜率/平手率对比** [](https://substackcdn.com/image/fetch/$s_!nQrX!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F22588d9f-fb8a-4e8f-9293-90e7a9542f8c_541x400.jpeg) 来源:Saad-Falson等人(2026) 现实中,SLM与LLM的任务通常是聊天请求与推理任务的混合体。因此第三张图基于各领域任务频率,对聊天请求和推理任务表现进行了加权平均。如图所示,平均而言SLM在81.2%的案例中表现与LLM相当甚至更优,仅在工程、生命科学、运输和计算机科学等领域LLM仍具显著优势。 **SLM与LLM在聊天和推理综合任务中的胜率/平手率对比** [](https://substackcdn.com/image/fetch/$s_!Gl7b!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F0a92e89c-b050-4125-b682-9d1cc06e3bb9_540x392.jpeg) 来源:Saad-Falson等人(2026) 但优势不仅体现在准确率。根据所用SLM和硬件配置,SLM的能耗与计算成本较LLM降低50%至85%。 更重要的是,SLM在推理任务上的追赶速度惊人。最终图表仅展示推理任务中SLM随难度等级和模型迭代的性能变化。 2023年,SLM在五级难度推理任务中的成功率普遍仅约50%。到2025年10月,SLM在1-2级简单推理任务中成功率已达99%,3-4级较难任务达85%-92%,仅在5级最复杂任务中仍落后于LLM(成功率51.5%)。 **SLM在推理任务中的成功率变化** [](https://substackcdn.com/image/fetch/$s_!38uM!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd0d7cc59-306e-4494-b18d-b6b1e4e45fbf_1230x734.png) 来源:Saad-Falson等人(2026) 这意味着在五分之四的用例中,可直接用SLM替代数据中心及其昂贵的尖端半导体基础设施。研究报告估算,美国SLM可寻址市场规模已增至约10万亿美元,相当于30万亿美元GDP的三分之一。LLM的生存空间日益收窄,且每年其对SLM的优势都在缩减。 显然某些领域LLM仍遥遥领先,尤其在智能体AI应用中,目前SLM的准确率和成功率仍低于50%。同样,现阶段很难在智能手机运行此类SLM——iPhone可运行的模型性能显著弱于台式PC。 但关键在于:运行在台式PC(尤其是智能手机)上的模型,其能效远优于云端模型。这些SLM的每瓦推理效率通常是LLM的七倍。这意味着遇到可本地解决的任务时,在桌面或移动设备处理比送往数据中心更经济。 我认为这对投资者具有重要启示: - 我们需要的数据中心将远少于预期。若能用SLM替代70%-80%原计划由LLM处理的任务,超级规模企业未来的收入增长将难以支撑其资本支出。事实上,若此研究趋势延续,数据中心可能成为当前AI领域最糟糕的投资标的。 - 虽然各类半导体仍需巨额投资,但不必追求最先进的Nvidia芯片。适用于台式PC的性价比型号即可满足需求。对Nvidia而言,最佳情景是用其新款桌面芯片替代高端数据中心GPU——但这将如何影响其利润率和营收增长? - 对于最复杂的任务我们仍需LLM,OpenAI、Anthropic等企业可将模型“简化”为SLM销售。但面对QWEN等中国厂商或IBM GRANITE的激烈竞争,这类模型利润率将远低于LLM。这对这些企业的IPO估值和增长轨迹意味着什么? - 尽管智能体AI目前在LLM上表现更好,但这可能只是暂时优势——正如我们在推理任务和单次聊天请求中看到的演变。若如此,AI热潮的真正赢家将不是先进硬件与数据中心提供商,而是戴尔、苹果等看似平凡的台式电脑制造商。 见证这场竞赛的演进将极具意义。我越来越确信,许多人会因投资错误技术而遭受重创。

相似文章