智能体 (Muse) 计算需求 (5分钟阅读)

TLDR AI 新闻

摘要

这篇文章分析了Meta的Muse AI智能体系统的计算和电力需求,估计平均功率约为1至2吉瓦,CPU成本约为8亿美元,以服务1亿日活跃用户。

Meta服务1亿日活跃用户估计需要大约1至2吉瓦的平均总功率。只有约0.1吉瓦来自GPU/VM层。每天3至4吉瓦是完全可能的,具体取决于用户生成的推理等效模型调用数量。沙盒层包含不到10亿美元的CPU内容和约20亿美元的DRAM内容。
查看原文
查看缓存全文

缓存时间: 2026/09/28 14:49

# Agent(Muse)计算需求分析 来源:https://robonomics.substack.com/p/agent-muse-compute-demand 显然存在许多动态假设:智能体保持活跃的时间长度、CPU和内存的超额分配程度、每个智能体产生的模型调用次数,以及这些模型的运行效率。 大致结论如下: - **平均总功耗约1–2GW**以支持基础情况下1亿日活跃用户(DAU),其中仅**约0.1GW来自CPU/虚拟机层**。根据每个Muse日活用户每日产生的推理等效模型调用次数,**3–4GW**的功耗完全可能。 - 沙盒层的成本预计**低于10亿美元**(用于CPU资源)和**约20亿美元**(用于DRAM资源),这比许多人预期的要小。 欢迎所有反馈/质疑。 Muse背后存在两种截然不同的基础设施: 1. **Muse虚拟机/沙盒基础设施** **每个用户分配2个虚拟CPU、约8GB内存和约100GB持久化逻辑存储**。观测到的Muse虚拟机配置见此链接(https://www.starkinsider.com/2026/09/meta-muse-specs-what-it-runs-on.html)。 2. **Muse Spark推理服务** 模型推理通过Meta的外部推理基础设施进行。Meta对Muse架构的描述见此链接(https://research.meta.ai/blog/security-and-safety-for-ai-agents-our-approach-with-muse)。 第一个常见误区是假设**1亿日活用户意味着1亿台虚拟机同时消耗计算资源**。 假设平均每个Muse日活用户的智能体每天积极工作2小时: 1亿用户 × 2小时 / 24小时 ≈ 平均800万台同时活跃的虚拟机 Meta显然不能仅按日平均值配置资源。使用会在白天集中并产生峰值波动。 假设峰值与平均值的比率为2.5倍: 800万 × 2.5 = 约2000万台峰值活跃虚拟机 再加上约20%的容量缓冲:**约2500万台预分配的实时虚拟机**。因此,基础假设实际上是Meta需要支持**约25%的日活用户同时在线**。 [](https://substackcdn.com/image/fetch/$s_!Rk_q!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F958cc7c7-8b76-4da9-80d1-7052b0deb327_1672x456.png) 下一个重要区别是**虚拟CPU分配**与**物理CPU需求**。智能体沙盒特别适合进行CPU超额订阅,因为它们大部分时间处于等待状态。在这些时期,虚拟机可能仍然存活,但几乎不使用CPU。 DeepSeek近期发布的DSec基础设施提供了一个有用的基准。其生产级智能体沙盒平台运行在约160个节点上,拥有约**30,000个物理CPU核心和250TB DRAM**,峰值并发超过**380,000个沙盒**(DeepSeek DSec论文:https://arxiv.org/abs/2609.22978)。DSec还展示了在每个节点约**800个微虚拟机**下稳定运行的能力。每个节点约有188个物理核心:188个物理核心 / 800个微虚拟机 ≈ 每个活跃虚拟机占用0.23个物理核心。 DeepSeek显然是效率之王。Muse的数字可能在每个活跃虚拟机0.3–0.75个物理核心之间,我们暂定**每个活跃虚拟机0.5个物理核心**作为基准情况。这相当于**每个物理CPU核心大约同时支持两个Muse虚拟机**。 基于基础假设:**2500万实时虚拟机 × 0.5物理核心/虚拟机 = 1250万物理CPU核心**。 以256核心CPU计算:1250万核心 / 256核心/台 ≈ 5万台CPU;若以192核心CPU计算,则需要6.5万台CPU。 **按当前公开定价,成本约为8亿美元。** [](https://substackcdn.com/image/fetch/$s_!h3Sq!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F707b35ef-5681-4371-9c6e-fa61b918df5a_1684x676.png) CPU可以进行激进的超额订阅,因为等待中的虚拟机可能几乎不消耗CPU。内存则更难超额订阅,因为活跃的虚拟机仍需保留其工作状态。 Muse向用户环境暴露约**8GB RAM**,但在观测时,某个实例实际使用量仅约**3GB**。 2500万实时虚拟机 × 3GB = 75PB物理DRAM,合理的基础范围约**75–100PB物理DRAM**。 **按当前公开定价,成本约为20亿美元。** **以1亿日活用户计算,整个Muse沙盒/虚拟机层的功耗约为0.1GW。** Muse的个人计算机本地执行工具并存储状态,但实际模型运行在独立的推理基础设施上(Meta的Muse架构:https://research.meta.ai/blog/security-and-safety-for-ai-agents-our-approach-with-muse)。 微软2026年的研究估计,优化后的前沿规模推理,中位数消耗约为:**每次普通查询0.31瓦时(Wh)** 但一个约15倍token量的长推理查询消耗约13倍能量,即:**每次长推理查询约4瓦时(Wh)** 该研究特别指出,推理和智能体工作负载的能耗显著更高(微软关于AI推理能耗的研究:https://www.microsoft.com/en-us/research/publication/energy-use-of-ai-inference-efficiency-pathways-and-test-time-scaling/?utm_source=chatgpt.com)。 对于类似Muse的工作负载,我们暂定**每次重度推理等效推理事件消耗5–10瓦时(Wh)**作为粗略的敏感性范围。 假设每个日活用户每天进行50次推理等效事件。 假设每个活跃Muse用户每天产生相当于50次重度推理事件。 按每次5瓦时计算: 1亿用户 × 50次/天 × 5瓦时 = 25亿瓦时/天(25GWh/天) 25GWh/天 / 24小时 ≈ 平均功率1.0GW 因此,仅推理部分就可能需要:**约1–2GW的平均功率** [](https://substackcdn.com/image/fetch/$s_!QYgl!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3883608c-7bda-4731-800d-bf10da4d2d75_1696x558.png) 因此,一个**3–4GW的Muse系统**是完全可能的。这或许就是为什么有传言称Meta明年将增加7–10GW的计算能力。 关于Muse的常见说法是,为每个用户分配**2个虚拟CPU和8GB内存**会产生巨大的CPU需求。但这种简单计算极大地高估了CPU需求,因为它将逻辑虚拟机分配等同于专用物理基础设施。 更有趣的结论是:**消费级智能体可能成为CPU和传统DRAM的一个重要新需求驱动因素,但推理仍是真正的计算瓶颈。**随着智能体完成更多工作、运行更长的任务轨迹并越来越多地生成其他智能体,**推理需求的增长速度可能远超用户数量本身的增长**。 #### 关于本文的讨论 ### 想看更多内容吗?

相似文章

Meta押注AI代理Muse以在AI竞赛中追赶

The Verge

Meta推出了Muse,这是一款个人AI代理,旨在协助购物和规划等日常任务,作为其在AI竞赛中与对手竞争的策略的一部分。该助手对大多数用户免费,提供可选的付费订阅,并强调易用性和隐私。