@benitoz: Rene Haas 在昨日的 Arm 第四季度财报电话会议上刚刚确认了 Vera CPU 论点。他并非有意如此——他的表述是：GPU 受限于光刻掩模版尺寸。

Rene Haas 在昨日的 Arm 第四季度财报电话会议上刚刚确认了 Vera CPU 论点。他并非有意如此——他的表述是：GPU 受限于光刻掩模版尺寸。而 CPU 不受此限。比例变化体现在核心数量上，而非芯片数量。他的原话是：“256 颗 Vera CPU 芯片，每颗 88 核，一台 200 千瓦液冷机架，设计用于放置在数据中心内，紧邻 Vera Rubin 系统。”这并非主机 CPU。这是专用的代理型编排。 两天前，NVIDIA 自家工程师发布了证明。他们追踪了一次真实的 33 分钟 Claude Code 会话：283 次推理请求，58 次主代理轮次协调 225 次子代理调用。上下文从 15K 令牌增长到 156K 令牌，之后压缩降至 20K。仅主代理在前 40 轮中就处理了约 350 万输入令牌。Anthropic 自己的数据：代理型系统消耗的令牌量高达聊天场景的 15 倍。编码代理的提示缓存命中率维持在 95% 至 98%。若不使用缓存，成本将高出 6 倍。 这就是 GPU 调用之间正在发生的事情：文件读取、工具调用、子代理生成、压缩、KV 缓存管理。所有这些都不在 GPU 上运行。 这就是为什么 12,000 个 GPU 需要 400,000 个 CPU 核心。33 比 1 的比例并非预测，而是实测结果。NVIDIA 在博客中直接指出：这无法通过增加更多计算 FLOP 和内存容量来解决。 翻译过来就是：纯 GPU 路径已走到尽头。代理型篇章需要的是平台，而非芯片。 他们的七芯片方案：Vera Rubin NVL72——容量和预填充；Vera CPU——工具执行、KV 缓存卸载；Groq 3 LPX——优先 SRAM 解码、低抖动生成；NVLink 6、ConnectX-9、BlueField-4、Spectrum-X——网络结构。 他们声称的结果：在 400K 上下文下，万亿参数 MoE 模型每位用户每秒超过 400 个令牌。Vera 规格：88 核 Olympus、176 线程、1.8 TB/s NVLink-C2C、1.2 TB/s LPDDR5X、2270 亿个晶体管。一个 256 CPU 机架提供 45,056 个线程和 400 TB 内存。 有一个细节无人提及：该博客的第二作者此前是 Groq 的代理负责人，第三作者此前曾在 @GroqInc 和 Intel 任职。NVIDIA 并未授权 LPX 架构，而是吸纳了构建该架构的团队。 Haas 并非提出竞争性论点，而是从另一方证实了这一论点。Arm 数据中心版税收入同比增长一倍，他预计还将再翻一番。 目前感觉进展缓慢，是因为我们正处于平台更迭期。提速将在 2026 年下半年到来。架构之争已尘埃落定，部署是唯一剩下的变量。 我在《安静的建筑师》和《第四块拼图》中深入探讨了这一点。$arm $NVDA