标签
Artificial Analysis 的 AA-AgentPerf 基准通过回放真实编码智能体的运行轨迹来测试推理硬件的能效。结果显示，NVIDIA Vera Rubin 在几乎所有速度档位上均位居前沿首位，领先于 DeepSeek V4 Flash/Pro、Kimi K3 和 GLM-5.2/5.3 等模型的测试配置。
微软宣布将于 2027 年起将 Azure Maia 系统扩展到多吉瓦级部署。Maia 200 已投入生产，并为 Copilot 等服务提供算力；Maia 300 将于 2027 年推出，每兆瓦代币吞吐量比领先的 GPU 系统高出 40%。
作者认为，Tesla 在车载推理计算机上进行迭代式扩展的做法在当时前所未有，而当前的 AI 算力短缺仅仅只是开始 —— 一旦自动驾驶变得不可或缺，将会出现远比现在严重得多的算力缺口。
NVIDIA正在将Groq技术集成到机架规模的产品中，以通过跨专业处理器分配工作负载来增强代理AI性能，改善令牌生成延迟和整体响应性。
在 Startup School 2026 上，谷歌首席科学家 Jeff Dean 讲述了那个让谷歌搜索索引能装进内存的餐巾纸计算，以及 TPU 的研发过程，探讨了推理硬件专业化的趋势，以及初创公司如何依然有机会竞争。
AI 推理硬件初创公司 Etched 在获得 8 亿美元融资并签署超过 10 亿美元客户合同后结束隐身模式。首批机架将于今年夏季发货，声称在吞吐量、延迟和能效方面达到业界领先水平。