NVIDIA报告称，Vera Rubin的智能体吞吐量每兆瓦最高提升30倍——但每兆瓦的令牌数仍不等同于每兆瓦的完成工作量

Reddit r/ArtificialInteligence 新闻
nvidia vera-rubin agentic-ai throughput benchmark performance power-efficiency

摘要

NVIDIA报告称，与GB300相比，Vera Rubin的每兆瓦智能体吞吐量最高提升30倍，但强调生产基准测试应包含超越每瓦令牌数的额外指标。

NVIDIA的新AgentX结果重放了具有长上下文、KV缓存重用、工具缺口和动态并发的生产风格编码智能体会话。其Vera Rubin预览结果声称在匹配的交互性目标下，每兆瓦吞吐量比GB300高30倍；NVIDIA表示该结果正在等待SemiAnalysis审查。这比固定的8K/1K服务更具代表性，但分子仍仅限于令牌数。生产基准测试还应报告： - 每兆瓦时接受的任务结果 - 完成延迟分布 - 工具和重试放大 - 缓存命中率和内存压力 - 模型和框架等价性 - 人工审查分钟数和回滚率 一个高效的系统同样能高效地生成更多无用的工作。来源：NVIDIA技术博客，2026年8月24日 — https://developer.nvidia.com/blog/nvidia-vera-rubin-and-blackwell-set-a-new-standard-for-agentic-ai-performance-per-watt/
查看原文

相似文章

为什么关于 Vera Rubin NVL72 的讨论这么少？

Reddit r/singularity

NVIDIA Vera Rubin NVL72 机架开始交付，承诺能效提升至 4 倍、速度提升至 2 倍，NVLink 带宽翻倍，不过，Claude 或 GPT 是否会在生产环境中采用这些机架，以及它们与谷歌定制芯片相比表现如何，仍有待观察。