AA-AgentPerf：Vera Rubin 在推理能效方面领先

Reddit r/singularity 新闻
inference-hardware benchmark nvidia energy-efficiency ai-agents gpu

摘要

Artificial Analysis 的 AA-AgentPerf 基准通过回放真实编码智能体的运行轨迹来测试推理硬件的能效。结果显示，NVIDIA Vera Rubin 在几乎所有速度档位上均位居前沿首位，领先于 DeepSeek V4 Flash/Pro、Kimi K3 和 GLM-5.2/5.3 等模型的测试配置。

Artificial Analysis 的 AA-AgentPerf 通过重放真实编码智能体的执行轨迹来评测推理硬件，这些轨迹包含长上下文、工具调用停顿以及大量 KV 缓存复用。它绘制了服务器总吞吐量（按仅 GPU 功耗的每兆瓦计算）与单请求输出速度第 25 百分位数（p25）之间的关系。在全部四个受测模型（DeepSeek V4.1 Flash、DeepSeek V4 Pro 0813、Kimi K3 和 GLM-5.2/5.3）中，NVIDIA 的 Vera Rubin 几乎在所有速度下都位居性能前沿的最顶端。
查看原文

相似文章