NVIDIA全面投产Groq 3 LPX AI推理加速芯片,以史上最快的令牌生成速度为Vera Rubin平台注入强大动力(4分钟阅读)
摘要
NVIDIA已开始全面生产Groq 3 LPX AI推理加速芯片,该芯片为Vera Rubin平台提供支持,实现了AI模型有史以来最快的令牌生成速度。
NVIDIA的Groq 3 LPX AI推理加速芯片现已全面投产。Groq 3 LPX机柜是NVIDIA Vera Rubin平台的扩展。它们提供了增强的AI推理能力,可实现对响应敏感的智能体工作负载的超快令牌生成。Groq 3 LPX使得智能体AI任务得以在几分钟内完成,而非数小时。与最接近的替代平台相比,其响应速度提升了4倍。
查看缓存全文
缓存时间: 2026/08/25 15:47
# NVIDIA Groq 3 LPX AI推理加速芯片全面量产,以史上最快Token生成速度超燃驱动Vera Rubin
来源:https://wccftech.com/nvidia-groq-3-lpx-ai-inference-accelerator-full-production-supercharging-vera-rubin/
NVIDIA的Groq 3 LPX现已全面量产,为Agentic AI领域的Vera Rubin平台带来大幅提升的Token生成加速。
## NVIDIA大幅提升Vera Rubin NVL72的Token生成能力,Groq 3 LPX AI推理加速器实现3400 TPS创纪录表现
作为Hot Chips 2026大会发布内容的一部分,NVIDIA今日宣布其Groq 3 LPX AI推理加速芯片(https://wccftech.com/nvidia-unveils-vera-rubin-with-groq-lpx-to-break-into-inference/)已进入全面量产阶段。此公告紧随Vera CPU与Vera Rubin服务器的量产发布之后,标志着NVIDIA AI路线图的稳健执行。
一张标题为“输出速度:Gemma 4 31B(推理模式)”的柱状图对比了NVIDIA Groq 3 LPX(标注为“4倍速”)与其他实时无服务器数据端点的表现。(https://cdn.wccftech.com/wp-content/uploads/2026/08/NVIDIA-Groq-3-LPX-Vera-Rubin-scaled.jpg)Groq 3 LPX机架作为NVIDIA Vera Rubin平台(https://wccftech.com/nvidia-vera-rubin-nvl72-enters-the-stage-with-a-monstrous-10x-uplift-in-ai-vs-blackwell/)的扩展,提供增强的AI推理能力,能够为响应敏感型Agentic工作负载实现超快Token生成——因为这些系统可以在数百甚至数千个推理步骤中生成海量Token,使快速Token生成成为AI工厂的关键环节。
虽然NVIDIA的Vera Rubin NVL72是面向Agentic AI的前沿解决方案,但其能力可通过Groq 3 LPX方案进一步增强。
在演示中,NVIDIA展示了搭载Groq 3 LPX的Vera Rubin NVL72平台在运行开源模型Gemma 4 31B时,在Artificial Analysis测试中达到了每秒3400个Token的创纪录输出速度。在100,000个Token的上下文窗口下,这是该模型有史以来记录到的最快性能。
NVIDIA Rubin GPU处理大规模上下文处理,而LPX则加速对延迟敏感的解码工作负载。其结果是更快、更可预测的Token生成,帮助AI工厂提供响应迅速的推理、更流畅的智能体交互以及更高的基础设施效率。
一张标题为“NVIDIA Groq 3 LPX——开创用户交互新高度”的图表展示了用户交互性与TPS/MW的提升,对比了Hopper NVL8、Blackwell NVL72与Vera Rubin NVL72。(https://cdn.wccftech.com/wp-content/uploads/2026/08/NVIDIA-Groq-3-LPX-Vera-Rubin-_1.jpg)借助Groq 3 LPX,NVIDIA还能将编程等Agentic AI任务在数分钟内完成,而非数小时,相比最接近的替代平台提供4倍的响应速度提升。这可不是说说而已!
> “推理是AI的增长引擎。NVIDIA Grace Blackwell与NVL72通过性能和效率上的空前飞跃,彻底革新了大型语言模型推理,”NVIDIA创始人兼首席执行官黄仁勋表示。“Vera Rubin通过专为Agentic AI时代设计的工作负载优化型AI工厂配置,延续了这一愿景,并借助LPX推进性能边界,实现超快速Token生成。这改变了智能的生产方式,在全球AI计算需求加速增长之际,再次实现了AI吞吐量、效率和响应速度的巨大飞跃。”
NVIDIA Groq 3 LPX方案也正被AI云服务商视为满足日益增长需求的解决方案,为企业和开发者提供用于大规模训练、推理和推理的先进基础设施。例如,Nebius计划在其Nebius Token Factory中应用Groq 3 LPX。
> “生成阶段是决定AI系统实际响应速度的推理环节,而这正是NVIDIA Groq 3 LPX旨在加速的部分,”Nebius首席技术官Danila Shtan表示。“作为首家通过Nebius Token Factory将其投入生产的AI云服务商,我们确保智能体循环的每一步都感觉即时完成——通过开发者已熟悉的API,无需迁移到新平台。”
Groq 3 LPX与Vera Rubin的组合专为Agentic AI时代设计,带来为最大化响应速度、吞吐量和效率而构建的专用推理架构,助力驱动下一代AI工厂。
哈桑·穆杰塔巴 摄(https://wccftech.com/author/hms/)
**关于作者(https://wccftech.com/author/hms/):** 哈桑·穆杰塔巴是Wccftech硬件版块的高级编辑,职业背景为软件工程师,同时也是狂热的PC爱好者。凭借多年行业经验,他专注于对下一代CPU与GPU架构、主板及散热解决方案进行深度技术分析。他的工作不仅包括对即将到来的技术进行报道,还涵盖广泛的实机评测与基准测试。
在Google上关注Wccftech(https://profile.google.com/cp/Cg0vZy8xMWM3NDB2MmIyGgA),以便在您的信息流中获取更多我们的新闻报道。
相似文章
Groq 3 LPX全面投产,NVIDIA扩展Vera Rubin代理推理平台
NVIDIA宣布Groq 3 LPX现已全面投产,通过Vera Rubin平台为代理AI系统提供超快令牌生成能力,基准测试显示性能提升4倍。
NVIDIA刚刚发布了全新的Vera CPU——据称比x86快两倍
NVIDIA宣布了采用全新Vera架构的CPU,该架构从头开始为智能代理AI和强化学习而设计,声称性能达到x86替代方案的两倍。Vera Rubin NVL72平台集成了72个GPU和36个CPU,主要客户包括Meta、Oracle和Alibaba。
NVIDIA Vera Rubin:每瓦性能驱动,为全球合作伙伴提供最低代币成本
NVIDIA宣布Vera Rubin平台,每兆瓦吞吐量比Blackwell提升10倍,并通过跨越七颗芯片和五个机架托盘的极致协同设计,为AI工厂提供最低的代币成本。
NVIDIA 在 AI 代理的 Groq 3 LPX 上是否一针见血?
这篇文章讨论了推理延迟如何成为生产环境 AI 代理的关键瓶颈,并探讨了 NVIDIA 的 Groq 3 LPX 作为针对智能体工作负载低延迟推理的新发展。
为什么关于 Vera Rubin NVL72 的讨论这么少?
NVIDIA Vera Rubin NVL72 机架开始交付,承诺能效提升至 4 倍、速度提升至 2 倍,NVLink 带宽翻倍,不过,Claude 或 GPT 是否会在生产环境中采用这些机架,以及它们与谷歌定制芯片相比表现如何,仍有待观察。