NVIDIA全面投产Groq 3 LPX AI推理加速芯片,以史上最快的令牌生成速度为Vera Rubin平台注入强大动力(4分钟阅读)

TLDR AI 产品

摘要

NVIDIA已开始全面生产Groq 3 LPX AI推理加速芯片,该芯片为Vera Rubin平台提供支持,实现了AI模型有史以来最快的令牌生成速度。

NVIDIA的Groq 3 LPX AI推理加速芯片现已全面投产。Groq 3 LPX机柜是NVIDIA Vera Rubin平台的扩展。它们提供了增强的AI推理能力,可实现对响应敏感的智能体工作负载的超快令牌生成。Groq 3 LPX使得智能体AI任务得以在几分钟内完成,而非数小时。与最接近的替代平台相比,其响应速度提升了4倍。
查看原文
查看缓存全文

缓存时间: 2026/08/25 15:47

# NVIDIA Groq 3 LPX AI推理加速芯片全面量产,以史上最快Token生成速度超燃驱动Vera Rubin 来源:https://wccftech.com/nvidia-groq-3-lpx-ai-inference-accelerator-full-production-supercharging-vera-rubin/ NVIDIA的Groq 3 LPX现已全面量产,为Agentic AI领域的Vera Rubin平台带来大幅提升的Token生成加速。 ## NVIDIA大幅提升Vera Rubin NVL72的Token生成能力,Groq 3 LPX AI推理加速器实现3400 TPS创纪录表现 作为Hot Chips 2026大会发布内容的一部分,NVIDIA今日宣布其Groq 3 LPX AI推理加速芯片(https://wccftech.com/nvidia-unveils-vera-rubin-with-groq-lpx-to-break-into-inference/)已进入全面量产阶段。此公告紧随Vera CPU与Vera Rubin服务器的量产发布之后,标志着NVIDIA AI路线图的稳健执行。 一张标题为“输出速度:Gemma 4 31B(推理模式)”的柱状图对比了NVIDIA Groq 3 LPX(标注为“4倍速”)与其他实时无服务器数据端点的表现。(https://cdn.wccftech.com/wp-content/uploads/2026/08/NVIDIA-Groq-3-LPX-Vera-Rubin-scaled.jpg)Groq 3 LPX机架作为NVIDIA Vera Rubin平台(https://wccftech.com/nvidia-vera-rubin-nvl72-enters-the-stage-with-a-monstrous-10x-uplift-in-ai-vs-blackwell/)的扩展,提供增强的AI推理能力,能够为响应敏感型Agentic工作负载实现超快Token生成——因为这些系统可以在数百甚至数千个推理步骤中生成海量Token,使快速Token生成成为AI工厂的关键环节。 虽然NVIDIA的Vera Rubin NVL72是面向Agentic AI的前沿解决方案,但其能力可通过Groq 3 LPX方案进一步增强。 在演示中,NVIDIA展示了搭载Groq 3 LPX的Vera Rubin NVL72平台在运行开源模型Gemma 4 31B时,在Artificial Analysis测试中达到了每秒3400个Token的创纪录输出速度。在100,000个Token的上下文窗口下,这是该模型有史以来记录到的最快性能。 NVIDIA Rubin GPU处理大规模上下文处理,而LPX则加速对延迟敏感的解码工作负载。其结果是更快、更可预测的Token生成,帮助AI工厂提供响应迅速的推理、更流畅的智能体交互以及更高的基础设施效率。 一张标题为“NVIDIA Groq 3 LPX——开创用户交互新高度”的图表展示了用户交互性与TPS/MW的提升,对比了Hopper NVL8、Blackwell NVL72与Vera Rubin NVL72。(https://cdn.wccftech.com/wp-content/uploads/2026/08/NVIDIA-Groq-3-LPX-Vera-Rubin-_1.jpg)借助Groq 3 LPX,NVIDIA还能将编程等Agentic AI任务在数分钟内完成,而非数小时,相比最接近的替代平台提供4倍的响应速度提升。这可不是说说而已! > “推理是AI的增长引擎。NVIDIA Grace Blackwell与NVL72通过性能和效率上的空前飞跃,彻底革新了大型语言模型推理,”NVIDIA创始人兼首席执行官黄仁勋表示。“Vera Rubin通过专为Agentic AI时代设计的工作负载优化型AI工厂配置,延续了这一愿景,并借助LPX推进性能边界,实现超快速Token生成。这改变了智能的生产方式,在全球AI计算需求加速增长之际,再次实现了AI吞吐量、效率和响应速度的巨大飞跃。” NVIDIA Groq 3 LPX方案也正被AI云服务商视为满足日益增长需求的解决方案,为企业和开发者提供用于大规模训练、推理和推理的先进基础设施。例如,Nebius计划在其Nebius Token Factory中应用Groq 3 LPX。 > “生成阶段是决定AI系统实际响应速度的推理环节,而这正是NVIDIA Groq 3 LPX旨在加速的部分,”Nebius首席技术官Danila Shtan表示。“作为首家通过Nebius Token Factory将其投入生产的AI云服务商,我们确保智能体循环的每一步都感觉即时完成——通过开发者已熟悉的API,无需迁移到新平台。” Groq 3 LPX与Vera Rubin的组合专为Agentic AI时代设计,带来为最大化响应速度、吞吐量和效率而构建的专用推理架构,助力驱动下一代AI工厂。 哈桑·穆杰塔巴 摄(https://wccftech.com/author/hms/) **关于作者(https://wccftech.com/author/hms/):** 哈桑·穆杰塔巴是Wccftech硬件版块的高级编辑,职业背景为软件工程师,同时也是狂热的PC爱好者。凭借多年行业经验,他专注于对下一代CPU与GPU架构、主板及散热解决方案进行深度技术分析。他的工作不仅包括对即将到来的技术进行报道,还涵盖广泛的实机评测与基准测试。 在Google上关注Wccftech(https://profile.google.com/cp/Cg0vZy8xMWM3NDB2MmIyGgA),以便在您的信息流中获取更多我们的新闻报道。

相似文章

NVIDIA刚刚发布了全新的Vera CPU——据称比x86快两倍

Reddit r/ArtificialInteligence

NVIDIA宣布了采用全新Vera架构的CPU,该架构从头开始为智能代理AI和强化学习而设计,声称性能达到x86替代方案的两倍。Vera Rubin NVL72平台集成了72个GPU和36个CPU,主要客户包括Meta、Oracle和Alibaba。

为什么关于 Vera Rubin NVL72 的讨论这么少?

Reddit r/singularity

NVIDIA Vera Rubin NVL72 机架开始交付,承诺能效提升至 4 倍、速度提升至 2 倍,NVLink 带宽翻倍,不过,Claude 或 GPT 是否会在生产环境中采用这些机架,以及它们与谷歌定制芯片相比表现如何,仍有待观察。