NVIDIA GPU 如何帮助加速 OpenAI 的 GPT-6 Astra Ultrafast

<div id="bsf_rt_marker"></div><p><span style="font-weight: 400;">GPT-6 Astra Ultrafast 运行于 </span><a target="_blank" href="https://www.nvidia.com/en-us/data-center/technologies/blackwell-architecture/"><span style="font-weight: 400;">NVIDIA Blackwell GPU</span></a><span style="font-weight: 400;"> 之上，现已在 OpenAI API 中上线，并向符合条件的 ChatGPT Work 和 Codex 用户开放。 </span></p> <p><span style="font-weight: 400;">通过 OpenAI 模型进行的推理优化，充分利用 NVIDIA Blackwell 架构的能力，Ultrafast 的 token 生成速度比 Astra 标准模式最高快 8 倍。对开发者而言，更快的生成速度可以缩短编码智能体的编辑—测试—调试循环，减少工具调用之间生成回复的时间，并让交互式应用的响应更加流畅。 </span></p> <p><span style="font-weight: 400;">当这种速度优势贯穿整个工作流时，其价值最为明显：智能体编写代码、使用工具、检查结果，再决定下一步行动。Ultrafast 将 Astra 的能力带入这些对时效要求极高的循环之中。NVIDIA 的 AI 基础设施帮助 OpenAI 在开发者需要时提供更有用的模型输出。 </span></p> <p><span style="font-weight: 400;">“NVIDIA 在工具链和文档方面的深度投入，使我们的模型在为 Blackwell 和 Rubin GPU 编程方面表现出色，”OpenAI 推理负责人 Philippe Tillet 表示。“Astra 能够将这些知识转化为高性能内核，使 NVIDIA 硬件在延迟、吞吐量和成本的全维度上都极具竞争力。借助 Astra Ultrafast，这意味着智能体在编写代码、使用工具以及完成复杂任务时，模型响应会更快。”</span></p> <h2><b>持续提升性能</b></h2> <p><span style="font-weight: 400;">模型部署之后，性能优化并未止步。OpenAI 正在利用自有模型帮助改进运行于 NVIDIA GPU 上的推理软件，借助该平台的可编程性来测试并落地各项改进。这项持续的工作可使模型响应更快，并让已部署的基础设施随时间推移产出更高。 </span></p> <p><span style="font-weight: 400;">“与 NVIDIA 的合作帮助我们让 AI 更快、更有用，”OpenAI 计算首席技术官 Uday Ruddarraju 表示。“我们利用内部模型优化了 NVIDIA GPU 上的推理，而 NVIDIA 的可编程性帮助我们实现了 Astra Ultrafast 背后的加速效果。”</span></p> <p><span style="font-weight: 400;">可编程的 NVIDIA 平台让开发者和研究人员能够随着模型的演进，在训练、推理和强化学习之间复用同一套基础设施。这种灵活性有助于团队根据需求变化重新调配算力资源，提高利用率，并避免为每种工作负载过度配置。</span></p> <p><i><span style="font-weight: 400;">开发者今天即可通过 API 使用 GPT-6 Astra Ultrafast。访问方式、定价和实施详情请参见 </span></i><a target="_blank" href="https://developers.openai.com/api/docs/guides/ultrafast-mode"><i><span style="font-weight: 400;">Ultrafast 指南</span></i></a><i><span style="font-weight: 400;">。</span></i></p>