支撑丰富智能的全栈技术
摘要
OpenAI宣布了其自研推理芯片Jalapeño的首批性能结果,该芯片在吞吐量和延迟方面优于商业系统,这是其集成计算策略的一部分。
OpenAI首席财务官Sarah Friar解释了芯片、计算、模型和产品的进步如何共同作用,以更大规模和更低成本提供更有用的智能。
查看缓存全文
缓存时间: 2026/08/25 16:59
# 丰富智能背后的全栈架构
来源:https://openai.com/index/the-full-stack-behind-abundant-intelligence/
AI领域的进展在系统性整体提升时复合增长最快。这正是我思考OpenAI算力战略的方式:一个贯穿数据中心与芯片、前沿模型、开发者平台、消费者与企业产品以及AI原生设备的集成系统,各层级相互增强,形成良性循环。
更优秀的软件能提升硬件生产力。为特定工作负载设计的硬件可优化速度与效率。更强大的模型催生更优质的产品,从而创造更多需求、使用和学习。这些信号反向流动于系统中,助力我们再次改进。
今日我们分享了Jalapeño的首批实测性能数据(https://openai.com/index/jalapeno-first-results/)。作为OpenAI首款定制推理芯片,在InferenceX公开基准测试中(使用GPT‐OSS 120B模型),Jalapeño在峰值吞吐率(每千瓦)和token延迟指标上均优于对比中的商用系统。其在DeepSeek R1和Kimi K2上的强劲表现,证明性能优势可跨模型体系延伸。
## Jalapeño在先前最佳TBT指标上扩大领先
Jalapeño让我们能更精细地控制模型运行方式及服务成本结构。通过协同开发模型、服务软件、芯片、内存与网络,我们可以将吞吐量、延迟、能效与成本作为统一系统进行优化。这为我们在使用其他合作伙伴加速器之外,建立了可靠的第一方技术路径,增强了为每种工作负载匹配最优系统(兼顾性能与经济效益)的能力。目前我们已拥有经实测验证的第一方硅芯片,下一代产品研发也已启动。
## 构建广度,掌握杠杆
不同工作负载对系统有不同要求。前沿训练、高并发推理和常驻智能体在芯片、软件、网络、能耗和延迟方面各有需求。
我们的目标是保持帕累托前沿:持续为每种工作负载寻求能力、速度、可靠性、效率与成本的最优组合。不同芯片与供应商在不同维度上各具优势,且前沿始终在移动。
我们的技术组合提供了满足这些需求的弹性。微软的算力与英伟达的芯片是OpenAI成长的基石。如今我们的组合还包括AWS、AMD、博通、Cerebras、CoreWeave、甲骨文、SB Energy和软银。各伙伴在云基础设施、加速计算、低延迟推理、数据中心开发与能源交付方面各有所长。
我们积极管理这一组合,兼顾能力与经济性。在能力最关键处采用高端系统,在规模与成本更重要的场景则优先考虑能效。保持供应商、硬件与部署模式的可信选择,让我们能将需求导向最具性价比的性能配置,随市场变化维持定价纪律,并在更强技术出现时快速跟进。紧密集成能提升整体系统效率的场景,我们选择自主掌控;生态合作能加速发展的领域,我们选择协作共建。
数据中心是另一处杠杆支点。佐治亚州的山茶花项目(https://openai.com/index/building-ai-infrastructure-with-the-effingham-county-community/)展示了我们如何设计以客户工作负载为核心的设施,同时创造就业、支持本地企业、覆盖项目基础设施与能源成本、通过闭环系统节约用水,并接受年度独立公共审计。
## 将效率转化为经济价值
系统的价值体现在其产出:单位算力产生的更实用智能。
更优的模型能以更少尝试获得正确答案。智能路由与上下文管理减少无效计算。优化软件与专用硬件提升速度与能效。
在人工分析编码智能体指数中,GPT‐5\.6 Sol在启用最大推理能力时达到新高,同时输出token消耗比另一领先模型减少54%。对客户而言,这类改进意味着更快响应、更可靠的产品、更少重试、能完成更长流程的智能体,以及更低的总成功成本。最佳经济性源于单位美元产生的实用智能。
随着实用智能变得更强大且更经济,更多工作在经济上变得可行。企业可为每位客户提供定制分析、审核每份合同、运行实时金融情景模拟,并帮助工程师测试更多方案。这就是杰文斯悖论:更高效率使更多应用产生价值,通过完成更多工作、支持更优决策、推出更多产品、创造更多收入,最终扩大消费并催生新的经济活动。
## 复利效应
更具生产力的算力与更具竞争力的供应基础,让我们能以更低成本服务更多客户,并将效率提升传递至用户。增长反哺对研究、基础设施与安全的持续投入。这就是OpenAI的复利优势:更优技术创造更佳经济性,更佳经济性资助下一阶段进步,每次进步都让整个系统更加强大。
相似文章
Jalapeño首次结果彰显AI推理行业领先速度与效率
OpenAI的Jalapeño定制推理芯片展现行业领先速度与效率,在各类AI模型中实现更高吞吐量与更低延迟。
OpenAI 的 Jalapeño 芯片专为快速大规模推理而构建,基准测试显示
OpenAI 的 Jalapeño 芯片,与 Broadcom 共同开发,在 AI 推理基准测试中显示出显著的性能提升,超越了像 Nvidia 的 Blackwell 这样的尖端处理器。该芯片针对快速、高效的大规模推理进行了优化,部署将于 2026 年底开始。
OpenAI 发布首个AI处理器:Jalapeño
OpenAI 宣布了其首款定制AI推理芯片 Jalapeño,该芯片是与Broadcom合作开发的,旨在减少对Nvidia GPU的依赖,预计在2026年底前部署。
OpenAI 推出其首款定制芯片,由 Broadcom 制造
OpenAI 发布了其首款自研推理处理器 Jalapeño,与 Broadcom 合作开发,旨在提升每瓦性能并减少对 Nvidia GPU 的依赖。
OpenAI称其Jalapeño芯片可实现比竞争对手更快的AI响应
OpenAI的Jalapeño AI芯片每瓦性能提升1.5至1.9倍,延迟低于Nvidia芯片,计划年底小批量部署开始