支撑丰富智能的全栈技术

OpenAI Blog 新闻

摘要

OpenAI宣布了其自研推理芯片Jalapeño的首批性能结果,该芯片在吞吐量和延迟方面优于商业系统,这是其集成计算策略的一部分。

OpenAI首席财务官Sarah Friar解释了芯片、计算、模型和产品的进步如何共同作用,以更大规模和更低成本提供更有用的智能。
查看原文
查看缓存全文

缓存时间: 2026/08/25 16:59

# 丰富智能背后的全栈架构 来源:https://openai.com/index/the-full-stack-behind-abundant-intelligence/ AI领域的进展在系统性整体提升时复合增长最快。这正是我思考OpenAI算力战略的方式:一个贯穿数据中心与芯片、前沿模型、开发者平台、消费者与企业产品以及AI原生设备的集成系统,各层级相互增强,形成良性循环。 更优秀的软件能提升硬件生产力。为特定工作负载设计的硬件可优化速度与效率。更强大的模型催生更优质的产品,从而创造更多需求、使用和学习。这些信号反向流动于系统中,助力我们再次改进。 今日我们分享了Jalapeño的首批实测性能数据(https://openai.com/index/jalapeno-first-results/)。作为OpenAI首款定制推理芯片,在InferenceX公开基准测试中(使用GPT‐OSS 120B模型),Jalapeño在峰值吞吐率(每千瓦)和token延迟指标上均优于对比中的商用系统。其在DeepSeek R1和Kimi K2上的强劲表现,证明性能优势可跨模型体系延伸。 ## Jalapeño在先前最佳TBT指标上扩大领先 Jalapeño让我们能更精细地控制模型运行方式及服务成本结构。通过协同开发模型、服务软件、芯片、内存与网络,我们可以将吞吐量、延迟、能效与成本作为统一系统进行优化。这为我们在使用其他合作伙伴加速器之外,建立了可靠的第一方技术路径,增强了为每种工作负载匹配最优系统(兼顾性能与经济效益)的能力。目前我们已拥有经实测验证的第一方硅芯片,下一代产品研发也已启动。 ## 构建广度,掌握杠杆 不同工作负载对系统有不同要求。前沿训练、高并发推理和常驻智能体在芯片、软件、网络、能耗和延迟方面各有需求。 我们的目标是保持帕累托前沿:持续为每种工作负载寻求能力、速度、可靠性、效率与成本的最优组合。不同芯片与供应商在不同维度上各具优势,且前沿始终在移动。 我们的技术组合提供了满足这些需求的弹性。微软的算力与英伟达的芯片是OpenAI成长的基石。如今我们的组合还包括AWS、AMD、博通、Cerebras、CoreWeave、甲骨文、SB Energy和软银。各伙伴在云基础设施、加速计算、低延迟推理、数据中心开发与能源交付方面各有所长。 我们积极管理这一组合,兼顾能力与经济性。在能力最关键处采用高端系统,在规模与成本更重要的场景则优先考虑能效。保持供应商、硬件与部署模式的可信选择,让我们能将需求导向最具性价比的性能配置,随市场变化维持定价纪律,并在更强技术出现时快速跟进。紧密集成能提升整体系统效率的场景,我们选择自主掌控;生态合作能加速发展的领域,我们选择协作共建。 数据中心是另一处杠杆支点。佐治亚州的山茶花项目(https://openai.com/index/building-ai-infrastructure-with-the-effingham-county-community/)展示了我们如何设计以客户工作负载为核心的设施,同时创造就业、支持本地企业、覆盖项目基础设施与能源成本、通过闭环系统节约用水,并接受年度独立公共审计。 ## 将效率转化为经济价值 系统的价值体现在其产出:单位算力产生的更实用智能。 更优的模型能以更少尝试获得正确答案。智能路由与上下文管理减少无效计算。优化软件与专用硬件提升速度与能效。 在人工分析编码智能体指数中,GPT‐5\.6 Sol在启用最大推理能力时达到新高,同时输出token消耗比另一领先模型减少54%。对客户而言,这类改进意味着更快响应、更可靠的产品、更少重试、能完成更长流程的智能体,以及更低的总成功成本。最佳经济性源于单位美元产生的实用智能。 随着实用智能变得更强大且更经济,更多工作在经济上变得可行。企业可为每位客户提供定制分析、审核每份合同、运行实时金融情景模拟,并帮助工程师测试更多方案。这就是杰文斯悖论:更高效率使更多应用产生价值,通过完成更多工作、支持更优决策、推出更多产品、创造更多收入,最终扩大消费并催生新的经济活动。 ## 复利效应 更具生产力的算力与更具竞争力的供应基础,让我们能以更低成本服务更多客户,并将效率提升传递至用户。增长反哺对研究、基础设施与安全的持续投入。这就是OpenAI的复利优势:更优技术创造更佳经济性,更佳经济性资助下一阶段进步,每次进步都让整个系统更加强大。

相似文章

OpenAI 发布首个AI处理器:Jalapeño

The Verge

OpenAI 宣布了其首款定制AI推理芯片 Jalapeño,该芯片是与Broadcom合作开发的,旨在减少对Nvidia GPU的依赖,预计在2026年底前部署。