宣布与 OpenAI 建立合作伙伴关系（4 分钟阅读）

# 宣布我们与 OpenAI 的合作 Source: https://www.baseten.co/blog/baseten-openai-partnership/ 我们此前撰写过关于多模型未来发展的文章，而这次公告正显示这个未来正在多么迅速地成为现实。Agentic 编码是目前采用最广泛的 AI 应用场景，而 OpenAI 的 Codex 和 GPT 系列模型正是大规模扩展代码生成工作流的两个最热门选择。随着由 Baseten 提供支持的开源模型现已对 OpenAI 客户开放，企业可以在开源与闭源模型之间优化 agentic 工作流，并将每项任务路由到最合适的模型。 ### Agentic 编码是首个实现全球规模化的多模型工作流 如今，领先的 AI 公司正在转向在智能性、成本、延迟和容量方面采用帕累托前沿（https://www.baseten.co/blog/the-efficient-frontier-of-llm-inference/）的混合模型组合。 顶尖工程团队正在积极地通过静态或自适应路由器，将任务分流到能以最优成本、质量和性能完成工作的模型上。而随着新发布开源与闭源模型的周期已缩短至数周，没有哪个模型能长期作为所有任务的最佳工具。 为了保持领先，企业需要即时获取最新模型的能力，以及能无缝集成到其工具框架（harness）、网关及其他工具链中的快速、可靠的推理服务。Baseten 正是为此而设计，提供高性能基础设施原语和开发者工具，可原生集成到每个组织独特的模型资产体系中。 ### 扩展代码生成多模型智能的新能力 要在生产环境中以可扩展的方式实现每美元最优智能性，模型必须持续稳定地达到预期表现。要让多模型系统在技术上可用，你需要性能、可靠性和灵活性。而要在企业中规模化应用，你还需要流畅的开发者体验、全局治理能力以及一线工程支持。 - **全栈性能优化：**代码生成工作负载在推理层面临特别大的挑战。多轮对话、基于大型代码仓库的超长提示词以及巨大的上下文窗口，会给技术栈的每一个环节带来压力，因此我们的性能优化工作贯穿从工具链到引擎层的全部层面。 - **多云容量与可靠性。**代码生成负载会在整个工程组织中突发涌现，而容量是首先触及瓶颈的约束条件。Baseten 运行在覆盖 20 多个云的 90 多个集群之上，部署采用双活（active-active）架构，因此失去某个云服务商或某个区域只会重新路由流量，而不会中断工作。与 200 多家算力提供商的合作关系，使我们成为新容量上线时的首选合作伙伴，从而让供给能够提前于需求增长。 - **发布日（Day Zero）模型接入：**当一个新发布的开源模型登上代码生成评测榜时，等待一个季度再去评估它是不可接受的。我们在主要开源模型发布当天就会将其上线到 Model APIs。要评估最新发布的前沿模型，只需更新一行代码，就这么简单。 - **开发者（以及智能体）体验：**仅靠推理还不足以支撑编码工作流。智能体需要一个运行其编写代码的环境，这就是为什么现已加入 Baseten（https://www.baseten.co/blog/blaxel-is-joining-baseten-to-build-the-future-of-agentic-cloud/）的 Blaxel 会为每个智能体提供独立沙箱的原因。 - **企业级治理**：代码天然敏感，Baseten 的推理服务运行在美国本土基础设施之上，对所有提示词实施零数据保留（ZDR）。对于更高的合规要求，你可以将部署固定到特定区域、实施细粒度的认证（AuthN）和授权（AuthZ），并查看任意模型、用户或密钥的使用情况。 - **应用研究与嵌入式工程支持：**前沿部署工程师会将部署调优至你所需的延迟目标，应用研究团队会与你一同开展后训练。这就是 LangChain 借助 Baseten Loops 为 LangSmith Engine 训练定制模型的方式（https://www.baseten.co/blog/langchain-trains-custom-models-langsmith-engine-baseten-loops/）。 我们与 OpenAI 的合作，是提供最佳多模型 agentic 编码体验的又一步。借助发布日即可访问的开源前沿模型、快速可靠的推理能力，以及在我们云中或你的云中所提供的容量保障，我们将持续构建你加速 AI 采用、提升每美元智能性价值所需的一切。 要通过你在 OpenAI 的用量承诺在 Codex 中原生访问开源模型，请加入等待名单（https://openai.com/form/marketplace-customer-interest/）。对于其他任何问题，请与我们的工程师聊聊（https://www.baseten.co/talk-to-us/）。