为 API 客户推出更多企业级功能

# 为 API 客户推出更多企业级功能 来源：https://openai.com/index/more-enterprise-grade-features-for-api-customers/ 我们与许多企业合作，包括 Klarna (https://openai.com/customer-stories/klarna)、Morgan Stanley (https://openai.com/customer-stories/morgan-stanley)、Oscar (https://openai.com/customer-stories/oscar)、Salesforce (https://openai.com/customer-stories/salesforce) 和 Wix (https://openai.com/customer-stories/wix)，帮助他们从零开始构建 AI 解决方案，并在组织和产品中安全地部署 AI。我们正在通过新功能深化对企业的支持，这些功能对大型企业和在我们平台上快速扩展的任何开发者都很有用。 我们推出了 Private Link，这是一种新方式，让客户可以确保 Azure 和 OpenAI 之间的直接通信，同时最大限度地减少暴露在开放互联网中的风险。我们还发布了原生多因素认证 (https://help.openai.com/en/articles/7967234-enabling-multi-factor-authentication-mfa-with-openai)（MFA），以帮助确保符合日益增加的访问控制要求。这些是对我们现有企业安全功能 (https://trust.openai.com/) 堆栈的新补充，包括 SOC 2 Type II 认证、单点登录（SSO）、使用 AES-256 的静态数据加密和使用 TLS 1.2 的传输中加密，以及基于角色的访问控制。我们还为需要 HIPAA 合规性的医疗保健公司提供业务关联协议 (https://help.openai.com/en/articles/8660679-how-can-i-get-a-business-associate-agreement-baa-with-openai)，以及为符合条件的 API 客户提供零数据保留政策。 通过我们新的项目 (https://help.openai.com/en/articles/9186755) 功能，组织将对 OpenAI 中的各个项目拥有更精细的控制和监督。这包括能够将角色和 API 密钥限定于特定项目、限制/允许哪些模型可用，以及设置基于使用量和速率的限制以提供访问权限并避免意外超额。项目所有者还能够创建服务账户 API 密钥，这些密钥可以访问项目而无需与特定用户关联。 更多企业级功能产品演示-1 我们对 Assistants API 进行了多项更新，以实现更准确的检索、更灵活的模型行为和工具使用，以及更好的成本控制。这些功能包括： - 使用"file_search"改进检索，可以为每个助手摄取多达 10,000 个文件——相比之前 20 个文件的限制提高了 500 倍。该工具速度更快，支持通过多线程搜索的并行查询，并增强了重新排名和查询重写功能。 - 流式处理支持实时对话响应——这是开发者和企业的热门需求之一。API 中新增的"vector_store"对象，使文件可以添加到向量存储中，并自动解析、分块和嵌入以准备文件搜索。向量存储可以跨助手和线程使用，简化了文件管理和计费。 - 控制每次运行使用的最大令牌数，加上对每次运行中使用的之前和最近消息的限制，以便管理令牌使用成本。新的"tool_choice"参数可在特定运行中选择特定工具（如"file_search"、"code_interpreter"或"function"）。 - 支持 API 中的微调 GPT-3.5 Turbo 模型（最初，我们将支持"gpt-3.5-turbo-0125"的微调版本）。 更多企业级功能产品演示-2 为了帮助组织在不过度扩展预算的情况下扩展 AI 使用量，我们添加了两种新方式来降低一致性和异步工作负载的成本： - **承诺吞吐量折扣使用：** 在 GPT-4 或 GPT-4 Turbo 上具有持续每分钟令牌 (TPM) 使用水平的客户可以请求访问预配吞吐量，根据承诺规模获得 10–50% 的折扣。 - **异步工作负载的降低成本：** 客户可以使用我们新的批处理 API (https://platform.openai.com/docs/api-reference/batch) 异步运行非紧急工作负载。Batch API 请求的价格比共享价格低 50%，提供更高的速率限制，并在 24 小时内返回结果。这非常适合模型评估、离线分类、摘要和合成数据生成等用例。 我们计划继续添加新功能，重点关注企业级安全、管理控制和成本管理。有关这些推出的更多信息，请访问我们的 API 文档 (https://platform.openai.com/docs/introduction) 或联系我们的团队 (https://openai.com/contact-sales) 讨论针对您企业的定制解决方案。 ## 相关研究