OpenAI API

# OpenAI API 来源: https://openai.com/index/openai-api/ 我们正在发布一个 API，用于访问 OpenAI 开发的新型 AI 模型。与大多数为特定用例设计的 AI 系统不同，该 API 目前提供通用的"文本输入、文本输出"接口，允许用户在几乎任何英文任务上尝试使用。您现在可以请求访问权限，以将 API 集成到您的产品中、开发全新应用程序或帮助我们探索这一技术的优势和局限性。 该领域发展步伐很快，AI 的应用频繁出现令人惊喜的新用途，既包括积极的，也包括消极的。我们将终止显然有害的使用案例的 API 访问权限，如骚扰、垃圾邮件、激进化或虚假宣传活动。但我们也认识到，无法预测这一技术的所有可能后果，因此我们今天以私测版而非公开版的形式推出，开发工具帮助用户更好地控制我们 API 返回的内容，并研究语言技术的安全相关方面（如分析、缓解和干预有害偏见）。我们将分享学到的知识，使用户和更广泛的社区能够构建更有利于人类的 AI 系统。 对于 GPT-2，我们的一个主要关注点是该模型的恶意使用（例如用于虚假信息传播），这在模型开源后难以防止。对于 API，我们能够通过限制对已批准客户和使用案例的访问来更好地防止滥用。我们在拟议的应用程序上线前有强制性的生产审查流程。在生产审查中，我们从几个维度评估应用程序，提出以下问题：*这是目前支持的使用案例吗？*、*应用程序的开放程度如何？*、*应用程序的风险有多大？*、*您计划如何解决潜在的滥用问题？*和*您应用程序的最终用户是谁？* 我们将终止被发现会造成（或意图造成）对人身体、情感或心理伤害的使用案例的 API 访问权限，包括但不限于骚扰、故意欺骗、激进化、虚假宣传活动或垃圾邮件，以及防护措施不足以限制最终用户滥用的应用程序。随着我们在实践中获得更多操作 API 的经验，我们将不断完善支持的使用类别，既要扩大支持的应用范围，也要为我们有滥用顾虑的类别创建更细粒度的分类。 我们在批准 API 使用时考虑的一个关键因素是应用程序相对于系统底层生成能力表现出的开放性与受限性的程度。API 的开放性应用（即允许通过任意提示无摩擦地生成大量可定制文本的应用）特别容易被滥用。能够使生成性使用案例更安全的约束包括保持人类参与其中的系统设计、最终用户访问限制、输出后处理、内容过滤、输入/输出长度限制、主动监控和主题相关性限制。 我们还在继续研究通过 API 提供的模型的潜在滥用情况，包括与第三方研究人员合作，通过我们的[学术访问计划](https://share.hsforms.com/1b-BEAq_qQpKcfFGKwwuhxA4sk30)进行。目前我们与数量有限的研究人员合作，已经从来自[Middlebury Institute](https://www.middlebury.edu/institute/academics/centers-initiatives/ctec/ctec-publications-0/radicalization-risks-gpt-3-and-neural)、华盛顿大学和[Allen Institute for AI](https://arxiv.org/abs/2009.11462)的学术合作伙伴那里获得了一些成果。该计划已有数万名申请者，目前我们优先处理专注于公平性和代表性研究的申请。