深入探讨 Voice Engine 的工作原理和我们的安全研究

# 扩展 Voice Engine 的工作原理和我们的安全研究 来源：https://openai.com/index/expanding-on-how-voice-engine-works-and-our-safety-research/ 我们在 2022 年末首次开发了 Voice Engine。早期，为了评估我们 Voice Engine 模型的能力和局限性，我们使用公开和私人语音样本的混合进行了内部测试。这个内部原型对我们的对齐和安全研究至关重要，为我们的保障措施提供了信息，是我们致力于理解技术前沿的延续。 重要的是，这些输出仅供内部测试使用，不用于训练支持我们产品的模型。 作为迭代部署框架的一部分，这个早期原型在帮助政策制定者理解合成语音模型的能力方面也发挥了重要作用。例如，从去年夏天开始，我们向最高级别的全球政策制定者展示了该技术的潜力，并与他们讨论了相关风险。 2023 年 9 月 (https://openai.com/index/chatgpt-can-now-see-hear-and-speak/)，我们使用 Voice Engine 为 ChatGPT 的语音模式功能提供支持。由于这些功能也带来了新的风险，我们仅将其用于此特定用例。语音模式完全由真实人声创建，通过一个详细的流程 (https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/) 精心选择，该流程始于 2023 年 5 月，涉及专业配音演员、人才代理机构、选角导演和行业顾问。 2023 年 11 月 (https://openai.com/index/new-models-and-developer-products-announced-at-devday/)，我们发布了一个简单的 TTS API (https://platform.openai.com/docs/guides/text-to-speech)，也由 Voice Engine 提供支持。我们选择了另一个有限的发布，与专业配音演员合作，为 API 中的六个预设语音创建 15 秒的音频样本。开发者可以将其集成到他们的网站中，例如大声朗读博客文章。 今年 3 月 (https://openai.com/index/navigating-the-challenges-and-opportunities-of-synthetic-voices/)，我们与一小批受信任的合作伙伴一起预览了 Voice Engine 创建自定义语音的能力。这项计划旨在提高人们对合成语音能力的认识，并支持以下目标： - 逐步淘汰基于语音的身份验证作为访问银行账户和其他敏感信息的安全措施 - 探索保护个人语音在人工智能中使用的政策 - 教育公众了解人工智能技术的能力和局限性，包括欺骗性人工智能内容的可能性 - 加速开发和采用追踪视听内容来源的技术，使人们始终清楚地知道自己是在与真人互动还是与人工智能互动 这些小规模部署也在帮助我们了解我们的方法、保障措施，以及 Voice Engine 如何能够在各行各业造福的思考。