应对合成语音的挑战与机遇

# 探讨合成语音的挑战与机遇 来源：https://openai.com/index/navigating-the-challenges-and-opportunities-of-synthetic-voices/ 我们认识到生成类似真人语音的技术存在严重风险，在选举年尤为值得关注。我们正在与来自政府、媒体、娱乐、教育、民间社会等各个领域的美国和国际合作伙伴进行沟通，以确保在开发过程中融入他们的反馈意见。目前正在测试 Voice Engine 的合作伙伴已同意遵守我们的使用政策 (https://openai.com/policies/usage-policies)，这些政策禁止在未获得同意或法律授权的情况下冒充他人或组织。此外，我们与这些合作伙伴的协议要求获得原始说话人的明确知情同意，并且我们不允许开发者构建让用户创建自己语音的功能。合作伙伴还必须向其听众清楚地披露他们听到的语音是由人工智能生成的。最后，我们已实施一套安全措施，包括对 Voice Engine 生成的任何音频进行水印标记以追踪其来源，以及对其使用方式的主动监控。我们相信，任何合成语音技术的广泛部署都应该配备语音身份认证体验来验证原始说话人是否故意将其语音添加到服务中，以及包含禁用语音列表以检测并防止创建过于相似于知名人物的语音。 Voice Engine 是我们承诺理解技术前沿并公开分享人工智能技术可能性的延续。根据我们的人工智能安全方法 (https://openai.com/blog/our-approach-to-ai-safety) 和自愿承诺 (https://openai.com/blog/moving-ai-governance-forward)，我们选择预览此技术，但目前不进行广泛发布。我们希望 Voice Engine 的预览既能强调其潜力，也能促使社会增强抵御能力以应对日益逼真的生成模型所带来的挑战。具体来说，我们鼓励采取以下措施： - 逐步停止将基于语音的身份认证用作访问银行账户和其他敏感信息的安全措施 - 探索政策以保护个人语音在人工智能中的使用 - 向公众宣传和教育人工智能技术的能力和局限性，包括欺骗性人工智能内容的可能性 - 加快开发和采用追踪视听内容来源的技术，使人们始终能够清楚地了解自己是在与真人还是与人工智能互动 全球人民了解这项技术的发展方向很重要，无论我们最终是否会广泛部署它。我们期待继续与政策制定者、研究人员、开发者和创意工作者就合成语音的挑战和机遇进行对话。