负责任地推出 Sora

# 负责任地推出 Sora 来源：https://openai.com/index/launching-sora-responsibly/ Sora 2 和 Sora 应用将尖端视频生成与全新的协作方式相结合，我们从一开始就确保安全性内置其中。我们的方法以具体的保护措施为基础： - **区分 AI 生成内容。** 每个使用 Sora 生成的视频都包含可见和不可见的溯源信号。在推出时，所有输出都带有可见的水印。所有 Sora 视频还嵌入了 C2PA 元数据——这是一个行业标准的签名——我们维护内部的反向图像和音频搜索工具，可以以高准确度将视频追溯到 Sora，这是基于 ChatGPT 图像生成和 Sora 1 中成功的系统。 - **基于角色的同意肖像使用。** 我们的目标是通过 Sora 角色功能让你端到端地控制自己的肖像。我们设有防护栏，以确保你的音频和图像肖像在角色中的使用得到你的同意。只有你可以决定谁可以使用你的角色，并且你可以随时撤销访问权限。我们还采取措施阻止公众人物的描绘（当然，除了使用角色功能的情况）。包含你的角色的视频——包括其他用户创建的草稿——总是对你可见的。这让你可以轻松查看和删除（如需要，还可以举报）任何包含你角色的视频。我们还对任何包含角色的视频应用额外的安全防护栏，你甚至可以设置你的角色的行为偏好——例如，要求它始终戴着礼帽。 - **青少年保护措施。** Sora 为年轻用户提供更强大的保护，包括对不当内容的限制。该动态源设计适合青少年，青少年资料不会被推荐给成年人，成年人无法主动与青少年进行消息交流。ChatGPT 中的新家长控制功能让父母可以管理青少年是否可以发送和接收私信，以及在 Sora 应用中选择非个性化动态源。默认情况下，青少年在 Sora 中的连续滚动时间也受到限制。 - **有害内容过滤。** Sora 使用分层防御来保持动态源的安全，同时为创意留出空间。在创建时，防护栏寻求在生成内容之前阻止不安全内容——包括性材料、恐怖宣传和自伤倡导——通过检查多个视频帧和音频文本的提示和输出。我们进行了红队测试以探索新颖的风险，并相对于图像生成收紧了政策，考虑到 Sora 更高的真实度以及运动和音频的加入。除了生成之外，自动化系统会扫描所有动态源内容，对照我们的全球使用政策 (https://openai.com/policies/usage-policies/) 进行检查，并过滤出不安全或不适合年龄的材料。这些系统会随着我们对新风险的了解而不断更新，并由专注于最高影响危害的人工审查来补充。 - **音频防护栏。** 在 Sora 中添加音频提高了安全标准，虽然完美的保护措施很难实现，但我们继续认真投资这一领域。Sora 自动扫描生成语音的文本以检查潜在的政策违规，还阻止尝试生成模仿现存艺术家或现有作品的音乐。我们的系统旨在检测并停止此类提示，并尊重来自认为 Sora 输出侵犯其作品的创作者的删除请求。 - **用户控制和救济途径。** 你可以选择何时以及如何分享你的视频，并且可以随时删除你发布的内容。视频只有在你选择的情况下才会被分享到动态源。每个视频、资料和评论都可以因滥用而被举报，当违反政策时有明确的救济途径。你还可以随时选择屏蔽账户，这将阻止他人看到你的资料或通过私信与你联系。 ## 继续阅读