OpenAI对儿童安全的承诺：采取安全设计原则

# OpenAI 对儿童安全的承诺：采用安全设计原则 来源：https://openai.com/index/child-safety-adopting-sbd-principles/ OpenAI 与亚马逊、Anthropic、Civitai、Google、Meta、Metaphysic、Microsoft、Mistral AI 以及 Stability AI 等行业领导者共同承诺，在生成式 AI 技术的开发、部署和维护中实施强有力的儿童安全措施，正如《安全设计原则》所阐述的那样。这项倡议由致力于保护儿童免受性虐待的非营利组织 Thorn（在新窗口打开）（http://thorn.org/）以及致力于解决科技与社会复杂问题的组织 All Tech Is Human（在新窗口打开）（https://alltechishuman.org/）牵头，旨在降低生成式 AI 对儿童构成的风险。通过采纳全面的安全设计原则，OpenAI 及同行确保儿童安全在 AI 开发的每个阶段都得到优先考虑。迄今为止，我们已付出巨大努力，尽可能降低模型生成对儿童有害内容的可能性，为 ChatGPT 设置年龄限制，并积极与国家失踪与受虐儿童中心（NCMEC）、技术联盟以及其他政府和行业利益相关方合作，共同探讨儿童保护问题并改进报告机制。 作为这项安全设计工作的一部分，我们承诺： 1. **开发**：开发、构建并训练主动应对儿童安全风险的生成式 AI 模型。 - 负责任地获取训练数据集，检测并移除训练数据中的儿童性虐待材料（CSAM）和儿童性剥削材料（CSEM），并将任何确认的 CSAM 报告给相关当局。 - 在开发过程中纳入反馈循环和迭代压力测试策略。 - 部署解决方案以应对对抗性滥用。 2. **部署**：在生成式 AI 模型经过儿童安全评估后发布和分发，并在整个过程中提供保护。 - 打击和回应虐待性内容与行为，并纳入预防工作。 - 鼓励开发者主动承担安全设计责任。 3. **维护**：通过持续积极了解和应对儿童安全风险，维护模型和平台安全。 - 承诺从我们的平台上移除恶意行为者生成的新 AIG-CSAM。 - 投资于研究及未来技术解决方案。 - 在我们的平台上打击 CSAM、AIG-CSAM 和 CSEM。 这一承诺是防止 AI 技术被滥用于创建或传播儿童性虐待材料（AIG-CSAM）及其他形式儿童性伤害的重要一步。作为工作组成员，我们还同意每年发布进展更新。