推出 Child Safety Blueprint

# 推出儿童安全蓝图 来源：https://openai.com/index/introducing-child-safety-blueprint/ OpenAI 提出的打击和预防利用人工智能实施的儿童性剥削的框架 儿童性剥削是数字时代最紧迫的挑战之一。人工智能正迅速改变着这些危害在整个行业中产生的方式，以及如何大规模地应对这些危害。 在 OpenAI，我们构建并不断加强保障措施，以防止我们的系统被滥用（https://openai.com/index/combating-online-child-sexual-exploitation-abuse/），并与国家失踪与受虐儿童中心（NCMEC）和执法部门等合作伙伴紧密合作，以改进检测和报告工作。这项工作有助于发现行业内部需要建立更强大、更统一的标准的领域。 今天，我们推出了一份政策蓝图，概述了在人工智能时代加强美国儿童保护框架的切实可行路径。该蓝图反映并整合了儿童安全生态系统中多家领先组织和专家的反馈意见，其中包括 **NCMEC**、**总检察长联盟及其人工智能工作组联合主席——北卡罗来纳州总检察长 Jeff Jackson 和犹他州总检察长 Derek Brown——** 以及 **Thorn**，以确保蓝图体现他们的优先事项，并促进更有效的合作以防止儿童受到伤害。 该蓝图聚焦三个关键优先事项：更新法律以应对 AI 生成或篡改的儿童性虐待材料；改进服务提供商的报告与协调机制以支持更有效的调查；以及在 AI 系统中直接内置安全设计措施，以预防和检测滥用。 没有任何单一干预措施能独自应对这一挑战。该框架整合了法律、运营和技术手段，以更好地识别风险、加速响应并支持问责，同时确保执法机构随着技术发展保持强大。 通过这些步骤，行业能够更早、更有效地应对儿童安全问题。通过更早地阻止剥削企图、改善向执法部门发送的信号质量，以及加强整个生态系统的问责制，该框架旨在在伤害发生前进行预防，并在风险出现时确保更快地保护儿童。 *“作为总检察长联盟人工智能工作组的联合主席，我们欢迎这份蓝图，认为它是将科技行业的儿童安全实践与我们办公室每天面临的执法现实相结合的有意义的一步。我们尤其感到鼓舞的是，该框架认识到，有效的通用人工智能保障措施需要多层防御——不是单一的技术控制，而是检测、拒绝机制、人工监督以及针对不断出现的滥用模式的持续适应的组合。这与我们在实践中看到的情况相符：威胁在不断演变，静态解决方案是不够的。在上游构建正确的预防架构，是行业在儿童安全方面所能做出的最具杠杆效应的投资。* *归根结底，任何自愿框架的有效性取决于其承诺的具体性以及行业愿意为其负责的程度。我们期待与 OpenAI、NCMEC 以及我们的总检察长同事继续合作，确保这些建议转化为对儿童的持久保护。”* ——**州总检察长 Jeff Jackson（北卡罗来纳州）和 Derek Brown（犹他州），总检察长联盟人工智能工作组联合主席。** *“总检察长联盟正通过汇集总检察长、行业领袖、非营利组织和全球合作伙伴，推动人工智能和数字安全领域的实用、前瞻性解决方案，在保护年轻人上网安全方面走在前列。通过合作与创新，AGA 为如何在负责任地拥抱新兴技术的同时保护青少年树立了高标准。我们赞扬 OpenAI 对安全的持续承诺，以及与 AGA 和总检察长们合作制定这份极具价值的儿童安全蓝图。”* ——**Karen White，总检察长联盟执行董事** *“生成式人工智能正以令人深感不安的方式加速网络儿童性剥削犯罪——降低门槛、扩大规模并催生新的伤害形式。但与此同时，国家失踪与受虐儿童中心（NCMEC）欣慰地看到，像 OpenAI 这样的公司正在反思如何更负责任地设计这些工具，从一开始就内置保障措施。没有任何一个组织、企业或部门能独自解决这个问题。我们仍致力于与行业、政府和儿童保护界的合作伙伴共同努力，推动减少伤害、更好支持儿童安全的解决方案。”* ——**Michelle DeLaune，国家失踪与受虐儿童中心（NCMEC）总裁兼首席执行官**