通过全球领导力促进青年安全与机遇

# 通过全球领导力推动青少年安全与机遇 来源：https://openai.com/index/advancing-youth-safety-and-opportunity-through-global-leadership/ 人工智能可以成为年轻人的强大工具。它可以帮助学生理解复杂概念、练习新语言、准备求职面试、探索创意想法或学习新技能。正如20世纪中期全球扫盲运动需要大量印刷文本的普及和有培训教师的支持一样，今天提供安全的人工智能将为个性化学习开启新的机遇，帮助减少弱势群体的障碍，并提升劳动力的准备度。 由于潜在好处如此巨大，确保年轻人能够以安全、适龄且有利于健康发展的方式使用AI至关重要。这一责任不应主要落在家长或年轻人自己身上。包括OpenAI在内的公司有责任默认构建具有适当安全保障的产品，同时为家庭提供工具和信息，以指导AI的使用方式。 本月晚些时候，当各国元首齐聚法国埃维昂参加七国集团领导人峰会时，青少年AI安全将成为关键议题。OpenAI将参与讨论如何加强青少年安全方面的合作，如何共同努力提高行业标准，以及OpenAI关于建立一个国际青少年安全研究所的新倡议。 七国集团领导人峰会为全球协调青少年安全问题提供了难得的机遇。但一个专门的机构将提供超越单一峰会所需的连续性和后续跟进，帮助政府、研究人员、民间社会和行业持续合作，共享证据、制定指南并随时间推移提高标准。 实现这一目标有几种可靠的方式：通过建立一个新的国际机构，或赋予现有或新设立的国家级AI机构全球性使命，与全球合作伙伴分享研究、证据和指导。最重要的是其发挥的功能。青少年AI安全需要持续的关注、可靠的证据以及能够跟上技术发展的实用指南。 这样的机构可以建立在现有举措的基础之上，例如由OpenAI基金会支持的Common Sense Media青少年AI安全研究所，以及与教育工作者的实际合作，包括OpenAI与美国教师联合会（https://openai.com/global-affairs/aft/）的合作。它还应借鉴实际部署中的经验，例如爱沙尼亚在全国学校推广ChatGPT，OpenAI正与斯坦福大学和爱沙尼亚研究人员合作研究其影响，为更安全、更有效的学习应用提供信息。 OpenAI欢迎与法国政府、其他七国集团政府以及民间社会、学术界和行业合作伙伴就这项重要工作展开合作，并提高青少年安全的全球标准。 ## 制定青少年AI安全的全球标准 我们相信，强有力的AI青少年安全框架，包括七国集团会议可能达成的任何协议，都应遵循我们在此提出的原则。 1. **公司应知晓用户是否为未成年人，并采取适龄的保护措施。**这意味着要求提供商通过有效且保护隐私的年龄估计等手段来区分未成年人和成年人，并在无法确定用户年龄时默认采取保护性安全措施。没有这一基础，即使意图最好的青少年保护措施也可能无法覆盖到其旨在保护的年轻人。 2. **公司应定期评估对年轻人的风险和益处，并在*****伤害发生之前***采取措施加以解决。**这意味着要求提供商完成年度青少年安全风险评估，并根据识别出的风险实施相应的安全措施。此类评估应考虑基于年轻人发展阶段的潜在风险、实际使用中的经验证据以及相关研究或监管指引。评估不仅应考虑潜在危害，还应考虑AI是否正在支持学习、创造力、技能发展和获取机会等积极成果。 3. **家长和监护人应拥有易于获取、易于使用的控制工具，以帮助引导孩子的体验，同时支持适龄的独立性。**这些工具应包括管理关键设置的能力，包括记忆、数据使用和时间限制。应积极推广家长工具，让家长知道这些工具的存在并了解如何使用。 4. **家庭应获得清晰、易懂的信息，了解公司如何保护年轻用户，并提供关于年轻人使用AI的益处和风险的有意义信息。**公司应发布安全政策，解释已实施了哪些保护年轻人的安全措施、可用的家长工具以及如何随着风险演变更新保护措施。这种透明度能建立信任，帮助家长做出明智的选择。 5. **公司应制定明确的协议来处理严重的安全情况，包括自残、剥削、诱骗、性剥削内容以及其他高风险互动。**这些措施应包括服务内支持、转介至适当资源以及在适当时及时通知家长。公司还应设计系统，防止生成对儿童不安全或发展不适宜的内容，包括露骨的色情或暴力材料。 6. **供年轻人使用的AI系统应旨在支持学习、发展和现实世界的人际关系，而非取代它们。**AI应作为工具，帮助年轻人学习、创造、培养技能和为未来做准备。同时，公司应在依赖人类判断、现实人际关系和专业支持的健康发展领域设定明确的边界。 7. **应保护未成年人的个人信息。**这意味着禁止针对年轻人的侵犯隐私的定向广告，并禁止公司出售个人信息。 8. **青少年安全框架应促进机遇、素养和保护。**年轻人应能使用支持学习、创造力、技能发展和未来机遇的AI工具，同时也要具备安全、负责任地使用AI所需的知识和批判性思维能力。这包括提升AI素养，帮助年轻人理解AI系统的机遇和局限性，使他们能够自信、负责任地参与数字空间。 9. **强有力的问责机制，包括独立审计，对于确保这些保护措施在实践中有效至关重要。**审计应基于一套共同标准，允许跨司法管辖区的互操作性审计。立法框架应包括监督和执行措施，使政府能够评估公司是否有效实施青少年安全保障措施、缓解已识别的风险，并遵守青少年安全和隐私义务。 这些原则体现在我们构建和运营ChatGPT的方式中，涵盖模型行为、产品设计、专家意见和现实支持。我们加强了对18岁以下用户的安全措施，推出了家长控制（https://openai.com/index/introducing-parental-controls/）并主动通知，以及改进了年龄预测系统（https://openai.com/index/our-approach-to-age-prediction/），以便在用户可能未满18岁时应用更强有力的保护。我们的模型规范（Model Spec）概述了模型应有的行为，也包括专门针对18岁以下用户的原则（在新窗口中打开）（https://model-spec.openai.com/2025-12-18.html#chatgpt_u18），优先考虑青少年安全、适龄体验、现实支持和明确期望。在实践中，这意味着围绕自残、危险活动、露骨内容、身体形象和保密性设置更强有力的护栏，同时在需要时鼓励寻求值得信赖的现实支持或危机资源。当年龄不确定时，我们默认采用更强有力的安全措施。 安全措施到位、提供清晰指导、并得到家庭和教育工作者支持的AI，可以帮助年轻人安全地从扩展学习、创造力和机遇的工具中受益。AI可以帮助学生理解复杂概念、练习语言、改进写作、学习编程、组织研究、探索创意想法，并为已经发生变化的工作做好准备。通过"国家教育"计划（https://openai.com/index/the-next-phase-of-education-for-countries/），OpenAI正与政府和教育工作者合作，开展以研究为导向的部署、本地化学习工具和教师培训，确保AI的应用基于证据和真实的课堂需求。这项工作已在支持我们合作伙伴国家的国家教育努力，包括爱沙尼亚（https://openai.com/index/estonia-schools-and-chatgpt/）、希腊（https://openai.com/global-affairs/openai-for-greece/）和新加坡（https://openai.com/index/introducing-openai-for-singapore/）。 ## OpenAI在七国集团峰会 除了参与领导人峰会，我们还将把OpenAI论坛（在新窗口中打开）（https://forum.openai.com/）带到巴黎，举办一场实践性对话，探讨政府、研究人员、民间社会、教育工作者和行业如何将共同的青少年安全目标转化为具体的安全措施、标准和实施实践。法国人工智能与数字事务大使Clara Chappaz将与OpenAI首席全球事务官Chris Lehane、来自iRaise/Everyone.AI的青少年安全领导者以及其他专家一起，讨论年轻人如何从AI中获益同时降低风险。