OpenAI 支持加州推进青少年AI安全的法案

# OpenAI支持加州推进青少年AI安全的法案 来源：https://openai.com/index/supporting-california-bill-advance-ai-youth-safety/ *全球政策副总裁 Ann O’Leary* OpenAI支持加州参议院第1119号法案，这项立法旨在为青少年使用AI建立有意义的安全保障，同时确保他们能继续使用有助于学习、创作和未来准备的工具。此立场延续了OpenAI联合创始人兼CEO萨姆·奥特曼去年在阐述公司青少年政策原则（https://openai.com/index/teen-safety-freedom-and-privacy/）时所作出的承诺。 在联邦层面尚未采取行动之际，加州有机会为青少年AI安全树立强有力的标准。 在我们致纽森州长的公开信（https://cdn.openai.com/pdf/eca27077-c1cf-484e-b316-c629c1ae5e23/openai-letter-to-governor-newsom-sb1119.pdf）中，我们与纽森州长、史蒂夫·帕迪拉参议员、巴菲·威克斯和丽贝卡·鲍尔-卡汉州议员以及加州立法机构共同肯定他们在这一重要议题上的领导作用。SB 1119法案建立在OpenAI通过产品实践、全球政策原则、加州倡导工作以及参与《家长与儿童安全AI法案》所支持的青少年安全措施基础之上。我们敦促纽森州长签署该法案使其生效。 青少年是伴随AI成长的第一代人。近九成使用ChatGPT的青少年在特定周内会利用它进行学习、获取信息、技能提升或提高效率。这份机遇伴随着明确的责任：青少年应当获得围绕其特殊发展需求设计的体验，具备强大的默认保护机制以及适宜的学习、创作和探索机会。 我们新推出的青少年版ChatGPT（https://openai.com/index/chatgpt-for-teens/）正是这一理念的体现。该产品专为18岁以下用户设计，在促进健康使用、提供内置保护、赋予家长额外控制权的同时，助力用户学习、培养批判性思维并实现成长。当系统判断用户年龄低于18岁，或用户主动声明年龄在13至17岁之间时，将自动接入青少年版ChatGPT。这些保护措施是基础体验的组成部分，而非用户可自行关闭的可选设置。 更广泛而言，我们相信青少年可以在保障安全的前提下从AI中受益，这正是SB 1119法案的核心目标。 ## 建立完善的年龄适配AI框架 SB 1119法案在提供强有力保护的同时，确保青少年持续获得有用的AI工具。我们坚决支持以下核心要求： - 确定用户年龄； - 在向青少年提供产品前识别并解决安全风险； - 进行独立审计； - 保护青少年免受有害内容侵害，包括自残、性剥削内容及其他高风险交互； - 为家长提供引导和限制子女使用的工具； - 当出现严重安全风险时，为青少年连接危机支持资源； - 限制定向广告并保护青少年个人信息。 对于年龄在13至17岁之间的用户，这些保护措施应自动生效。该立法将有意义的问责制与有助于保护青少年使用AI的保障措施相结合。 SB 1119法案还恰当认识到AI不同于社交媒体。法案确立了专门针对青少年学习、创作和探索的定制化保护措施。在制定该框架时，政策制定者力求在保障教育功能和安全关键特性（包括负责任地使用ChatGPT的记忆功能）的同时，为青少年提供更安全、更符合年龄特点的体验。 ## 为青少年打造更安全、更有价值的体验 青少年版ChatGPT包含一系列专门定制的功能以帮助青少年学习，例如测验、学习可视化和学习模式。这些功能与教育工作者及学习专家共同开发，能逐步引导学生解决问题。这些工具旨在深化理解并培养更良好的学习习惯。包括记忆功能在内的对话上下文应用功能，有助于持续贯彻安全措施、识别潜在风险模式，并随时间推移提供更有价值的学习支持。 上下文信息也使这些安全与学习工具能够随时间推移更稳定地发挥作用。通过记忆等特性，ChatGPT可以延续先前对话的相关信息和偏好，使青少年能够继续长期学习项目而无需重新开始。这种连续性既有助于避免强化有害模式，也能在青少年需要额外帮助或资源时提供更有效的回应。 平衡安全性与学习性对我们而言并非新课题。过去一年中，我们已在模型规范（即指导模型行为的准则）中加入家长控制（https://openai.com/index/intreating-parental-controls/）、年龄预测（https://openai.com/index/our-approach-to-age-prediction/）、青少年安全蓝图（https://openai.com/index/introducing-the-teen-safety-blueprint/）以及未成年人保护原则（https://openai.com/index/updating-model-spec-with-teen-protections/），为AI与青少年的交互设立了新标准。这些规范禁止浪漫关系诱导、情感依赖鼓励以及声称ChatGPT具有人类意识或感知能力等行为。我们还提供家长控制功能，使家庭能够管理青少年的关键设置并在高风险情况下接收通知。 SB 1119法案为加州青少年AI安全建立了强有力的框架。实施期间的持续研究与协作将有助于完善关键条款，并确保该框架随技术演进保持有效性。OpenAI期待支持相关工作，并持续打造既能为青少年提供更强、自动化的保护，又能为其提供有意义的学习与成长机会的AI体验，让青少年真正以青少年的方式与AI互动。