关于我们安全和安保实践的更新

# 关于我们安全与保障实践的更新 来源: https://openai.com/index/update-on-safety-and-security-practices/ 安全与保障委员会将成为一个独立的董事会监督委员会，专注于安全与保障事务，由卡内基梅隆大学计算机科学学院机器学习系主任**Zico Kolter**担任主席，成员包括**Adam D'Angelo**（Quora联合创始人兼CEO）、美国陆军退役将军**Paul Nakasone**和**Nicole Seligman**（索尼公司前执行副总裁兼总法务官）。该委员会将监督指导OpenAI模型开发和部署的安全和保障流程等事务。 安全与保障委员会将由公司领导层就重大模型发布的安全评估进行汇报，并将与全体董事会成员共同对模型发布进行监督，包括有权延迟发布直到安全问题得到解决。作为其工作的一部分，安全与保障委员会和董事会审查了o1发布版本(https://openai.com/index/introducing-openai-o1-preview/)的安全评估，并将继续收到关于当前和未来模型的技术评估报告，以及发布后持续监测的报告。安全与保障委员会还将定期与OpenAI安全和保障团队的代表进行互动。董事会全体成员也将定期收到有关安全和保障事务的汇报。 确保我们模型的安全与保障涉及整个组织许多团队的工作。随着我们的发展和工作变得更加复杂，我们正在改进模型发布流程和实践，建立一个具有明确定义的模型发布成功标准的综合安全和保障框架。该框架将基于风险评估，并由安全与保障委员会批准。随着模型能力的增强，该框架将进行调整以应对日益增加的复杂性和风险。为了开始执行该框架，我们重组了研究、安全和政策团队，以加强协作并确保公司各部门之间的紧密联系。