OpenAI o3-mini 系统卡

# OpenAI o3-mini 系统卡 来源：https://openai.org/index/o3-mini-system-card/ OpenAI o 模型系列采用大规模强化学习进行训练，使用思维链推理。这些先进的推理能力为提高我们模型的安全性和鲁棒性提供了新的途径。特别是，我们的模型可以在应对潜在不安全提示时，通过深思熟虑的对齐方式来推理我们的安全政策。这使 OpenAI o3-mini 在生成非法建议、选择刻板印象回应和抵御已知越狱等风险的某些基准测试中达到了最先进性能的水平。训练模型在回答前纳入思维链具有释放实质性益处的潜力，同时也增加了源于更高智能水平的潜在风险。 根据 Preparedness Framework（https://cdn.openai.com/openai-preparedness-framework-beta.pdf）， OpenAI 安全顾问团队（SAG）建议将 OpenAI o3-mini（缓解前）模型分类为中等风险总体水平。它在劝导、CBRN（化学、生物、放射性和核）以及模型自主性方面评分为中等风险，在网络安全方面评分为低风险。只有缓解后评分达到中等或以下的模型才能被部署，只有缓解后评分达到高等或以下的模型才能继续开发。 由于编码和研究工程性能的提升，OpenAI o3-mini 是第一个在模型自主性方面达到中等风险的模型。然而，在设计用于测试与自我改进相关的真实 ML 研究能力的评估中，它的表现仍然不佳，而这是高等风险分类所需的。我们的结果突出强调了构建稳健对齐方法、进行广泛压力测试及其有效性，以及维持严格风险管理协议的必要性。 本报告概述了为 OpenAI o3-mini 模型所进行的安全工作，包括安全评估、外部红队测试和 Preparedness Framework 评估。