gpt-oss-safeguard 技术报告

# gpt-oss-safeguard 技术报告 来源: https://openai.com/index/gpt-oss-safeguard-technical-report/ OpenAI - gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 的性能和基准评估 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 是两个开放权重的推理模型，基于 gpt-oss 模型进行了后训练，用于根据提供的政策进行推理，以便标记相关内容。这两个模型在 Apache 2.0 许可证和我们的 gpt-oss 使用政策下提供。这些仅支持文本的模型是与开源社区反馈共同开发的，与我们的 Responses API 兼容。这些模型可定制，提供完整的链式思维 (CoT)，可以使用不同的推理能力（低、中、高），并支持结构化输出。 在本报告中，我们介绍了 gpt-oss-safeguard 的功能，并基于底层 gpt-oss 模型作为基准，提供了针对 gpt-oss-safeguard 模型的基准安全评估。有关底层 gpt-oss 模型的开发和架构的更多信息，请参阅原始 gpt-oss 模型卡 (https://openai.com/index/gpt-oss-model-card/)。 我们建议使用这些模型来根据提供的政策对内容进行分类，而不是作为最终用户交互的核心功能；原始 gpt-oss 模型更适合那些应用。下面提供的安全指标描述了 gpt-oss-safeguard 模型在对话设置中的功能。gpt-oss-safeguard 模型不是为此用途设计的，但由于它们是开放模型，任何人都可能以这种方式使用这些模型。由于这种可能性，我们希望验证它们在此类使用中是否符合我们的安全标准；本报告分享了这些测试的结果。我们还分享了对对话设置中多语言性能的初步评估；请注意，这并不直接评估在使用提供的政策进行内容分类期间的性能。 gpt-oss-safeguard 模型是其 gpt-oss 对应模型的微调版本，训练时没有任何额外的生物学或网络安全数据。因此，我们确定了之前关于估计开放权重大语言模型最坏情况风险 (https://openai.com/index/estimating-worst-case-frontier-risks-of-open-weight-llms/) 的工作适用于这些新模型。