代码合成大语言模型的危害分析框架

# 代码合成大语言模型的危害分析框架 来源: https://openai.com/index/a-hazard-analysis-framework-for-code-synthesis-large-language-models/ ## 摘要 Codex 是一个在各种代码库上训练的大语言模型 (LLM)，在代码合成和生成方面超越了之前的技术水平。尽管 Codex 提供了众多优势，但能够大规模生成代码的模型存在重大局限性、对齐问题、被滥用的可能性，以及可能加快某些技术领域发展进度的风险，而这些领域本身可能具有破坏稳定性或被滥用的潜力。然而，这些安全影响尚未被充分了解或仍需进一步探索。本文概述了 OpenAI 构建的危害分析框架，用于发现像 Codex 这样的模型部署可能带来的危害或安全风险，包括技术、社会、政治和经济方面的影响。该分析得到了一个新颖的评估框架的支持，该框架可以确定先进代码生成技术在规范提示的复杂性和表达性方面的能力，以及它们理解和执行这些提示相对于人类能力的能力。