前沿AI监管：管理新兴的公共安全风险

# 前沿AI监管：管理新兴公共安全风险 来源：https://openai.com/index/frontier-ai-regulation/ ## 摘要 先进的AI模型为人类带来了巨大的潜在益处，但社会需要主动管理随之而来的风险。本论文重点研究我们称之为"前沿AI"模型的内容：具有高度能力的基础模型，可能具备足以对公共安全构成严重威胁的危险能力。前沿AI模型提出了独特的监管挑战：危险能力可能会意外出现；很难有效防止已部署模型被滥用；且很难阻止模型能力被广泛传播。为了应对这些挑战，前沿模型的监管需要至少三个基本要素：（1）标准制定流程，以确定对前沿AI开发者的适当要求；（2）登记和报告要求，为监管机构提供前沿AI开发过程的可见性；（3）确保前沿AI模型开发和部署中安全标准合规性的机制。行业自律是重要的第一步。然而，更广泛的社会讨论和政府干预将有助于制定标准并确保其合规性。我们为此考虑了多个选项，包括向监管部门授予执法权和前沿AI模型许可制度。最后，我们提出了初步的安全标准。这些标准包括进行部署前风险评估；对模型行为的外部审查；使用风险评估来指导部署决策；以及在部署后监测和应对有关模型能力和使用的新信息。我们希望这一讨论有助于更广泛的对话，以平衡公共安全风险和AI开发前沿进步带来的创新益处。