助力构建先进AI共享标准

# 助力构建先进AI共享标准 来源：https://openai.com/index/helping-build-shared-standards-for-advanced-ai/ 能力日益增强的模型可以强化网络安全防御、加速科学发现并扩大专家知识获取范围。但如果其能力被误解、防护措施不足、或政府缺乏应对所需信息，它们也可能带来安全与安保风险。为了安全、自信地发挥这些益处，社会需要具备技术和治理能力的机构来评估、保障和治理日益强大的系统。 这也是OpenAI协助创立Appia Foundation（在新窗口中打开）（https://appiafoundation.org/）的原因之一，该基金会由Linux基金会托管。Appia将制定开放、模块化的规范，旨在将国际标准与现有框架转化为适用于AI价值链各环节的实用评估标准。其工作有助于构建一片缺失的关键信任层，使第三方能够根据标准检查合规性，从而在模型、基础设施及应用由不同组织开发时，产生更清晰、更可复用的证据。通过这项工作，Appia将帮助创建共享的技术语言，使国家和国际机构能够互信互认。 **我们将这一努力视为更广泛工作中的重要下一步，旨在强化先进AI系统所需的机构、标准和评估实践。** 我们最近发布的《前沿AI民主治理蓝图》（https://openai.com/index/frontier-safety-blueprint/）为这项工作绘制了路线图。蓝图呼吁建立持久的美国框架、加强人工智能标准与创新中心（CAISI），以及制定跨政府的更广泛韧性战略。同时，蓝图也承认前沿风险具有国际性。各国应共同努力，制定兼容的安全框架、建立可信的风险发现共享渠道，并协调应对相关事件。 国家能力与国际合作应相互促进。像CAISI这样强有力的机构可以积累技术专长、评估前沿系统，并支撑独立的评估生态系统。一系列有能力的国家机构则可以建立共同方法、互认可信证据，并为政府提供采取一致行动所需的共同技术理解。 标准是这项工作的核心，必须建立在可信的评估实践和技术严谨性之上。在我们发布的《可信第三方评估共享策略手册》（https://openai.com/index/trustworthy-third-party-evaluations-foundations/）中，我们阐述了前沿评估日益需要披露的信息：被测试的系统、其工具访问权限与评估框架、用于激发能力的方法、可用资源，以及为验证结果而执行的检查。我们还通过与美国CAISI和英国AISI的测试合作（https://openai.com/index/us-caisi-uk-aisi-ai-update/）将这些原则付诸实践，后者在前沿能力评估和生物滥用的防护措施方面的工作，为我们的系统带来了切实改进。这项工作发挥着重要作用，为建立可供标准化、可比性检查性能的实践奠定了基础。 这些实践是对OpenAI更广泛安全基础设施的补充。我们的《准备框架》（https://openai.com/safety/）是我们定义和实施先进AI系统最严峻风险管理方法（包括内部实践）的基础。我们的《前沿治理框架》（https://openai.com/index/openai-frontier-governance-framework/）将该方法的相关部分应用于一项公开治理文件，侧重于特定监管义务，包括风险评估、模型报告、安全控制、事件响应以及纳入外部专家意见。这些文件共同将广泛承诺转化为可供验证和改进的运营实践。 **Appia的工作目标指向下一个挑战：使这些实践在组织、司法管辖区和供应链之间实现互操作。** 通过这些论坛——包括现在的Appia——我们的目标是将在前沿开发中汲取的经验教训转化为开放、有技术基础的实践，供政府、企业和独立评估机构跨司法管辖区使用。