OpenAI 在巴黎人工智能行动峰会上的参与

# OpenAI 在巴黎 AI 行动峰会上的举措 来源：https://openai.com/global-affairs/openai-at-the-paris-ai-action-summit/ OpenAI 期待下周在巴黎召开的第三届 AI 行动峰会，特别是讨论人工智能及其创新突破如何推动经济增长。 为了支持并深化这一对欧洲尤为重要的对话，我们将"AI 经济学"系列活动引入巴黎，汇聚政策制定者和创新经济学领域的杰出思想家，共同探讨如何确保 AI 惠及所有人。在此活动之后，以及本月晚些时候在伦敦和布鲁塞尔举办的类似 AI 经济学聚会后，我们将发布《欧洲经济蓝图》，提出如何抓住 AI 机遇的建议。 回顾自 Bletchley 峰会和首尔峰会以来取得的进展，我们为自己在塑造前沿模型未来过程中对安全性、透明度和问责制的持续承诺感到自豪。 在安全与增长这两个热点话题之间，我们相信巴黎将成为负责任且对所有人有益的 AI 发展道路上的又一个重要里程碑。 如今，人们在家庭和工作中使用 AI 工具的频率前所未有，仅 ChatGPT 全球就拥有 3 亿周活跃用户。作为整个社会，我们正在亲身体验 AI 如何帮助完成日常任务，以及其解决复杂问题的潜力。 在法国，我们看到人们、企业和学术机构正在使用 AI 解决复杂问题、提升生产力、激发创意，甚至推进科学发现： - 赛诺菲正在使用我们的 AI 加速药物试验，帮助救命药物更快到达患者手中 - ESCP 商学院提供个性化学习体验 - Orange 将微调我们的开源语音模型，以更好地理解非洲地区性语言 - Ask Mona 通过其博物馆体验促进文化获取的更广泛访问 今年早些时候，OpenAI 发布了《美国经济蓝图》(https://openai.com/global-affairs/openais-economic-blueprint/)，阐述了我们关于充分利用 AI 优势和推动社区经济增长的政策提案。这是一个我们正在适配并在其他国家推出的计划。 峰会更广泛的关注机遇和创新也将聚焦于正在采用 AI 提升生产力和创造创新解决方案的初创企业和企业。这种势头在全球最大的创业园区 Station F 最为明显，我们将在峰会官方商务日参与其中。 我们很荣幸与 Mirakl 和 Pigment 等创新法国初创企业合作，他们正在使用我们的 AI 在全球范围内竞争和增长，并期待与其他驱动欧洲 AI 采用的企业互动。对 OpenAI 而言，这是继去年在巴黎开设我们首个欧洲大陆办公室后，深化与法国生态系统联系的机会。 OpenAI 是《Bletchley 宣言》(https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023)（2023 年 11 月）和《首尔框架》(https://www.gov.uk/government/publications/frontier-ai-safety-commitments-ai-seoul-summit-2024/frontier-ai-safety-commitments-ai-seoul-summit-2024)（2024 年 5 月）的签署方，这两份文件关注于缓解与基础模型相关的风险、其安全发展的问责制以及安全措施的透明度。 在 Bletchley 峰会之后，我们发布了《准备框架》(https://cdn.openai.com/openai-preparedness-framework-beta.pdf)，概述了我们安全部署前沿 AI 模型的方法。该框架以科学驱动的措施、迭代部署和跨四个关键领域的持续追踪为基础，与我们在 Bletchley 和首尔的承诺相一致：网络安全、化学、生物、放射性和核威胁（CBRN）、说服和自主性，以及持续发现"未知的未知"，风险阈值从低到严重不等。 为了履行我们对《首尔框架》的承诺，该框架要求持续审查内部问责和治理框架，我们目前正在开发《准备框架》的更新版本，将于今年晚些时候发布。此更新将反映我们风险阈值、缓解策略等方面的改进。我们期待纳入巴黎峰会的见解，以完成这一工作。 除了《准备框架》外，我们还通过一系列严格的内部流程、外部合作和透明报告继续推进安全举措，包括： - 为我们部署的新前沿 AI 系统发布详细报告，称为系统卡。自首尔峰会以来，这包括五个前沿模型的系统卡：4o (https://openai.com/index/gpt-4o-system-card/)、o1 (https://openai.com/index/openai-o1-system-card/)、Sora (https://openai.com/index/sora-system-card/)、Operator (https://openai.com/index/operator-system-card/) 和 o3-mini (https://openai.com/index/o3-mini-system-card/)。我们将在扩大访问权限之前，在系统卡中分享深度研究 (https://openai.com/index/introducing-deep-research/) 的安全见解和保障措施。 - 建立内部治理结构以维护程序承诺并确保有效的风险管理。 - 开发和参与一个由个人专家、研究机构和来自各种领域的民间社会组织组成的广泛红队网络，帮助识别 CBRN 威胁和社会危害中的风险。 - 与美国和英国 AI 安全研究所达成协议，这些机构随后对我们的 o1-preview 和 o1 模型进行了能力评估。 为了配合峰会，我们已准备了一份更详细的报告，展示我们在自愿承诺和安全方面工作的全面范围 (https://cdn.openai.com/global-affairs/paris-summit-update-on-voluntary-commitments-20250207.pdf)。 我们期待在巴黎分享我们在安全方面的进展，并与世界领导人和民间社会组织互动，致力于继续履行 Bletchley 和首尔自愿承诺。