欧盟AI法案入门指南：对AI提供商和部署者的意义

# 欧盟AI法案初级读物：对AI提供商和部署者的意义 来源：https://openai.com/global-affairs/a-primer-on-the-eu-ai-act/ ***2025年7月11日更新**：随着《通用AI实践守则》最终文本的发布，我们分享一份概览，说明我们如何应对2025年8月2日适用于通用AI模型的规定生效。* *去年，我们发布了这份欧盟AI法案初级读物，说明我们如何为实施这些新法律要求做准备。* *自那以来，我们通过参与《通用AI实践守则》的制定而积极参与条文的实施，该守则是AI提供商遵守欧盟AI法案的框架。经过数月与专家、民间社会和业界的集体努力，最终守则已发布。今天，我们宣布签署《实践守则》的决定，并以此来证明我们遵守欧盟AI法案相关义务的情况。* *通过签署守则，我们在更广泛的欧盟AI法案合规计划中迈出了具体一步。这反映了我们致力于在监管生效时确保连续性、可靠性和信任，同时继续与欧洲企业和公民合作，为他们提供日益强大、安全和可靠的AI模型，以获得AI革命的好处。* *签署守则强化了我们在过去几年开创的众多业界领先的安全和透明度措施。我们是首批发布全面安全和安保协议的公司之一，即我们的《准备框架》（2023），概述了我们如何安全地部署前沿AI模型。* *根据我们不断审查和改进内部问责和治理框架的承诺，我们在2025年4月**发布**了更新的《准备框架》。* *随着我们继续开发和部署日益强大的技术，我们积极监测和缓解一系列新颖风险和实际安全问题，以保持我们的模型可靠和安全。我们不断改进和完善这些流程。* - *我们长期以来通过主要版本发布详细的系统卡和技术文档，说明我们的模型能做和不能做什么，我们测试过什么风险，以及我们仍在学习的地方。* - *《安全中心》为我们模型的安全评估结果提供公开访问。* - *我们的《红队网络》引入外部专家来严格测试我们的模型。* - *《模型规范》提供了一个窗口，展示我们如何塑造模型行为以反映人类价值和民主规范。* *这项工作对于在行业中设定安全标准并为基于业界最佳实践的可行守则的开发提供信息至关重要。构建安全负责的AI永远不会完成。我们将继续迭代改进我们的安全方法，帮助确保我们的技术以负责任的方式被用来造福世界各地的每个人。* *我们将与欧盟AI办公室、相关当局和我们的客户密切合作，因为AI法案在未来数月和数年内实施，这样我们可以共同为欧洲社会和经济获得AI的好处。* --- *更新：2024年9月25日，我们签署了欧盟AI协议的三项核心承诺。* 1. *采纳AI治理战略，促进组织内AI的采用并致力于未来的AI法案合规；* 2. *在可行范围内，对在AI法案下被认为是高风险的领域中提供或部署的AI系统进行映射；* 3. *根据员工及代表其处理AI系统的其他人员的技术知识、经验、教育和培训以及AI系统将使用的背景，并考虑受AI系统使用影响的人士或群体，促进他们对AI和AI扫盲的认识。* *我们认为AI协议核心关注的AI扫盲、采用和治理确定了正确的优先事项，以确保AI的收益广泛分配。此外，这些与我们提供造福所有人的安全、尖端技术的使命一致。* --- 《欧盟AI法案》(https://artificialintelligenceact.eu/) 是一个重要的监管框架，旨在管理欧洲AI的开发、部署和使用。它重点关注安全，以在欧洲推进可信任AI采用，同时保护健康、安全和基本权利。它根据与AI系统相关的风险引入了新要求，特别关注高风险和不可接受用途的情形，以及对通用AI（GPAI）模型和系统的特殊义务。 虽然立法程序已完成，法律将于2024年8月生效，但仍需要进一步的指导和实施立法来界定法律的范围，特别是适用于GPT-4o等OpenAI通用AI模型。 在OpenAI，我们致力于遵守该法案，不仅因为这是法律义务，而且因为该法案的目标与我们开发和部署安全AI以造福全人类的使命相一致。我们很荣幸发布在能力和安全上都是业界领先的模型。我们相信一种平衡、科学的方法，其中安全措施从一开始就被集成到开发流程中。我们的团队跨越广泛的技术工作，应对AI安全挑战，包括在部署前根据我们的《准备框架》对模型进行评估、内部和外部红队测试、部署后滥用监测、漏洞赏金和网络安全补助计划，以及对真实性标准的贡献等。 我们将与欧盟AI办公室和其他相关当局密切合作，因为新法律在未来数月内实施，我们希望我们建立的专业知识将帮助推进该法案在部署安全和有益AI方面的目标。 在这篇文章中，我们提供了AI法案一些关键主题的概览，特别关注禁止和高风险使用情形。 AI法案主要适用于"AI系统"，该法案将其定义为"一种机器系统，设计用来以不同的自主水平运作，在部署后可能表现出自适应性，并且为了明确或隐含的目标，从它接收的输入推断出如何生成输出，如预测、内容、建议或决定，可能影响物理或虚拟环境"。这个定义与2023年OECD发布的"AI系统"定义以及拜登政府第14110号行政令中关于AI安全、安全和可信开发和使用的定义基本一致。 重要的是，AI法案区分了AI系统的*提供商*和*部署者*。提供商是指像OpenAI这样开发AI系统或通用AI模型的实体。也包括那些已经开发了AI系统或通用AI模型并将其投放市场或以自己的名称或商标投入使用的实体，无论是否付费。 部署者是在自己的应用中使用这些系统或模型的客户或合作伙伴，例如将GPT-4o集成到特定用途中。虽然AI法案下的大多数义务落在提供商而不是部署者身上，但值得注意的是，将AI模型集成到自己AI系统中的部署者可能在法案下成为提供商，例如通过在AI系统上使用自己的商标或以提供商意图之外的方式修改AI系统。 不构成不可接受或高风险的其他AI系统仅面临有限要求，如透明度义务。例如，该法案规定**当个人与AI系统（如聊天机器人）交互时，应通知他们**，并且人工操纵的图像、音频或视频内容需要清楚标记。市场上的大多数AI系统可能都属于这一类。