从法律文本到AI特定风险源：EU AI Act高风险要求的系统分析

# 从法律文本到AI特定风险源：欧盟人工智能法案高风险要求的系统性分析
来源：https://arxiv.org/html/2609.13535
Ronald Schnitzer 附属机构：慕尼黑工业大学，计算、信息与技术学院，德国慕尼黑 电子邮箱：[[email protected]](mailto:[email protected]) 附属机构：西门子股份公司，德国慕尼黑/奥地利维也纳 电子邮箱：[[email protected]](mailto:[email protected]) Mike Auer Rumpa Choudhury 附属机构：西门子股份公司，德国慕尼黑/奥地利维也纳 电子邮箱：[[email protected]](mailto:[email protected]) Andreas Hapfelmeier 附属机构：西门子股份公司，德国慕尼黑/奥地利维也纳 电子邮箱：[[email protected]](mailto:[email protected]) Maximilian Hoeving 附属机构：西门子股份公司，德国慕尼黑/奥地利维也纳 电子邮箱：[[email protected]](mailto:[email protected]) Isabelle Painter 附属机构：西门子股份公司，德国慕尼黑/奥地利维也纳 电子邮箱：[[email protected]](mailto:[email protected]) Josiane Xavier Parreira 附属机构：西门子股份公司，德国慕尼黑/奥地利维也纳 电子邮箱：[[email protected]](mailto:[email protected]) Sonja Zillner 附属机构：慕尼黑工业大学，计算、信息与技术学院，德国慕尼黑 电子邮箱：[[email protected]](mailto:[email protected]) 附属机构：西门子股份公司，德国慕尼黑/奥地利维也纳 电子邮箱：[[email protected]](mailto:[email protected])

###### 摘要

欧盟人工智能法案为高风险AI系统引入了强制性要求，其明确目标是确保可信AI的开发和运行。同时，AI风险管理实践依赖结构化的风险分类体系来系统性地识别和处理AI特定风险源。由于AI法案和既定的风险分类体系都旨在应对AI引发的风险，一个自然的问题是它们所涵盖的风险源是否一致。然而，目前尚无清晰的映射关系存在于法案高风险要求所隐含处理的风险与既定分类体系之间，这使得从业者缺乏结构化的基础来将监管义务与AI风险管理实践对齐。本文对从欧盟人工智能法案第2部分（"高风险AI系统要求"）提取的要求进行了系统性分类，揭示只有少数要求直接针对AI特定风险源，而大多数则施加了组织流程和文档化的义务。从AI相关要求中，我们提炼出一份整合的、独立的AI特定风险源清单。由此产生的欧盟人工智能法案风险源清单在弥补法律义务与AI风险管理实践之间的鸿沟方面迈出了重要一步，为现有AI风险分类体系与欧盟人工智能法案所隐含处理的风险源之间的明确比较提供了结构化的参考。重要提示：这是作者的预印本。该论文在第四届国际人工智能、伦理与多学科应用前沿会议上发表。会议官方论文集链接将在出版后提供。

###### 关键词：

欧盟人工智能法案 高风险AI AI监管 可信AI 负责任AI

## 1 引言

欧盟人工智能法案（AIA）是世界上首批针对人工智能（AI）系统的大规模监管框架之一\[10 (https://arxiv.org/html/2609.13535#bib.bib22)\]。具体而言，AIA定义了一个四级风险分类方案（例如，不可接受、高、有限、最小风险），以根据AI系统的风险水平调整监管义务。最小风险和有限风险的AI系统仅面临少量法律义务，被归类为不可接受风险的AI系统在欧盟管辖范围内被严格禁止，而高风险AI系统则需遵守条例第8–15条中定义的一整套监管义务，以下称为高风险要求（HRRs）。正如条例第64条所述，HRRs的目的是"减轻已投放市场或投入使用的高风险AI系统所带来的风险，并确保高水平的可信度"\[10 (https://arxiv.org/html/2609.13535#bib.bib22)\]。

尽管该条例于2024年8月生效，但高风险要求仅在不同类别对应的过渡期后适用：对于附件III中列出的独立高风险系统，从2026年8月2日起适用；对于嵌入附件I所涵盖产品中的高风险AI系统，从2027年8月2日起适用\[22 (https://arxiv.org/html/2609.13535#bib.bib26)\]。虽然HRRs在条例本身中已有规定，但标准化组织CEN-CENELEC已被授权制定协调标准，作为主要的合规路径\[22 (https://arxiv.org/html/2609.13535#bib.bib26)\]。然而，截至本文撰写时，这些标准仍在制定中，存在延迟风险，使组织处于不确定状态\[5 (https://arxiv.org/html/2609.13535#bib.bib25)\]。

AIA定义HRRs的意图与AI风险管理的工程方法相一致，即系统性地识别、评估和缓解AI特定风险的根本原因\[18 (https://arxiv.org/html/2609.13535#bib.bib20),23 (https://arxiv.org/html/2609.13535#bib.bib24),25 (https://arxiv.org/html/2609.13535#bib.bib1)\]。先前的工作主要集中在开发AI风险分类体系，例如MIT AI风险库\[26 (https://arxiv.org/html/2609.13535#bib.bib2)\]、AI风险图谱\[2 (https://arxiv.org/html/2609.13535#bib.bib9)\]或ISO 5469\[18 (https://arxiv.org/html/2609.13535#bib.bib20)\]，以及其他相关工作\[25 (https://arxiv.org/html/2609.13535#bib.bib1),27 (https://arxiv.org/html/2609.13535#bib.bib4),28 (https://arxiv.org/html/2609.13535#bib.bib3),29 (https://arxiv.org/html/2609.13535#bib.bib10),30 (https://arxiv.org/html/2609.13535#bib.bib5)\]。这些分类体系在范围（例如，生成式AI、计算机视觉等）、关注点（例如，伦理风险、安全风险）和粒度（例如，高层指导与故障模式的详细枚举）上各不相同。AI风险分类体系为系统性的风险识别提供了基础，并已被工业界AI风险管理和治理实践所采用\[31 (https://arxiv.org/html/2609.13535#bib.bib6)\]。

虽然HRRs旨在减轻高风险AI系统所带来的风险\[10 (https://arxiv.org/html/2609.13535#bib.bib22)\]，但作为法律工具，它并未明确列举AI特定风险源。相反，虽然一些HRRs直接由AI特定风险驱动，但其他要求则涵盖了与风险源无直接关联的义务，例如要求编制文档或建立治理流程。例如，第13.3(a)条仅要求使用说明包含"提供商的身份和联系方式"\[10 (https://arxiv.org/html/2609.13535#bib.bib22)\]，这与AI特定风险无关。由于HRRs是作为法律要求而非风险分类体系来表述的，驱动它们的AI风险只是隐含嵌入其中，而非由条例本身明确陈述。据我们所知，迄今尚未有对AIA中这些隐含风险源进行系统性提取的研究，这使得从业者缺乏结构化的基础来评估他们的风险管理实践是否涵盖了AIA隐含的要求。这一缺口直接激发了本研究的研究问题：

1. 1. 欧盟人工智能法案的高风险要求中，有多大比例与AI特定风险源直接相关？
2. 2. 欧盟人工智能法案高风险要求中隐含处理的AI特定风险源有哪些？

为了回答这些研究问题，我们应用了基于ISO/IEC/IEEE 29148:2018的要求工程方法，结合系统性内容分析，来提取和分类AIA的HRRs。本文的贡献有三方面：

1. 1. 将提取的HRRs系统性地分类为AI风险相关要求（AIR）、流程合规要求（PCR）和文档合规要求（DCR），为评估AIA的监管方法提供结构化分析框架；
2. 2. 推导出欧盟人工智能法案风险源清单，该清单明确阐述了AIA高风险要求（第9–15条）所隐含处理的AI特定风险源，为AI风险识别和评估提供了结构化参考，也为与既定AI风险分类体系进行覆盖范围比较提供了前提基准点；
3. 3. 一种可移植的方法论，用于系统性地提取和分类监管义务，基于ISO/IEC/IEEE 29148:2018，并适用于AIA之外的其他监管工具。

论文其余部分结构如下：第2部分 (https://arxiv.org/html/2609.13535#S2) 提供了与本研究相关的AIA和AI风险管理实践背景。第3部分 (https://arxiv.org/html/2609.13535#S3) 概述了研究方法和所采用的方法论。第4部分 (https://arxiv.org/html/2609.13535#S4) 呈现了研究结果。第5部分 (https://arxiv.org/html/2609.13535#S5) 讨论了研究发现，反思了研究的意义和局限性，第6部分 (https://arxiv.org/html/2609.13535#S6) 对论文进行了总结并指出了未来工作方向。

## 2 相关工作

本研究探讨AIA的HRRs与AI特定风险源之间的关系。我们将相关工作分为三类：(1) 对AIA及其HRRs的法律分析；(2) AI风险的分类体系和知识库；(3) HRRs及相关概念的结构化知识表示。

对AIA的法律分析至关重要，因为它们界定了HRRs的范围和意图，明确了在进行任何系统性分类之前必须满足和解释的内容。Almada\[1 (https://arxiv.org/html/2609.13535#bib.bib13)\]对AIA如何同时追求产品安全和基本权利保护进行了详细的法律审查，阐明了支撑高风险制度的双重目标以及这种二元性可能带来的解释张力。作为补充，Golpayegani等人\[13 (https://arxiv.org/html/2609.13535#bib.bib14)\]研究了AI系统被归类为高风险的条件，并试图形式化由此产生的概念以支持AI风险管理。这些工作共同阐明了高风险分类的法律和概念基础，以及HRRs所附带的义务，为我们的分类工作提供了监管背景。

系统性的AI风险分类体系和知识库与本研究相关，因为它们枚举了HRRs旨在减轻的AI特定危害和风险源。MIT风险库\[26 (https://arxiv.org/html/2609.13535#bib.bib2)\]综合了AI风险的元分析和分类体系，而Bagehorn等人\[2 (https://arxiv.org/html/2609.13535#bib.bib9)\]提供了一个用于导航AI风险的分类体系及相关工具。其他互补视角包括针对AI系统的安全工程关注点\[29 (https://arxiv.org/html/2609.13535#bib.bib10)\]、大语言模型的伦理风险类别\[28 (https://arxiv.org/html/2609.13535#bib.bib3)\]、AI中风险源的枚举\[27 (https://arxiv.org/html/2609.13535#bib.bib4)\]以及具体的AI特定危害清单\[25 (https://arxiv.org/html/2609.13535#bib.bib1)\]。总的来说，这些资源为跨技术、伦理和应用领域的AI风险提供了全面的清单和组织原则。它们提供了候选风险源和概念视角，可用于构建已识别风险与AIA中制定的HRRs之间的结构化联系。

HRRs及相关风险概念的机器可读表示对于分析、可追溯性以及合规支持工具的开发越来越重要。TAIR知识图谱\[14 (https://arxiv.org/html/2609.13535#bib.bib11)\]对HRRs及相关概念建模，但依赖于一个早期的、现已过时的AIA版本。AIRO\[12 (https://arxiv.org/html/2609.13535#bib.bib12)\]引入了一个与AIA对齐的AI系统和风险本体，提供了一个模式，但缺乏一个全面、系统填充的AI风险列表。VAIR\[13 (https://arxiv.org/html/2609.13535#bib.bib14)\]提供了一个用于对AI风险与AIA关系建模的词汇表。这些努力为表示义务和风险奠定了宝贵的基础，但仍然需要进行系统性的、最新的分类，以明确地将HRRs与AI特定风险源关联起来。

与现有工作（要么从法律角度分析AIA而不进行系统的风险源识别，要么开发风险分类体系但未将其与AIA的具体义务相关联）不同，本研究通过一种系统性的要求工程方法，提取和分类HRRs，并推导出明确的AI法案风险源清单，作为评估现有风险分类体系覆盖范围的基准，从而连接了这两个方面。

## 3 方法论

研究过程包含三个步骤，如图1 (https://arxiv.org/html/2609.13535#S3.F1) 所示，并在以下小节中描述。

参见图注 图1：从欧盟人工智能法案提取AI特定风险源的三步研究过程。### 3.1 HRR提取

HRRs的分类需要一份此类要求的清单，而原始法律文本（例如，AIA的第2部分）并未提供：第8–15条是以连续法律散文的形式表述，而非作为一套编号的要求。因此，从该文本中提取HRRs构成了所有后续定量分析的基础。

提取过程遵循了基于ISO/IEC/IEEE 29148:2018的系统性语言分解\[19 (https://arxiv.org/html/2609.13535#bib.bib21)\]。根据该标准，自然语言中要求的表述包含功能组件，例如要求成立的条件（Condition）、适用的对象（Subject）、指示义务程度的情态动词（Modal Verb）、要执行的动作（Action）以及指定动作必须执行环境的动作约束（Constraint of Actions）。AIA文本中的规范性陈述在很大程度上符合这种结构。然而，观察到一个系统性偏差：立法文本频繁使用枚举方式，在未重复陈述共享组件（如每个要点的对象和情态动词）的情况下，将高级要求分解为更详细的子要求。根据ISO/IEC/IEEE 29148:2018，每个枚举点都被视为从其父语句继承共享组件，因此即使这些组件未被逐字重复，也能产生独立的要求。

分析单位源自AIA自身的层次结构，该结构反映了条例对义务的逻辑组织：条款（第8–15条）被划分为编号段落（第1段、第2段……），这些段落又进一步细分为由字母标记的要点（(a)、(b)……），有时还会细分为由罗马数字标记的子要点（(i)、(ii)……）。以最小的可寻址结构单元（例如，第9.5(a)条）作为一个候选要求，产生初步分解。检查文本发现，仅凭这一结构标准尚不足以产生原子要求，原因有二。