官僚沉默：加拿大AI登记册所揭示、遗漏和模糊的内容

# 官僚沉默：加拿大AI登记册所揭示、遗漏和掩盖的内容
来源：https://arxiv.org/html/2604.15514

Dipto Das，Christelle Tessono
多伦多大学信息学院
加拿大安大略省多伦多市
christelle\.tessono@mail\.utoronto\.ca (https://arxiv.org/html/2604.15514v1/mailto:[email protected])

Syed Ishtiaque Ahmed
多伦多大学计算机科学系
加拿大安大略省多伦多市
ishtiaque@cs\.toronto\.edu (https://arxiv.org/html/2604.15514v1/mailto:[email protected])

Shion Guha
多伦多大学信息学院
加拿大安大略省多伦多市
shion\.guha@utoronto\.ca (https://arxiv.org/html/2604.15514v1/mailto:[email protected])

（2026年）

###### 摘要

2025年11月，加拿大政府通过发布首份联邦AI登记册来体现其透明度承诺。本文认为，此类登记册并非政府活动的中立镜像，而是积极的本体论设计工具，它规划了问责制的边界。我们使用适用于公共部门的算法决策框架（ADMAPS）分析了登记册完整数据集中的409个系统，结合定量映射和演绎定性编码。我们的发现揭示了"主权AI"的措辞与官僚实践现实之间的巨大偏差：虽然86%的系统在内部部署以提高效率，但登记册系统性地掩盖了运维所需的人为酌量权、培训和不确定性管理。通过优先考虑技术描述而非社会技术背景，登记册构建了一种AI本体论——将其视为"可靠工具"而非"可质疑的决策制定"。我们的结论是，如果不改变其设计方式，此类透明度工具有可能将问责制自动化为形式合规演习，提供可见性而非可质疑性。

**关键词：** AI登记册、加拿大政府、官僚制、问责制、透明度

†† 期刊年份：2026†† 版权：cc†† 会议：2026年ACM公平性、问责性和透明度会议论文集；6月25–28日；蒙特利尔，加拿大†† 论文集：2026年ACM公平性、问责性和透明度会议论文集（FAccT '26），6月25–28日，加拿大蒙特利尔†† doi：XXXXXXX\.XXXXXXX†† ccs：社会和专业课题 政府监管†† ccs：应用计算 电子政务†† ccs：以人为中心的计算 协作与社会计算中的实证研究

## 1.引言

2025年11月，加拿大政府（GC）公开发布了首份政府范围内的人工智能（AI）登记册，披露了分布在40多个联邦机构中的400多个AI系统(Steven,2025)。加拿大政府强调了将AI纳入联邦政府运营的动机是为了使"公共服务更高效"，该登记册将减少重复工作，帮助部门发现提高效率的机会(Steven,2025)。各种地缘政治实体正在建设类似的登记册(Watch,2025; Murad,2021; Haataja等,2020; Kaushal等,2024)，例如欧盟(EU)的数字服务法(DSA)，将此类披露基础设施定位为公共部门算法系统治理的核心机制。

从算法公平性、问责制和透明度(FAccT)研究的角度，我们提出：**AI登记册在多大程度上能够有效实现问责制，还是仅仅制度化了问责制的表象？** FAccT研究主要通过文档标准、审计和报告要求来框架化披露，将其作为监督的必要条件(on Artificial Intelligence,2024)。虽然这些方法促进了重要的规范(例如数据表、模型卡片)(Gebru等,2021; Mitchell等,2019)，但批判性学术研究(Selbst等,2019)已经表明，制度因素(例如激励、结构)在很大程度上塑造了披露努力，如AI登记册。此外，新兴的AI治理话语常常将AI系统视为概念上可互换的，日益混淆生成式和大语言模型(LLM)系统(Taeihagh,2025)。这种对高度可见和流行工具的强调掩盖了长期存在的预测、评分和决策支持系统的持续运作，这些系统继续塑造公共部门决策(Zuiderwijkijk等,2021)。

通过将这些系统变得可见并以特定方式对其进行分类，AI登记册塑造了问责制实践方式，更重要的是，定义了什么算作治理实践中的AI。我们没有询问加拿大AI登记册披露了哪些信息，而是审视它如何界定责任、表示不确定性和定位酌量权。为此，我们采用了适用于公共部门的算法决策框架(ADMAPS)(Saxena等,2021)，该框架突出了公共部门治理中各种类型的互动。

因此，本文做出三项贡献。首先，我们对完整的加拿大联邦公共AI登记册进行了实证分析，系统性地审视了409个记录的系统。其次，我们引入了**官僚沉默**的概念，用以描述AI登记册如何结构化关于公共部门AI系统的披露内容(例如工具和开发者级别的披露、技术能力和效率)，以及什么保持不可读或幕后(例如人为、官僚和背景因素)，特别是在酌量权、基础设施和不确定性方面。当类似登记册在欧洲及其他地区出现时(Kaushal等,2024; Haataja等,2020; Murad,2021)，我们所识别和质疑的沉默应被视为登记册驱动的透明度制度的系统性属性，而非仅仅是加拿大特有的特殊性——这一见解扩大了我们分析与全球AI治理的相关性。第三，我们论证AI登记册应被理解为**本体论设计**的工具，它塑造了问责制的定义和实施方式，对未来登记册的设计如何进行以支持有意义的民主监督和公众对公共部门AI的信任，具有具体影响。

我们通过讨论AI登记册如何为加拿大的国家AI治理和主权战略做出贡献并阐述其作用来定位我们的发现。

## 2.文献综述

我们的文献综述汇聚了三个研究领域，这些领域框架化了算法问责如何在实践中实施：关于问责和透明度的社会技术观点、关于文档和披露作为治理基础设施的研究，以及关于公共部门算法系统的批判性研究。我们借鉴这些方面来论证为何选择ADMAPS作为分析加拿大政府AI登记册的镜头。

### 2.1.社会技术系统中的算法问责和透明度

在关于算法和AI系统社会影响的学术研究中，问责和透明度已成为核心概念。虽然社会科学将问责理解为普通人对机构进行追究的能力(Lindberg,2013)，但从技术角度而言，问责是指算法系统追溯、证明和分配其决策和结果责任的能力(Binns,2018; Diakopoulos,2016; Wieringa,2020)，而透明度通常被理解为能够解释、文档记录或披露系统属性的信息的可得性(Balasubramanian等,2023; Larsson和Heintz,2020; Valderrama等,2023)。

这些概念经常通过技术和程序性干预进行运作，例如可解释的模型、文档框架、审计机制和报告标准，旨在为开发者、监管机构和受影响用户呈现更清晰的算法系统(Mitchell等,2019; Sokol和Flach,2020; Felzmann等,2019)。

超越这些对算法问责和透明度的技术理解，学术界越来越多地将它们概念化为受社会文化背景、制度逻辑、组织结构、法律授权、政治优先级和权力不对称所塑造(Selbst等,2019; Ananny和Crawford,2018; Suchman,2002; Das等,2021)。在这种批判框架内，问责被重新框架化为治理问题：谁对谁负责，通过什么机制，在什么制度条件下(Binns,2018; Wieringa,2020)。例如，研究表明算法供应链将责任分散到供应商、开发者和部署机构，使传统的监督和责任概念变得复杂化(Cobbe等,2023)。在这种情况下，责任分散在组织角色、基础设施和决策点而非仅仅驻留在模型或代码中，可追溯性成为了操作问责的原则(Kroll,2021)。

在这种治理导向的观点中，透明度不能简化为技术细节的披露，而更好地理解为一种"交流星座"和"设计型披露"，其中披露是有针对性的、针对特定受众的，并由制度激励塑造，积极地结构化信息的解释方式、什么形式的问责变成可能，以及谁被赋予行动权力(Eyert和Lopez,2023; Norval等,2022)。

批判性学术进一步强调了问责和透明度实践本身的组织利益，例如披露数据集如何通过定义什么算作可问责知识来体现政治(Poirier,2022; Boag等,2022)。他们展示了问责常常通过集体行动(例如倡导)来追求，作为加强问责披露的努力与减少监管负担之间的协商。算法问责取决于系统设计、专业判断和组织背景之间的一致性(Veale等,2018)，是一项持续的实践而非一次性的技术干预(Johnson,2021)。

Redden及其同事通过案例研究在欧洲、北美和澳大利亚的公共部门检视了其程度，涵盖欺诈检测、儿童福利、社会服务和警务(Dencik等,2018; Redden等,2020,2022b; Redden等,2022a)。在加拿大背景下，Redden(Redden,2018)同样使用反制图方法和信息自由请求调查了围绕公共部门大数据采用的政府话语和实践。这些研究表明现有透明度制度存在重大差距，因为算法治理通常难以追踪，原因在于支离破碎的文档实践、制度不透明和有限的主动披露。

总的来说，问责是一项需要审视文档规范、披露制度和治理工具的关系性和制度性实践。因此，研究人员呼吁建立系统文档和公共披露机制，以实现对治理中算法系统的监督。

### 2.2.通过文档和披露实现治理中的问责

社会技术根基的AI治理研究强调了文档和披露如何在技术实践和组织治理的交叉口运作，将抽象的问责承诺转化为标准化的、可检查的工具，这些工具在组织、监管机构和公众之间流通(Gebru等,2021; Winecoff和Bogen,2025; Ojewale等,2026)。这些工具的例子包括数据表和模型卡片等文档框架，通过标准化关于来源、预期用途、局限和风险的披露来推动负责任的AI开发。这些框架也作为社区实践发挥作用，将学科规范、制度激励和关于责任和受众的隐含假设嵌入其设计和使用中(McMillan-Major等,2024; Dergacheva等,2023)。

然而，文档不仅仅描述底层系统——它积极塑造了哪些形式的信息变得可读以及什么样的问责主张变成可能。因此，必须"批判性地"阅读数据系统伴随的文档：它们编码了哪些关于分类的决策，以及这些将如何塑造下游的解释和治理(Poirier,2021; Kuehner等,2025)。

文档实践不仅支持透明度和问责，还通过突出某些风险、行为者和价值观同时淡化其他方面来界定其范围。关于规模、代表性或中立性的声明常常成为这些文档的中心，并掩盖了数据产生和维护的偶然社会和组织条件(Kitchin和McArdle,2016)。例如，学术界已经追踪了数据系统周围的话语如何通过塑造有影响力的基准如何被概念化来稳定叙事(Denton等,2021)，将关于公平性和问责的关注减少为