缩小AI信任差距：论证可信人工智能的独立认证

# 1 引言

来源：https://arxiv.org/html/2607.15992  
弥合AI信任鸿沟：独立认证之于可信AI的必要性

Trisevgeni Papakonstantinou¹, Cansu Canca², Farah Nanji³, Waheedullah Pardess, Jen Weedon⁴, Jasmijn Remmers⁵, Eliza Krigman⁶, Matthew Ball, Yalda Daryani⁷, Kiran Iqbal⁸, Francielle Vargas⁹, María Llorente Sánchez, Joe Humphreys, Fendi Tsim¹⁰, Kelly Fitzpatrick, Jeff Dunn, Catherine Feldman¹¹

¹伦敦大学学院 ²AI伦理实验室 ³剑桥大学 ⁴哥伦比亚大学 ⁵MATS ⁶Tech with Intention ⁷南加州大学 ⁸九州大学 ⁹智利大学 ¹⁰BehSci Meets AI ¹¹数字信任委员会

数字信任委员会，2026年7月

###### 摘要

过去十年间，负责任AI（RAI）在识别和缓解高风险场景中AI所带来的风险方面积累了大量的实践经验。然而，这些工作并未催生出一个奖励可信性的市场。那些在安全性、公平性和监督方面投入巨资的企业，无法持续地向消费者、监管机构和股东证明其系统不仅仅满足最低合规要求。缺失的是一种让社会能够识别或比较这种差异的方式。其结果是出现了一个信任鸿沟：一种结构性状况，即负责任的开发工作在组织内部发生，却没有产生外部可独立识别和验证的可信结果信号。

我们认为，这种鸿沟在某种程度上是由于关注点放在负责任AI（一个内部流程问题），而非可信AI（一个可独立验证的现实世界结果问题）所致，并且，这种鸿沟因三个相互叠加的失效而持续存在：（1）市场无法区分可信系统与模仿者；（2）评估对象是模型和输出，而非已部署的社会技术系统及其结果；（3）衡量生态系统的导向是避免伤害，而非展示收益。通过审视现有的AI治理工具并将其与医疗、可持续性和安全领域的认证制度进行比较，我们指出，没有任何一个工具能够将治理基线、独立验证的积极结果证据和市场信号整合在一个单一框架中。我们提出，独立、以结果为导向的认证可以作为连接层，通过使可信性变得可衡量、可比较并带来商业回报，从而弥合信任鸿沟，并补充监管和内部治理之不足。

在过去十年中，负责任AI（RAI）领域发展了风险管理实践、数据和模型评估指南、治理框架以及各种工具，用以评估和提升AI系统的安全性、公平性、效益、伦理影响及整体影响。这一领域的出现，是为了应对AI在执法、教育、医疗和金融等高风险领域日益紧迫的风险。然而，由此产生的治理结构并未催生出一个能够激励企业做得比最低限度更多的市场。在安全性、公平性和监督方面投入巨资的公司，无法可靠地将自己的产品与那些仅仅声称负责任的产品区分开来。消费者和监管机构缺乏可靠、便捷且一致的方式来识别和比较这些底层实践。投资者缺乏将其有意义地纳入估值或采购决策的工具。当前市场没有一个公认的框架来评估某个给定的AI系统，或其集成到产品或流程中的情况，是利大于弊还是弊大于利。实际上，AI治理生态系统通过合规性建立了一个强有力的减害底线，但并未形成一个结构化的方式来识别或奖励那些做得更好的系统。因此，监管底线有成为上限的风险：组织为了符合最低标准而优化，而非努力展示其系统能带来真实收益。

公众信任数据反映了这一结构性缺陷。在美国，2025年皮尤的一项调查发现，59%的公众和55%的受访AI专家对公司在负责任地开发和使用AI方面几乎没有信心（甚至完全没信心）[25（https://arxiv.org/html/2607.15992#bib.bib29）]。在全球范围内，不到一半的受访者表示他们信任AI系统，大多数人对AI对社会的更广泛影响表示担忧，例如网络安全风险和人际互动的丧失[14（https://arxiv.org/html/2607.15992#bib.bib16）]。

围绕RAI的努力历来侧重于组织为了指导AI开发和部署而采用的内部实践。这些工作建立了共享的词汇和先进的方法，用于识别和缓解AI系统中的风险，包括在多个司法管辖区采用具有约束力的法规，例如欧盟的AI法案和美国正在兴起的州级框架[24（https://arxiv.org/html/2607.15992#bib.bib12）]。然而，这些工作并未最终形成一个标准化的框架，使消费者、买方、实施者和监管机构能够根据AI系统的实际影响和结果来理解和比较它们[5（https://arxiv.org/html/2607.15992#bib.bib5）]。RAI实践虽然必不可少，但基本上仍然是非标准化和自愿性的，并未产生可外部验证的现实世界性能和影响信号。这些可外部验证的标记至关重要，因为它们将内部实践转化为可供他人审视、比较和奖励的可观察证据。我们认为，这种信号传递需要一个标准清晰且公认的生态系统。在标准清晰的地方，外部机构可以评估和比较系统，不仅是在孤立状态下，而且要根据其现实世界的影响。我们认为，促成这种能力，正是弥合负责任AI与可信AI之间鸿沟的关键。

可信AI和负责任AI经常被互换使用。然而，两者之间存在概念上的区别——解决这一区别正是我们关于什么是好的AI的论点的核心。负责任AI侧重于实施风险缓解流程，并确保系统被负责任地设计、开发和部署。这意味着要处理伦理价值观、法律规则、社会目标和技术约束，并将由此产生的决策落实到AI系统中。正如Buijsman[6（https://arxiv.org/html/2607.15992#bib.bib6）]所论证的，“基于流程的方法”告知了所采取的步骤，“但没有告知这些步骤的结果是什么……未能告诉我们关于决策系统的影响，也未能告知公民的声音被倾听和考虑得有多成功”（第34页）。信任是一个过程的结果。例如，如果我们知道一辆汽车是按照所有最佳实践、流程和安全系统制造的，我们就可以相信它是安全可靠的。然而，“知道”这一点需要额外的基础设施。我们不能仅仅相信汽车经销商的承诺；我们依赖既定的安全标准、测试和生产证书，而这些证书只有在汽车通过那些测试后才能获得。我们的信任不仅取决于汽车的制造方式，或者它是否严格合规，还取决于它的性能——换句话说，它的现实世界结果。我们还会在车型上路后持续关注并记录事故，直到它退役。现在，让我们在这个类比中用AI系统替换汽车。

可信AI要求AI系统的现实世界影响必须是可证明且可独立验证的，能够在不同的部署环境和时间跨度内，为受其影响的人们带来安全、可靠、公平和有益的结果。它是一种持续的关系属性，通过在实际环境中的反复互动来赢得，并且依赖于迭代的证据，证明系统对于依赖它的社区而言，其行为符合承诺，而非依赖一次性的保证检查点或声明的意图[1（https://arxiv.org/html/2607.15992#bib.bib1），Gillis2024, 3（https://arxiv.org/html/2607.15992#bib.bib3）]。可信AI涉及系统是否能够用公众可以审查的证据来证明其在实践中达到了公认的标准。这种对可信AI的理解大致与NIST框架[20（https://arxiv.org/html/2607.15992#bib.bib24）]以及欧盟委员会的可信AI伦理指南[24（https://arxiv.org/html/2607.15992#bib.bib12）]一致。但迄今为止，大多数活动都集中在组织内部建立和完善负责任AI流程上，而不是创建外部机制来证明这些流程是否产生了真正值得信赖的系统。

鉴于大多数AI系统是不透明的[7（https://arxiv.org/html/2607.15992#bib.bib7）]，内部治理是治理生态系统的重要组成部分，但仅靠它本身在实践中是脆弱的。内部治理很重要，但随着企业优先事项的变化，它可能会在外部世界几乎不可见的情况下被缩减或重新定位。近年来，Meta解散了其负责任AI团队，微软取消了其伦理与社会部门，OpenAI在连续的商业压力下反复重组其对齐和安全职能[33（https://arxiv.org/html/2607.15992#bib.bib39），Clark2023, 12（https://arxiv.org/html/2607.15992#bib.bib14）]。它是治理生态系统的必要组成部分，但它本身不能作为可信性的可靠信号，对于那些需要决定采用、监管或依赖哪些系统的人来说。基于可信AI的传统要求——如可靠性、安全性、可解释性、隐私性、公平性和问责制——我们也认为，在高风险背景下，可信性的证据门槛应超越避免伤害，包括展示积极结果的证据。

当前治理基础设施中缺乏标准化实践和可验证结果的现象，产生了我们所谓的信任鸿沟：一种结构性状况，即负责任AI已经为风险缓解积累了知识和实践，但尚未建立起可沟通、可验证且以结果为导向的基础设施来赢得有充分依据的信任。在实践中，我们识别出三个相互强化的挑战，共同导致了信任鸿沟：（1）市场无法可靠地区分真正值得信赖的系统与那些仅仅是粉饰责任表象的系统；（2）评估实践侧重于模型输出和基准测试性能，而非所涉及的社会技术系统的结果；（3）治理和衡量生态系统偏向于避免伤害，而非展示部署是否产生了证明所涉风险合理的积极结果。

本文通过三个层次进行分析。首先，第2节（https://arxiv.org/html/2607.15992#S2）进行结构性诊断，解释为何仅靠内部负责任AI活动不会自动产生公众信任。第3节（https://arxiv.org/html/2607.15992#S3）分析了一组现有的治理和保证工具，以确定它们已经覆盖了保证问题的哪些部分，以及还有哪些空白。第4节（https://arxiv.org/html/2607.15992#S4）借鉴其他高风险行业中已建立的认证制度，确定将复杂性能转化为市场可读信号的设计模式。然后，第5节（https://arxiv.org/html/2607.15992#S5）探讨了一个可信的保证框架需要做什么，不仅是为了衡量减害，也是为了验证那些真正证明部署合理的结果。论文最后提出了一个具体建议：独立、以结果为导向的认证可以作为将那些声明转化为买方、监管者和投资者可以采取行动的信号的机制。

简而言之，论证如下。在利益相关者难以独立验证可靠性的复杂高风险行业，如金融、医疗、网络安全、可持续性和食品安全，认证已经出现，以弥合生产者与利益相关者之间的信息不对称，将复杂的技术评估转化为易读的外部信号，帮助消费者、投资者、采购负责人和监管机构区分那些仅仅是声称负责的组织和那些能够通过独立验证证实其负责任声明的组织。本文认为，独立、以结果为导向的认证可以作为核心市场机制，通过提供连接性基础设施，使可信性变得可问责、可比较且具有商业意义，从而补充监管和内部治理。我们的目标不是提出另一套原则，而是描绘一种制度基础设施，通过这种基础设施，可信性可以被衡量、验证和奖励。

## 2 解释信任鸿沟的三个结构性缺口

为什么十年的负责任AI活动未能催生出一个奖励可信性的市场？答案在于三个相互关联的结构性缺口，本节将对此进行探讨。市场无法区分负责任AI及其模仿品，因此不会奖励它（第2.1节（https://arxiv.org/html/2607.15992#S2.SS1））。旨在提供这种区分的评估方法，针对的是模型及其输出，而不是信任实际形成的现实世界结果（第2.2节（https://arxiv.org/html/2607.15992#S2.SS2））。而衡量生态系统几乎完全面向AI应避免的伤害，却没有同等的基础设施来应对其应产生的效益（第2.3节（https://arxiv.org/html/2607.15992#S2.SS3））。这些不是独立的问题，而是相互强化的问题：市场无法奖励衡量系统无法展示的东西，而衡量系统也无法展示它不知道如何衡量的东西。我们认为，解决这些问题需要的不是另一个框架，而是一个连接层，将现有工具整合成一个单一的可验证信号。

### 2.1 市场无法区分和奖励负责任AI

当前市场的激励与创造信任是错位的。两种动力共同作用，使得对大多数公司来说，健全的负责任AI在商业上不可行：激励措施奖励速度和参与度而非可信性；而且，对负责任AI实践的投资往往不能带来相应的回报，即使是在自称重视它的投资者那里也是如此。

**激励措施奖励速度和参与度，而非可信性。** 公司被推动尽快进入市场，一旦系统部署，用户参与度而非展示出的可信性才是获得回报的东西。过去二十年社交媒体的轨迹显示了这会导致什么。公众信任已经侵蚀到澳大利亚禁止16岁以下青少年访问的程度，英国最近也紧随其后，还有十多个司法管辖区正在考虑类似的限制[4（https://arxiv.org/html/2607.15992#bib.bib4），34（https://arxiv.org/html/2607.15992#bib.bib42），8（https://arxiv.org/html/2607.15992#bib.bib8）]。这一轨迹主要是由一种不惜一切代价奖励参与度的商业模式驱动的，尽管有反复的伦理承诺，但这种模式通过激发愤怒、上瘾和错误信息来最大化利润的设计模式得到了激励[37（https://arxiv.org/html/2607.15992#bib.bib45），15（https://arxiv.org/html/2607.15992#bib.bib17）]。更深层次的问题不是参与度随着时间的推移变得腐败，而是它从一开始就从未成为福祉的良好代理指标。参与度追踪的是注意力和收入，而不是用户利益、福祉或