先进AI系统的三维能动性类型学

# 先进AI系统的三维能动性类型学  
来源：https://arxiv.org/html/2608.20041  
Willem Fourie 感谢：邮箱：[email protected] 机构：[1em]斯泰伦博斯大学数据科学与计算思维学院

###### 摘要

先进人工智能（AI）系统的能动性研究主要将能动性视为规范概念，并聚焦于特定高能动性AI系统。尽管近期研究也开始关注不同能动性系统的特征，但目前尚无框架解决先进AI系统所体现的能动性类型问题，尤其在考量非道德形式的能动性时。基于哲学、伦理学、法律理论和社会学中的既有理论立场，我们构建了一个针对前沿AI系统的三维能动性类型学：能动性的本质（道德性或法律性）、模式（个体性或集体性）和主体（人类或非人类）。这三个维度的组合产生了八种可能的能动性实例，我们将其归类为常规型、争议型或争议性。该类型学将法律能动性与道德能动性区分开来，为考量个体性、法律性、非人类能动性创造了概念空间，而无需预设先进AI系统必然是道德主体。我们认为，当工具性目标追求使得将AI行为归因于特定人类行为体变得复杂时，这种区分正日益重要。

## 1引言

看似日益增多的备受关注的安全事件，使得定义和治理先进人工智能（AI）系统的能动性成为公众和学术界共同关注的议题。

其中最引人关切的是英国AI安全研究所披露的一项报告[1 (https://arxiv.org/html/2608.20041#bib.bib1)]。该研究所受前沿模型开发者信任，负责测试未发布模型的危险能力。报告披露了Anthropic公司未发布的Mythos 5模型在网络安全测试中的行为。在追求其编程目标的过程中，该模型研究了人类维护者，创建了多个虚假身份，试图通过社会工程手段诱使维护者批准恶意代码，并在受到质疑时修改了其先前活动以显得无害。

该事件中展现的欺骗行为可被视为工具性目标的例证——这些目标有助于AI系统实现其明确编程的目标，其本身并未被明确编程[9 (https://arxiv.org/html/2608.20041#bib.bib9),10 (https://arxiv.org/html/2608.20041#bib.bib10),60 (https://arxiv.org/html/2608.20041#bib.bib55),59 (https://arxiv.org/html/2608.20041#bib.bib56)]。自其最初阐述（常在工具趋同背景下）以来，这些目标就引发了这样一种可能性：足够强大的AI系统可以在未被指令的情况下影响其外部环境，且无法将这些影响归因于人类行为。

工具性目标的例证也引发了关于问责结构的问题。尽管并非工具性目标的直接证据，但OpenAI[61 (https://arxiv.org/html/2608.20041#bib.bib57)]和Anthropic[5 (https://arxiv.org/html/2608.20041#bib.bib5)]报告的安全事件提供了具有启发性的例证。这些先进AI系统在外部环境中的未经授权、部分违法的行为，并未被归因于任何特定主体：既未归因于公司整体，也未归因于建立测试环境的开发者个体。

关于AI能动性的学术文献提供了指导，但大都聚焦于AI系统是否或在多大程度上符合能动者的定义。弗洛里迪区分了该问题的两种主要进路。根据标准观点，能动性要求“心理状态”，如信念和欲望，这些状态与意向性行为存在因果联系[32 (https://arxiv.org/html/2608.20041#bib.bib30), 另见]。非标准观点则拒绝这种人类中心主义立场，将能动性理解为存在于一个谱系中，涵盖交互性以及在更复杂形式下的自主性和适应性。

例如，弗洛里迪和桑德斯[27 (https://arxiv.org/html/2608.20041#bib.bib27)]区分了交互性、自主性和适应性，作为能动性渐进要求的特性。他们的方法与董[22 (https://arxiv.org/html/2608.20041#bib.bib21)]的方法有共鸣，后者将目标导向性、自主性、有效性、规划和意向性确定为“共同刻画能动性”的维度。

近期研究将焦点进一步从“AI系统是否是能动者”的二元问题上移开。例如，卡西尔扎德和加布里埃尔[46 (https://arxiv.org/html/2608.20041#bib.bib42)]开发了能动性特征描述，他们根据自主性、有效性、目标复杂性和通用性来定义这些特征。他们认为，这些特征的不同组合和程度会产生不同的治理和监督影响。他们的方法在这里特别相关，因为它展示了拆解能动性而非将其视为二元属性的治理价值。

本文的论证采取了相关但不同的步骤。尽管能动性特征描述根据AI系统能动性能力的配置和程度来区分它们，但它们并未解决一个独立的问题：正在实例化的是何种类型的能动性？在我们看来，这种区分具有学术相关性，因为关于AI能动性的辩论仍然聚焦于道德能动性，而非其他形式的能动性。考虑将能动性作为非道德构建、对AI治理具有独立意义的研究要少得多[50 (https://arxiv.org/html/2608.20041#bib.bib46), 例如]。即使是利斯特关于能动性与集体的工作，也主要关注作为道德构建的能动性[53 (https://arxiv.org/html/2608.20041#bib.bib48)]。

在我们看来，突出先进AI系统能动性的道德维度至少带来两个挑战。首先，这设定了特别高的能动性门槛，即使在那些原本理解能动性存在于一个连续谱系中的理论中也是如此。其次，更重要的是，对于当前目的而言，它并未能满意地回答先进AI系统可能构成何种类型能动者的问题。根据我们的理解，这可能带来挑战，因为一个实体无需满足道德能动性的严格要求，其行为就可能产生法律后果。

本文通过概述一个包含三个维度的类型学来回答“如何确定先进AI系统所展现的能动性类型”这一问题。第一个维度涵盖能动性的本质，可以是道德的或法律的。第二个维度关乎其模式，可以是个体的或集体的。第三个维度关乎其主体，可以是人类的或非人类的。这些维度的组合产生了八种可能的能动性实例，从常规配置到仍有争议或具争议性的配置。

我们将通过讨论类型学的维度来展开论述，之后探讨其八种实例。在最后一节，我们将回到这对治理先进AI系统的影响。

## 2能动性的维度

### 2.1本质：法律性 / 道德性

我们从能动性的本质开始。对于这个维度，我们以康德对合法性与道德性区别的经典论述（如《道德形而上学基础》所阐述）为起点。根据他的观点，合法性是在普遍的自由法则下，每个人的选择能够与他人的选择相协调的一组条件。它关注的是能动者之间互动的形式。道德性则关乎内在自由，能动者理性的内在动机具有核心重要性[26 (https://arxiv.org/html/2608.20041#bib.bib25), pp. 533–537]。

在单独讨论法律维度时，我们应注意法律人格与法律能动性之间的区别。法律人格是更基础的概念，是一种使存在或实体能够在法律上行动、从而获得承担权利和义务能力的“形式化且中性的法律工具”[57 (https://arxiv.org/html/2608.20041#bib.bib53)]。法律人格指定了一个地位，从而将实体识别为能够拥有权利或义务。这种地位可以赋予人类和非人类实体，作为一般原则，它可赋予任何具有约束力的法律规范认为能够承担独立权利或义务的人或事物[63 (https://arxiv.org/html/2608.20041#bib.bib59)]。

法律能动性涉及更多，即法律人格通过行为（无论是有意还是无意的）创造、变更或消灭权利和义务的能力[42 (https://arxiv.org/html/2608.20041#bib.bib39)]。儿童、新生儿、有严重精神障碍者以及无反应状态者拥有法律人格，但他们不一定拥有与典型功能的成人相同的法律能力或法律能动性程度[35 (https://arxiv.org/html/2608.20041#bib.bib33), p. 457]。例如，儿童可以拥有权利和义务，但通常缺乏签订合同的能力，或像成人那样被问责，因此不属于纳菲恩所称的“责任主体”，即被视为“经典契约者”、为其民事和刑事行为负责的人的观念[56 (https://arxiv.org/html/2608.20041#bib.bib52), pp. 362–366]。尽管我们将在下文更详细地讨论这一点，但法律维度的能动性如何与个体或集体模式以及人类或非人类主体相配对，应该已经清晰。

法律能动性关乎社会中实体互动的外部条件，而道德能动性则关乎使社会中实体得以互动的内部动机。这些内部动机的核心是意图概念。对意图的传统处理以个体道德能动者为主要模式[24 (https://arxiv.org/html/2608.20041#bib.bib23),81 (https://arxiv.org/html/2608.20041#bib.bib75), 另见]。当代辩论植根于安斯康姆的论证[4 (https://arxiv.org/html/2608.20041#bib.bib4)]，即意向性行为是那种能够被特定意义上的“为什么？”问题所适用的行为，由能动者行动的理由来回答。戴维森在此基础上将意图与理性行动联系起来[17 (https://arxiv.org/html/2608.20041#bib.bib16)]。根据他的观点，能动者行动的主要理由是一组赞成态度和信念的配对，理由既合理化也导致了它们所解释的行动，因此意向性取决于能动者形成信念和欲望并据此行动的能力。意图与能动性之间的紧密联系，以及意图位于个体能动者之中的观点，被许多其他学者以不同方式呼应[70 (https://arxiv.org/html/2608.20041#bib.bib65),30 (https://arxiv.org/html/2608.20041#bib.bib28)]。

虽然不如个体能动者的意图那么公理化，但集体具有意图从而满足能动性本质标准的能力在文献中也有充分阐述。塞尔[68 (https://arxiv.org/html/2608.20041#bib.bib63),69 (https://arxiv.org/html/2608.20041#bib.bib64)]认为“我们-意图”不能还原为个体意图和共同信念。布拉特曼[11 (https://arxiv.org/html/2608.20041#bib.bib11)]从相互交织的个体规划意图中推导出共享能动性，而无需假定任何群体思维；吉尔伯特[34 (https://arxiv.org/html/2608.20041#bib.bib32)]则认为共同承诺构成了一个有别于参与其中的个体的复数主体。赫尔德[40 (https://arxiv.org/html/2608.20041#bib.bib37)]补充了一个限定：随机个体集合不能被追究道德责任，但具有决策程序的集体可以。

现在我们已经明确了法律维度与道德维度的区别，并将其统一在能动性“本质”这一高层概念下，接下来我们转向其具体化的模式。

### 2.2模式：个体性 / 集体性

在这一维度上，我们首先讨论个体模式。个体人类是能动性的合法模式，这一点无可争议。这是伦理学中的无争议假设，也是关于AI系统与人类价值对齐的讨论中的基础[3 (https://arxiv.org/html/2608.20041#bib.bib3),33 (https://arxiv.org/html/2608.20041#bib.bib31),45 (https://arxiv.org/html/2608.20041#bib.bib41),47 (https://arxiv.org/html/2608.20041#bib.bib43),58 (https://arxiv.org/html/2608.20041#bib.bib54)]。正如我们在前一部分所讨论的，个体可以无可争议地是道德和法律能动者，尽管这两个范畴并不相同。更具争议性的是（我们将在讨论第三维度的下一部分中探讨），何种类型的个体——人类还是也包括非人类——满足能动性的标准。

文献中已确立但不那么公理化的是能动性的集体模式。关于集体维度与法律维度的结合，以及集体维度与道德维度的结合，都存在大量的研究。首先讨论集体与法律维度的结合，公司是其典型代表。

弗伦奇[31 (https://arxiv.org/html/2608.20041#bib.bib29)]认为，公司拥有一个内部决策结构，由组织流程图和公司决策规则组成，该结构实现了将个体的意图和行为从属于并综合为公司决策。根据这一观点，内部决策结构使得将事件重新描述为集体意向性成为可能[31 (https://arxiv.org/html/2608.20041#bib.bib29), pp. 212–214]。换句话说，公司不仅仅是聚合其成员的能动性，其自身就构成了一个能动者。

弗伦奇对集体特征的强调，与来自群体团结和共享意图的论证[25 (https://arxiv.org/html/2608.20041#bib.bib24),75 (https://arxiv.org/html/2608.20041#bib.bib70)]以及来自成员从参与中获益的论证[55 (https://arxiv.org/html/2608.20041#bib.bib51),72 (https://arxiv.org/html/2608.20041#bib.bib67)]一起，成为至少三种关于集体作为能动性主体的反复出现的辩护之一；分类见[54 (https://arxiv.org/html/2608.20041#bib.bib50)]；最近的辩护见[16 (https://arxiv.org/html/2608.20041#bib.bib15)]。

最有力的持续反对来自贝拉斯克斯。他认为行动不可能源于公司。行动总是源于其成员，公司只是执行（尽管也塑造）这些成员的意图[77 (https://arxiv.org/html/2608.20041#bib.bib72), pp. 3–8]。在后来的研究中，他通过区分内在意向性和拟制意向性，使这一反对更加尖锐。个体拥有内在意向性，因为每个人都有一个有意识的头脑，信念、意图和目的确实寓于其中。人群集合只能以拟制的方式被赋予意向性，要么是描述性的（通过类比人类意向性），要么是规范性的（当某个人或群体宣布一个实体应被视为具有内在意向性时，这在法律体系中很常见）[78 (https://arxiv.org/html/2608.20041#bib.bib73), pp. 546–548]。

近期最系统的...