重绘AI地图：智能体生态系统中的责任边界理论

# 重新绘制AI地图：代理生态系统中的责任边界理论  
来源：https://arxiv.org/html/2605.23179  

**重新绘制AI地图：代理生态系统中的责任边界理论**  
Muhammad Zia Hydari  
匹兹堡大学  
[email protected]  
ORCID: 0000-0003-4522-326X  
Farooq Muzaffar  
Ensi.ai  
[email protected]  
ORCID: 0009-0007-2310-8144  

**摘要**  
代理式AI编排器降低了跨组织边界组合信息系统能力所需的接口与组装成本，看似加速了数字创新理论所预期的模块化组织形态。然而，对于那些输出结果需要证据、审核、签核或可指定责任的AI赋能能力，即使其技术接口变得模块化，其集成化的责任边界可能依然保持不变。我们提出**责任资产**这一概念：它们是一类互补资产，其战略价值在于使AI支持的输出结果具有合法性、可审计性、可审查性，并能归责于某一责任方。当验证成本高昂且责任难以转移时，即使技术可分解性很高，责任资产也会限制代理编排带来的边界迁移效应。我们进一步提出**规则债务**这一概念：当组织决策规则从正式信息系统迁移至未经治理的代理执行环境时，会积累潜在的治理负担，产生一系列未经管理的策略工件，这些工件最终必须被盘点、版本化、测试和协调。该理论整合了数字创新、交易成本、互补资产、数字平台治理和信息系统控制等视角，提出了七个命题，用以解释代理式接口与组装成本的降低、验证成本、责任可转移性以及责任资产协同专业化如何塑造三种能力层面的边界策略：组件策略、集成策略和双轨策略。这些命题进一步解释了可占有性如何影响责任资产的价值捕获，编排器意图捕获如何实现价值攫取，以及边界配置失误如何产生规则债务。通过结构化理论示例（涵盖文档处理、法律服务、审计、临床决策支持和采购等领域），我们对该边界逻辑进行了实证检验。该理论对信息系统学术界的贡献在于：它明确了数字模块化在何时延伸到组织分解、何时不会；它将信息系统控制理论扩展至代理式场景（其中决策规则在受治理的信息系统之外执行）；并指出责任资产协同专业化是数字平台治理不对称的结构性决定因素。  

**关键词**：责任资产；规则债务；代理式AI；数字平台治理；信息系统控制；组织边界；模块化；互补资产；平台覆盖；数字基础设施  

## 1 引言  
代理式AI编排器正在重塑跨组织边界的信息系统能力组装方式。代理编排器解读用户请求、识别相关互补能力、在工作工具间路由任务、监控中间输出，并整合出一个此前需要公司内部管理指令或客户大量集成努力的工作流程。数字创新研究给出了强有力的理由，认为模块化技术架构应能松动组件间的耦合、扩展生态系统，并将影响力向架构控制点重新分配（Yoo等，2010；Tiwana等，2010；Henfridsson和Bygstad，2013）。代理式编排进一步强化了这一预期：与以往企业信息系统史上的任何时期相比，它使用户组装组件的成本更低。因此，基于科斯机制的协调成本解读预测，随着市场组装成本下降，垂直解体压力将增大（Coase，1937；Williamson，1985）。这一预测虽有价值但不完整：它解释了执行为何能跨越技术接口，但并未说明责任边界能否随之转移。对于那些输出结果需要证据、审核、签核或可指定责任的AI赋能能力，即使其技术接口变得模块化，其集成化的责任边界可能依然保持不变。  

本文通过将关注点从接口边界转向责任边界，来解释这一难题。**接口边界**是用户交互、任务启动和工作流路由的位置。**责任边界**则是责任归属、证据、审核、签核以及事后可辩护性的位置。代理式编排可以移动前一个边界，却未必能移动后一个。当AI赋能的输出结果必须具备可辩护性、可审查性、合法性，并能归责于某一责任方时，相关的战略资产便是**责任资产**：一类互补资产，其价值源于使输出结果事后具有合法性、可审计性、可审查性和可归责性。  

驱动这一现象的是垂直型AI企业正在涌现的战略应对措施：企业将工作流和接口让渡给通用代理，并将特定领域的功能暴露为可调用的能力。从业者称之为“去头化”（going headless）——保留后端专用能力，同时将面向用户的接口层让渡给编排器。这一模式在经验层面颇为清晰，但并非本文的理论分析单位。本文的分析单位是AI赋能能力及其在垂直企业、代理编排器和客户组织之间的责任边界。同一家企业可能将文档提取作为组件化功能，围绕审计签核保持集成化，并在法律起草和已提交法律承诺方面采取双轨边界策略。问题不在于某家企业总体上是否“去头化”，而在于某一特定AI赋能能力应通过组件策略、集成策略还是双轨策略来治理。  

该理论围绕两个主要维度展开。**验证成本**衡量确定AI支持输出是否正确、完整、可辩护并在组织行动中可用所需的成本。**责任可转移性**衡量输出结果的责任能否通过合同、专业或操作方式跨组织边界进行转移。当验证成本低且责任可转移时，代理式编排很可能采用组件策略。当验证成本高或责任难以转移时，相关组织将保留对责任资产的控制，采用集成策略。当某一能力束包含可组件化的边缘功能，但核心功能承担着不可转移的责任时，便会采用双轨策略：边缘功能作为组件暴露，而核心功能保持集成。集成后的核心仍可通过有界模块化接口（用于启动、输入提交、状态检索或交付）进行访问，但证据、审查、溯源、签核和责任的控制权仍保留在责任边界内。因此，边界的决定因素是能力（或子能力）的责任体制，而非仅由接口模块化决定。  

该理论对信息系统学术界的贡献有三方面，并旨在作为一篇理论发展文章：它发展了新的构念，阐明了数字模块化的边界条件，并将多种理论视角整合为一种关于代理式边界策略的IS理论。首先，它修正了数字创新理论对模块化的预期。先前研究认为，随着接口和组装成本下降，模块化架构和重组逻辑会产生更去中心化的组织形态（Yoo等，2010；Henfridsson和Bygstad，2013；Lyytinen等，2016）。本文发展的理论指明了一种结构条件，在该条件下这一预期会失效：当责任资产与焦点能力协同专业化，且责任无法跨技术接口转移时，技术可分解性并不等同于组织可分解性。其次，该理论将IS控制理论与IT治理理论扩展至代理式场景。IS控制研究已理论化了正式与非正式控制的组合，使IS相关工作与组织目标保持一致（Kirsch，1996, 1997；Choudhury和Sabherwal，2003；Wiener等，2016）。IT治理研究已明确了IT赋能活动决策权的分配（Sambamurthy和Zmud，1999；Weill和Ross，2004；Tiwana，2014）。当代理在正式治理信息系统之外执行决策规则时，这些规则的历史驻地不再存在，产生的政策碎片会累积为**规则债务**：一种客户侧的治理负担，包括盘点、所有权确定、版本控制、测试、漂移监控以及与正式政策的协调。规则债务命名了一种客户侧的治理负担，它源于决策规则在以往吸收这些规则的信息系统之外执行。第三，该理论通过指出责任资产协同专业化是数字平台治理不对称的结构性决定因素，扩展了数字平台治理理论——这在前人研究中尚未被明确（Tiwana等，2010；Parker等，2017；Constantinides等，2018）。即使在正式接口开放的情况下，代理式编排器也能控制互补能力之间的路由、排名、发现、默认选择、评估和替换。那些能力与责任资产协同专业化的互补者，面临被平台覆盖的风险较低，因为编排器不仅需要复现任务输出，还必须复现使输出可用的可辩护性基础设施。这些命题的适用范围超出了代理式AI，可推广至模块化压力与责任约束并存的其他场景，包括平台中介的专业服务、受监管的数字服务，以及围绕可辩护决策组织的知识密集型工作。代理式AI之所以在理论上具有启示性，是因为它使接口边界与责任边界之间的分歧异常明显。  

本文其余部分的结构如下。第2节回顾了数字创新理论、交易成本经济学、互补资产与可占有性、数字平台治理以及IS控制理论，作为本文贡献的理论基础。按照Gregor（2006）的分类，所形成的理论主要是用于解释和预测边界策略的理论，尽管它也产生对代理式信息系统的设计启示。第3节解释了代理式编排如何降低接口和组装成本，并产生解体压力，同时保持编排器权力不变。第4节定义了责任资产，并说明它们为何制约解体。第5节发展了边界选择理论。第6节陈述了七个命题，包括推导过程、机制、替代性预测和适用范围条件。第7节展示了理论模型。第8节提供了结构化的理论示例。第9节讨论了对IS理论的启示，包括数字创新、IS控制、IT治理和数字平台研究。第10节涉及局限性和未来研究方向。  

## 2 理论基础  

### 2.1 数字模块化与数字创新的边界效应  
数字创新理论的一个核心主张是，数字技术能够实现模块化、分层化的架构，从而打破技术组件与组织行动者之间历史性的耦合关系。这一预期与模块化研究一致——该研究表明可分解架构允许组件间的变异和重组（Baldwin和Clark，2000），也与数字基础设施研究一致——该研究强调分层架构、生成性和跨组织边界的分布式创新（Tilson等，2010；Yoo等，2010）。Yoo等（2010）认为，数字创新围绕可重组的数字对象重组工作，这些数字对象具有分布式和生成性特性，使得创新能够跨越组织边界发生。Henfridsson和Bygstad（2013）追溯了数字基础设施演进的生成机制，强调架构开放性会邀请原始设计者未曾预料到的参与者贡献。Lyytinen等（2016）表明，数字创新网络表现出不同于传统企业边界内创新的组织逻辑。这些贡献产生了一个基线预期：随着数字技术降低跨组织边界重组能力的成本，组织形式应向更去中心化、基于生态系统的配置转变。  

代理式AI编排加剧了这一压力。与前几代数字架构要求客户自行识别、集成和编排组件不同，代理编排器自主完成大量组装工作：搜索成本下降（编排器识别可用互补能力）、工作流组装成本下降（编排器组合工作流）、监控成本下降（编排器观察中间输出）、适应成本下降（当步骤失败时编排器修订计划）。数字创新传统已经认识到技术模块化与组织去中心化并不等同（Henfridsson和Bygstad，2013；Constantinides等，2018），但尚未完全阐明在代理式AI场景下，技术可分解性在何种条件下无法转化为组织分解。本文发展的责任资产框架通过识别一类在技术接口变得可调用时仍与组织责任绑定的社会技术资产，填补了这一空白。  

### 2.2 企业边界与交易成本  
交易成本经济学提供了第二个基础。Coase（1937）认为，企业的出现是因为使用市场是有成本的；Williamson（1985）通过有限理性、机会主义、不确定性和资产专用性深化了这一见解，指出当市场交换使各方暴露于合同无法解决的危害时，集成变得有吸引力。