CASE框架：治理企业级智能体AI的多学科控制架构

# CASE框架：治理企业级Agentic AI的多学科控制架构

Source: https://arxiv.org/html/2608.10153

Georgios Nektarios Lilis  
康奈尔大学

Lucio Baron  
AI71

###### 摘要

企业部署自主AI智能体的速度超过了治理能力，主流方法试图将单一学科（通常是为确定性自动化而构建的DevSecOps）扩展到所有自主性层级。我们认为，Agentic AI治理实际上是四个问题，而非一个，每个问题都有一门成熟的治理科学。CASE框架将控制理论分配给单个智能体（意图作为设定值，护栏作为反馈，评估作为观测），将复杂自适应系统理论分配给智能体集体（其中涌现使得单智能体保证不可组合），将监督控制论分配给人类-智能体团队（其中必要多样性定律表明，无辅助的人类监督在结构上注定失败），并将工程运维分配给智能体舰队（将错误预算扩展到决策质量，使自主性成为受控变量）。我们形式化了每一层，推导出跨层耦合条件，包括一个零接触部署悖论——某一层的卓越会机械性地给其他层带来压力，并将二十多项企业控制措施追溯到其经典构造。三项实证研究验证了这一论点：82%的有记录生产智能体故障是多层轨迹；22个生态系统工具中没有一个提供完整的第2层（涌现）覆盖；所有35个被评分的公开部署都落在最低成熟度区间。我们将这种不匹配——在涌现层实现的风险，对应的是能力几乎未被提供且实践完全缺失——命名为“涌现鸿沟”（Emergence Gap）。一个五级成熟度模型，配以非补偿性的瓶颈加权指数和评估工具，将CASE落地为科学而非过程成熟度模型，并基于生产级企业智能体平台。随着欧盟AI法案第14条将有效的人类监督列为法律要求，只有满足必要多样性的架构才能使监督成为现实，而非象征性的仪式。

关键词：AI治理，Agentic AI，自主AI系统，AI智能体，多智能体AI，LLM智能体，AgentOps，控制理论，复杂自适应系统，监督控制论，人机协同，AI安全，运行时治理，AI成熟度模型，多学科治理

## 1 引言

自主AI智能体——能够规划、推理、调用工具并以有限或无需人工干预的方式执行多步骤工作流的系统——在约三年内从研究演示走向生产业务运营。其定义性属性就是自主性本身：这些系统自行决定如何追求目标，并能执行其设计者从未明确指定或意图执行的动作。这种超越设计意图的自我导向决策能力，正是智能体与自动化的区别所在，也是本文所讨论治理挑战的根源。

治理机制并未跟上步伐。行业调查显示，只有约五分之一的企业拥有成熟的自主智能体治理模型，而相当大比例的Agentic AI项目预计到2027年将因治理和风险控制不足而失败[17](https://arxiv.org/html/2608.10153#bib.bib17)。主流应对方式是扩展熟悉的工具：内容护栏、政策文档、审查委员会，以及从机器学习运维时代继承而来的监控仪表盘。失败的根源在于对自动化与智能体之间的类别混淆。

经典自动化在受限输出上执行固定控制流：其行为在设计时可枚举，因此发布门禁、静态策略和管道安全等DevSecOps工具集就是充分的治理，因为对工件的认证即对行为的认证。智能体打破了这种等价关系。智能体的行为是在开放动作空间上的随机策略，受任何测试套件都无法枚举的输入条件制约，通过上下文和记忆进行自适应，并通过共享状态与其他智能体耦合。对工件的认证不再等于对行为的认证，而行为现在存在于四个不同的尺度：追求有界任务的单个智能体；共享记忆、工具和上下文的交互智能体集体；人类监督机器行动者的人类-智能体团队；以及以任何人类团队都无法检视的规模运行的自动化舰队。

每个尺度都展现出性质不同的失效物理。一个能稳定单个智能体的护栏，对两百个交互智能体的级联动态毫无说明。一个批准部署的审查委员会，也说明不了其成员能否吸收部署系统将产生的行为多样性。将自动化工具包应用于所有四个尺度的治理框架，实际上是在用一种药治四种病。

我们的核心主张是，每个自主性尺度都已经有了一门治理科学，在其他领域经过数十年的发展和锤炼。控制理论自伺服机构时代以来就一直治理自主单系统[6](https://arxiv.org/html/2608.10153#bib.bib6), [7](https://arxiv.org/html/2608.10153#bib.bib7)。复杂自适应系统理论自1990年代以来解释了市场、生态和群体中的涌现集体行为[8](https://arxiv.org/html/2608.10153#bib.bib8), [9](https://arxiv.org/html/2608.10153#bib.bib9)。监督控制论以必要多样性定律和可生存系统模型为锚点，自1950年代以来形式化了人类监督的极限与架构[1](https://arxiv.org/html/2608.10153#bib.bib1), [3](https://arxiv.org/html/2608.10153#bib.bib3)。站点可靠性工程自2000年代以来将大型随机系统的运营工业化[22](https://arxiv.org/html/2608.10153#bib.bib22)。CASE框架（控制理论、复杂自适应系统、监督控制论、工程运维）将每门学科分配给其为之而生的尺度。

本文的贡献有六个方面：

- •一个四层治理框架CASE，具有从自主性尺度到治理学科的显式映射，并为每一层提供形式化工具。
- •跨层耦合条件，描述故障如何在尺度之间传播，包括一个零接触部署悖论，其中第4层的卓越会机械性地给第2层和第3层带来压力。
- •一份机制清单，将二十多项可部署的企业控制措施追溯到其实现的具体经典构造，为从业者提供实施指南，为审计者提供具名工件。
- •通过三项网络规模证据研究进行实证验证：故障分类映射、工具能力分析和企业成熟度分布，其核心发现是故障记录中普遍存在的跨层耦合，以及工具和部署中普遍存在的第2层治理空白。
- •一个五级CASE成熟度模型，带有非补偿性复合指数，配有完整评估工具、锚定评分区间和一个示例（附录A(https://arxiv.org/html/2608.10153#A1)）。
- •一份企业示例参考——零接触智能体部署架构样本，提炼自Fortune 50规模多个全球业务职能中生产级智能体平台的运营实践。

本文其余部分安排如下。第2节(https://arxiv.org/html/2608.10153#S2)综述四支文献流和新兴的成熟度模型文献，最后给出整合缺口。第3节(https://arxiv.org/html/2608.10153#S3)陈述本文的新颖之处。第4节(https://arxiv.org/html/2608.10153#S4)展开框架、形式化、耦合条件和机制清单。第5节(https://arxiv.org/html/2608.10153#S5)给出实证验证。第6节(https://arxiv.org/html/2608.10153#S6)介绍成熟度模型，其完整评估工具见附录A(https://arxiv.org/html/2608.10153#A1)。第7节(https://arxiv.org/html/2608.10153#S7)通过一个参考零接触智能体部署架构说明该框架。第8节(https://arxiv.org/html/2608.10153#S8)给出战略和监管启示，第9节(https://arxiv.org/html/2608.10153#S9)讨论局限，第10节(https://arxiv.org/html/2608.10153#S10)作结。附录B(https://arxiv.org/html/2608.10153#A2)记录实证研究的编码协议。

## 2 文献综述

有五支文献与Agentic AI治理相关。四支对应于CASE各层；第五支，成熟度建模，讨论组织如何分阶段建设能力。我们从每支文献的经典基础综述到其最近对基于LLM的智能体的应用，最后以激发本文的综合作为收尾：每支文献治理一个自主性尺度，而对其余尺度基本保持沉默。

### 2.1 面向单个智能体的控制理论方法

经典基础已是定论科学。自主系统的反馈控制可追溯到维纳时代的伺服机构[6](https://arxiv.org/html/2608.10153#bib.bib6)，并通过状态空间方法成熟，可观测性和可控性由卡尔曼形式化，稳定性由李雅普诺夫方法处理，滚动时域约束处理由模型预测控制实现，还有增益调度和抗积分饱和补偿等实用鲁棒性手段；标准教材包括Åström和Murray [7](https://arxiv.org/html/2608.10153#bib.bib7)。向LLM智能体的转移是近期且加速的。一条研究路线在先进调节控制理论下重构LLM操作员智能体，将每个反馈回路映射到一个携带显式控制理论上下文的专用智能体：受控变量、设定值、链路优先级和选择器逻辑，冲突通过结构优先级而非协商解决[12](https://arxiv.org/html/2608.10153#bib.bib12)。第二条路线从安全方向抵达控制：护栏研究已收敛于闭环设计，其中护栏反馈重新进入规划上下文，优于二元放行或阻断过滤器，并显式形成安全评估与动作选择之间的反馈路径[13](https://arxiv.org/html/2608.10153#bib.bib13)。第三条路线将LLM推理嵌入工业工厂的经典控制栈中，采用动作-模拟-验证循环，并在迭代预算耗尽时将控制转移到保守回退策略或人类操作员的安全覆盖机制[19](https://arxiv.org/html/2608.10153#bib.bib19), [24](https://arxiv.org/html/2608.10153#bib.bib24)。在这三条路线中，单智能体回路都是分析单元；没有一条说明受控智能体交互时会发生什么。

### 2.2 复杂自适应系统与多智能体涌现

复杂自适应系统理论由Holland、Kauffman和圣菲学派发展起来[8](https://arxiv.org/html/2608.10153#bib.bib8), [9](https://arxiv.org/html/2608.10153#bib.bib9)，解释了自适应智能体之间的局部交互规则如何产生全局秩序、相变和不可还原为组分行为的级联。其相邻工具与智能体舰队直接相关：stigmergy（间接协作）解释了通过共享环境而非直接消息传递实现的协调[11](https://arxiv.org/html/2608.10153#bib.bib11)；自组织临界性解释了耦合系统为何漂移到小扰动即可触发各种规模雪崩的状态[10](https://arxiv.org/html/2608.10153#bib.bib10)；逾渗理论将图连通性与级联的波及范围联系起来。

这一框架现已被显式引入多智能体LLM文献。架构分类法将复杂自适应系统置于多智能体设计的最高层级，其特征是学习机制、反馈回路、涌现行为以及通过去中心化交互形成的规范[16](https://arxiv.org/html/2608.10153#bib.bib16)。实证结果令人瞩目。24到200个LLM智能体群体在重复协调博弈中自发形成共享的社会惯例和集体偏差，而这些不存在于任何单个智能体中[23](https://arxiv.org/html/2608.10153#bib.bib23)。对AutoGen和ChatDev等生产框架的分析记录了在极少量监督下的自底向上协调，其中出现了未指定的集体行为[16](https://arxiv.org/html/2608.10153#bib.bib16)。对大规模部署的综述识别出三个使这种涌现难以预判的结构性属性：不可还原性（孤立评估对群体行为的预测力有限）、单一文化风险（共享基础模型使名义上独立的智能体之间的故障相关）、以及通过共同记忆和工具产生的共享状态反馈[25](https://arxiv.org/html/2608.10153#bib.bib25)。这支文献描述丰富但规范贫乏：它解释了为什么智能体群让设计者惊讶，却没有提供企业控制机制来约束这种惊讶。

### 2.3