我们是否拥有所需的知识？重新思考企业中人类与AI的决策分工

# 我们所具备的知识是否足够？重新思考企业中人机协同决策

来源：https://arxiv.org/html/2606.15575  
Anne Marx, Ricardo Maia Avelino ([email protected]) (https://arxiv.org/html/2606.15575v1/mailto:[email protected])  
苏黎世联邦理工学院计算机科学及建筑系，瑞士  
Torbjørn Netland ([email protected]) (https://arxiv.org/html/2606.15575v1/mailto:[email protected])  
苏黎世联邦理工学院管理、技术与经济系，瑞士  
Mennatallah El-Assady ([email protected]) (https://arxiv.org/html/2606.15575v1/mailto:[email protected])  
苏黎世联邦理工学院计算机科学系，瑞士  

###### 摘要。

摘要。组织知识分散在各种软件系统、隐性专长和主要为人类消费而设计的手动文档中。随着人工智能系统被越来越多地部署并被赋予决策角色，它们需要访问这些知识。这引出了两个问题：组织应如何存储和维护知识，使其对人类和未来AI系统都保持可访问？在不同风险与不确定性水平的任务中，人类与AI之间的代理权应如何分配？在本立场论文中，我们描述了组织知识如何演变，并提出一个框架，将任务属性与知识可用性映射到推荐的代理权分配和控制机制。我们通过两个不同的制造任务——一项常规操作（视觉质量检查）和一次性战略决策（工厂选址）——说明了该框架的适用性，并总结了未来研究的机遇。

混合-主动系统，人机协作，代理权，自主性，AI智能体，决策，制造，工业5.0，知识理论，知识图谱，知识管理，自主AI，AI

††版权：权利保留  
††会议：AutomationXP'26 Workshop of the 2026 CHI Conference on Human Factors in Computing Systems，2026年4月14日，西班牙巴塞罗那  
††CCS：计算方法→知识表示与推理  
††CCS：社会与职业主题→自动化  
††CCS：以人为中心的计算→HCI理论、概念与模型  

参见描述我们混合代理权框架的题注

在人机协作中，编排者可以动态地在用户和系统之间分配代理权。代理权尺度有三个锚点：用户代理权，系统辅助用户；混合代理权，系统与用户协作；系统代理权，系统可独立于用户行动。编排者基于基础知识和问题做出这一决策。基础知识指我们做出决策的基础。它区分了描述性知识（包括历史、语义和预测性知识）和规定性知识（包括程序性和规范性知识）。预测性知识由历史和语义知识提供信息，并反过来为规定性知识提供信息。问题可通过四个属性表征：任务是常规还是非常规；目标可测量还是抽象；解空间有界还是无界；后果可容忍还是不可容忍。所有这些都影响编排者分配代理权的决策。关键词：知识理论，

图1. 我们用于制造决策的混合代理权模型包括 a) 基于可用知识的基础，b) 问题特征影响 c) 代理权水平。

## 1. 引言

人工智能 (AI) (https://arxiv.org/html/2606.15575#glo.acronym.ai) 在企业中的快速整合及其自主性水平的不断提高，已将安全有效部署的瓶颈从计算能力转移到了知识基础。当前 AI (https://arxiv.org/html/2606.15575#glo.acronym.ai) 行为在新型分布外情境中可能不可预测，错误决策可能带来严重的负面物理或经济后果。此外，自动化程度的提高带来了“发明消失”的风险，即在未完全理解或语义表示的情况下自动化流程，导致人类技能和领域知识的丧失。这重新点燃了长期存在的选择系统自主性和自动化水平的挑战 (Parasuraman 等，2000 (https://arxiv.org/html/2606.15575#bib.bib36))，现在重新表述为人类与AI在决策和行动时代理权的分配。

在企业中，我们可以将行动定义为决策和执行链，这些链会改变公司世界状态 (CWS) (https://arxiv.org/html/2606.15575#glo.acronym.cws)：即公司所依赖且可更改的所有事物的当前快照，包括但不限于物理资产、数字系统、客户关系、供应商选择以及人员与技能。为了更精细地分析企业中的代理权分配，我们使用 TDE 循环描述改变世界状态的行动：一个形式化模型，描述了触发、决策、执行和可选控制阶段。

先前的工作常常将自主性和代理权互换使用 (Feng 等，2025 (https://arxiv.org/html/2606.15575#bib.bib16))，侧重于责任 (Soder 等，2024 (https://arxiv.org/html/2606.15575#bib.bib19)) 或执行权力 (Feng 等，2025 (https://arxiv.org/html/2606.15575#bib.bib16))。我们明确将任务复杂度与自主性分开，因为即使是定义良好的简单任务也可以完全自动化，从而产生高度的认知自主性和执行权力。基于人机协作分类法 (Holter 和 El-Assady，2024 (https://arxiv.org/html/2606.15575#bib.bib31); Holter 等，2026 (https://arxiv.org/html/2606.15575#bib.bib32))，我们提出由人类或 AI (https://arxiv.org/html/2606.15575#glo.acronym.ai) 编排者在 TDE 循环中动态分配代理权，该分配受知识基础 (grounding) 和手头问题 (problem) 的具体特征影响（见图 1 (https://arxiv.org/html/2606.15575#S0.F1)）。我们的贡献包括：(1) 动态代理权模型：一个理论框架，将三层代理权（用户、混合、系统）与企业知识和问题属性的分类法联系起来；(2) 知识基础分类法：我们区分描述性知识（历史、语义、预测）和规定性知识（程序性、规范性），为工业知识必须被捕获和用于实现更高 AI 自主性和鲁棒性提供了路线图。

## 2. 改变世界状态行动的 TDE 循环上的代理权

先前的工作在不同领域形式化了行动。以人为中心的领域 (Laird，2019 (https://arxiv.org/html/2606.15575#bib.bib14); Rasmussen，2012 (https://arxiv.org/html/2606.15575#bib.bib2)) 强调基于知识、技能和情境的决策，而以系统为中心的框架通常旨在定义抽象、通用的流程：共享知识上的监控-分析-计划-执行 (MAPE-K) (https://arxiv.org/html/2606.15575#glo.acronym.mapek) 循环是自主和自适应系统广泛认可的工程框架 (Kephart 和 Chess，2003 (https://arxiv.org/html/2606.15575#bib.bib1))。推理与行动 (REACT) (https://arxiv.org/html/2606.15575#glo.acronym.react) 描述了大型语言模型 (LLM) (https://arxiv.org/html/2606.15575#glo.acronym.llm) 智能体 (Yao 等，2022 (https://arxiv.org/html/2606.15575#bib.bib13))，通过区分思考（推理）和行动，显示出与 Kahneman (Kahneman，2011 (https://arxiv.org/html/2606.15575#bib.bib9)) 快思考和慢思考模型的相似性。在机器人学中，学者们讨论感知-规划-行动循环 (Srivastava，2019 (https://arxiv.org/html/2606.15575#bib.bib18))。以人为中心和以系统为中心的框架都缺乏混合代理权场景。为了将这些框架泛化到改变世界状态行动中的人类单独、人机混合 (https://arxiv.org/html/2606.15575#glo.acronym.ai) 和 AI (https://arxiv.org/html/2606.15575#glo.acronym.ai) 单独决策，我们提出以下 TDE 循环，包含阶段：触发 → 决策 (→ 控制) → 执行 (→ 控制)。

每个行动都有一个触发 (trigger) 启动循环。然后是决策 (decision)，决策本身可以是迭代的，并触发进一步的决策或其他 TDE 循环。之后，行动者执行 (execute)，直接改变 CWS (https://arxiv.org/html/2606.15575#glo.acronym.cws)。执行阶段的观察本身可以触发进一步的 TDE 循环。决策和执行都可以被控制 (control)，建立边界和保障措施，尤其是在高风险环境中。代理权可以跨所有阶段在人类或系统用户与 AI 系统之间分开。当 AI 主要负责 TDE 循环并大多自主执行任务时，我们称之为 AI 系统代理权。在混合代理权设置中，用户和系统协作，而在用户代理权中，用户拥有 TDE 循环，AI 系统最多按需协助用户。

## 3. 知识基础——描述性知识和规定性知识

不同类型知识的可得性塑造了我们如何做出决策并影响代理权。我们将知识基础区分为描述性（历史、语义、预测）和规定性（程序性、规范性）知识，借鉴了不同的组织和认知知识观，包括 Nonaka 的 SECI 模型 (Farnese 等，2019 (https://arxiv.org/html/2606.15575#bib.bib28))、Tulving 的情景记忆和语义记忆 (Tulving 等，1972 (https://arxiv.org/html/2606.15575#bib.bib29)) 以及 Ackoff 的 DIKW 层次 (Tuomi，1999 (https://arxiv.org/html/2606.15575#bib.bib30))，同时将其适应于 AI (https://arxiv.org/html/2606.15575#glo.acronym.ai) 赋能的工作（见附录 A (https://arxiv.org/html/2606.15575#A1)）。

描述性知识描述世界，可进一步细分为：

- “发生了什么？”历史知识描述从感知 CWS 中提取的任何历史数据，例如人类观察、机器生成的数据或一般特定状态信息。
- “是什么？”语义知识描述关于公司世界的（时间无关和无状态的）事实，例如定义、属性（如物理性质）或关系。
- “（最可能）会发生什么？”预测知识能够识别相似的历史情境或基于语义的逻辑演绎，以推导未来 CWS 的预测。

历史和语义知识直接与 Tulving 的情景记忆和语义记忆相关 (Tulving 等，1972 (https://arxiv.org/html/2606.15575#bib.bib29))。一旦收集到历史数据和/或语义知识，就可能预测未来的 CWS，例如通过在历史数据上训练 AI 模型进行预测，从而生成预测知识。

规定性知识源于预测知识，因为理解或估计因果关系统引导出最佳实践、手册或规则。规定性知识由以下组成：

- “我允许做什么，不允许做什么？”规范性知识描述如何行动的规定和约束，例如安全规则、公司政策、使用规范等。
- “我应该或可以怎么做？”程序性知识描述预定义任务的逐步行动顺序，通常产生最佳实践指南和手册。

## 4. 问题属性——规律性、后果、目标和解空间

虽然知识基础为决策提供了基础，但我们还需要问题的特征来确定如何做出决策以及谁获得代理权。我们认为，编排者决定谁应拥有 TDE 循环权威的关键问题属性包括：局势是否常规、后果的严重性、目标的清晰度以及解空间的有界性。

问题的规律性与知识的可得性相关。Rasmussen (Rasmussen，2012 (https://arxiv.org/html/2606.15575#bib.bib2)) 以人为中心的技能-规则-知识 (SRK) (https://arxiv.org/html/2606.15575#glo.acronym.srk) 框架将人类操作员的决策区分为：(1) 常规任务的基于技能的行为，此时操作员不需要太多认知努力（隐式程序性和预测知识）；(2) 遵循明确指南和程序的基于规则的行为（显式规定性知识）；以及 (3) 在不熟悉情境中目标控制任务的基于知识的行为（规范性和描述性知识）。Rasmussen 还表明，程序性知识任务比基于知识的任务导致更少的错误 (Rasmussen，2012 (https://arxiv.org/html/2606.15575#bib.bib2))。然而，程序性知识可能难以获得，例如如果任务很少发生且大多在新颖情况下发生。在这些情况下，规范性知识和描述性知识成为日益重要的信号。

Perrow 等人 (Perrow，2011 (https://arxiv.org/html/2606.15575#bib.bib24)) 区分了系统中的松散耦合（可容忍）和紧密耦合（相当不可容忍的后果）。在制造中，在紧密耦合系统（如化工厂）中做出的决策可能传播错误，甚至灾难性地。通常，这些情况下的高风险行动遵循标准化程序以减少错误，并接受额外的控制。可能的后果，加上局势的新颖性，因此成为编排者决定谁应拥有 TDE 循环权威的关键信号。

类似地，决策可以遵循清晰、可测量的目标，例如找到最便宜的供应商，或更抽象和模糊，例如改善工人健康，此时人类直觉有助于澄清任务。

此外，解空间可能更宽或更窄。Rittel 等人 (Rittel 和 Webber，1973 (https://arxiv.org/html/2606.15575#bib.bib22)) 将“棘手问题”描述为没有明确最终解决方案，因此没有停止规则。虽然 AI 系统比人类更能导航更宽的解空间，但当没有定义可测量目标时，它们难以行动。这种权衡对于分配代理权至关重要，如以下案例研究所示。

## 5. 案例研究

我们将我们的框架应用于作者近期在制造公司中观察到的两个问题。

视觉质量检查。待检汽车零部件（触发）的油漆外观视觉缺陷（决策），并根据结果分类（执行）为有缺陷或进入下一制造阶段。  
知识基础：公司收集了数千个历史示例和预测注释。  
问题具有以下特征：常规问题，清晰且可测量的目标，有界解空间（接受/拒绝），可容忍的后果。

![[无标题图片]](https://arxiv.org/html/2606.15575v1/system_agency.jpg)  
在此案例研究中，标准情况下我们拥有 TDE 循环所有阶段的系统代理权。标签：自主性，系统代理权

代理权：一个 AI (https://arxiv.org/html/2606.15575#glo.acronym.ai) 模型在注释数据上训练，并在此过程中发展出隐式程序性知识。编排者选择系统代理权。