正确不等于受治理：智能体工作流中的溯源完整性

# 正确并不等于受治理：智能体工作流中的溯源完整性

来源：https://arxiv.org/html/2608.12761

Jesus Salas

致谢：作者受雇于微软。本工作是在该雇佣关系之外，利用个人时间和设备独立完成。它不代表微软公司的观点或立场。

所属机构：独立研究者

邮箱：[[email protected]](mailto:)

2026年8月

###### 摘要

智能体工作流通常以其是否达到正确结果来评估。这在机构化环境中是不够的，因为一个正确的动作可能依赖错误的权威、缺乏支持的完成声明，或因后续变更而过时的工作。我们将*受治理执行*定义为：其决策、完成以及对变更的响应均由可检查的溯源支持的工作。我们提出Matrix，一个确定性的因果状态层，它记录权威与事实依赖，验证完成证据，并选择性地使受影响的工作失效。在受控比较中，受治理工作流与直接工作流往往达到相同结果，但只有受治理路径始终如一地保留了治理证据、拒绝了无支持的收尾，并将恢复范围限制在相关任务上。一项角色分离的迁移挑战随后失败：一个由确定性强制实施的完整性契约，严重过度阻塞了在其编写上下文之外产生的合成数据包。这些结果并不表明Matrix是一般性的精度增强器；它们支持其作为机构完整性层的主要角色，使智能体工作可审计且可独立验证。

## 1 引言

正确的执行不一定是受治理的执行。智能体可以在依赖草稿、过期豁免或相邻领域例外的情况下选择预期动作。它可以在不产生任务完成定义所要求的证据的情况下宣布任务完成。它也可以在政策变更后达到当前的业务结果，却不说明哪些先前工作已过时、哪些证据仍然有效，或者为什么只重复了部分任务。普通的成功指标可能会将每个工作流都评定为正确。这些失败关乎工作的机构记录，而不仅仅是表面答案。企业审核者可能需要确定什么权威和事实产生了某个决策，执行是否真正满足了其声明的义务，以及后续变更如何在前序工作中传播。一份记录、检索到的文档集或智能体的断言可以为该账目提供证据，但没有任何东西自动成为治理账目本身。这一关切也反映在机构指引中。欧盟人工智能法案第12条要求高风险AI系统具备日志功能以支持可追溯性，而NIST AI风险管理框架则强调治理和风险管理活动中的文档记录（European Union 2024 (https://arxiv.org/html/2608.12761#bib.bib4)；Tabassi 2023 (https://arxiv.org/html/2608.12761#bib.bib23)）。这些来源并未规定本文所研究的架构，且Matrix并不声称确立法规合规性。它们促使我们把可重建证据视为系统需求而非展示特性。我们围绕三种溯源完整性来组织这一问题：决策溯源识别当前权威和实际治理某动作的被接受事实，并将其与仅被检索或语义相关的证据区分开来。执行溯源将每项义务与可独立检查的完成证据相连接，并防止智能体自身的完成声明成为充分证明。变更溯源记录哪些决策、任务、凭证和先前裁定依赖于被取代的权威或事实，以便恢复能够使过时工作失效而不丢弃未受影响的证据。

我们研究这些属性是否可以被外部化为概率智能体周围的确定性层。Matrix记录对版本化权威、事实、任务、完成凭证、依赖、失效、替换和监督裁定的类型化操作。模型继续解释文档、提出计划并执行开放式工作。框架本身拥有身份、转换有效性、机械声明的先决条件、凭证匹配、有界返工和重放。这种分离旨在使生命周期可检查，而不假装治理能使语义判断永不出错。评估特意包含了