为什么人工智能无法拯救不理解自身数据的企业

# 为何AI无法拯救不理解自身数据的企业 来源：https://architectureintel.com/why-ai-cannot-save-an-enterprise-that-doesnt-understand-its-data-83613f209317?gi=472f1cf46403 Younss (https://architectureintel.com/?source=post_page---byline--83613f209317-----------------------------------------) 按回车键或点击查看完整图片 > 本文与Mustapha Fonsau (https://www.linkedin.com/in/mustapha-fonsau/) 合著，他是Talentys首席信息官、Arca Suite创始人，同时也是主权决策智能与AI战略专家。 董事会在审查3700万美元的投资敞口时，需要的不仅仅是数字准确的信心。他们需要理解这3700万由什么构成、各组成部分如何相互关联，以及这些关联是否形成了需要采取行动的依赖关系。一份报告可以解释每一美元的去向，却仍可能让整体处于未知风险中。数字本身很少是问题所在。 组织通过人员来弥合这一差距。分析师提供报告遗漏的背景信息。架构师发现两个看似无关活动间的依赖关系。高管记得四年前某项豁免批准的原因。这些推理很少能在会议后留存，而AI不会消除这种需求——它只是消除了过去这些推理发生的停顿。 ## 三重区分而非四重 数据-信息-知识-智慧模型（通常归功于Russell Ackoff）区分了拥有数据和运用判断，而大多数讨论仅止步于此。企业需要的是能在逐项决策中审视的东西，这要求更精细的区分： **数据→语境→信息→构成→关联→意义→知识→理解→判断→决策→行动→结果→学习** 推理可能在上述任一环节断裂。这不是要按部就班遵循的流程，因为经验丰富的实践者常在详述个别组件前就识别出结构性风险，但每个区分都会引出一个原本未被解决的运营问题。 ## 当1+1+1≠3时 以数字37为例。它本身仅是数据。若说明它代表3700万美元投资敞口，则添加了语境。加入报告日期、币种和范围，它就变为可用信息。其构成为三个头寸：对交易对手A的1500万美元、对交易对手B的1200万美元，以及对交易对手C的1000万美元。我们可以解释总额包含什么，却对可能同时影响多个头寸的因素一无所知。 假设A和B依赖同一家关键供应商。这一单一关系将2700万美元（约占总额73%）绑定在了一个故障点上。算术未变，但意义已变，因为看似三个独立的头寸实则存在集中风险。此处的“意义”指通过组织自身的概念和义务解读后，某关联所代表的含义。 此时“知识”与“理解”产生分化。知识是带有日期、来源证据支撑的意义，且能被发现者以外的人获取。理解则是解释集中风险如何形成——是通过并购、供应商整合，还是一系列互不沟通的人做出的无关商业决策。知识告诉你依赖存在；理解告诉你该如何应对。 判断很少等待完整因果图景。假设无人知晓供应商能否承受中断，且交易对手A具有战略重要性：管理层决定将对B的头寸减少500万美元，并要求A在90天内提交应急预案。假设、不确定性以及足以重启该议题的条件，其重要性不亚于决策本身。随后调整限额，监控规则开始标记在共享供应商上的集中敞口。 ## 技术无误，语义错误 本体论是维系这一切结构的一部分。在Tom Gruber的表述中，本体论是“对概念化的明确规范”：什么算法律实体，合同如何产生义务，多个实体如何能依赖同一供应商。这些都不是凭空而来。在金融领域，EDM Council的FIBO已形式化法律实体、合同和所有权，而BCBS 239要求银行建立集成数据分类体系及法律实体、交易对手、客户和账户的一致标识符。 每个企业都已经在基于此类区分运营，无论其是否在本体论中形式化。销售部门将客户视为商业关系，财务部门视为开票账户，法务部门视为签约实体。这三者都正确，软件设计者将其识别为Eric Evans的**限界上下文**。强求单一通用定义会摧毁人们工作所需的区分。企业及其架构师的任务，就是有目的地在这些边界间构建翻译机制。 ## 让Younss的故事直达收件箱 免费加入Medium以获取该作者的更新。 记住我以便更快登录 当这种翻译缺失时，无人会察觉。接口顺畅传递一个标识符，接收方应用却将其视为不同类型的事物：接收方系统期望的是结算实体，得到的却是预订实体；或将一个集团误认为其子公司之一。所有技术检查都通过。故障在多个周期后才浮现——表现为持续需要手工调整的对账，以及无人关注的例外队列增长。语义歧义的代价很少是单一损失事件，而是一条永不消失的界线，大到令管理委员会烦恼，又分散到无人对此负责。 ## AI消除了停顿 AI提高了错误处理的成本。一个助手正确解读敞口却遗漏了共享供应商。另一个识别出依赖关系，却依据上个季度已失效的政策进行测试。当推荐触发工作流时，解释在任何人审核前就已转化为行动，而流畅的说明无法证明其背后使用了哪些概念、来源和规则。知识图谱使关联可被检索；但不能确保它们被正确使用。事实需要证据和日期，政策需要所有者和范围，而权限、验证和升级必须内嵌于工作流中，而非仅存在于治理文档里。 ## 无人重写的规则 回到3700万美元。六个月后，减仓完成，报告显示的集中度降至2200万美元。此时交易对手C被另一集团收购，而该集团业务也运行在同一供应商上。由于监控规则仅覆盖直接供应商合同，仪表盘数据未变。实际上，依赖可能已覆盖全部3200万美元，且重启决策的条件已满足却无人察觉。数字再次正确，解释却已过时。 调整限额在此无法解决问题。依赖的定义必须涵盖所有权和控制权，收集的证据必须相应改变，这就是Argyris和Schön所称的**双环学习**。若修订仅停留在会议纪要中，而系统继续执行旧规则，组织就未学到任何可付诸行动的知识。决策记录确有帮助，但前提是它将证据、假设、推理与后续发展相关联。 ## 实践检验 从一项会产生实际成本且持续需要手工解读或对账的决策开始。召集负责该决策的人员、领域专家以及构建和运维系统的团队，通过实际案例推演。确定适用的概念、证据和规则，然后在接口、数据结构和控制措施中实现该结果。以其改进的工作成效作为评判标准。 那么，没有本体论的企业是什么？不存在这样的事物。每家公司都基于对实体及其关联的认知框架运作；多数企业缺乏的是对此框架的明确规范。对于即将赋予AI更多自主权的人而言，检验很简单：你能解释系统如何从记录到解读、从解读到行动、再从结果反馈到修正认知吗？在回答“否”的地方，自动化正行使无人能监管的权限。此时问题就变成了领导力问题：谁在掌管这家公司？