Metis AI：被忽视的AI原生与世界变革者之间的中间地带

# Metis AI：被忽视的AI原生与物理世界之间的中间地带
来源：https://arxiv.org/html/2605.14407
###### 摘要

关于人工智能局限性的主流论述将AI能力的边界界定为数字任务（AI擅长之处）与物理任务（需要具身体现之处）之间的分界。我们认为这种框架忽略了最重要的边界：数字任务*内部*的边界。我们识别出一类任务，称之为**Metis AI**，此名称源于希腊概念*metis*（实践性、情境性知识）。这类任务完全在计算机上完成，却难以被可靠的AI自动化所取代。这些任务并非计算上不可行，而是在制度、社会、规范层面以算法方法难以应对的方式相互纠缠。我们区分了*构成性metis*（因形式化行为本身而消亡的知识）与*操作性metis*（自动化可以逐步吸收的特定系统熟悉度），并提出了定义Metis AI区域的五个结构性特征：后果不可逆性、关系不可还原性、规范性开放性、对抗性共同演化、以及问责锚定。我们将每个特征扎实地建立在来自社会科学、哲学和人道主义实践的既有理论之上，论证这些特征是任务本身的属性，而非当前模型的局限，并指出恰当的设计回应并非更好的自动化，而是人类主导、AI辅助的**半人马架构**。

## 1引言：被忽视的中间地带

考虑三项都在计算机上完成的任务：

1.  1.垃圾邮件分类。一个模式识别问题，具有明确的真实标准、充足的训练数据，且单次错误影响甚微。AI天然胜任。
2.  2.为一位72岁患有III期肺癌、伴有两种并发症、且家属在治疗目标上意见不一的患者制定癌症治疗方案。肿瘤科医生与AI分类器在同一个屏幕上查看相同的CT扫描和实验室结果。但这项任务需要将临床证据与患者价值观相结合，处理家属在激进治疗与姑息治疗之间的分歧，在规范不确定性下判断可接受的风险，并承诺一个后果（毒性、生活质量、生存期）不可逆转的治疗方案。AI无法做到。
3.  3.在人体心脏上进行手术。这需要物理具身：手、器械、触觉反馈。AI目前同样无法做到，但原因截然不同。

任务1和3已被充分理解。任务1属于我们称之为**AI原生**的领域：结构良好的数字任务，具有明确的成功指标，AI系统能可靠地达到或超越人类表现；即使目前尚未达到，最终也会如此。任务3属于**物理世界行动者**：需要在物质世界中进行物理干预的任务，其中具身体现、物理行动的不可逆性以及模拟与现实之间的差距构成了基本障碍，尽管这种障碍正在减弱。AI在物理世界行动者领域的局限性已在莫拉维克悖论、模拟-现实差距和具身认知等概念下得到广泛研究。

任务2则不同。它完全是数字化的。肿瘤科医生可以都在屏幕前查看扫描结果、阅读病理报告、并与患者家属进行视频会议。无需物理操作，无需具身体现，也无需处理模拟与现实的差距。然而，它对AI自动化的抗拒程度却不亚于外科手术。这是为什么？

本文认为，AI能力最重要且理论化最不足的边界并非数字任务与物理任务之间，而是*数字任务本身内部*。在垃圾邮件分类器与肿瘤科医生之间，存在一个广袤的中间地带，其中的任务在计算上可以访问，但在制度、社会和/或规范层面抵制自动化。此处的**制度**，我们指的是组织人类行为持久结构，如法律、专业实践、治理和社会规范；不是指单个组织，而是组织运作所遵循的规则和期望。我们将此区域称为**Metis AI**——命名源自希腊概念*metis*，即这些任务所需的、且形式化过程会摧毁的实践性、情境性、关系性知识。

本文的贡献在于，通过五个结构性特征来刻画这一区域。这些特征并非当前AI系统的属性，而是任务本身及其所嵌入的人类制度的属性。我们借鉴社会科学、哲学、传播学和人道主义实践的理论，论证这些属性具有持久性：它们不会因更大模型、更多数据或更好架构而消失，因为它们源于人类社会生活的结构，而非计算约束，并且将在长期内是AI的核心组成部分。

## 2AI能力的三个区域

首先，我们正式提出一个简单的任务领域三分框架：

表1: AI能力的三个区域。**区域1（AI原生）** 涵盖文本分类、代码生成、图像识别、推荐和翻译等任务。这些任务已得到广泛基准测试，AI系统在其中许多任务上达到或超越了人类水平。它们共享一个（或诸多以下特征之一）共同结构：问题可以在信息空间中完全指定，成功可对照明确的真实标准衡量，并且存在充足的数字训练数据。

**区域3（物理世界行动者）** 涵盖手术、建筑、照护以及其他需要对物质世界进行物理操作的任务。其局限性已得到充分理解并讨论：莫拉维克悖论、模拟-现实差距以及机器人技术与语言模型之间120,000倍的数据差距。我们不再进一步讨论区域3；它已有大量文献。

**区域2（Metis AI）** 是我们的焦点。这些任务完全通过计算机完成——通过电子邮件、文档、电子表格、视频通话、数据库、消息平台。信息是数字的。界面是数字的。然而，这些任务却抵制可靠的AI自动化。这些任务有何共同点？它们在计算上都是可及的。AI系统可以阅读相关文档、处理数据、生成分析。但它们都抵制可靠的自动化。瓶颈不在于计算。而在于其他因素。

## 3主框架：Techne 与 Metis 的交锋

为了理解是什么让Metis AI任务具有抵抗力，我们借鉴了源于古希腊哲学和现代社会科学的一个区分。

**Techne** 是形式的、普遍的、可编码的知识，是可以写在手册里、编码成算法、并能无损耗地传递给任何合格从业者的知识。AI系统是Techne机器。它们通过对形式化输入应用学习到的程序来产生优化输出。

**Metis** 是实践的、情境的、关系的知识，它抵制形式化。Scott在其著作*《国家的视角》*中给出了这一对比最尖锐的现代表述：metis是“只能来自实践经验的那种知识”，而试图用techne取代它的高度现代主义计划，无论是通过苏联中央计划、强制村社化还是算法优化，都会产生灾难性的失败。亚里士多德则区分了*phronesis*（实践智慧）：无法还原为一般规则的实践智慧。布尔迪厄称之为*habitus*：那些无言的、社会习得的、支配实践（并且可能无法被有意识地阐明）的性情倾向。

techne/metis的区分已在软件工程中得到有效应用，Nolan认为对特定生产系统的了解是一种metis：通过值班经验获得，无法完全被运行手册捕获。这是一个重要的观察，但它描述了我们称之为**操作性metis**：特定系统熟悉度，难以转移但原则上任何合格从业者付出足够时间/精力都能掌握。基于Kubernetes、服务网格、可观测性平台的基础设施标准化将逐步减轻操作性metis的负担，如同“疏浚航道减少了所需的当地引航知识”。

定义我们区域2的metis在类别上完全不同。我们称之为**构成性metis**：不仅难以形式化，而且*其存在本身就被形式化行为摧毁*的知识。当一位肿瘤科医生与患者及家属坐在一起计划治疗方案时，相关的知识——该患者真正理解了多少，对一位未曾说出的人来说“生活质量”意味着什么，女儿坚持激进治疗反映的是患者的意愿还是她自己的悲伤——并非先于临床会面独立存在。它们是在对话中*构成*的，并且可能远远超出对话本身。它们无法被提取、编码和重新应用，因为它们不是对事态的表征；它们是一种与情境互动的方式，而这种互动本身又塑造着情境。这就是熟悉某个港口的飞行员与熟悉某位患者的医生之间的区别：港口不会因为飞行员的了解而改变其航道；患者却会。

另外三个属性将构成性metis与操作性metis区分开来：

1.  1.**反身性**：在构成性metis中，认知者与被认知者相互纠缠。医生对患者的解读会改变患者对自己疾病的理解。监管者对法规的解释会改变法规的含义。这是索罗斯的反身性在金融领域之外的应用，适用于模型与被模型对象共同演化的所有领域。
2.  2.**规范不可还原性**：操作性metis涉及关于系统的事实（这个数据库在某种负载模式下会崩溃）。构成性metis涉及关于价值的判断（“公平”在这里要求什么？“合理的注意”在此案中意味着什么？）。这些不是有可发现答案的经验性问题，而是需要人类协商和合法化的规范性问题。
3.  3.**问责构成性**：操作性metis原则上可以委派：足够详细的运行手册，在足够时间下，可以替代经验。构成性metis不能委派，因为承担个人判断的责任*本身就是使其成为判断的部分原因*。由医生签署的诊断书和由算法产生的相同诊断书，即使信息内容相同，也不是同一个社会行为。

本文的核心论点是：**Metis AI任务是那些需要构成性metis，而非techne或操作性metis的任务。** 无论形式化多么复杂，都无法解决它们，因为它们的核心困难在于形式化会摧毁的那些属性。AI可以通过学习特定系统模式逐步吸收操作性metis，减少对人类熟悉度的需求。但构成性metis并非与techne处于同一连续谱上；它是另一类事物。

Weick的著作区分了**不确定性**（问题是缺少信息）和**歧义性**（问题是对同一信息存在多种相互冲突的解释）。AI在减少不确定性方面很强大：给定更多数据和更好的模型，它能找到信号。但Metis AI任务的特征是歧义性。参与者并非无知；而是对情境*意味着*什么存在分歧。更多数据无法解决歧义性。只有集体的人类意义建构——即具有不同视角、利益和风险的各方之间协商意义——才能降低歧义性。

这种歧义性/不确定性的区分提供了最清晰的单一边界来判断一项任务是AI原生还是Metis AI。如果瓶颈是信息缺失，AI可以提供帮助。如果瓶颈是解释冲突，AI则无能为力。

## 4Metis AI的五大支柱

我们进一步识别出使数字任务抵抗AI自动化的五个结构性特征。每个特征都独立地建立在传播学、社会科学、人文学科等领域的既有理论之上，且彼此不可还原。我们为每个提供了区分性检验，证明它们不能被归纳为其他特征。最持久抵抗AI的任务通常同时表现出三个或以上特征。

### 4.1后果不可逆性

**定义：** 数字行为产生的后果（法律、财务、声誉、制度方面）通过人类系统传播且无法挽回。

法官发布判决。交易员执行头寸。肿瘤科医生让患者接受化疗方案。内容审核员在政治危机期间删除帖子。在每种情况下，行为是数字的（例如，屏幕上的按键），但后果却通过制度系统不可逆转地传播。

AI系统在定义的损失函数内进行优化。当错误可恢复时，这很有效。但当错误成本无界且无法恢复时，优化本身就是一个错误的范式。几项相关研究也汇聚于此点。

*   Dixit和Pindyck将此逻辑概括为不可逆性下的决策理论：任何具有不可逆性、结果不确定且时机可自由裁量的重大承诺，在分析上等同于行使一项金融期权。承诺的行为会“杀死”期权——永久摧毁决策者的灵活性。因此，不可逆性下的理性要求大大提高行动门槛，这个门槛反映的不是预期结果，而是因承诺而永久丧失的价值。对于旨在最大化预期效用的AI系统而言，这构成了一个架构性矛盾：使AI在可逆任务上有效的优化范式，恰恰是在单一行为通过制度系统不可逆地传播时失败的范式。
*   Arrow和Fisher从环境经济学中形式化了一个互补的洞见：当一项决策不可逆且后果不确定时，存在一个正的“准期权价值”，即保留随着新信息出现而采取不同行动的能力。标准的期望值优化（即支撑大多数AI系统设计的范式）将系统性地低估这一价值，因为它将决策视为一次性计算而非一个不断演变的承诺。其结果是倾向于不可逆行动的结构性偏见：优化者过早、过激进地做出承诺，而未能充分考虑被排除的可能性。
*   Jonas提出了“恐惧启发法”：当后果不可逆时，理性的姿态是给灾难性结果以不成比例的权重。

**区分性检验：** 一项任务可以在没有其他四个特征的情况下表现出后果不可逆性吗？是的。法官的量刑决定具有高度的不可逆性，但法官并非在歧义性下单独工作，也不是与对手共同演化；有清晰的法律框架。不可逆性是必不可少的，但不是充分的。