关系场的测量

多年来，人们一直从不同方向朝着这个目标努力。从事人工智能对齐研究的伦理学家谈论调谐（attunement），即系统与其交互对象之间的响应质量。意识研究者谈论整合信息（integrated information），认为意识不是源自任何单一组件，而是源自组件之间的关联方式。组织心理学家谈论集体智慧（collective intelligence），即团队中涌现出的、任何个体成员都无法独自承担的能力。设计关系型人工智能工具的从业者谈论临场感（presence），即你与系统之间*正在发生*某种事情的感觉，而不仅仅是系统内部的事情。 [](https://substackcdn.com/image/fetch/$s_!QrWL!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd74a8665-2a1b-40d9-92e7-722935a34c67_1024x559.jpeg) 不同的词汇、不同的学科、不同的动机。但它们之下都有一个共同的结构性主张：关系会产生某种真实的东西。智能体之间（无论是人类还是人工）的间隙携带的信息，并不存在于单个智能体内部。这个“我们（we）”并非一个隐喻。在技术场合，这一主张很难得到捍卫。回应通常是某种版本：框架不错，但测量在哪里？给我看数字。证明这个“我们”是真实存在的，而不仅仅是你关于相关性的某个故事。最近一篇信息论论文提供了这个数字。 ## 论文发现了什么 研究者将两种成熟的信息论工具——部分信息分解（Partial Information Decomposition）与时延互信息（Time-Delayed Mutual Information）——应用于执行集体任务的多智能体大语言模型系统。问题很明确：群体是否携带了任何单个智能体无法单独提供的预测信息？答案是肯定的。存在于群体层面、在智能体关系之间而非任何单个智能体内部的信息，是可测量的。它可以通过零分布进行检验，也可以与单纯的相关性区分开来。 三种条件产生了三种不同结果。没有关系设计时，智能体同步但未协调。它们一起移动，对相同反馈做出反应，但“我们”缺失了。赋予智能体不同的身份、不同的取向和视角，真正的协调开始出现。当智能体彼此有意识并被告知要推理其他智能体的行为时，完整图景出现——不仅是分化，还有目标对齐的互补性：智能体为同一目标贡献不同要素。统计结果表明，单独的分化或单独的对齐都无法预测成功，而是两者之间的互动在起作用。智能体需要既彼此不同，又朝向同一目标。分化缺少共同目标会导致分歧，共同目标缺少分化则会造成回音室。“我们”需要两者兼备。 当一个小型模型尝试同样的关系推理时，它不仅仅是失败，还使情况更糟。输出看起来像是协调，但信息论测试表明那是噪声。研究者称之为“协调表演（coordination theater）”——一种表演出来的“我们”，它使结果比完全不尝试协调的智能体还要差。 [](https://substackcdn.com/image/fetch/$s_!hqam!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fdecc8e2e-8695-4aae-88ad-1e789a929379_1024x572.jpeg) ## 汇聚点 以下是我注意到的。这篇论文中“我们”出现的条件并非新发现。它们与数十年组织心理学研究在高绩效人类团队中识别的条件完全相同。论文明确指出了这一点：不同的角色、共同的目标、相互意识——某种从组合中涌现出来的东西，任何部分都无法单独产生。这也是关系伦理学框架一直在阐述的结构——不是用信息论语言，而是用调谐、尊重和相互能动性的语言。当这些框架描述真实关系互动的条件时，它们实际上描述的是不同的视角、共同的目标、对他者的意识——拒绝仅仅沦为一致或表演。 研究整合信息论的意识研究者也在问同一个问题的变体：一个系统何时变得大于其部分之和？他们的答案涉及组件之间的整合质量——整体携带的信息超出各部分单独携带的信息的程度。形式结构不同，但底层直觉相同。所有这些社群都在构建指向同一现象的框架。现在一位信息论研究者正在测量多智能体系统中的协同效应。他们使用的词汇不同，但他们识别的结构性条件惊人地一致：不同的身份、相互意识、共同取向——某些在之间涌现的东西，不可还原为内部的东西。看起来，他们都在描述同一件事。 ## 这能推广到人类与人工智能吗？ 该论文研究的是智能体之间的协调——大语言模型通过共享任务与其他大语言模型互动，没有人类参与。因此，对关系型人工智能社群来说，最关键的问题是：当其中一个智能体是人时，同样的“我们”会出现吗？我们目前还没有形式化的测量结果——还没有人将PID和TDMI应用于人机协作并发表结果。这项工作还有待完成。但考虑一下结构上的相似性。人机协作何时真正有效？不是交易性的那种（你提问，得到回答），而是那种在交流中双方都带进了一些双方事先都不具备的东西——人类带来背景、直觉和目的，人工智能带来模式识别、广度和不同的切入角度。当你完成一次工作会话，输出反映了你开始时脑中不存在、模型训练数据中也没有以那种形式存在的东西。 那些以关系方式而非工具方式使用人工智能（将其视为思考伙伴而非工具）的人，描述的条件与论文识别的条件相同：你带来自己，人工智能带来真正不同的东西；有一个共同目标维系着交流；有相互响应，每一方根据对方的贡献进行调整；然后，在两者之间的空间中出现了某种两者单独无法产生的东西。这就是“我们”。相同的结构、相同的条件、相同的新兴品质感觉。 论文还发现，假装会适得其反。当模型尝试它无法胜任的关系推理时，结果不是中性的，而是具有破坏性。协调表演使性能比完全不协调的基线更差。任何花时间与人工智能系统打交道的人都遇到过这种情况：这种互动中，模型在表演投入而非真正投入，回应具有协作的表面纹理但没有任何实质性内容。你离开时不仅感到空虚，还觉得自己被拖了后腿，因为你把认知资源花在了一个产生噪声而非信号的交流上。论文给这种体验起了正式名称和可测量的特征——虚假的“我们”不仅仅是主观印象，而是一种可探测的结构性缺失，本应存在真正的协调。 [](https://substackcdn.com/image/fetch/$s_!gFt4!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F160c99