隐藏智能体下的结构推断

arXiv cs.LG 论文

摘要

本文提出SIHA,一种在多智能体系统中,当智能体隐藏时推断交互结构的方法,结合结构无关初始化与迭代优化,以改进结构推断和轨迹重建。

arXiv:2609.18045v1 Announce Type: new 摘要:从多智能体动力学中恢复潜在交互结构对于理解和预测交互系统至关重要。基于轨迹的结构推断已取得可喜性能,但传统方法假设所有建模智能体的轨迹都是可用的。在实践中,由于有限的感知、遮挡或通信故障,智能体在部署时可能变得不可观测。现有研究已考虑不可见节点估计、部分观测下的结构推断和缺失值插补,但隐藏智能体轨迹及其交互的联合恢复仍探索不足。我们将此问题表述为隐藏智能体下的结构推断。其关键难点是循环依赖:恢复涉及隐藏智能体的交互需要其轨迹的估计,而轨迹重建本身可以从结构信息中受益。为解决此挑战,我们提出隐藏智能体下的结构推断(SIHA),它结合结构无关初始化与结构引导的迭代优化。SIHA从可见观测重建隐藏轨迹,使用Neural Relational Inference推断交互,并通过多强度结构注意力和迭代状态-结构更新将估计结构反馈到隐藏状态重建中。在三个基准动力学系统上的实验表明,在可见到可见的结构推断上有一致改进,同时在隐藏状态重建和未来预测方面也显示益处。具有模拟全肢遮挡的运动捕捉实验进一步证明了其在真实隐藏智能体设置中的有效性。
查看原文
查看缓存全文

缓存时间: 2026/09/17 09:10

# 隐蔽智能体下的结构推断
来源:https://arxiv.org/html/2609.18045
吴晓群††注:通讯作者:[email protected] 周明阳 黄惠  
单位:深圳大学计算机科学与软件工程学院  
地址:中国深圳市518060

2026年9月

###### 摘要

从多智能体动力学中恢复潜在交互结构对于理解和预测交互系统至关重要。基于轨迹的结构推断已取得显著进展,但传统方法假设所有建模智能体的轨迹均可获得。在实际部署中,由于感知限制、遮挡或通信故障,部分智能体可能无法被观测。现有研究涉及不可见节点估计、部分观测下的结构推断以及缺失值填充,但对隐蔽智能体轨迹及其交互的联合恢复仍探索不足。本文将此类问题表述为隐蔽智能体下的结构推断。其核心难点在于循环依赖:恢复涉及隐蔽智能体的交互需要对其轨迹进行估计,而轨迹重建本身也能受益于结构信息。为解决此挑战,我们提出隐蔽智能体下的结构推断方法(SIHA),该方法结合了结构无关的初始化与结构引导的迭代优化。SIHA从可见观测中重建隐蔽智能体轨迹,通过神经关系推断推断交互作用,并利用多强度结构注意力机制与迭代状态-结构更新将估计的结构反馈至隐蔽状态重建过程。在三个基准动力系统上的实验表明,该方法在可见-可见结构推断方面具有稳定提升,同时在隐蔽状态重建和未来预测方面也展现出优势。通过模拟全肢体遮挡的动捕实验进一步验证了其在真实隐蔽智能体场景下的有效性。

关键词:结构推断、多智能体系统、部分可观测性、复杂网络、隐蔽智能体

## 1引言

交互作用与网络结构塑造了众多科学领域中的观测动力学。在物理系统中,集体动力学包含底层交互网络的信息\[1 (https://arxiv.org/html/2609.18045#bib.bib4)\]。在生物学中,从单细胞测量推断基因调控网络有助于表征调控组织\[2 (https://arxiv.org/html/2609.18045#bib.bib1)\]。社交网络实验表明网络结构影响行为扩散\[3 (https://arxiv.org/html/2609.18045#bib.bib2)\],而跨部门生产网络则决定了冲击如何传播至整体经济波动\[4 (https://arxiv.org/html/2609.18045#bib.bib3)\]。这些实例驱动了从集体行为观测中理解或恢复潜在交互作用的方法需求。

基于轨迹的神经结构推断旨在通过学习建模实体状态序列间的关系来实现这一目标。神经关系推断(NRI)\[5 (https://arxiv.org/html/2609.18045#bib.bib6)\]提供了一种核心框架,其中潜在交互图支持预测动力学;后续扩展研究了时变关系或迭代图优化\[6 (https://arxiv.org/html/2609.18045#bib.bib7),7 (https://arxiv.org/html/2609.18045#bib.bib10)\]。这些传统方法通常基于作为输入提供的实体状态或轨迹进行操作。然而在实际系统中,此假设可能在实体层面被打破。例如在生物系统中,由于野外调查或传感器仅能捕捉生态系统子集,某些交互物种的动态可能保持不可观测;在工程化多智能体系统中,车辆或机器人可能因遮挡、感知限制或通信丢失而无法观测;在动捕场景中,由于持续遮挡或跟踪失败,某些身体部位可能从序列中完全缺失。在这种情况下,一个交互实体可能在整个考虑的时间区间内完全缺席于观测中,而不仅仅是偶发的缺失值。因此其状态缺失作为直接输入,但涉及该实体的交互仍必须通过已观测智能体的动力学进行推断。这种信息缺口使得完整结构推断欠约束,如图1 (https://arxiv.org/html/2609.18045#S1.F1)所示。

参见标题图1:本文研究的问题设置示意图。给定可见智能体的观测轨迹,目标是预测隐蔽智能体轨迹、所有未来轨迹并恢复潜在交互结构。相关工作研究不可见节点推断、节点级部分观测以及具有缺失值或时间片段的关系推断\[8 (https://arxiv.org/html/2609.18045#bib.bib8),9 (https://arxiv.org/html/2609.18045#bib.bib13),10 (https://arxiv.org/html/2609.18045#bib.bib12)\];这些范式在观测单元、推断目标和监督方式上存在差异,详见2.2节。我们考虑一种在训练期间可获得完整多智能体轨迹的协议:选择的智能体从预测器输入中被屏蔽,其真实轨迹用于监督隐蔽状态重建,而真实边标签不用于模型训练。在部署时,仅提供可见智能体轨迹,且对每个样本单独推断潜在交互结构,而非假设跨不同观测共享结构。因此SIHA重建隐蔽智能体轨迹并估计涉及隐蔽智能体的样本特异性交互。与基于完全观测轨迹或固定缺失值设置的传统结构推断相比,此设置相对探索不足。此协议匹配上述实际场景:在受控训练环境中,可通过可靠通信或多视角传感收集完整轨迹,而部署可能涉及遮挡、信号丢失或有限感知覆盖,导致某些实体完全不可观测。此外,交互模式可能因任务、场景或动作而异,且明确的边标注可能不可用,使得从剩余可见轨迹进行样本特异性结构推断成为现实需求。

在此协议下,隐蔽状态重建与完整结构推断相互依赖。结构信息可指导未观测智能体的重建,而当前SIHA数据流中的完整结构推断依赖于重建的隐蔽轨迹。这种耦合推断问题催生了结构无关的状态初始化,随后进行结构引导的状态与交互迭代优化。SIHA遵循此计算流程。首先,结构无关的隐蔽状态预测器(HSP-sa)从可见观测中初始化隐蔽轨迹。然后,当前实现中作为结构推断与未来预测骨干的标准NRI模型从可见和重建轨迹中估计交互作用。接着,结构引导的隐蔽状态预测器(HSP-sg)利用推断的结构细化隐蔽轨迹。其多强度结构引导在由预测结构偏置的注意力路径旁保留可学习注意力路径,之后HSP-sg与NRI交替优化以细化重建状态与结构估计。

我们在含一至五个隐蔽智能体的弹簧系统、带电粒子系统和Kuramoto系统上评估SIHA。在主要外部比较中,SIHA与仅可见NRI仅在可见智能体预测和可见-可见结构精度上进行数值比较,两者均为此定义。SIHA在报告网格中始终获得更高的可见-可见结构精度,而可见智能体预测结果因系统而异。隐蔽历史、隐蔽未来轨迹及涉及隐蔽智能体的交互构成SIHA的额外输出,在仅可见NRI中此协议下未定义。内部比较对比HSP-sa基线与完整SIHA流程:两者使用匹配的隐蔽状态监督和相同预训练NRI模块,而SIHA进一步引入HSP-sg用于结构引导重建和迭代状态-结构优化。在报告设置中,SIHA在显示指标上匹配或超越HSP-sa。评估进一步检验了隐蔽智能体数量趋势、记录CMU动捕轨迹(含模拟全肢体遮挡)\[11 (https://arxiv.org/html/2609.18045#bib.bib33)\]以及机制与监督分析。

本工作的贡献有三方面:(1)我们引入隐蔽智能体下的结构推断,其中训练时可获得完整轨迹,但部署时仅观测可见智能体轨迹,且必须在无边标签监督下联合恢复隐蔽轨迹及其交互;(2)我们提出SIHA通过结构无关引导、结构引导重建与迭代状态-结构优化解决隐蔽状态重建与结构推断间的循环依赖;(3)我们证明SIHA在三个动力系统、不同数量隐蔽智能体及含全肢体遮挡的动捕序列中有效,显示可见-可见结构推断的稳定提升以及结构引导优化的明确收益。

## 2相关工作

### 2.1关系与结构推断

从集体动力学恢复交互是经典逆问题\[1 (https://arxiv.org/html/2609.18045#bib.bib4)\]。交互网络在图给定时显式表示对象与成对关系\[12 (https://arxiv.org/html/2609.18045#bib.bib5)\],而神经关系推断(NRI)通过预测解码器从轨迹中学习离散潜在边类型,无需真实边标签\[5 (https://arxiv.org/html/2609.18045#bib.bib6)\]。

后续工作通过联合结构-动力学学习与改进消息传递\[13 (https://arxiv.org/html/2609.18045#bib.bib19),14 (https://arxiv.org/html/2609.18045#bib.bib9)\]、时变或演化关系\[6 (https://arxiv.org/html/2609.18045#bib.bib7),15 (https://arxiv.org/html/2609.18045#bib.bib20)\]以及迭代图优化\[7 (https://arxiv.org/html/2609.18045#bib.bib10)\]扩展此范式。其他公式通过掩码重建、异构交互建模或学习离散图结构推断关系\[16 (https://arxiv.org/html/2609.18045#bib.bib21),17 (https://arxiv.org/html/2609.18045#bib.bib22),18 (https://arxiv.org/html/2609.18045#bib.bib23)\]。并行时间序列研究也估计观测变量或变量组间的因果或预测依赖关系\[19 (https://arxiv.org/html/2609.18045#bib.bib24),20 (https://arxiv.org/html/2609.18045#bib.bib25)\]。这些方法普遍假定建模实体由观测状态、轨迹或节点属性表示,从而扩展了关系与结构推断。SIHA考虑整个智能体轨迹缺失的部署场景,需与交互作用一同重建。

### 2.2不完整观测下的结构推断

不完整观测存在于多个层面,包括不可见节点、部分观测拓扑、稀疏状态样本以及掩码值或时间片段。若干研究处理密切相关不完整观测设置。Alet等人\[8 (https://arxiv.org/html/2609.18045#bib.bib8)\]在测试时通过在学习动力学下优化不可见节点初始状态进行估计;其5.2节演示使用真实边训练的预测模型。SICSM\[9 (https://arxiv.org/html/2609.18045#bib.bib13)\]研究节点级部分观测下的结构推断,通过间接多跳依赖表示隐藏中介效应。其主要目标是部分观测下的结构,未将显式不可见节点轨迹重建与完整隐蔽入射图恢复联合作为推断目标。DiffRI\[10 (https://arxiv.org/html/2609.18045#bib.bib12)\]在固定已知组件中值或时间片段被掩码时结合自监督扩散填充与关系推断。它填充组件状态,而完全缺失的组件轨迹超出其输入公式。

相关范式包括从部分观测拓扑恢复网络生成规则\[21 (https://arxiv.org/html/2609.18045#bib.bib26)\]以及从稀疏、不规则、部分或噪声状态观测学习连续网络动力学\[22 (https://arxiv.org/html/2609.18045#bib.bib27)\]。这些范式在缺失单元和推断目标上存在差异。在此分类中,SIHA联合重建完整隐蔽智能体轨迹并估计涉及隐蔽智能体的交互。训练时完整轨迹提供隐蔽状态监督(无边标签监督),而部署时仅使用可见智能体轨迹。

### 2.3状态重建与图引导填充

时间序列填充使用循环、概率、注意力或扩散模型重构固定已知变量集上的缺失观测,包括BRITS、GP-VAE、SAITS和CSDI\[23 (https://arxiv.org/html/2609.18045#bib.bib28),24 (https://arxiv.org/html/2609.18045#bib.bib29),25 (https://arxiv.org/html/2609.18045#bib.bib30),26 (https://arxiv.org/html/2609.18045#bib.bib14)\]。GRIN进一步使用图消息传递将关系信息融入多元填充\[27 (https://arxiv.org/html/2609.18045#bib.bib15)\]。这些方法展示了时序和关系上下文如何支持已知变量中缺失值或片段的重建。其主要目标仍是固定通道上的值级状态重建。SIHA处理作为实体缺席于部署输入的智能体,并耦合两个方向:估计结构指导隐蔽状态重建,而重建的隐蔽轨迹支持涉及隐蔽智能体的交互推断。

## 3问题表述

### 3.1含隐蔽智能体的交互系统

我们考虑具有N个智能体的交互动力系统,其中前N_vis个智能体可见,剩余N_hid = N - N_vis个智能体隐蔽。智能体i在时间t的状态记为x_i^t ∈ ℝ^d。其在T个时间步观测历史上的轨迹为

x_i = [x_i^1, ..., x_i^T] ∈ ℝ^{T×d}。  
(1)
可见与隐蔽智能体轨迹分别收集为

x_vis = [x_1, ..., x_{N_vis}] ∈ ℝ^{N_vis×T×d},  
(2)
x_hid = [x_{N_vis+1}, ..., x_N] ∈ ℝ^{N_hid×T×d}。

相似文章

面向低延迟多智能体工具调用的有状态推理架构

arXiv cs.LG

本文提出了一种用于多智能体工具调用的有状态推理架构,该架构在多次调用之间复用KV缓存,并采用推测解码技术,相较于vLLM和SGLang,在智能体工作流上实现了2.1倍至4.2倍的加速。