MaSCoD:一种结构上下文指导的候选因果图生成的多智能体框架
摘要
MaSCoD是一个多智能体框架,它在直接边判断前预组织结构假设,以提高候选图生成中潜在相关因果关系的保留率,使用GPT-5.4和GPT-4o在数据集上进行评估。
arXiv:2609.19944v1 公告类型:新
摘要:大语言模型(LLMs)已应用于因果发现,但候选图生成很少将潜在相关因果关系的过早遗漏作为明确的设计目标。我们提出MaSCoD,一个多智能体框架,它在直接边判断前组织候选第三变量和局部结构模式。我们在Auto-MPG、DWD和Sachs上评估MaSCoD,使用GPT-5.4作为主要骨干网络,GPT-4o用于复现。MaSCoD表现出数据集和骨干网络依赖的保留-选择性特征,而非均匀的优越性。在所有六个数据集-骨干网络设置中,在直接边判断前提供结构假设的Full,与No Phase 1(在判断过程中构建假设)相比,实现了更高的平均召回率和F1分数,同时增加了假阳性率。在DWD上使用GPT-5.4和在Sachs上使用GPT-4o时,观察到与所有评估基线相比额外的参考边保留,而非均匀分布在设置中。部分消融实验表明,同时提供两个信息组件并不总是优于仅提供一个。对于GPT-5.4,阶段分析显示Full-No Phase 1的保留差距在直接边判断后已经存在,而协调在Sachs上为Full引入了额外的参考边损失。这些发现支持将结构预组织作为遗漏控制的明确设计和评估目标,并激发了在评估判断时联合考虑上下文构建及其利用的研究。
查看缓存全文
缓存时间: 2026/09/18 09:28
# 结构上下文引导的候选因果图生成多智能体框架
来源:https://arxiv.org/html/2609.19944 rm\[ BoldFont = TeXGyreTermesX\-Bold\.otf, ItalicFont = TeXGyreTermesX\-Italic\.otf, BoldItalicFont = TeXGyreTermesX\-BoldItalic\.otf \]TeXGyreTermesX\-Regular\.otf Yudai Nakada††贡献:These authors contributed equally to this work\.Yuichiro Nishiura11footnotemark:1Affiliation:SCSK CorporationAffiliation:Tokyo, JapanEmail:[y\.nishiura@scsk\.jp](mailto:)Jin Michael SplichalAffiliation:SCSK CorporationAffiliation:Tokyo, JapanEmail:[J\.Splichal@scsk\.jp](mailto:) ###### 摘要 大型语言模型(LLMs)已被应用于因果发现,但候选图生成阶段很少将“避免过早遗漏潜在相关因果关系”作为明确的设计目标。我们提出MaSCoD,一个在进行直接边判断前,系统组织候选第三变量及其局部结构模式的多智能体框架。我们在Auto-MPG、DWD和Sachs数据集上评估了MaSCoD,使用GPT-5.4作为主要骨干模型,GPT-4o用于复现实验。MaSCoD表现出依赖于数据集和骨干模型的“保留-选择性”特征,而非全面的优势。在所有六个“数据集-骨干”设置中,在直接边判断前提供结构假设的“完整版”配置,其平均召回率和F1值均高于在判断过程中才构建这些假设的“无第一阶段”配置,但同时也增加了假阳性率。与所有评估的基线相比,在DWD数据集搭配GPT-5.4以及Sachs数据集搭配GPT-4o时,观察到了额外的参考边保留,而非在所有设置中均匀出现。部分消融实验表明,同时提供两种信息组件并不总是优于仅提供一种。对于GPT-5.4,阶段分析显示,“完整版”与“无第一阶段”之间的参考边保留差距在直接边判断阶段就已存在,而在Sachs数据集上,“完整版”配置在协调阶段反而引入了额外的参考边损失。这些发现支持将结构预组织作为控制遗漏的一个明确的设计和评估目标,并促使我们将上下文构建与其在判断中的利用方式联合起来进行评估。 ## 1引言 因果发现是流行病学、经济学和社会科学等领域实证研究的核心,尤其在随机实验不可行、成本过高或受伦理限制时。诸如PC、GES、LiNGAM和NOTEARS等统计方法在特定假设下从观测数据中推断候选结构Glymour et al\. \(2019\) (https://arxiv.org/html/2609.19944#bib.bib2);Chickering \(2002\) (https://arxiv.org/html/2609.19944#bib.bib3);Shimizu et al\. \(2006\) (https://arxiv.org/html/2609.19944#bib.bib4);Zheng et al\. \(2018\) (https://arxiv.org/html/2609.19944#bib.bib5)。这些方法不一定能恢复真实的因果图,并且可能受到潜在混杂、测量误差或选择偏倚的影响。这一点很重要,因为因果发现通常为下游任务提供支持,如验证因果路径、选择调整变量以及确定干预目标Zanga et al\. \(2022\) (https://arxiv.org/html/2609.19944#bib.bib1);Takayama et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib6)。 在候选生成阶段,假阳性和假阴性可能具有不对称的后果:一条被包含的边可能在下游被移除,而一条被遗漏的因果关系可能永远不会被检验。因此,我们将保留潜在相关的因果关系作为与整体图质量并列的明确设计要求。 候选图的形成还依赖于关于时序排序、理论规律性和背景机制的领域知识,这些知识可能在观测关联中仅有微弱的体现。这些知识可以作为先验约束被纳入,或用于评估估计的结构,但系统地收集和应用这些知识是劳动密集型的Hasan and Gani \(2022\) (https://arxiv.org/html/2609.19944#bib.bib7);Takayama et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib6)。因此,近期的工作开始探索将大型语言模型(LLMs)作为可扩展的工具用于知识提取和因果判断。LLMs已被用于为统计发现提供先验知识、支持图估计以及直接生成因果图Jiralerspong et al\. \(2024\) (https://arxiv.org/html/2609.19944#bib.bib9);Takayama et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib6);Le et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib8)。然而,大多数现有方法主要针对整体图质量、效率或判断可靠性,而非候选图生成过程中的过早遗漏问题。先前的研究表明,基于LLM的因果判断取决于结构上下文的呈现方式。三元组提示相比成对提示可以产生更稳定的因果排序,同时已有研究提出通过分解程序,先识别中介变量来区分直接和间接因果关系Vashishtha et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib11);Cai et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib16)。 受这些发现启发,我们将结构假设的构建与其在直接边判断中的利用方式区分开来。我们的输入设计假设是:在判断前明确组织第三变量的身份和局部结构模式,相比于要求在同一判断过程中构建这些假设,可以减少参考边的遗漏。这促使我们将结构预组织作为一种设计选择进行评估,以控制遗漏,而不是假设它能提高LLM底层推理能力。 我们提出了MaSCoD,一个面向遗漏控制的、结构上下文引导的候选因果图生成多智能体框架。对于每个有序变量对,第一阶段提取并选择候选第三变量,并为其分配代表性的Fork、Chain或Collider模式。第二阶段在这些辅助结构假设下评估是否应保留直接边。第三阶段整合有序对判断,解析双向边,并尝试使用观测数据进行基于BIC的事后环路协调。生成的图被视为下游检验的候选结构,而非真实因果图的确定性估计。MaSCoD的新颖性不在于使用第三变量本身,而在于在明确的遗漏控制目标下,在直接因果判断之前对其进行组织。 我们探讨两个研究问题:(RQ1)与统计和基于LLM的基线相比,MaSCoD在多大程度上减少了参考边遗漏,以及其在不同数据集和骨干模型设置下的保留性能伴随怎样的假阳性负担;(RQ2)在直接边判断前提供不同结构假设的配置,在参考边保留和假阳性包含方面如何比较,以及参考边遗漏发生在流程中的哪个环节。 我们的贡献有三方面。首先,我们将结构预组织定位为面向遗漏控制的候选因果图生成的设计问题,区分了哪些辅助假设在直接边判断前被明确化,以及它们随后如何被使用。其次,我们通过第三变量和模式组织、多角色判断以及图级协调在MaSCoD中实例化了这一区分。第三,我们通过基线比较、信息消融和阶段保留分析,实证刻画了所实现的设计条件,既检验了预组织的保留益处,也探讨了这些益处的局限性。 ## 2相关工作 LLMs已被用于为统计因果发现提供背景知识和条件独立性判断Long et al\. \(2023\) (https://arxiv.org/html/2609.19944#bib.bib12);Cohrs et al\. \(2023\) (https://arxiv.org/html/2609.19944#bib.bib13);Takayama et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib6),用于直接生成图假设Jiralerspong et al\. \(2024\) (https://arxiv.org/html/2609.19944#bib.bib9);Roy et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib10),以及用于结合LLM推理与下游估计或精炼的混合流程Le et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib8);Shen et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib15)。ASoTMeier et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib14)进一步使用层次分解和多智能体共识进行智能体因果发现。在这些方法中,重复出现的设计策略包括丰富结构上下文、分解困难判断、聚合多个响应以及在图级协调局部决策。先前的工作主要强调图质量、效率或可靠性;候选图形成过程中的过早遗漏很少被视为一个明确的设计目标。 两项发现尤其启发了我们的设计。Vashishtha等人Vashishtha et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib11)报告基于三元组的查询相对于成对提示可以改善因果排序,而Cai等人Cai et al\. \(2025\) (https://arxiv.org/html/2609.19944#bib.bib16)将中介识别与直接/间接因果判断分离开来。这些结果表明,结构上下文和阶段性推理可以改变在判断过程中哪些关系保持合理。然而,仅仅呈现一个候选第三变量并不能确保在直接边判断时明确考虑相应的结构替代方案。通过为每个候选分配一个局部结构角色并将其作为思想实验条件,MaSCoD鼓励模型在指定的结构上下文下评估直接边假设,而非将其视为一个孤立的成对问题。MaSCoD基于这一设计原则,通过组织候选第三变量和局部结构模式,随后进行多角色聚合和图级协调来构建。 ## 3方法 ### 3\.1概述 设V=\{X1,...,Xn\}V=\\\{X_\{1\},\\ldots,X_\{n\}\\\}表示变量集,设did\_\{i\}表示XiX_\{i\}的自然语言描述,设DD表示观测数据。MaSCoD通过三个阶段产生采用的有向图G∗G^{\*\}:结构上下文构建、直接边判断和结构协调。这里的结构上下文指辅助的第三变量身份及其局部结构模式,而非整个提示或独立验证的因果事实。第一阶段构建和选择这些假设,第二阶段通过候选级判断(需要时跨候选选择)来利用它们。这种构建-利用的区分关注局部边判断;第三阶段单独协调生成的图。第一和第二阶段使用变量名和描述处理所有n\(n−1\)n\(n\-1\)个有序对;观测数据仅在第三阶段基于BIC的协调步骤中使用。我们分别评估\(X,Y\)\(X,Y\)和\(Y,X\)\(Y,X\),因为相关的第三变量和结构假设是方向特定的,我们只在两个方向独立判断后才解决冲突。 每个基于LLM的阶段使用三个具有不同领域专长的角色。在每个阶段内,角色接收相同的任务定义和特定对的信息,但提供不同的解释视角;采用多数票规则来整合他们的判断。由于一个有序对可能在多个第三变量候选下进行评估,其有效成本超过有序对的数量。因此,该框架主要适用于中小规模的变量集。角色定义、提示和详细伪代码见附录C–I。参见图例图3.1:提出的候选图生成框架概述。该方法以变量名、自然语言变量描述和观测数据作为输入,通过三个阶段产生一个采用的候选图。第一阶段为每个有序变量对提取和选择候选第三变量及结构模式。第二阶段估计在第三阶段生成的第三变量上下文中是否应保留直接因果关系。第三阶段整合生成的有序对判断,解析双向边,并应用事后环路移除。当环路移除完成时,采用的输出是一个DAG;否则,在双向边解析后获得的图作为采用的估计保留。 ### 3\.2第一阶段:结构上下文构建 对于每个有序对\(X,Y\)\(X,Y\),第一阶段构建候选集CXY=\{\(Zj,rj\)\}C_\{XY\}=\\\{\(Z_\{j\},r_\{j\}\)\\\},其中ZjZ_\{j\}是一个第三变量,rjr_\{j\}是三种代表性局部模式之一:Fork\(X←Z→Y\)\(X\\leftarrow Z\\rightarrow Y\)、Chain\(X→Z→Y\)\(X\\rightarrow Z\\rightarrow Y\)或Collider\(X→Z←Y\)\(X\\rightarrow Z\\leftarrow Y\)。这些模式为比较结构替代方案提供了简洁的支架,并非旨在成为详尽的因果分类。这些候选是第二阶段的辅助假设,永远不会直接插入到采用的图中。 第一阶段遵循一个受NGT启发的“生成-筛选”流程Delbecq et al\. \(1975\) (https://arxiv.org/html/2609.19944#bib.bib17);Cantrill et al\. \(1996\) (https://arxiv.org/html/2609.19944#bib.bib20)。首先,每个角色独立提出第三变量,并利用变量描述、时序、物理规律和领域知识为每个候选分配模式。优先使用观测变量,但必要时也可以提出未观测变量用于解释。然后,将三个候选列表合并,并使用候选名称字符串的嵌入向量对重复或语义相似的候选进行合并。当一个去重聚类包含不同的模式分配时,保留其成员记录中最常见的模式。接下来,每个角色根据每个去重候选对判断X→YX\\rightarrow Y的重要性进行1到10分的评分。分数被聚合并呈现给角色,由他们独立决定每个候选是否应传递到第二阶段。当有效“是”投票的比例至少为0.6时,候选被保留;当所有三个角色投票均有效时,这等同于至少需要两个“是”投票。该流程将候选生成、比较和接受分开,使得第二阶段接收的是一组结构化的替代方案,而非未经筛选的自由形式输出。 ### 3\.3第二阶段:直接边判断 第二阶段评估在CXYC_\{XY\}中的辅助假设下,是否应保留X→YX\\rightarrow Y。提供的第三变量模式被视为思想实验条件,而非独立验证的因果事实。对于每个候选\(Z,r\)\(Z,r\),角色考虑时序、已知机制,以及在X假设性变化下Y的预期变化。在Fork和Chain假设下,他们评估当Z在概念上被固定时,X对Y的影响是否仍然存在;在Collider假设下,他们评估在不考虑Z条件化的情况下的关系。候选级判断使用七个标签:Fork、Fork\+Direct、Chain、Chain\+Direct、Collider、Collider\+Direct和Invalid。包含\+Direct的标签保留X→YX\\rightarrow Y,而对应的不含\+Direct的标签则在给定的结构假设下拒绝直接边。相似文章
MoCA:隐式社会情境分析
介绍了 MoCA(隐式社会情境分析),这是一个新的任务和基准,用于在情感、意图和立场三个维度上建模隐式社会场景,并提出了冲突驱动溯因推理(CoDAR)框架。实验表明,最先进的多模态大语言模型在此任务上表现困难,而 CoDAR 能提升性能,但仍与人类推理存在较大差距。
我为智能编码构建了一个代码上下文图
作者构建了一个代码上下文图解析器,通过静态分析生成图,并通过MCP暴露给AI代理。在与Gemma 4 26B的直接比较中,使用该图的代理在不到2分钟内探索了Apache Kafka的请求流程,而没有图的基线代理在6分钟内耗尽了速率限制。
CAF-Gen:一种用于丰富论证结构的多智能体系统
CAF-Gen是一个基于多智能体LLM的框架,通过迭代的创作者-评审者流水线,将浅层论证结构丰富为正式的Carneades论证框架模型,从而提高了结构对齐性和质量。
社会思维链:一种基于医学鉴别诊断方法论的多智能体架构
这篇arXiv论文介绍了社会思维链(SCoT),一种用于医学鉴别诊断的多智能体架构,它将多轮专家对话组织成结构化流程。评估显示,它优于单智能体和整体式推理,尤其是在最困难的诊断案例上。
结构胜于规模:面向RAG的架构约束因果图
本文介绍了HCG-RAG,它利用架构约束因果图进行检索增强生成,在医疗基准测试中,节点数减少3-20倍,LLM调用次数减少8-135倍,同时答案质量与基线相当或更优。