FedV-KGQA 实践:设计经验与交互原型
摘要
本文介绍了 FedV-KGQA,这是一个针对垂直分区知识图谱的多跳问答联邦系统,分享了实证发现、设计经验和交互原型。
arXiv:2609.13661v1 公告类型:新
摘要:知识图谱问答通常假设一个系统可以访问整个图谱。实际上,事实通常由共享实体标识符但拥有不相交关系类型的组织持有,因此没有单一方能看到完整的推理链。本海报展示了FedV-KGQA在针对此类垂直分区图谱的多跳问答上的实证发现。每个信息孤岛丰富其本地图谱,并在其自身的三元组上训练知识图谱嵌入。然后,一个服务器连接特定孤岛的实体视图,将投影问题锚定在主题实体上,并根据相似度对候选进行排名。原始三元组和关系嵌入从不离开信息孤岛。比较FedV-KGQA的实验彼此之间得出了三个结果。首先,联邦融合恢复了大部分集中式准确性,而单个信息孤岛恢复得很少。其次,锚定和丰富比嵌入模型的选择更重要。第三,最便宜的编码器取决于目标准确性,而不是参数数量。本海报论文贡献了该跨实验比较、由此得出的四个设计经验,以及一个交互原型,该原型运行真实推理,并针对每个问题在发布的检查点上跟踪整个流程。
查看缓存全文
缓存时间: 2026/09/15 08:58
# FedV-KGQA 实践:设计经验与交互式原型 来源:https://arxiv.org/html/2609.13661 ###### 摘要 知识图谱问答通常假设单一系统可以访问整个图谱。实践中,事实通常由不同组织持有,它们共享实体标识符但拥有不相交的关系类型,因此没有任何一方能看到完整的推理链。本海报展示了FedV-KGQA在垂直分区图谱上进行多跳问答的实证研究结果。每个数据孤岛丰富其本地图谱,并在自己的三元组上训练知识图谱嵌入模型。服务器随后拼接各孤岛特有的实体视图,在主题实体处锚定投影后的问题,并根据相似度对候选答案进行排序。原始三元组和关系嵌入永远不会离开孤岛。通过对比FedV-KGQA的实验,我们得出三个结论:首先,联邦融合能够恢复大部分集中式访问的准确率,而单一孤岛只能恢复很少;其次,锚定和丰富操作比嵌入模型的选择更重要;最后,最经济的编码器取决于目标准确率而非参数数量。本海报论文贡献了跨实验的比较分析、从中总结的四个设计经验,以及一个能运行真实推理并按问题在已发布的检查点上追踪完整流程的交互式原型。 ###### 关键词 分布式知识图谱,知识图谱问答,多跳推理 ††版权年份:2026††版权:本文版权由作者所有。根据知识共享署名4.0国际许可协议(CC BY 4.0)允许使用††会议:ISWC 2026 增刊,2026年10月25–29日,意大利巴里††邮箱:[email protected]††邮箱:[email protected]††地址:伦斯勒理工学院,纽约州特洛伊,邮编12180,美国 ## 1 引言 多跳知识图谱问答需要链接多个事实才能到达答案实体:例如回答"哪些演员出演过克里斯托弗·诺兰执导的电影?"需要一跳到达电影,第二跳到达演员阵容。几乎所有KGQA系统都假设单一系统可以查询整个知识图谱来遵循这样的链路。最新的将大语言模型加入的方法也保持此假设,因为所有证据都被收集到一处。然而,当跳转涉及不同组织时,此假设就不成立了:电影工作室可能持有`导演`关系,流媒体平台持有`演员阵容`关系,元数据服务持有`类型`关系,因此每一方都拥有相同实体的一部分数据,且没有任何一方能跨分区追踪完整链路。而治理、主权和商业知识产权约束通常禁止合并三元组。这是一种KG的*垂直*分区,各方共享实体作为样本,但持有不相交的关系作为特征视图。现有的联邦知识图谱嵌入工作则假设水平分区,即客户端共享关系词表但持有不同的三元组,且目标是链接预测而非多跳问答。联邦SPARQL引擎可跨自治数据源回答查询,最新工作持续推进源选择技术以支持大规模联邦。这些引擎需要可查询的端点和结构化查询,而我们的孤岛仅暴露嵌入且不在其三元组上运行任何查询。这两条路线都没有覆盖从自然语言回答垂直分区问题的场景,而这正是FedV-KGQA的定位:在保持三元组和关系参数在各孤岛内部的同时,跨关系孤岛对答案进行排序。 FedV-KGQA在不同章节分别回答了六个研究问题,但从未对它们进行比较——而这正是本海报的补充贡献:模型选择看似具有决定性,但消融实验表明锚定和丰富操作更重要;孤岛数量在一个章节中是通信参数,在另一个章节中则是表示质量参数;编码器选择看似由准确率决定,但通信实验显示最经济的编码器取决于目标。第6节将比较转化为四个设计经验,交互式原型(第5节)则在已发布的检查点上运行实时推理,逐问题追踪流程的每个阶段——这是FedV-KGQA未提供的按问题视图。 ## 2 框架概述 图1展示了四个阶段:本地丰富、本地KGE训练、服务器端融合与QA训练,以及推理。每个孤岛首先使用反向属性和属性链规则丰富其本地图谱(无需任何三元组离开孤岛),这提升了实体表示质量和答案可达性。反向规则的重要性超出表面,因为在垂直分区下,答案实体通常在其自身孤岛中仅作为尾实体出现,因此其嵌入仅从一个角色训练,给出的相似性信号较弱;添加反向三元组可恢复该信号。各孤岛还通过有界邻域扩展预计算主题条件下的候选集,然后在丰富后的三元组上训练本地KGE模型——我们测试了TransE、DistMult、ComplEx和RotatE。原始三元组和关系嵌入保持本地化,仅共享实体嵌入矩阵。 服务器将各孤岛特有的实体嵌入拼接为联合矩阵,而非取平均值,从而保留每个孤岛的几何视图。冻结的编码器将问题映射为向量,多层感知机将其投影到联合实体空间,问题在主题实体处锚定,这使排序基于相关邻域。主题实体由基准数据集随问题提供,不进行预测,因此实体链接超出了本评估范围。候选答案通过与锚定问题向量的余弦相似度评分。MLP是唯一的可训练组件。对于答案为集合A的问题,QA训练在预计算候选集上最小化边际排序损失,该损失在最困难负候选与最佳正答案得分接近时惩罚模型。由于编码器冻结,投影头独自学习将问题向量置于联合空间的答案区域附近,而关系嵌入不接收梯度并保持本地值。关于拼接实体矩阵的梯度可分解为各孤岛特有的列切片,因此每个切片仅传回其所属孤岛。推理时服务器重用微调后的实体矩阵和预计算候选集,无需运行时图遍历或跨孤岛三元组交换。 ### 范围。 该方法回答路径形问题。每个问题附带一个主题实体,答案必须是可达有界扩展的实体。需要聚合、比较、计数或时间约束的问题超出排序框架范畴,答案不是实体的问题同理。准确率还取决于每个孤岛持有的结构量以及跨孤岛实体标识符的对齐程度。 请参阅图注图1:FedV-KGQA的工作流程。仅实体嵌入和孤岛特有的梯度切片跨越边界。 ## 3 实验设计 我们使用三个规模与领域不同的基准:MetaQA(43,000+电影实体,1-3跳问题)、PathQuestion(来自Freebase的以人物为中心的2-3跳链)和WebQuestionsSP(WebQSP;985,000+实体,开放域,最多2跳)。关系按语义类别分配到三、五或七个共享实体标识符的孤岛,使每个关系恰好属于一个孤岛,各孤岛联合覆盖完整词表。十二种配置将四种KGE模型与冻结的BERT、DistilBERT或RoBERTa编码器配对,使用平均倒数排名和Hits@K评估。实验涵盖2跳和3跳准确率、锚定与丰富操作的消融、适配的联邦与集中式基线、传输实体嵌入的高斯扰动,以及达到目标Hits@3所需的通信成本,默认使用三个孤岛分区。 分区在各孤岛可学习的内容上差异显著。在三孤岛划分下(计算反向关系),MetaQA孤岛分别持有4、3和8种关系,涉及63K、129K和84K丰富三元组;PathQuestion孤岛持有3、5和5种关系,涉及18K、168K和191K三元组;WebQSP孤岛持有332、847和2,098种关系,涉及0.59M、0.99M和1.89M三元组。孤岛数量与每孤岛结构因此共同变化,这也是孤岛数量本身不能预测准确率的原因。下文使用的*仅本地*基线完全移除融合:每个孤岛仅使用自身嵌入和三元组训练、扩展候选集并排序,我们报告最佳单一孤岛的结果。仅从单孤岛构建的候选集最多覆盖MetaQA、PathQuestion和WebQSP上54%、35%和46%的正确答案,而组合孤岛后覆盖率分别为99%、100%和78%。覆盖率上限决定了可达到的准确率,因此WebQSP的结果是相对于0.78的上限测量的。 ## 4 实证发现 发现1:融合有效,且模型不如机制重要。使用DistilBERT+TransE时,FedV-KGQA在MetaQA上比集中式上限低0.04 MRR,在PathQuestion和WebQSP上低0.03,而最佳单孤岛基线分别降至0.40、0.20和0.32。没有单一分区包含完整链路。然而拼接的实体视图恢复了集中访问的大部分性能,达到0.76、0.65和0.54 MRR,最高比适配的FedE高出0.08,比适配的RelChain高出0.12。KGE模型是次要的:TransE最稳定(WebQSP上使用BERT时为0.54 MRR,DistMult为0.41,ComplEx为0.48,RotatE为0.49),但在MetaQA上四种模型均在0.71至0.76之间。BERT和DistilBERT尽管后者规模更小仍表现接近,而RoBERTa始终落后,表明其[CLS]向量与KGE空间对齐较差。我们仅评估平移和双线性评分函数,因为此处的问题是垂直分区下融合和锚定的行为,而非哪个评分函数最强。消息传递编码器(如图神经网络)因结构原因被排除:每个孤岛在聚合时使用缺失大部分边的图,因此GNN利用的邻域恰恰是分区所移除的。丰富操作能否恢复足够结构使聚合有价值,留待未来工作。 发现2:分区和路径长度表现非均匀。孤岛数量不是简单的调节旋钮。使用BERT+TransE时,WebQSP从三到七个孤岛仅从0.54降至0.51 MRR,MetaQA在五孤岛时达到峰值0.83,而PathQuestion在五孤岛时升至0.68后在七孤岛降至0.55。因此适度分区有助于专业化,但过度碎片化会削弱嵌入,且关系分布与孤岛数量一样影响表示质量,正如第3节的分区统计所示。更长路径无需架构改变。在MetaQA上,BERT+TransE仅从0.76降至0.74 MRR(Hits@10保持0.93),但在PathQuestion上从0.65降至0.57、Hits@10从0.96降至0.90,这与其更小、更多样化的训练集相关。因此更长路径的泛化性不应从单一基准推断。 发现3:两个组件均有帮助,且成本取决于目标。移除锚定在PathQuestion上使MRR从0.64降至0.57,在WebQSP上从0.53降至0.47;移除丰富在WebQSP上导致更大下降(MRR降0.19,Hits@10降0.28)。丰富操作增强局部结构和候选可达性,锚定使排序聚焦于正确的邻域。鲁棒性在低噪声下成立:在σ=0.05时,MRR仅降至0.79、0.59和0.48,σ=0.10以上下降陡峭。这是鲁棒性分析,而非隐私保证。总通信量为C_total=2TK|E|d·4字节,因此成本取决于目标。DistilBERT在WebQSP上达到Hits@3=0.35需96.8 GB,而BERT需121.1 GB;但在更高目标(PathQuestion上Hits@3=0.70)时BERT更便宜(23.1 vs 31.4 GB),使编码器效率成为成本目标问题。成本随实体词表规模缩放,而非三元组数量,因此限制于候选集的稀疏更新应能显著降低成本。我们尚未测量此点。 请参阅图注图2:跨实验综合分析。(a) DistilBERT+TransE基线比较,三孤岛。(b) BERT+TransE从2跳到3跳,三孤岛。(c) BERT+TransE鲁棒性,五孤岛。(d) 部分Hits@3目标的通信量。 ## 5 交互式原型 该原型将流程转化为用户可操控的体验。它加载发布的检查点(BERT+TransE,三孤岛,两跳MetaQA)并运行真实推理。用户选择一个问题,每个阶段依次流式展示:
相似文章
@hxiao: 我不是知识图谱的粉丝,但最近出于一个令人惊讶的原因开始更频繁地使用它们:构建非平凡的…
作者描述使用基于Qwen模型构建的知识图谱提取器来生成具有挑战性的多跳问答对,用于评估智能体搜索系统。
VisKG-LM: 将知识图谱编译为视觉记忆用于多项选择题问答
本文提出VisKG-LM,一种将知识图谱编译为视觉记忆以进行高效多项选择题问答的方法,通过将图编码与语言推理解耦,在基线上实现性能提升。
HyperProve: 用于多跳问答的答案引导超图扩展
HyperProve 提出了一种利用答案引导超图扩展的检索增强型问答框架,用于处理多跳问题,并在基准测试中取得了优于基线模型的性能。
先修复再增强:面向多跳问答的上下文增强知识图谱推理
本文提出了一种上下文增强的多跳问答训练框架,表明结合上下文图与知识图谱并使用强化学习可以提高生物医学领域的性能。
RSF-GLLM: 通过递归软流与解耦LLM生成弥合多跳知识图谱问答中的语义鸿沟
本文介绍了RSF-GLLM,一个将可微图推理与LLM生成解耦的框架,以解决多跳知识图谱问答中的语义鸿沟问题,在实现竞争性性能的同时,具有卓越的推理效率。