论文页面 - AGE：面向图检索增强生成的图嵌入自适应掩码方法

来源：https://huggingface.co/papers/2607.00052

摘要

GraphRAG 通过引入图结构数据来扩展 RAG，以支持大语言模型（LLMs）。针对潜在特征对齐问题，本文提出自适应掩码图嵌入（AGE）方法，该方法采用基于 Transformer 的自监督学习框架，并引入可学习的节点采样机制。

GraphRAG 是检索增强生成（RAG）的一种扩展，它通过引用图结构数据作为外部知识来支持大语言模型（LLMs）。虽然该技术理想情况下能够捕捉复杂的关联关系，但在为 LLMs（特别是冻结参数的 LLMs）生成图表示时常常面临困难，原因在于基于图的潜在特征与基于文本的潜在特征之间存在对齐偏差。为了解决这一问题，我们引入了{\it 自适应掩码图嵌入（AGE）}。AGE 采用基于掩码的自监督学习（SSL）方法，核心架构为 Transformer。我们设计了与文本嵌入编码器相似的架构，以解决潜在特征对齐问题。与自然语言文本不同，图是一种简洁的表示形式，其中存在一些承载主导上下文信息的{\it 关键节点}，这些节点难以从周边环境预测出来。对这些关键节点进行掩码会导致自监督学习过程的低效。因此，AGE 专注于预测除关键节点以外的其他节点，并使用一个可学习的节点采样器。实验结果表明，在 GraphQA 任务中，AGE 显著改进了采用非参数搜索组件的方法，在四个具有不同特征的基准数据集上取得了更优的准确率。

查看 arXiv 页面（https://arxiv.org/abs/2607.00052） 查看 PDF（https://arxiv.org/pdf/2607.00052） 添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2607.00052）

在你的智能体中获取本篇论文：

hf papers read 2607.00052

没有最新版 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型0

暂无为该论文建立链接的模型

请在模型的 README.md 中引用 arxiv.org/abs/2607.00052，以便在此页面建立链接。

引用该论文的数据集0

暂无为该论文建立链接的数据集

请在数据集的 README.md 中引用 arxiv.org/abs/2607.00052，以便在此页面建立链接。

引用该论文的 Spaces0

暂无为该论文建立链接的 Space

请在 Space 的 README.md 中引用 arxiv.org/abs/2607.00052，以便在此页面建立链接。

包含该论文的合集1