RAGU：一款采用紧凑型领域自适应大语言模型的多步GraphRAG引擎

Hugging Face Daily Papers 论文
graphrag rag knowledge-graph open-source compact-llm fine-tuning domain-adaptation

摘要

RAGU是一款开源的多步GraphRAG引擎，它使用紧凑型7B微调大语言模型（Meno-Lite-0.1），以极低的成本实现高质量知识图谱构建，在基准测试中性能超越大型系统。

图检索增强生成（GraphRAG）利用结构化知识增强大语言模型，但现有系统通过单次提取构建知识图谱，产生噪声实体和脆弱的检索。RAGU是一款开源模块化GraphRAG引擎，通过将提取与合并分离来解决这一问题：实体和关系经过两阶段类型提取、基于DBSCAN的去重、大语言模型摘要以及Leiden社区检测。一个关键见解推动了紧凑型提取器的开发：流水线中大语言模型所需的技能——理解、提取、上下文推理——是语言技能，它们随模型规模增长缓慢，与事实性世界知识不同。因此，我们训练了Meno-Lite-0.1，一个针对语言技能优化的7B模型，在知识图谱构建上优于Qwen2.5-32B（相对调和平均值提高12.5%），在英文GraphRAG任务上与之持平。在GraphRAG-Bench（医学）上，RAGU在每个事实级别上检索到最完整的上下文（证据召回率高达0.84，对比≤0.76），并在合成任务上超越HippoRAG2；在多跳事实问答中，HippoRAG2表面上的优势被证明主要是答案格式的人为产物。RAGU可通过pip install graph_ragu安装，在单个GPU上运行，并以MIT许可证发布。源代码公开在https://github.com/RaguTeam/RAGU，Meno-Lite-0.1模型可从https://huggingface.co/bond005/meno-lite-0.1获取。
查看原文
查看缓存全文

缓存时间: 2026/07/20 09:39

论文页面 - RAGU：一种结合紧凑领域自适应LLM的多步GraphRAG引擎

来源：https://huggingface.co/papers/2607.11683

GraphRAG不必昂贵、脆弱或混乱。

我们是RAGU背后的团队——一个开源的GraphRAG引擎，由新西伯利亚国立大学应用数字技术实验室和ITMO大学自动化多智能体AI实验室联合构建。其紧凑的提取器Meno-Lite-0.1也为我们在SemEval-2026任务8（MTRAG）中获得第一名的系统提供了动力（论文 (https://huggingface.co/papers/2605.04523)），因此这并非玩具模型。我们在此挑战一个常见假设：你不需要一个巨大的LLM来构建高质量的知识图谱。

我们测试了什么，构建了什么：

**“语言知识与世界知识”假设。**我们跨越6种模型规模（0.5B到72B）进行了实验。语言技能——理解、提取、基于上下文推理——随模型规模缓慢增长（4倍），而世界知识则急剧增长（21倍）。然而，现有的GraphRAG系统用32B–72B的模型进行提取，在它们无需回忆的事實上浪费计算资源。

Meno-Lite-0.1是一个7B模型，专门针对RAG导向的语言任务进行了微调。它在知识图谱构建方面优于Qwen2.5-32B（调和平均值提高12.5%）。在端到端的GraphRAG问答中，其独立的提取优势缩小到≤1个百分点——这并不是因为微调失败，而是因为一个好的整合流水线降低了问答质量对提取器的敏感性。最终结果：以7B的成本获得32B级别的提取能力。

RAGU本身是一个模块化的GraphRAG引擎，具有6阶段流水线，将提取与整合分离：两阶段类型化提取、DBSCAN去重、LLM摘要、Leiden社区检测。更清晰的图，更好的检索。

基准测试：

  • 在GraphRAG-Bench（医学）上：RAGU在每个事实级别上都检索到最完整的上下文——证据召回率高达84%，而竞争对手≤76%。
  • 在合成任务上优于HippoRAG 2（创意生成AC：59.0 vs. 56.9）。
  • 多跳问答差距？结果发现这主要是答案格式的人为产物。控制格式后，RAGU在BioASQ上与HippoRAG 2持平（72.9 vs. 72.4）。
  • RAGU使用本地服务的7B模型实现了这一点，而HippoRAG 2使用20B提取器。
  • 成本：在租用GPU上约0.001/文档，而基于API的替代方案约0.10/文档。对于10万文档，即100 vs.10,000。

实际细节：

  • pip install graph_ragu —— 可在单个消费级GPU上运行。
  • ~374个测试 + 确定性模拟LLM服务器，CI无需API密钥即可工作。
  • 三个可替换的存储后端（NetworkX或Neo4j，NanoVDB或Qdrant）。
  • MIT许可代码，Apache-2.0模型权重。

我们构建RAGU，是因为开源的GraphRAG不应意味着在学术原型和昂贵的API之间做出选择。阅读论文，尝试代码，告诉我们哪里出了问题。

代码：https://github.com/RaguTeam/RAGU 模型：https://huggingface.co/bond005/meno-lite-0.1 演示视频：

  • 2分钟 (https://youtu.be/bicJDMJuQfg)：基础RAGU设置和首次运行
  • 11分钟 (https://youtu.be/F6dFm9zyNck)：探索替代流水线配置

P.S. 附录A记录了我们在HippoRAG 2的一个固定提交中发现的工程缺陷：对LLM输出使用了未经处理的eval()、缺乏重试机制、没有存储抽象。我们并排展示了RAGU如何处理每个问题——Pydantic验证的输出、适当的重试逻辑、可替换的后端。

相似文章

ContextRAG：面向检索增强生成的无抽取层次图构建

arXiv cs.CL

ContextRAG引入了一种无抽取方法，用于构建面向检索增强生成的层次图索引。该方法利用残差量化K均值（Residual-Quantization K-Means）和形式概念分析（Formal Concept Analysis），将大语言模型（LLM）调用和Token数量减少数个数量级，同时在多跳问题上保持具有竞争力的F1分数。