@amitiitbhu: Agentic RAG Explained Learn here: https://youtube.com/watch?v=6nSegpuWJVw…

Agentic RAG Explained

Learn here: https://t.co/76j4fMSAGF https://t.co/zw6S9HfYxB

TL;DR：代理型 RAG 在标准 RAG 上添加一个 AI 代理来控制检索流程，通过循环进行多步推理、选择数据源、优化查询，直到找到答案，适用于多跳问题、模糊查询和多数据源场景。

从类比理解：图书管理员 vs 研究员

标准 RAG 就像一位只会取一本书的图书管理员：根据问题关键词匹配找到一本书，交给大语言模型，单向流程结束。

代理型 RAG 则像一位研究员：阅读问题，思考该去哪里查找、选择哪个章节，阅读内容，判断答案是否就在那里。如果不在，再检查新的来源，重复搜索、验证，直到找到答案。研究员可以访问不同来源、进行后续搜索，缺点是速度稍慢，但能处理需要多步才能找到答案的问题。

标准 RAG 的工作流程

RAG 代表检索增强生成（Retrieval Augmented Generation）。流程是：

• 用户提问 → 问题转为嵌入（embeddings）
• 用嵌入在向量数据库中查找，返回 top K 个文本块（如 top 5、top 3 等）
• 文本块交给大语言模型，生成最终答案

这是一个简单的单向流程，没有循环。即使加入重排序器（re-ranker），仍然是标准 RAG，不是代理型 RAG。

标准 RAG 的失败场景

多跳问题（Multi-hop question）

例如：“在 2023 年收购了 Acme 的公司，其第四季度营收是多少？”需要先找出哪家公司收购了 Acme，再查找那家公司的第四季度营收，标准 RAG 无法完成两个步骤。

模糊查询

例如“新政策是什么？”政策可能指请假政策、退款政策等，标准 RAG 难以准确回应。

多数据源

实际场景可能包含 SQL 数据库、向量数据库、网络搜索等，标准 RAG 无法自动选择正确的来源。

检索质量差

向量数据库根据相似度返回文本块，但可能完全无关，或库中没有真正相关的内容，但仍返回 top K 无用的块。

代理型 RAG 是什么

代理型 RAG = RAG + 一个控制检索步骤的 AI 代理。AI 代理驱动整个检索过程，不再遵循固定的“检索然后生成”规则，而是在循环中完成所有步骤。

代理的职责包括：

• 判断该问题是否需要检索（简单问题可直接回答）
• 决定使用哪些工具或数据源（SQL、向量库、网络等）
• 设计或优化搜索查询
• 评估检索到的文本块是否足够好，若不够好则重新生成查询、查找不同来源
• 合并多个来源的结果
• 决定何时停止并写出最终答案

三个构建块

1. AI 代理：围绕大语言模型（LLM）构建，LLM 是“大脑”，思考并告诉我们要做什么。
2. 工具：代理的“手”，即代理可以调用和推荐使用的数据源或服务。
3. 工作流：围绕循环展开，用户提问 → 代理思考 → 使用工具 → 评估结果 → 若不够好继续循环。

需要设定最大步骤数限制，防止无限循环。

实例：多跳问题

问题：“在 2023 年收购了 Acme 的公司，其第四季度营收是多少？”

1. 代理读取问题，识别这是多跳问题，首先需要找出谁在 2023 年收购了 Acme。
2. 代理推荐使用网络搜索工具，查询“2023 年收购 Acme 的公司”。
3. 网络搜索返回结果（例如 Globex 公司）。
4. 代理更新计划：现在需要 Globex 2023 年第四季度营收。
5. 代理推荐使用向量搜索工具，在内部财务报告中搜索“Globex 2023 年第四季度营收”。
6. 向量搜索返回文本块，代理评估答案已找到，生成最终上下文答案并返回给用户。

标准 RAG 无法分解步骤，而代理型 RAG 通过 LLM 的“思考”实现了多步推理。

何时使用代理型 RAG

如今，生产环境中更多地使用代理型 RAG 而非标准 RAG。

总结

代理型 RAG 通过 AI 代理在循环中驱动检索，解决了标准 RAG 在处理多跳、模糊、多源问题时的局限。核心是 LLM “大脑” + 工具 + 循环工作流。

养成每天早上访问 Outcome School 网站（视频中提到）并每天阅读一篇博客的习惯，6 个月后会有很大提升。

Source: https://www.youtube.com/watch?v=6nSegpuWJVw