@lidangzzz: 我去年就跟你们说,用RAG和vector database一定是死路一条。正确做法是, 1. 正确用好memory; 2. 正确把内容分块,做好indexing,做好summarization; 3. 正确给agent提供search工具…
摘要
作者批评RAG和向量数据库的方法,提出正确的做法包括用好memory、分块和索引、摘要、为agent提供搜索工具,以及使用SRAM-only推理服务如Groq和Cerebras。
查看缓存全文
缓存时间: 2026/07/04 14:47
我去年就跟你们说,用RAG和vector database一定是死路一条。正确做法是,
- 正确用好memory;
- 正确把内容分块,做好indexing,做好summarization;
- 正确给agent提供search工具,让agent甚至multi agent自己模糊搜索;
- 用更快的、我推荐过几十次的SRAM-only inference model provider, 比如groq、cerebras这些。
这些无论哪一个,都比无脑分块、无脑喂给vector database、无脑RAG要强一万多倍。
相似文章
@Jerry_fsy: 如果你正在做 Agent,或者准备 Agent 相关岗位的面试,RAG 和记忆系统都是绕不开的知识点。很多人觉得 RAG 已经落后了,没有人使用了,但实际上,它是一种上下文管理策略,在很多现实的业务中,会将Agent与RAG结合,从而满足…
作者分享了一份面向 Agent 开发与面试的 RAG 与记忆系统学习路线,覆盖分块、混合检索、Rerank、向量数据库选型以及短期/长期记忆管理,并附上 Lewis 等人的 RAG 原始论文等参考资料。
@pritipatelor:整个 RAG 行业即将被彻底颠覆 研究人员推出一种全新的 RAG 方案,几乎绕过了传统 RAG 所依赖的一切……
研究人员推出名为 PageIndex 的全新 RAG 方案,无需向量数据库、嵌入或分块,而是构建树状索引让大模型像人类读书一样检索,在 FinanceBench 上以 98.7% 的准确率超越所有向量 RAG 方法,且完全免费开源。
我们用文件索引替代向量数据库做 agent 检索,这是其中的取舍
作者分享用 INDEX.md 文件索引替代向量数据库做 agent 文档检索的实践:由 summarizer 生成每行描述,doc-searcher 子代理挑选并读取文件,把中间读取隔离在子代理上下文中。作者指出这节省的是上下文而非总 token,小规模文档集可行,但上千文档时索引本身会变重。
@ando_w: https://x.com/ando_w/status/2075468963098546520
本文介绍如何将单轮RAG升级为Agentic RAG,通过让LLM自主决定多次检索和调用工具,解决复合问题的多步推理。提供了基于Qwen3.7-Max的代码示例和实现思路。
@vintcessun: RAG喂太多文档,检索质量反而从75%掉到40%?向量搜索被大量无关内容稀释,真实部署中命中率暴跌。 问题根源:异构文档混在一起检索,噪声淹没了信号。多智能体编排看似智能,实际引入精度-忠实度悖论——配置稍差就两头不讨好。 论文提出的MA…
This paper identifies 'vector search dilution' in RAG systems when scaling to large heterogeneous document collections, where accuracy dropped from 75% to 40% in a real-world deployment. The proposed MASDR-RAG method uses domain scoping via organizational metadata before retrieval, improving P@10 from 0.77 to 0.86 with low cost and easy deployment.