我的智能体一直在自信地基于糟糕的检索上下文行动，直到我添加了自检步骤

我一直在构建一个依赖RAG进行基础的智能体，有一段时间它只是...信任检索返回的任何内容。糟糕的片段、缺失的上下文，都没关系，智能体仍然会基于它行动并显得完全确信。意识到修复方法并不在于智能体的推理，而是在上游。检索层需要能够说“这个上下文看起来很弱”，然后要么再次检索，要么直接拒绝，而不是交给智能体一些不稳固的内容让它运行。一些真正有帮助的方法...混合检索（关键词+密集，通过倒数排名融合融合）而不是纯向量搜索，捕获了许多向量单独遗漏的精确匹配内容。加上一些多样性控制（MMR）的重排序，这样智能体实际上是从最佳候选中工作，而不仅仅是相似度得分最高的。纠正检索和自检作为智能体行动前的一个实际步骤，而不是之后。基本上给检索一个“我是否足够自信来交付”的关卡。还围绕最终输出添加了开放防护栏模型（llama guard, granite guardian），特别是因为基于糟糕上下文行动的智能体不仅回答错误，有时还行动错误，这是不同级别的风险。所有这些都不需要付费API，全部通过openrouter在小型开源模型上运行。8月29日有一个动手构建实验室，指导如何正确构建这个系统，包括混合检索、重排序、纠正检索、评估和防护栏层，使用一个实际案例研究而不是玩具示例。由Ben Auffarth博士领导，他在该领域写了几本书，包括一本专门关于RAG的。如果有人需要，链接在评论中。好奇是否有人在这里也遇到过智能体自信地基于薄弱检索上下文行动的情况，以及除了更好的提示之外你做了什么来解决它。