标签
一篇HuggingFace文章,总结了IIT Madras研究人员的一篇论文,将LLM记忆处理归为五种方法——存储更多、压缩、纠正、推理时学习和分布可塑性——并探讨当新信息与旧状态冲突时,这些方法各自表现如何。
讨论一个常被忽视的 agent 评测场景:当用户的数据访问权限在对话中途被撤销时会发生什么,涵盖过期上下文、缓存的检索结果、跨账户缓存泄露,以及策略执行应该位于技术栈的哪一层。
帖子解释了 RAG 中为什么既需要 embedding 召回又需要 rerank 重排:双塔模型编码快、可离线预计算文档向量,适合大规模召回但细节捕捉弱;交叉编码器逐对打分更准但计算昂贵,因此先召回后重排是必要的取舍。
作者分享了一份面向 Agent 开发与面试的 RAG 与记忆系统学习路线,覆盖分块、混合检索、Rerank、向量数据库选型以及短期/长期记忆管理,并附上 Lewis 等人的 RAG 原始论文等参考资料。
本文作者探讨了RAG评估应如何区分系统回答"我不知道"的三种不同原因——检索失败、证据缺失和来源冲突——并提出了一种评估方法,该方法标注的是期望的未解决状态,而不是简单地将答案判定为正确、错误或拒绝回答。
swyx 认为,构建数据密集型应用的数据工程师的需求远高于普通的"RAG 专家"式 AI 工程师,并通过 Latent Space 招募一个以使命为导向的岗位,提供搬家和签证支持。
一篇关于 Agent 高频面试题「讲讲你的 RAG 链路」的详解长文,系统梳理了 RAG 的离线建库(解析、切分、向量化、建索引)与在线问答(召回、重排、上下文)全流程的原理、取舍与常见面试追问。
Qwen 千万级文档 RAG 流水线通过混合检索、引用约束生成、声明级验证与校准弃权四层防线,将不可回答问题的幻觉率压至 2%,p95 延迟保持 18ms,是一套值得借鉴的生产级防幻觉架构。
该论文研究不确定性度量何时能有效衡量 RAG 幻觉风险,发现当检索证据充分约束答案时,困惑度能达到 0.81–0.91 AUROC,而检索覆盖不足时同一指标会失效,提出不确定性是条件性的幻觉风险度量。
SAG2 提出一种无需嵌入的多跳检索架构,仅使用 SQLite、BM25 和 JEV 上下文证据决策,在 MuSiQue、2WikiMultiHopQA 和 HotpotQA 上取得最高 Recall@5/Recall@10,索引速度快且无需模型调用。
DeepSeek 推出 Search API 与 Fetch API,为智能体和 RAG 应用提供实时网页内容访问能力,成功请求定价为每 1000 次 $0.75。Search API 由 DeepSeek 自研搜索引擎驱动,返回结构化结果;Fetch API 可将单个网页内容以 Markdown 格式返回。
Odin 是一个基于浏览器的调试搜索引擎,它会解析代码仓库,并为给定的 bug 排列出需要修改的确切文件(93%)和函数(79.4%),通过 WebAssembly 使用 Tree-sitter,并通过 WebGPU 使用 10 亿参数以下的本地模型,在 SWE-bench Lite 上以极低成本达到了与 Claude 4.5 智能体相当的准确率。
一个团队分享了他们的自托管RAG客服聊天机器人如何自信地混淆了两份保修政策,并向客户承诺免费维修;同时对比了捕捉此类错误的方案——使用Langfuse或Arize Phoenix等工具追踪检索到的文本块,或通过Orq AI或NeMo Guardrails的护栏拦截未经核实的回答。
作者预告将于周一/周二发布一篇关于 AI Engineering 的长文,涵盖上下文工程、RAG、Agent 编排、评估、推理服务等 20 个核心主题,已投入约 10 天深度调研并收集 112 个资源。
llmwiki 是一个开源的“知识编译器”,可将论文、笔记、PDF、网页等原始材料编译成带引用溯源、审查状态和检索元数据的互链 Markdown wiki,供 agent 和人类复用。它支持混合检索(语义搜索、BM25 重排、wikilink 图扩展),并提供 CLI、本地查看器、MCP server 和 TypeScript SDK 多种访问方式。
一位开发者分享了一个基于 Python/FastAPI 构建的生产级 RAG 助手,该助手采用混合检索(pgvector + Postgres 全文搜索,通过 RRF 融合)、父子分块、交叉编码器重排序以及基于 Promptfoo 的评估体系,正在寻求代码评审和架构方面的反馈。
Galileo 免费发布了 Mastering GenAI 系列电子书,共四本约 540 页,系统覆盖 AI Agent 设计、RAG、多智能体架构与 LLM-as-a-Judge 评估等工程实战知识,适合 AI 应用开发者入门或进阶。
Packt Publishing 发布了由 Christoffer Noring 撰写的《Building Production AI Agents for the Web》,这是一本实用指南,涵盖 LLM 集成、RAG 管道、MCP、ReAct 推理、多智能体模式以及构建可用于生产环境的智能体框架。
讨论在将 AI 助手接入公司内部数据时常见的权限泄漏问题,并给出了一份检查清单和测试方法,包括按用户身份查询源数据、字段级权限、总量与排名泄漏、缓存与日志的同等保护、以及用假记录和测试用户做回归测试。
LlamaIndex 本周论文推荐介绍了 VL-DocIR 长文档检索新论文,并展示 LlamaParse Agentic Plus 在表格跨列结构解析上的准确性,可试用该工具。