为编程智能体构建以证据为先的本地搜索层时,我学到了什么

Reddit r/AI_Agents 工具

摘要

作者介绍了 sift-light 的构建过程。这是一个面向编码智能体、以证据为先的本地搜索层,优先采用精确搜索和可验证的来源,而非看似合理的语义猜测,并新增了在 Apple Silicon 上对图像和扫描版 PDF 进行视觉检索的功能。

我反复看到同一种失误:智能体找到了一个看似合理的文件,自信地给出答案,却从未证实引用的片段仍与磁盘上的文件一致。我围绕相反的工作流程构建了 sift-light:先进行精确搜索,仅在明确启用时提供语义候选结果,再通过后续步骤检查并验证保留下来的源内容。最近的版本还新增了在 Apple Silicon 上对图像和扫描版 PDF 页面进行视觉检索的功能,同时保留原始页码和源内容哈希值。真正棘手的部分没有模型那么光鲜:- 确保字面匹配的证据不会被语义候选结果挤掉 - 让分页和检查复用同一个快照,而不是重新运行查询 - 拒绝提及本地准入层从未发送过的文件的远程媒体响应 - 在读取大文件之前限制 Base64 请求的大小 - 在编辑后明确显示源证据已过时 我很好奇其他智能体开发者是如何处理这些问题的。你们会严格区分“相关”和“已验证”,还是让模型自行判断候选结果何时足够好?
查看原文

相似文章

相同准确率,不同证据:搜索API作为工具型代理的决策表面

arXiv cs.CL

本文认为,为工具型代理服务的商业搜索API应被评估为决策表面——即在预获取证据状态下决定代理行为——而非仅仅依据答案准确率。通过固定代理和三个提供商,本文表明,尽管准确率相似,但证据经济性和矛盾比率差异显著,使得提供商选择成为检索预算和政策决策。