你实际使用的自主网络调研技术栈是什么?(完全本地,无云API)
摘要
作者详细介绍了一个完全本地、无云API的AI代理网络调研技术栈,使用自托管SearXNG、持久缓存、TLS指纹抓取、无头浏览器回退以及本地重排序器,并邀请社区讨论类似方案。
运行完全本地的网络调研管道来支持我的AI代理设置已经有一段时间了,我意识到并没有看到太多关于其他人如何处理这一部分的讨论。推理端吸引了所有注意力,但让代理真正浏览真实网络而不崩溃本身就是个难题。我的技术栈最终形成了一个分层管道:自托管的SearXNG用于搜索,一个持久化的缓存/索引层(Hister)存储每个抓取的页面,rnet(现在是wreq)用于TLS指纹HTTP抓取以绕过基本反爬虫,camofox(封装了Camoufox)作为JavaScript密集型页面的无头浏览器回退,以及一个本地的qwen3-reranker-4b用于相关性评分。所有组件通过一个MCP服务器与代理通信。整个链条中没有任何云API调用。从数据中心IP使用Firefox指纹访问Reddit会返回403,但Safari可以正常访问。Cloudflare管理的挑战需要完整的浏览器渲染,无论指纹如何。页面会在会话之间发生变化或消失,因此拥有你实际阅读时的缓存快照比你想象中更为重要。缓存层悄无声息地成为了最有价值的组件——重复查询瞬间完成,当页面下线或被编辑时,代理依然拥有你最初看到的内容。所有这些都和推理模型一起运行在一台机器上。没有外部依赖,也无需担心浏览历史触及云API的隐私问题。我在以下链接中详细介绍了完整架构、陷阱和配置细节:https://kmarble.dev/posts/completely-local-agentic-web-research/ 很好奇其他人是如何处理这个问题的。有人在为自己的代理做完全本地的网络访问吗?还是大多数人只是指向搜索API并接受其中的权衡?特别是指纹和反爬虫层,感觉是每个人都需要独立解决的问题。
相似文章
无需付费搜索/抓取API,为本地智能体提供网页访问权限:SearXNG + Scrapling
描述了一个自托管解决方案,使用 SearXNG 进行搜索、Scrapling 和 Trafilatura 进行页面提取,为本地 AI 代理提供网络访问,从而避免使用付费 API。
@TheAhmadOsman: 实用技巧 本地运行LLM?给它们网络访问权限 我的配置: - SearXNG:候选源发现 - Firecrawl:已知-…
一条推文技巧,介绍如何通过 SearXNG 进行搜索、Firecrawl 进行抓取、Camofox 作为浏览器回退,采用“搜索-提取-交互”工作流,为本地 LLM 赋予网络访问能力,使其变得更加实用。
@svpino: 我还没见过在浏览器中运行的智能体不让人觉得是取巧之作。我试过无头浏览器,但无法…
Santiago (@svpino) 讨论了在浏览器中运行AI智能体的挑战,而 @ego_agent 宣布了 'ego lite',一个内核级重建,旨在让AI智能体更快、更可靠。
用于代理数据基础的高召回率网络搜索API:Google SERP访问是否是唯一可行的选择?
探讨了在构建代理数据基础时,Google SERP访问是否是唯一可行的高召回率网络搜索API。
大多数关于“智能体 AI”的讨论都感觉太抽象了。这里是我的智能体研究系统的实际样子
作者分享了他为识别和评估公司内 AI 用例而构建的智能体研究系统的实际分解。该系统使用六个智能体进行发现、评估和上下文提取,强调人在决策环中,而非完全自主。