你实际使用的自主网络调研技术栈是什么?(完全本地,无云API)

Reddit r/LocalLLaMA 工具

摘要

作者详细介绍了一个完全本地、无云API的AI代理网络调研技术栈,使用自托管SearXNG、持久缓存、TLS指纹抓取、无头浏览器回退以及本地重排序器,并邀请社区讨论类似方案。

运行完全本地的网络调研管道来支持我的AI代理设置已经有一段时间了,我意识到并没有看到太多关于其他人如何处理这一部分的讨论。推理端吸引了所有注意力,但让代理真正浏览真实网络而不崩溃本身就是个难题。我的技术栈最终形成了一个分层管道:自托管的SearXNG用于搜索,一个持久化的缓存/索引层(Hister)存储每个抓取的页面,rnet(现在是wreq)用于TLS指纹HTTP抓取以绕过基本反爬虫,camofox(封装了Camoufox)作为JavaScript密集型页面的无头浏览器回退,以及一个本地的qwen3-reranker-4b用于相关性评分。所有组件通过一个MCP服务器与代理通信。整个链条中没有任何云API调用。从数据中心IP使用Firefox指纹访问Reddit会返回403,但Safari可以正常访问。Cloudflare管理的挑战需要完整的浏览器渲染,无论指纹如何。页面会在会话之间发生变化或消失,因此拥有你实际阅读时的缓存快照比你想象中更为重要。缓存层悄无声息地成为了最有价值的组件——重复查询瞬间完成,当页面下线或被编辑时,代理依然拥有你最初看到的内容。所有这些都和推理模型一起运行在一台机器上。没有外部依赖,也无需担心浏览历史触及云API的隐私问题。我在以下链接中详细介绍了完整架构、陷阱和配置细节:https://kmarble.dev/posts/completely-local-agentic-web-research/ 很好奇其他人是如何处理这个问题的。有人在为自己的代理做完全本地的网络访问吗?还是大多数人只是指向搜索API并接受其中的权衡?特别是指纹和反爬虫层,感觉是每个人都需要独立解决的问题。
查看原文

相似文章