我们正在超越爬虫和基础网页自动化
摘要
对网页自动化快速演变的反思,强调像 Skyvern 这样的模型如何结合计算机视觉和 LLM 来克服传统爬虫的挑战。
浏览器领域的发展速度真是太疯狂了(从20到25年前到现在,真是一段漫长的旅程,哈哈)。还记得以前只要网站有任何动态加载,基本的网页爬取都很麻烦,但现在我们已经达到了模型可以像人类一样浏览网页的程度。昨天我在 GitHub 上翻了翻一些开源项目,看到了 Skyvern 的仓库,很酷的是他们如何将计算机视觉与 LLM 结合起来解决“选择器失效”的问题。你们觉得我们最终会有一个单一的“网络代理”完全取代浏览器,还是我们始终需要某种专门的工具来帮助我们跨越 AI 与传统网站之间的鸿沟?
相似文章
自动化的未来将是:截图->思考->响应->截图
作者分享了利用 harness engineering 和免费的 NVIDIA NIM 端点构建 AI 代理的个人经验,这些代理能够自动化复杂的多步骤工作流,例如创建 AI 视频系列和酒店预订系统,并建议网络爬虫服务可以被免费的前沿模型取代。
@Fluyeporlaweb: 网页抓取技术升级——Scrapling 绕过 Cloudflare 封锁,速度是 BeautifulSoup 的 774 倍,而且无需……
Scrapling 是一个网页抓取框架,能够绕过 Cloudflare 封锁,速度比 BeautifulSoup 快 774 倍,并能自动适应网站变化。它在 GitHub 上拥有 5.22 万星标,并支持作为 MCP 服务器与 AI 代理协作。
D4Vinci/Scrapling
Scrapling 是一个现代、自适应的 Python 网页抓取库,能够处理反爬虫措施,并提供高级选择、获取和爬虫功能。
@RoundtableSpace: 网页抓取已死。PixelRAG 完全跳过 HTML 解析。它截取页面截图,视觉模型直接读取答案…
PixelRAG 是一款开源工具,通过使用截图和视觉模型从网页中提取数据,取代了传统的网页抓取。它包含一个 Claude Code 插件。
@heynavtoor:虚拟助手行业已经落幕。苏黎世联邦理工学院的两名学生仅用四天就推出了一个最小可行产品(MVP)。如今,AI 控制了他们的 C…
Browser-Use 是由苏黎世联邦理工学院(ETH Zurich)学生开发的一个开源框架,旨在通过人工智能实现浏览器自动化。它提供了一种免费且具备自愈能力的解决方案,能够模拟人类交互,而无需依赖易碎的 HTML 解析技术,从而对传统的 RPA(机器人流程自动化)行业构成挑战。