crawling

一条推特帖子推广了crawl4ai，这是一个专为LLM设计的开源网络爬取工具，可将任何URL转换为LLM可用的markdown格式，与Firecrawl、ScrapingBee和Apify等付费服务相比，它提供免费无限访问。

精心挑选的顶级GitHub仓库列表，用于无被屏蔽风险的网页抓取，包括Crawl4AI、Firecrawl、Scrapy等，并重点介绍了Crawl4AI这个开源、对LLM友好的网络爬虫。