正在打开每日关注
正在打开每日关注
开源 Firecrawl 将搜索、抓取与网页交互统一为适合 Agent 消费的 Markdown/JSON API。
还在手撸 Puppeteer 和 Playwright 慢慢爬数据?GitHub 上一个现象级项目直接把桌子掀了,开源爬虫圈彻底炸锅。 Firecrawl,专为大模型和 AI Agent 打造的终极网页提取黑科技,GitHub 星标已经飙到 14.9万+,完全开源(AGPL-3.0),支持本地自部署。 丢个链接或搜索词过去,不管多复杂的动态页面、多变态的反爬机制,它直接给你吐出干干净净的 Markdown 或结构化 JSON,写脚本的时间直接归零。 1️⃣ 无视防爬与动态渲染:自带 Smart Wait 智能等待,代理池直接扔一边,96% 的复杂 JS 网页一拳打穿。 2️⃣ 大模型 Token 省到家:自动砍掉广告、页脚、冗余代码,只给干净 Markdown 和 JSON,AI 调用成本肉眼可见地降。 3️⃣ 边交互边抓取:最新 Interact 动作指令,支持点击、滚动、输入文字,深层数据想拿就拿。 4️⃣ 开发工具无缝直连:自带 MCP Server,Cursour 或 Claude Code 里直接调,代码都不用写,让 AI 自己去全网搜。 5️⃣ 万物皆可解析:不光是网页,在线 PDF、DOCX 丢过去一样生吞活剥提取文本。 搞 AI 自动化、做信息差倒卖、Web3 撸毛筛选项目的,这工具属于降维打击。 🔗 GitHub:https://t.co/LsvMMWqevx
是什么
Firecrawl 是 firecrawl/firecrawl 的开源 Web context API(TypeScript、AGPL-3.0;给定元数据显示 173,836 stars),把搜索、抓取和网页交互统一成 Agent 的数据入口,输出 Markdown、结构化 JSON、HTML 与截图。
架构与核心设计
README 展示“端点+多接入面”:Search 返回搜索结果及正文,Scrape 把 URL 转成 LLM-ready 数据,Interact 在会话中执行点击、滚动、输入、等待和按键;Agent、Crawl、Map、Batch Scrape 分别覆盖无 URL 研究、站点遍历、URL 发现和异步批量抓取。SDK、cURL、CLI、MCP 提供脚本和 Agent 接入。内部服务拆分未在材料中说明。
关键亮点
把网页清洗、JS 处理、代理和限速编排前置,交付低噪声上下文,减少胶水代码与 token 浪费;Actions 让深层提取具备有限任务执行能力。
边界与风险
96% 覆盖与 P95 3.4 秒是 README 的项目方指标,不是普遍保证;仍需验证权限、反爬、合规和条款,并评估 AGPL、自托管、批量成本与结构化结果准确性。