Crawl4AI と Firecrawl の比較

どちらもデータ取り込みに分類しています。数値はGitHub APIから取得したもので、評価は本サイトによるものです。

基本情報の比較

基本情報の比較Crawl4AIFirecrawl
ライセンスApache-2.0AGPL-3.0
言語PythonTypeScript
提供形態セルフホスト / ローカル実行セルフホスト / マネージドクラウド
成熟度成長期安定
スター78.2k168k
直近7日間のスター増加数+29 ★+97 ★
フォーク8.1k9.4k
オープンIssue148508
最終コミット2026年8月15日2026年8月16日
開発状況活発活発

それぞれの位置づけ

Crawl4AI

ホスティング型クローラと同じ役割を、寛容なライセンスのセルフホストで果たします。抽出戦略をサイトごとに定義できます。サービスではなくライブラリであるため、プロキシの扱いやレート制限は自分で設計・管理することになります。

詳細を見る →

Firecrawl

JavaScriptをレンダリングし、リンクを辿り、検索コーパスを汚染しがちなナビゲーションや定型部分を除去します。RAGの地味なほうの半分をきちんと解決してくれます。AGPLライセンスのため、サービスとして公開する計画がある場合は条項の確認が必要です。

詳細を見る →

できること

Crawl4AI

  • ページをMarkdownで取得するAsyncWebCrawler.arun()の戻り値からresult.markdownを得られ、DefaultMarkdownGeneratorにPruningContentFilterやBM25ContentFilterを渡せばノイズを除いたfit_markdownも同時に得られます。
  • CLIだけで深い探索まで行うcrwlコマンドは-o markdownで単一ページ、--deep-crawl bfs --max-pages 10でサイト内探索、-qで質問に沿ったLLM抽出を実行でき、Pythonを書く必要がありません。
  • LLMなしで構造化JSONを抜くJsonCssExtractionStrategyにbaseSelectorとCSS/XPathのfieldsからなるスキーマを渡せば構造化された行を取得でき、セレクタで届かない場合はPydanticスキーマを使うLLMExtractionStrategyに切り替えます。
  • HTTPサービスとして立てるunclecode/crawl4aiのDockerイメージをポート11235で起動するとFastAPIの/crawlエンドポイント、playground、監視ダッシュボード、MCP連携が使え、v0.9.0以降は認証が既定で有効です。
  • ログイン済みブラウザを使い回すBrowserConfigにuser_data_dirとuse_persistent_context=Trueを指定すればCookieと認証状態を実行間で保持でき、js_code、hooks、プロキシ設定で操作が必要なページにも対応します。

Firecrawl

  • 任意URLのMarkdown化app.scrape('firecrawl.dev')はページをMarkdownやJSON、スクリーンショットとしてLLM向けに整形して返します。CLIも同じ処理に対応し、READMEにはfirecrawl scrape https://firecrawl.devfirecrawl https://firecrawl.dev --only-main-contentの2つの書き方が載っています。
  • サイト全体の一括取得/v2/crawllimitscrapeOptions.formatsを渡すとジョブIDが返り、statuscreditsUsed、ページ単位のMarkdownをポーリングで受け取れます(各SDKはポーリングを自動化しています)。
  • 検索と本文取得の同時実行app.search("query", limit=5)は検索結果のURLに加えて各ページのMarkdown本文まで返すため、情報源を見つけてから読むまでに追加のリクエストが不要です。
  • URL指定なしのデータ収集/v2/agentはプロンプトだけを受け取ってページの探索と巡回を自ら行い、結果と併せて参照したsourcesを返します。Pydanticモデルをschema=に渡せば構造化データになり、込み入った調査にはmodel="spark-1-pro"を指定します。
  • MCPクライアントへの接続firecrawl-mcpnpx経由でMCPサーバーとして起動でき、env欄にFIRECRAWL_API_KEYを置くだけで接続できます。npx -y firecrawl-cli@latest init --all --browserを実行すれば、Claude CodeやOpenCodeにskillとして導入できます。