Firecrawl-Erweiterung für Claude SEO
Diese Fähigkeit erfordert die Installation der Firecrawl-Erweiterung:
./extensions/firecrawl/install.sh
Verfügbarkeit prüfen: Bevor Sie ein Firecrawl-Tool verwenden, überprüfen Sie, ob der MCP-Server verbunden ist, indem Sie nachsehen, ob firecrawl_scrape oder ein anderes Firecrawl-Tool verfügbar ist. Wenn die Tools nicht verfügbar sind, informieren Sie den Benutzer, dass die Erweiterung nicht installiert ist, und geben Sie Installationsanweisungen.
Kurzreferenz
| Befehl | Zweck |
|---|---|
/seo firecrawl crawl <url> | Vollständiges Site-Crawling mit Inhaltsextraktion |
/seo firecrawl map <url> | Seitenstruktur entdecken (nur URLs, schnell) |
/seo firecrawl scrape <url> | Einzelseiten-Scraping mit JS-Rendering |
/seo firecrawl search <query> <url> | In einer gecrawlten Site suchen |
Befehle
crawl -- Vollständiges Site-Crawling
Eine gesamte Website beginnend von der angegebenen URL crawlen. Gibt Seiteninhalte, Metadaten und Links für alle entdeckten Seiten zurück.
MCP-Tool: firecrawl_crawl
Parameter:
url(erforderlich): Start-URL für das Crawlinglimit: Maximale Anzahl zu crawlender Seiten (Standard: 100, max: 500)maxDepth: Maximale Linktiefe von der Start-URL (Standard: 3)includePaths: Array von Glob-Mustern zum Einschließen (z. B.["/blog/*"])excludePaths: Array von Glob-Mustern zum Ausschließen (z. B.["/admin/*", "/api/*"])scrapeOptions.formats: Ausgabeformate --["markdown", "html", "links"]
SEO-Nutzungsmuster:
- Umfassendes Audit-Crawling: Vollständige Site crawlen, alle Seiten für die Subagenten-Analyse extrahieren
- Abschnittsfokussiertes Crawling: Mit
includePathsnur/blog/*oder/products/*auditieren - Defekte-Link-Erkennung: Mit Format
["links"]crawlen, alle hrefs auf 404 prüfen - Content-Inventar: Alle Seitentitel, Meta-Beschreibungen, H1s im großen Maßstab extrahieren
- SPA/JS-gerenderte Seiten: Firecrawl rendert JavaScript und löst damit das Problem #11
Beispiel-Orchestrierung für /seo audit:
1. firecrawl_map(url) -> alle URLs abrufen (schnell, ohne Inhalt)
2. Auf die 50 wichtigsten Seiten filtern (Startseite, Hauptabschnitte)
3. firecrawl_crawl(url, limit=50) -> vollständigen Inhalt abrufen
4. Inhalt an seo-technical, seo-content, seo-schema-Agenten übergeben
Kostenbewusstsein:
- Kostenloser Tarif: 500 Credits/Monat
- 1 Credit = 1 gecrawlte oder gescrapete Seite
- Map-Operationen sind günstiger (0,5 Credits pro entdeckter URL)
- Benutzer vor großen Crawls immer über den geschätzten Credit-Verbrauch informieren
map -- Seitenstruktur entdecken
Alle URLs einer Website entdecken, ohne Inhalte abzurufen. Schnell und credit-effizient.
MCP-Tool: firecrawl_map
Parameter:
url(erforderlich): Website-URL zum Mappenlimit: Maximale Anzahl zu entdeckender URLs (Standard: 5000)search: Optionaler Suchbegriff zum Filtern von URLs
SEO-Nutzungsmuster:
- Sitemap-Vergleich: Site mappen, entdeckte URLs mit XML-Sitemap vergleichen
- Orphan-Seiten-Erkennung: URLs in der Sitemap, aber nicht von einer Seite verlinkt
- Crawl-Budget-Analyse: Gesamtzahl indexierbarer Seiten im Vergleich zu von der Startseite verlinkten Seiten
- URL-Muster-Analyse: URL-Strukturmuster, Duplikate, Parameterüberfrachtung identifizieren
- Pre-Audit-Entdeckung: Zuerst map ausführen, dann gezieltes Crawling auf Hauptabschnitten
Ausgabe: Array von URLs. Präsentieren als:
Site: example.com
Entdeckte Seiten: 342
Aufschlüsselung der URL-Muster:
/blog/* - 128 Seiten (37%)
/products/* - 89 Seiten (26%)
/category/* - 45 Seiten (13%)
/pages/* - 32 Seiten (9%)
/ (Stammseiten) - 48 Seiten (14%)
scrape -- Tiefes Scraping einer Einzelseite
Eine einzelne Seite mit vollständigem JavaScript-Rendering scrapen. Gründlicher als fetch_page.py, da es JS ausführt und auf dynamische Inhalte wartet.
MCP-Tool: firecrawl_scrape
Parameter:
url(erforderlich): Seiten-URL zum Scrapenformats: Ausgabeformate --["markdown", "html", "links", "screenshot"]onlyMainContent: Navigation/Footer/Sidebar entfernen (Standard: true)waitFor: CSS-Selektor oder Millisekunden zum Warten auf Inhalttimeout: Request-Timeout in ms (Standard: 30000)actions: Browser-Aktionen vor dem Scrapen (Klicken, Scrollen, Warten)
SEO-Nutzungsmuster:
- SPA-Inhaltsextraktion: JS-gerenderte React/Vue/Angular-Seiten scrapen
- Dynamisches Content-Audit: Seiten mit Lazy-Loaded-Inhalten unterhalb des sichtbaren Bereichs
- Paywall/Login-Erkennung: Inhalte hinter Authentifizierungswänden identifizieren
- Hauptinhaltsextraktion:
onlyMainContentfür saubere E-E-A-T-Analyse verwenden - Screenshot-Erfassung: Format
screenshotfür visuelle Analyse verwenden
Wann scrape vs. fetch_page.py verwenden:
| Szenario | Verwenden |
|---|---|
| Statische HTML-Seite | fetch_page.py (keine API-Kosten) |
| JS-gerenderte SPA | firecrawl_scrape (rendert JS) |
| Antwort-Header benötigt | fetch_page.py (gibt Header zurück) |
| Sauberes Markdown benötigt | firecrawl_scrape (bessere Extraktion) |
| Ratenbegrenzt/blockiert | firecrawl_scrape (handhabt Anti-Bot) |
search -- Seitenspezifische Suche
In einer Website nach bestimmten Inhalten suchen. Nützlich, um Seiten zu einem Thema zu finden, ohne alles zu crawlen.
MCP-Tool: firecrawl_search
Parameter:
query(erforderlich): Suchanfrageurl(erforderlich): Website, innerhalb derer gesucht werden solllimit: Maximale Ergebnisse (Standard: 10)scrapeOptions.formats: Ausgabeformat für übereinstimmende Seiten
SEO-Nutzungsmuster:
- Content-Gap-Validierung: Auf der Site nach einem Keyword suchen, um zu prüfen, ob Inhalt existiert
- Interne Verlinkungsmöglichkeiten: Seiten finden, die ein Thema erwähnen und aufeinander verlinken könnten
- Duplikaterkennung: Nach Schlüsselphrasen suchen, um nahezu Duplikate zu finden
- Konkurrenz-Content-Recherche: Konkurrenzseite nach bestimmten Themen durchsuchen
Fähigkeitenübergreifende Integration
Mit seo-audit (vollständiges Audit)
Wenn Firecrawl bei /seo audit verfügbar ist:
firecrawl_mapverwenden, um alle Site-URLs zu entdecken- Mit XML-Sitemap (seo-sitemap) vergleichen, um Orphan-/fehlende Seiten zu finden
- Top-Seiten für die Tiefenanalyse auswählen
- Gecrawlten Inhalt an alle Subagenten (technisch, Inhalt, Schema, Geo) übergeben
- Gesamtzahl crawljahrer Seiten, URL-Muster und Crawltiefe melden
Mit seo-technical
- Defekte-Link-Erkennung: Alle internen Links crawlen, auf 404 prüfen
- Redirect-Chain-Mapping: Alle Weiterleitungen verfolgen, Ketten mit > 2 Hops markieren
- Mixed-Content-Erkennung: HTTP-Ressourcen auf HTTPS-Seiten prüfen
- Kanonikalitätsprüfung: Kanonische URLs mit tatsächlichen URLs vergleichen
Mit seo-sitemap
- Sitemap-Abdeckung: % der gecrawlten Seiten, die in der Sitemap vorhanden sind
- Orphan-Seiten: Durch Crawling gefundene Seiten, die in der Sitemap fehlen
- Veraltete Sitemap-Einträge: URLs in der Sitemap, die 404/410 zurückgeben
Mit seo-content
- Inhaltsextraktion: Sauberes Markdown an die E-E-A-T-Analyse übergeben
- Dünn-Content-Erkennung: Seiten mit < 300 Wörtern im großen Maßstab identifizieren
- Duplikaterkennung: Inhalte seitenübergreifend auf nahezu Duplikate vergleichen
Mit seo-schema
- Schema-Extraktion: JSON-LD aus allen gecrawlten Seiten ziehen
- Schema-Abdeckung: % der Seiten mit strukturierten Daten
- Schema-Validierung: Extrahierte Schemas stapelweise validieren
Fehlerbehandlung
| Fehler | Ursache | Lösung |
|---|---|---|
FIRECRAWL_API_KEY nicht gesetzt | MCP nicht konfiguriert | ./extensions/firecrawl/install.sh ausführen |
402 Zahlung erforderlich | Credits aufgebraucht | Nutzung unter firecrawl.dev/app prüfen, Tarif upgraden |
429 Zu viele Anfragen | Ratenbegrenzung | 60s warten, Crawling-Konkurrenz reduzieren |
408 Zeitüberschreitung | Seite zu langsam zum Rendern | timeout erhöhen, ohne JS-Rendering versuchen |
403 Verboten | Site blockiert Crawling | robots.txt prüfen, Site ggf. überspringen |
Graceful Fallback: Wenn Firecrawl nicht verfügbar ist, den Benutzer informieren und Folgendes vorschlagen:
fetch_page.pyfür Einzelseiten-Analyse verwenden (keine API-Kosten)WebFetch-Tool für einfachen HTML-Abruf verwenden- Firecrawl installieren:
./extensions/firecrawl/install.sh