CommunityRecherche & Datenanalysegithub.com

ComposioHQ/Apify-Automation

Automatisieren Sie Web Scraping und Datenextraktion mit Apify – führen Sie Actors aus, verwalten Sie Datasets, erstellen Sie wiederverwendbare Tasks und rufen Sie Crawl-Ergebnisse über die Composio-Apify-Integration ab.

Was ist Apify-Automation?

Diese Fähigkeit ermöglicht es KI-Agenten (wie Claude Code), Apify-Actors für Web Scraping und Datenextraktion direkt über das Composio MCP-Protokoll zu steuern. Der Agent kann Actors synchron oder asynchron ausführen, strukturierte Daten aus Datasets abrufen, wiederverwendbare Tasks mit vordefinierten Eingaben erstellen und Ausführungslogs einsehen – alles ohne die Kommandozeile zu verlassen. Die Integration unterstützt gängige Plattformen wie Claude Code und nutzt Tools wie `APIFY_RUN_ACTOR_SYNC_GET_DATASET_ITEMS` für sofortige Ergebnisse bei kurzen Scraping-Jobs und `APIFY_RUN_ACTOR` für länger laufende asynchrone Aufträge. Entwickler profitieren von der Möglichkeit, Daten paginiert abzurufen, Datasets zu verwalten und Actor-Metadaten zu inspizieren. Die Skills-Dokumentation enthält detaillierte Workflows, häufige Fallstricke (wie unterschiedliche Eingabeschemata der Actors, URL-Formatierung und Paginierungslimits) sowie eine Kurzreferenz aller verfügbaren Tools. Das Setup erfolgt durch Hinzufügen des Composio MCP-Servers zur Konfiguration und Authentifizierung des Apify-Kontos.

Funktioniert mit✓Claude Code~Codex CLI~Cursor
npx skills add https://github.com/ComposioHQ/awesome-codex-skills/tree/main/composio-skills/apify-automation

Installed? Explore more Recherche & Datenanalyse skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

In Ihrer bevorzugten KI fragen

Öffnet einen neuen Chat, in dem dieser Agent-Skill bereits geladen ist.

Dokumentation

Was macht Apify-Automation?

Führen Sie Apify Web-Scraping-Actors aus und verwalten Sie Datasets direkt von Claude Code aus. Starten Sie Crawler synchron oder asynchron, rufen Sie strukturierte Daten ab, erstellen Sie wiederverwendbare Tasks und überprüfen Sie Ausführungslogs, ohne Ihr Terminal zu verlassen.

Toolkit-Dokumentation: composio.dev/toolkits/apify


Einrichtung

  1. Fügen Sie den Composio MCP-Server zu Ihrer Konfiguration hinzu:
    https://rube.app/mcp
    
  2. Verbinden Sie Ihr Apify-Konto, wenn Sie dazu aufgefordert werden. Der Agent stellt einen Authentifizierungslink bereit.
  3. Durchsuchen Sie verfügbare Actors unter apify.com/store. Jeder Actor hat ein eigenes, einzigartiges Eingabeschema – überprüfen Sie vor der Ausführung immer die Dokumentation des Actors.

Kern-Workflows

1. Einen Actor synchron ausführen und Ergebnisse abrufen

Führen Sie einen Actor aus und rufen Sie sofort dessen Dataset-Elemente in einem einzigen Aufruf ab. Optimal für schnelle Scraping-Aufträge.

Tool: APIFY_RUN_ACTOR_SYNC_GET_DATASET_ITEMS

Wichtige Parameter:

  • actorId (erforderlich) – Actor-ID im Format benutzername/actor-name (z.B. compass/crawler-google-places)
  • input – JSON-Eingabeobjekt, das dem Schema des Actors entspricht. Jeder Actor hat einzigartige Feldnamen – überprüfen Sie apify.com/store für das genaue Schema.
  • limit – Maximale Anzahl zurückzugebender Elemente
  • offset – Elemente für die Paginierung überspringen
  • format – json (Standard), csv, jsonl, html, xlsx, xml
  • timeout – Ausführungs-Timeout in Sekunden
  • waitForFinish – Maximale Wartezeit (0–300 Sekunden)
  • fields – Komma-separierte Liste der einzuschließenden Felder
  • omit – Komma-separierte Liste der auszuschließenden Felder

Beispiel-Prompt: "Führe den Google-Places-Scraper für 'Restaurants in New York' aus und gib die ersten 50 Ergebnisse zurück"


2. Einen Actor asynchron ausführen

Starten Sie einen Actor, ohne auf dessen Abschluss zu warten. Verwenden Sie dies für länger laufende Scraping-Aufträge.

Tool: APIFY_RUN_ACTOR

Wichtige Parameter:

  • actorId (erforderlich) – Actor-Slug oder ID
  • body – JSON-Eingabeobjekt für den Actor
  • memory – Speicherlimit in MB (muss eine Zweierpotenz sein, mindestens 128)
  • timeout – Ausführungs-Timeout in Sekunden
  • maxItems – Obergrenze für zurückgegebene Elemente
  • build – Spezifischer Build-Tag (z.B. latest, beta)

Anschließend mit APIFY_GET_DATASET_ITEMS die Ergebnisse anhand der datasetId des Runs abrufen.

Beispiel-Prompt: "Starte den Web-Scraper-Actor für example.com asynchron mit 1024 MB Speicher"


3. Dataset-Elemente abrufen

Rufen Sie Daten aus einem bestimmten Dataset mit Paginierung, Feldauswahl und Filterung ab.

Tool: APIFY_GET_DATASET_ITEMS

Wichtige Parameter:

  • datasetId (erforderlich) – Dataset-Identifikator
  • limit (Standard/Maximum 1000) – Elemente pro Seite
  • offset (Standard 0) – Paginierungs-Offset
  • format – json (empfohlen), csv, xlsx
  • fields – Nur bestimmte Felder einschließen
  • omit – Bestimmte Felder ausschließen
  • clean – Apify-spezifische Metadaten entfernen
  • desc – Umgekehrte Reihenfolge (neueste zuerst)

Beispiel-Prompt: "Hole die ersten 500 Elemente aus dem Dataset myDatasetId im JSON-Format"


4. Actor-Details anzeigen

Zeigen Sie Actor-Metadaten, Eingabeschema und Konfiguration vor der Ausführung an.

Tool: APIFY_GET_ACTOR

Wichtige Parameter:

  • actorId (erforderlich) – Actor-ID im Format benutzername/actor-name oder Hex-ID

Beispiel-Prompt: "Zeige mir die Details und das Eingabeschema für den Actor apify/web-scraper an"


5. Wiederverwendbare Tasks erstellen

Konfigurieren Sie wiederverwendbare Actor-Tasks mit voreingestellten Eingaben für wiederkehrende Scraping-Aufträge.

Tool: APIFY_CREATE_TASK

Konfigurieren Sie einen Task einmal und führen Sie ihn dann wiederholt mit konsistenten Eingabeparametern aus. Nützlich für geplante oder wiederkehrende Datenerfassungs-Workflows.

Beispiel-Prompt: "Erstelle einen Apify-Task für den Google-Suche-Scraper mit der Standardabfrage 'KI-Startups' und dem Standort USA"


6. Runs und Datasets verwalten

Listen Sie Actor-Runs auf, durchsuchen Sie Datasets und überprüfen Sie Run-Details zur Überwachung und Fehlersuche.

Tools: APIFY_GET_LIST_OF_RUNS, APIFY_DATASETS_GET, APIFY_DATASET_GET, APIFY_GET_LOG

Für das Auflisten von Runs:

  • Filtern Sie nach Actor und optional nach Status
  • Holen Sie die datasetId aus den Run-Details für den Datenabruf

Für die Dataset-Verwaltung:

  • APIFY_DATASETS_GET – Listet alle Ihre Datasets mit Paginierung auf
  • APIFY_DATASET_GET – Ruft Metadaten für ein bestimmtes Dataset ab

Für die Fehlersuche:

  • APIFY_GET_LOG – Ruft Ausführungslogs für einen Run oder Build ab

Beispiel-Prompt: "Liste die letzten 10 Runs für den Web-Scraper-Actor auf und zeige die Logs für den neuesten an"


Bekannte Fallstricke

  • Actor-Eingabeschemata variieren stark: Jeder Actor hat eigene, einzigartige Eingabefelder. Allgemeine Feldnamen wie queries oder search_terms werden abgelehnt. Überprüfen Sie immer die Actor-Seite auf apify.com/store auf genaue Feldnamen (z.B. searchStringsArray für Google Maps, startUrls für Web-Scraper).
  • URL-Format-Anforderungen: Fügen Sie immer das vollständige Protokoll (https:// oder http://) in URLs ein. Viele Actors erwarten URLs als Objekte mit einer url-Eigenschaft: {"startUrls": [{"url": "https://example.com"}]}.
  • Dataset-Paginierungsgrenze: APIFY_GET_DATASET_ITEMS hat ein maximales limit von 1000 pro Aufruf. Für große Datasets iterieren Sie mit offset, um alle Elemente zu sammeln.
  • Enum-Werte sind kleingeschrieben: Die meisten Actors erwarten kleingeschriebene Enum-Werte (z.B. relevance nicht RELEVANCE, all nicht ALL).
  • Sync-Timeout bei 5 Minuten: APIFY_RUN_ACTOR_SYNC_GET_DATASET_ITEMS hat eine maximale waitForFinish von 300 Sekunden. Für längere Runs verwenden Sie APIFY_RUN_ACTOR (async) und fragen Sie mit APIFY_GET_DATASET_ITEMS ab.
  • Datenvolumen-Kosten: Große Datasets können teuer im Abruf sein. Bevorzugen Sie moderate Limits und inkrementelle Verarbeitung, um Timeouts oder Speicherdruck zu vermeiden.
  • JSON-Format empfohlen: Obwohl CSV-/XLSX-Formate verfügbar sind, ist JSON für die automatisierte Verarbeitung am zuverlässigsten. Vermeiden Sie CSV/XLSX für nachgelagerte Automatisierung.

Kurzreferenz

Tool-SlugBeschreibung
APIFY_RUN_ACTOR_SYNC_GET_DATASET_ITEMSActor synchron ausführen und sofort Ergebnisse abrufen
APIFY_RUN_ACTORActor asynchron ausführen (starten und zurückkehren)
APIFY_RUN_ACTOR_SYNCActor synchron ausführen, Ausgabedatensatz zurückgeben
APIFY_GET_ACTORActor-Metadaten und Eingabeschema abrufen
APIFY_GET_DATASET_ITEMSElemente aus einem Dataset abrufen (paginiert)
APIFY_DATASET_GETDataset-Metadaten abrufen (Elementanzahl usw.)
APIFY_DATASETS_GETAlle Benutzer-Datasets auflisten
APIFY_CREATE_TASKWiederverwendbaren Actor-Task erstellen
APIFY_GET_TASK_INPUTGespeicherte Eingabe eines Tasks anzeigen
APIFY_GET_LIST_OF_RUNSRuns für einen Actor auflisten
APIFY_GET_LOGAusführungslogs für einen Run abrufen

Betrieben von Composio

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

ComposioHQ/-21risk-automation

Automate 21risk tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/-2chat-automation

Automate 2chat tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/ably-automation

Automate Ably tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/abstract-automation

Automate Abstract tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/abuselpdb-automation

Automate Abuselpdb tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/abyssale-automation

Automate Abyssale tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/accelo-automation

Automate Accelo tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/accredible-certificates-automation

Automate Accredible Certificates tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/acculynx-automation

Automate Acculynx tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/active-campaign-automation

Automate ActiveCampaign tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/addresszen-automation

Automate Addresszen tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/adobe-automation

Automate Adobe tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/adrapid-automation

Automate Adrapid tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/adyntel-automation

Automate Adyntel tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/aeroleads-automation

Automate Aeroleads tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/aero-workflow-automation

Automate Aero Workflow tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/affinda-automation

Automate Affinda tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/affinity-automation

Automate Affinity tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/agencyzoom-automation

Automate Agencyzoom tasks via Rube MCP (Composio). Always search tools first for current schemas.

ComposioHQ/agent-deep-links

Build, validate, and troubleshoot deep links for Codex, Cursor, VS Code, Visual Studio, and similar tools. Use when users ask for clickable links (especially in Slack) that open threads, files, folders, or app settings.

Verwandte Skills