CommunityPesquisa e Análise de Dadosgithub.com

jamditis/web-scraping

Web scraping com bypass anti-bot, extração de conteúdo, APIs não documentadas e detecção de iscas de desinformação. Use ao extrair conteúdo de sites, lidar com paywalls, implementar cascatas de scraping ou processar mídias sociais. Abrange padrões de requests, trafilatura, Playwright com modo stealth, yt-dlp e instaloader.

O que é web-scraping?

Esta skill especializada em web scraping fornece um conjunto robusto de ferramentas e padrões para extrair conteúdo de sites modernos, contornando mecanismos antiparasitas, gerenciando paywalls e detectando conteúdo enganoso ('poison pills'). Ela é útil para desenvolvedores que precisam automatizar a coleta de dados de sites comuns, mídias sociais ou plataformas de vídeo sem depender de APIs oficiais. A skill cobre bibliotecas e frameworks como requests (para requisições simples), trafilatura (para extração de texto limpo), Playwright com modo stealth (para simular navegadores reais e evitar bloqueios), yt-dlp (para download de mídia) e instaloader (para scraping do Instagram). Além disso, inclui técnicas para implementar cascatas de scraping, onde múltiplas fontes são tentadas até que dados válidos sejam obtidos, e a detecção de 'poison pills' — respostas falsas ou alteradas que sites podem usar para enganar scrapers. O nome da skill mantém-se como 'jamditis/web-scraping' por ser um identificador técnico. Suas funcionalidades cobrem desde a extração simples de HTML até a automação complexa de navegação, com foco em resiliência e precisão dos dados.

Funciona com~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/jamditis/claude-skills-journalism/tree/main/skills/web-scraping

Installed? Explore more Pesquisa e Análise de Dados skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

Perguntar na sua IA favorita

Abre um novo chat com esta habilidade de agente já pré-carregada.

Documentação

O que web-scraping faz?

Web scraping com bypass anti-bot, extração de conteúdo, APIs não documentadas e detecção de iscas de desinformação. Use ao extrair conteúdo de sites, lidar com paywalls, implementar cascatas de scraping ou processar mídias sociais. Abrange padrões de requests, trafilatura, Playwright com modo stealth, yt-dlp e instaloader.

Individual skills in this repo

This repo contains 2 individual skills — each has its own dedicated page.

Habilidades Relacionadas