Community연구 & 데이터 분석github.com

jamditis/web-scraping

안티봇 우회, 콘텐츠 추출, 문서화되지 않은 API 및 포이즌 필(poison pill) 탐지를 포함한 웹 스크래핑 도구입니다. 웹사이트에서 콘텐츠를 추출하거나, 페이월을 처리하거나, 스크래핑 캐스케이드를 구현하거나, 소셜 미디어를 처리할 때 사용하세요. requests, trafilatura, stealth 모드의 Playwright, yt-dlp 및 instaloader 패턴을 다룹니다.

web-scraping란 무엇인가요?

이 스킬은 웹 스크래핑 작업 시 안티봇 우회, 콘텐츠 추출, 문서화되지 않은 API 활용, 포이즌 필 탐지 등 고급 기능을 제공합니다. 주로 requests, trafilatura, Playwright(stealth 모드 포함), yt-dlp, instaloader와 같은 라이브러리를 활용하여 웹사이트와 소셜 미디어에서 안정적으로 데이터를 수집할 수 있습니다. 페이월이 있는 사이트나 봇 차단이 강한 사이트에서도 우회 기술을 적용하며, 스크래핑 캐스케이드(여러 전략을 순차적으로 시도)를 통해 최대한의 데이터 수집 성공률을 보장합니다. Claude Code, Cursor, Codex 등 주요 AI 에이전트 플랫폼에서 사용할 수 있으며, 개발자가 복잡한 웹 스크래핑 로직을 쉽게 구현할 수 있도록 설계되었습니다.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/jamditis/claude-skills-journalism/tree/main/skills/web-scraping

Installed? Explore more 연구 & 데이터 분석 skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

web-scraping은(는) 무엇을 하나요?

안티봇 우회, 콘텐츠 추출, 문서화되지 않은 API 및 포이즌 필 탐지를 포함한 웹 스크래핑 도구입니다. 웹사이트에서 콘텐츠를 추출하거나, 페이월을 처리하거나, 스크래핑 캐스케이드를 구현하거나, 소셜 미디어를 처리할 때 사용하세요. requests, trafilatura, stealth 모드의 Playwright, yt-dlp 및 instaloader 패턴을 다룹니다.

Individual skills in this repo

This repo contains 2 individual skills — each has its own dedicated page.

관련 스킬