Community研究與資料分析github.com

jamditis/web-scraping

具備反機器人繞過、內容提取、非公開 API 及毒丸檢測的網頁爬取。適用於從網站提取內容、處理付費牆、實作爬取串聯或處理社交媒體。涵蓋 requests、trafilatura、Playwright 隱形模式、yt-dlp 和 instaloader 模式。

web-scraping 是什麼?

此技能旨在協助開發者或 AI 代理執行網頁爬取任務,特別針對現代網站常見的反爬蟲機制(如機器人偵測、付費牆)提供解決方案。它整合了多種工具與模式:利用 `requests` 進行基礎 HTTP 請求、`trafilatura` 高效提取網頁文字主體(適合新聞或文章)、`Playwright` 搭配隱形模式繞過進階反偵測,以及 `yt-dlp` 和 `instaloader` 處理影音平台與社交媒體。此外,還包含「毒丸檢測」邏輯,識別網站返回的垃圾或誤導性內容,確保提取資料的可靠性。涵蓋的平台包括一般網站、YouTube、Instagram 等,適合用於爬取串聯(fallback 策略)、內容歸檔或自主數據收集。

相容平台~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/jamditis/claude-skills-journalism/tree/main/skills/web-scraping

Installed? Explore more 研究與資料分析 skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

在你喜歡的 AI 中提問

開啟一個已預先載入此 Agent Skill 的新對話。

說明文件

web-scraping 是做什麼的?

具備反機器人繞過、內容提取、非公開 API 及毒丸檢測的網頁爬取。適用於從網站提取內容、處理付費牆、實作爬取串聯或處理社交媒體。涵蓋 requests、trafilatura、Playwright 隱形模式、yt-dlp 和 instaloader 模式。

Individual skills in this repo

This repo contains 2 individual skills — each has its own dedicated page.

相關技能