Community研究&データ分析github.com

lumiorchid-alt/weibo-scrape

ローカルWeibo(微博)スクレイピングCLI + エージェントスキル:訪問者モードでログイン不要、画像のローカルOCR、構造化JSON出力に対応し、AIエージェント向けに設計されています。

weibo-scrape とは?

これは、中国のソーシャルメディアプラットフォームWeibo(微博)からデータをスクレイピングするためのCLIツール兼AIエージェントスキルです。主な特徴として、ログイン不要の訪問者モード、画像内のテキストを抽出するローカルOCR機能、そして構造化されたJSON形式でのデータ出力が挙げられます。AIエージェント(Claude Code、Cursor、Codexなど)と統合することで、エージェントが自動的にWeiboから情報を収集・分析できるようになります。スクレイピングはHTTPリクエストを使用し、OCRはTesseractなどのローカルライブラリを活用することで、クラウド依存を避けつつプライバシーを保護します。出力はマシンリーダブルなJSONで、エージェントによる後処理や分析に最適です。

対応~Claude Code~Codex CLI~Cursor
npx skills add lumiorchid-alt/weibo-scrape

Installed? Explore more 研究&データ分析 skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

weibo-scrape は何をしますか?

ローカルWeibo(微博)スクレイピングCLI + エージェントスキル:訪問者モードでログイン不要、画像のローカルOCR、構造化JSON出力に対応し、AIエージェント向けに設計されています。

機能

  • 可視性: ログインなしでWeiboの公開コンテンツにアクセス可能
  • 画像OCR: 画像からテキストを抽出し、結果に含める
  • JSON出力: 機械可読な構造化データを出力
  • エージェント対応: 任意のAIエージェント(Claude Code、Cursor、Codexなど)と統合可能

インストール

# リポジトリをクローン
git clone https://github.com/lumiorchid-alt/weibo-scrape.git
cd weibo-scrape

# 依存関係をインストール
pip install -r requirements.txt

# オプション:OCR用のTesseractをインストール
# macOS
brew install tesseract
# Ubuntu/Debian
sudo apt-get install tesseract-ocr

使用方法

# 基本的な使い方
python weibo_scrape.py --user <ユーザーID> --limit 20

# JSONとして出力
python weibo_scrape.py --user <ユーザーID> --output json

# OCRを有効にする
python weibo_scrape.py --user <ユーザーID> --ocr

# 詳細はヘルプを参照
python weibo_scrape.py --help

設定

環境変数または設定ファイルで動作をカスタマイズできます:

# リクエスト間の遅延(秒)
export WEIBO_DELAY=2

# タイムアウト(秒)
export WEIBO_TIMEOUT=30

# OCR言語(デフォルト:chi_sim)
export WEIBO_OCR_LANG=chi_sim+eng

出力形式

{
  "posts": [
    {
      "id": "123456789",
      "content": "投稿テキスト",
      "images": ["url1.jpg", "url2.jpg"],
      "ocr_text": "画像から抽出されたテキスト(OCR有効時)",
      "timestamp": "2025-01-01T12:00:00",
      "likes": 100,
      "reposts": 50,
      "comments": 20
    }
  ],
  "meta": {
    "user": "ユーザー名",
    "count": 1,
    "ocr_enabled": true
  }
}

ライセンス

MIT

関連スキル