Communitygithub.com

AutoPulse Captions

動画にバイラル風の1行あたり2~3語のマイクロチャンク字幕(アクティブワードをカスタマイズ可能な色/スタイルで強調)を生成・焼き付けます。英語またはインドネシア語に対応し、faster-whisperによる自動GPU/CPUモデル選択、自己学習型Mini-MLワード修正機能、ブラウザ上のワードエディタ、FFmpegによる焼き付けを備えています。ユーザーが動画に字幕を追加したい、TikTok/Reels/Shorts風のキャプションを付けたい、単語タイムスタンプ付きでクリップを文字起こししたい、キャプションを修正・改訂したい、または動画生成後のチェーン処理をしたい場合に使用します。

AutoPulse Captions とは?

AutoPulse Captionsは、AIエージェント(Claude Code、Cursor、Codexなど)向けに設計された、動画にバイラル風のマイクロチャンク字幕を自動生成・焼き付けするスキルです。faster-whisperを使用して音声を文字起こしし、単語レベルのタイムスタンプを取得。その後、独自のMini-MLモデルが自動的に誤認識を修正し、1行あたり2~3語の短い字幕ブロック(アクティブワードをハイライト)を生成します。このスキルは英語とインドネシア語に対応し、GPU/CPUを自動判定して最適なWhisperモデルを選択するため、ユーザーはハードウェア構成を気にせず利用できます。さらに、ブラウザベースのエディタで修正した単語はMini-MLが学習し、次回以降の精度が向上する自己学習機能を搭載。FFmpegによる動画への字幕焼き付けもサポートし、最終的な成果物(.mp4, .ass)を出力します。エージェントは、ユーザーが字幕付き動画を作成したい、または文字起こし内容を編集したいという要求に応じて、このスキルを呼び出します。

対応✓Claude Code~Codex CLI~Cursor✓Antigravity✓Gemini CLI
npx skills add https://github.com/RaphaelEvanW/autopulse-captions/tree/HEAD/.agents/skills/autopulse-captions

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

AutoPulse Captions は何をしますか?

パイプライン: video → Whisper (単語タイムスタンプ) → Mini-ML補正 (EN/ID) → マイクロチャンク .ass (アクティブワード強調) → オプションのプレビューエディタ → FFmpeg焼き付け。

PROJECT_DIR(generate_captions.py と gpu_check.py を含むフォルダ)を特定する:

  1. generate_captions.py がこの SKILL.md と同じディレクトリにある場合、PROJECT_DIR はこのディレクトリです。
  2. この SKILL.md が .agents/skills/autopulse-captions/ 内にある場合、PROJECT_DIR はリポジトリルート (../../..) です。
  3. それ以外の場合、デフォルトは C:\Users\Evan\.gemini\antigravity\scratch\autopulse-captions です。

以下のコマンドはすべて PROJECT_DIR から実行します。 Python実行ファイル (PY): PROJECT_DIR/.venv/Scripts/python.exe (Windows) または PROJECT_DIR/.venv/bin/python (macOS/Linux)。

0. 初回セットアップ (.venv/ または hardware_profile.json がない場合のみ)

  1. まずハードウェアを確認します(インストール不要、ネットワーク不要): python gpu_check.py — どのWhisperモデルが適合するかを表示します(例: RTX 3060 → large-v3、 GTX 1650 Ti 4 GB → large-v3-turbo、GPUなし → CPU large-v3-turbo/small)。
  2. Python 3.10~3.12 でvenvを作成します(3.13 最大; 3.14 ではCTranslate2のホイールがありません): py -3.11 -m venv .venv (Windows) / python3.11 -m venv .venv。
  3. ハードウェアに合わせた依存関係をインストールします(ネットワークが必要): PY install.py --download-model (WindowsでFFmpegがない場合は --install-ffmpeg を追加)。 NVIDIA GPUが見つかった場合のみCUDA 12ランタイムライブラリをインストールし、GPUのスモークテストを行い、 hardware_profile.json を書き込みます。
  4. 確認: インストーラーは SELESAI -> Whisper: <model> / <device> / <compute> で終了します。

1. 実行前の確認(必須)

新しい動画を文字起こしする前に、必ず最初にユーザーに確認してください(ask_question を使用するか、プロンプトで指定されていない場合はプレーンテキストで)— 推測しないでください:

  • キャプションの言語:
    1. 英語 (--lang en)
    2. インドネシア語 (--lang id)
    3. インドネシア語音声 → 英語字幕 (--lang id --translate)
    4. 自動検出 (--lang auto)
  • 不明な場合のみ: 動画に焼き付けるか (--burn)、.ass のみ生成するか。

エージェントがスクリプトを実行するときは、必ず明示的に --lang を指定してください(スクリプト自身のインタラクティブプロンプトは、実際のインタラクティブターミナルでのみ表示されます)。

2. キャプションを生成する

PY generate_captions.py "<video>" --lang en --burn --output-video "<out>.mp4"
  • モデル/デバイス/計算はデフォルトで auto になります(gpu_check.py から取得)。メモリ不足やCUDAエラー時には自動フォールバックします(例: large-v3 → large-v3-turbo → CPU)。ユーザーが要求しない限り --model を上書きしないでください。
  • 向き(縦/横/正方形)は ffprobe で検出され、フォントサイズ、マージン、行の長さが自動的に調整されます。
  • モデルの初回実行時はHugging Faceからダウンロードします(ネットワークが必要)。
  • 出力は入力ファイルの隣に生成されます: <name>.ass、<name>_raw_words.json、 <name>_captioned.mp4; さらに last_run.json と更新された preview_player.html。

検証: 終了コード 0、ログ行 model dipakai: ...、出力動画が存在すること。 使用されたモデルと、スクリプトが出力する疑わしい単語のリストをユーザーに報告してください。

3. レビューと修正(疑わしい単語がある場合、またはユーザーが変更を希望する場合)

  1. ブラウザで PROJECT_DIR/preview_player.html を開きます(--open-preview で自動的に開きます)。 ユーザーは単語/タイムスタンプを編集し、見逃した単語を挿入し(➕ Kata)、 次に 💾 Simpan words.json をクリックします(words_revised.json をダウンロード)。
  2. 修正されたJSONから再レンダリングします — これにより、最後の生のWhisper出力との差分を取ることで Mini-MLが学習します(learned_memory.json、 言語ごとに en/id のプロファイルを分離):
    PY generate_captions.py "<パス>/words_revised.json" --burn --output-video "<out>.mp4"
    
    ソース動画は last_run.json から取得されます(--video で上書き可能)。

4. 動画生成後のチェーン処理

別のステップで動画(例: draft.mp4)が生成された場合、言語の質問をしてから、そのファイルに対して手順2を --output-video final.mp4 付きで実行します。

トラブルシューティング

症状対処法
No module named faster_whisper.venv から PY を使用するか、手順0を実行してください
すべてのGPUオプションが失敗し、CPUにフォールバックするNVIDIAドライバーを更新し、PY install.py を再実行してください
CPUで処理が遅い予想通り(約1倍速)。ドラフト作成には --model small を推奨します
ffmpeg tidak ditemukanwinget install Gyan.FFmpeg / brew install ffmpeg / apt install ffmpeg を実行してください
誤った単語/スラング/固有名詞エディタ(手順3)を使用してMini-MLに学習させるか、--hotwords "名前1 名前2" を使用してください
翻訳の品質が低い--translate はターボモデルを使用しません(ターボは翻訳用に訓練されていません)。large-v3 には約3.6GB以上の空きVRAMが必要です

完全なフラグリファレンス: references/cli.md · Mini-MLの仕組み: references/mini-ml.md

関連スキル