Skyvern-AI/skyvern

ブラウザビューポート内のインタラクティブ要素の座標マッピングを正確に特定するために構築された視覚解析アルゴリズムです。

skyvern とは?

Skyvern-AI/skyvernは、AIエージェントがWebブラウザ内のインタラクティブ要素(ボタン、リンク、入力フィールドなど)の正確な座標を特定できるようにするビジョン解析アルゴリズムを提供します。従来のDOMベースのセレクタに依存せず、視覚情報(スクリーンショットやレンダリング結果)から要素の位置を推測することで、動的なコンテンツや複雑なレイアウト、JavaScriptで生成されたUIでも高いロバスト性を発揮します。Claude Code、Cursor、CodexなどのAIエージェントプラットフォームと統合可能で、エージェントがWeb操作(クリック、スクロール、テキスト入力)を正確かつ視覚的に実行するのに役立ちます。内部では物体検出モデルと座標最適化手法を組み合わせて、ビューポート内での相対位置をミリ秒単位で計算し、アクションの成功率を向上させます。

対応~Claude Code~Codex CLI~Cursor
npx skills add Skyvern-AI/skyvern

Installed? Explore more 生産性&コラボレーション skills: steipete/gemini, steipete/gh-issues, steipete/skill-creator · View all 6 →

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

skyvern は何をしますか?

ブラウザビューポート内のインタラクティブ要素の座標マッピングを正確に特定するために構築された視覚解析アルゴリズムです。

このスキルは、AIエージェントがWebページ上のボタン、リンク、入力フィールドなどの要素をクリックしたり操作したりするために、その要素が画面上のどこにあるかをピクセル単位で特定するのに役立ちます。従来のDOMセレクタやCSSパスに依存せず、視覚情報(スクリーンショットやレンダリング結果)から要素の位置を推測します。

主な特徴:

  • 動的なWebコンテンツやJavaScriptでレンダリングされたUIに対応
  • 複雑なレイアウトや重なり合う要素でも正確な座標を計算
  • 軽量で高速な推論(ミリ秒単位の応答時間)
  • 一般的なAIエージェントプラットフォーム(Claude Code、Cursor、Codexなど)との統合を容易にするAPIを提供

使い方:

# サンプルAPI呼び出し(環境に応じて調整してください)
curl -X POST https://api.skyvern.ai/v1/locate \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "screenshot": "base64_encoded_screenshot",
    "target_text": "Submit"
  }'

対応環境:

  • ブラウザベースのAIエージェント
  • ヘッドレスブラウザ(Puppeteer、Playwright、Selenium)
  • RPA(Robotic Process Automation)ツール

注意事項:

  • 精度はスクリーンショットの解像度やページの状態に依存します。
  • フレーム内やシャドウDOM内の要素は特別な処理が必要な場合があります。
  • 動的なコンテンツ(アニメーション、ポップアップ)が座標計算に影響を与える可能性があります。

詳細なドキュメントは公式リポジトリを参照してください。

関連スキル