skyvern は何をしますか?
ブラウザビューポート内のインタラクティブ要素の座標マッピングを正確に特定するために構築された視覚解析アルゴリズムです。
このスキルは、AIエージェントがWebページ上のボタン、リンク、入力フィールドなどの要素をクリックしたり操作したりするために、その要素が画面上のどこにあるかをピクセル単位で特定するのに役立ちます。従来のDOMセレクタやCSSパスに依存せず、視覚情報(スクリーンショットやレンダリング結果)から要素の位置を推測します。
主な特徴:
- 動的なWebコンテンツやJavaScriptでレンダリングされたUIに対応
- 複雑なレイアウトや重なり合う要素でも正確な座標を計算
- 軽量で高速な推論(ミリ秒単位の応答時間)
- 一般的なAIエージェントプラットフォーム(Claude Code、Cursor、Codexなど)との統合を容易にするAPIを提供
使い方:
# サンプルAPI呼び出し(環境に応じて調整してください)
curl -X POST https://api.skyvern.ai/v1/locate \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"screenshot": "base64_encoded_screenshot",
"target_text": "Submit"
}'
対応環境:
- ブラウザベースのAIエージェント
- ヘッドレスブラウザ(Puppeteer、Playwright、Selenium)
- RPA(Robotic Process Automation)ツール
注意事項:
- 精度はスクリーンショットの解像度やページの状態に依存します。
- フレーム内やシャドウDOM内の要素は特別な処理が必要な場合があります。
- 動的なコンテンツ(アニメーション、ポップアップ)が座標計算に影響を与える可能性があります。
詳細なドキュメントは公式リポジトリを参照してください。