Communitygithub.com

コンピューター使用(デスクトップ制御)

このスキルは、Claudeがユーザーのコンピューター上のアプリ(Notes、Finder、システム設定など)を操作したり、画面を表示したりする「コンピューター使用」に関する手順、アクセスフロー、安全ルールを定義します。

コンピューター使用(デスクトップ制御) とは?

このスキルは、Claudeがユーザーのデスクトップを操作する「コンピューター使用(デスクトップ制御)」機能の全容を定義します。ClaudeはClaudeデスクトップアプリを通じて、スクリーンショットの取得、マウスクリック、キーボード入力、スクロールを実行できます。このスキルは、コンピューター使用の有効化方法、適切なツールの選択、アプリごとのアクセス階層(読み取り専用、クリックのみ、フルアクセス)、リンク安全性ルール、金融アクションの制限をカバーします。また、専用MCPツールやブラウザツール(Claude in Chrome、内蔵ブラウザ)と比較した際のコンピューター使用の位置付けを明確にし、ネイティブデスクトップアプリやクロスアプリワークフローに最適なツールであることを説明します。さらに、アクセスフローではユーザーが明示的にアプリへのアクセスを承認する手順を詳細に記述し、安全性を確保します。このスキルは主にClaudeデスクトップアプリとclaude.aiウェブセッション(リモートデバイス接続時)をサポートします。

対応✓Claude Code~Codex CLI~Cursor
npx skills add https://github.com/ashley-seymour/claude-skills/tree/HEAD/.trash/1792396014666-17492-kqXv93/computer-use

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

コンピューター使用(デスクトップ制御) は何をしますか?

コンピューター使用により、ClaudeはClaudeデスクトップアプリを通じてユーザーのデスクトップのスクリーンショットを取得し、マウスクリック、キーボード入力、スクロールで操作できるようになります。そのツールには、セッションがデスクトップアプリ内で実行されている場合は mcp__computer-use__*(例:request_access、screenshot)という名前が付けられ、セッションがクラウド上で実行されユーザーのコンピューターにリンクされている場合は mcp__remote-devices__computer_*(例:computer_request_access、computer_screenshot)という名前が付けられます。コンピューター使用は、Claudeデスクトップアプリの設定(設定 → このコンピューター → コンピューター使用)でオンになっている場合のみ機能します(デフォルトはオフです)。

チャットからコンピューター使用をオンにする

Claudeが最初に行う処理は、どのツールが存在するか(ロード済みか遅延か)によって異なります。

  1. コンピューター使用ツールが存在する場合。 Claudeは以下のアクセスフローに直接進みます。
  2. コンピューター使用ツールはないが、enable__mcp__remote-devices__computer ツールが存在する場合。 Claudeはタスクの他のステップよりも先に、そのツールを task フィールドにタスクを指定して1回呼び出します。呼び出しが成功すると、mcp__remote-devices__computer_* ツールが一緒に到着し、Claudeは以下のアクセスフローから開始します。2回目の有効化手順はありません。成功しなかった場合、Claudeは理由を1行で伝え、その会話で可能なことを続行します。
  3. どちらも存在しない場合。 この会話では現状、コンピューター使用は利用できません。Claudeはその理由を診断せずに、その旨を簡潔に伝えます。一般的に、ClaudeはClaudeデスクトップアプリがインストールされ、コンピューター使用がオンになってログインしているコンピューター上のアプリ、およびclaude.aiウェブブラウザで、コンポーザーの+メニューに「デバイス」が表示されている場合、ユーザーが新しいメッセージを送信する前に自分のコンピューターを選択できる場合に、アプリを使用できます。Claudeは動作を偽装しません。

分離されたファイルシステム

コンピューター使用のアクション(クリック、タイピング、クリップボードへの書き込み)は、ユーザーの実際のコンピューター上で発生します。これは、Claudeが独自のシェルやファイルを持つ場合の、Claude側のシステムとは異なるシステムです。Claudeが自分の側で作成したファイルは、ユーザーのマシン上には存在しません。Claudeがコマンドやファイルパスをユーザーのクリップボードに配置したり、ユーザーのアプリの1つに入力したりする場合、そのパスはユーザーのコンピューター上に存在する必要があり、Claude側の到達できないパスであってはなりません。

アプリに適したツールを選択する

各階層は、速度/精度と適用範囲のトレードオフがあります。

  1. アプリ専用のMCP: タスクが専用のMCP(Slack、Gmail、カレンダー、Linearなど)を持つアプリ内にあり、そのMCPが接続されている場合、Claudeはそれを使用します。APIベースのツールは高速かつ高精度です。
  2. ブラウザツール: 対象がウェブアプリであり、専用のMCPがない場合、Claudeはブラウザを使用します。Claude in Chrome(ツール名は mcp__claude-in-chrome__*)または内蔵ブラウザ(デスクトップアプリではツール名 mcp__Claude_Browser__*、クラウドセッションがユーザーのコンピューターにリンクされている場合は mcp__remote-devices__Claude_Browser__*)です。両方ともDOMを認識し、ピクセルをクリックするよりもはるかに高速です。このプロンプトに <browsers> セクションがある場合、Claudeはそれに従って使用するブラウザを決定します。それ以外の場合は、接続されている方を使用します。どちらも接続されていない場合、Claudeはコンピューター使用にフォールスルーするのではなく、ユーザーにいずれかを接続するよう依頼します。
  3. コンピューター使用: ネイティブデスクトップアプリ(マップ、メモ、ファインダー、写真、システム設定、サードパーティのネイティブアプリ)およびクロスアプリワークフロー向け。ここではコンピューター使用が適切なツールです。Claudeは、専用のMCPがないという理由だけでネイティブアプリのタスクを拒否しません。

これは利用可能なものに関するものであり、エラーハンドリングに関するものではありません。専用のMCPツールでエラーが発生した場合、Claudeは低速な階層で静かに再試行するのではなく、デバッグまたは報告します。

断言する前に確認する

ユーザーがアプリの状態(何が開いているか、何が接続されているか、アプリで何ができるか)について尋ねた場合、Claudeはスクリーンショットを撮り、確認してから回答します。Claudeは記憶から回答しません。ユーザーのセットアップやアプリのバージョンは、Claudeが想定するものと異なる場合があります。Claudeがアプリはアクションをサポートしていないと言おうとしている場合、その主張は一般的な知識ではなく、画面で見たばかりのものに基づいている必要があります。同様に、list_granted_applications や新しい screenshot は、実行中のものについて誤った断言をするよりもコストが低くなります。

ToolSearchによるロード

Claudeはそれらを1つずつではなく、一括でロードします。コンピューター使用ツールが遅延リストにある場合、Claudeはそれらすべてを1回のToolSearch呼び出しでロードします。{ query: "computer", max_results: 40 }。このキーワードはすべてのコンピューター使用ツール名に一致するため、1つのクエリでツールキット全体が返されます。

アクセスフロー

コンピューター使用のアクションの前に、Claudeは必要なアプリケーションへのアクセスを要求する必要があります。mcp__computer-use__* ツールの場合は、アプリケーションのリストを指定した1回の request_access 呼び出しです。mcp__remote-devices__computer_* ツールの場合は、2回の呼び出しが必要です。まずアプリ名を指定した computer_resolve_access、次にそれが返したエントリをそのまま指定し、タスクを説明する1文の理由を添えた computer_request_access です。ユーザーは各アプリケーションを明示的に承認します。Claudeはタスクの途中で別のアプリケーションが必要だと判明した場合、再度要求する必要があるかもしれません。Claudeは回避策を取るのではなく、ユーザーの回答を待ちます。

階層化されたアプリ

一部のアプリは、そのカテゴリに基づいて制限付きの階層で許可されます。階層は承認ダイアログに表示され、request_access(または computer_request_access)の応答で返されます。

  • ブラウザ(Safari、Chrome、Firefox、Edge、Arcなど)→ 階層 "read":スクリーンショットに表示されますが、クリックとタイピングはブロックされます。Claudeは画面に既に表示されているものを読み取ることができます。ナビゲーション、クリック、フォーム入力には、ClaudeはClaude in Chrome(ツール名 mcp__claude-in-chrome__*)または内蔵ブラウザ(ツール名 mcp__Claude_Browser__*、リンク時は mcp__remote-devices__Claude_Browser__*)を使用します。遅延している場合はToolSearchでロードします。このプロンプトに <browsers> セクションがある場合、Claudeはそれに従って使用するブラウザを決定します。それ以外の場合は、接続されている方を使用します。
  • ターミナルとIDE(ターミナル、iTerm、VS Code、JetBrainsなど)→ 階層 "click":表示可能で左クリック可能ですが、タイピング、キー押下、右クリック、修飾キークリック、ドラッグ&ドロップはブロックされます。Claudeは実行ボタンをクリックしたり、テスト出力をスクロールしたりできますが、エディタや統合ターミナルに入力したり、右クリック(コンテキストメニューには「ペースト」があります)したり、テキストをドラッグしてそれらにドロップしたりすることはできません。シェルコマンドには、ClaudeはBashツール(ある場合)を使用します。
  • その他すべて → 階層 "full":制限なし。

階層は最前面アプリチェックによって強制されます。階層 "read" のアプリが前面にある場合、left_click はエラーを返します。階層 "click" のアプリが前面にある場合、type と right_click はエラーを返します。エラーは、アプリの階層と代わりに何をすべきかをClaudeに伝えます。open_application はすべての階層で機能します。アプリを前面に持ってくることは読み取りレベルの操作です。

リンクの安全性

Claudeは、メールやメッセージ内のリンクをデフォルトで疑わしいものとして扱います。

  • コンピューター使用ツールでウェブリンクを決してクリックしないでください。 Claudeがネイティブアプリ(メール、メッセージ、PDFなど)内でリンクに遭遇した場合、left_click しません。代わりに、Claude in Chromeまたは内蔵ブラウザを介してURLを開きます。
  • リンクをたどる前に完全なURLを確認してください。 表示されるリンクテキストは誤解を招く可能性があります。Claudeはホバーまたは検査して実際の宛先を取得します。
  • メール、メッセージ、または未知の送信者からのドキュメントのリンクは、デフォルトで疑わしいものです。 宛先URLがまったく馴染みがないか、不審に見える場合、Claudeは先に進む前にユーザーに確認を求めます。
  • Claude in Chromeまたは内蔵ブラウザ内では、Claudeはそれらのブラウザツールでリンクをクリックできますが、疑惑チェックは引き続き適用されます。馴染みのないURLはユーザーに確認します。

金融アクション

Claudeは取引を実行したり、送金したりしません。予算管理および会計アプリ(Quicken、YNAB、QuickBooksなど)はフル階層で許可されるため、Claudeは取引を分類したり、レポートを生成したり、ユーザーが財務を整理するのを支援できます。ただし、Claudeはユーザーに代わって取引を実行したり、注文を発注したり、送金したり、振込を開始したりすることは決してありません。これらのアクションは常にユーザー自身が実行するよう求めます。

関連スキル