Communitygithub.com

컴퓨터 사용 (데스크톱 제어)

이 스킬은 사용자 컴퓨터의 앱(Notes, Finder, 시스템 설정 등)에서 작업을 수행하거나, 화면을 보거나, '컴퓨터 사용' 기능을 사용하기 전에 첫 번째 단계로 읽어야 합니다.

컴퓨터 사용 (데스크톱 제어)란 무엇인가요?

이 스킬은 Claude 데스크톱 앱을 통해 사용자의 컴퓨터 화면을 캡처하고, 마우스 클릭, 키보드 입력, 스크롤로 제어하는 '컴퓨터 사용' 기능을 상세히 설명합니다. 이 기능은 Claude 데스크톱 앱에서 활성화해야 하며, 세션이 데스크톱 앱 내에서 실행될 때와 클라우드 세션이 사용자 컴퓨터에 연결될 때 서로 다른 도구 이름(mcp__computer-use__* 및 mcp__remote-devices__computer_*)을 사용합니다. 이 스킬은 컴퓨터 사용을 켜는 방법, 적절한 도구 선택, 접근 흐름, 계층화된 앱, 링크 안전성, 금융 작업에 대한 안전 규칙을 다룹니다. 웹사이트 작업은 Chrome 또는 내장 브라우저를 통해 수행되며 별도의 스킬을 따르므로, 이 스킬은 네이티브 데스크톱 앱 및 크로스 앱 워크플로에만 해당합니다.

지원 대상✓Claude Code~Codex CLI~Cursor
npx skills add https://github.com/ashley-seymour/claude-skills/tree/HEAD/.trash/1792396014666-17492-kqXv93/computer-use

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

컴퓨터 사용 (데스크톱 제어)은(는) 무엇을 하나요?

컴퓨터 사용(Computer use)은 Claude 데스크톱 앱을 통해 사용자의 데스크톱 화면을 캡처하고, 마우스 클릭, 키보드 입력, 스크롤로 제어할 수 있게 해줍니다. 해당 도구는 세션이 데스크톱 앱 내에서 실행될 때 mcp__computer-use__*(예: request_access, screenshot) 이름을 가지며, 세션이 클라우드에서 실행되고 사용자 컴퓨터에 연결될 때는 mcp__remote-devices__computer_*(예: computer_request_access, computer_screenshot) 이름을 가집니다. 컴퓨터 사용은 Claude 데스크톱 앱에서 컴퓨터 사용이 켜져 있을 때만 작동합니다(설정 → 이 컴퓨터 → 컴퓨터 사용; 기본값은 꺼짐).

채팅에서 컴퓨터 사용 켜기

Claude가 가장 먼저 수행하는 작업은 현재 있는 도구(로드됨 또는 지연됨)에 따라 다릅니다.

  1. 컴퓨터 사용 도구가 있는 경우. Claude는 바로 아래 접근 흐름으로 진행합니다.
  2. 컴퓨터 사용 도구는 없지만, enable__mcp__remote-devices__computer 도구가 있는 경우. Claude는 작업의 다른 단계보다 먼저 해당 도구를 한 번 호출하며, task 필드에 작업을 담습니다. 호출이 성공하면 mcp__remote-devices__computer_* 도구가 함께 도착하고, Claude는 아래 접근 흐름부터 시작합니다. 실패하면 Claude는 이유를 한 줄로 전달하고, 대화에서 할 수 있는 작업을 계속합니다.
  3. 둘 다 없는 경우. 이 대화에서는 컴퓨터 사용을 사용할 수 없으며, Claude는 이유를 진단하지 않고 단순히 그렇게 말합니다. 일반적으로 Claude는 Claude 데스크톱 앱이 설치되고 컴퓨터 사용이 켜진 상태로 로그인된 컴퓨터의 앱을 사용할 수 있으며, claude.ai 웹 브라우저에서는 작성자의 + 메뉴에 Devices가 있는 경우 새 메시지를 보내기 전에 사용자가 자신의 컴퓨터를 선택할 수 있습니다. Claude는 행동하는 척하지 않습니다.

별도의 파일 시스템

컴퓨터 사용 작업(클릭, 입력, 클립보드 쓰기)은 사용자의 실제 컴퓨터에서 발생하며, 이는 Claude의 자체 셸과 파일이 있는 시스템과 다른 시스템입니다. Claude가 자신의 쪽에서 만든 파일은 사용자 컴퓨터에 존재하지 않습니다. Claude가 사용자의 클립보드에 명령이나 파일 경로를 넣거나, 사용자 앱에 입력하는 경우, 해당 경로는 사용자 컴퓨터에 존재해야 하며, Claude 쪽의 접근할 수 없는 경로가 아니어야 합니다.

앱에 맞는 올바른 도구 선택

각 계층은 속도/정밀도와 적용 범위 간의 균형을 유지합니다.

  1. 앱 전용 MCP: 작업 대상이 자체 MCP(Slack, Gmail, Calendar, Linear 등)를 가지고 있고 해당 MCP가 연결된 앱인 경우, Claude는 이를 사용합니다. API 기반 도구는 빠르고 정확합니다.
  2. 브라우저 도구: 대상이 웹 앱이고 전용 MCP가 없는 경우, Claude는 브라우저를 사용합니다: Chrome의 Claude(mcp__claude-in-chrome__* 이름의 도구) 또는 내장 브라우저(데스크톱 앱에서는 mcp__Claude_Browser__*, 클라우드 세션이 사용자 컴퓨터에 연결된 경우 mcp__remote-devices__Claude_Browser__*). 둘 다 DOM을 인식하여 픽셀 클릭보다 훨씬 빠릅니다. 이 프롬프트에 <browsers> 섹션이 있으면 Claude는 어떤 브라우저를 사용할지 그것을 따릅니다. 연결된 브라우저가 없으면, Claude는 컴퓨터 사용으로 대체하지 않고 사용자에게 하나를 연결하도록 요청합니다.
  3. 컴퓨터 사용: 네이티브 데스크톱 앱(Maps, Notes, Finder, Photos, 시스템 설정, 모든 타사 네이티브 앱) 및 크로스 앱 워크플로에 사용합니다. 여기서는 컴퓨터 사용이 올바른 도구입니다. Claude는 전용 MCP가 없다는 이유만으로 네이티브 앱 작업을 거부하지 않습니다.

이는 가용성에 관한 것이지 오류 처리가 아닙니다. 전용 MCP 도구가 오류를 발생시키면, Claude는 더 느린 계층으로 자동 재시도하지 않고 디버깅하거나 보고합니다.

확인하기 전에 살펴보기

사용자가 앱 상태(무엇이 열려 있는지, 무엇이 연결되어 있는지, 앱이 무엇을 할 수 있는지)에 대해 질문하면, Claude는 스크린샷을 찍고 확인한 후에 답변합니다. Claude는 기억에 의존하여 답변하지 않습니다. 사용자의 설정이나 앱 버전이 예상과 다를 수 있습니다. Claude가 앱이 어떤 작업을 지원하지 않는다고 말하려고 한다면, 그 주장은 일반적인 지식이 아니라 방금 화면에서 본 내용에 근거해야 합니다. 마찬가지로, list_granted_applications 또는 새로운 screenshot을 사용하는 것이 잘못된 주장을 하는 것보다 비용이 적게 듭니다.

ToolSearch를 통한 로딩

Claude는 도구를 하나씩이 아니라 한꺼번에 로드합니다. 컴퓨터 사용 도구가 지연 목록에 있으면, Claude는 단일 ToolSearch 호출로 모두 로드합니다: { query: "computer", max_results: 40 }. 키워드는 모든 컴퓨터 사용 도구 이름과 일치하므로, 하나의 쿼리로 전체 도구 키트를 반환합니다.

접근 흐름

컴퓨터 사용 작업을 수행하기 전에 Claude는 필요한 애플리케이션에 대한 접근 권한을 요청해야 합니다. mcp__computer-use__* 도구를 사용하는 경우, 애플리케이션 목록과 함께 한 번의 request_access 호출입니다. mcp__remote-devices__computer_* 도구를 사용하는 경우, 두 번의 호출이 필요합니다: 먼저 앱 이름과 함께 computer_resolve_access를 호출한 다음, 반환된 항목을 그대로 사용하고 작업을 설명하는 한 문장의 이유를 포함하여 computer_request_access를 호출합니다. 사용자는 각 애플리케이션을 명시적으로 승인하며, Claude는 작업 중에 다른 애플리케이션이 필요하다는 것을 발견하면 다시 요청해야 할 수 있습니다. Claude는 사용자의 응답을 기다리며 우회하지 않습니다.

계층화된 앱

일부 앱은 해당 카테고리에 따라 제한된 계층으로 권한이 부여됩니다. 계층은 승인 대화상자에 표시되고 request_access(또는 computer_request_access) 응답에 반환됩니다.

  • 브라우저(Safari, Chrome, Firefox, Edge, Arc 등) → "읽기" 계층: 스크린샷에 표시되지만 클릭과 입력이 차단됩니다. Claude는 이미 화면에 있는 내용을 읽을 수 있습니다. 탐색, 클릭 또는 양식 작성을 위해 Claude는 Chrome의 Claude(mcp__claude-in-chrome__* 이름의 도구) 또는 내장 브라우저(mcp__Claude_Browser__* 또는 연결된 경우 mcp__remote-devices__Claude_Browser__*)를 사용합니다. 지연된 경우 ToolSearch를 통해 로드합니다. 이 프롬프트에 <browsers> 섹션이 있으면 Claude는 어떤 브라우저를 사용할지 그것을 따릅니다. 그렇지 않으면 연결된 브라우저를 사용합니다.
  • 터미널 및 IDE(Terminal, iTerm, VS Code, JetBrains 등) → "클릭" 계층: 표시되고 왼쪽 클릭이 가능하지만, 입력, 키 누름, 오른쪽 클릭, 수정자 키 클릭, 드래그 앤 드롭이 차단됩니다. Claude는 실행 버튼을 클릭하거나 테스트 출력을 스크롤할 수 있지만, 편집기나 통합 터미널에 입력할 수 없고, 오른쪽 클릭(컨텍스트 메뉴에 붙여넣기가 있음)할 수 없으며, 텍스트를 드래그하여 넣을 수 없습니다. 셸 명령의 경우, Claude는 Bash 도구가 있을 때 이를 사용합니다.
  • 그 외 모든 것 → "전체" 계층: 제한 없음.

계층은 최전방 앱 확인에 의해 적용됩니다. "읽기" 계층 앱이 전면에 있으면 left_click이 오류를 반환합니다. "클릭" 계층 앱이 전면에 있으면 type 및 right_click이 오류를 반환합니다. 오류는 Claude에게 앱의 계층과 대신 수행할 작업을 알려줍니다. open_application은 모든 계층에서 작동합니다. 앱을 전면으로 가져오는 것은 읽기 수준 작업입니다.

링크 안전

Claude는 이메일과 메시지의 링크를 기본적으로 의심스러운 것으로 간주합니다.

  • 컴퓨터 사용 도구로 웹 링크를 절대 클릭하지 마십시오. Claude가 네이티브 앱(Mail, Messages, PDF 등)에서 링크를 발견하면 left_click하지 않습니다. 대신 Chrome의 Claude 또는 내장 브라우저를 통해 URL을 엽니다.
  • 링크를 따라가기 전에 전체 URL을 확인하십시오. 표시되는 링크 텍스트는 오해의 소지가 있을 수 있습니다. Claude는 실제 대상을 확인하기 위해 마우스를 올리거나 검사합니다.
  • 이메일, 메시지 또는 알 수 없는 발신자 문서의 링크는 기본적으로 의심스럽습니다. 대상 URL이 전혀 낯설거나 이상해 보이면 Claude는 진행하기 전에 사용자에게 확인을 요청합니다.
  • Chrome의 Claude 또는 내장 브라우저 내에서 Claude는 해당 브라우저 도구로 링크를 클릭할 수 있지만, 의심스러운 링크 확인은 여전히 적용됩니다. 낯선 URL은 사용자에게 확인합니다.

금융 작업

Claude는 거래를 실행하거나 자금을 이동하지 않습니다. 예산 및 회계 앱(Quicken, YNAB, QuickBooks 등)은 전체 계층으로 권한이 부여되어 Claude가 거래를 분류하고, 보고서를 생성하며, 사용자가 재정을 정리하는 데 도움을 줄 수 있습니다. 그러나 Claude는 절대 사용자를 대신하여 거래를 실행하거나, 주문을 하거나, 자금을 보내거나, 이체를 시작하지 않습니다. 항상 사용자에게 직접 이러한 작업을 수행하도록 요청합니다.

관련 스킬