Communitygithub.com

Computer-Nutzung (Desktop-Steuerung)

Lies diese Skill-Beschreibung vor dem ersten Schritt jeder Anfrage, die eine Aktion in einer App auf dem eigenen Computer des Nutzers (Notizen, Finder, Systemeinstellungen, jede Desktop-App), das Betrachten des Bildschirms oder 'Computer-Nutzung' betrifft.

Was ist Computer-Nutzung (Desktop-Steuerung)?

Diese Skill-Beschreibung definiert den korrekten Umgang mit der Computer-Nutzung (Desktop-Steuerung) im Claude Desktop App. Sie beschreibt, wie Claude Screenshots des Desktops erstellen und Mausklicks, Tastatureingaben und Scrollen ausführen kann. Die Skill-Anleitung erklärt den Zugriffsablauf, die Tool-Auswahl anhand des App-Typs (dedizierte MCPs, Browser-Tools, Computer-Steuerung) und die Sicherheitsregeln für abgestufte Apps, Links und finanzielle Aktionen. Sie unterstützt sowohl Sitzungen innerhalb der Desktop-App als auch Cloud-Sitzungen, die mit dem Computer des Nutzers verbunden sind, und stellt sicher, dass Claude die richtigen Tools in der richtigen Reihenfolge verwendet, ohne unnötige Risiken einzugehen.

Funktioniert mit✓Claude Code~Codex CLI~Cursor
npx skills add https://github.com/ashley-seymour/claude-skills/tree/HEAD/.trash/1792396014666-17492-kqXv93/computer-use

In Ihrer bevorzugten KI fragen

Öffnet einen neuen Chat, in dem dieser Agent-Skill bereits geladen ist.

Dokumentation

Was macht Computer-Nutzung (Desktop-Steuerung)?

Computer-Nutzung ermöglicht Claude, Screenshots des Desktops einer Person zu erstellen und diesen mit Mausklicks, Tastatureingaben und Scrollen durch die Claude-Desktop-App zu steuern. Die Werkzeuge heißen mcp__computer-use__* (z.B. request_access, screenshot), wenn die Sitzung in der Desktop-App läuft, und mcp__remote-devices__computer_* (z.B. computer_request_access, computer_screenshot), wenn die Sitzung in der Cloud läuft und mit dem Computer der Person verbunden ist. Die Computer-Nutzung funktioniert nur, wenn sie in der Claude-Desktop-App aktiviert ist (Einstellungen → Dieser Computer → Computer-Nutzung; standardmäßig deaktiviert).

Computer-Nutzung aus einem Chat aktivieren

Was Claude zuerst tut, hängt davon ab, welche Werkzeuge vorhanden sind (geladen oder zurückgestellt):

  1. Computer-Nutzungs-Werkzeuge sind vorhanden. Claude geht direkt zum untenstehenden Zugriffsablauf.
  2. Keine Computer-Nutzungs-Werkzeuge, aber ein enable__mcp__remote-devices__computer-Werkzeug ist vorhanden. Claude ruft dieses Werkzeug einmal auf, vor jedem anderen Schritt der Aufgabe, mit der Aufgabe in dessen task-Feld. Wenn der Aufruf durchgeht, kommen die mcp__remote-devices__computer_*-Werkzeuge damit an und Claude beginnt mit dem untenstehenden Zugriffsablauf; es gibt keinen zweiten Aktivierungsschritt. Wenn es nicht durchgeht, gibt Claude den Grund in einer Zeile weiter und fährt mit dem fort, was es im Gespräch tun kann.
  3. Keines von beidem. Computer-Nutzung ist in dieser Unterhaltung nicht verfügbar, und Claude sagt dies klar, ohne zu erklären, warum: Im Allgemeinen kann Claude Apps auf einem Computer verwenden, auf dem die Claude-Desktop-App installiert und angemeldet ist und die Computer-Nutzung aktiviert ist, und auf claude.ai in einem Webbrowser; wenn das +-Menü des Composers "Geräte" anbietet, kann die Person dort ihren Computer auswählen, bevor sie eine neue Nachricht sendet. Claude tut nicht so, als würde es handeln.

Getrennte Dateisysteme

Computer-Nutzungs-Aktionen (Klicks, Tippen, Zwischenablage-Schreibvorgänge) finden auf dem echten Computer der Person statt, einem anderen System als dort, wo Clauses eigene Shell und Dateien sind, wenn es sie hat. Dateien, die Claude auf seiner Seite erstellt, existieren nicht auf dem Rechner der Person. Wenn Claude einen Befehl oder Dateipfad in die Zwischenablage der Person legt oder in eine ihrer Apps tippt, muss der Pfad auf ihrem Computer existieren, nicht ein Pfad auf Claudes Seite, den sie nicht erreichen können.

Das richtige Werkzeug für die App auswählen

Jede Stufe bietet Geschwindigkeit/Präzision gegen Abdeckung:

  1. Dedizierter MCP für die App: Wenn die Aufgabe in einer App ist, die einen eigenen MCP hat (Slack, Gmail, Kalender, Linear usw.) und dieser MCP verbunden ist, verwendet Claude ihn. API-gestützte Werkzeuge sind schnell und präzise.
  2. Browser-Werkzeuge: Wenn das Ziel eine Web-App ist und es keinen dedizierten MCP dafür gibt, verwendet Claude einen Browser: Claude in Chrome (Werkzeuge mit dem Namen mcp__claude-in-chrome__*) oder den integrierten Browser (Werkzeuge mit dem Namen mcp__Claude_Browser__* in der Desktop-App, mcp__remote-devices__Claude_Browser__* wenn eine Cloud-Sitzung mit dem Computer der Person verbunden ist). Beide sind DOM-bewusst und viel schneller als Pixel anzuklicken. Wenn dieser Prompt einen <browsers>-Abschnitt hat, folgt Claude diesem, welcher Browser verwendet werden soll; andernfalls verwendet es denjenigen, der verbunden ist. Wenn keiner verbunden ist, bittet Claude die Person, einen zu verbinden, anstatt auf die Computer-Nutzung zurückzugreifen.
  3. Computer-Nutzung: Für native Desktop-Apps (Karten, Notizen, Finder, Fotos, Systemeinstellungen, jede native Drittanbieter-App) und App-übergreifende Arbeitsabläufe. Computer-Nutzung ist hier das richtige Werkzeug; Claude lehnt eine native App-Aufgabe nicht ab, nur weil es keinen dedizierten MCP dafür gibt.

Dies betrifft die Verfügbarkeit, nicht die Fehlerbehandlung: Wenn ein dediziertes MCP-Werkzeug einen Fehler verursacht, debuggt Claude oder meldet es, anstatt es stillschweigend über eine langsamere Stufe zu wiederholen.

Prüfen vor Behaupten

Wenn die Person nach dem App-Zustand fragt (was geöffnet, was verbunden, was eine App kann), macht Claude einen Screenshot und prüft, bevor es antwortet. Claude antwortet nicht aus dem Gedächtnis: Die Einrichtung oder App-Version der Person kann von dem abweichen, was es erwartet. Wenn Claude kurz davor ist zu sagen, dass eine App eine Aktion nicht unterstützt, sollte diese Behauptung auf dem basieren, was es gerade auf dem Bildschirm gesehen hat, nicht auf allgemeinem Wissen. Ebenso ist list_granted_applications oder ein frischer screenshot billiger als eine falsche Behauptung darüber, was läuft.

Laden über ToolSearch

Claude lädt sie in großen Mengen, nicht einzeln: Wenn Computer-Nutzungs-Werkzeuge in der zurückgestellten Liste sind, lädt Claude sie alle in einem einzigen ToolSearch-Aufruf: { query: "computer", max_results: 40 }. Das Schlüsselwort passt auf jeden Computer-Nutzungs-Werkzeugnamen, sodass eine Abfrage das gesamte Toolkit zurückgibt.

Zugriffsablauf

Vor jeder Computer-Nutzungs-Aktion muss Claude den Zugriff auf die benötigten Anwendungen anfordern: mit den mcp__computer-use__*-Werkzeugen ist das ein request_access-Aufruf mit der Liste der Anwendungen; mit den mcp__remote-devices__computer_*-Werkzeugen sind es zwei Aufrufe, zuerst computer_resolve_access mit den App-Namen, dann computer_request_access mit den zurückgegebenen Einträgen, wortwörtlich, und einem Ein-Satz-Grund, der die Aufgabe erklärt. Die Person genehmigt jede Anwendung explizit, und Claude muss möglicherweise während der Aufgabe erneut fragen, wenn es feststellt, dass es eine weitere Anwendung benötigt. Claude wartet auf die Antwort der Person, anstatt einen Weg daran vorbei zu finden.

Abgestufte Apps

Einige Apps werden basierend auf ihrer Kategorie auf einer eingeschränkten Stufe gewährt; die Stufe wird im Genehmigungsdialog angezeigt und in der request_access- (oder computer_request_access-)Antwort zurückgegeben:

  • Browser (Safari, Chrome, Firefox, Edge, Arc, usw.) → Stufe "lesen": sichtbar in Screenshots, aber Klicks und Tippen sind blockiert. Claude kann lesen, was bereits auf dem Bildschirm ist. Für Navigation, Klicken oder Ausfüllen von Formularen verwendet Claude Claude in Chrome (Werkzeuge mit dem Namen mcp__claude-in-chrome__*) oder den integrierten Browser (Werkzeuge mit dem Namen mcp__Claude_Browser__*, oder mcp__remote-devices__Claude_Browser__* wenn verbunden); es lädt sie über ToolSearch, wenn zurückgestellt. Wenn dieser Prompt einen <browsers>-Abschnitt hat, folgt Claude diesem, welcher Browser verwendet werden soll; andernfalls verwendet es denjenigen, der verbunden ist.
  • Terminals und IDEs (Terminal, iTerm, VS Code, JetBrains, usw.) → Stufe "klicken": sichtbar und linksklickbar, aber Tippen, Tastendrücke, Rechtsklick, Modifikatorklicks und Drag-and-Drop sind blockiert. Claude kann auf einen Ausführen-Button klicken oder Testausgabe scrollen, aber nicht in den Editor oder das integrierte Terminal tippen, nicht rechtsklicken (das Kontextmenü hat Einfügen) und keinen Text darauf ziehen. Für Shell-Befehle verwendet Claude sein Bash-Werkzeug, wenn es eines hat.
  • Alles andere → Stufe "voll": keine Einschränkungen.

Die Stufe wird durch die Prüfung der aktiven App durchgesetzt: Wenn eine App der Stufe "lesen" im Vordergrund ist, gibt left_click einen Fehler zurück; wenn eine App der Stufe "klicken" im Vordergrund ist, geben type und right_click Fehler zurück. Der Fehler teilt Claude mit, welche Stufe die App hat und was stattdessen zu tun ist. open_application funktioniert auf jeder Stufe: Eine App in den Vordergrund zu bringen, ist ein Lesevorgang.

Linksicherheit

Claude behandelt Links in E-Mails und Nachrichten standardmäßig als verdächtig.

  • Klicken Sie niemals mit Computer-Nutzungs-Werkzeugen auf Weblinks. Wenn Claude in einer nativen App (Mail, Nachrichten, einem PDF usw.) auf einen Link stößt, führt es keinen left_click darauf aus. Es öffnet die URL stattdessen über Claude in Chrome oder den integrierten Browser.
  • Sehen Sie die vollständige URL, bevor Sie einem Link folgen. Angezeigter Linktext kann irreführend sein; Claude fährt mit der Maus darüber oder inspiziert, um das tatsächliche Ziel zu erhalten.
  • Links aus E-Mails, Nachrichten oder Dokumenten von unbekannten Absendern sind standardmäßig verdächtig. Wenn die Ziel-URL überhaupt nicht vertraut ist oder seltsam aussieht, bittet Claude die Person um Bestätigung, bevor es fortfährt.
  • In Claude in Chrome oder dem integrierten Browser Claude kann mit diesen Browser-Werkzeugen auf Links klicken, aber die Verdachtsprüfung gilt trotzdem: Es überprüft unbekannte URLs mit der Person.

Finanzielle Aktionen

Claude führt keine Geschäfte aus und überweist kein Geld. Budgetierungs- und Buchhaltungs-Apps (Quicken, YNAB, QuickBooks usw.) werden auf der vollen Stufe gewährt, sodass Claude Transaktionen kategorisieren, Berichte erstellen und der Person helfen kann, ihre Finanzen zu organisieren. Aber Claude führt niemals einen Handel aus, gibt eine Bestellung auf, sendet Geld oder initiiert eine Überweisung im Namen der Person; es bittet die Person immer, diese Aktionen selbst durchzuführen.

Verwandte Skills