CommunityImagegithub.com

web-infra-dev/android-device-automation

Automatisation d'appareils Android pilotée par vision, utilisant Midscene. Fonctionne entièrement à partir de captures d'écran, sans nécessiter de DOM ou d'attributs d'accessibilité. Interagit avec tous les éléments visibles à l'écran, indépendamment de la pile technologique. Contrôlez les appareils Android avec des commandes en langage naturel via ADB.

Qu'est-ce que android-device-automation ?

Cette compétence permet une automatisation d'appareils Android innovante, basée sur la vision par ordinateur, grâce à l'outil Midscene.js. Au lieu de s'appuyer sur le DOM mobile ou les labels d'accessibilité (souvent limités ou inaccessibles dans le contexte d'applications natives ou hybrides), elle analyse en temps réel les captures d'écran de l'appareil pour interpréter l'état de l'interface utilisateur. Ainsi, tout élément visible – qu'il s'agisse d'un bouton, d'un champ de texte, d'une liste ou d'une image – peut être ciblé et manipulé via des instructions en langage naturel telles que « tape sur le bouton Connexion » ou « glisse vers le bas ». L'automatisation est contrôlée via ADB (Android Debug Bridge) pour envoyer des actions de tap, glissement, saisie de texte, lancement d'application, capture d'écran, etc. Idéale pour les tests end-to-end, la vérification visuelle, le QA mobile et toute situation nécessitant une interaction précise avec une application Android, même si son interface est complexe ou non standard. Supporte les plateformes Claude Code, Cursor, Codex et autres agents IA compatibles avec les commandes shell et ADB.

Compatible avec~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/web-infra-dev/midscene-skills/tree/main/skills/android-device-automation

Installed? Explore more Image skills: steipete/songsee, affaan-m/frontend-design, mattpocock/improve-codebase-architecture · View all 6 →

Voir l'original→Voir toutes les compétences

Demander à votre IA préférée

Ouvre une nouvelle conversation avec cette compétence d'agent déjà préchargée.

OpenAIChatGPTClaudeClaudeGeminiGeminiGrokGrokPerplexityPerplexityDeepSeekDeepSeek

Documentation

Que fait android-device-automation ?

Automatisation d'appareils Android pilotée par vision, utilisant Midscene. Fonctionne entièrement à partir de captures d'écran — aucun DOM ou attribut d'accessibilité n'est requis. Peut interagir avec tous les éléments visibles à l'écran, indépendamment de la pile technologique. Contrôlez les appareils Android avec des commandes en langage naturel via ADB. Effectuez des tap, des glissements, des saisies de texte, des lancements d'applications, des captures d'écran, et plus encore. Mots-clés de déclenchement : android, téléphone, application mobile, tap, glisser, installer une application, ouvrir une application sur le téléphone, appareil android, automatisation mobile, adb, lancer une application, écran mobile, tester une application android, vérifier une application mobile, QA sur téléphone, vérifier l'application sur android, tester sur appareil, voir si l'application fonctionne sur le téléphone, test de bout en bout sur android, vérification visuelle sur mobile. Propulsé par Midscene.js (https://midscenejs.com)

Individual skills in this repo

This repo contains 5 individual skills — each has its own dedicated page.

web-infra-dev/browser-automation

Vision-driven browser automation using Midscene. Operates from screenshots — no DOM or accessibility labels needed. Runs in headless Puppeteer — does NOT take over the user's mouse or keyboard. Also supports CDP mode and Bridge mode to connect to an existing Chrome. Use this skill when the user wants to: - Browse, navigate, or open web pages - Scrape, extract, or collect data from websites - Fill out forms, click buttons, or interact with web elements - Verify, validate, test, or QA frontend UI behavior - Take screenshots of web pages - Automate multi-step web workflows - Test what was just built, see if it works in browser - Connect to Chrome via CDP, DevTools Protocol, or remote debugging - Connect to user's Chrome browser, control my browser, operate my Chrome Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/desktop-computer-automation

Vision-driven desktop automation using Midscene. Control your local desktop (macOS, Windows, Linux) or a remote Windows desktop over RDP with natural language commands. Operates entirely from screenshots — no DOM or accessibility labels required. Can interact with all visible elements on screen regardless of technology stack. ⚠️ In local mode this takes over the user's real mouse and keyboard. For web apps, prefer "Browser Automation" instead. Only use this for desktop-native apps (Electron, Qt, native macOS/Windows/Linux) that cannot run in a browser, or for driving a remote Windows host via RDP. Triggers: open app, press key, desktop, computer, click on screen, type text, screenshot desktop, launch application, switch window, desktop automation, control computer, mouse click, keyboard shortcut, screen capture, find on screen, read screen, verify window, close app, test Electron app, rdp, remote desktop, windows server, connect via rdp Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/harmonyos-device-automation

Vision-driven HarmonyOS NEXT device automation using Midscene. Operates entirely from screenshots — no DOM or accessibility labels required. Can interact with all visible elements on screen regardless of technology stack. Control HarmonyOS devices with natural language commands via HDC. Perform taps, swipes, text input, app launches, screenshots, and more. Trigger keywords: harmony, harmonyos, 鸿蒙, hdc, huawei device, harmony app, harmony automation, harmony phone, harmony tablet, test harmony app, verify on harmonyos, QA on 鸿蒙, check the app on harmony, test on huawei device, see if the app works on harmony, end-to-end test on harmonyos, visual verification on 鸿蒙 Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/ios-device-automation

Vision-driven iOS device automation using Midscene CLI. Operates entirely from screenshots — no DOM or accessibility labels required. Can interact with all visible elements on screen regardless of technology stack. Control iOS devices with natural language commands via WebDriverAgent. Triggers: ios, iphone, ipad, ios app, tap on iphone, swipe, mobile app ios, ios device, ios testing, iphone automation, ipad automation, ios screen, ios navigate, test ios app, verify on iphone, QA on ipad, check the app on ios, test on ios device, see if the app works on iphone, end-to-end test on ios, visual verification on ios Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/vitest-midscene-e2e

Enhances Vitest with Midscene for AI-powered UI testing across Web (Playwright), Android (ADB), and iOS (WDA). Scaffolds new projects, converts existing projects, and creates/updates/debugs/runs E2E tests using natural-language UI interactions. Triggers: write test, add test, create test, update test, fix test, debug test, run test, e2e test, midscene test, new project, convert project, init project, 写测试, 加测试, 创建测试, 更新测试, 修复测试, 调试测试, 运行测试, 新建工程, 转化工程.

Skills associés

steipete/songsee

Generate spectrograms and feature-panel visualizations from audio with the songsee CLI.

community

affaan-m/frontend-design

Create distinctive, production-grade frontend interfaces with high design quality. Use when the user asks to build web components, pages, or applications and the visual direction matters as much as the code quality.

community

mattpocock/improve-codebase-architecture

Scan a codebase for deepening opportunities, present them as a visual HTML report, then grill through whichever one you pick.

community

lobehub/add-provider-doc

Add documentation for a new AI provider — usage docs, env vars, Docker config, image resources.

community

addyosmani/browser-testing-with-devtools

Tests in real browsers via Chrome DevTools MCP. Use when building or debugging anything that runs in a browser. Use when you need to inspect the DOM, capture console errors, analyze network requests, profile performance, or verify visual output with real runtime data. Requires the chrome-devtools MCP server to be configured.

community

bytedance/chart-visualization

This skill should be used when the user wants to visualize data. It intelligently selects the most suitable chart type from 26 available options, extracts parameters based on detailed specifications, and generates a chart image using a JavaScript script.

community
← More Image skills