web-infra-dev/automatización-navegador

Automatización de navegador basada en visión utilizando Midscene. Opera a partir de capturas de pantalla — sin necesidad de DOM ni etiquetas de accesibilidad. Se ejecuta en Puppeteer sin cabeza gráfica — NO toma el control del ratón o teclado del usuario. También admite modo CDP y modo Bridge para conectarse a un Chrome existente. Usa esta skill cuando el usuario quiera: - Navegar, explorar o abrir páginas web - Extraer, raspar o recolectar datos de sitios web - Rellenar formularios, hacer clic en botones o interactuar con elementos web - Verificar, validar, probar o hacer QA del comportamiento de la interfaz de usuario - Tomar capturas de pantalla de páginas web - Automatizar flujos de trabajo web de varios pasos - Probar lo que se acaba de construir, ver si funciona en el navegador - Conectarse a Chrome vía CDP, Protocolo DevTools o depuración remota - Conectarse al navegador Chrome del usuario, controlar mi navegador, operar mi Chrome Desarrollado por Midscene.js (https://midscenejs.com)

¿Qué es automatización-navegador?

Esta skill de automatización de navegador utiliza Midscene.js para realizar tareas de navegación web de forma autónoma, basándose en la interpretación visual de capturas de pantalla. A diferencia de otras herramientas que dependen del DOM o etiquetas de accesibilidad, Midscene entiende el estado visual de la página, permitiendo hacer clic en botones, rellenar formularios, extraer datos y validar el comportamiento de la interfaz de usuario sin necesidad de selectores CSS complejos. La skill se ejecuta en Puppeteer sin cabeza gráfica (headless), por lo que no interfiere con el ratón ni el teclado del usuario. Además, ofrece dos modos adicionales de conexión: modo CDP (Chrome DevTools Protocol) para depuración remota y modo Bridge para conectar con un navegador Chrome existente, lo que permite controlar el navegador del usuario de manera segura. Está diseñada para desarrolladores y equipos de QA que necesitan automatizar flujos de trabajo web, realizar pruebas de frontend, raspar datos o simplemente verificar que lo que acaban de construir funciona correctamente en el navegador.

Compatible con~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/web-infra-dev/midscene-skills/tree/main/skills/browser-automation

Installed? Explore more Investigación y análisis de datos skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

Preguntar en tu IA favorita

Abre un nuevo chat con esta habilidad de agente ya precargada.

Documentación

¿Qué hace automatización-navegador?

Automatización de navegador basada en visión utilizando Midscene. Opera a partir de capturas de pantalla — sin necesidad de DOM ni etiquetas de accesibilidad. Se ejecuta en Puppeteer sin cabeza gráfica — NO toma el control del ratón o teclado del usuario. También admite modo CDP y modo Bridge para conectarse a un Chrome existente. Usa esta skill cuando el usuario quiera:

  • Navegar, explorar o abrir páginas web
  • Extraer, raspar o recolectar datos de sitios web
  • Rellenar formularios, hacer clic en botones o interactuar con elementos web
  • Verificar, validar, probar o hacer QA del comportamiento de la interfaz de usuario
  • Tomar capturas de pantalla de páginas web
  • Automatizar flujos de trabajo web de varios pasos
  • Probar lo que se acaba de construir, ver si funciona en el navegador
  • Conectarse a Chrome vía CDP, Protocolo DevTools o depuración remota
  • Conectarse al navegador Chrome del usuario, controlar mi navegador, operar mi Chrome

Desarrollado por Midscene.js (https://midscenejs.com)

Individual skills in this repo

This repo contains 5 individual skills — each has its own dedicated page.

web-infra-dev/android-device-automation

Vision-driven Android device automation using Midscene. Operates entirely from screenshots — no DOM or accessibility labels required. Can interact with all visible elements on screen regardless of technology stack. Control Android devices with natural language commands via ADB. Perform taps, swipes, text input, app launches, screenshots, and more. Trigger keywords: android, phone, mobile app, tap, swipe, install app, open app on phone, android device, mobile automation, adb, launch app, mobile screen, test android app, verify mobile app, QA on phone, check the app on android, test on device, see if the app works on phone, end-to-end test on android, visual verification on mobile Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/desktop-computer-automation

Vision-driven desktop automation using Midscene. Control your local desktop (macOS, Windows, Linux) or a remote Windows desktop over RDP with natural language commands. Operates entirely from screenshots — no DOM or accessibility labels required. Can interact with all visible elements on screen regardless of technology stack. ⚠️ In local mode this takes over the user's real mouse and keyboard. For web apps, prefer "Browser Automation" instead. Only use this for desktop-native apps (Electron, Qt, native macOS/Windows/Linux) that cannot run in a browser, or for driving a remote Windows host via RDP. Triggers: open app, press key, desktop, computer, click on screen, type text, screenshot desktop, launch application, switch window, desktop automation, control computer, mouse click, keyboard shortcut, screen capture, find on screen, read screen, verify window, close app, test Electron app, rdp, remote desktop, windows server, connect via rdp Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/harmonyos-device-automation

Vision-driven HarmonyOS NEXT device automation using Midscene. Operates entirely from screenshots — no DOM or accessibility labels required. Can interact with all visible elements on screen regardless of technology stack. Control HarmonyOS devices with natural language commands via HDC. Perform taps, swipes, text input, app launches, screenshots, and more. Trigger keywords: harmony, harmonyos, 鸿蒙, hdc, huawei device, harmony app, harmony automation, harmony phone, harmony tablet, test harmony app, verify on harmonyos, QA on 鸿蒙, check the app on harmony, test on huawei device, see if the app works on harmony, end-to-end test on harmonyos, visual verification on 鸿蒙 Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/ios-device-automation

Vision-driven iOS device automation using Midscene CLI. Operates entirely from screenshots — no DOM or accessibility labels required. Can interact with all visible elements on screen regardless of technology stack. Control iOS devices with natural language commands via WebDriverAgent. Triggers: ios, iphone, ipad, ios app, tap on iphone, swipe, mobile app ios, ios device, ios testing, iphone automation, ipad automation, ios screen, ios navigate, test ios app, verify on iphone, QA on ipad, check the app on ios, test on ios device, see if the app works on iphone, end-to-end test on ios, visual verification on ios Powered by Midscene.js (https://midscenejs.com)

web-infra-dev/vitest-midscene-e2e

Enhances Vitest with Midscene for AI-powered UI testing across Web (Playwright), Android (ADB), and iOS (WDA). Scaffolds new projects, converts existing projects, and creates/updates/debugs/runs E2E tests using natural-language UI interactions. Triggers: write test, add test, create test, update test, fix test, debug test, run test, e2e test, midscene test, new project, convert project, init project, 写测试, 加测试, 创建测试, 更新测试, 修复测试, 调试测试, 运行测试, 新建工程, 转化工程.

Skills relacionados