¿Qué hace diseño-agente-seguro?
Derivado de la arquitectura de seguridad que Meta reveló para Muse (septiembre de 2026): cada agente se ejecuta en su propia VM segura, un sistema "centinela" separado verifica cada acción antes de que salga de la VM, y el agente nunca ve contraseñas reales o números de tarjeta. La seguridad planteada como arquitectura, no como promesas, fue el desbloqueo de la adopción.
Los patrones
Cómputo aislado por usuario
El agente de cada usuario se ejecuta en su propia máquina virtual: un ordenador aislado dedicado a ese usuario. La compromisión de un agente no puede alcanzar los datos de otro usuario. La VM sigue funcionando en segundo plano incluso cuando el usuario no está.
Centinela: verificación previa a la acción
Un sistema separado verifica cada acción antes de que cualquier cosa salga de la VM. El agente propone; el centinela verifica contra la política (apps permitidas, límites de gasto, reglas de sensibilidad) antes de la ejecución. Ninguna acción con efectos secundarios evade esta puerta.
Aislamiento de credenciales
El agente nunca ve contraseñas reales ni números de tarjeta. Las compras se realizan a través de números de tarjeta virtual de un solo uso emitidos por transacción, por lo que las credenciales de pago reales nunca entran en el contexto del agente y no pueden filtrarse a través de indicaciones, registros o salidas del modelo.
Puertas de aprobación humana
El agente pregunta antes de acciones sensibles: enviar un correo electrónico, gastar dinero, eliminar datos. Las aprobaciones deben ser específicas (esta acción, este monto, este destinatario), no generales. Las acciones rutinarias de bajo riesgo pueden ejecutarse de forma autónoma una vez que el usuario lo acepta.
Conectores de mínimo privilegio
El usuario decide exactamente a qué puede acceder el agente: qué aplicaciones están conectadas, si el acceso es de solo lectura o lectura-escritura, y puede revocarlo en cualquier momento. Por defecto, el alcance más estrecho que complete la tarea; ampliar solo a petición explícita.
Transparencia
El usuario puede ver todo lo que el agente ha hecho: un registro de acciones completo y legible por humanos. Incluye controles de "olvidar" para que los usuarios puedan eleminar lo que el agente ha aprendido sobre ellos.
Cómo comunicarlo
Lidera con la arquitectura ("se ejecuta en su propia VM segura, cada acción verificada antes de que salga"), no con adjetivos ("grado bancario", "grado militar"). Nombra los componentes (VM, centinela, tarjetas de un solo uso) para que los usuarios técnicos puedan verificar las afirmaciones. Reconoce honestamente la compensación: un acceso más amplio implica mayores riesgos, que es exactamente por lo que existe la arquitectura.