CISO AI Security Assessment (Avaliação de Segurança de IA do CISO)
Delega para o agente especialista ciso-ai-security para análise focada em segurança de IA/ML.
O Que Esta Habilidade Faz
- Avaliação de ameaças OWASP LLM Top 10 por sistema de IA
- Mapeamento de técnicas adversárias MITRE ATLAS
- Análise de lacunas de governança de IA (NIST AI RMF / EU AI Act / ISO-42001)
- Geração de plano de red team para IA
- Inventário de Shadow AI com classificações de risco
Entradas Necessárias
Para cada sistema de IA sob avaliação:
- Nome — como o sistema é chamado?
- Tipo — llm | ml-model | agent-system | recommendation-engine
- Implantação — saas-api | self-hosted | cloud-managed | on-premise
- Classes de dados — Dados Pessoais? Financeiros? Saúde? Propriedade Intelectual Confidencial?
- Expõe à internet? — sim/não
- Usa modelos externos? — OpenAI, Anthropic, etc.?
- Capacidades de agente? — pode tomar ações, chamar ferramentas, navegar na web?
- RAG? — geração aumentada por recuperação?
- Supervisão humana — total | parcial | nenhuma
- Escopo regulatório — GDPR, EU-AI-Act-High-Risk, HIPAA, etc.?
Padrão de Execução
Agent(ciso-ai-security, "Avaliar [nome do sistema]:
tipo: [tipo]
implantacao: [implantacao]
classesDeDados: [lista]
expostoInternet: [bool]
usaModelosExternos: [bool]
temCapacidadesAgente: [bool]
temRAG: [bool]
supervisaoHumana: [nivel]
escopoRegulatorio: [lista]
Produzir: descobertas de ameaças, lacunas de governança, plano de red team, inventário de Shadow AI"
)
Descobertas Críticas a Sinalizar
- Injeção de prompt em sistemas expostos à internet → sempre crítico
- Divulgação de dados sensíveis com Dados Pessoais → crítico
- Autonomia excessiva sem supervisão humana → crítico
- Ausência de política de governança de IA → alto (risco de conformidade com EU AI Act)
- Shadow AI em extensões de navegador → crítico
Estrutura de Saída
AVALIAÇÃO DE SEGURANÇA DE IA: [Nome do Sistema]
DESCOBERTAS DE AMEAÇAS (OWASP LLM Top 10)
[ID] | [Ameaça] | [Severidade] | [Evidência] | [Controles] | [Impacto Regulatório]
LACUNAS DE GOVERNANÇA DE IA
[Controle] | [Status] | [Framework] | [Prioridade] | [Remediação]
PLANO DE RED TEAM
Objetivos: [lista]
Categorias de Ataque:
[Categoria] — [Técnicas] — [Critérios de Sucesso]
Restrições de Segurança: [lista]
Requisitos de Relatório: [lista]
INVENTÁRIO DE SHADOW AI
[Categoria] | [Risco] | [Exposição de Dados] | [Controles Necessários]