Évaluation de sécurité IA du CISO
Délègue à l'agent spécialisé ciso-ai-security pour une analyse ciblée de la sécurité de l'IA/ML.
Ce que fait cette compétence
- Évaluation des menaces OWASP LLM Top 10 par système d'IA
- Cartographie des techniques adverses MITRE ATLAS
- Analyse des lacunes de gouvernance IA (NIST AI RMF / EU AI Act / ISO-42001)
- Génération de plans de test d'intrusion (red team) IA
- Inventaire des IA fantômes (shadow AI) avec évaluations des risques
Entrées requises
Pour chaque système d'IA évalué :
- Nom — comment s'appelle le système ?
- Type — llm | ml-model | agent-system | recommendation-engine
- Déploiement — saas-api | self-hosted | cloud-managed | on-premise
- Classes de données — Données personnelles (PII) ? Financières ? Santé ? Propriété intellectuelle confidentielle ?
- Accessible depuis Internet ? — oui/non
- Utilise des modèles externes ? — OpenAI, Anthropic, etc.
- Capacités agentiques ? — peut-il prendre des actions, appeler des outils, naviguer sur le web ?
- RAG ? — génération augmentée par récupération (Retrieval-Augmented Generation) ?
- Supervision humaine — complète | partielle | aucune
- Périmètre réglementaire — RGPD, EU-AI-Act-High-Risk, HIPAA, etc.
Modèle d'exécution
Agent(ciso-ai-security, "Évaluer [nom du système] :
type : [type]
deployment : [déploiement]
dataClasses : [liste]
internetFacing : [booléen]
usesExternalModels : [booléen]
hasAgentCapabilities : [booléen]
hasRAG : [booléen]
humanOversight : [niveau]
regulatoryScope : [liste]
Produire : résultats de menaces, lacunes de gouvernance, plan de test d'intrusion, inventaire IA fantôme"
)
Résultats critiques à signaler
- Injection de prompts sur les systèmes accessibles depuis Internet → toujours critique
- Divulgation de données sensibles avec des données personnelles (PII) → critique
- Autonomie excessive sans supervision humaine → critique
- Absence de politique de gouvernance IA → élevée (risque de conformité EU AI Act)
- IA fantôme dans les extensions de navigateur → critique
Structure de sortie
ÉVALUATION DE SÉCURITÉ IA : [Nom du système]
RÉSULTATS DE MENACES (OWASP LLM Top 10)
[ID] | [Menace] | [Gravité] | [Preuve] | [Contrôles] | [Impact réglementaire]
LACUNES DE GOUVERNANCE IA
[Contrôle] | [Statut] | [Cadre] | [Priorité] | [Remédiation]
PLAN DE TEST D'INTRUSION (RED TEAM)
Objectifs : [liste]
Catégories d'attaque :
[Catégorie] — [Techniques] — [Critères de succès]
Contraintes de sécurité : [liste]
Exigences de rapport : [liste]
INVENTAIRE IA FANTÔME (SHADOW IA)
[Catégorie] | [Risque] | [Exposition des données] | [Contrôles requis]