CISO KI-Sicherheitsbewertung
Delegiert an den Spezialagenten ciso-ai-security für eine fokussierte KI/ML-Sicherheitsanalyse.
Was dieses Skill tut
- OWASP LLM Top 10 Bedrohungsbewertung pro KI-System
- MITRE ATLAS Techniken zur Gegner-Abbildung
- KI-Governance-Lückenanalyse (NIST AI RMF / EU AI Act / ISO-42001)
- Erstellung von Red-Team-Plänen
- Bestandsaufnahme von Schatten-KI mit Risikobewertungen
Erforderliche Eingaben
Für jedes zu bewertende KI-System:
- Name – Wie heißt das System?
- Typ – llm | ml-model | agent-system | recommendation-engine
- Bereitstellung – saas-api | self-hosted | cloud-managed | on-premise
- Datenklassen – PII? Finanzen? Gesundheitsdaten? Vertrauliches IP?
- Internetfähig? – ja/nein
- Verwendet externe Modelle? – OpenAI, Anthropic, etc.
- Agentenfähigkeiten? – Kann es Aktionen ausführen, Tools aufrufen, im Web surfen?
- RAG? – Retrieval-Augmented Generation?
- Menschliche Aufsicht – vollständig | teilweise | keine
- Regulatorischer Umfang – GDPR, EU-AI-Act-High-Risk, HIPAA, etc.
Ausführungsmuster
Agent(ciso-ai-security, "Bewerte [Systemname]:
typ: [typ]
bereitstellung: [bereitstellung]
datenklassen: [liste]
internetfähig: [bool]
verwendetExterneModelle: [bool]
hatAgentenfähigkeiten: [bool]
hatRAG: [bool]
menschlicheAufsicht: [ebene]
regulatorischerUmfang: [liste]
Erstelle: Bedrohungsbefunde, Governance-Lücken, Red-Team-Plan, Bestandsaufnahme Schatten-KI"
)
Kritische Befunde, die gemeldet werden müssen
- Prompt-Injection bei internetfähigen Systemen → immer kritisch
- Offenlegung sensibler Daten mit PII → kritisch
- Übermäßige Entscheidungsfreiheit ohne menschliche Aufsicht → kritisch
- Keine KI-Governance-Richtlinie → hoch (EU AI Act Compliance-Risiko)
- Schatten-KI in Browsererweiterungen → kritisch
Ausgabestruktur
KI-SICHERHEITSBEWERTUNG: [Systemname]
BEDROHUNGSBEFUNDE (OWASP LLM Top 10)
[ID] | [Bedrohung] | [Schweregrad] | [Nachweis] | [Kontrollen] | [Regulatorische Auswirkungen]
KI-GOVERNANCE-LÜCKEN
[Kontrolle] | [Status] | [Rahmenwerk] | [Priorität] | [Behebung]
RED-TEAM-PLAN
Ziele: [Liste]
Angriffskategorien:
[Kategorie] — [Techniken] — [Erfolgskriterien]
Sicherheitsbeschränkungen: [Liste]
Berichtsanforderungen: [Liste]
BESTANDSAUFNAHME SCHATTEN-KI
[Kategorie] | [Risiko] | [Datengefährdung] | [Erforderliche Kontrollen]