Was macht llm-prompt-injection?
LLM Prompt Injection Playbook. Verwenden Sie es beim Testen von KI-/LLM-Anwendungen auf direkte Injektion, indirekte Injektion über RAG/Browsing, Tool-Missbrauch, Datenerxiltration, MCP-Sicherheitsrisiken und Techniken zur Umgehung von Abwehrmaßnahmen.
Übersicht
Dieses Playbook enthält eine strukturierte Sammlung von Testfällen und Angriffsszenarien zur Identifizierung von Prompt Injection Schwachstellen in LLM-basierten Anwendungen.
Angriffsvektoren
- Direkte Injektion: Manipulation der Eingabe, um unerwünschte Aktionen auszulösen.
- Indirekte Injektion: Ausnutzung von RAG oder Browsing zur Einschleusung schädlicher Anweisungen.
- Tool-Missbrauch: Ausnutzung der Tool-Integration des LLMs für böswillige Zwecke.
- Datenerxiltration: Abgreifen sensibler Daten über LLM-Funktionen.
- MCP-Sicherheitsrisiken: Sicherheitslücken im Model Context Protocol.
- Umgehung von Abwehrmaßnahmen: Techniken zur Überwindung von Sicherheitsbarrieren.
Anwendung
- Wählen Sie einen oder mehrere Angriffsvektoren aus der Liste.
- Führen Sie die beschriebenen Tests in Ihrer Umgebung durch.
- Dokumentieren Sie Ergebnisse und Schwachstellen.
- Implementieren Sie Gegenmaßnahmen gemäß den Empfehlungen.
Voraussetzungen
- Zugriff auf die zu testende LLM-Anwendung
- Verständnis der grundlegenden LLM-Architektur
- Testumgebung (optional, aber empfohlen)
Lizenz
Dieses Playbook steht unter der MIT-Lizenz zur Verfügung.
Mitwirken
Beiträge sind willkommen! Bitte erstellen Sie einen Pull Request oder eröffnen Sie ein Issue für Vorschläge.