Benchmark für Prompt-Injection-Angriffe, Abwehrmaßnahmen und Wiederherstellungspipelines vor dem Vertrauen in eine LLM-App mit Open Prompt Injection
Führen Sie strukturierte Prompt-Injection-Angriffs- und Abwehrexperimente gegen eine LLM-integrierte App vor der Produktion durch, indem Sie den Angriffserfolg messen und Erkennungs- oder Wiederherstellungspipelines testen.
Voraussetzungen
Conda-verwaltete Python-Umgebung, ausgechecktes Upstream-Repository, API-Anmeldedaten für das Modell wie im Upstream konfiguriert, Zielaufgaben- und Angriffskonfigurationsdateien
Installation
Verwenden Sie den Upstream-Installations- oder Einrichtungspfad, der Ihrer Umgebung entspricht:
- conda env create -f environment.yml --name my_custom_env
- conda activate my_custom_env
Anforderungen und Hinweise aus dem Upstream:
-
Erforderliche Python-Pakete
- python
Grundlegende Nutzung oder Einstiegsnotizen:
-
Dann aktivieren Sie die Umgebung:
-
Eine einfache Demo
-
Bevor Sie beginnen, gehen Sie zu './configs/model_configs/palm2_config.json' und ersetzen Sie die API-Schlüssel durch Ihre echten Schlüssel. Bitte beachten Sie die offizielle Website von Google für Informationen, wie Sie einen API-Schlüssel für PaLM2 erhalten. Für Metas Llama Modell...
-
Aus den Upstream-Dokumenten extrahiert: https://raw.githubusercontent.com/liu00222/Open-Prompt-Injection/HEAD/README.md