Benchmark des attaques par injection de prompt, des défenses et des pipelines de récupération avant de faire confiance à une application LLM avec Open Prompt Injection
Exécute des expériences structurées d'attaque et de défense par injection de prompt contre une application intégrant un LLM avant la mise en production, en mesurant le succès des attaques et en testant les pipelines de détection ou de récupération.
Prérequis
Environnement Python géré par Conda, référentiel amont cloné, identifiants API du modèle configurés comme dans l'amont, fichiers de configuration de la tâche cible et des attaques
Installation
Utilisez le chemin d'installation ou de configuration amont qui correspond à votre environnement :
- conda env create -f environment.yml --name my_custom_env
- conda activate my_custom_env
Exigences et mises en garde de l'amont :
-
Paquets Python requis
- python
Notes d'utilisation de base ou de démarrage :
-
Puis activez l'environnement :
-
Une démonstration simple
-
Avant de commencer, allez dans './configs/model_configs/palm2_config.json' et remplacez les clés API par vos vraies clés. Veuillez consulter le site officiel de Google pour savoir comment obtenir une clé API pour PaLM2. Pour le modèle Llama de Meta...
-
Extrait de la documentation amont : https://raw.githubusercontent.com/liu00222/Open-Prompt-Injection/HEAD/README.md