Que fait ai-prompt-engineering-safety-review ?
Examen complet de sécurité et d'amélioration des prompts d'ingénierie IA. Analyse les prompts pour la sécurité, les biais, les vulnérabilités de sécurité et l'efficacité, tout en fournissant des recommandations détaillées d'amélioration avec des frameworks étendus, des méthodologies de test et un contenu éducatif.
Fonctionnalités
- Analyse de sécurité: Identifie les injections de prompts, les fuites de données et les comportements non sécurisés.
- Détection de biais: Repère les biais de genre, de race, culturels et autres dans les prompts.
- Évaluation d'efficacité: Évalue la clarté, la spécificité et la structure du prompt.
- Recommandations: Génère des améliorations concrètes avec des exemples de code et des tests.
- Documentation éducative: Fournit des explications détaillées sur chaque risque et sa mitigation.
Utilisation
# Exemple d'appel depuis un agent IA
skill invoke github/ai-prompt-engineering-safety-review --input "Votre prompt à analyser"
Framework
- Analyse initiale: Le prompt est décomposé en catégories: sécurité, biais, efficacité.
- Scoring: Chaque catégorie reçoit un score sur 10.
- Recommandations: Pour chaque problème, une suggestion corrective est fournie.
- Tests: Des cas de test sont générés pour valider les améliorations.
Exemple de sortie
{
"safety_score": 7,
"bias_score": 9,
"efficiency_score": 5,
"issues": [
{
"type": "injection",
"severity": "high",
"description": "Le prompt permet des entrées utilisateur non filtrées.",
"recommendation": "Ajoutez un filtre d'entrée basé sur une liste blanche."
}
],
"improved_prompt": "..."
}
Références
Licence
MIT