Appliquer des garde-fous basés sur des règles aux traces d'agent et aux flux d'outils avec Invariant
Insérez une couche de garde-fou sensible aux traces entre les agents et leurs outils afin que les motifs de messages dangereux ou les séquences d'appels d'outils soient bloqués par des règles explicites.
Prérequis
Environnement Python ou déploiement Invariant Gateway, workflow LLM cible ou agent compatible MCP, règles ou politiques de garde-fou, traces d'exemple ou requêtes en temps réel à évaluer.
Installation
Exigences et mises en garde de la source amont :
- Les règles de garde-fou sont des règles de correspondance simples inspirées de Python, qui peuvent être écrites pour identifier et prévenir les comportements malveillants des agents :
- python
- Ici, (msg: Message) est automatiquement assigné à chaque message vérifiable, tandis que la deuxième ligne s'exécute comme du Python classique. Pour faciliter la vérification, Guardrails est livré avec une bibliothèque standard étendue d'opérations, une...
Notes pour l'utilisation de base ou la prise en main :
-
Démarrer |
-
Extrait de la documentation amont : https://raw.githubusercontent.com/invariantlabs-ai/invariant/HEAD/README.md