Rule-basierte Schutzmaßnahmen auf Agent-Traces und Tool-Abläufe anwenden mit Invariant
Füge eine trace-bewusste Schutzschicht zwischen Agenten und ihren Tools ein, um unsichere Nachrichtenmuster oder Tool-Aufruf-Sequenzen durch explizite Regeln zu blockieren.
Voraussetzungen
Python-Umgebung oder Invariant Gateway Deployment, Ziel-LLM oder MCP-fähiger Agent-Workflow, Guardrail-Regeln oder -Richtlinien, Beispiel-Traces oder Live-Anfragen zur Evaluierung
Installation
Anforderungen und Hinweise von upstream:
- Guardrail-Regeln sind einfache Python-inspirierte Matching-Regeln, die geschrieben werden können, um schädliches Agentenverhalten zu identifizieren und zu verhindern:
- python
- Hier wird (msg: Message) automatisch jeder überprüfbaren Nachricht zugewiesen, während die zweite Zeile wie reguläres Python ausgeführt wird. Zur Erleichterung der Überprüfung enthält Guardrails eine umfangreiche Standardbibliothek an Operationen, a...
Grundlegende Verwendung oder Einstiegsnotizen:
-
Einstieg |
-
Aus upstream-Dokumentation extrahiert: https://raw.githubusercontent.com/invariantlabs-ai/invariant/HEAD/README.md