Aplicar barreiras de proteção baseadas em regras a traços de agentes e fluxos de ferramentas com o Invariant
Insira uma camada de proteção ciente de traços entre agentes e suas ferramentas para bloquear padrões de mensagens ou sequências de chamadas de ferramentas inseguras por meio de regras explícitas.
Pré-requisitos
Ambiente Python ou deployment do Invariant Gateway, LLM alvo ou fluxo de trabalho de agente habilitado para MCP, regras ou políticas de proteção, traços de amostra ou requisições ao vivo para avaliar
Instalação
Requisitos e observações do upstream:
- As regras de proteção são regras de correspondência simples inspiradas em Python, que podem ser escritas para identificar e prevenir comportamento malicioso do agente:
- python
- Aqui,
(msg: Message)é automaticamente atribuído a cada mensagem verificável, enquanto a segunda linha executa como Python normal. Para facilitar a verificação, o Guardrails vem com uma biblioteca padrão extensa de operações...
Notas de uso básico ou para começar:
-
Comece por aqui |
-
Extraído da documentação upstream: https://raw.githubusercontent.com/invariantlabs-ai/invariant/HEAD/README.md