Aplicar salvaguardas basadas en reglas a trazas de agentes y fl…

Aplicar salvaguardas basadas en reglas a trazas de agentes y flujos de herramientas con Invariant

Inserta una capa de salvaguarda consciente de trazas entre los agentes y sus herramientas para que los patrones de mensajes inseguros o secuencias de llamadas a herramientas sean bloqueados mediante reglas explícitas.

Requisitos previos

Entorno Python o despliegue de Invariant Gateway, flujo de trabajo de agente LLM objetivo o habilitado para MCP, reglas o políticas de salvaguarda, trazas de muestra o solicitudes en vivo para evaluar.

Instalación

Requisitos y advertencias de fuentes anteriores:

• Las reglas de salvaguarda son reglas de coincidencia simples inspiradas en Python, que se pueden escribir para identificar y prevenir comportamientos maliciosos del agente:
• python
• Aquí, (msg: Message) se asigna automáticamente a cada mensaje comprobable, mientras que la segunda línea se ejecuta como Python normal. Para facilitar la comprobación, Guardrails viene con una extensa biblioteca estándar de operaciones, como...

Notas de uso básico o para comenzar:

• Comenzar |

• Fuente: https://github.com/invariantlabs-ai/invariant

• Extraído de la documentación original: https://raw.githubusercontent.com/invariantlabs-ai/invariant/HEAD/README.md

Documentación

• https://invariantlabs-ai.github.io/docs/mcp-scan/guardrails-reference/

Fuente

• Agent Skill Exchange