Invariant を使用したエージェントトレースとツールフローへのルールベースガードレールの適用 は何をしますか?
エージェントとそのツールの間にトレース対応のガードレール層を挿入し、明示的なルールによって安全でないメッセージパターンやツール呼び出しシーケンスをブロックします。
前提条件
Python 環境または Invariant Gateway のデプロイ、対象の LLM または MCP 対応エージェントワークフロー、ガードレールルールまたはポリシー、評価用のサンプルトレースまたはライブリクエスト
インストール
上流からの要件と注意事項:
- ガードレールルールは Python にインスパイアされたシンプルなマッチングルールであり、悪意のあるエージェント動作を識別・防止するために記述できます:
- python
- ここで (msg: Message) はチェック可能なすべてのメッセージに自動的に割り当てられ、2行目は通常の Python のように実行されます。チェックを容易にするために、Guardrails には豊富な標準演算ライブラリが付属しています...
基本使用法または入門メモ:
-
はじめに |
-
上流ドキュメントから抽出: https://raw.githubusercontent.com/invariantlabs-ai/invariant/HEAD/README.md