Outlines構造化生成によるエージェント出力の制約 は何をしますか?
LLMの出力を生成中に型付きスキーマ、列挙型、JSONライクな構造、ルーティングレコードに強制的に従わせ、後から不正なテキストを修正する手間を省きます。
前提条件
Python、Outlines、サポートされているLLMランタイムまたはプロバイダ、スキーマ定義
インストール
環境に合ったアップストリームのインストールまたはセットアップパスを使用してください:
- pip install outlines
アップストリームからの要件と注意事項:
- Outlines は Python 自身の型システムを反映したシンプルなパターンに従います。目的の出力タイプを指定するだけで、Outlines はデータがその構造と正確に一致することを保証します。
- python
- | カスタムタイプ | 複雑な型を構築するための直感的なインターフェース | Python 型ガイド → |
基本的な使用法または入門ノート:
-
import outlines
-
from transformers import AutoTokenizer, AutoModelForCausalLM
-
MODEL_NAME = "microsoft/Phi-3-mini-4k-instruct"
-
アップストリームドキュメントから抽出: https://raw.githubusercontent.com/dottxt-ai/outlines/HEAD/README.md