Restringir salidas de agentes con generación estructurada de Outlines
Fuerza las salidas del LLM a esquemas tipados, enumeraciones, estructuras tipo JSON y registros de enrutamiento durante la generación, en lugar de reparar texto malformado después.
Prerrequisitos
Python, Outlines, runtime o proveedor de LLM compatible, definiciones de esquema
Instalación
Usa la instalación estándar o la ruta de configuración que coincida con tu entorno:
- pip install outlines
Requisitos y advertencias del repositorio original:
- Outlines sigue un patrón simple que refleja el propio sistema de tipos de Python. Simplemente especifica el tipo de salida deseado y Outlines asegurará que tus datos coincidan exactamente con esa estructura:
- python
- | Tipos personalizados | Interfaz intuitiva para construir tipos complejos | Guía de tipos de Python → |
Notas de uso básico o inicio rápido:
-
import outlines
-
from transformers import AutoTokenizer, AutoModelForCausalLM
-
MODEL_NAME = "microsoft/Phi-3-mini-4k-instruct"
-
Extraído de la documentación original: https://raw.githubusercontent.com/dottxt-ai/outlines/HEAD/README.md