Restringir saídas de agentes com geração estruturada Outlines

O que Restringir saídas de agentes com geração estruturada Outlines faz?

Force saídas de LLMs a esquemas tipados, enums, estruturas similares a JSON e registros de roteamento durante a geração, em vez de corrigir texto malformado posteriormente.

Pré-requisitos

Python, Outlines, runtime ou provedor de LLM compatível, definições de esquema

Instalação

Use o caminho de instalação upstream ou configuração que corresponda ao seu ambiente:

• pip install outlines

Requisitos e observações do upstream:

• O Outlines segue um padrão simples que espelha o próprio sistema de tipos do Python. Basta especificar o tipo de saída desejado e o Outlines garantirá que seus dados correspondam exatamente a essa estrutura:
• python
• | Tipos personalizados | Interface intuitiva para construir tipos complexos | Guia de Tipos Python → |

Notas de uso básico ou primeiros passos:

• import outlines

• from transformers import AutoTokenizer, AutoModelForCausalLM

• MODEL_NAME = "microsoft/Phi-3-mini-4k-instruct"

• Fonte: https://github.com/dottxt-ai/outlines

• Extraído da documentação upstream: https://raw.githubusercontent.com/dottxt-ai/outlines/HEAD/README.md

Documentação

• https://dottxt-ai.github.io/outlines/

Fonte

• Agent Skill Exchange