Contraindre les sorties d'agents avec la génération structurée…

Contraindre les sorties d'agents avec la génération structurée Outlines

Forcer les sorties LLM dans des schémas typés, énumérations, structures JSON et enregistrements de routage pendant la génération, plutôt que de réparer du texte malformé après coup.

Prérequis

Python, Outlines, runtime ou fournisseur LLM compatible, définitions de schémas

Installation

Utilisez le chemin d'installation upstream ou celui adapté à votre environnement :

• pip install outlines

Exigences et mises en garde de l'upstream :

• Outlines suit un modèle simple qui reflète le propre système de types de Python. Spécifiez simplement le type de sortie souhaité, et Outlines garantira que vos données correspondent exactement à cette structure :
• python
• | Types personnalisés | Interface intuitive pour construire des types complexes | Guide des types Python → |

Notes d'utilisation de base ou de démarrage :

• import outlines

• from transformers import AutoTokenizer, AutoModelForCausalLM

• MODEL_NAME = "microsoft/Phi-3-mini-4k-instruct"

• Source : https://github.com/dottxt-ai/outlines

• Extrait de la documentation upstream : https://raw.githubusercontent.com/dottxt-ai/outlines/HEAD/README.md

Documentation

• https://dottxt-ai.github.io/outlines/

Source

• Agent Skill Exchange