Compétence OpenRouter
Assistance complète pour le développement avec l'API OpenRouter, offrant un accès unifié à des centaines de modèles d'IA via un seul point de terminaison avec routage intelligent, basculements automatiques et interfaces standardisées.
Quand utiliser cette compétence
Cette compétence doit être déclenchée lorsque :
- Vous effectuez des appels API vers plusieurs fournisseurs de modèles d'IA via une interface unifiée
- Vous implémentez des stratégies de repli de modèle ou d'auto-routage
- Vous travaillez avec des SDK compatibles OpenAI mais ciblez plusieurs fournisseurs
- Vous configurez des paramètres d'échantillonnage avancés (temperature, top_p, penalités)
- Vous mettez en place des réponses en streaming ou des sorties JSON structurées
- Vous comparez les coûts entre différents modèles d'IA
- Vous créez des applications nécessitant un basculement automatique entre fournisseurs
- Vous implémentez des appels de fonctions/outils avec différents modèles
- Vous avez des questions sur les fonctionnalités spécifiques à OpenRouter (routage, basculements, assurance zéro complétion)
Référence rapide
Complétion de chat basique (Python)
from openai import OpenAI
client = OpenAI(
base_url="https://openrouter.ai/api/v1",
api_key="<OPENROUTER_API_KEY>",
)
completion = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Quel est le sens de la vie ?"}]
)
print(completion.choices[0].message.content)
Complétion de chat basique (JavaScript/TypeScript)
import OpenAI from 'openai';
const openai = new OpenAI({
baseURL: 'https://openrouter.ai/api/v1',
apiKey: '<OPENROUTER_API_KEY>',
});
const completion = await openai.chat.completions.create({
model: 'openai/gpt-4o',
messages: [{"role": 'user', "content": 'Quel est le sens de la vie ?'}],
});
console.log(completion.choices[0].message);
Requête cURL
curl https://openrouter.ai/api/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-d '{
"model": "openai/gpt-4o",
"messages": [{"role": "user", "content": "Quel est le sens de la vie ?"}]
}'
Configuration de repli de modèle (Python)
completion = client.chat.completions.create(
model="openai/gpt-4o",
extra_body={
"models": ["anthropic/claude-3.5-sonnet", "gryphe/mythomax-l2-13b"],
},
messages=[{"role": "user", "content": "Votre prompt ici"}]
)
Configuration de repli de modèle (TypeScript)
const completion = await client.chat.completions.create({
model: 'openai/gpt-4o',
models: ['anthropic/claude-3.5-sonnet', 'gryphe/mythomax-l2-13b'],
messages: [{ role: 'user', content: 'Votre prompt ici' }],
});
Routeur automatique (Sélection dynamique de modèle)
completion = client.chat.completions.create(
model="openrouter/auto", # Sélectionne automatiquement le meilleur modèle pour le prompt
messages=[{"role": "user", "content": "Votre prompt ici"}]
)
Exemple de paramètres avancés
completion = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Écris une histoire créative"}],
temperature=0.8, # Plus élevé pour la créativité (0.0-2.0)
max_tokens=500, # Limiter la longueur de la réponse
top_p=0.9, # Échantillonnage nucleus (0.0-1.0)
frequency_penalty=0.5, # Réduire la répétition (-2.0-2.0)
presence_penalty=0.3 # Encourager la diversité des sujets (-2.0-2.0)
)
Réponse en streaming
stream = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Raconte-moi une histoire"}],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end='')
Mode JSON (Sortie structurée)
completion = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{
"role": "user",
"content": "Extrais le nom, l'âge et la ville de la personne : John a 30 ans et vit à Paris"
}],
response_format={"type": "json_object"}
)
Sortie déterministe avec seed
completion = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Génère un nombre aléatoire"}],
seed=42, # Même seed = même sortie (lorsque supporté)
temperature=0.0 # Échantillonnage déterministe
)
Concepts clés
Routage de modèles
OpenRouter offre des capacités de routage intelligent :
- Routeur automatique (
openrouter/auto) : Sélectionne automatiquement le meilleur modèle en fonction de votre prompt via NotDiamond - Modèles de repli : Spécifiez plusieurs modèles qui réessayent automatiquement si le principal échoue
- Routage fournisseur : Route automatiquement entre les fournisseurs pour plus de fiabilité
Authentification
- Utilise l'authentification par jeton Bearer avec des clés API
- Les clés API peuvent être gérées par programmation
- Compatible avec les schémas d'authentification du SDK OpenAI
Convention de nommage des modèles
Les modèles utilisent le format fournisseur/nom-du-modèle :
openai/gpt-4o- GPT-4 Optimisé d'OpenAIanthropic/claude-3.5-sonnet- Claude 3.5 Sonnet d'Anthropicgoogle/gemini-2.0-flash-exp:free- Modèle gratuit Gemini de Googleopenrouter/auto- Système d'auto-routage
Paramètres d'échantillonnage
Température (0.0-2.0, défaut : 1.0)
- Plus bas = réponses plus prévisibles et ciblées
- Plus élevé = réponses plus créatives et diverses
- Utilisez faible (0.0-0.3) pour les tâches factuelles, élevé (0.8-1.5) pour le travail créatif
Top P (0.0-1.0, défaut : 1.0)
- Limite les choix à un pourcentage de tokens probables
- Filtrage dynamique des options improbables
- Équilibre entre cohérence et variété
Pénalités de fréquence/présence (-2.0-2.0, défaut : 0.0)
- Fréquence : Décourage la répétition des tokens proportionnellement à leur utilisation
- Présence : Pénalité plus simple non proportionnelle au nombre
- Valeurs positives réduisent la répétition, les négatives encouragent la réutilisation
Max Tokens (entier)
- Définit la longueur maximale de la réponse
- Ne peut pas dépasser la longueur du contexte moins la longueur du prompt
- Utilisez pour contrôler les coûts et imposer des réponses concises
Formats de réponse
- JSON standard : Format de complétion de chat par défaut
- Streaming : Événements envoyés par le serveur (SSE) avec
stream: true - Mode JSON : JSON valide garanti avec
response_format : {"type": "json_object"} - Sorties structurées : Réponses JSON validées par schéma
Fonctionnalités avancées
- Appel d'outils/fonctions : Connectez les modèles à des API externes
- Entrées multimodales : Prise en charge des images, PDF, audio
- Mise en cache des prompts : Réduit les coûts pour les prompts répétés
- Intégration de recherche Web : Réponses enrichies avec des données web
- Assurance zéro complétion : Protection contre les réponses échouées
- Logprobs : Accédez aux probabilités des tokens pour l'analyse de la confiance
Fichiers de référence
Cette compétence inclut une documentation complète dans references/ :
- llms-full.md - Liste complète des modèles disponibles avec métadonnées
- llms-small.md - Sous-ensemble organisé de modèles populaires
- llms.md - Listes de modèles standard
Utilisez view pour lire des fichiers de référence spécifiques lorsque des informations détaillées sur les modèles sont nécessaires.
Travailler avec cette compétence
Pour les débutants
- Commencez par les exemples de complétion de chat basiques (Python/JavaScript/cURL ci-dessus)
- Utilisez le SDK OpenAI standard pour une intégration facile
- Essayez des noms de modèles simples comme
openai/gpt-4oouanthropic/claude-3.5-sonnet - Gardez les paramètres simples au début (juste le modèle et les messages)
Pour les utilisateurs intermédiaires
- Implémentez des tableaux de modèles de repli pour la fiabilité
- Expérimentez avec les paramètres d'échantillonnage (temperature, top_p)
- Utilisez le streaming pour une meilleure UX dans les applications conversationnelles
- Essayez
openrouter/autopour la sélection automatique de modèle - Implémentez le mode JSON pour l'extraction de données structurées
Pour les utilisateurs avancés
- Ajustez plusieurs paramètres d'échantillonnage ensemble
- Implémentez une logique de routage personnalisée avec des chaînes de secours
- Utilisez les logprobs pour le score de confiance
- Exploitez les capacités d'appel d'outils/fonctions
- Optimisez les coûts en sélectionnant les modèles appropriés par tâche
- Implémentez des stratégies de mise en cache des prompts
- Utilisez le paramètre seed pour des tests reproductibles
Modèles courants
Gestion des erreurs avec replis
try:
completion = client.chat.completions.create(
model="openai/gpt-4o",
extra_body={
"models": [
"anthropic/claude-3.5-sonnet",
"google/gemini-2.0-flash-exp:free"
]
},
messages=[{"role": "user", "content": "Votre prompt"}]
)
except Exception as e:
print(f"Tous les modèles ont échoué : {e}")
Routage optimisé pour les coûts
# Utilisez des modèles moins chers pour les tâches simples
simple_completion = client.chat.completions.create(
model="google/gemini-2.0-flash-exp:free",
messages=[{"role": "user", "content": "Question simple"}]
)
# Utilisez des modèles premium pour les tâches complexes
complex_completion = client.chat.completions.create(
model="openai/o1",
messages=[{"role": "user", "content": "Tâche de raisonnement complexe"}]
)
Température contextuelle
# Faible température pour les réponses factuelles
factual = client.chat.completions.create(
model="openai/gpt-4o",
temperature=0.2,
messages=[{"role": "user", "content": "Quelle est la capitale de la France ?"}]
)
# Haute température pour le contenu créatif
creative = client.chat.completions.create(
model="openai/gpt-4o",
temperature=1.2,
messages=[{"role": "user", "content": "Écris un début d'histoire unique"}]
)
Ressources
Documentation officielle
- Référence API : https://openrouter.ai/docs/api-reference/overview
- Guide de démarrage rapide : https://openrouter.ai/docs/quickstart
- Liste des modèles : https://openrouter.ai/docs/models
- Guide des paramètres : https://openrouter.ai/docs/api-reference/parameters
Points de terminaison clés
- Complétions de chat :
POST https://openrouter.ai/api/v1/chat/completions - Lister les modèles :
GET https://openrouter.ai/api/v1/models - Informations de génération :
GET https://openrouter.ai/api/v1/generation
Notes
- OpenRouter normalise les schémas API sur tous les fournisseurs
- Utilise un format d'API compatible OpenAI pour une migration facile
- Basculement automatique du fournisseur si les modèles sont limités en débit ou indisponibles
- Tarification basée sur le modèle réellement utilisé (important pour les replis)
- La réponse inclut des métadonnées sur le modèle qui a traité la requête
- Tous les modèles supportent le streaming via Server-Sent Events
- Compatible avec les frameworks populaires (LangChain, Vercel AI SDK, etc.)
Bonnes pratiques
- Implémentez toujours des replis pour les applications de production
- Utilisez une température appropriée en fonction du type de tâche (faible pour factuel, élevé pour créatif)
- Définissez max_tokens pour contrôler les coûts et la longueur des réponses
- Activez le streaming pour une meilleure expérience utilisateur dans les applications de chat
- Utilisez le mode JSON lorsque vous avez besoin d'une sortie structurée garantie
- Testez avec le paramètre seed pour des résultats reproductibles pendant le développement
- Surveillez les coûts en sélectionnant les modèles appropriés par tâche
- Utilisez l'auto-routage lorsque vous n'êtes pas sûr du meilleur modèle
- Implémentez une gestion des erreurs appropriée pour les limites de débit et les échecs
- Mettez en cache les prompts pour les requêtes répétées afin de réduire les coûts