Que fait cli-anything-ollama ?
Inférence locale de LLM et gestion de modèles via l'API REST d'Ollama. Conçu pour les agents IA et les utilisateurs avancés qui ont besoin de gérer des modèles, générer du texte, discuter et créer des embeddings sans interface graphique.
Installation
Ce CLI est installé dans le cadre du package cli-anything-ollama :
pip install cli-anything-ollama
Prérequis :
- Python 3.10+
- Ollama doit être installé et en cours d'exécution (
ollama serve)
Utilisation
Commandes de base
# Afficher l'aide
cli-anything-ollama --help
# Démarrer le mode REPL interactif
cli-anything-ollama
# Lister les modèles disponibles
cli-anything-ollama model list
# Exécuter avec sortie JSON (pour consommation par un agent)
cli-anything-ollama --json model list
Mode REPL
Lorsqu'il est invoqué sans sous-commande, le CLI entre dans une session REPL interactive :
cli-anything-ollama
# Saisir les commandes de manière interactive avec complétion par tabulation et historique
Groupes de commandes
Modèle (Model)
Commandes de gestion des modèles.
| Commande | Description |
|---|---|
list | Lister les modèles disponibles localement |
show | Afficher les détails du modèle (paramètres, modèle, licence) |
pull | Télécharger un modèle depuis la bibliothèque Ollama |
rm | Supprimer un modèle du stockage local |
copy | Copier un modèle vers un nouveau nom |
ps | Lister les modèles actuellement chargés en mémoire |
Générer (Generate)
Commandes de génération de texte et de chat.
| Commande | Description |
|---|---|
text | Générer du texte à partir d'une invite |
chat | Envoyer une requête de chat complète |
Embed (Embed)
Commandes de génération d'embeddings.
| Commande | Description |
|---|---|
text | Générer des embeddings pour un texte |
Serveur (Server)
Commandes d'état et d'informations du serveur.
| Commande | Description |
|---|---|
status | Vérifier si le serveur Ollama est en cours d'exécution |
version | Afficher la version du serveur Ollama |
Session (Session)
Commandes d'état de session.
| Commande | Description |
|---|---|
status | Afficher l'état actuel de la session |
history | Afficher l'historique des échanges de la session en cours |
Exemples
Lister et télécharger des modèles
# Lister les modèles disponibles
cli-anything-ollama model list
# Télécharger un modèle
cli-anything-ollama model pull llama3.2
# Afficher les détails du modèle
cli-anything-ollama model show llama3.2
Générer du texte
# Texte en streaming (par défaut)
cli-anything-ollama generate text --model llama3.2 --prompt "Explique l'informatique quantique en une phrase"
# Sans streaming avec sortie JSON (pour les agents)
cli-anything-ollama --json generate text --model llama3.2 --prompt "Bonjour" --no-stream
Chat
# Chat à tour unique
cli-anything-ollama generate chat --model llama3.2 --message "utilisateur:Qu'est-ce que Python?"
# Chat multi-tours
cli-anything-ollama generate chat --model llama3.2 \
--message "utilisateur:Qu'est-ce que Python?" \
--message "utilisateur:Comment se compare-t-il à JavaScript?"
# Chat à partir d'un fichier JSON
cli-anything-ollama generate chat --model llama3.2 --file messages.json
Embeddings
cli-anything-ollama embed text --model nomic-embed-text --input "Bonjour le monde"
cli-anything-ollama embed text --model nomic-embed-text --input "Bonjour" --input "Monde"
Session REPL interactive
Démarrer une session interactive pour une utilisation exploratoire.
cli-anything-ollama
# Saisir les commandes de manière interactive
# Utiliser 'help' pour voir les commandes disponibles
Se connecter à un hôte distant
cli-anything-ollama --host http://192.168.1.100:11434 model list
Gestion d'état
Le CLI maintient un état de session léger :
- URL de l'hôte actuel : Configurable via
--host - Historique du chat : Suivi pour les conversations multi-tours en REPL
- Dernier modèle utilisé : Affiché dans l'invite REPL
Formats de sortie
Toutes les commandes prennent en charge deux modes de sortie :
- Lisible par l'humain (par défaut) : Tableaux, couleurs, texte formaté
- Lisible par machine (drapeau
--json) : JSON structuré pour consommation par un agent
# Sortie humaine
cli-anything-ollama model list
# Sortie JSON pour les agents
cli-anything-ollama --json model list
Pour les agents IA
Lorsque vous utilisez ce CLI de manière programmatique :
- Utilisez toujours le drapeau
--jsonpour une sortie analysable - Vérifiez les codes de retour - 0 pour succès, non nul pour erreurs
- Analysez stderr pour les messages d'erreur en cas d'échec
- Utilisez
--no-streampour generate/chat afin d'obtenir des réponses complètes - Vérifiez qu'Ollama est en cours d'exécution avec
server statusavant les autres commandes
Plus d'informations
- Documentation complète : Voir README.md dans le package
- Couverture de test : Voir TEST.md dans le package
- Méthodologie : Voir HARNESS.md dans cli-anything-plugin
Version
1.0.1