cli-anything-ollama

O que cli-anything-ollama faz?

Inferência local de LLMs e gerenciamento de modelos via API REST do Ollama. Projetado para agentes de IA e usuários avançados que precisam gerenciar modelos, gerar texto, conversar e criar embeddings sem interface gráfica.

Instalação

Este CLI é instalado como parte do pacote cli-anything-ollama:

pip install cli-anything-ollama

Pré-requisitos:

• Python 3.10+
• Ollama deve estar instalado e em execução (ollama serve)

Uso

Comandos Básicos

# Exibir ajuda
cli-anything-ollama --help

# Iniciar modo REPL interativo
cli-anything-ollama

# Listar modelos disponíveis
cli-anything-ollama model list

# Executar com saída JSON (para consumo por agentes)
cli-anything-ollama --json model list

Modo REPL

Quando invocado sem um subcomando, o CLI entra em uma sessão REPL interativa:

cli-anything-ollama
# Insira comandos interativamente com preenchimento com tab e histórico

Grupos de Comandos

Model

Comandos de gerenciamento de modelos.

Comando	Descrição
list	Listar modelos disponíveis localmente
show	Exibir detalhes do modelo (parâmetros, template, licença)
pull	Baixar um modelo da biblioteca Ollama
rm	Excluir um modelo do armazenamento local
copy	Copiar um modelo para um novo nome
ps	Listar modelos atualmente carregados na memória

Generate

Comandos de geração de texto e chat.

Comando	Descrição
text	Gerar texto a partir de um prompt
chat	Enviar uma requisição de chat de conclusão

Embed

Comandos de geração de embeddings.

Comando	Descrição
text	Gerar embeddings para texto

Server

Comandos de status e informações do servidor.

Comando	Descrição
status	Verificar se o servidor Ollama está em execução
version	Mostrar a versão do servidor Ollama

Session

Comandos de estado da sessão.

Comando	Descrição
status	Mostrar estado atual da sessão
history	Mostrar histórico de chat da sessão atual

Exemplos

Listar e Baixar Modelos

# Listar modelos disponíveis
cli-anything-ollama model list

# Baixar um modelo
cli-anything-ollama model pull llama3.2

# Exibir detalhes do modelo
cli-anything-ollama model show llama3.2

Gerar Texto

# Texto em streaming (padrão)
cli-anything-ollama generate text --model llama3.2 --prompt "Explique computação quântica em uma frase"

# Sem streaming com saída JSON (para agentes)
cli-anything-ollama --json generate text --model llama3.2 --prompt "Olá" --no-stream

Chat

# Chat de turno único
cli-anything-ollama generate chat --model llama3.2 --message "usuário:O que é Python?"

# Chat multi-turno
cli-anything-ollama generate chat --model llama3.2 \
  --message "usuário:O que é Python?" \
  --message "usuário:Como ele se compara ao JavaScript?"

# Chat a partir de arquivo JSON
cli-anything-ollama generate chat --model llama3.2 --file messages.json

Embeddings

cli-anything-ollama embed text --model nomic-embed-text --input "Olá mundo"
cli-anything-ollama embed text --model nomic-embed-text --input "Olá" --input "Mundo"

Sessão REPL Interativa

Inicie uma sessão interativa para uso exploratório.

cli-anything-ollama
# Insira comandos interativamente
# Use 'help' para ver comandos disponíveis

Conectar a um Host Remoto

cli-anything-ollama --host http://192.168.1.100:11434 model list

Gerenciamento de Estado

O CLI mantém um estado de sessão leve:

• URL do host atual: Configurável via --host
• Histórico de chat: Rastreado para conversas multi-turno no REPL
• Último modelo usado: Exibido no prompt do REPL

Formatos de Saída

Todos os comandos suportam modos de saída duais:

• Legível por humanos (padrão): Tabelas, cores, texto formatado
• Legível por máquina (flag --json): JSON estruturado para consumo por agentes

# Saída para humanos
cli-anything-ollama model list

# Saída JSON para agentes
cli-anything-ollama --json model list

Para Agentes de IA

Ao usar este CLI programaticamente:

1. Sempre use a flag --json para saída parseável
2. Verifique os códigos de retorno - 0 para sucesso, não zero para erros
3. Analise o stderr para mensagens de erro em caso de falha
4. Use --no-stream para generate/chat e obter respostas completas
5. Verifique se o Ollama está em execução com server status antes de outros comandos

Mais Informações

• Documentação completa: Veja README.md no pacote
• Cobertura de testes: Veja TEST.md no pacote
• Metodologia: Veja HARNESS.md no cli-anything-plugin

Versão

1.0.1