O que openclaw-provider-manager faz?
Gerencie provedores de modelos de IA descobrindo modelos automaticamente, rastreando limites de uso e alternando modelos automaticamente em caso de falha entre agentes.
Visão Geral
Esta skill permite que agentes de IA gerenciem múltiplos provedores de modelos de forma dinâmica. Ela descobre automaticamente os modelos disponíveis, monitora o consumo de cotas (tokens, requisições, etc.) e alterna para modelos de backup quando um provedor falha ou atinge seu limite.
Como Funciona
- Descoberta Automática: Ao ser carregada, a skill consulta cada provedor configurado para listar os modelos disponíveis e suas capacidades.
- Rastreamento de Limites: A skill mantém um registro do uso atual de cada provedor, incluindo contadores de tokens/minuto e requisições/minuto.
- Failover Automático: Se uma requisição falha (por erro de cota, timeout, etc.), a skill tenta automaticamente com o próximo modelo disponível na ordem de prioridade configurada.
- Gerenciamento de Filas: Requisições simultâneas são enfileiradas para evitar exceder limites de taxa.
Configuração
Configure os provedores e modelos no arquivo providers.json na raiz do projeto:
{
"providers": [
{
"name": "openai",
"models": ["gpt-4", "gpt-3.5-turbo"],
"limits": {
"tokensPerMinute": 100000,
"requestsPerMinute": 500
}
},
{
"name": "anthropic",
"models": ["claude-3-opus-20240229", "claude-3-sonnet-20240229"],
"limits": {
"tokensPerMinute": 50000,
"requestsPerMinute": 200
}
}
]
}
Uso
A skill expõe os seguintes comandos para o agente:
provider:list: Lista todos os provedores e modelos disponíveis.provider:use <nome do provedor> <nome do modelo>: Define o modelo atual para uso.provider:status: Exibe o status atual dos limites de uso.provider:failover: Testa o mecanismo de failover forçando uma falha.
Exemplo de uso em um prompt:
Usando provider:list, descubra quais modelos estão disponíveis. Em seguida, use provider:use openai gpt-4 para definir o modelo primário. Se houver falha, o failover automático tentará anthropic claude-3-opus-20240229.
Plataformas Suportadas
- Claude Code
- Cursor
- Codex
- Outros agentes compatíveis com a especificação de skills
Notas
- As variáveis de ambiente (como
OPENAI_API_KEY,ANTHROPIC_API_KEY) devem estar configuradas para cada provedor. - A skill requer permissões de rede para consultar as APIs dos provedores.
- O failover ocorre apenas para falhas de cota ou erros de servidor (HTTP 429, 503), não para erros de autenticação.
Licença
MIT