chatgpt34993/llm-key-pool

O que llm-key-pool faz?

Ferramenta de gerenciamento de chaves de API LLM multi-plataforma em camadas, com failover e alternância automática, empacotada como uma skill de agente.

Visão Geral

Esta skill gerencia chaves de API de múltiplos provedores de modelos de linguagem (LLMs) de forma centralizada e organizada em camadas. Ela fornece failover automático: se uma chave falha ou atinge o limite de cota, a skill automaticamente seleciona a próxima chave disponível na camada, garantindo alta disponibilidade e resiliência.

Recursos

• Gerenciamento de chaves de API em camadas hierárquicas
• Failover automático entre chaves
• Suporte multi-plataforma: OpenAI, Anthropic, Google, Azure, e outros
• Configuração flexível com pesos e prioridades
• Rotação automática baseada em taxas de erro e consumo de cota
• Integração transparente com agentes de IA

Como Usar

1. Configure as chaves de API no arquivo de configuração (config.yaml ou variáveis de ambiente)
2. Defina as camadas e prioridades das chaves
3. A skill intercepta automaticamente as chamadas de API e gerencia o roteamento

Exemplo de Configuração

pools:
  - name: pool-principal
    platform: openai
    keys:
      - key: sk-xxx1
        weight: 2
      - key: sk-xxx2
        weight: 1
    fallback:
      - platform: anthropic
        keys:
          - key: sk-ant-xxx

Plataformas Suportadas

• OpenAI (GPT-4, GPT-3.5)
• Anthropic (Claude)
• Google (Gemini, PaLM)
• Azure OpenAI
• Outros provedores compatíveis com API REST

Integração com Agentes

A skill pode ser usada diretamente com:

• Claude Code: Adicione como dependência no arquivo claude.json
• Cursor: Configure no arquivo .cursorrules
• Codex: Use como plugin via configuração

Licença

MIT