Communitygithub.com

SeeknnDestroy/llm-rate-limiting

Projeto de skill pública para limitação de taxa, novas tentativas, gerenciamento de cota e ritmo específico de provedores para LLMs conscientes da OpenAI e Groq.

O que é llm-rate-limiting?

Esta skill (SeeknnDestroy/llm-rate-limiting) fornece uma solução robusta para desenvolvedores que precisam gerenciar limites de taxa (rate limiting), novas tentativas (retries) e cotas ao interagir com APIs de provedores de LLM, como OpenAI e Groq. Ela é útil para evitar erros de sobrecarga (como 429 Too Many Requests) e garantir um uso eficiente e controlado dos recursos. A skill suporta os principais provedores de LLM, incluindo OpenAI e Groq, e oferece lógica personalizada de ritmo (pacing) específica de cada provedor. Funciona interceptando as chamadas de API e aplicando políticas de espera e retry baseadas nas respostas de erro dos provedores, garantindo que as requisições sejam enviadas de forma suave sem exceder os limites estabelecidos.

Funciona com~Claude Code✓Codex CLI~Cursor
npx skills add SeeknnDestroy/llm-rate-limiting

Perguntar na sua IA favorita

Abre um novo chat com esta habilidade de agente já pré-carregada.

Documentação

O que llm-rate-limiting faz?

Projeto de skill pública para limitação de taxa, novas tentativas, gerenciamento de cota e ritmo específico de provedores para LLMs conscientes da OpenAI e Groq.

Habilidades Relacionadas