llm-rate-limiting は何をしますか？
OpenAI および Groq 対応の LLM レート制限、リトライ、クォータ処理、プロバイダー固有のペーシングを行うパブリックスキルプロジェクトです。
概要
このスキルは、OpenAI と Groq の API におけるレート制限とクォータ管理を自動化します。開発者は API 呼び出しのスロットリング、リトライ、バックオフ戦略を簡単に統合でき、プロバイダーごとの制限に合わせた最適なペーシングを実現できます。
主な機能
- レート制限: プロバイダーごとのレート制限値を設定し、API 呼び出しを自動的にスロットリングします。
- リトライ: レート制限エラーや一時的な障害に対して、指数バックオフを含むリトライロジックを実装します。
- クォータ処理: クォータ超過を検出し、適切に処理することで API 利用の安定性を向上させます。
- プロバイダー固有のペーシング: OpenAI と Groq の各 API 仕様に合わせたペーシング戦略を提供します。
対応プラットフォーム
- Claude Code
- Cursor
- Codex
- その他の AI エージェントや開発ツール
使用方法
- スキルをプロジェクトに追加します。
- 環境変数または設定ファイルでプロバイダー固有のレート制限値を設定します（例:
OPENAI_RATE_LIMIT,GROQ_RATE_LIMIT）。 - API 呼び出し時にこのスキルを介してリクエストを実行します。
設定例
providers:
openai:
rate_limit: 60 # 1分あたりのリクエスト数
retry_max: 5
backoff_factor: 2
groq:
rate_limit: 30
retry_max: 3
backoff_factor: 1.5
注意事項
- 各プロバイダーの API 利用規約に従って正しく設定してください。
- クォータ超過が発生した場合、適切なエラーハンドリングを行ってください。
ライセンス
このスキルはパブリックドメインで提供されます。詳細はプロジェクトのライセンスファイルを参照してください。