chatgpt34993/llm-key-pool

llm-key-pool は何をしますか？

レイヤー化されたマルチプラットフォーム対応のLLM APIキー管理ツールで、フェイルオーバーと自動切り替え機能を備え、エージェントスキルとして提供されます。

機能

• マルチプラットフォーム対応: OpenAI、Anthropic、Google、その他のLLMプロバイダーをサポート。
• レイヤー管理: キーをレイヤー（優先度グループ）に整理し、高優先度キーから順に使用。
• 自動フェイルオーバー: キーがレート制限やエラーに達した場合、自動的に次のキーに切り替え。
• 動的切り替え: 使用状況に応じてキーを動的に切り替え、可用性を最大化。
• エージェント統合: エージェントスキル（Claude Code、Cursor、Codexなど）として簡単に組み込み可能。

セットアップ

1. リポジトリをクローン:

   git clone https://github.com/chatgpt34993/llm-key-pool.git
   cd llm-key-pool
   

2. 環境変数を設定:

   export LLM_KEY_POOL_CONFIG="/path/to/config.yaml"
   

3. 設定ファイルを作成（例: config.yaml）:

   layers:
     - name: primary
       keys:
         - provider: openai
           key: sk-...
         - provider: anthropic
           key: sk-ant-...
     - name: fallback
       keys:
         - provider: google
           key: AIza...
   

使用方法

エージェントスキルとして、このツールはAPIキーの管理を自動化します。以下のように呼び出します:

from llm_key_pool import KeyPool

pool = KeyPool()
response = pool.complete("あなたのプロンプト")

対応プラットフォーム

• Claude Code
• Cursor
• Codex

ライセンス

MIT