xixu-me/running-claude-code-via-litellm-copilot

Was macht running-claude-code-via-litellm-copilot?

Verwenden, wenn Claude Code über einen lokalen LiteLLM-Proxy an GitHub Copilot angebunden wird, um direkte Anthropic-Ausgaben zu senken, ANTHROPIC_BASE_URL- oder ANTHROPIC_MODEL-Überschreibungen zu konfigurieren oder Fehler bei der Copilot-Proxy-Einrichtung zu beheben (z. B. model-not-found, kein localhost-Traffic oder GitHub 401/403-Authentifizierungsfehler).

Übersicht

Diese Fähigkeit leitet Claude Code über einen lokalen LiteLLM-Proxy um, der die GitHub Copilot-API nutzt. Dadurch können Sie die direkte Nutzung der Anthropic-API reduzieren und möglicherweise Kosten sparen, während Sie weiterhin Claude Code mit Ihrem bevorzugten Modell verwenden.

Einrichtung

1. Stellen Sie sicher, dass die GitHub Copilot CLI installiert und authentifiziert ist:

   • Installieren Sie gh und melden Sie sich mit gh auth login an.
   • Installieren Sie die Copilot-CLI: gh extension install github/gh-copilot.

2. Konfigurieren Sie LiteLLM:

   • Erstellen Sie eine litellm_config.yaml-Datei mit Ihrem gewünschten Modell-Routing. Beispiel:

   general_settings:
     master_key: "sk-ihr-hauptschluessel" # Optional, aber empfohlen für Sicherheit
   
   model_list:
     - model_name: claude-sonnet-4-20250514
       litellm_params:
         model: github/claude-sonnet-4-20250514
         api_base: https://api.githubcopilot.com
   

3. Starten Sie den LiteLLM-Proxy:

   • Führen Sie litellm --config ./litellm_config.yaml --port 4000 aus.

4. Konfigurieren Sie Claude Code:

   • Setzen Sie die Umgebungsvariable, um auf Ihren lokalen Proxy zu verweisen:

     export ANTHROPIC_BASE_URL="http://localhost:4000"
     export ANTHROPIC_MODEL="claude-sonnet-4-20250514" # oder Ihr konfigurierter Modellname
     

   • Führen Sie Claude Code wie gewohnt aus: claude

Fehlerbehebung

Modell nicht gefunden (model-not-found)

• Stellen Sie sicher, dass der Modellname in Ihrer LiteLLM-Konfiguration (model_name) mit dem übereinstimmt, was Sie in ANTHROPIC_MODEL angeben.
• Überprüfen Sie, ob das Modell im GitHub Copilot-Plan Ihres Kontos verfügbar ist.

Kein localhost-Traffic

• Stellen Sie sicher, dass der LiteLLM-Proxy ausgeführt wird und Port 4000 (oder den von Ihnen konfigurierten Port) überwacht.
• Überprüfen Sie mit curl http://localhost:4000/health, ob der Proxy antwortet.

GitHub 401/403-Authentifizierungsfehler

• Führen Sie gh auth status aus, um zu überprüfen, ob Sie bei GitHub angemeldet sind.
• Führen Sie gh copilot whoami aus, um zu bestätigen, dass Ihr Konto einen aktiven Copilot-Plan hat.
• Versuchen Sie eine erneute Authentifizierung mit gh auth login.

Verwandte Fähigkeiten

• xixu-me/running-claude-code-copilot – Einfachere Integration ohne LiteLLM.
• xixu-me/running-lm-studio-copilot – Ähnliches Setup für lokale Modelle.

Lizenz

MIT