Nick287/GitModel

Was macht GitModel?

Lokales Modell-API-Gateway, das mit einem persönlichen GitHub Copilot-Abonnement betrieben wird – stellt OpenAI- und Anthropic-kompatible Endpunkte bereit sowie ein Portal mit Nutzungsstatistiken und Kostenabschätzung.

Funktionen

• OpenAI-kompatible Endpunkte – Nutze Modelle mit der OpenAI API-Spezifikation.
• Anthropic-kompatible Endpunkte – Alternativ für Anthropic-basierte Modelle.
• Lokales Hosting – Läuft auf deinem eigenen Rechner, keine externe Cloud-Abhängigkeit.
• Nutzungsstatistiken – Verfolge API-Aufrufe, Token-Verbrauch und Latenz.
• Kostenabschätzung – Erhalte eine Schätzung der anfallenden Kosten basierend auf der Nutzung.

Voraussetzungen

• Ein persönliches GitHub Copilot-Abonnement (Copilot Individual).
• Node.js (Version 18 oder höher) und npm.

Installation

1. Klone das Repository:

   git clone https://github.com/Nick287/GitModel.git
   cd GitModel
   

2. Installiere Abhängigkeiten:

   npm install
   

3. Konfiguriere Umgebungsvariablen (siehe .env.example).

4. Starte den Server:

   npm start
   

Konfiguration

Passe die Datei .env an:

Variable	Beschreibung	Standardwert
PORT	Port des API-Gateways	3000
GITHUB_TOKEN	GitHub Personal Access Token mit Copilot-Berechtigung	–
ALLOWED_ORIGINS	Erlaubte CORS-Origins	*

Verwendung

OpenAI-kompatibler Endpunkt

Sende Anfragen an http://localhost:3000/v1/chat/completions:

{
  "model": "gpt-4",
  "messages": [
    {"role": "user", "content": "Hallo, Welt!"}
  ]
}

Anthropic-kompatibler Endpunkt

Sende Anfragen an http://localhost:3000/v1/messages:

{
  "model": "claude-3-opus-20240229",
  "messages": [
    {"role": "user", "content": "Hallo, Welt!"}
  ]
}

Portal

Öffne http://localhost:3000 im Browser, um das Dashboard mit Nutzungsstatistiken und Kostenabschätzung zu sehen.

Lizenz

MIT License – siehe LICENSE für Details.