calvinombati/self-hosted-ai-lab

Was macht self-hosted-ai-lab?

Führe AI-Workflows auf einer sicheren, kostengünstigen VPS aus und automatisiere sie mit gehärteter Infrastruktur, Multi-Instanz-Unterstützung und ausführbaren LLM-Runbooks.

Funktionen

• Gehärtete Infrastruktur: Automatisierte Einrichtung mit Firewall-Regeln, SSH-Schlüsseln und regelmäßigen Sicherheitsupdates.
• Multi-Instanz-Unterstützung: Führe mehrere isolierte AI-Workflows parallel auf derselben VPS aus.
• Ausführbare Runbooks: Schritt-für-Schritt-Anleitungen mit eingebetteten CLI-Befehlen, die direkt ausgeführt werden können.
• Kostengünstig: Nutze günstige VPS-Anbieter wie Hetzner, DigitalOcean oder Linode, um AI-Arbeitslasten zu hosten.
• Sicher: Daten verlassen nie deine eigene Infrastruktur; keine Abhängigkeit von externen Cloud-APIs für sensible Workflows.

Voraussetzungen

• Ein VPS mit Ubuntu 22.04 oder 24.04
• Root-Zugriff oder ein Benutzer mit sudo-Berechtigungen
• Grundkenntnisse in Linux und Docker (empfohlen)

Schnellstart

1. Klone das Repository:

   git clone https://github.com/calvinombati/self-hosted-ai-lab.git
   cd self-hosted-ai-lab
   

2. Führe das Einrichtungsskript aus:

   chmod +x setup.sh
   ./setup.sh
   

3. Folge den Anweisungen auf dem Bildschirm, um deine VPS-IP, SSH-Schlüssel und Firewall-Einstellungen zu konfigurieren.

4. Sobald die Einrichtung abgeschlossen ist, greife über deinen Browser auf das Dashboard zu: http://<deine-vps-ip>:8080

Verwendung

Ausführen eines Runbooks

Runbooks sind YAML-Dateien, die einen AI-Workflow definieren. Beispiel:

name: Textzusammenfassung
beschreibung: Fasst lange Textdokumente mit einem lokalen LLM zusammen.
schritte:
  - name: Text abrufen
    befehl: curl -s https://beispiel.de/text.txt -o /tmp/input.txt
  - name: Zusammenfassen
    befehl: ollama run llama3.2 "Fasse den Inhalt von /tmp/input.txt zusammen"
  - name: Ergebnisse bereinigen
    befehl: rm /tmp/input.txt

Führe das Runbook aus:

./run.sh runbook.yaml

Mehrere Instanzen starten

Um mehrere isolierte AI-Workflows parallel auszuführen:

./run.sh --instanz 1 runbook1.yaml
./run.sh --instanz 2 runbook2.yaml

Jede Instanz hat ihr eigenes Arbeitsverzeichnis, Docker-Netzwerk und Portzuweisungen.

Unterstützte Plattformen

Dieser Skill wurde entwickelt für:

• Claude Code (Anthropic)
• Cursor (KI-gestützter Code-Editor)
• Codex (OpenAI)
• Andere AI-Agenten, die Bash-Befehle ausführen können

Sicherheitshinweise

• Ändere immer das Standard-Passwort für den Dashboard-Zugang.
• Beschränke den SSH-Zugriff auf deine IP-Adresse.
• Halte die VPS mit apt update && apt upgrade aktuell.
• Verwende keine offenen Ports oder ungesicherten Endpunkte für Produktions-Workloads.

Beitragen

Beiträge sind willkommen! Bitte lies CONTRIBUTING.md für Details zu unserem Verhaltenskodex und dem Pull-Request-Prozess.

Lizenz

Dieses Projekt ist unter der MIT-Lizenz lizenziert – siehe LICENSE für Details.