OpenAccess-AI-Collective/axolotl

Was macht axolotl?

Konfigurationsroutinen, die spezialisierten Agenten ermöglichen, benutzerdefinierte LoRA-Feintuning-Läufe basierend auf fehlgeschlagenen Interaktionen einzureichen.

Überblick

Dieser Skill ermöglicht es KI-Agenten, automatisch LoRA-Feintuning-Jobs über die Open-Source-Plattform Axolotl zu initiieren. Wenn eine Interaktion fehlschlägt oder ein suboptimales Ergebnis liefert, analysiert der Agent die Fehlerursache, erstellt eine maßgeschneiderte Feintuning-Konfiguration und reicht einen Job ein, um das Modell oder das Verhalten des Werkzeugs zu verbessern.

Unterstützte Agentenplattformen

• Claude Code – Nutzt die Skill-Konfiguration als Teil seines erweiterten Arbeitsablaufs.
• Cursor – Kann Feintuning-Routinen innerhalb des Editors auslösen.
• Codex CLI – Führt automatisierte Feintuning-Läufe direkt über die Befehlszeile aus.
• Andere Agenten – Jeder Agent, der Konfigurationsroutinen und Shell-Befehle ausführen kann.

Funktionsweise

1. Fehlererkennung: Der Agent identifiziert fehlgeschlagene oder suboptimale Interaktionen und protokolliert relevante Daten.
2. Konfigurationsgenerierung: Basierend auf den Fehlerdaten erstellt der Skill eine notwendige Konfiguration für LoRA-Feintuning (z. B. config.yml).
3. Job-Einreichung: Der Agent übermittelt die Konfiguration an Axolotl, das den Feintuning-Prozess ausführt.
4. Iteration: Nach Abschluss des Feintunings wird das verbesserte Modell oder Verhalten im nächsten Agenten-Durchlauf verwendet.

Beispiel-Konfiguration

# config.yml
model:
  base_model: "meta-llama/Llama-2-7b-hf"
  tokenizer: "meta-llama/Llama-2-7b-hf"
lora:
  r: 16
  lora_alpha: 32
  target_modules: ["q_proj", "v_proj"]
data:
  train_file: "./failed_interactions.jsonl"
  prompt_template: "{input}"
training:
  learning_rate: 0.0002
  num_epochs: 3
  batch_size: 4

Verwendung

Voraussetzungen

• Axolotl installiert (pip install axolotl)
• Zugriff auf fehlgeschlagene Interaktionsdaten im JSONL-Format
• Ausreichende Rechenressourcen (GPU empfohlen)

Befehl zum Ausführen des Feintunings

axolotl train config.yml

Integration in Agenten-Workflows

1. Füge die Skill-Routine zur Agentenkonfiguration hinzu.
2. Definiere ein Auslöseereignis (z. B. bei Fehler oder Benutzeraufforderung).
3. Lasse den Agenten die Konfiguration generieren und das Training starten.

Nützliche Links

• Axolotl Dokumentation
• LoRA Paper

Lizenz

Dieser Skill folgt der Lizenz des zugrunde liegenden Axolotl-Projekts (Apache 2.0).