Communitygithub.com

InternLM/xtuner

Chat-Template-Implementierung für XTuner hinzufügen oder prüfen, einschließlich Verlustmaske, basierend auf einem offiziellen Hugging-Face-Modell-Repository oder lokalen Modellverzeichnis.

Was ist xtuner?

Diese Fähigkeit ermöglicht es, eine Chat-Template-Implementierung für XTuner zu erstellen oder zu überprüfen, einschließlich der zugehörigen Verlustmaske. Sie ist nützlich, wenn ein neues Modell unter `xtuner/v1/data_proto/messages` unterstützt werden soll, eine bestehende Implementierung auf Konformität mit dem `apply_chat_template` des Tokenizers oder Prozessors überprüft werden muss, oder wenn entschieden werden soll, welche Assistentenausgaben und Stop/EOS-Tokens Verlust erhalten. Die Fähigkeit wird zudem für das Hinzufügen von Regressionstests und die Validierung eingesetzt, dass das exportierte Trainingsverhalten mit den Inferenzsystemen vLLM und SGLang übereinstimmt. Sie basiert auf der offiziellen SKILL.md-Dokumentation und ist für Hugging-Face-Modelle sowie lokale Modellverzeichnisse konzipiert.

Funktioniert mit~Claude Code~Codex CLI~Cursor
npx skills add InternLM/xtuner

In Ihrer bevorzugten KI fragen

Öffnet einen neuen Chat, in dem dieser Agent-Skill bereits geladen ist.

Dokumentation

Was macht xtuner?

Chat-Template-Implementierung für XTuner hinzufügen oder prüfen, einschließlich Verlustmaske, basierend auf einem offiziellen Hugging-Face-Modell-Repository oder lokalen Modellverzeichnis. Verwenden Sie dies, wenn Sie ein neues Modell unter xtuner/v1/data_proto/messages unterstützen, eine bestehende Implementierung gegen den apply_chat_template des Tokenizers oder Prozessors prüfen, entscheiden möchten, welche Assistentenausgabe und Stop/EOS-Tokens Verlust erhalten, Regressionstests hinzufügen oder validieren möchten, dass das exportierte Trainingsverhalten mit den Inferenzsystemen vLLM und SGLang übereinstimmt.

Verwandte Skills