Communitygithub.com

InternLM/xtuner

Ajouter ou auditer une implémentation de template de chat XTuner et son masque de perte à partir d'un dépôt officiel de modèles Hugging Face ou d'un répertoire local. À utiliser pour prendre en charge un nouveau modèle sous xtuner/v1/data_proto/messages, vérifier une implémentation existante par rapport à apply_chat_template du tokenizer ou processor, décider quelles sorties assistant et tokens d'arrêt/EOS reçoivent une perte, ajouter des tests de régression, ou valider que le comportement d'entraînement exporté correspond à l'inférence vLLM et SGLang.

Qu'est-ce que xtuner ?

Ce skill permet d'ajouter ou d'auditer une implémentation de template de chat XTuner avec son masque de perte, que ce soit à partir d'un dépôt officiel Hugging Face ou d'un répertoire local. Il est conçu pour les développeurs travaillant avec XTuner, notamment sous le répertoire xtuner/v1/data_proto/messages, leur permettant de prendre en charge de nouveaux modèles ou de vérifier la conformité des implémentations existantes face à apply_chat_template du tokenizer ou du processor. Le skill aide à déterminer quelles sorties assistant et tokens spéciaux (stop/EOS) doivent être inclus dans le calcul de la perte, ce qui est crucial pour un entraînement correct. De plus, il facilite l'ajout de tests de régression et la validation que le comportement d'entraînement exporté est cohérent avec l'inférence des bibliothèques vLLM et SGLang. Utilisable avec des agents comme Claude Code, Cursor ou Codex, il automatise une partie significative de la maintenance et de l'intégration des modèles dans XTuner.

Compatible avec~Claude Code~Codex CLI~Cursor
npx skills add InternLM/xtuner

Demander à votre IA préférée

Ouvre une nouvelle conversation avec cette compétence d'agent déjà préchargée.

Documentation

Que fait xtuner ?

Ajouter ou auditer une implémentation de template de chat XTuner et son masque de perte à partir d'un dépôt officiel de modèles Hugging Face ou d'un répertoire local. À utiliser pour prendre en charge un nouveau modèle sous xtuner/v1/data_proto/messages, vérifier une implémentation existante par rapport à apply_chat_template du tokenizer ou processor, décider quelles sorties assistant et tokens d'arrêt/EOS reçoivent une perte, ajouter des tests de régression, ou valider que le comportement d'entraînement exporté correspond à l'inférence vLLM et SGLang.

Skills associés