Communitygithub.com

InternLM/xtuner

Agrega o audita una implementación de plantilla de chat de XTuner y su máscara de pérdida desde un repositorio oficial de Hugging Face o un directorio de modelo local. Útil al dar soporte a un nuevo modelo en xtuner/v1/data_proto/messages, verificar una implementación existente con respecto a apply_chat_template del tokenizer/processor, decidir qué salidas del asistente y tokens de parada/EOS reciben pérdida, agregar pruebas de regresión, o validar que el comportamiento de entrenamiento exportado coincida con la inferencia de vLLM y SGLang.

¿Qué es xtuner?

Esta habilidad permite agregar o auditar implementaciones de plantillas de chat en XTuner, un framework de fine-tuning para modelos de lenguaje. Se usa para dar soporte a nuevos modelos bajo xtuner/v1/data_proto/messages, verificando que la implementación coincida con el método apply_chat_template del tokenizer o processor. También ayuda a decidir qué tokens de salida del asistente y tokens de fin de secuencia (EOS) deben recibir pérdida durante el entrenamiento, lo cual es clave para el aprendizaje por refuerzo o fine-tuning supervisado. Adicionalmente, permite añadir pruebas de regresión y validar que el comportamiento del entrenamiento exportado sea consistente con la inferencia en vLLM y SGLang, dos motores de inferencia populares. Es compatible con cualquier modelo de Hugging Face, ya sea desde un repositorio oficial o un directorio local.

Compatible con~Claude Code~Codex CLI~Cursor
npx skills add InternLM/xtuner

Preguntar en tu IA favorita

Abre un nuevo chat con esta habilidad de agente ya precargada.

Documentación

¿Qué hace xtuner?

Agrega o audita una implementación de plantilla de chat de XTuner y su máscara de pérdida desde un repositorio oficial de Hugging Face o un directorio de modelo local. Útil al dar soporte a un nuevo modelo en xtuner/v1/data_proto/messages, verificar una implementación existente con respecto a apply_chat_template del tokenizer/processor, decidir qué salidas del asistente y tokens de parada/EOS reciben pérdida, agregar pruebas de regresión, o validar que el comportamiento de entrenamiento exportado coincida con la inferencia de vLLM y SGLang.

Skills relacionados