Communitygithub.com

InternLM/xtuner

添加或審核 XTuner 聊天模板實作及其損失遮罩,適用於官方 Hugging Face 模型儲存庫或本地模型目錄。用於支援 xtuner/v1/data_proto/messages 下的新模型、檢查現有實作是否符合 tokenizer 或 processor 的 apply_chat_template、決定哪些助手輸出和停止/EOS 標記應接收損失、添加回歸測試,或驗證匯出的訓練行為是否與 vLLM 和 SGLang 推論一致。

xtuner 是什麼?

此技能專注於為 XTuner 框架中的聊天模板實作和損失遮罩提供支援。它允許開發者從官方 Hugging Face 儲存庫或本地模型目錄添加或審核這些實作。其主要用途包括:當需要支援 xtuner/v1/data_proto/messages 下的新模型時,自動化模板和遮罩的配置;檢查現有實作是否正確應用了 tokenizer 或 processor 的 apply_chat_template;決定哪些助手輸出標記和停止/EOS 標記應在訓練中接收損失;以及添加回歸測試以確保行為的一致性。此外,它還用於驗證匯出的訓練行為是否能與 vLLM 和 SGLang 等推論引擎匹配,從而減少訓練與推論之間的偏差。此技能對於需要為多種模型設定正確聊天模板和損失函數的開發者尤其有用,能確保訓練過程的準確性和可靠性。

相容平台~Claude Code~Codex CLI~Cursor
npx skills add InternLM/xtuner

在你喜歡的 AI 中提問

開啟一個已預先載入此 Agent Skill 的新對話。

說明文件

xtuner 是做什麼的?

添加或審核 XTuner 聊天模板實作及其損失遮罩,適用於官方 Hugging Face 模型儲存庫或本地模型目錄。用於支援 xtuner/v1/data_proto/messages 下的新模型、檢查現有實作是否符合 tokenizer 或 processor 的 apply_chat_template、決定哪些助手輸出和停止/EOS 標記應接收損失、添加回歸測試,或驗證匯出的訓練行為是否與 vLLM 和 SGLang 推論一致。

相關技能