Benchmark CLI agents sur l'entraînement postérieur LLM autonome avec PostTrainBench
Exécutez Claude Code, Codex CLI, Gemini CLI ou OpenCode sur des tâches d'entraînement postérieur limitées sur H100 et comparez l'amélioration de chaque agent sur un LLM de base.
Prérequis
Python, apptainer, fuse-overlayfs, cache Hugging Face, accès GPU H100, support actuel de l'ordonnanceur HTCondor et credentials pour les échafaudages d'agents CLI sélectionnés
Installation
Installez ou configurez selon les instructions source :
Clonez https://github.com/aisa-group/PostTrainBench, installez les dépendances incluant apptainer et fuse-overlayfs, construisez le conteneur standard avec bash containers/build_container.sh standard, téléchargez le cache Hugging Face avec bash containers/download_hf_cache/download_hf_cache.sh, copiez example.env vers .env, définissez les clés API et les chemins, puis soumettez les jobs avec bash src/commit_utils/commit.sh.