CLIエージェントによる自律LLMポストトレーニングベンチマーク(PostTrainBench) は何をしますか?
Claude Code、Codex CLI、Gemini CLI、またはOpenCodeをH100ポストトレーニングタスクで実行し、各エージェントがベースLLMをどの程度改善するかを比較します。
前提条件
Python、apptainer、fuse-overlayfs、Hugging Faceキャッシュ、H100 GPUへのアクセス、現在はHTCondorスケジューラ対応、および選択したCLIエージェントスキャフォールドの認証情報が必要です。
インストール
ソースベースの手順に従ってインストールまたはセットアップを行います:
https://github.com/aisa-group/PostTrainBench をクローンし、apptainerとfuse-overlayfsを含む要件をインストールし、bash containers/build_container.sh standard で標準コンテナをビルドし、bash containers/download_hf_cache/download_hf_cache.sh でHugging Faceキャッシュをダウンロードし、example.env を .env にコピーしてAPIキーとパスを設定し、bash src/commit_utils/commit.sh でジョブを投入します。