使用 PostTrainBench 對自主 LLM 後訓練進行 CLI 代理基準測試 是做什麼的?
在受限的 H100 後訓練任務中執行 Claude Code、Codex CLI、Gemini CLI 或 OpenCode,並比較各代理改善基礎 LLM 的效果。
先決條件
Python、apptainer、fuse-overlayfs、Hugging Face 快取、H100 GPU 存取權限、目前支援 HTCondor 排程器,以及所選 CLI 代理框架的憑證
安裝
從原始碼安裝或設定:
克隆 https://github.com/aisa-group/PostTrainBench,安裝包括 apptainer 和 fuse-overlayfs 在內的依賴項,使用 bash containers/build_container.sh standard 建立標準容器,使用 bash containers/download_hf_cache/download_hf_cache.sh 下載 Hugging Face 快取,將 example.env 複製為 .env,設定 API 金鑰和路徑,然後使用 bash src/commit_utils/commit.sh 提交任務。