ai-tool-evaluator) は何をしますか?
AIツール評価ツール — AIツールのパフォーマンスを評価するためのOpenClawスキル
概要
このスキルは、複数のAIツール(AIエージェント、コード生成ツール、その他のAIアシスタント)のパフォーマンスを標準化された方法で評価し、比較するために設計されています。
機能
- 複数のAIツールに対して同一のテストタスクを実行
- 出力品質、応答時間、エラー率、推定コストを自動計測
- 結果を構造化データ(JSON、CSV)として保存
- 複数回のテスト実行による統計的な信頼性向上
使用方法
# スキルをOpenClaw環境にインストール
claw install Jack-Long-2022/ai-tool-evaluator
# ツール評価を実行
eval --tools claude-code,cursor,codex --task "example_task" --iterations 5
出力
評価結果はresults/ディレクトリに出力されます。各テスト実行の結果は以下のフォーマットで保存されます:
{
"tool": "claude-code",
"task": "example_task",
"iteration": 1,
"output_quality": 0.95,
"response_time_ms": 1234,
"error_rate": 0.0,
"estimated_cost_usd": 0.02
}
サポート対象プラットフォーム
- Claude Code
- Cursor
- Codex
- その他AIエージェントプラットフォーム
開発者向け情報
このスキルは SKILL.md に基づいて自己文書化されています。拡張や修正はGitHubリポジトリから行えます。