Communityコーディング&開発github.com

AI ツール評価ツール (Jack-Long-2022/ai-tool-evaluator)

AIツールのパフォーマンスを評価するためのOpenClaw用スキルです。

ai-tool-evaluator) とは?

このスキルは、AIツール(特にClaude Code、Cursor、CodexなどのAIエージェントプラットフォーム)のパフォーマンスを自動的に評価・比較するためのものです。開発者は、複数のAIツールに対して同じタスクを実行させ、その出力品質、実行時間、エラー率、コストなどを体系的に計測することができます。OpenClawプラットフォーム上で動作し、評価結果は構造化データとして保存されるため、後続の分析やレポート生成に活用できます。このスキルは、AIツールの選定やパフォーマンスチューニング、また新しいAIエージェントの開発において、客観的なベンチマークを提供することを目的としています。

対応~Claude Code~Codex CLI~Cursor
npx skills add Jack-Long-2022/ai-tool-evaluator

Installed? Explore more コーディング&開発 skills: steipete/bluebubbles, steipete/eightctl, steipete/blucli · View all 6 →

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

ai-tool-evaluator) は何をしますか?

AIツール評価ツール — AIツールのパフォーマンスを評価するためのOpenClawスキル

概要

このスキルは、複数のAIツール(AIエージェント、コード生成ツール、その他のAIアシスタント)のパフォーマンスを標準化された方法で評価し、比較するために設計されています。

機能

  • 複数のAIツールに対して同一のテストタスクを実行
  • 出力品質、応答時間、エラー率、推定コストを自動計測
  • 結果を構造化データ(JSON、CSV)として保存
  • 複数回のテスト実行による統計的な信頼性向上

使用方法

# スキルをOpenClaw環境にインストール
claw install Jack-Long-2022/ai-tool-evaluator

# ツール評価を実行
eval --tools claude-code,cursor,codex --task "example_task" --iterations 5

出力

評価結果はresults/ディレクトリに出力されます。各テスト実行の結果は以下のフォーマットで保存されます:

{
  "tool": "claude-code",
  "task": "example_task",
  "iteration": 1,
  "output_quality": 0.95,
  "response_time_ms": 1234,
  "error_rate": 0.0,
  "estimated_cost_usd": 0.02
}

サポート対象プラットフォーム

開発者向け情報

このスキルは SKILL.md に基づいて自己文書化されています。拡張や修正はGitHubリポジトリから行えます。

関連スキル