Communitygithub.com

エージェント自己評価

複雑なタスク完了後に、エージェントが精度、完全性、明確性、実行可能性、簡潔性の5軸で自己評価を行います。各基準に具体的な証拠を挙げて1〜5のスコアカードを生成し、改善提案を提示します。

エージェント自己評価 とは?

このスキルは、AIエージェント(Claude Code、Cursor、Codexなど)が複雑なタスクを完了した後、自身の出力を構造化された5軸ルーブリックで自己評価するためのものです。精度、完全性、明確性、実行可能性、簡潔性の5つの軸それぞれについて、具体的な証拠に基づいて1〜5のスコアを割り当て、改善点を特定します。この評価は合否判定ではなく、見落としや過信を防ぎ、ユーザーが気付く前に改善領域を明確にする内省ステップとして機能します。コードレビュー、設計文書作成、デバッグセッションなど、複数ファイルにわたる作業や多段階ワークフローの後に特に有効です。評価レポートには、各軸のスコアと証拠、全体スコア、具体的な改善提案が含まれ、改善が必要な軸に対しては即座に修正するか、再実行の必要性を明示します。

対応~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/affaan-m/ECC/tree/main/skills/agent-self-evaluation

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

エージェント自己評価 は何をしますか?

複雑なタスクを完了した後、エージェントは構造化された5軸ルーブリックに基づいて自身の出力を評価します。これは合格/不合格のゲートではなく、ユーザーが指摘する前に欠落、過信、改善領域を発見するための意図的な振り返りステップです。

いつアクティブにするか

  • 3ファイル以上、または50行以上のコードを書いた後
  • マルチステップのワークフロー(実装→テスト→レビュー)を完了した後
  • デバッグセッションで3回以上の試行を行った後
  • 設計文書、アーキテクチャ決定、または文章による分析を生成した後
  • ユーザーが「それはどれくらい良かった?」や「自分を評価して」と尋ねたとき
  • 任意のセッション終了フック時(設定されている場合 — references/hook-integration.md を参照)

中核概念

5つの評価軸

軸質問何を捉えるか
精度事実、主張、出力は正しいか?幻覚、間違ったAPI名、誤った構文、虚偽の記述
完全性ユーザーが求めたすべてをカバーしているか?見逃したエッジケース、未処理のエラーパス、忘れられた要件、スキップされたサブタスク
明確性説明は理解しやすく、構造化されているか?混乱を招く説明、定義なしの専門用語、文脈の欠落、だらだらした記述
実行可能性ユーザーは出力をすぐに行動に移せるか?曖昧な提案、不足している手順、「〜すべき」と言うだけで方法を示していない、検証方法がない
簡潔性最小限の単語/トークンで済んでいるか?冗長、過剰説明、ユーザーの質問の逐語的反復、余分な内容

スコアリング基準

5 — 卓越:合理的な改善の余地なし
4 — 良好:細かい点のみ、実質的な欠落なし
3 — 適切:リクエストを満たしているが、少なくとも1つの軸に顕著な弱点がある
2 — 弱い:ユーザービリティや正確性に影響する明らかな欠落がある
1 — 不十分:リクエストを根本的に満たしていない、または重大なエラーを含む

証拠ルール

4以下のスコアには、必ず具体的な証拠を提示しなければなりません。スコア3に対して「改善できる」と言うだけでは不十分です。何が欠けているか、何が間違っているかを正確に述べる必要があります。モットー:「欠落を示せ、名前を挙げるだけではダメ。」

ワークフロー

ステップ1: 素材の収集

評価に必要なものを集めます:

- 元のユーザーリクエスト(会話から読み返す)
- あなたの最終応答/出力(成果物)
- 正確性を検証するツール出力(テスト結果、終了コード、lint出力)
- タスク中に受けたユーザーフィードバック(修正指示、「もう一度」、「それは違う」など)

ステップ2: 各軸を独立してスコアリング

5つの軸を1つずつ処理します。各軸について:

  1. 軸の質問を読む
  2. 出力内で証拠(または証拠の欠如)を見つける
  3. スコア1〜5を割り当てる
  4. スコアが5未満の場合、欠落を示す一文の改善メモを書く

最初に頭の中で平均スコアを計算してから逆算してはいけません。各軸を新鮮な状態でスコアリングします。

ステップ3: 評価レポートの作成

templates/evaluation-report.md のテンプレートを使用します。レポートには以下を含める必要があります:

- 一行要約
- 5軸スコアカード(各軸のスコア+証拠)
- 全体スコア(単純平均、小数点第1位に四捨五入)
- 影響度順にランク付けされた1〜3つの具体的な改善点
- 自己チェック:「ユーザーはこの評価に同意するだろうか?」

ステップ4: 改善の適用

いずれかの軸が3以下だった場合:

  1. どう異なる対応をするかを記述する
  2. 欠落が30秒以内に修正可能な場合(リンクの欠落、不明瞭な表現)、今すぐ修正する
  3. 欠落に手戻りが必要な場合、明示的にフラグを立てる:「この軸は [理由] で [証拠] のため [スコア] でした。[具体的な修正] で再実行すれば、スコアは [スコア] に上がるでしょう。」

コード例

例: 良い評価(スコア4以上)

タスク: HTTPクライアントにリトライロジックを追加

スコアカード:
  精度:    5 — すべてのAPI呼び出しが正しい。確認済み: リトライは
               指数バックオフを使用。幻覚メソッドなし。
  完全性:  4 — ハッピーパス+3つのエラーケースをカバー。欠落:
               ハング接続のタイムアウト処理。
  明確性:  5 — コードコメントがバックオフ計算式を説明。
               PR説明がこの動機となったインシデントにリンク。
  実行可能性:5 — 単一マージ。後続タスクなし。テスト合格。
  簡潔性:  4 — 合計47行。リトライループをヘルパーに抽出すれば
               約8行削減可能。

全体スコア: 4.6 — 1つの欠落(タイムアウト処理)。マージ前に修正。

例: 弱い評価(スコア2〜3)

タスク: HTTPクライアントにリトライロジックを追加

スコアカード:
  精度:    2 — 当コードベースと一致しないurllib3を使用。
               間違ったライブラリ。
  完全性:  3 — GETで動作。POST/PUT未対応(ユーザーは
               「すべてのHTTPリクエスト」と指定)。
  明確性:  4 — コードは読みやすい。適切な変数名。
  実行可能性:2 — 「テストを追加」と述べたがテストファイル未作成。
               ユーザーがマージ前にテストを書く必要あり。
  簡潔性:  3 — 120行。リトライ設定が1つの共有RetryConfigオブジェクト
               ではなく3箇所で重複。

全体スコア: 2.8 — 間違ったライブラリ。httpxで書き直しが必要。
  まず精度を修正(httpxに切り替え)、次にすべてのHTTPメソッドに
  拡張、最後に設定を統合。

アンチパターン

「全部5」

失敗: 精度:    5 — すべて良好。
   完全性:  5 — すべてカバー済み。
   明確性:  5 — 明確。

証拠が提示されていない。これは自己満足であり、評価ではない。本当の5は、改善すべき点がないことを証明する必要があります。

スコープ拡大で過度に減点

失敗: 完全性: 2 — WebSocket接続やgRPCストリーミングを
   処理していない(ユーザーはこれらを要求していない)

ユーザーが実際に要求したことに対してのみ評価し、さらに構築できたかもしれないことに対して評価してはいけません。

評価を再議論に使う

失敗: 「前に言った通り、このアプローチは間違っています。スコア: 1」

評価は提供された出力についてであり、すでに決定された設計上の決定を再議論するものではありません。アプローチが間違っていた場合は、成果物の前に指摘されるべきでした。

個人的好みと客観的欠落の混同

失敗: 「スコア: 3。Pythonデコレータが好きではない。」

「好きではない」は証拠ではありません。可読性、テスト容易性、正確性に関する具体的な懸念を挙げるか、スコアを4以上にしてください。

ベストプラクティス

  • プロセスではなく出力を評価する。 ユーザーが気にするのは、どれだけの反復を経たかではなく、何を納品したかです。
  • 弱い軸ごとに改善点は1つだけ。 1つの軸に5つも挙げず、最も影響の大きい欠落を選びましょう。
  • 改善点をユーザーへの影響に結び付ける。 「エラー処理がないとユーザーのAPI呼び出しが静かにクラッシュする」は「エラー処理を追加」よりも優れています。
  • 「修正済み」の状態を具体的に示す。 「リトライ用に設定されたhttpxトランスポートで再実行」は「ライブラリの問題を修正」よりも優れています。
  • ツール出力を証拠として使う。 テストが通ったならそれを引用し、lintがクリーンならそれを引用しましょう。推測せず、grepで証明を探しましょう。
  • 欠落が見つからないなら、もっと努力する。 全5軸で完璧なスコアは稀です。自問しましょう:「自分がユーザーだったら、この出力の何にイライラするだろうか?」

関連スキル

  • agent-eval — ベンチマークタスクにおける異なるコーディングエージェントの直接比較
  • verification-loop — 期待される結果に対する出力の系統的検証
  • security-review — セキュリティに焦点を当てたコードレビューチェックリスト

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

accessibility

Design, implement, and audit inclusive digital products using WCAG 2.2 Level AA. Use when building or auditing UI that must meet WCAG 2.2 Level AA, or when reviewing a change for keyboard, contrast, or screen-reader support.

affaan-m/content-engine

Create platform-native content systems for X, LinkedIn, TikTok, YouTube, newsletters, and repurposed multi-platform campaigns. Use when the user wants social posts, threads, scripts, content calendars, or one source asset adapted cleanly across platforms.

affaan-m/ECC

Multi-platform content distribution across X, LinkedIn, Threads, and Bluesky. Adapts content per platform using content-engine patterns. Never posts identical content cross-platform. Use when the user wants to distribute content across social platforms.

affaan-m/fal-ai-media

Unified media generation via fal.ai MCP — image, video, and audio. Covers text-to-image (Nano Banana), text/image-to-video (Seedance, Kling, Veo 3), text-to-speech (CSM-1B), and video-to-audio (ThinkSound). Use when the user wants to generate images, videos, or audio with AI.

affaan-m/manim-video

日本語翻訳:このファイルは manim-video 用の日本語翻訳が必要です

affaan-m/remotion-video-creation

Remotion のベストプラクティス - React で動画を作成する。3D、アニメーション、音声、字幕、チャート、トランジションなどをカバーするドメイン固有の29のルール。

affaan-m/video-editing

AI-assisted video editing workflows for cutting, structuring, and augmenting real footage. Covers the full pipeline from raw capture through FFmpeg, Remotion, ElevenLabs, fal.ai, and final polish in Descript or CapCut. Use when the user wants to edit video, cut footage, create vlogs, or build video content.

agent-architecture-audit

Full-stack diagnostic for agent and LLM applications. Audits the 12-layer agent stack for wrapper regression, memory pollution, tool discipline failures, hidden repair loops, and rendering corruption. Produces severity-ranked findings with code-first fixes. Essential for developers building agent applications, autonomous loops, or any LLM-powered feature. Use when an agent or LLM feature misbehaves and the failing layer is unknown, or before shipping an agent stack.

agent-eval

Head-to-head comparison of coding agents (Claude Code, Aider, Codex, etc.) on custom tasks with pass rate, cost, time, and consistency metrics. Use when choosing between coding agents, or when a change to an agent setup needs measured pass rate, cost, and time rather than an impression.

agent-harness-construction

Design and optimize AI agent action spaces, tool definitions, and observation formatting for higher completion rates. Use when defining or revising an agent

agentic-engineering

Operate as an agentic engineer using eval-first execution, decomposition, and cost-aware model routing. Use when planning or executing engineering work that agents will carry out end to end.

agentic-os

Build persistent multi-agent operating systems on Claude Code. Covers kernel architecture, specialist agents, slash commands, file-based memory, scheduled automation, and state management without external databases. Use when building a persistent multi-agent system on Claude Code with its own memory, commands, and scheduling.

agent-introspection-debugging

Structured self-debugging workflow for AI agent failures using capture, diagnosis, contained recovery, and introspection reports. Use when an agent run fails and you need a reproducible diagnosis instead of a retry.

agent-payment-x402

Add x402 payment execution to AI agents with per-task budgets, spending controls, and non-custodial wallets. Supports Base through agentwallet-sdk and X Layer through OKX Payments / OKX Agent Payments Protocol. Use when an agent must pay for something itself and needs per-task budgets, spending controls, and a non-custodial wallet.

agent-sort

Build an evidence-backed ECC install plan for a specific repo by sorting skills, commands, rules, hooks, and extras into DAILY vs LIBRARY buckets using parallel repo-aware review passes. Use when ECC should be trimmed to what a project actually needs instead of loading the full bundle.

ai-first-engineering

Engineering operating model for teams where AI agents generate a large share of implementation output. Use when setting team process, review gates, or ownership rules for a codebase largely written by agents.

ai-regression-testing

Regression testing strategies for AI-assisted development. Sandbox-mode API testing without database dependencies, automated bug-check workflows, and patterns to catch AI blind spots where the same model writes and reviews code. Use when adding regression coverage to AI-assisted code, or when the same model both wrote and reviewed a change.

android-clean-architecture

Clean Architecture patterns for Android and Kotlin Multiplatform projects — module structure, dependency rules, UseCases, Repositories, and data layer patterns. Use when structuring modules, layers, or data flow in an Android or KMP project.

angular-developer

Generates Angular code and provides architectural guidance. Trigger when creating projects, components, or services, or for best practices on reactivity (signals, linkedSignal, resource), forms, dependency injection, routing, SSR, accessibility (ARIA), animations, styling (component styles, Tailwind CSS), testing, or CLI tooling.

api-connector-builder

Build a new API connector or provider by matching the target repo

関連スキル