Community研究&データ分析github.com

SEG: スキル評価グラフ - エージェントスキル監査・最適化のための手続き型ドライバー

エビデンスに基づく評価、ベンチマーク、検証済み修復を提供し、Codex、Claude Code、Gemini CLI、Antigravity 上のエージェントスキルを信頼性・トークン効率・本番品質のエンジニアリングアセットに変えます。

SEG: スキル評価グラフ - エージェントスキル監査・最適化のための手続き型ドライバー とは?

SEG (Skill Evaluation Graph) は、AIエージェントスキル(SKILL.md)を客観的かつ反復可能な方法で監査・最適化するための手続き型評価フレームワークです。Codex、Claude Code、Gemini CLI、Antigravity など複数のプラットフォームをサポートし、トリガーの精度、プログレッシブディスクロージャー設計、行動制御、実行の決定性、運用安全性、トークン経済性の6つの柱を評価します。ワークフローは並列評価DAG(有向非巡回グラフ)として構成され、スキーマ検証、リンク整合性、トークンバジェット、安全性・プライバシー、ポータビリティ、トリガールーティング、行動ポリシーの各ノードを実行。その後、Evaluator Oracle が5つの必須ゲート(評価整合性、仕様準拠、安全・プライバシー、リンク整合性、静的品質スコア)を判定し、結果に応じて ACCEPT(受諾)、REVISE(修正)、ESCALATE(エスカレーション)のいずれかの評決を下します。REVISE の場合は、サンドボックス検証済みの修復パッチを適用可能で、SHA256ダイジェストによる改ざん防止証跡も生成します。このツールキットは、評価用スクリプト、ルーブリック、アンチパターンカタログ、行動評価用シナリオなど、充実したリファレンス資料を備えており、スキル開発の品質保証と継続的改善に不可欠な統合ソリューションです。

対応✓Claude Code✓Codex CLI~Cursor✓Antigravity✓Gemini CLI
npx skills add MaxLaurieHutchinson/skill-evaluation-graph

Installed? Explore more 研究&データ分析 skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

お気に入りのAIに質問する

このエージェントスキルを事前に読み込んだ状態で新しいチャットを開きます。

ドキュメント

SEG: スキル評価グラフ - エージェントスキル監査・最適化のための手続き型ドライバー は何をしますか?

エージェントスキルを信頼性が高く、トークン効率に優れ、本番品質のエンジニアリングアセットに変えます。トリガーの精度、プログレッシブディスクロージャー設計、行動制御、実行の決定性、運用安全性、トークン経済性を評価します。


クイックリファレンスマトリックス

項目目的権威あるリソース
標準用語正式な語彙とドメイン定義references/terminology.md
6柱監査ルーブリック1~5の客観的スコア定義references/audit-rubric.md
アンチパターンカタログ14の再発性スキル欠陥の診断ガイドreferences/anti-patterns.md
コンテキストエンジニアリング多段階プログレッシブディスクロージャーパターンreferences/progressive-disclosure-patterns.md
評価グラフとループ自律評価ループエンジンの実行手順書references/workflow-graph-and-evaluator-loop.md
ハーネス互換性クロスプラットフォームツールマッピング(Antigravity/Claude/Codex)references/harness-tool-matrix.md
行動評価ランナー制御群 vs 治療群の評価とライブトライアルscripts/eval_skill.py
機能請求監査技術的現実とエビデンス分類references/claim-audit.md
スコアカードテンプレート標準化された評価レポートテンプレートassets/skill-audit-scorecard-template.md
スコアカード例完成した評価レポートの模範例assets/example-scorecard.md
自己監査スコアカードSEG自己監査のベースラインスコアカードassets/self-audit-scorecard.md
標準準拠Applied AI Wiki 14ステップフレームワークreferences/wiki-standard-alignment.md
エージェント保護幻覚防止のためのコントリビューター契約assets/agent-contributor-contract-template.md

[!IMPORTANT] 標準用語: references/terminology.md をSEGの正式な語彙として使用してください。用語集を更新せずに定義済みの概念に同義語を導入しないでください。


ワークフローグラフアーキテクチャ

[ノード1: 取得とスコープ]
          │
          ▼
[ノード2: 並列評価DAG実行]
  (スキーマ、リンク、トークン、安全性/プライバシー、移植性、トリガールーティング、行動ポリシー)
          │
          ▼
[ノード3: マルチノードエビデンスの結合]
          │
          ▼
[ノード4: マルチゲート評価オラクル]
          │
  ┌───────┼───────────────────────────────┐
  ▼       ▼                               ▼
[ノード5A: ACCEPT]              [ノード5B/5C: REVISE]            [ノード5D: ESCALATE]
(スコアカード & 領収書)  (サンドボックス検証 -> プレビュー/変更)   (人間の注意が必要)

手続き型実行ドライバー

エージェントスキルを監査または最適化する際は、以下の手順を順に実行してください。

ステップ1: ターゲットスキルの特定とスコープの確認

  1. SKILL.md を含むターゲットディレクトリを特定します。
  2. SKILL.md、references/、scripts/、assets/ にわたるパッケージインベントリを検査します。
  3. ホストハーネス互換性マニフェスト(.codex-plugin/plugin.json、CLAUDE.md、AGENTS.md、.agents/plugins/marketplace.json)を確認します。

ステップ2: 標準用語を読む

references/terminology.md を参照してから所見を記録します。すべてのフィードバックとレポートは、正確な正式用語(例: Static Quality Score、Oracle Verdict、Evaluation Integrity Gate、Pre-mutation Snapshot)を使用してください。

ステップ3: 評価グラフを実行する

scripts/run_loop.py を介してモジュール式並列評価DAGを実行します。

# 読み取り専用の評価と差分プレビュー(デフォルト)
python "<skill-dir>/scripts/run_loop.py" "<target-skill-path>" --target-score 95 --max-iterations 3

# 承認時にスコアカードを配信
python "<skill-dir>/scripts/run_loop.py" "<target-skill-path>" --scorecard "<target-skill-path>/scorecard.md"

評価ノードは並列依存ウェーブにわたって実行されます。

  • schema: YAMLフロントマター、命名、必須フィールドを検証します。
  • links_syntax: 相対リンク、シングルホップルール、コードフェンスを解決します。
  • tokens: 5つのプログレッシブディスクロージャーティアにわたるトークンバジェットをプロファイリングします。
  • safety_privacy: 破壊的なコマンドとワークステーションパスの露出を検出します。
  • portability: OpenAI Codexプラグインとマーケットプレイスマニフェストを検証します。
  • trigger_routing: フロントマターの説明トリガーとネガティブバウンダリーをチェックします。
  • behaviour_policy: 自己正当化防止ガイドラインを強制します。

ステップ4: エビデンスの結合とゲートの評価

すべてのノードからのエビデンスは JoinedEvidence に統合されます。EvaluatorOracle は5つの必須ゲートを強制します。

  1. 評価整合性ゲート(ゲート0): いずれかの評価者が未処理のエラー、タイムアウト、または予期しないスキップに遭遇した場合、安全側に倒れて失敗します。
  2. 仕様準拠ゲート: いずれかのノードが SPECIFICATION_ERROR(例: 無効なマーケットプレイススキーマ、壊れたフロントマター)を報告した場合に失敗します。
  3. 安全性・プライバシーゲート: 破壊的なコマンドやワークステーションパスの漏洩がある場合に失敗します。
  4. リンク整合性ゲート: 壊れた相対マークダウンリンクがある場合に失敗します。
  5. 静的品質スコアポリシーゲート: 全体スコアが --target-score(デフォルト: 95)を満たしていることを確認します。

ステップ5: オラクルの評決を処理する

  • ACCEPT(ノード5A): すべての必須ゲートに合格し、静的品質スコア ≥ 95。スコアカードと評価領収書を生成します。ステータス: COMPLETED(修復が適用された場合は MUTATED)。
  • REVISE(ノード5B/5C): 修正可能な欠陥が検出されました。ステップ6に進みます。
  • ESCALATE(ノード5D): 解決不可能なブロッカーまたは反復制限に達しました。詳細なブロッカーリストとともに人間の介入のために停止します。ステータス: ESCALATED。

ステップ6: 修復の導出、サンドボックスでの検証、権限による変更

評決が REVISE の場合:

  1. plan_repairs() が所見から決定論的なパッチ提案を導出します。
  2. RepairIsolator が分離されたスクラッチサンドボックス(tempfile.TemporaryDirectory)に提案をステージングします。
  3. 候補はサンドボックス内でDAGとオラクルを使用して再評価され、以下を確認します。
    • 評価整合性ゲートに合格すること。
    • 必須ゲートが後退しないこと。
    • 新しい ERROR 所見が導入されないこと。
    • 静的品質スコアまたは所見数が厳密に改善すること。
  4. 候補が検証に合格した場合:
    • デフォルト(読み取り専用): 統合diffが人間のレビューのために表示されます。ディスク上のターゲットスキルは変更されません。ステータス: PREVIEWED。
    • --apply 付き: 検証済みパッチが変更前スナップショット保護(一意の名前を持つ兄弟リカバリディレクトリ)とともにディスクに書き込まれます。ステータス: MUTATED。
  5. ACCEPT または最大反復回数に達するまで、ループは次の反復を再開します。

ステップ7: オプションで行動評価を実行する

バンドルされたバージョン管理カタログは evaluations/scenarios/ にあります。SEGを実行する前に、requirements.txt からPython依存関係をインストールしてください。

スキル実行の動的検証のために、scripts/eval_skill.py を実行します。

# 自己正当化シナリオのオフラインシミュレーション
python "<skill-dir>/scripts/eval_skill.py" "<target-skill-path>"

# 分離されたホームディレクトリを使用したライブ認証Codex CLIトライアル
python "<skill-dir>/scripts/eval_skill.py" "<target-skill-path>" --live --harness codex --trials 1 --timeout 90

ステップ8: エビデンスに基づくスコアカードの作成

scripts/audit_skill.py を介して最終監査スコアカードを生成します。

python "<skill-dir>/scripts/audit_skill.py" "<target-skill-path>" --scorecard "<output-scorecard.md>"

スコアカードはDAGとオラクルからの測定エビデンスを厳密に投影します。

  • 推奨事項はオラクル評決(ACCEPT、REVISE、ESCALATE)と一致します。
  • 測定されたルーブリックの柱は評価メトリクスを投影します。
  • 未測定の柱は明示的に NOT EVALUATED と報告します。
  • 改ざん防止の評価領収書が、最終実行状態のSHA256ダイジェストとともに保存されます。

品質不変条件

  • ゼロ破損リンク: すべての相対マークダウンリンクはスキルディレクトリ内で解決可能でなければなりません。
  • 厳密なシングルホップ: 参照ファイルは二次参照ファイルにリンクしてはなりません。
  • バジェット準拠: SKILL.md は300行または2500トークンを超えてはなりません。
  • 自己完結型移植性: ハードコードされたマシンパスやユーザーのホームディレクトリはゼロ。
  • エビデンスの整合性: スコアカードと領収書は、捏造されたスコアなしで検証可能なエビデンスを反映しなければなりません。

関連スキル