Community研究與資料分析github.com

SEG:技能評估圖譜——代理技能審計與優化的程序化驅動工具

以證據為導向的評估、基準測試與驗證修復,適用於 Codex、Claude Code、Gemini CLI 與 Antigravity 等平台的代理技能。

SEG:技能評估圖譜——代理技能審計與優化的程序化驅動工具 是什麼?

SEG (Skill Evaluation Graph) 是一個專為代理技能設計的程序化評估與優化工具,支援 Codex、Claude Code、Gemini CLI 及 Antigravity 等平台。它透過定義在工作流程圖譜 (Workflow Graph) 上的自動化 DAG (有向無環圖) 執行早期線索評估,涵蓋語義綱要驗證、鏈接解析、Token 預算剖析、安全性與隱私檢查、可移植性驗證及行為策略強制等維度。SEG 內建了一個具五道強制閘門的評估者預言機 (Evaluator Oracle),能基於彙整的聯合證據給出「接受(Accept)」、「修訂(Revise)」或「升級(Escalate)」的最終裁決。它還支援可控的沙箱修復循環與即時行為試驗,並生成具備 SHA256 摘要防篡改的審計計分卡,確保評估結果可驗證。

相容平台✓Claude Code✓Codex CLI~Cursor✓Antigravity✓Gemini CLI
npx skills add MaxLaurieHutchinson/skill-evaluation-graph

Installed? Explore more 研究與資料分析 skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

在你喜歡的 AI 中提問

開啟一個已預先載入此 Agent Skill 的新對話。

說明文件

SEG:技能評估圖譜:代理技能審計與優化的程序化驅動工具

將代理技能轉化為可靠、Token 高效、符合生產標準的工程資產。評估觸發精確度、漸進式揭露架構、行為引導、執行確定性、操作安全性與 Token 經濟性。


快速參考矩陣

關注事項目的權威資源
標準術語權威詞彙與領域定義references/terminology.md
六大支柱審計評分量表客觀 1–5 分評分定義references/audit-rubric.md
反模式目錄14 種常見技能缺陷的診斷指南references/anti-patterns.md
上下文工程多層次漸進式揭露模式references/progressive-disclosure-patterns.md
評估圖譜與循環自主評估者循環引擎操作手冊references/workflow-graph-and-evaluator-loop.md
工具鏈相容性跨平台工具對應 (Antigravity/Claude/Codex)references/harness-tool-matrix.md
行為試驗執行器對照組與實驗組評估及現場試驗scripts/eval_skill.py
能力聲明審計技術現實與證據分類references/claim-audit.md
計分卡範本標準化評估報告範本assets/skill-audit-scorecard-template.md
範例計分卡示範性完整評估報告assets/example-scorecard.md
自我審計計分卡SEG 自身基線審計計分卡assets/self-audit-scorecard.md
標準對齊應用型 AI Wiki 14 步驟框架references/wiki-standard-alignment.md
代理保護反幻覺貢獻者合約assets/agent-contributor-contract-template.md

[!重要] 標準術語:使用 references/terminology.md 作為 SEG 的標準詞彙。未更新詞彙表前,請勿為已定義的概念引入同義詞。


工作流程圖譜架構

[節點 1:接收與範圍界定]
          │
          ▼
[節點 2:並行評估者 DAG 執行]
  (綱要, 鏈接, Token, 安全/隱私, 可攜性, 觸發路由, 行為策略)
          │
          ▼
[節點 3:合併多節點證據]
          │
          ▼
[節點 4:多閘門評估者預言機]
          │
  ┌───────┼───────────────────────────────┐
  ▼       ▼                               ▼
[節點 5A:接受]              [節點 5B/5C:修訂]            [節點 5D:升級]
(計分卡與收據)  (沙箱驗證 -> 預覽/變異)   (需人工介入)

程序化執行驅動器

審計或優化代理技能時,請依序執行以下步驟:

步驟 1:識別目標技能並驗證範圍

  1. 找到包含 SKILL.md 的目標目錄。
  2. 檢查 SKILL.md、references/、scripts/ 與 assets/ 中的套件清單。
  3. 驗證主機工具鏈相容性清單 (.codex-plugin/plugin.json、CLAUDE.md、AGENTS.md、.agents/plugins/marketplace.json)。

步驟 2:閱讀標準術語

記錄發現之前,請查閱 references/terminology.md。確保所有反饋與報告均使用精確的標準名稱(例如 靜態品質分數 (Static Quality Score)、預言機裁決 (Oracle Verdict)、評估完整性閘門 (Evaluation Integrity Gate)、預變異快照 (Pre-mutation Snapshot))。

步驟 3:執行評估圖譜

透過 scripts/run_loop.py 執行模塊化並行評估 DAG:

# 唯讀評估與差異預覽 (預設)
python "<skill-dir>/scripts/run_loop.py" "<target-skill-path>" --target-score 95 --max-iterations 3

# 接受時交付計分卡
python "<skill-dir>/scripts/run_loop.py" "<target-skill-path>" --scorecard "<target-skill-path>/scorecard.md"

評估者節點按並行依賴波次執行:

  • schema:驗證 YAML 前置元素、命名與必填欄位。
  • links_syntax:解析相對鏈接、單跳躍規則與程式碼圍欄。
  • tokens:剖析五層漸進式揭露的 Token 預算。
  • safety_privacy:偵測破壞性指令與工作站路徑暴露。
  • portability:驗證 OpenAI Codex 插件與市集清單。
  • trigger_routing:檢查前置元素描述的觸發器與負面邊界。
  • behaviour_policy:強制執行反合理化指南。

步驟 4:合併證據並評估閘門

來自所有節點的證據被合成為 聯合證據 (JoinedEvidence)。評估者預言機 (EvaluatorOracle) 強制執行五道強制閘門:

  1. 評估完整性閘門 (閘門 0):若任何評估者遭遇未處理的錯誤、超時或意外跳過,則關閉。
  2. 規範符合性閘門:若任何節點報告 規格錯誤 (SPECIFICATION_ERROR)(例如無效的市集綱要或損壞的前置元素),則失敗。
  3. 安全與隱私閘門:若偵測到破壞性指令或工作站路徑洩露,則失敗。
  4. 鏈接完整性閘門:若發現損壞的相對 Markdown 鏈接,則失敗。
  5. 靜態品質分數策略閘門:驗證總分是否達到 --target-score(預設值:95)。

步驟 5:處理預言機裁決

  • 接受 (ACCEPT) (節點 5A):所有強制閘門通過,且靜態品質分數 ≥ 95。生成計分卡與評估收據。狀態:已完成 (COMPLETED)(若已套用修復則為 已變異 (MUTATED))。
  • 修訂 (REVISE) (節點 5B/5C):偵測到可修復缺陷。前進至步驟 6。
  • 升級 (ESCALATE) (節點 5D):遇到不可解決的阻礙或迭代上限已達。停止並附上詳細阻礙清單,等待人工介入。狀態:已升級 (ESCALATED)。

步驟 6:推導修復、在沙箱中驗證,並以權威進行變異

當裁決為 修訂 (REVISE) 時:

  1. plan_repairs() 從發現結果推導出確定性修補提案。
  2. 修復隔離器 (RepairIsolator) 將提案暫存於隔離的暫存沙箱 (tempfile.TemporaryDirectory)。
  3. 在沙箱內使用 DAG 與預言機重新評估候選方案,以驗證:
    • 評估完整性閘門通過。
    • 強制閘門未退步。
    • 未引入新的 錯誤 (ERROR) 發現。
    • 靜態品質分數或發現計數嚴格改善。
  4. 若候選方案通過驗證:
    • 預設 (唯讀):顯示統一差異供人工審閱。磁碟上的目標技能保持不變。狀態:已預覽 (PREVIEWED)。
    • 搭配 --apply:將驗證過的修補寫入磁碟,並附加預變異快照保護(一個唯一命名的同級復原目錄)。狀態:已變異 (MUTATED)。
  5. 循環恢復進行下一次迭代,直到達到 接受 (ACCEPT) 或最大迭代次數耗盡。

步驟 7:可選執行行為試驗

捆綁的版本化目錄位於 evaluations/scenarios/。執行 SEG 前,請先從 requirements.txt 安裝 Python 依賴。

如需動態驗證技能執行,請執行 scripts/eval_skill.py:

# 反合理化場景的離線模擬
python "<skill-dir>/scripts/eval_skill.py" "<target-skill-path>"

# 使用隔離主目錄的即時認證 Codex CLI 試驗
python "<skill-dir>/scripts/eval_skill.py" "<target-skill-path>" --live --harness codex --trials 1 --timeout 90

步驟 8:產出有證據支援的計分卡

透過 scripts/audit_skill.py 生成最終審計計分卡:

python "<skill-dir>/scripts/audit_skill.py" "<target-skill-path>" --scorecard "<output-scorecard.md>"

計分卡嚴格反映來自 DAG 與預言機的測量證據:

  • 建議與預言機裁決 (接受 (ACCEPT)、修訂 (REVISE)、升級 (ESCALATE)) 一致。
  • 測量到的評分量表支柱反映評估者指標。
  • 未測量的支柱明確報告 未評估 (NOT EVALUATED)。
  • 儲存一份防篡改的評估收據,內含最終執行狀態的 SHA256 摘要。

品質不變量

  • 零損壞鏈接: 每個相對 Markdown 鏈接都必須在技能目錄內可解析。
  • 嚴格單跳躍: 無參考檔案可連結至另一個參考檔案。
  • 預算合規: SKILL.md 不得超過 300 行或 2500 個 Token。
  • 自包含可攜性: 零硬編碼機器路徑或使用者主目錄。
  • 證據完整性: 計分卡與收據必須反映可驗證的證據,不得包含捏造的分數。

相關技能