AlphaGo 架構技能
決策點
何時使用單一 vs. 級聯評估器
問題特徵:
├── 搜尋空間可處理 (b^d < 10^9)
│ └── 使用單一最佳評估器 → 標準最佳化
└── 搜尋空間不可處理 (b^d > 10^12)
├── 有統一的評估預算
│ └── 使用級聯近似:
│ 1. 快速剪枝 (策略網路) → 縮小搜尋寬度
│ 2. 中等評估 (價值網路) → 估計品質
│ 3. 廉價探索 (隨機模擬) → 覆蓋廣度
└── 非統一的評估預算
└── 自適應分配:
├── 關鍵位置 → 昂貴評估
└── 例行位置 → 廉價啟發式
準確度 vs. 延遲需求決策樹
系統需求:
├── 延遲敏感 (<1ms 回應)
│ ├── 高容錯度 (可接受 >10% 錯誤率)
│ │ └── 僅快速隨機模擬 (2µs/評估)
│ └── 低容錯度 (需 <5% 錯誤率)
│ └── 快取策略網路 + 啟發式備用方案
├── 延遲適中 (1-100ms 回應)
│ ├── 需要高準確度
│ │ └── 價值網路 (3ms) + 策略網路引導
│ └── 平衡準確度/速度
│ └── 混合評估:λ=0.5 價值 + 隨機模擬
└── 延遲容忍 (>100ms)
└── 完整級聯:策略 → 價值 → 隨機模擬 + MCTS
錯誤模式多樣性評估
選擇多個評估器時:
├── 所有評估器具有相似的失敗模式
│ └── 使用單一最佳評估器 (無多樣性效益)
├── 評估器具有互補性錯誤
│ ├── 快速/雜訊 + 慢速/準確配對
│ │ └── 在 λ=0.3-0.7 混合 (偏向準確)
│ ├── 保守 + 探索配對
│ │ └── 在 λ=0.5 混合 (等權重)
│ └── 學習 + 手工配對
│ └── 基於信心分數動態混合
└── 未知錯誤相關性
└── 經驗測試:在保留集上測量效能
失敗模式
架構膨脹 (檢測:>5 個近似層)
症狀:添加更多近似層但看到收益遞減 根本原因:每層增加開銷但沒有成比例的準確度提升 修復方法:分析運算成本 vs. 準確度提升;移除 ROI 低的層 檢測規則:如果添加第 N 層使準確度提升 <5% 但延遲增加 >20%,則存在架構膨脹
同步耦合 (檢測:快速元件閒置等待)
症狀:等待 GPU 評估時 CPU 使用率下降 根本原因:快速搜尋與緩慢神經網路評估之間的緊密耦合 修復方法:實現非同步佇列,並容忍過時的價值 檢測規則:如果快速元件(搜尋、隨機模擬)的空閒時間 >50%,則存在同步耦合
代理指標固定 (檢測:指標改善但效能下降)
症狀:移動預測準確度提高但勝率下降 根本原因:優化人類模仿而非客觀成功 修復方法:從監督學習轉向強化學習,使用真實目標 檢測規則:如果代理指標和結果指標趨勢相反,且持續超過 10 次評估,則存在代理指標固定
單一評估器謬誤 (檢測:拒絕「較差」的個別元件)
症狀:因為價值網路有較高的個別準確度而丟棄隨機模擬 根本原因:假設最佳個別元件就能組成最佳系統元件 修復方法:經驗性地測試混合效能;多樣性通常勝過個別品質 檢測規則:如果你僅根據個別效能選擇元件而沒有測試組合,則存在單一評估器謬誤
均勻預算分配 (檢測:所有決策使用相同運算量)
症狀:在明顯的移動與關鍵位置上花費相同的評估時間 根本原因:未根據決策重要性調整運算預算 修復方法:基於位置不確定性和結果敏感度實現自適應分配 檢測規則:如果各位置的評估時間變異數 <平均值的 20%,則存在均勻分配
實際範例
為程式碼審查實施級聯近似
情境:設計一個 AI 系統來審查包含 50-500 行改動的拉取請求,需要 <10s 回應時間,必須捕捉 95% 的錯誤。
步驟 1:分析運算限制
- 靜態分析:每個檔案 10ms
- ML 錯誤檢測器:每個檔案 2s
- 深度語意分析:每個檔案 30s
- 可用預算:總共 10s
步驟 2:應用級聯決策樹 由於詳盡分析超出預算,遵循「搜尋空間不可處理」路徑:
- 快速剪枝層(靜態分析):剔除沒有複雜度變化的檔案
- 中等評估層(ML 檢測器):對剩餘檔案評分以預測錯誤可能性
- 昂貴分析層(語意分析):僅對分數最高的檔案進行深度分析
步驟 3:預算分配策略
- 為所有剩餘檔案的 ML 評估保留 2s
- 根據 ML 分數將剩餘 8s 分配給語意分析
- 分數 >0.8 的檔案:每個分配 4s(最多 2 個檔案)
- 分數 0.5-0.8 的檔案:每個分配 2s
- 分數 <0.5 的檔案:僅使用 ML 分數
步驟 4:混合評估實施 與其使用「最佳」評估器(語意分析),不如混合 ML 和語意分數:
- ML 檢測器:快速,擅長模式匹配,但會漏掉新穎的錯誤
- 語意分析:緩慢,能捕捉複雜的邏輯錯誤,但誤報率高
- 在 λ=0.6 混合:
最終分數 = 0.6 * 語意 + 0.4 * ML
新手方法:對所有內容執行語意分析 → 在前幾個檔案後超時 專家見解:級聯允許僅在最需要的地方花費昂貴的計算資源,同時確保每個檔案都得到一些評估
品質閘門
[ ] 已測試 N 個評估器:已實施並基準測試最少 3 個具有不同速度/準確度輪廓的評估器 [ ] 已測量錯誤相關性:計算的成對相關矩陣顯示評估器在測試集上的相關性 <0.7 [ ] 已評估混合 vs. 單一:經驗比較顯示混合法比最佳個別元件效能提升 >5% [ ] 已滿足延遲需求:在完整級聯下,95 百分位回應時間低於指定閾值 [ ] 已滿足準確度需求:保留集上的錯誤率低於指定閾值(例如 <5% 偽陰性率) [ ] 已分析預算分配:運算成本分析顯示預算根據決策重要性分配 [ ] 已測試失敗模式:在對抗性條件下測試系統(分佈轉移、資源限制、邊緣情況) [ ] 已驗證非同步協調:即使在慢速元件飽和時,快速元件的使用率仍保持 >80% [ ] 已驗證可擴展性:將負載增加到名義容量 10 倍時,效能可優雅地降級 [ ] 監控儀表化:指標追蹤代理 vs. 結果對齊、元件使用率和級聯效能
不適用範圍
請勿將此技能用於:
- 具有可處理搜尋空間的簡單最佳化問題 → 改用 standard-optimization
- 單一模型訓練或調優 → 改用 deep-learning-training
- 需要 <1ms 延遲的即時系統 → 改用 low-latency-systems
- 一個評估器明顯優於其他且其他無附加價值的問題 → 改用 single-model-deployment
- 沒有搜尋樹結構的順序決策過程 → 改用 reinforcement-learning-fundamentals
當需要以下情況時,委託給其他技能:
- 需要實作特定的神經網路架構 → deep-learning-architectures
- 設計分散式系統基礎設施 → distributed-systems-design
- 最佳化個別元件效能 → performance-optimization
- 處理訓練資料收集與標記 → data-engineering
- 實作特定的搜尋演算法 → search-algorithms
此技能專注於:在計算限制下協調多個不完美評估器的架構模式,而不是個別元件的實作細節。