DiT 自動研究 A5500 技能

DiT 自動研究 A5500 技能 是做什麼的？

在 RTX A5500/Ampere 硬體上最佳化 Diffusion Transformer 推論時使用此技能。

不可協商的規則

• 在行動前先閱讀 program.md。
• 將 knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md 視為通用硬體/精度建議的專案覆寫。
• 品質是硬性限制，而非加權目標。
• 僅在固定的基準測試套件顯示無精度/品質回歸時，才能測試量化。絕不保留量化後降低必要基準分數的候選方案。
• 請勿在會話期間修改基準測試語料庫、品質評估器、效能測試工具或其他 fixed_paths。
• 僅編輯 mutable_paths 中列出的路徑。
• 首先建立未修改的基準線。
• 將候選方案的品質與原始基準線（而非前一個候選方案）進行比較。
• 將效能與分支目標跑道中當前最佳候選方案進行比較。
• 每次提交一個因果假設。
• 在數值或演算法近似之前，優先採用精確的實作最佳化。
• 在 A5500 上進行測量。請勿將 H100/B200 的加速數據導入作為預期的 A5500 結果。
• FlashAttention-2/SDPA 是相關的 Ampere 注意力路徑；FA3/FA4 以及 Hopper/Blackwell 特定功能僅作為研究參考，而非目標原生路徑。

強制啟動

1. 完整閱讀 program.md。
2. 閱讀以下手冊檔案：
   • knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md
   • knowledge/handbook/00_foundations/02_benchmarking_and_quality_gates.md
   • knowledge/handbook/03_single_gpu/08_a5500_optimization_ladder.md
   • knowledge/handbook/02_bottlenecks/05_nsight_a5500_profiling_workflow.md
   • knowledge/handbook/09_reference/09_a5500_benchmark_runbook.md
   • knowledge/handbook/09_reference/10_reproducibility_and_claims_standard.md
3. 執行 dit-ar --config config/autoresearch.json doctor。
4. 確保研究分支為 autoresearch/<tag> 且工作樹是乾淨的。
5. 如果是新會話，則執行 dit-ar ... init。
6. 在變更最佳化程式碼之前，執行 dit-ar ... baseline。

知識檢索

在進行非平凡實驗之前，搜尋手冊：

dit-ar --config config/autoresearch.json search "<機制 + 瓶頸 + 模型/硬體關鍵字>"

閱讀相關性最高的 Markdown 檔案。將手冊視為主要的本機研究記憶體。當手冊不支援某個假設時，請將該想法標記為外部/新的研究假設，而不是假裝手冊推薦了它。

實驗分類

使用以下其中一種：

• exact：旨在保留演算法的實作/佈局/排程/記憶體變更；
• numerical：算術模式變更，例如 FP16↔BF16 或 TF32 行為；
• approximate：變更或略過模型計算，例如減少步驟、近似快取、引導截止、稀疏近似；
• quantization：任何低位元權重/激活/注意力/儲存路徑。

量化會自動獲得嚴格的零回歸品質閘控。

保留/丟棄迴圈

對於每個假設：

1. 檢查當前最佳指標與近期失敗。
2. 搜尋/閱讀相關手冊材料。
3. 陳述假設與預期的瓶頸變化。
4. 僅編輯可變路徑。
5. 如有幫助，執行快速的語法/冒煙測試檢查。
6. 提交候選方案。
7. 執行：

dit-ar --config config/autoresearch.json experiment \
  --classification <類別> \
  --description "<簡短的因果假設>"

8. 如果是 保留，停留在該提交上並繼續。
9. 如果是 丟棄，保留 .autoresearch/ 日誌，然後執行 git reset --hard HEAD^ 返回上一個最佳狀態。
10. 如果是 崩潰，僅在實作明顯錯誤時修復；否則丟棄並繼續。
11. 持續直到手動停止。

A5500 上的研究優先順序

大致按照此順序優先考慮：

• 端到端分析與階段歸因；
• 針對精確形狀的注意力後端選擇；
• 編譯/區域編譯與圖斷點移除；
• 融合正規化/調製/逐點運算；
• 針對穩定形狀桶的 CUDA Graphs；
• GEMM 演算法/佈局調整；
• 傳輸消除與元件生命週期排程；
• 搭配卸載/逐出/分塊的 24 GB VRAM 工程；
• 拓撲感知的雙 A5500 策略（如可用）；
• 僅在分析器證據後使用自訂 Triton/CUDA/CUTLASS；
• 僅在完整品質防火牆後進行近似與量化。

切勿只因容易改善而最佳化目標產品不在乎的指標。