dyl-joseph/DiT-Autoresearch

DiT AutoResearch A5500 スキル

このスキルは、RTX A5500/Ampere ハードウェア上での Diffusion Transformer 推論の最適化に使用します。

非妥協ルール

• 行動する前に program.md を読んでください。
• knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md を、汎用的なハードウェア/精度アドバイスに対するプロジェクトのオーバーライドとして扱ってください。
• 品質は重み付けされた目的ではなく、厳格な制約です。
• 量子化は、固定ベンチマークスイートが必要な精度/品質の回帰がないことを示した場合にのみテストできます。必要なベンチマークスコアが低い量子化候補は決して保持しないでください。
• セッション中に、ベンチマークコーパス、品質評価器、パフォーマンスハーネス、その他の fixed_paths を変更しないでください。
• mutable_paths にリストされているパスのみを編集してください。
• まず未変更のベースラインを確立してください。
• 候補の品質は、前の候補ではなく、元のベースラインと比較してください。
• パフォーマンスは、ブランチの目的レーンにおける現在の最良候補と比較してください。
• コミットごとに1つの因果仮説を立ててください。
• 数値的近似やアルゴリズム的近似よりも、正確な実装最適化を優先してください。
• A5500で測定してください。H100/B200の高速化数値を、期待されるA5500の結果としてインポートしないでください。
• FlashAttention-2/SDPAは、Ampereの関連するアテンションパスです。FA3/FA4およびHopper/Blackwell固有の機能は研究上の参考であり、ターゲットネイティブのパスではありません。

必須の起動手順

1. program.md を完全に読んでください。
2. 以下のハンドブックファイルを読んでください：
   • knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md
   • knowledge/handbook/00_foundations/02_benchmarking_and_quality_gates.md
   • knowledge/handbook/03_single_gpu/08_a5500_optimization_ladder.md
   • knowledge/handbook/02_bottlenecks/05_nsight_a5500_profiling_workflow.md
   • knowledge/handbook/09_reference/09_a5500_benchmark_runbook.md
   • knowledge/handbook/09_reference/10_reproducibility_and_claims_standard.md
3. dit-ar --config config/autoresearch.json doctor を実行してください。
4. リサーチブランチが autoresearch/<tag> であり、ワーキングツリーがクリーンであることを確認してください。
5. 新しいセッションの場合は dit-ar ... init を実行してください。
6. 最適化コードを変更する前に dit-ar ... baseline を実行してください。

知識検索

非自明な実験の前に、ハンドブックを検索してください：

dit-ar --config config/autoresearch.json search "<メカニズム + ボトルネック + モデル/ハードウェア用語>"

関連する上位のMarkdownファイルを読んでください。ハンドブックを主要なローカルリサーチメモリとして使用してください。仮説に対するサポートがハンドブックにない場合は、ハンドブックが推奨しているふりをするのではなく、そのアイデアを外部/新しいリサーチ仮説としてラベル付けしてください。

実験分類

以下のいずれかを使用してください：

• exact: アルゴリズムを維持することを目的とした、実装/レイアウト/スケジューリング/メモリの変更
• numerical: FP16↔BF16やTF32動作などの算術モードの変更
• approximate: ステップ数の削減、近似キャッシュ、ガイダンスカットオフ、スパース近似など、変更/スキップされたモデル計算
• quantization: 低ビットの重み/アクティベーション/アテンション/ストレージパス

量子化は自動的に厳格なゼロ回帰品質ゲートを受けます。

Keep/Discard ループ

各仮説に対して：

1. 現在の最良メトリクスと最近の失敗を確認してください。
2. 関連するハンドブック資料を検索/読んでください。
3. 仮説と期待されるボトルネックの変化を述べてください。
4. 可変パスのみを編集してください。
5. 必要に応じて、簡単な構文/スモークチェックを実行してください。
6. 候補をコミットしてください。
7. 以下を実行してください：

dit-ar --config config/autoresearch.json experiment \
  --classification <分類> \
  --description "<短い因果仮説>"

8. KEEP の場合は、コミットをそのままにして続行してください。
9. DISCARD の場合は、.autoresearch/ ログを保持し、git reset --hard HEAD^ を実行して以前の最良の状態に戻ってください。
10. CRASH の場合は、実装が明らかに間違っている場合のみ修正し、それ以外は破棄して先に進んでください。
11. 手動で停止されるまで続行してください。

A5500での研究優先順位

おおよそ以下の順序で優先してください：

• エンドツーエンドのプロファイリングとフェーズの帰属
• 正確な形状に対するアテンションバックエンドの選択
• コンパイル/リージョナルコンパイルとグラフブレークの除去
• ノルム/変調/ポイントワイズ演算の融合
• 安定した形状バケットに対するCUDA Graph
• GEMMアルゴリズム/レイアウトのチューニング
• 転送の排除とコンポーネントライフサイクルのスケジューリング
• オフロード/エビクション/タイリングによる24GB VRAMエンジニアリング
• 利用可能な場合のトポロジー認識型2-A5500戦略
• プロファイラの証拠がある場合のみ、カスタムTriton/CUDA/CUTLASS
• 完全な品質ファイアウォールの背後でのみ、近似と量子化

ターゲット製品が気にしないメトリクスを、改善が簡単だからといって最適化しないでください。