DiT AutoResearch A5500 技能
在 RTX A5500/Ampere 硬件上优化 Diffusion Transformer 推理时使用此技能。
不可协商规则
- 在执行操作前，先阅读
program.md。 - 将
knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md视为项目对通用硬件/精度建议的覆盖。 - 质量是硬约束，不是加权目标。
- 仅在固定基准套件显示无要求的准确度/质量回退时，才能测试量化。切勿保留达到较低要求基准分数的量化候选方案。
- 不要在会话期间修改基准语料库、质量评估器、性能工具或其他
fixed_paths。 - 仅编辑
mutable_paths中列出的路径。 - 首先建立未修改的基线。
- 候选方案的质量应与原始基线比较，而不是与上一个候选方案比较。
- 性能应与分支目标赛道中的当前最佳候选方案比较。
- 每次提交仅包含一个因果假设。
- 在执行数值或算法近似之前，优先考虑精确的实现优化。
- 在 A5500 上测量。不要将 H100/B200 加速比数字作为预期的 A5500 结果导入。
- FlashAttention-2/SDPA 是相关的 Ampere 注意力路径；FA3/FA4 以及 Hopper/Blackwell 特定功能是研究参考，不是目标原生路径。
强制启动步骤
- 完整阅读
program.md。 - 阅读以下手册文件：
knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.mdknowledge/handbook/00_foundations/02_benchmarking_and_quality_gates.mdknowledge/handbook/03_single_gpu/08_a5500_optimization_ladder.mdknowledge/handbook/02_bottlenecks/05_nsight_a5500_profiling_workflow.mdknowledge/handbook/09_reference/09_a5500_benchmark_runbook.mdknowledge/handbook/09_reference/10_reproducibility_and_claims_standard.md
- 运行
dit-ar --config config/autoresearch.json doctor。 - 确保研究分支为
autoresearch/<tag>且工作树是干净的。 - 如果是新会话，运行
dit-ar ... init。 - 在更改优化代码前，运行
dit-ar ... baseline。
知识检索
在进行非平凡的实验之前，搜索手册：
dit-ar --config config/autoresearch.json search "<机制 + 瓶颈 + 模型/硬件术语>"
阅读最相关的 Markdown 文件。将手册作为主要的本地研究记忆。当手册不支持某个假设时，将该想法标记为外部/新的研究假设，而不是假装手册推荐它。
实验分类
使用以下分类之一：
exact：旨在保留算法的实现/布局/调度/内存更改；numerical：算术模式更改，例如 FP16↔BF16 或 TF32 行为；approximate：更改/跳过的模型计算，例如更少的步骤、近似缓存、指导截断、稀疏近似；quantization：任何低比特权重/激活/注意力/存储路径。
量化会自动获得严格的零回退质量门。
保留/丢弃循环
对于每个假设：
- 检查当前最佳指标和最近的失败。
- 搜索/阅读相关的手册材料。
- 陈述假设和预期的瓶颈变化。
- 仅编辑可变路径。
- 如有必要，运行快速的语法/冒烟检查。
- 提交候选方案。
- 运行：
dit-ar --config config/autoresearch.json experiment \
--classification <class> \
--description "<简短的因果假设>"
- 如果保留，停留在该提交上并继续。
- 如果丢弃，保留
.autoresearch/日志，然后运行git reset --hard HEAD^返回到上一个最佳状态。 - 如果崩溃，仅当实现存在微不足道错误时修复；否则丢弃并继续。
- 继续直到手动停止。
A5500 上的研究优先级
按大致顺序优先：
- 端到端性能分析和阶段归因；
- 针对精确形状的注意力后端选择；
- 编译/区域编译和图断点移除；
- 归一化/调制/逐点操作的融合；
- 用于稳定形状桶的 CUDA Graphs；
- GEMM 算法/布局调优；
- 传输消除和组件生命周期调度；
- 使用卸载/驱逐/分块的 24 GB VRAM 工程；
- 在性能分析证据之后才考虑拓扑感知的双 A5500 策略；
- 仅在性能分析证据之后才考虑自定义 Triton/CUDA/CUTLASS；
- 仅在完整质量防火墙之后才考虑近似和量化。
切勿仅仅因为某个指标容易提升而对其进行优化，如果目标产品并不关心该指标。