DiT AutoResearch A5500 스킬
이 스킬은 RTX A5500/Ampere 하드웨어에서 Diffusion Transformer 추론을 최적화할 때 사용합니다.
절대 규칙
program.md를 읽고 실행하세요.knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md를 일반 하드웨어/정밀도 조언에 대한 프로젝트 재정의로 취급하세요.- 품질은 가중치가 적용된 목표가 아닌 절대적인 제약 조건입니다.
- 양자화는 고정된 벤치마크 스위트에서 필요한 정확도/품질 회귀가 전혀 없을 경우에만 테스트할 수 있습니다. 필수 벤치마크 점수가 낮은 양자화 후보를 절대 유지하지 마세요.
- 세션 중에 벤치마크 코퍼스, 품질 평가자, 성능 도구 또는 기타
fixed_paths를 수정하지 마세요. mutable_paths에 나열된 경로만 편집하세요.- 수정되지 않은 기준(baseline)을 먼저 설정하세요.
- 후보 품질을 이전 후보가 아닌 원래 기준과 비교하세요.
- 성능은 브랜치의 목표 레인에 있는 현재 최고 후보와 비교하세요.
- 커밋당 하나의 인과 가설(causal hypothesis)만 제출하세요.
- 수치적 또는 알고리즘적 근사보다 정확한 구현 최적화를 우선시하세요.
- A5500에서 측정하세요. H100/B200 속도 향상 수치를 예상되는 A5500 결과로 가져오지 마세요.
- FlashAttention-2/SDPA는 관련 Ampere 어텐션 경로이며, FA3/FA4 및 Hopper/Blackwell 특화 기능은 연구 참고 자료일 뿐 대상 기본 경로가 아닙니다.
필수 시작 단계
program.md를 완전히 읽으세요.- 다음 핸드북 파일을 읽으세요:
knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.mdknowledge/handbook/00_foundations/02_benchmarking_and_quality_gates.mdknowledge/handbook/03_single_gpu/08_a5500_optimization_ladder.mdknowledge/handbook/02_bottlenecks/05_nsight_a5500_profiling_workflow.mdknowledge/handbook/09_reference/09_a5500_benchmark_runbook.mdknowledge/handbook/09_reference/10_reproducibility_and_claims_standard.md
dit-ar --config config/autoresearch.json doctor를 실행하세요.- 연구 브랜치가
autoresearch/<tag>이고 작업 트리가 깨끗한지 확인하세요. - 새 세션인 경우
dit-ar ... init을 실행하세요. - 최적화된 코드를 변경하기 전에
dit-ar ... baseline을 실행하세요.
지식 검색
중요한 실험 전에 핸드북을 검색하세요:
dit-ar --config config/autoresearch.json search "<메커니즘 + 병목 + 모델/하드웨어 용어>"
가장 관련성 높은 Markdown 파일을 읽으세요. 핸드북을 기본 로컬 연구 메모리로 사용하세요. 핸드북이 가설을 지원하지 않는 경우, 핸드북이 권장하는 것처럼 가장하지 말고 해당 아이디어를 외부/새로운 연구 가설로 표시하세요.
실험 분류
다음 중 하나를 사용하세요:
exact: 알고리즘을 보존하기 위한 구현/레이아웃/스케줄링/메모리 변경numerical: FP16↔BF16 또는 TF32 동작과 같은 산술 모드 변경approximate: 더 적은 단계, 근사 캐시, 가이던스 컷오프, 희소 근사와 같은 변경/생략된 모델 계산quantization: 모든 저비트 가중치/활성화/어텐션/저장소 경로
양자화는 자동으로 엄격한 회귀 없음(Zero-Regression) 품질 게이트를 받습니다.
유지/폐기 루프
각 가설에 대해:
- 현재 최고 지표와 최근 실패를 검사하세요.
- 관련 핸드북 자료를 검색/읽으세요.
- 가설과 예상되는 병목 변화를 명시하세요.
- 변경 가능한 경로(mutable paths)만 편집하세요.
- 유용하다면 저렴한 문법/스모크 체크를 실행하세요.
- 후보를 커밋하세요.
- 다음을 실행하세요:
dit-ar --config config/autoresearch.json experiment \
--classification <class> \
--description "<짧은 인과 가설>"
- KEEP인 경우, 커밋을 유지하고 계속하세요.
- DISCARD인 경우,
.autoresearch/로그를 보존한 후git reset --hard HEAD^를 실행하여 이전 최고 상태로 되돌리세요. - CRASH인 경우, 구현이 사소하게 잘못된 경우에만 수정하고, 그렇지 않으면 폐기하고 진행하세요.
- 수동으로 중지할 때까지 계속하세요.
A5500 연구 우선순위
대략 다음 순서로 선호하세요:
- 종단 간 프로파일링 및 단계 속성 분석
- 정확한 형태에 대한 어텐션 백엔드 선택
- 컴파일/지역 컴파일 및 그래프 중단점 제거
- 정규화/변조/요소별 연산의 퓨전
- 안정적인 형태 버킷을 위한 CUDA Graphs
- GEMM 알고리즘/레이아웃 튜닝
- 전송 제거 및 구성 요소 수명주기 스케줄링
- 오프로드/축출/타일링을 통한 24GB VRAM 엔지니어링
- 가능한 경우 토폴로지를 고려한 2-A5500 전략
- 프로파일러 증거 이후에만 사용자 정의 Triton/CUDA/CUTLASS
- 완전한 품질 방화벽 뒤에서만 근사 및 양자화
최종 제품이 신경 쓰지 않는 지표를 개선하기 쉽다고 해서 최적화하지 마세요.