Communitygithub.com

DiT AutoResearch A5500

A5500 GPU에서 Diffusion Transformer 커널을 최적화하기 위한 자동 연구 플러그인 및 핸드북입니다. RTX A5500/Ampere 하드웨어를 대상으로 합니다.

DiT AutoResearch A5500란 무엇인가요?

이 스킬은 RTX A5500(Ampere 아키텍처) 기반 하드웨어에서 Diffusion Transformer(DiT) 모델의 추론 성능을 최적화하기 위한 자동 연구 에이전트입니다. 핸드북 기반의 지식 검색, 엄격한 품질 평가, 실험 분류 체계를 통해 최적화 후보를 체계적으로 평가합니다. A5500의 24GB VRAM, FlashAttention-2/SDPA 지원 등 구체적인 하드웨어 특성을 고려한 최적화 전략을 우선순위에 따라 제시합니다. 양자화 또는 근사 최적화는 품질 회귀가 전혀 없을 경우에만 허용되며, 항상 수정되지 않은 기준(baseline)과의 비교를 통해 품질과 성능을 검증합니다.

지원 대상~Claude Code~Codex CLI~Cursor✓Antigravity
npx skills add dyl-joseph/DiT-Autoresearch

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

DiT AutoResearch A5500 스킬

이 스킬은 RTX A5500/Ampere 하드웨어에서 Diffusion Transformer 추론을 최적화할 때 사용합니다.

절대 규칙

  • program.md를 읽고 실행하세요.
  • knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md를 일반 하드웨어/정밀도 조언에 대한 프로젝트 재정의로 취급하세요.
  • 품질은 가중치가 적용된 목표가 아닌 절대적인 제약 조건입니다.
  • 양자화는 고정된 벤치마크 스위트에서 필요한 정확도/품질 회귀가 전혀 없을 경우에만 테스트할 수 있습니다. 필수 벤치마크 점수가 낮은 양자화 후보를 절대 유지하지 마세요.
  • 세션 중에 벤치마크 코퍼스, 품질 평가자, 성능 도구 또는 기타 fixed_paths를 수정하지 마세요.
  • mutable_paths에 나열된 경로만 편집하세요.
  • 수정되지 않은 기준(baseline)을 먼저 설정하세요.
  • 후보 품질을 이전 후보가 아닌 원래 기준과 비교하세요.
  • 성능은 브랜치의 목표 레인에 있는 현재 최고 후보와 비교하세요.
  • 커밋당 하나의 인과 가설(causal hypothesis)만 제출하세요.
  • 수치적 또는 알고리즘적 근사보다 정확한 구현 최적화를 우선시하세요.
  • A5500에서 측정하세요. H100/B200 속도 향상 수치를 예상되는 A5500 결과로 가져오지 마세요.
  • FlashAttention-2/SDPA는 관련 Ampere 어텐션 경로이며, FA3/FA4 및 Hopper/Blackwell 특화 기능은 연구 참고 자료일 뿐 대상 기본 경로가 아닙니다.

필수 시작 단계

  1. program.md를 완전히 읽으세요.
  2. 다음 핸드북 파일을 읽으세요:
    • knowledge/handbook/00_foundations/04_target_hardware_and_quality_contract.md
    • knowledge/handbook/00_foundations/02_benchmarking_and_quality_gates.md
    • knowledge/handbook/03_single_gpu/08_a5500_optimization_ladder.md
    • knowledge/handbook/02_bottlenecks/05_nsight_a5500_profiling_workflow.md
    • knowledge/handbook/09_reference/09_a5500_benchmark_runbook.md
    • knowledge/handbook/09_reference/10_reproducibility_and_claims_standard.md
  3. dit-ar --config config/autoresearch.json doctor를 실행하세요.
  4. 연구 브랜치가 autoresearch/<tag>이고 작업 트리가 깨끗한지 확인하세요.
  5. 새 세션인 경우 dit-ar ... init을 실행하세요.
  6. 최적화된 코드를 변경하기 전에 dit-ar ... baseline을 실행하세요.

지식 검색

중요한 실험 전에 핸드북을 검색하세요:

dit-ar --config config/autoresearch.json search "<메커니즘 + 병목 + 모델/하드웨어 용어>"

가장 관련성 높은 Markdown 파일을 읽으세요. 핸드북을 기본 로컬 연구 메모리로 사용하세요. 핸드북이 가설을 지원하지 않는 경우, 핸드북이 권장하는 것처럼 가장하지 말고 해당 아이디어를 외부/새로운 연구 가설로 표시하세요.

실험 분류

다음 중 하나를 사용하세요:

  • exact: 알고리즘을 보존하기 위한 구현/레이아웃/스케줄링/메모리 변경
  • numerical: FP16↔BF16 또는 TF32 동작과 같은 산술 모드 변경
  • approximate: 더 적은 단계, 근사 캐시, 가이던스 컷오프, 희소 근사와 같은 변경/생략된 모델 계산
  • quantization: 모든 저비트 가중치/활성화/어텐션/저장소 경로

양자화는 자동으로 엄격한 회귀 없음(Zero-Regression) 품질 게이트를 받습니다.

유지/폐기 루프

각 가설에 대해:

  1. 현재 최고 지표와 최근 실패를 검사하세요.
  2. 관련 핸드북 자료를 검색/읽으세요.
  3. 가설과 예상되는 병목 변화를 명시하세요.
  4. 변경 가능한 경로(mutable paths)만 편집하세요.
  5. 유용하다면 저렴한 문법/스모크 체크를 실행하세요.
  6. 후보를 커밋하세요.
  7. 다음을 실행하세요:
dit-ar --config config/autoresearch.json experiment \
  --classification <class> \
  --description "<짧은 인과 가설>"
  1. KEEP인 경우, 커밋을 유지하고 계속하세요.
  2. DISCARD인 경우, .autoresearch/ 로그를 보존한 후 git reset --hard HEAD^를 실행하여 이전 최고 상태로 되돌리세요.
  3. CRASH인 경우, 구현이 사소하게 잘못된 경우에만 수정하고, 그렇지 않으면 폐기하고 진행하세요.
  4. 수동으로 중지할 때까지 계속하세요.

A5500 연구 우선순위

대략 다음 순서로 선호하세요:

  • 종단 간 프로파일링 및 단계 속성 분석
  • 정확한 형태에 대한 어텐션 백엔드 선택
  • 컴파일/지역 컴파일 및 그래프 중단점 제거
  • 정규화/변조/요소별 연산의 퓨전
  • 안정적인 형태 버킷을 위한 CUDA Graphs
  • GEMM 알고리즘/레이아웃 튜닝
  • 전송 제거 및 구성 요소 수명주기 스케줄링
  • 오프로드/축출/타일링을 통한 24GB VRAM 엔지니어링
  • 가능한 경우 토폴로지를 고려한 2-A5500 전략
  • 프로파일러 증거 이후에만 사용자 정의 Triton/CUDA/CUTLASS
  • 완전한 품질 방화벽 뒤에서만 근사 및 양자화

최종 제품이 신경 쓰지 않는 지표를 개선하기 쉽다고 해서 최적화하지 마세요.

관련 스킬