Community코딩 & 개발github.com

jeong-se-hun/autotune-skill

평가 우선 방식의 튜닝 스킬로, 프롬프트, 문서, 스킬, 코드를 가드, 홀드아웃, 중지 규칙과 함께 최적화합니다.

autotune-skill란 무엇인가요?

이 스킬은 평가 우선(eval-first) 접근 방식을 채택하여 프롬프트, 문서, 스킬 및 코드를 체계적으로 튜닝합니다. 개발자와 AI 에이전트 사용자가 설정한 평가 지표에 기반해 반복적으로 개선함으로써 품질과 일관성을 보장합니다. 주요 특징으로는 가드(guards)를 통한 안전 장치, 홀드아웃(holdout) 데이터를 활용한 과적합 방지, 그리고 중지 규칙(stop rules)을 통한 효율적인 최적화 중단이 있습니다. Cursor, Codex, Claude Code 등 다양한 AI 에이전트 플랫폼에서 활용 가능하며, SKILL.md에 정의된 구성 파일과 규칙을 따라 동작합니다.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add jeong-se-hun/autotune-skill

Installed? Explore more 코딩 & 개발 skills: steipete/bluebubbles, steipete/eightctl, steipete/blucli · View all 6 →

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

autotune-skill은(는) 무엇을 하나요?

평가 우선 방식의 튜닝 스킬로, 프롬프트, 문서, 스킬, 코드를 가드, 홀드아웃, 중지 규칙과 함께 최적화합니다.

개요

이 스킬은 주어진 입력(프롬프트, 문서, 스킬, 코드)을 평가 메트릭 기반으로 반복 개선합니다.

기능

  • 평가 중심: 사전 정의된 평가 함수로 각 반복의 품질을 측정합니다.
  • 가드: 위험하거나 바람직하지 않은 출력을 방지합니다.
  • 홀드아웃: 일부 데이터를 분리하여 과적합을 방지합니다.
  • 중지 규칙: 성능이 정체되거나 목표에 도달하면 튜닝을 자동 중단합니다.

사용 방법

  1. 튜닝할 대상(프롬프트, 문서, 스킬, 코드)을 준비합니다.
  2. 평가 함수와 가드, 홀드아웃 비율, 중지 조건을 설정합니다.
  3. autotune 명령을 실행하여 최적화를 시작합니다.

구성 예시

eval:
  metric: accuracy
  threshold: 0.95
guards:
  - profanity
  - toxicity
holdout:
  ratio: 0.2
stop_rules:
  max_iterations: 50
  improvement_threshold: 0.001

지원 플랫폼

  • Claude Code
  • Cursor
  • Codex

라이선스

MIT

관련 스킬