Communitygithub.com

AI 릴리스 평가

RAG 시스템 또는 AI 에이전트 릴리스를 허용된 기준과 비교 평가하고, 성능 회귀를 진단하며, 설명 가능한 PASS, WARN, 또는 BLOCK 증거를 생성합니다. 후보 추적, RAG 평가 시나리오, 모델 또는 프롬프트 변경, 릴리스 게이트, 인용 회귀, 보류 검사, 사전 릴리스 AI 품질 검토에 사용하세요.

AI 릴리스 평가란 무엇인가요?

이 스킬은 RAGOps를 결정론적 평가 도구로 사용하여 AI 릴리스의 품질을 평가합니다. 사용자는 시나리오, 후보 응답 또는 추적, 허용된 기준, 및 정책 임계값을 식별한 후, `python3 scripts/run_ragops.py ...` 명령을 통해 가장 좁은 범위의 평가를 실행합니다. 종료 코드 0은 PASS, 2는 BLOCK(실행 실패가 아님)을 의미하며, 다른 비영 코드는 운영 오류로 처리합니다. 이 스킬은 프롬프트 변경, 모델 업데이트, RAG 설정 변경 등으로 인한 성능 회귀를 진단하고, 인용 누락, 보류(abstention) 오류, 기타 품질 문제를 탐지하여 설명 가능한 증거를 제공합니다. 중요한 점은 이 평가 결과가 절대적인 정확성을 증명하는 것이 아니라 릴리스 게이트 의사 결정을 위한 증거 자료로 사용되어야 한다는 것입니다. 사용자는 임계값을 약화시키거나 기준을 대체하지 못하도록 하는 안전장치를 준수해야 하며, 공급자 기반 평가는 사용자가 명시적으로 공급자 구성을 제공하고 승인한 경우에만 실행해야 합니다. 최종 출력은 `decision`, `evidence`, `failed_gates`, `limitations`, `next_action`을 포함한 간결한 릴리스 권장 사항입니다.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/thangldw/ragops/tree/main/skills/evaluate-ai-release

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

AI 릴리스 평가은(는) 무엇을 하나요?

RAGOps를 결정론적 평가자로 사용합니다. 그 결과를 시스템이 보편적으로 올바르거나 안전하다는 증거가 아니라 릴리스 증거로 취급합니다.

워크플로우

  1. 시나리오, 후보 응답 또는 추적, 허용된 기준, 정책 임계값을 식별합니다. 누락된 픽스처를 임의로 만들지 마십시오.
  2. RAGOps 명령을 선택하거나 종료 코드를 해석할 때 references/commands.md를 읽습니다.
  3. 평가를 실행하기 전에 입력에서 비밀 또는 개인 데이터를 검사합니다. 사용자가 공유를 승인하지 않는 한 생성된 보고서는 비공개로 유지합니다.
  4. 이 스킬 디렉터리에서 python3 scripts/run_ragops.py ...를 통해 가장 좁은 범위의 명령을 실행합니다.
  5. 종료 코드 0을 PASS로, 종료 코드 2를 실행 실패가 아닌 평가된 BLOCK으로 해석합니다. 다른 비영 코드는 운영 오류로 처리합니다.
  6. 결정, 실패한 게이트, 중요한 메트릭 델타, 출처 제한 사항, 그리고 가장 작은 다음 조치를 보고합니다.

안전장치

  • 통과를 얻기 위해 임계값을 약화시키거나, 허용된 기준을 대체하거나, 실패 사례를 생략하지 마십시오.
  • 어휘 또는 인용 검사만 실행되었을 때 의미론적 정확성을 주장하지 마십시오.
  • 사용자가 명시적으로 공급자 구성을 제공하고 승인하지 않는 한 공급자 기반 평가를 실행하지 마십시오.
  • 이 스킬의 출력만을 기반으로 게시, 병합, 태그 또는 배포하지 마십시오.
  • 다른 검토자가 결과를 재현할 수 있도록 최종 증거에 입력 아티팩트와 명령 매개변수를 보존합니다.

출력

다음과 함께 간결한 릴리스 권장 사항을 반환합니다: decision, evidence, failed_gates, limitations, next_action.

관련 스킬