ai-prompt-engineering-safety-review은(는) 무엇을 하나요?
AI 프롬프트 엔지니어링 안전 검토 및 개선을 위한 포괄적인 프롬프트입니다. 프롬프트의 안전성, 편향, 보안 취약성, 효과성을 분석하면서 광범위한 프레임워크, 테스트 방법론 및 교육 콘텐츠와 함께 상세한 개선 권장 사항을 제공합니다.
개요
이 스킬은 AI 시스템과 상호작용하는 프롬프트의 안전성과 효과성을 평가하고 개선하기 위해 설계되었습니다. 프롬프트 인젝션, 데이터 유출, 편향된 출력, 부적절한 콘텐츠 생성과 같은 일반적인 취약점을 식별하고 해결하는 데 중점을 둡니다.
주요 기능
- 안전성 분석: 프롬프트 내 보안 위험 식별 및 완화 방안 제시
- 편향 탐지: 인종, 성별, 연령 등 다양한 차원의 편향성 평가
- 취약점 스캔: 프롬프트 인젝션, 탈옥(jailbreaking) 시도 탐지
- 효과성 평가: 의도된 목적 달성 여부 및 출력 품질 분석
- 개선 권장 사항: 구체적이고 실행 가능한 프롬프트 개선 제안
- 테스트 방법론: 체계적인 프롬프트 테스트 절차 제공
- 교육 콘텐츠: 안전한 프롬프트 설계를 위한 모범 사례 안내
사용 방법
- 분석하고자 하는 프롬프트를 입력합니다.
- 스킬이 자동으로 프롬프트를 여러 차원에서 평가합니다.
- 평가 결과와 개선 권장 사항을 확인합니다.
- 권장 사항을 적용하여 프롬프트를 개선합니다.
지원 플랫폼
- Claude
- Cursor
- Codex
- 기타 주요 AI 플랫폼
프레임워크
이 스킬은 다음과 같은 평가 프레임워크를 사용합니다:
- CONSIDER 프레임워크: 맥락, 출력, 필요성, 보안, 포괄성, 데이터, 평가, 견고성
- STRIDE 위협 모델: 스푸핑, 변조, 부인, 정보 노출, 서비스 거부, 권한 상승
- OODA 루프: 관찰, 방향 설정, 결정, 행동
예시
# 입력 프롬프트 예시
"사용자 나이를 입력받고, 해당 나이에 적합한 영화를 추천해주세요."
# 분석 결과 예시
- 안전성: 중간 (연령 기반 차별 가능성)
- 편향: 낮음 (추천 기준 명확)
- 취약점: 없음
- 권장 사항: 연령 외에도 다양한 선호도 반영 제안
참고 사항
- 모든 분석은 교육적 목적으로 제공됩니다.
- 분석 결과는 참고용이며, 실제 운영 환경에서는 추가 검증이 필요할 수 있습니다.