llm-prompt-injection은(는) 무엇을 하나요?
LLM 프롬프트 인젝션 플레이북. AI/LLM 애플리케이션에서 직접 인젝션, RAG/브라우징을 통한 간접 인젝션, 도구 남용, 데이터 유출, MCP 보안 위험 및 방어 우회 기법을 테스트할 때 사용합니다.
개요
이 스킬은 LLM 애플리케이션의 프롬프트 인젝션 취약점을 탐지하고 테스트하기 위한 포괄적인 방법론을 제공합니다. 최신 공격 기술 및 방어 우회 기법을 다루며, 보안 연구원과 개발자가 AI 시스템의 견고성을 평가하는 데 도움을 줍니다.
지원 플랫폼
- Cursor - AI 코딩 에이전트 내에서 사용
- Claude Code (계획 중)
- Codex CLI (계획 중)
사용 예시
yak run llm-prompt-injection.kn -t "http://target-llm-app.com/chat"
포함된 테스트 항목
| 테스트 유형 | 설명 | 예시 페이로드 |
|---|---|---|
| 직접 인젝션 | 시스템 프롬프트 재정의 시도 | Ignore previous instructions... |
| 간접 인젝션 | RAG 데이터를 통한 주입 | 문서 내 숨겨진 명령 |
| 도구 남용 | 외부 도구 호출 악용 | execute_shell('rm -rf /') |
| 데이터 유출 | 민감 정보 추출 시도 | 개인 식별 정보 요청 |
| MCP 공격 | MCP 보안 취약점 테스트 | 권한 상승 시도 |
| 방어 우회 | 필터링 우회 기법 | 인코딩된 페이로드 |
작동 방식
- 대상 LLM 엔드포인트에 대한 연결 설정
- 각 테스트 유형별 페이로드 생성 및 전송
- 응답 분석을 통한 취약점 확인
- 상세 리포트 생성
면책 조항
이 스킬은 승인된 보안 테스트 목적으로만 사용해야 합니다. 무단 시스템 테스트는 법적 제재를 받을 수 있습니다.
라이선스
본 프로젝트는 MIT 라이선스에 따라 배포됩니다.
기여
버그 신고, 기능 제안, 풀 리퀘스트를 환영합니다. GitHub 저장소를 방문해 주세요.