컨텍스트 엔지니어링
컨텍스트 엔지니어링은 LLM 작업을 위해 가장 작은 고신호 토큰 세트를 구성합니다. 목표: 토큰 사용량을 최소화하면서 추론 품질을 극대화하는 것입니다.
활성화 시기
- 에이전트 시스템 설계/디버깅
- 컨텍스트 한도가 성능을 제약할 때
- 비용/지연 시간 최적화
- 다중 에이전트 조정 구축
- 메모리 시스템 구현
- 에이전트 성능 평가
- LLM 기반 파이프라인 개발
핵심 원칙
- 컨텍스트 품질 > 양 - 고신호 토큰이 포괄적인 내용보다 우선합니다.
- 주의는 유한하다 - U자형 곡선은 시작/끝 위치를 선호합니다.
- 점진적 공개 - 정보를 적시에 로드합니다.
- 격리는 성능 저하를 방지한다 - 작업을 하위 에이전트에 분할합니다.
- 최적화 전에 측정하라 - 기준선을 파악하세요.
중요:
- 간결함을 위해 문법을 희생하세요.
- 높은 품질을 유지하면서 토큰 효율성을 보장하세요.
- 이 규칙을 하위 에이전트에 전달하세요.
빠른 참조
| 주제 | 사용 시기 | 참조 |
|---|---|---|
| 기본 사항 | 컨텍스트 구조, 주의 메커니즘 이해 | context-fundamentals.md |
| 성능 저하 | 실패 디버깅, 중간 손실, 오염 | context-degradation.md |
| 최적화 | 압축, 마스킹, 캐싱, 분할 | context-optimization.md |
| 압축 | 긴 세션, 요약 전략 | context-compression.md |
| 메모리 | 세션 간 지속성, 지식 그래프 | memory-systems.md |
| 다중 에이전트 | 조정 패턴, 컨텍스트 격리 | multi-agent-patterns.md |
| 평가 | 에이전트 테스트, LLM-as-Judge, 메트릭 | evaluation.md |
| 도구 설계 | 도구 통합, 설명 엔지니어링 | tool-design.md |
| 파이프라인 | 프로젝트 개발, 배치 처리 | project-development.md |
| 런타임 인식 | 사용 한도, 컨텍스트 창 모니터링 | runtime-awareness.md |
주요 메트릭
- 토큰 사용률: 70%에서 경고, 80%에서 최적화 트리거
- 토큰 변동성: 에이전트 성능 변동의 80% 설명
- 다중 에이전트 비용: 단일 에이전트 기준선의 약 15배
- 압축 목표: 50-70% 감소, 품질 손실 5% 미만
- 캐시 적중 목표: 안정적인 워크로드의 경우 70%+
4-버킷 전략
- 쓰기: 컨텍스트를 외부에 저장 (스크래치패드, 파일)
- 선택: 관련 컨텍스트만 가져오기 (검색, 필터링)
- 압축: 정보를 보존하면서 토큰 줄이기 (요약)
- 격리: 하위 에이전트에 분할 (분할)
안티 패턴
- 선별된 컨텍스트 대신 포괄적인 컨텍스트
- 중간 위치에 중요한 정보 배치
- 한도 전에 압축 트리거 없음
- 병렬화 가능한 작업에 단일 에이전트 사용
- 명확한 설명이 없는 도구
지침
- 중요한 정보를 컨텍스트의 시작/끝에 배치하세요.
- 70-80% 사용률에서 압축을 구현하세요.
- 역할극이 아닌 컨텍스트 격리를 위해 하위 에이전트를 사용하세요.
- 4가지 질문 프레임워크(무엇, 언제, 입력, 반환)로 도구를 설계하세요.
- 요청당 토큰이 아닌 작업당 토큰에 최적화하세요.
- 프로브 기반 평가로 검증하세요.
- 프로덕션에서 KV-캐시 적중률을 모니터링하세요.
- 최소로 시작하고, 필요할 때만 복잡성을 추가하세요.
런타임 인식
시스템은 PostToolUse 후크를 통해 사용 인식을 자동으로 주입합니다:
<usage-awareness>
Claude Usage Limits: 5h=45%, 7d=32%
Context Window Usage: 67%
</usage-awareness>
임계값:
- 70%: 경고 - 최적화/압축 고려
- 90%: 심각 - 즉각적인 조치 필요
데이터 소스:
- 사용 한도: Anthropic OAuth API (
https://api.anthropic.com/api/oauth/usage) - 컨텍스트 창: 상태 표시줄 임시 파일 (
/tmp/ck-context-{session_id}.json)
스크립트
- context_analyzer.py - 컨텍스트 상태 분석, 성능 저하 감지
- compression_evaluator.py - 압축 품질 평가