컨텍스트 엔지니어링
컨텍스트 엔지니어링은 LLM 작업을 위해 가장 작은 고신호 토큰 집합을 선별합니다. 목표: 토큰 사용량을 최소화하면서 추론 품질을 극대화합니다.
활성화 시점
- 에이전트 시스템 설계/디버깅
- 컨텍스트 제한이 성능을 제약할 때
- 비용/지연 시간 최적화
- 다중 에이전트 조율 구축
- 메모리 시스템 구현
- 에이전트 성능 평가
- LLM 기반 파이프라인 개발
핵심 원칙
- 컨텍스트 품질 > 양 - 고신호 토큰이 포괄적인 내용을 이깁니다
- 주의는 유한하다 - U자형 곡선으로 시작/끝 위치를 선호합니다
- 점진적 공개 - 적시에 정보를 로드합니다
- 분리는 저하를 방지한다 - 작업을 하위 에이전트에 분할합니다
- 최적화 전에 측정하라 - 기준선을 알아야 합니다
중요:
- 간결함을 위해 문법을 희생하세요.
- 높은 품질을 유지하면서 토큰 효율성을 보장하세요.
- 이 규칙을 하위 에이전트에 전달하세요.
빠른 참조
| 주제 | 사용 시기 | 참조 |
|---|---|---|
| 기초 | 컨텍스트 구조, 주의 메커니즘 이해 | context-fundamentals.md |
| 저하 | 실패 디버깅, 중간에서 손실, 중독 | context-degradation.md |
| 최적화 | 압축, 마스킹, 캐싱, 분할 | context-optimization.md |
| 압축 | 긴 세션, 요약 전략 | context-compression.md |
| 메모리 | 세션 간 지속성, 지식 그래프 | memory-systems.md |
| 다중 에이전트 | 조율 패턴, 컨텍스트 분리 | multi-agent-patterns.md |
| 평가 | 에이전트 테스트, LLM-as-Judge, 메트릭 | evaluation.md |
| 도구 설계 | 도구 통합, 설명 엔지니어링 | tool-design.md |
| 파이프라인 | 프로젝트 개발, 배치 처리 | project-development.md |
| 런타임 인식 | 사용량 제한, 컨텍스트 윈도우 모니터링 | runtime-awareness.md |
주요 메트릭
- 토큰 활용률: 70%에서 경고, 80%에서 최적화 트리거
- 토큰 분산: 에이전트 성능 분산의 80%를 설명
- 다중 에이전트 비용: 단일 에이전트 기준 약 15배
- 압축 목표: 50-70% 감소, 품질 손실 5% 미만
- 캐시 적중 목표: 안정적인 워크로드에서 70%+
4버킷 전략
- 쓰기: 컨텍스트를 외부에 저장 (스크래치패드, 파일)
- 선택: 관련 컨텍스트만 가져오기 (검색, 필터링)
- 압축: 정보를 유지하면서 토큰 줄이기 (요약)
- 분리: 하위 에이전트로 분할 (분할)
안티 패턴
- 선별된 컨텍스트 대신 포괄적인 컨텍스트
- 중간 위치에 중요한 정보
- 제한 전 압축 트리거 없음
- 병렬화 가능한 작업에 단일 에이전트 사용
- 명확한 설명이 없는 도구
가이드라인
- 중요한 정보는 컨텍스트의 시작/끝에 배치
- 70-80% 활용률에서 압축 구현
- 역할극이 아닌 컨텍스트 분리를 위해 하위 에이전트 사용
- 4질문 프레임워크(무엇, 언제, 입력, 반환)로 도구 설계
- 요청당 토큰이 아닌 작업당 토큰 최적화
- 프로브 기반 평가로 검증
- 프로덕션에서 KV-캐시 적중률 모니터링
- 최소로 시작하고, 필요할 때만 복잡성 추가
런타임 인식
시스템은 PostToolUse 훅을 통해 사용량 인식을 자동으로 주입합니다:
<usage-awareness>
Claude Usage Limits: 5h=45%, 7d=32%
Context Window Usage: 67%
</usage-awareness>
임계값:
- 70%: 경고 - 최적화/압축 고려
- 90%: 심각 - 즉시 조치 필요
데이터 소스:
- 사용량 제한: Anthropic OAuth API (
https://api.anthropic.com/api/oauth/usage) - 컨텍스트 윈도우: 상태 표시줄 임시 파일 (
/tmp/ck-context-{session_id}.json)
스크립트
- context_analyzer.py - 컨텍스트 상태 분석, 저하 감지
- compression_evaluator.py - 압축 품질 평가