컨텍스트 엔지니어링은(는) 무엇을 하나요?
컨텍스트 엔지니어링은 LLM 작업을 위해 가장 작은 고신호 토큰 집합을 선별합니다. 목표: 토큰 사용을 최소화하면서 추론 품질을 극대화합니다.
활성화 시점
- 에이전트 시스템 설계/디버깅
- 컨텍스트 제한이 성능을 제약할 때
- 비용/지연 시간 최적화
- 멀티 에이전트 조정 구축
- 메모리 시스템 구현
- 에이전트 성능 평가
- LLM 기반 파이프라인 개발
핵심 원칙
- 컨텍스트 품질 > 양 - 고신호 토큰이 포괄적인 콘텐츠보다 낫습니다.
- 주의력은 유한함 - U자 곡선은 시작/끝 위치를 선호합니다.
- 점진적 공개 - 정보를 적시에 로드합니다.
- 격리는 성능 저하를 방지 - 작업을 하위 에이전트에 분할합니다.
- 최적화 전에 측정 - 기준을 알아야 합니다.
중요:
- 간결함을 위해 문법을 희생하세요.
- 높은 품질을 유지하면서 토큰 효율성을 보장하세요.
- 이 규칙을 하위 에이전트에 전달하세요.
빠른 참조
| 주제 | 사용 시점 | 참고 자료 |
|---|---|---|
| 기초 | 컨텍스트 구조, 주의 메커니즘 이해 | context-fundamentals.md |
| 성능 저하 | 실패 디버깅, 중간 손실, 오염 | context-degradation.md |
| 최적화 | 압축, 마스킹, 캐싱, 분할 | context-optimization.md |
| 압축 | 긴 세션, 요약 전략 | context-compression.md |
| 메모리 | 세션 간 지속성, 지식 그래프 | memory-systems.md |
| 멀티 에이전트 | 조정 패턴, 컨텍스트 격리 | multi-agent-patterns.md |
| 평가 | 에이전트 테스트, LLM-as-Judge, 지표 | evaluation.md |
| 도구 설계 | 도구 통합, 설명 엔지니어링 | tool-design.md |
| 파이프라인 | 프로젝트 개발, 배치 처리 | project-development.md |
| 런타임 인식 | 사용 한도, 컨텍스트 창 모니터링 | runtime-awareness.md |
주요 지표
- 토큰 사용률: 70%에서 경고, 80%에서 최적화 트리거
- 토큰 분산: 에이전트 성능 분산의 80% 설명
- 멀티 에이전트 비용: 단일 에이전트 기준선의 약 15배
- 압축 목표: 50-70% 감소, 품질 손실 <5%
- 캐시 적중 목표: 안정적인 작업 부하에서 70%+
4-버킷 전략
- 쓰기: 컨텍스트를 외부에 저장 (스크래치패드, 파일)
- 선택: 관련 컨텍스트만 가져오기 (검색, 필터링)
- 압축: 정보를 보존하면서 토큰 줄이기 (요약)
- 격리: 하위 에이전트 간 분할 (파티셔닝)
안티 패턴
- 선별된 컨텍스트 대신 포괄적인 컨텍스트
- 중간 위치에 중요한 정보 배치
- 한도 도달 전 압축 트리거 없음
- 병렬화 가능한 작업에 단일 에이전트 사용
- 명확한 설명이 없는 도구
지침
- 중요한 정보는 컨텍스트 시작/끝에 배치
- 70-80% 사용률에서 압축 구현
- 역할극이 아닌 컨텍스트 격리를 위해 하위 에이전트 사용
- 4-질문 프레임워크(무엇, 언제, 입력, 반환)로 도구 설계
- 요청당 토큰이 아닌 작업당 토큰 최적화
- 프로브 기반 평가로 검증
- 프로덕션에서 KV-캐시 적중률 모니터링
- 최소한으로 시작하고, 필요할 때만 복잡성 추가
런타임 인식
시스템은 PostToolUse 훅을 통해 사용량 인식을 자동으로 주입합니다:
<usage-awareness>
Claude Usage Limits: 5h=45%, 7d=32%
Context Window Usage: 67%
</usage-awareness>
임계값:
- 70%: 경고 - 최적화/압축 고려
- 90%: 심각 - 즉시 조치 필요
데이터 소스:
- 사용 한도: Anthropic OAuth API (
https://api.anthropic.com/api/oauth/usage) - 컨텍스트 창: 상태 라인 임시 파일 (
/tmp/ck-context-{session_id}.json)
스크립트
- context_analyzer.py - 컨텍스트 상태 분석, 성능 저하 감지
- compression_evaluator.py - 압축 품질 평가