Codex는 모델에 대한 추론 요청 시 전송되는 컨텍스트(메시지 기록)를 유지합니다.
- 기록 재작성 금지 - 컨텍스트는 증분 방식으로 구축되어야 합니다.
- 캐시 미스를 유발하는 컨텍스트의 빈번한 변경을 피하십시오.
- 무제한 항목 금지 - 모델 컨텍스트에 주입되는 모든 항목은 크기가 제한되어야 하며 하드 캡이 있어야 합니다.
- 10K 토큰보다 큰 항목은 없어야 합니다.
- 1K 토큰을 초과하는 새로운 개별 항목을 P0으로 강조 표시하십시오. 이러한 항목은 추가 수동 검토가 필요합니다.
- 모든 주입된 조각은
core/context에 구조체로 정의되고ContextualUserFragment트레이트를 구현해야 합니다.