上下文工程 是做什么的?
上下文工程旨在为LLM任务策划最小的高信号令牌集。目标:在最大化推理质量的同时最小化令牌使用。
何时激活
- 设计/调试代理系统
- 上下文限制制约性能
- 优化成本/延迟
- 构建多代理协调
- 实现记忆系统
- 评估代理性能
- 开发LLM驱动的管道
核心原则
- 上下文质量 > 数量 - 高信号令牌胜过详尽内容
- 注意力是有限的 - U形曲线偏向开始/结束位置
- 渐进式披露 - 即时加载信息
- 隔离防止退化 - 在子代理间分配工作
- 优化前先测量 - 了解你的基线
重要:
- 为简洁牺牲语法。
- 在保持高质量的同时确保令牌效率。
- 将这些规则传递给子代理。
快速参考
| 主题 | 何时使用 | 参考 |
|---|---|---|
| 基础 | 理解上下文结构、注意力机制 | context-fundamentals.md |
| 退化 | 调试故障、中间丢失、中毒 | context-degradation.md |
| 优化 | 压缩、掩码、缓存、分区 | context-optimization.md |
| 压缩 | 长会话、摘要策略 | context-compression.md |
| 记忆 | 跨会话持久化、知识图谱 | memory-systems.md |
| 多代理 | 协调模式、上下文隔离 | multi-agent-patterns.md |
| 评估 | 测试代理、LLM作为裁判、指标 | evaluation.md |
| 工具设计 | 工具整合、描述工程 | tool-design.md |
| 管道 | 项目开发、批处理 | project-development.md |
| 运行时意识 | 使用限制、上下文窗口监控 | runtime-awareness.md |
关键指标
- 令牌利用率:70%警告,80%触发优化
- 令牌方差:解释80%的代理性能方差
- 多代理成本:约15倍单代理基线
- 压缩目标:减少50-70%,质量损失<5%
- 缓存命中目标:稳定工作负载达到70%+
四桶策略
- 写入:将上下文保存到外部(临时记录、文件)
- 选择:仅提取相关上下文(检索、过滤)
- 压缩:在保留信息的同时减少令牌(摘要)
- 隔离:跨子代理拆分(分区)
反模式
- 详尽上下文优于精选上下文
- 关键信息置于中间位置
- 限制前未设置压缩触发器
- 单代理用于可并行化任务
- 工具缺乏清晰描述
指南
- 将关键信息放在上下文的开始/结束处
- 在70-80%利用率时实施压缩
- 使用子代理进行上下文隔离,而非角色扮演
- 以4问框架设计工具(什么、何时、输入、返回)
- 优化每任务的令牌数,而非每请求的令牌数
- 通过基于探测的评估进行验证
- 在生产中监控KV缓存命中率
- 从最小化开始,仅在证明需要时增加复杂性
运行时意识
系统通过PostToolUse钩子自动注入使用意识:
<usage-awareness>
Claude使用限制:5小时=45%,7天=32%
上下文窗口使用:67%
</usage-awareness>
阈值:
- 70%:警告 - 考虑优化/压缩
- 90%:临界 - 需要立即行动
数据源:
- 使用限制:Anthropic OAuth API(
https://api.anthropic.com/api/oauth/usage) - 上下文窗口:状态行临时文件(
/tmp/ck-context-{session_id}.json)
脚本
- context_analyzer.py - 上下文健康分析、退化检测
- compression_evaluator.py - 压缩质量评估