延迟关键系统 是做什么的？
当用户关注实时行为、热路径、流式数据新鲜度或执行速度时，请使用此技能。这包括高频交易（HFT）类基础设施，但该技能以工程实践为重点。它不授权进行实时交易或提供金融建议。
拆分指标
不要将所有指标简单归结为“快”。请跟踪：
- p50、p95 和 p99 延迟；
- 吞吐量；
- 新鲜度年龄；
- 队列深度；
- 缓存命中率；
- 提供商/API 响应时间；
- 浏览器渲染时间；
- 负载下的正确性；
- 失败和重试行为。
绘制热路径
编写从用户/事件到最终可见状态的路径：
源事件 -> 提供商 API -> 摄取工作器 -> 队列 -> 缓存 -> 边缘路由
-> 客户端流 -> 浏览器渲染 -> 用户可见状态
然后分别测量每个环节。
优化顺序
- 消除不必要的往返。
- 缓存稳定读取并携带新鲜度元数据。
- 批量处理小调用和写入。
- 将计算移动到更接近数据或用户的位置。
- 分离热路径和冷路径。
- 在队列无限增长之前应用背压。
- 仅当提升新鲜度或用户体验时才使用流式传输。
- 为过期数据、降级提供商和不良缓存状态添加看门狗。
验证
当存在已部署的表面时，使用实时回读：
- HTTP 计时和响应头；
- 提供商新鲜度时间戳；
- 队列或作业状态；
- 边缘/缓存状态；
- 浏览器验证实际 UI 新鲜度；
- 围绕重试和降级模式的日志。
对于市场数据或执行相关的路径，在标记路径就绪之前，还需验证订单簿年龄、VWAP 假设、提供商状态和终止开关行为。
护栏
- 不要为了优化延迟而放弃必要的验证。
- 不要用快速缓存命中来掩盖过期数据。
- 未经测量，不要声称客户端标签具有毫秒级行为。
- 没有明确的审批关口，不要运行实时订单、破坏性迁移或影响客户的部署。
- 不要将密钥和私有有效载荷记录在日志和基准测试产物中。