レイテンシクリティカルシステム は何をしますか？
ユーザーがリアルタイム動作、ホットパス、ストリーミングの鮮度、または実行速度を気にする場合にこのスキルを使用します。これにはHFTに近いインフラストラクチャも含まれますが、このスキルはエンジニアリングに焦点を当てています。ライブトレードや金融アドバイスを許可するものではありません。
メトリクスの分割
すべてを「高速」にまとめないでください。以下を追跡します：
- p50、p95、p99レイテンシ；
- スループット；
- 鮮度（経過時間）；
- キュー深度；
- キャッシュヒット率；
- プロバイダー/API応答時間；
- ブラウザレンダリング時間；
- 負荷時の正しさ；
- 障害と再試行動作。
ホットパスのマッピング
ユーザー/イベントから最終的な可視状態に至るパスを記述します：
ソースイベント -> プロバイダーAPI -> インジェストワーカー -> キュー -> キャッシュ -> エッジルート
-> クライアントストリーム -> ブラウザレンダリング -> ユーザー可視状態
その後、各セグメントを個別に計測します。
最適化の順序
- 不要なラウンドトリップを削除する。
- 安定した読み取りを鮮度メタデータとともにキャッシュする。
- 小さな呼び出しと書き込みをバッチ化する。
- 計算をデータまたはユーザーの近くに移動する。
- ホットパスとコールドパスを分割する。
- キューが無制限に成長する前にバックプレッシャーを適用する。
- 鮮度またはユーザーエクスペリエンスが向上する場合にのみストリーミングを使用する。
- 古いデータ、劣化したプロバイダー、および不適切なキャッシュ状態のためのカナリアを追加する。
検証
デプロイされたサーフェスが存在する場合は、ライブリードバックを使用します：
- HTTPタイミングと応答ヘッダー；
- プロバイダーの鮮度タイムスタンプ；
- キューまたはジョブの状態；
- エッジ/キャッシュの状態；
- 実際のUI鮮度に関するブラウザ検証；
- 再試行とデグレードモードに関するログ。
マーケットデータまたは実行に近いパスの場合は、パスをReadyと判断する前に、オーダーブックの経過時間、VWAPの前提、プロバイダーステータス、およびキルスイッチ動作も検証します。
ガードレール
- 必須のバリデーションを省略してレイテンシを最適化しない。
- 高速なキャッシュヒットの背後に古いデータを隠さない。
- 計測なしでクライアントラベルからミリ秒単位の動作を主張しない。
- 明示的な承認ゲートなしで、ライブ注文、破壊的マイグレーション、または顧客に影響を与えるデプロイを実行しない。
- シークレットとプライベートペイロードをログやベンチマーク成果物に含めない。