レイテンシクリティカルシステム は何をしますか？
ユーザーがリアルタイム動作、ホットパス、ストリーミングの鮮度、実行速度を気にする場合にこのスキルを使用します。HFTライクなインフラも含まれますが、本スキルはエンジニアリングに焦点を当てています。ライブ取引や金融アドバイスを許可するものではありません。
メトリクスの分割
すべてを「高速」にまとめないでください。以下の項目を追跡します：
- p50、p95、p99 レイテンシ
- スループット
- 鮮度
- キュー深度
- キャッシュヒット率
- プロバイダ/API 応答時間
- ブラウザレンダリング時間
- 負荷時の正しさ
- 障害とリトライ動作
ホットパスのマッピング
ユーザー/イベントから最終的な可視状態までのパスを記述します：
ソースイベント -> プロバイダAPI -> インジェストワーカー -> キュー -> キャッシュ -> エッジルート
-> クライアントストリーム -> ブラウザレンダリング -> ユーザー可視状態
次に、各セグメントを個別に測定します。
最適化の順序
- 不要なラウンドトリップを削除する。
- 安定した読み取りを鮮度メタデータとともにキャッシュする。
- 小さな呼び出しと書き込みをバッチ処理する。
- 計算をデータまたはユーザーの近くに移動する。
- ホットパスとコールドパスを分割する。
- キューが無制限に成長する前に背圧を適用する。
- 鮮度またはユーザーエクスペリエンスが向上する場合にのみストリーミングを使用する。
- 古いデータ、劣化したプロバイダ、不適切なキャッシュ状態に対するカナリアを追加する。
検証
デプロイされたサーフェスが存在する場合は、ライブリードバックを使用します：
- HTTP タイミングと応答ヘッダー
- プロバイダの鮮度タイムスタンプ
- キューまたはジョブの状態
- エッジ/キャッシュの状態
- 実際のUI鮮度に対するブラウザ検証
- リトライと劣化モードに関するログ
マーケットデータまたは実行に近いパスの場合、パスを準備完了と呼ぶ前に、オーダーブックの経過時間、VWAPの前提条件、プロバイダのステータス、キルスイッチの動作も検証します。
ガードレール
- 必要な検証を削除してレイテンシを最適化しないこと。
- 高速なキャッシュヒットの背後に古いデータを隠さないこと。
- 測定なしにクライアントラベルからミリ秒単位の動作を主張しないこと。
- 明示的な承認ゲートなしに、ライブ注文、破壊的な移行、または顧客に影響を与えるデプロイを実行しないこと。
- シークレットとプライベートペイロードをログやベンチマーク成果物に残さないこと。