Que fait Systèmes à latence critique ?
Utilisez cette compétence lorsque l'utilisateur se soucie du comportement en temps réel, des chemins chauds, de la fraîcheur du streaming ou de la vitesse d'exécution. Cela inclut les infrastructures de type HFT, mais la compétence est axée sur l'ingénierie. Elle n'autorise pas le trading en direct ni les conseils financiers.
Scinder les métriques
Ne réduisez pas tout à « rapide ». Suivez :
- latence p50, p95 et p99 ;
- débit ;
- âge de fraîcheur ;
- profondeur de file d'attente ;
- taux de succès du cache ;
- temps de réponse du fournisseur/API ;
- temps de rendu du navigateur ;
- exactitude sous charge ;
- comportement des échecs et des tentatives.
Cartographier le chemin chaud
Écrivez le chemin de l'utilisateur/événement à l'état visible final :
evenement source -> API fournisseur -> worker d'ingestion -> file d'attente -> cache -> route périphérique
-> flux client -> rendu navigateur -> état visible par l'utilisateur
Mesurez ensuite chaque segment séparément.
Ordre d'optimisation
- Supprimez les allers-retours inutiles.
- Mettez en cache les lectures stables avec des métadonnées de fraîcheur.
- Regroupez les petits appels et écritures.
- Déplacez le calcul plus près des données ou de l'utilisateur.
- Séparez les chemins chauds et froids.
- Appliquez une contre-pression avant que les files d'attente ne croissent sans limite.
- Utilisez le streaming uniquement lorsqu'il améliore la fraîcheur ou l'expérience utilisateur.
- Ajoutez des canaris pour les données obsolètes, les fournisseurs dégradés et le mauvais état du cache.
Vérification
Utilisez des lectures en direct lorsqu'une surface déployée existe :
- timing HTTP et en-têtes de réponse ;
- horodatage de fraîcheur du fournisseur ;
- état de la file d'attente ou du job ;
- état périphérique/cache ;
- vérification navigateur pour la fraîcheur réelle de l'interface utilisateur ;
- journaux autour des tentatives et du mode dégradé.
Pour les chemins liés aux données de marché ou à l'exécution, vérifiez également l'âge du carnet d'ordres, les hypothèses de VWAP, le statut du fournisseur et le comportement du coupe-circuit avant de déclarer le chemin prêt.
Garde-fous
- N'optimisez pas la latence en supprimant les validations requises.
- Ne cachez pas des données obsolètes derrière des succès de cache rapides.
- Ne revendiquez pas un comportement en millisecondes à partir d'étiquettes client sans mesure.
- N'exécutez pas d'ordres en direct, de migrations destructrices ou de déploiements impactant les clients sans une porte d'approbation explicite.
- Gardez les secrets et les charges utiles privées hors des journaux et des artefacts de benchmark.