Was macht Systemdesign?
Der häufigste Fehler ist, sofort mit Komponenten zu beginnen. Ein Entwurf, der Dienste benennt, bevor er Randbedingungen nennt, ist eine Schätzung mit eingezeichneten Kästen – und er kann nicht bewertet werden, weil nichts sagt, was er erreichen sollte.
1. Randbedingungen vor Komponenten
Schreiben Sie diese zuerst auf. Jede eliminiert bestimmte Entwürfe:
- Last – requests pro Sekunde zur Spitzenzeit und das Verhältnis von Lese- zu Schreiboperationen. Lese- und Schreibvorgänge skalieren auf völlig unterschiedliche Weise, daher bestimmt das Verhältnis mehr als die absolute Zahl.
- Daten – Gesamtvolumen, Wachstumsrate und die Größe eines einzelnen Elements.
- Konsistenz – was sofort korrekt sein muss und was veraltet sein darf. Fast nie „alles davon“; das Benennen des kleinen Teils, der strikt sein muss, macht den Rest günstig.
- Verfügbarkeit – was mit dem Geschäft während eines Ausfalls dieser Komponente passiert und welches degradierte Verhalten akzeptabel ist.
- Latenz – das Budget für den benutzerseitigen Pfad, ausgedrückt als Perzentil und nicht als Mittelwert.
- Eigentum – welches Team jede Komponente bereitstellt und alarmiert. Eine Grenze, die quer durch ein Team verläuft, wird bei jeder Änderung zu einem Koordinationsaufwand.
Schätzen Sie grob und sagen Sie dies auch. Eine Größenordnung reicht aus, um eine Architektur zu wählen; Genauigkeit, die Sie nicht haben, ist es nicht wert, ermittelt zu werden.
2. Grenzen
Grenzen Sie nach dem ab, was sich gemeinsam ändert, und danach, wer die Daten besitzt – nicht nach Substantiven. Ein Dienst, der nicht ohne einen anderen Dienst bereitgestellt werden kann, der gleichzeitig bereitstellt, ist ein Dienst in zwei Repositories mit zusätzlichen Netzwerkaufrufen.
Jedes Datenelement hat genau einen Besitzer, der es schreibt. Alle anderen lesen über die Schnittstelle des Besitzers oder über eine Kopie, die der Besitzer veröffentlicht. Zwei Dienste, die dieselbe Tabelle beschreiben, sind der verteilte Monolith: unabhängige Bereitstellungen, gemeinsamer Ausfall und kein klarer Ort, um eine Invariante durchzusetzen.
Bevorzugen Sie weniger, größere Dienste, bis ein echter Zwang eine Aufteilung erzwingt – unabhängige Skalierung, getrenntes Eigentum, grundlegend unterschiedliche Verfügbarkeitsanforderungen. Eine Aufteilung ist billig durchzuführen, aber teuer rückgängig zu machen, und jede Grenze verwandelt einen Funktionsaufruf in einen Netzwerkaufruf, der fehlschlagen, wiederholt werden und zweimal ankommen kann.
3. Synchron oder ereignisgesteuert
Rufen Sie synchron auf, wenn der Aufrufer ohne die Antwort nicht fortfahren kann und der Benutzer wartet. Jede synchrone Abhängigkeit addiert ihre Ausfallzeit zu Ihrer und ihre Latenz zu Ihrem Budget – zählen Sie sie also: Ein Request, der fünf Dienste synchron durchläuft, ist weniger verfügbar als jeder einzelne von ihnen.
Veröffentlichen Sie ein Ereignis, wenn andere Teile des Systems wissen müssen, dass etwas passiert ist, der Aufrufer aber nicht auf deren Antwort warten muss. Dies entkoppelt die Verfügbarkeit – der Konsument kann ausfallen, ohne den Schreibvorgang zu beeinträchtigen.
Seien Sie ehrlich bezüglich der Kosten. Ein Ereignis bringt Ihnen eventual consistency, Nachrichten in falscher Reihenfolge und Duplikate sowie einen Debugging-Pfad, der nicht mehr in einem einzigen Stack-Trace erscheint. Gehen Sie diesen Kompromiss ein, wenn Sie die Entkopplung wirklich brauchen – nicht, weil es modern klingt.
Wenn ein Schreibvorgang lokalen Zustand aktualisieren und jemand anderen benachrichtigen muss, dürfen diese beiden nicht auseinanderlaufen können. Schreiben Sie das Ereignis in dieselbe Transaktion wie die Zustandsänderung und veröffentlichen Sie es von dort aus – nicht, indem Sie die Zeile schreiben und dann den Broker aufrufen. Die Lücke zwischen diesen beiden Aufrufen ist der Ort, an dem die verlorene Nachricht lebt.
4. Gehen Sie davon aus, dass jeder entfernte Aufruf fehlschlägt
Legen Sie für jeden im Voraus fest:
- Timeout – ein explizites, kürzer als das Budget des Aufrufers. Ein Aufruf ohne Timeout verwandelt eine langsame Abhängigkeit in einen Ausfall, da sich Threads aufstauen.
- Wiederholung – nur für flüchtige Fehler, nur mit Backoff und Jitter, und nur, wenn die Operation idempotent ist. Das Wiederholen eines nicht-idempotenten Schreibvorgangs dupliziert ihn; synchronisierte Wiederholungen von jedem Client verwandeln eine kurze Störung in eine Stampede.
- Idempotenz – ein Schlüssel, den der Aufrufer bereitstellt, damit eine Wiederholung nach einem Timeout erkannt wird. Der Aufrufer kann eine verlorene Anfrage nicht von einer verlorenen Antwort unterscheiden, also wird er sie wiederholen.
- Degradierung – was der Benutzer sieht, wenn dieser Dienst ausfällt. Die Auslieferung eines gecachten oder partiellen Ergebnisses ist meist besser als eine Fehlerseite, und die Entscheidung zur Entwurfszeit macht dies möglich.
5. Konsistenz
Identifizieren Sie die Invariante, die niemals verletzt werden darf – Geld muss erhalten bleiben, Bestand darf nicht überverkauft werden, keine Doppelbelastung – und halten Sie sie innerhalb einer einzigen Transaktion in einem einzigen Dienst. Diese Randbedingung sollte mehr als jede andere Ihre Grenzen bestimmen.
Alles außerhalb dieser Invariante kann eventual consistent sein. Wenn ein Arbeitsablauf mehrere Dienste umspannt, modellieren Sie ihn als eine Sequenz lokaler Transaktionen mit einer Ausgleichsaktion für jeden Schritt – und akzeptieren Sie, dass die Zwischenzustände sichtbar sind.
Verteilte Transaktionen über Dienste hinweg sind das letzte Mittel. Die Ausgleichsaktions-Entwurfsweise ist schwerer zu durchdenken, aber weitaus einfacher zu betreiben.
6. Schreiben Sie es auf
Randbedingungen <Last, Daten, Konsistenz, Verfügbarkeit, Latenz, Eigentum>
Entwurf <Komponenten und was jede besitzt>
Abläufe <die zwei oder drei wichtigen Pfade, in der richtigen Reihenfolge>
Fehlerverhalten <was passiert, wenn jede Abhängigkeit ausfällt, und was der Benutzer sieht>
Kompromisse <was dieser Entwurf erschwert, und was Sie zuerst ändern würden bei 10x>
Abgelehnt <die Alternative und warum nicht>
Die Zeilen Fehlerverhalten und Abgelehnt sind das, was einen Entwurf von einer Zeichnung unterscheidet. Ein Vorschlag, der nur den Happy Path beschreibt, wurde nicht bewertet.
Nicht tun
- Fügen Sie keine Warteschlange, keinen Cache und keinen Shard für eine Last hinzu, die Sie nicht gemessen oder geschätzt haben.
- Entwerfen Sie nicht für 100x, wenn Sie bei 1x sind. Entwerfen Sie so, dass der bekannte nächste Schritt möglich ist, und sagen Sie, was als erstes jenseits davon bricht.
- Präsentieren Sie keine einzelne Option als unvermeidlich. Nennen Sie, was Sie abgelehnt haben.