系統設計
失敗的模式是直接跳到元件。一個在寫下約束條件之前就命名服務的設計,不過是帶有方框的猜測,而且無法被評估,因為沒有說明它原本應該達成什麼。
1. 先有約束條件,再有元件
首先寫下這些。每一個約束都會排除某些設計:
- 負載 — 尖峰時的每秒請求數,以及讀寫比例。讀取和寫入的擴展方式完全不同,因此比例比絕對數字更能決定架構。
- 資料 — 總體積、增長率,以及單一資料項的大小。
- 一致性 — 哪些部分必須立即正確,哪些部分可以暫時落後。幾乎從來不是「全部」;明確指出必須嚴格的那一小部分,才是讓其餘部分變得便宜的關鍵。
- 可用性 — 當此元件中斷時,業務會受到什麼影響,以及可接受的降級行為是什麼。
- 延遲 — 使用者面向路徑的預算,以百分位數而非平均值來衡量。
- 所有權 — 哪個團隊部署並負責每個部分的監控。跨越團隊的邊界會在每次變更時產生協調成本。
粗略估算並明確說明。數量級就足以選擇架構,而你沒有的精確值不值得耗費精力去計算。
2. 邊界
根據什麼一起變更以及誰擁有資料來劃分,而不是根據名詞。一個不能在不部署另一個服務的情況下獨立部署的服務,其實是一個服務放在兩個儲存庫中,還增加了網路呼叫。
每個資料片段只有一個擁有者負責寫入。其他所有人透過擁有者的介面或擁有者發佈的副本來讀取。兩個服務寫入同一個資料表就是分散式巨石架構:獨立部署、共享故障,而且沒有明確的地方來執行不可變條件。
傾向於使用更少但更大的服務,直到有真正的力量迫使你進行拆分 — 獨立擴展、不同所有權、真正不同的可用性需求。拆分容易,但撤銷困難,而且每條邊界都會將一個函式呼叫轉換成一個可能失敗、重試且到達兩次的網路呼叫。
3. 同步或事件驅動
當呼叫者在沒有答案的情況下無法繼續前進,而且使用者正在等待時,就使用同步呼叫。每個同步依賴都會將其停機時間加到你的系統上,並將其延遲加到你的預算中,所以要數清楚:一個請求同步觸及五個服務,其可用性會低於其中任何一個服務。
當系統的其他部分需要知道某件事發生了,但呼叫者不需要它們的回應時,就發佈一個事件。這可以使可用性解耦 — 消費者可以停機而不會導致寫入失敗。
誠實面對代價。事件會帶來最終一致性、亂序和重複傳遞,以及不再出現在單一堆疊追蹤中的除錯路徑。只有在你需要解耦時才接受這個取捨,而不是因為它聽起來很新潮。
當一個寫入必須同時更新本地狀態 並 通知其他人時,這兩者不能產生分歧。將事件寫入與狀態變更相同的事務中,並從那裡發佈它,而不是先寫入資料行再呼叫訊息代理 — 這兩次呼叫之間的空隙就是訊息遺失的地方。
4. 假設每個遠端呼叫都會失敗
對每個呼叫,提前決定:
- 逾時 — 一個明確的逾時時間,比呼叫者自己的預算更短。沒有逾時的呼叫會將一個緩慢的依賴變成一個因執行緒堆積而導致的停機。
- 重試 — 僅針對暫時性故障,且僅在搭配退避和抖動時使用,並且僅在操作是冪等時使用。重試一個非冪等的寫入會產生重複;來自所有客戶端的同步重試會將一個小問題變成一次雪崩。
- 冪等性 — 一個由呼叫者提供的鍵,以便在逾時後能夠識別重試。呼叫者無法區分請求遺失和回應遺失,因此它會重試。
- 降級 — 當此元件持續停機時,使用者會看到什麼。提供快取或部分結果通常比錯誤頁面更好,而在設計時就決定這一點,是讓它成為可能的關鍵。
5. 一致性
識別出絕不能破壞的不變條件 — 資金守恆、庫存不超賣、不重複收費 — 並將其保持在單一服務的單一事務內。這個約束比其他任何約束都更能決定你的邊界。
該不變條件之外的一切都可以是最終一致性。當一個工作流程跨越多個服務時,將其建模為一系列本地事務,每個步驟都有一個補償動作,並接受中間狀態是可見的。
跨服務的分散式事務是最後的手段。補償動作的設計雖然更難思考,但操作起來卻遠為容易。
6. 寫下來
約束條件 <負載、資料、一致性、可用性、延遲、所有權>
設計 <元件以及每個元件擁有的東西>
流程 <兩個或三個重要的路徑,按順序排列>
故障 <當每個依賴元件停機時會發生什麼,以及使用者會看到什麼>
取捨 <這個設計讓什麼變得困難,以及在10倍規模時你會首先改變什麼>
被拒絕的方案 <替代方案以及為什麼不選它>
故障 和 被拒絕的方案 這兩行是區分設計與圖畫的關鍵。一個只描述快樂路徑的提案是未經評估的。
不要
- 不要為你尚未測量或估算的負載添加佇列、快取或分片。
- 不要在規模為1倍時設計100倍。設計時讓已知的下一步可行,並說明超越它時首先會破壞什麼。
- 不要將單一選項呈現為無可避免的。說出你拒絕了什麼。