深入理解負(fù)載均衡

1、 深入理解負(fù)載均衡目 錄 TOC o 1-3 h z u HYPERLINK l _Toc526845678 1.負(fù)載均衡概念 PAGEREF _Toc526845678 h 3 HYPERLINK l _Toc526845679 2.負(fù)載均衡算法 PAGEREF _Toc526845679 h 4 HYPERLINK l _Toc526845680 3.健康檢測（health checks） PAGEREF _Toc526845680 h 4 HYPERLINK l _Toc526845681 4.負(fù)載均衡如何處理狀態(tài) PAGEREF _Toc526845681 h 4 HYPERLINK

2、l _Toc526845682 5.負(fù)載均衡雙機熱備（Hot standby） PAGEREF _Toc526845682 h 5負(fù)載均衡概念負(fù)載均衡是高可用架構(gòu)的一個關(guān)鍵組件，主要用來提高性能和可用性，通過負(fù)載均衡將流量分發(fā)到多個服務(wù)器，同時多服務(wù)器能夠消除這部分的單點故障。當(dāng)然負(fù)載均衡器本身就是一個單點故障隱患，可以考慮文章后面說的負(fù)載均衡雙機熱備或其他方案消除單點故障提高可用性。一個沒有使用負(fù)載均衡的Web架構(gòu)一般會長得像這樣： 沒有負(fù)載均衡的架構(gòu)在這個例子里面，用戶直接通過連接Web Server，如果這一個Web Server掛了那么整個系統(tǒng)都無法使用，也就是我們常說的系統(tǒng)中的單點故

3、障，同樣如果大量的用戶同時訪問這一臺服務(wù)器，那么這些用戶很可能會遇到加載時間緩慢或者根本無法連接的問題。這部分的單點故障可以通過引入負(fù)載均衡器和至少另一個Web Server來緩解。一般來說所有后端服務(wù)器會提供相同的內(nèi)容，以便用戶無論訪問哪個服務(wù)器都會收到一致的內(nèi)容。同時由于有多臺服務(wù)器同時提供服務(wù)，也加大了系統(tǒng)的負(fù)載能力提高了性能。負(fù)載均衡可以處理哪些類型的流量由于一般程序員接觸到的負(fù)載均衡可能大多都是處理HTTP、HTTPS流量的，但實際上負(fù)載均衡還可以處理TCP和UDP流量（比如對數(shù)據(jù)庫集群的訪問、DNS等）。負(fù)載均衡算法負(fù)載均衡算法用于確定流量應(yīng)該被分發(fā)到哪一個健康的服務(wù)器上，常見的幾

4、個算法如下：Round Robin 輪轉(zhuǎn)（Round Robin）意味著服務(wù)器會被按順序地選擇，比如負(fù)載均衡器會將第一個請求分配給第一個服務(wù)器，然后下一個請求分配給第二個服務(wù)器，這樣分配下去分配完一輪之后回到開頭分配給第一個服務(wù)器（操作系統(tǒng)調(diào)度算法復(fù)習(xí)一下）。這種方式比較適合各服務(wù)器處理能力相同而且每個業(yè)務(wù)處理量差不多的時候。Least Connections 最少連接（Least Connections）這個算法意味著負(fù)載均衡器會選擇當(dāng)前連接最少的服務(wù)器。IP hash 在這個算法下，負(fù)載均衡器根據(jù)請求源的IP來決定分發(fā)給哪個服務(wù)器。這個方法保證了一個特定的用戶會一直訪問相同的服務(wù)器。其他還

5、有一些不算太常見的算法，比如Url hash、Random等。健康檢測（health checks）在負(fù)載均衡算法一節(jié)中我們有一個前提，就是流量只會被分配到健康的服務(wù)器上，那么負(fù)載均衡器怎么去判斷服務(wù)器現(xiàn)在是否健康呢？為了監(jiān)控健康的服務(wù)器，健康檢查一般會通過配置的協(xié)議和端口嘗試去連接服務(wù)器來保證服務(wù)器正在監(jiān)聽。如果一個服務(wù)器的健康檢查失敗了，也就是說服務(wù)器無法正常響應(yīng)請求，那么就會被自動的移除池子中，流量也不會被分配到這個壞掉的服務(wù)器直到它能通過健康檢查。這塊具體的方式可以參考阿里云關(guān)于負(fù)載均衡的文檔健康檢查原理負(fù)載均衡如何處理狀態(tài)我們都知道基于session的用戶認(rèn)證會在服務(wù)器存有sessi

6、on的一些信息，但當(dāng)系統(tǒng)引入負(fù)載均衡的時候這樣會出現(xiàn)一些問題。舉個電商網(wǎng)站的例子，當(dāng)用戶U發(fā)送的登錄請求被分發(fā)到了服務(wù)器S1并在服務(wù)器中記錄了session信息，而當(dāng)用戶想要提交購物請求的時候這個請求被分發(fā)到了服務(wù)器S2，但服務(wù)器S2并沒有保存用戶U的session信息。為了解決這個問題一個是可以使用之前說的IP hash算法，這個算法根據(jù)IP來分配流量對應(yīng)的服務(wù)器，所以可以保證同一個用戶的流量會訪問到同一個服務(wù)器。另一個應(yīng)用層的方法是sticky session，中文應(yīng)該叫粘性會話，負(fù)載均衡器會設(shè)置一個cookie然后帶有這個cookie的session都會被分配到同一個服務(wù)器上。負(fù)載均衡雙機熱備（Hot standby）正如開頭所說，負(fù)載均衡器本身就是一個單點故障隱患，其中一個解決方案就是雙機熱備（提高可用性的一大基本方法就是冗余）。雙機熱備方案為了解決負(fù)