服務(wù)器集群與負(fù)載均衡

從集群系統(tǒng)到負(fù)載均衡

匯報(bào)人：張學(xué)佩2021/5/91內(nèi)容簡介集群系統(tǒng)代理服務(wù)器負(fù)載均衡系統(tǒng)2021/5/92集群系統(tǒng)一、什么是集群技術(shù)？(Cluster)

舉個(gè)例子來說，我們架設(shè)了一臺(tái)網(wǎng)絡(luò)服務(wù)器，上面構(gòu)建了一個(gè)電子商務(wù)網(wǎng)站，然而隨著時(shí)間的推移，名聲越來越大，這時(shí)點(diǎn)擊率也就越來越高，服務(wù)器的負(fù)載也就越來越高。這種情況下，我們就必須提升服務(wù)器的能力，以滿足日益增長的服務(wù)請(qǐng)求。這時(shí)，我們就面臨兩種選擇：1）升級(jí)網(wǎng)絡(luò)服務(wù)器，采用更快的CPU，增加更多的內(nèi)存，使其具有更強(qiáng)的性能；但日益增長的服務(wù)請(qǐng)求又會(huì)使服務(wù)器再次過載，需要再次升級(jí)，這樣就陷入了升級(jí)的怪圈。還有，升級(jí)時(shí)還得考慮到服務(wù)如何接續(xù)，能否中止。2）增加更多的服務(wù)器，讓多臺(tái)服務(wù)器來完成相同的服務(wù)?；旌闲头?wù)器集群系統(tǒng)2021/5/93集群系統(tǒng)二、集群技術(shù)的目的

1提高性能一些計(jì)算密集型應(yīng)用，如：天氣預(yù)報(bào)、核試驗(yàn)?zāi)M等，需要計(jì)算機(jī)要有很強(qiáng)的運(yùn)算處理能力，現(xiàn)有的技術(shù)，即使普通的大型機(jī)其計(jì)算也很難勝任。這時(shí)，一般都使用計(jì)算機(jī)集群技術(shù)，集中幾十臺(tái)甚至上百臺(tái)計(jì)算機(jī)的運(yùn)算能力來滿足要求。提高處理性能一直是集群技術(shù)研究的一個(gè)重要目標(biāo)之一。2降低成本通常一套較好的集群配置，其軟硬件開銷要超過10W美元。但與價(jià)值上百萬美元的專用超級(jí)計(jì)算機(jī)相比已屬相當(dāng)便宜。在達(dá)到同樣性能的條件下，采用計(jì)算機(jī)集群比采用同等運(yùn)算能力的大型計(jì)算機(jī)具有更高的性價(jià)比。2021/5/94集群系統(tǒng)3提高可擴(kuò)展性用戶若想擴(kuò)展系統(tǒng)能力，不得不購買更高性能的服務(wù)器，才能獲得額外所需的CPU和存儲(chǔ)器。如果采用集群技術(shù)，則只需要將新的服務(wù)器加入集群中即可，對(duì)于客戶來看，服務(wù)無論從連續(xù)性還是性能上都幾乎沒有變化，好像系統(tǒng)在不知不覺中完成了升級(jí)。4增強(qiáng)可靠性集群技術(shù)使系統(tǒng)在故障發(fā)生時(shí)仍可以繼續(xù)工作，將系統(tǒng)停運(yùn)時(shí)間減到最小。集群系統(tǒng)在提高系統(tǒng)的可靠性的同時(shí)，也大大減小了故障損失。二、集群技術(shù)的目的2021/5/95集群系統(tǒng)1、高性能計(jì)算集群(HPCCluster)

也叫科學(xué)集群，充分利用集群中的每一臺(tái)計(jì)算機(jī)的資源，實(shí)現(xiàn)復(fù)雜運(yùn)算的并行計(jì)算，以解決復(fù)雜的科學(xué)問題。通常用于科學(xué)計(jì)算領(lǐng)域，比如基因分析，化學(xué)分析等。2、高可用性集群(HACluster)

高可用性集群的主要目的是為了使集群的整體服務(wù)盡可能持續(xù)可用，當(dāng)主服務(wù)器故障時(shí)，備份服務(wù)器能夠自動(dòng)接管主服務(wù)器的工作，并及時(shí)切換過去，以實(shí)現(xiàn)對(duì)用戶的不間斷、不停機(jī)服務(wù)。3、負(fù)載均衡集群(LBCluster)

負(fù)載均衡集群的每個(gè)節(jié)點(diǎn)都可以承擔(dān)一定的處理負(fù)載，并且可以實(shí)現(xiàn)處理負(fù)載在節(jié)點(diǎn)之間的動(dòng)態(tài)分配，以實(shí)現(xiàn)負(fù)載均衡。集群中所有的節(jié)點(diǎn)都處于活動(dòng)狀態(tài)，它們分?jǐn)傁到y(tǒng)的工作負(fù)荷。三、集群系統(tǒng)的分類2021/5/96集群系統(tǒng)

服務(wù)器集群系統(tǒng)就是指通過集群技術(shù)將很多服務(wù)器集中起來一起進(jìn)行同一種服務(wù)，在客戶端看來就像是只有一個(gè)服務(wù)器?，F(xiàn)在的中大型企業(yè)都用到了服務(wù)器集群系統(tǒng)，比如：百度、新浪、網(wǎng)易、騰訊等。

然而，對(duì)于服務(wù)器集群系統(tǒng)來說，用戶訪問的域名網(wǎng)址都是一樣的，那么用戶的具體訪問請(qǐng)求會(huì)交給集群中的哪個(gè)服務(wù)器來處理？如果有很多訪問請(qǐng)求，那么集群系統(tǒng)到底怎么分配這些請(qǐng)求任務(wù)給集群中的每臺(tái)服務(wù)器？

這里涉及到兩個(gè)概念——反向代理和負(fù)載均衡。四、服務(wù)器集群系統(tǒng)2021/5/97代理服務(wù)器

我們有時(shí)候，用自己的計(jì)算機(jī)A想訪問國外的某個(gè)網(wǎng)站B，但是訪問不了，此時(shí)，有一臺(tái)中間服務(wù)器C可以訪問國外的網(wǎng)站B，那么，我們可以用自己的電腦訪問服務(wù)器C，通過C來訪問B這個(gè)網(wǎng)站。那么這個(gè)時(shí)候，服務(wù)器C稱為代理服務(wù)器，這種訪問方式叫做正向代理。正向代理有一個(gè)特點(diǎn)，就是我們明確知道要訪問哪個(gè)網(wǎng)站。再如，當(dāng)我們有一個(gè)服務(wù)器集群，并且服務(wù)器集群中的每臺(tái)服務(wù)器的內(nèi)容一樣都一致，同樣的，我們想要直接從個(gè)人電腦訪問到服務(wù)器集群管理的網(wǎng)站，但是此時(shí)我們并不知道是哪一臺(tái)服務(wù)器提供的內(nèi)容，通過第三方服務(wù)器傳遞了請(qǐng)求后依然得到了想要的頁面，此時(shí)的代理方式稱為反向代理。

什么是代理？2021/5/98代理服務(wù)器

正向代理網(wǎng)站B訪問不了怎么辦？服務(wù)器C計(jì)算機(jī)A2021/5/99代理服務(wù)器

反向代理計(jì)算機(jī)A可是我自身沒有數(shù)據(jù)怎么辦數(shù)據(jù)A數(shù)據(jù)B數(shù)據(jù)C服務(wù)器E2021/5/910負(fù)載均衡

當(dāng)一臺(tái)服務(wù)器的單位時(shí)間內(nèi)的訪問量越大的時(shí)候，服務(wù)器的壓力會(huì)越大。當(dāng)一臺(tái)服務(wù)器壓力大得超過自身的承受能力的時(shí)候，服務(wù)器會(huì)崩潰。為了避免服務(wù)器崩潰，讓用戶有更好地體驗(yàn)，我們通常通過負(fù)載均衡的方式來分擔(dān)服務(wù)器的壓力。那么什么是負(fù)載均衡呢？當(dāng)用戶訪問我們網(wǎng)站的時(shí)候，先訪問一個(gè)中間服務(wù)器，再讓這個(gè)中間服務(wù)器在服務(wù)器集群中選擇一個(gè)壓力較小的服務(wù)器，然后將該訪問請(qǐng)求引入該選擇的服務(wù)器。這樣，用戶的每次訪問，都會(huì)保證服務(wù)器集群中的每個(gè)服務(wù)器的壓力趨于平衡，分擔(dān)了服務(wù)器的總體壓力，避免了服務(wù)器崩潰的情況。

一、什么是負(fù)載均衡(LoadBalance)？2021/5/911負(fù)載均衡二、負(fù)載均衡算法

一般來說，企業(yè)可依需求自行設(shè)定負(fù)載平衡規(guī)則，而網(wǎng)絡(luò)存取可參照所設(shè)定的規(guī)則，執(zhí)行網(wǎng)絡(luò)流量負(fù)載平衡算法。常見的算法則有：◎輪詢

◎加權(quán)輪詢

◎散列法

◎動(dòng)態(tài)輪詢◎最少連接法◎最快響應(yīng)法負(fù)載均衡結(jié)構(gòu)圖2021/5/912負(fù)載均衡三、負(fù)載均衡的實(shí)現(xiàn)方式軟件負(fù)載均衡技術(shù)該技術(shù)適用于一些中小型網(wǎng)站系統(tǒng)，可以滿足一般的均衡負(fù)載需求。軟件負(fù)載均衡技術(shù)是指在服務(wù)器集群中的代理服務(wù)器上安裝一個(gè)相應(yīng)的負(fù)載均衡軟件來實(shí)現(xiàn)的一種負(fù)載均衡技術(shù)。軟件可以很方便的安裝在服務(wù)器上，并且能實(shí)現(xiàn)一定的負(fù)載均衡功能。軟件負(fù)載均衡技術(shù)配置簡單、操作也方便，最重要的是成本很低。硬件負(fù)載均衡技術(shù)由于硬件負(fù)載均衡技術(shù)需要額外的增加負(fù)載均衡器，成本比較高，適用于流量高的大型網(wǎng)站系統(tǒng)。不過在現(xiàn)在較有規(guī)模的企業(yè)、政府網(wǎng)站，一般來說都會(huì)部署有硬件負(fù)載均衡設(shè)備（原因：1.硬件設(shè)備更穩(wěn)定2.效率高、更合規(guī)達(dá)標(biāo)）硬件負(fù)載均衡技術(shù)是在多臺(tái)服務(wù)器間安裝相應(yīng)的負(fù)載均衡設(shè)備(負(fù)載均衡器)來完成均衡負(fù)載技術(shù)，與軟件負(fù)載均衡技術(shù)相比，能達(dá)到更好的負(fù)載均衡效果。2021/5/913負(fù)載均衡三、負(fù)載均衡的實(shí)現(xiàn)方式本地負(fù)載均衡技術(shù)本地負(fù)載均衡技術(shù)是對(duì)本地服務(wù)器集群進(jìn)行負(fù)載均衡處理。該技術(shù)通過對(duì)服務(wù)器進(jìn)行性能優(yōu)化，使流量能夠平均分配在服務(wù)器群中的各個(gè)服務(wù)器上，其能有效地解決數(shù)據(jù)流量過大、網(wǎng)絡(luò)負(fù)荷過重的問題，并且不需花費(fèi)昂貴開支購置性能卓越的服務(wù)器，充分利用現(xiàn)有設(shè)備，避免服務(wù)器單點(diǎn)故障造成數(shù)據(jù)流量的損失。全局負(fù)載均衡技術(shù)(廣域負(fù)載均衡)全局負(fù)載均衡技術(shù)適用于擁有多個(gè)地域的服務(wù)器集群的大型網(wǎng)站系統(tǒng)。全局負(fù)載均衡技術(shù)是對(duì)分布在全國各個(gè)地區(qū)的多個(gè)服務(wù)器進(jìn)行負(fù)載均衡處理，該技術(shù)可以通過對(duì)訪問用戶的IP地理位置判定，自動(dòng)轉(zhuǎn)向地域最近點(diǎn)的服務(wù)器集群。很多大型網(wǎng)站都使用的這種技術(shù)。2021/5/914負(fù)載均衡四、負(fù)載均衡的主要應(yīng)用1.DNS負(fù)載均衡

最早的負(fù)載均衡技術(shù)是通過DNS來實(shí)現(xiàn)的，在DNS中為多個(gè)地址配置同一個(gè)名字，因而查詢這個(gè)名字的客戶機(jī)將得到其中一個(gè)地址，從而使得不同的客戶訪問不同的服務(wù)器，達(dá)到負(fù)載均衡的目的。DNS負(fù)載均衡是一種簡單而有效的方法，但是它不能區(qū)分服務(wù)器的差異，也不能反映服務(wù)器的當(dāng)前運(yùn)行狀態(tài)。2.NAT負(fù)載均衡

支持負(fù)載均衡的地址轉(zhuǎn)換網(wǎng)關(guān)，可以將一個(gè)外部IP地址映射為多個(gè)內(nèi)部IP地址，對(duì)每次TCP連接請(qǐng)求動(dòng)態(tài)使用其中一個(gè)內(nèi)部地址，達(dá)到負(fù)載均衡的目的。2021/5/915負(fù)載均衡四、負(fù)載均衡的主要應(yīng)用3.反向代理負(fù)載均衡

反向代理（ReverseProxy）負(fù)載均衡技術(shù)是把將來自Internet上的連接請(qǐng)求以反向代理的方式動(dòng)態(tài)地轉(zhuǎn)發(fā)給內(nèi)部網(wǎng)絡(luò)上的多臺(tái)服務(wù)器進(jìn)行處理，從而達(dá)到負(fù)載均衡的目的。2021/5/916負(fù)載均衡四、負(fù)載均衡的主要應(yīng)用4.混合型負(fù)載均衡

在有些大型網(wǎng)絡(luò)，由于多個(gè)服務(wù)器群內(nèi)硬件設(shè)備、各自的規(guī)模、提供的服務(wù)等的差異，可以考慮給每個(gè)服務(wù)器群采用最合適的負(fù)載均衡方式，然后又在這多個(gè)服務(wù)器群間再一次負(fù)載均衡或群集起來以一個(gè)整體向外界提供服務(wù)。2021/5/917負(fù)載均衡五、負(fù)載均衡產(chǎn)品1.負(fù)載均衡器（硬件）

負(fù)載均衡器也稱為負(fù)載均衡設(shè)備，其效果比軟件實(shí)現(xiàn)的負(fù)載均衡要高效、穩(wěn)定，而且還擁有很多其他的重要功能，如：1）基礎(chǔ)防火墻功能——數(shù)據(jù)包過濾 2）資源隱藏和內(nèi)容安全3）定制的應(yīng)用攻擊過濾 4）隔離協(xié)議攻擊5）網(wǎng)絡(luò)攻擊防護(hù) 6）Cookie加密7）高級(jí)SSL加密標(biāo)準(zhǔn) 8）抓包工具

常見的產(chǎn)商有：F5、Radware、Array、A10等國外著名品牌；北京華夏創(chuàng)新、深圳深信服、上海云速等國內(nèi)領(lǐng)軍品牌；2021/5/918負(fù)載均衡五、負(fù)載均衡產(chǎn)品2.負(fù)載均衡服務(wù)器（軟件）

1、ngnix——俄羅斯人開發(fā)的一個(gè)高性能的HTTP和反向代理服務(wù)器。由于Nginx超越Apache的高性能和穩(wěn)定性，使得國內(nèi)使用Nginx作為Web服務(wù)器的網(wǎng)站也越來越多，其中包括新浪博客、網(wǎng)易新聞、騰訊網(wǎng)、搜狐博客等門戶網(wǎng)站頻道等，在3w以上的高并發(fā)環(huán)境下，ngnix處理能力相當(dāng)于Apache的10倍。2、lvs——LinuxVirtualServer的簡寫，意即Linux虛擬服務(wù)器，由畢業(yè)于國防科技大學(xué)的章文嵩博士于1998年5月創(chuàng)立。特點(diǎn)：抗負(fù)載能力強(qiáng)，配置性低，工作穩(wěn)定，無流量。2021/5/919負(fù)載均衡五、負(fù)載均衡產(chǎn)品2.負(fù)載均衡服務(wù)器（軟件）

3、HAProxy——HAProxy提供高可用性、負(fù)載均衡以及基于TCP和HTTP應(yīng)用的代理，支持虛擬主機(jī)，它是免費(fèi)、快速并且可靠的一種解決方案。HAProxy特別適用于那些負(fù)載特大的web站點(diǎn)，這些站點(diǎn)通常又需要Session保持或七層處理。HAProxy運(yùn)行的硬件上，完全可以支持?jǐn)?shù)以萬計(jì)的并發(fā)連接，同時(shí)可以保護(hù)你的web服務(wù)