淺析基于發(fā)量訪問的網(wǎng)站負載均衡設(shè)計

淺析基于發(fā)量訪問的網(wǎng)站負載均衡設(shè)計

隨著線上業(yè)務(wù)的發(fā)展，網(wǎng)站面臨高并發(fā)訪問和海量數(shù)據(jù)流的情況屢見不鮮，系統(tǒng)中的各個核心設(shè)備所負擔的處理能力和計算強度也會相應(yīng)增大，使得單一設(shè)備根本無法承擔。如果淘汰現(xiàn)有設(shè)備去做硬件升級，將造成資源的浪費，而且如果以后面臨業(yè)務(wù)量的激增，又不得不再次投入高額的硬件升級成本，甚至性能再卓越的設(shè)備也不能滿足將來業(yè)務(wù)量的需求。在此種情況下，單純的網(wǎng)絡(luò)架構(gòu)就顯得捉襟見肘了，而負載均衡機制則應(yīng)運而生。服務(wù)器負載均衡(ServerLoadBalancing)，其原理是將工作任務(wù)相對均衡地分攤到多個節(jié)點(服務(wù)器集群)上執(zhí)行，從而提升整個業(yè)務(wù)系統(tǒng)的性能。諸如LVS、HAProxy等開源軟件，可以在現(xiàn)有的網(wǎng)絡(luò)基礎(chǔ)架構(gòu)之上建立負載均衡機制，以滿足業(yè)務(wù)增長的需要，對于網(wǎng)站的來說不啻為一種廉價且有效的擴展性選擇。此外，針對互聯(lián)網(wǎng)上有可能影響數(shù)據(jù)傳輸?shù)母鞣N環(huán)節(jié)，CDN(ContentDeliveryNetwork)內(nèi)容交付網(wǎng)絡(luò)的應(yīng)對方案也適時出現(xiàn)。CDN對網(wǎng)站內(nèi)容的處理，主要在于利用緩存技術(shù)將靜態(tài)內(nèi)容快速分發(fā)至邊緣節(jié)點，通過讓用戶就近取得所需內(nèi)容，解決Internet網(wǎng)絡(luò)擁擠的狀況，提高用戶訪問網(wǎng)站的響應(yīng)速度，同時也減輕了網(wǎng)站自身系統(tǒng)的性能壓力?，F(xiàn)在看來，貌似我們已經(jīng)解決了網(wǎng)站發(fā)布所面臨的所有瓶頸了，但是實際上問題遠沒有那么簡單。一方面，對于數(shù)據(jù)交互比較頻繁的動態(tài)內(nèi)容而言，CDN只能在其中心節(jié)點與源數(shù)據(jù)節(jié)點(網(wǎng)站自身系統(tǒng))之間做有限的傳輸優(yōu)化，加速效果遠不如靜態(tài)內(nèi)容做緩存分發(fā)那般明顯。另一方面，隨著線上業(yè)務(wù)、電子商務(wù)等領(lǐng)域的Web內(nèi)容呈現(xiàn)日漸豐富，涌現(xiàn)出了愈發(fā)復(fù)雜的業(yè)務(wù)交付需求，這對網(wǎng)站的發(fā)布方而言也意味著將面臨更多的挑戰(zhàn)。因此，當我們拋開網(wǎng)絡(luò)的傳輸質(zhì)量、帶寬擁塞程度等外界因素來看的話，又不得不正視一個問題——影響網(wǎng)站訪問效果的最大瓶頸還是在于源數(shù)據(jù)節(jié)點自身的處理性能。以電子商務(wù)網(wǎng)站這種典型的大型高并發(fā)訪問量的線上業(yè)務(wù)為例，其性能瓶頸最容易出現(xiàn)在聯(lián)機事務(wù)處理(OLTP)的環(huán)節(jié)，例如訪問用戶進行條目查閱、訂單確認等場景。產(chǎn)生這種情況的原因在于，網(wǎng)站的運營方出于數(shù)據(jù)安全等因素的考慮，是不可能將后臺數(shù)據(jù)庫等資源完全向CDN服務(wù)商開放的。由此造成，所有涉及到此類動態(tài)資源的訪問就會頻繁地經(jīng)由CDN網(wǎng)絡(luò)的邊緣節(jié)點上溯到源數(shù)據(jù)節(jié)點(即網(wǎng)站自身系統(tǒng))來請求實時地響應(yīng)處理。在保障數(shù)據(jù)安全性的前提下，要解決網(wǎng)站的性能瓶頸問題，必須提高源數(shù)據(jù)節(jié)點的業(yè)務(wù)處理效率，因此我們還得從網(wǎng)絡(luò)架構(gòu)的設(shè)計著手。前文提到過，單臺服務(wù)器的處理能力有限，當突發(fā)訪問量驟然增加的時候，其性能就會成為整個系統(tǒng)的瓶頸，導致用戶訪問的響應(yīng)緩慢甚至網(wǎng)站服務(wù)器癱瘓。為了滿足高并發(fā)量訪問的需求，可以通過軟件手段實現(xiàn)服務(wù)器集群的多機負載均衡效果。然而，這種軟件式的負載均衡有一個不可避免的缺點，那便是系統(tǒng)的穩(wěn)定性和性能方面受限于軟件所安裝運行的服務(wù)器，一旦訪問量過大時，該臺服務(wù)器就恰恰成了整個系統(tǒng)的瓶頸所在。就一個發(fā)布線上業(yè)務(wù)的網(wǎng)站系統(tǒng)而言，前臺的Web服務(wù)器由于有外部的CDN服務(wù)作為靜態(tài)內(nèi)容的分流渠道，尚不至于產(chǎn)生明顯的系統(tǒng)瓶頸，而后臺處理動態(tài)內(nèi)容的核心業(yè)務(wù)系統(tǒng)就難免會感到壓力巨大了。具體分析的話，當前的業(yè)務(wù)系統(tǒng)多采用客戶端——中間件——數(shù)據(jù)庫的三層結(jié)構(gòu)設(shè)計，通常多是利用WebLogic中間件軟件自帶的服務(wù)器集群功能來滿足高性能需求，其中一臺WebLogicServer作為管理服務(wù)器負責任務(wù)調(diào)度，實現(xiàn)負載均衡效果。但是，當訪問用戶到達一定數(shù)目的時候，由于該服務(wù)器自身的硬件性能瓶頸，會造成整