《負載均衡解決方案》

實用文檔實用文檔—、用戶需求本案例公司中現有數量較多的服務器群:WEB網站服務器4臺郵件服務器2臺虛擬主機服務器10臺應用服務器2臺數據庫2臺（雙機+盤陣）希望通過服務器負載均衡設備實現各服務器群的流量動態(tài)負載均衡，并互為冗余備份。并要求新系統應有一定的擴展性,如數據訪問量繼續(xù)增大,可再添加新的服務器加入負載均衡系統。二、需求分析我們對用戶的需求可分如下幾點分析和考慮：新系統能動態(tài)分配各服務器之間的訪問流量；同時能互為冗余，當其中一臺服務器發(fā)生故障時，其余服務器能即時替代工作，保證系統訪問的不中斷；新系統應能管理不同應用的帶竟,如優(yōu)先保證某些重要應用的帶寬要求,同時限定某些不必要應用的帶寬，合理高效地利用現有資源；新系統應能對高層應用提供安全保證，在路由器和防火墻基5岀上提供了更進一步的防線；新系統應具備較強的擴展性。o容量上:如數據訪問量繼續(xù)增大,可再添加新的服務器加入系統；o應用上:如當數據訪問量增大到防火墻成為瓶頸時，防火墻的動態(tài)負載均衡方案，又如針對鏈路提出新要求時關于Internet訪問鏈路的動態(tài)負載均衡方案等。三、解決方案WebSeiveisEinnHSnivelsAppliwtiorSelvesApplbanloi?S@rvei<WebSeiveisEinnHSnivelsAppliwtiorSelvesApplbanloi?S@rvei<梭子魚安全負載均衡方案總體設計實用文檔實用文檔實用文：實用文：采用服務器負載均衡設備提供本地的服務器群負載均衡和容錯，適用于處在同一個局域網上的服務器群。服務器負載均衡設備帶給我們的最主要功能是：當一臺服務器配置到不同的服務器群(Farm)上，就能同時提供多個不同的應用?？梢詫τ诿總€服務器群設定一個IP地址,或者利用服務器負載均衡設備的多TCP端口酉d置特性，酉8置超級服務器群(SuperFarm),統一提供各種應用服務。如圖，網絡中的四臺服務器向用戶提供了三種典型應用，分別為web、mail和ftp服務，因此管理員通過服務器負載均衡設備建立了三個不同的服務器群（Farm）,并指定參與每個服務器群的服務器。對于上述這個系統,服務器負載均衡設備的解決方案提供了三級全面冗余機制：對于每種應用，如WEB服務，同時有四臺機器提供服務，每臺機器的狀態(tài)可以設為regular（正常工作）或backup（備份狀態(tài)），或者同時設定為regular^負載均衡設備根據管理員事先設定的負載算法和當前網絡的實際的動態(tài)的負載情況決定下一個用戶的請求將被重定向到的服務器。而這一切對于用戶來說是完全透明的,用戶完成了對WEB服務的請求,并不用關心具體是哪臺服務器完成的。對于整個服務器系統，資源得到充分的利用和冗余。我們知道,—般情況下不同應用服務的用戶數目是不盡相同的，對于服務器資源的消耗也有所不同。如果對每一種應用只采取單獨的機器提供服務,不但存在單點故障問題,同時每臺服務器的利用也是不均勻的,可能存在大量的WEB請求,使單一的WEB服務器負荷超重;而同時FTP服務器卻處在基本空閑狀態(tài)。這也是一種系統資源的浪費,同時用戶得到的服務也不夠快捷。在引入了服務器負載均衡設備的服務器系統中，每臺機器的資源得到了充分利用，并減少了單點故障的問題。負載均衡設備也可以引入冗余備份機制。服務器負載均衡設備設備在網絡層次上起到類似"路由器"的作用，并利用專用的集成電路芯片（ASIC）完成智能的負載分配的工作。它的單點故障問題可以通過在系統中引入另外一臺服務器負載均衡設備設備來完成。但是與一般意義上的冗余備份機制不同,這時兩臺服務器負載均衡設備是同時處在工作狀態(tài),并互相備份的，而不是其中一臺處于閑置的Stand-By狀態(tài)。服務器負載均衡設備通過網絡互相監(jiān)測,一旦其中一臺不能正常工作,另一臺將接管其所有的任務。整個系統的可擴縮性也是顯而易見的：對于每一種特定服務，管理員可以根據具體的負載狀況調配服務器。如果某種服務的負載壓力過大，可以考慮在系統中別的服務器上在建立一個該服務的鏡像,只要簡單的在對應該服務的服務群中加入一個條目，新加的服務器就能參與到整個服務器群的工作中來了。系統中引入新的硬件服務器，或某臺服務器需要對其硬件進行升級或配置的時候，服務器負載均衡設備能夠自動監(jiān)測到這些變化。對于新加入的服務器，設有Warm-Up的時間，逐步地分配到該臺服務器的負載;對于從系統上撤掉的服務器，可以設定一個over的時間值，能夠保證在該臺服務器上的對話全部結束之后，才將服務器撤下，同時^悵續(xù)把流量分配到其它的服務器上，用戶得到了不間斷的服務。系統中所有服務器的配置，從硬件到操作系統或應用軟件都可以是異構的,不影響服務器負載均衡設備的功能發(fā)揮。網絡提供商可以靈活地逬行網絡服務器的升級擴容工作。四、為什么選擇梭子魚安全負載均衡機：高性能:梭子魚LB440負載均衡機提供業(yè)界至強的月艮務器負載均衡性能，支持每秒100,000的新建連接,900萬的并發(fā)連接。梭子魚負載均衡機會實時地對后臺服務器進行基于應用的健康檢查,并決定在真實服務器不可用情況下服務如何處理。采用Cookie的會話保持機制提供會話的完整性,這樣可以避免在使用源地址會話保持時,客戶端如果是通過統一的代理網關進行訪問而造成負載均衡的不均勻，導致某些服務器的連接數遠大于其他的服務器。梭子魚安全負載均衡機獨特的無線連接心跳監(jiān)控方式提供快速切換,是企業(yè)各種實時關鍵業(yè)務系統所必需的。強大的安全保護：梭子魚安全負載均衡機內置集成了IPS實時安全防護系統，可以檢測并阻扌當1000多種入侵攻擊和DOS攻擊。Web服務器集群負載均衡技術的應用與研究侯秀杰祝永志孔令鑫（曲阜師范大學計算機科學學院，山東日照276826）摘要為了提高集群系統對用戶的快速響應與整體吞吐量，必須采取一定的策略將Web訪問均衡地分配到集群中的每一個服務器。基于此思想本文針對傳統的單機思想給出了一種多機三層結構的負載均衡系統。實驗結果表明了它在負載均衡方面的優(yōu)越性。關犍詞負載均衡；均衡策略；調度算法；Web服務器集群模型1引言Internet的快速增長，特別是電子商務應用的發(fā)展，使Web應用成為目前最重要最廣泛的應用,Web服務器動態(tài)內容越來越流行。目前,網上信息交換量幾乎呈指數增長,需要更高性能的Web服務器提供更多用戶的Web服務,因此，Web服務器面臨看訪問量急劇增加的壓力，對其處理能力和響應能力等帶來更高的要求,如果Web服務器無法滿足大量Web訪問服務，將無法為用戶提供穩(wěn)定、良好的網絡應用服務。由于客觀存在的服務器物理內存、CPU處理速度和操作系統等方面的影響因素，當大量突發(fā)的數據到達時，Web服務器無法完全及時處理所有的請求，造成應答滯后、請求丟失等，嚴重的導致一些數據包因延時而重發(fā),使傳輸線路和服務器的負擔再次增加。傳統的方法是提高Web服務器的CPU處理速度和增加內存容量等硬件辦法但無論如何增加Web月艮務器硬件性能”均無法滿足日益增加的對用戶的訪問服務能力。面對日漸增加的Web訪問服務要求,必須對Web服務器按一定策略進行負載分配。禾I」用負載均衡山的技術，按照一定策略將Web訪問服務分配到幾臺服務器上，負載處理對用戶透明，整體上對夕卜如同一臺Web服務器為用戶提供Web服務。2Web負載均衡結構21負載均衡負載是一個抽象的概念,是表示系統繁忙程度,系統在一段時間空閑，該系統負載輕,系統在一段時間空忙，該系統負載重,影響系統負載的各種因數較多如果存在很多的數據包同時通過網絡連向一臺Web服務器,也就是網絡的速度比網絡所連接的設備速度快的情況下,系統負載不斷增加,直到最大。目前提高Web服務器性能，使其具有較強負載能力，主要有兩種處理思想【2】:1） 單機思想不斷升級服務器硬件性能，每當負載增加，服務器隨之升級。這隨之將帶來一些問題，首先，服務器向高檔升級，花費資金較多；其次，升級頻繁,機器切換造成服務中斷,可能會導致整個服務中斷；最后,每種架構的服務器升級總有一個極限限制。2） 多機思想

使用多臺服務器提供服務，通過一定機制使它們共同分擔系統負載，對單一的服務器沒有太咼的性能要求，系統負載增加,可以多增加服務器來分擔。對用戶而百,整個系統仿佛是一臺單一的邏輯服務器，這樣的系統能夠提供較強的可擴展性和較好的吞吐性能。為了適應當前急劇增長的Web訪問，有別于傳統的單機思想,解決單機思想帶來的—系列問題，本文提出了一種基于權值的策略分配負載。2.2負載均衡實現設備⑵目前實現負載均衡需要兩類的設備：服務器和分配器。1)服務器(Server)為用戶提供真正的服務，也就是指給用戶提供負載均衡服務的計算機設備,有關該設備的一些性能數據是負載均衡的主要依據之一。2)分配器(Dispatcher)由用戶瀏覽器、Web服務器組成兩層結構Web系統⑵，如圖1所示，實際是基于客戶端的負載均衡。Web服務器客尸喘交機WeL服務器Web服務器客尸喘交機WeL服務器負責給用戶服務分配服務器，分配器的主要功能是根據客戶和服務器的各種情況（這些情況要能反映服務器的負載狀況或性能狀況）通過一定的算法進行調動和分配工作，從而提高由服務器整體構成的網站的穩(wěn)定性、響應能力。它主要是集中所有的HTTP請求,然后分配到多臺Web服務器上處理,來提高系統的處理效率。23負載均衡系統結構231兩層結構的負載均衡系統在服務器上運行一們寺定的程序，該程序相當一個客戶端，它定期的收集服務器相關性能參數,如CPU、I/O、內存等動態(tài)信息,根據某種策略，確定提供最佳^務的服務器，將應用請求轉發(fā)給它。如果采集負載信息程序發(fā)現服務器失敗，則找其它服務器作為服務選擇。這是一種動態(tài)負載均衡技術，但是每臺服務器上必須安裝特定的客戶端程序，同時，為保證應用程序的透明性，需要對每個應用進行修改,能夠將訪問請求通過該客戶端程序轉發(fā)到其它服務器上，重定向方式進行,修改每一個應用程序,工作量十分大。232三層結構的負載均衡系統

由用戶瀏覽器、負載均衡和Web服務器組成三層結構Web系統⑵，如圖2所示。實際是基于服務器的負載均衡。圖2如果將基于客戶端的負載均衡中客戶端的負載均衡部分移植到一個中間平臺,形成—個應用服務器,構成請求、負載均衡和服務器的三層結構,客戶端應用不需要做特殊修改，透明的中間層將請求均衡的分布到不同的服務器。據服務器直接連到Internet與否有兩種多Web服務器結構：隔離式(Separation)和非隔離式(Unseparation)。隔離式是服務器不直接連到Internet,如圖3所示，非隔離式是服務器直接連到Internet,如圖4所示。圖3圖4圖4交換機隔離式中只有負載均衡器對外有一個IP地址，所有的請求由負載均衡器分配到不同的WebServer,所有WebSewer的返回結果也經過負載均衡器傳回給用戶。非隔離式中每一臺WebServer都有一個IP地址，用戶請求經過負載均衡器分配^WebServer,而請求的應答不經過負載均衡器，直接傳回用戶。為了減輕均衡器的負載，本文中采用了三層結構中的隔離方式。2.4負載均衡實現的方法Web負載均衡常見算法有⑶：循環(huán)調度算法(Round-RobinScheduling).加權循環(huán)調度算法(WeightedRound-RobinScheduling).最小連接調度算法(Least-ConnectionScheduling).目標地址散歹I」調度算法(DestinationHashingScheduling).源地址散列調度算法(SourceHashingScheduling)o本文采用基于權值的調度算法,也就是說權值大的服務器優(yōu)先得到調度,本文在實現時是基于靜態(tài)的權值，就是在開始的時候給每一個服務器配置一個默認的權值。當然也可以根據實際運行情況再對每一個服務器的權值進行調整。但是這需要實時的搜集每—個服務器的信息，如服務器的內存實用情況，響應速度等一些信息。3Web服務器集群環(huán)境配置與測試⑷【6冏31搭建環(huán)境311軟硬件環(huán)境的搭建⑴服務器有4臺，一臺安裝apache,三臺安裝tomcat.服務器的操作系統都是WindowsXP0其中安裝apache的服務器充當負載均衡器，其它三臺是給用戶真正服務的服務器。IP酉￡置,—臺安裝apache的IP為30,三臺安裝tomcat的服務器IP分別為31/132/133.312軟件的安裝與配置1)安裝tomcat的服務器的配置在三臺安裝tomcat的服務器上安裝jdk0配置jdk的安裝路徑，在壞境變量path中加入jdk的bin路徑，新建壞境變量JAVA.HOME指向jdk的安裝路徑。(3)在三臺要安裝tomcat的服務器上分別安裝tomcat，調試三個tomcat到能夠正常啟動。(4)tomcat的默認WEB服務端口是8080,默認的模式是單獨服務，我配置的三個tomcat的Web服務端口修改為7080/8888/9999。修改位置為tomcat的安裝目錄下的conf/server.xml在文件中找到下面的語句:<Connectorport="8080"maxHttpHeaderSize="8192"maxThreads="150"minSpareThreads="25"maxSpareThreads="75"enableLookups="false"redirectPort="8443"acceptCount=TOO"connectionTimeout="20000"disableUploadTimeout="true"/>只需改動Port二"8080"為上面提到的端口號就行，對安裝tomcat的三個服務器這個文件做改動。2)負載均衡服務器配置1⑴在那臺要安裝apache的服務器上安裝apache,我的安裝路徑為默認C:\ProgramFiles\ApacheGroup\Apache2o(2)安裝后測試apache能否正常啟動,調試到能夠正常啟動http://30。⑶下載jk2.0.4后解壓縮文件。將解壓縮后的目錄中的modules目錄中的modjk2.so文件復制到apache的安裝目錄下的modules目錄中。修改apache的安裝目錄中的conf目錄的配置文件httpd.conf,在文件中LoadModule模塊配置信息的最后加上一句LoadModulejk2_modules/mod」k2.so。分別修改三個tomcat的配置文件conf/server.xml在文件中找到下面的語句<Enginename=MStandalone"defaultHost二"localhost"jvmRoute二"jvml">只需改動jvmRoute的值,在這里分別改為tomcatl,tomcat2和tomcat3o3)均衡服務器的配置2在apache的安裝目錄中的conf目錄下創(chuàng)建文件pertie寫入文件內容如下：#finethecommunicationchannel[channel.socket:30:8009]Info=Ajpl3forwardingoversocket#配置第一個服務器tomcatld=tomcatl#要和tomcat的配置文件server.xml中的jvmRoute="tomcatl"名稱一致debug=0lb_factor=l#負載平衡因子，數字越大請求被分配的幾率越高。類似地再配置其它的服務器。最后加上這樣的句子info二Statusworker#displaysruntimeinformation[uri:/jkstatus.jsp]info二Displaystatusinformationandcheckstheconfigfileforchanges?Group=status:[uri:/*]info=MapthewholeWebappdebug二04） 安裝tomcat的服務器配置2在三個tomcat的安裝目錄中的webapps建立相同的應用，我和應用目錄名為GroupTest,在三個應用目錄中建立相同WEB-INF目錄和頁面index.jsp,index.jsp的頁面的主要內容是打印出為客戶服務的服務器的IP地址和端口號，當然還有其它一些內容,最主要的是這些內容,這樣當我們在測試的時候也方便地知道為其提供服務的服務到底是哪一個服務器，這個信息是非常重要的,這樣我們能看出當大量用戶訪問的時候我們能知道負載分配的情況。5） 集群配置分別修改三個tomcat的配置文件conf/server.xml找到以下面語句開始的地方:<!一<ClusterclassName=Morg.apache.catalina.cluster.tcp.SimpleTcpCIuster"<ClusterListenerclassName=norg.apache.catalina.cluster.session.ClusterSessionListener7></Cluster>一〉將最上r最下面的一行都改為<!—modifybywhh一〉就可以了。然后再在Conf目錄下建立perties文件，寫入下面一行，其中端口為相應的channelSocket.port=80096)集群應用配置對于要進行負載和集群的tomcat目錄下的webapps中的應用中的WEB-INF中的web.xml文件要添加如下一句酉8M<distributable/〉到此為止配置完成剩下的就是測試32環(huán)境的測試