F5服務(wù)器負(fù)載均衡方案

1、F5服務(wù)器負(fù)載均衡建議方案 F5服務(wù)器負(fù)載均衡建議方案2012 www.F2012-3-23 目錄1部署方式31.1方式一、單臂旁路接入31.2方式二、雙臂串接31.3部署說明42原理流程圖43負(fù)載均衡必要性54相關(guān)技術(shù)64.1服務(wù)器負(fù)載均衡算法64.2服務(wù)器健康檢查方法74.3會(huì)話保持技術(shù)94.4LTM相關(guān)加速技術(shù)104.4.1One Connect降低服務(wù)器TCP連接數(shù)量104.4.2HTTP頁面壓縮114.4.3RAM Cache124.4.4HTTPS Offload124.5設(shè)備自身冗余機(jī)制135性能參數(shù)141 部署方式1.1 方式一、單臂旁路接入1.2 方式二、雙臂串接1.3 部署

2、說明F5支持單臂旁路接入和雙臂串行等接入方式。因?yàn)镕5端口個(gè)數(shù)有限，建議采用單臂旁路模式，即F5旁掛在交換機(jī)上，通過交換機(jī)完成與服務(wù)器和客戶端之間的通訊。2 原理流程圖Ø BIGIP LTM對(duì)外提供一個(gè)虛擬的應(yīng)用服務(wù)器，接收所有的客戶端請(qǐng)求 Ø BIGIP LTM通過負(fù)載均衡算法處理，將客戶端請(qǐng)求轉(zhuǎn)發(fā)到后臺(tái)的多個(gè)應(yīng)用實(shí)例 Ø BIGIP LTM內(nèi)置可編程控制接口，可以對(duì)流量進(jìn)行編程控制處理 Ø BIGIP LTM通過應(yīng)用健康檢查，準(zhǔn)確的判斷應(yīng)用程序的工作和服務(wù)狀態(tài)，一旦發(fā)現(xiàn)應(yīng)用不能提供服務(wù)，則將其從負(fù)載均衡組中摘除3 負(fù)載均衡必要性隨著互聯(lián)網(wǎng)的發(fā)展，we

3、b服務(wù)的數(shù)據(jù)量越來越大，同時(shí)對(duì)應(yīng)用的高可用性提出了更高的要求，服務(wù)器主備冗余模式已經(jīng)不能滿足當(dāng)前需求，作為應(yīng)用交付行業(yè)內(nèi)最為成熟的方案提供商，F(xiàn)5的負(fù)載均衡技術(shù)可以實(shí)現(xiàn)以下目標(biāo)：Ø 實(shí)現(xiàn)應(yīng)用系統(tǒng)99.999%的不間斷訪問Ø 優(yōu)化應(yīng)用結(jié)構(gòu)Ø 節(jié)省服務(wù)器資源Ø 加速訪問，提高用戶體驗(yàn)Ø 實(shí)現(xiàn)應(yīng)用系統(tǒng)良好的擴(kuò)展性4 相關(guān)技術(shù)4.1 服務(wù)器負(fù)載均衡算法 BIG-IP是一臺(tái)對(duì)流量和內(nèi)容進(jìn)行管理分配的設(shè)備。它提供10種靈活的算法將數(shù)據(jù)流有效地轉(zhuǎn)發(fā)到它所連接的服務(wù)器群。而面對(duì)用戶，只是一臺(tái)虛擬服務(wù)器。用戶此時(shí)只須記住一臺(tái)服務(wù)器，即虛擬服務(wù)器。但他們的數(shù)據(jù)流卻

4、被BIG-IP靈活地均衡到所有的服務(wù)器。這10種算法包括：輪詢（Round Robin）：順序循環(huán)將請(qǐng)求一次順序循環(huán)地連接每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障，BIG-IP就把其從順序循環(huán)隊(duì)列中拿出，不參加下一次的輪詢，直到其恢復(fù)正常。比率（Ratio）：給每個(gè)服務(wù)器分配一個(gè)加權(quán)值為比例，根椐這個(gè)比例，把用戶的請(qǐng)求分配到每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障，BIG-IP就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。優(yōu)先權(quán)（Priority）：給所有服務(wù)器分組，給每個(gè)組定義優(yōu)先權(quán)，BIG-IP用戶的請(qǐng)求，分配給優(yōu)先級(jí)最高的服務(wù)器組（在同一組內(nèi)

5、，采用輪詢或比率算法，分配用戶的請(qǐng)求）；當(dāng)最高優(yōu)先級(jí)中所有服務(wù)器出現(xiàn)故障，BIG-IP才將請(qǐng)求送給次優(yōu)先級(jí)的服務(wù)器組。這種方式，實(shí)際為用戶提供一種熱備份的方式。最少的連接方式（Least Connection）：傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障，BIG-IP就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。最快模式（Fastest）：傳遞連接給那些響應(yīng)最快的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障，BIG-IP就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。觀察模式（Observed）：連接數(shù)

6、目和響應(yīng)時(shí)間以這兩項(xiàng)的最佳平衡為依據(jù)為新的請(qǐng)求選擇服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7層的故障，BIG-IP就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。預(yù)測(cè)模式（Predictive）：BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo)，進(jìn)行預(yù)測(cè)分析，選擇一臺(tái)服務(wù)器在下一個(gè)時(shí)間片內(nèi)，其性能將達(dá)到最佳的服務(wù)器相應(yīng)用戶的請(qǐng)求。(被BIG-IP進(jìn)行檢測(cè))動(dòng)態(tài)性能分配（Dynamic Ratio-APM):BIG-IP收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項(xiàng)性能參數(shù)，動(dòng)態(tài)調(diào)整流量分配。動(dòng)態(tài)服務(wù)器補(bǔ)充（Dynamic Server Act.):當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時(shí)，動(dòng)態(tài)地

7、將備份服務(wù)器補(bǔ)充至主服務(wù)器群。規(guī)則模式：針對(duì)不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則，用戶可自行編輯流量分配規(guī)則，BIG-IP利用這些規(guī)則對(duì)通過的數(shù)據(jù)流實(shí)施導(dǎo)向控制。4.2 服務(wù)器健康檢查方法BIG-IP除了能夠進(jìn)行不同OSI層面的健康檢查之外，還具有擴(kuò)展內(nèi)容驗(yàn)證和擴(kuò)展應(yīng)用查證兩種健康檢查方法?；镜慕】禉z查方法有以下幾種：在Layer 2 健康檢查涉及到用來對(duì)給定的IP地址尋找MAC地址的地址分辨協(xié)議 (ARP) 請(qǐng)求。因?yàn)锽IG-IP設(shè)置了真實(shí)服務(wù)器的IP地址，它會(huì)發(fā)送針對(duì)每一個(gè)真實(shí)服務(wù)器的IP地址的ARP請(qǐng)求以找到相應(yīng)的MAC地址，服務(wù)器會(huì)響應(yīng)這個(gè)ARP請(qǐng)求，除非它已經(jīng)停機(jī)。在Layer 3 健康檢查涉

8、及到對(duì)真實(shí)服務(wù)器發(fā)送”ping”命令。“ping”是常用的程序來確認(rèn)一個(gè)IP地址是否在網(wǎng)絡(luò)中存在，或者用來確認(rèn)主機(jī)是否正常工作。在Layer 4，BIG-IP會(huì)試圖聯(lián)接到一個(gè)特定應(yīng)用在運(yùn)行的TCP或UDP端口。舉例來說，如果VIP是被綁定在端口80做Web應(yīng)用的話，BIG-IP試圖建立一個(gè)聯(lián)接到真實(shí)服務(wù)器的80端口。BIG-IP發(fā)送一個(gè)TCP SYN 請(qǐng)求包到每個(gè)真實(shí)服務(wù)器的80端口，并檢查回應(yīng)的TCP SYN ACK數(shù)據(jù)包是否收到，如果哪一個(gè)沒有收到，BIG-IP就確認(rèn)那臺(tái)服務(wù)器不能正常提供服務(wù)，BIG-IP單獨(dú)針對(duì)服務(wù)器的每個(gè)應(yīng)用端口做健康檢查并單獨(dú)做關(guān)于其服務(wù)器的診斷結(jié)果是非常重要的。這

9、樣一來真實(shí)服務(wù)器的80服務(wù)可能停機(jī)，但是端口21可能正常工作，BIG-IP可以繼續(xù)利用這個(gè)服務(wù)器的21端口提供FTP服務(wù)，同時(shí)確認(rèn)這個(gè)服務(wù)器的Web應(yīng)用已經(jīng)停機(jī)，這樣一來就提供了一個(gè)高效率的負(fù)載均衡解決方案，細(xì)分健康檢查的做法有效地提高了服務(wù)器的處理能力。擴(kuò)展內(nèi)容查證(ECV：Extended Content Verification)：ECV是一種非常復(fù)雜的服務(wù)檢查，主要用于確認(rèn)應(yīng)用程序能否對(duì)請(qǐng)求返回對(duì)應(yīng)的數(shù)據(jù)。如果一個(gè)應(yīng)用對(duì)該服務(wù)檢查做出響應(yīng)并返回對(duì)應(yīng)的數(shù)據(jù)，則BIG-IP控制器將該服務(wù)器標(biāo)識(shí)為工作良好。如果服務(wù)器不能返回相應(yīng)的數(shù)據(jù)，則將該服務(wù)器標(biāo)識(shí)為宕機(jī)。宕機(jī)一旦修復(fù)，BIG-IP就會(huì)自

10、動(dòng)查證應(yīng)用已能對(duì)客戶請(qǐng)求做出正確響應(yīng)并恢復(fù)向該服務(wù)器傳送。該功能使BIG-IP可以將保護(hù)延伸到后端應(yīng)用如Web內(nèi)容及數(shù)據(jù)庫。BIG-IP的ECV功能允許您向Web服務(wù)器、防火墻、緩存服務(wù)器、代理服務(wù)器和其它透明設(shè)備發(fā)送查詢，然后檢查返回的響應(yīng)。這將有助于確認(rèn)您為客戶提供的內(nèi)容正是其所需要的。用戶可以定義發(fā)送和接收的字串，發(fā)送字串是指發(fā)送到一個(gè)服務(wù)器的請(qǐng)求命令，例如：“GET /” 字串發(fā)送到一個(gè)HTTP 服務(wù)器。服務(wù)器回應(yīng)得字串必須與接收到的字串相匹配，例如“”。ECV 可以工作在正常和透明節(jié)點(diǎn)模式。擴(kuò)展應(yīng)用查證(EAV: Extended Application Verification)：

11、EAV是另一種服務(wù)檢查，用于確認(rèn)運(yùn)行在某個(gè)服務(wù)器上的應(yīng)用能否對(duì)客戶請(qǐng)求做出響應(yīng)。為完成這種檢查，BIG-IP控制器使用一個(gè)被稱作外部服務(wù)檢查者的客戶程序，該程序?yàn)锽IG-IP提供完全客戶化的服務(wù)檢查功能，但它位于BIG-IP控制器的外部。例如，該外部服務(wù)檢查者可以查證一個(gè)從后臺(tái)數(shù)據(jù)庫中取出數(shù)據(jù)的應(yīng)用能否正常工作。EAV是BIG-IP提供的非常獨(dú)特的功能，它提供管理者將BIG-IP客戶化后訪問各種各樣應(yīng)用的能力，該功能使BIG-IP在提供標(biāo)準(zhǔn)的可用性查證之外能獲得服務(wù)器、應(yīng)用及內(nèi)容可用性等最重要的反饋。該功能對(duì)于提高系統(tǒng)可靠性至關(guān)重要，它用于從客戶的角度測(cè)試您的站點(diǎn)。例如，您可以模擬客戶完成交易

12、所需的所有步驟連接到前置服務(wù)器或中間件服務(wù)器、從目錄中選擇項(xiàng)目以及驗(yàn)證交易使用的信用卡。一旦BIG-IP掌握了該“可用性”信息，即可利用負(fù)載平衡使資源達(dá)到最高的可用性。BIG-IP已經(jīng)為測(cè)試多種服務(wù)的健康情況和狀態(tài)，預(yù)定義了擴(kuò)展應(yīng)用驗(yàn)證(EAV)，如：FTP、NNTP、SMTP、POP3和MSSQL等，用戶還可依據(jù)實(shí)際應(yīng)用，自行編輯EAV腳本。F5產(chǎn)品健康檢查的頻度和間隔是可以根據(jù)用戶的要求而設(shè)置.通過F5靈活自定義方式的ECV健康檢查方式，用戶可以檢查常見的應(yīng)用如HTTP、SMTP、POP3等。而通過EAV健康檢查方式，更可自行編寫腳本，實(shí)現(xiàn)更加復(fù)雜的健康檢查方式，全面的檢測(cè)后臺(tái)服務(wù)器的運(yùn)行

13、狀態(tài)，保證系統(tǒng)運(yùn)行的高效，可靠。4.3 會(huì)話保持技術(shù)當(dāng)使用BIG-IP對(duì)服務(wù)器進(jìn)行負(fù)載均衡時(shí)，就需要會(huì)話保持。如果某位用戶連接到了一臺(tái)服務(wù)器上，那么我們肯定希望該用戶在將來再次連接時(shí)將仍可連接到該臺(tái)服務(wù)器上。當(dāng)該服務(wù)器存有用戶相關(guān)數(shù)據(jù)，并且這些數(shù)據(jù)并不與其它服務(wù)器動(dòng)態(tài)共享時(shí)，持續(xù)性就顯得十分有必要了。例如，假設(shè)一位用戶在某網(wǎng)站采購了一“購物車”的商品，然后還未結(jié)帳就離開了該網(wǎng)站。如果在其重新登錄網(wǎng)站后，BIG-IP應(yīng)用交換機(jī)將客戶請(qǐng)求路由至不同的服務(wù)器，那么新的服務(wù)器對(duì)該用戶的數(shù)據(jù)和其所購買的商品將一無所知。當(dāng)然，如果所有服務(wù)器都在同一個(gè)后臺(tái)數(shù)據(jù)庫服務(wù)器中存儲(chǔ)用戶信息及其選購商品的話，那么一切

14、就不成問題了。但是如果網(wǎng)站不是這樣設(shè)計(jì)的，那么具體的購物車數(shù)據(jù)就只能存儲(chǔ)在特定的服務(wù)器上。這樣，BIG-IP應(yīng)用交換機(jī)就必需選擇用戶曾連接上的那臺(tái)服務(wù)器，以無縫地處理用戶請(qǐng)求。BIG-IP提供以下幾種會(huì)話保持方法：Simple Persistence，SSL Session ID Persistence，SIP Persistence，Cookie Persistence，iMode Persistence，目的地址歸類。4.4 LTM相關(guān)加速技術(shù)4.4.1 One Connect降低服務(wù)器TCP連接數(shù)量用戶因連接和斷開網(wǎng)絡(luò)連接而產(chǎn)生的周期性網(wǎng)絡(luò)請(qǐng)求會(huì)耗費(fèi)掉企業(yè)寶貴的 web 應(yīng)用資源。即使每

15、個(gè)連接開銷很小，但合到一起，它們將影響到總的應(yīng)用負(fù)載，對(duì)于電子商務(wù)站點(diǎn)和擁有大量用戶的企業(yè)應(yīng)用來說，這一點(diǎn)尤為明顯。在Apache Server的標(biāo)準(zhǔn)配置中，一臺(tái)服務(wù)器的最高并發(fā)連接數(shù)為1024個(gè)，而MicroSoft IIS可配置為2048個(gè)?？梢娺B接數(shù)對(duì)于服務(wù)器是一個(gè)極大的限制,在應(yīng)用服務(wù)器上比如Weblogic，WebSphere上，連接數(shù)的增加將會(huì)給系統(tǒng)增加大量的開銷。 連接優(yōu)化將處理連接的責(zé)任移交給了 F5 WA。網(wǎng)絡(luò)流量在 WA和源應(yīng)用之間的小型資源池和永久連接中進(jìn)行多路傳輸。WA將成千上萬個(gè)用戶的連接匯聚成為少數(shù)的服務(wù)器連接，最終可顯著降低源應(yīng)用的負(fù)載。 與其它的連接優(yōu)化技術(shù)不同

16、，F(xiàn)5 采用了動(dòng)態(tài)連接池的方式，當(dāng)每一個(gè)用戶請(qǐng)求發(fā)送到WA時(shí)，根據(jù)負(fù)載均衡策略， WA將在請(qǐng)求將被發(fā)送到的服務(wù)器端尋找空閑的連接，如果有空閑連接，則直接將請(qǐng)求通過該連接發(fā)送到服務(wù)器，如果沒有空閑連接，則新建一個(gè)連接與服務(wù)器端通訊。這樣，既保證了在服務(wù)器端始終維持最小的連接數(shù)，又避免了由于沒有空閑連接而導(dǎo)致的客戶端請(qǐng)求排隊(duì)的現(xiàn)象。4.4.2 HTTP頁面壓縮應(yīng)用和網(wǎng)絡(luò)延遲問題進(jìn)一步降低了 web 內(nèi)容的傳輸速度。Web Accelerator專利技術(shù) Express 壓縮技術(shù)能夠消除因壓縮算法所帶來的延遲，為撥號(hào)和寬帶用戶帶來額外的性能提升。事實(shí)上，借助 Express 壓縮，撥號(hào)用戶的訪問速率

17、將比原來快 5 到 10 倍，同時(shí)帶寬利用率和成本將降低 70%-80%。 Web ServerClient 1Client 2BIG-IP/WACompression on the BIG-IP/WA響應(yīng)時(shí)間的加快，帶來了用戶滿意度和效率的提升，從而使基于 web 的應(yīng)用得到更加廣泛的應(yīng)用。單在更低帶寬成本方面所節(jié)約的費(fèi)用（尤其在遠(yuǎn)程銷售辦公機(jī)構(gòu)或人員方面所節(jié)省的費(fèi)用），就足以補(bǔ)償在設(shè)備購置方面的投資，甚至是后者的好幾倍。使用工業(yè)標(biāo)準(zhǔn)的GZIP和Deflate壓縮算法來壓縮HTTP流量；降低帶寬消耗、縮短最終用戶在慢速 / 低帶寬連接條件下的下載時(shí)間。4.4.3 RAM Cache在BIGI

18、P-LTM上，可以通過配置內(nèi)存Cache來提高系統(tǒng)響應(yīng)速度，并減小服務(wù)器端的壓力。通過內(nèi)存Cache機(jī)制，WA可以把頻繁訪問的內(nèi)容存放在內(nèi)存中，當(dāng)下一次請(qǐng)求到達(dá)時(shí)，直接從內(nèi)存返回用戶請(qǐng)求的頁面。從而降低了服務(wù)器的請(qǐng)求壓力。4.4.4 HTTPS Offload在SSL處理過程中，所有的傳輸內(nèi)容均采用加密算法處理。其中最重要的兩個(gè)部分為SSL握手時(shí)交換秘鑰的非對(duì)稱加密和數(shù)據(jù)傳輸時(shí)的對(duì)稱加密。當(dāng)SSL的客戶端壓力超過400TPS時(shí)，單臺(tái)服務(wù)器就很難處理請(qǐng)求了。因此，必須采用SSL加速設(shè)備來進(jìn)行處理。F5其實(shí)現(xiàn)的結(jié)構(gòu)如下：所有的SSL流量均在F5上終結(jié)，F(xiàn)5與服務(wù)器之間可采用HTTP或者弱加密的SS

19、L進(jìn)行通訊。這樣，就極大的減小了服務(wù)器端對(duì)HTTPS處理的壓力，可將服務(wù)器的處理能力釋放出來，更加專注的處理業(yè)務(wù)邏輯。在F5可處理單向SSL連接，雙向SSL連接。并且可同時(shí)處理多種類型和多個(gè)應(yīng)用的SSL加解密處理。4.5 設(shè)備自身冗余機(jī)制BIGIP可以實(shí)現(xiàn)兩種方式實(shí)現(xiàn)冗余連接，一是Active-Backup方式，另一種是Active-Active方式。物理連接方式如下圖所示：F5 Networks公司BIGIP產(chǎn)品是業(yè)界唯一實(shí)現(xiàn)雙機(jī)冗余毫秒級(jí)切換的產(chǎn)品，而且設(shè)計(jì)合理。所有會(huì)話通過Active BIGIP同時(shí)，會(huì)話信息會(huì)通過同步數(shù)據(jù)線同步到Backup BIGIP，保證Active與Backup

20、設(shè)備會(huì)話信息同步。且每臺(tái)設(shè)備中的watchdog芯片通過心跳線檢監(jiān)測(cè)對(duì)方設(shè)備電平，當(dāng)Active BIGIP故障時(shí)，watchdog會(huì)首先發(fā)現(xiàn)，并且通知Backup BIGIP接管shared ip,VIP等，完成冗余切換過程，Backup BIGIP變成Active Backup，由于Backup BIGIP事先已經(jīng)保存了所有會(huì)話數(shù)據(jù)信息，可以保證所有在線會(huì)話的通暢和完整。兩臺(tái)設(shè)備的多種模式的冗余切換觸發(fā)機(jī)制：Ø Watch dog：完全通過“心跳線”監(jiān)測(cè)物理信號(hào)判斷設(shè)備的運(yùn)行狀況，適時(shí)進(jìn)行冗余切換，采用這種方式，切換時(shí)間在50ms200ms。Ø Gateway failsafe：處于Active狀態(tài)的BIGIP定期與網(wǎng)關(guān)設(shè)備取得聯(lián)系，若在timeout時(shí)間內(nèi)得不到任何響應(yīng)，就自動(dòng)切換為Standby狀態(tài)。Ø Vlan Arm failsafe：通過判斷某個(gè)Vlan是否有流量，觸發(fā)切換。5 性能參數(shù)