一種多核服務器集群環(huán)境下的webgis模型優(yōu)化策略

一種多核服務器集群環(huán)境下的webgis模型優(yōu)化策略

1多核環(huán)境下的webgis模型優(yōu)化策略隨著地理信息復雜性的增加，網(wǎng)絡同源性用戶的增加，網(wǎng)絡信息系統(tǒng)（webgis）的效率提高受到嚴重限制。要提高WebGIS系統(tǒng)性能,必須滿足2個條件:既能支持大用戶量并發(fā)訪問,又能同時縮短用戶請求的平均響應時間?，F(xiàn)有的WebGIS系統(tǒng)主要從硬件和軟件2個方面解決性能提升問題。硬件上通過專用的負載均衡器或提高地圖服務器的CPU處理速度、增加內(nèi)存容量等辦法提高系統(tǒng)性能,存在成本較高、可擴展性差的不足隨著CPU單核高頻向多核發(fā)展,多核計算平臺為提高服務器的并發(fā)性能提供了一種新的手段本文提出一種多核環(huán)境下的WebGIS模型優(yōu)化策略,以提升集群中各個多核服務器節(jié)點的并發(fā)處理能力。重點研究以下2個關鍵問題:(1)如何實現(xiàn)集群環(huán)境下各服務節(jié)點之間的負載均衡;(2)如何充分利用單個多核服務節(jié)點的資源,提高各服務節(jié)點的并發(fā)處理能力。2在多核環(huán)境下，webgis模型的優(yōu)化2.1基于多核優(yōu)化的webgis計算模型隨著WebGIS應用的不斷深入,空間計算已從單任務向并行性、協(xié)作性任務發(fā)展,如何提升系統(tǒng)并發(fā)訪問能力和響應速度已成為迫切需要解決的問題筆者在文獻[9]中設計了一種基于服務器場的WebGIS計算模型,實現(xiàn)了服務器集群的調(diào)度和大用戶量并發(fā)請求的處理,但未針對集群中具有多CPU核心的服務結(jié)點內(nèi)部進行優(yōu)化,也未考慮如何充分利用各多核服務結(jié)點資源以提高各服務結(jié)點自身并發(fā)處理能力。文獻[12-14]對各種常見算法的并行執(zhí)行進行研究,實現(xiàn)了多核環(huán)境下的并行計算。這些研究對于單個計算任務的性能提升是有效的,但對于WebGIS這種面向大用戶量并發(fā)訪問的系統(tǒng),還不能滿足需要。為實現(xiàn)多核環(huán)境下WebGIS系統(tǒng)的性能優(yōu)化,本文提出一種可自由按需擴展的,基于多核優(yōu)化的WebGIS計算模型,如圖1所示。該模型的基本原理如下:(1)客戶端在訪問空間數(shù)據(jù)時將地圖訪問請求提交給Web服務器集群,Web服務器集群分析請求參數(shù),并將這些請求及參數(shù)傳遞給負載均衡器。(2)負載均衡器中請求監(jiān)聽器接收到請求后將請求存入請求隊列池中,任務響應比計算器定時計算請求隊列池中各個請求的響應比,將其按優(yōu)先級順序排列存入全局任務優(yōu)先級隊列。(3)地圖服務器集群中各個地圖服務器根據(jù)全局任務優(yōu)先級隊列中任務的響應比獲取響應比最高的任務。(4)地圖服務器中進程調(diào)度器調(diào)度請求隊列緩沖區(qū)管理線程填充請求隊列緩沖區(qū)。(5)地圖服務器中的線程調(diào)度池中的調(diào)度線程從請求隊列緩沖區(qū)中獲取任務,并分配給服務內(nèi)核群中對應的服務內(nèi)核進行處理,各調(diào)度線程和服務內(nèi)核并行運行。(6)地圖服務器完成空間數(shù)據(jù)請求處理,將結(jié)果返回給負載均衡器。(7)負載均衡器將結(jié)果返回給客戶端進行展示。當系統(tǒng)并發(fā)用戶增加時,只需要增加地圖服務器到地圖服務器集群即可。該WebGIS計算模型具有以下2個特點:(1)使用兩級并行處理機制,即各個服務器節(jié)點的并行處理和服務器節(jié)點內(nèi)部的并行處理,充分利用多核服務器節(jié)點的多核并行計算的優(yōu)勢,實現(xiàn)了多核集群中請求的任務調(diào)度和負載均衡,提升了整個WebGIS服務器集群的并行處理能力。(2)改變傳統(tǒng)的被動式負載均衡方法,使用一種新的地圖服務器節(jié)點主動式任務獲取方法,實現(xiàn)了集群環(huán)境下的任務分配和負載均衡。2.2響應比及動態(tài)WebGIS系統(tǒng)應用復雜,包括矢量地圖顯示、瓦片地圖顯示、要素查詢、空間分析等功能,每個功能應用需要的標準執(zhí)行時間均不相同,以矢量地圖顯示功能為例,每個用戶每次請求的矢量地圖的范圍均不相同,范圍越大,生成圖像越慢;范圍越小,生成圖像越快。在這種復雜的應用場景下,為了使大多數(shù)并發(fā)用戶滿意,首先要考慮請求預計的標準執(zhí)行時間,執(zhí)行時間越小,應該越優(yōu)先被執(zhí)行。其次要考慮并發(fā)用戶的等待時間,等待時間越長,優(yōu)先級越高,應該越優(yōu)先被執(zhí)行,這樣才能使等待時間長的用戶優(yōu)先得到響應,避免用戶無限的排隊等待。本文基于使平均響應時間盡可能低,且讓大多數(shù)并發(fā)用戶滿意的原則,對請求隊列中任務進行響應比計算和動態(tài)分配。設t計算任務標準執(zhí)行時間t負載均衡器中的任務響應比計算器計算任務等待隊列中的各任務的響應優(yōu)先級,設當前計算時間為t,當前計算任務的響應比優(yōu)先級R計算如式(2)所示。對任務按響應比優(yōu)先級進行排序,并將其存儲到負載均衡器中的全局任務優(yōu)先級隊列中。2.3請求任務被沖突的任務分配目前已有的WebGIS負載均衡研究均使用負載均衡器根據(jù)某種策略主動分配任務給集群中的各個服務器,這種分配方式有以下2個缺點:(1)任務統(tǒng)一由負載均衡器主動式順序分發(fā),負載均衡器存在請求轉(zhuǎn)發(fā)瓶頸,請求的順序分發(fā)會導致服務器無法立即對請求進行并行處理。(2)對服務器節(jié)點負載狀態(tài)的判斷存在延遲問題,對服務節(jié)點狀態(tài)監(jiān)視的時間間隔不能太短,太短會占用服務節(jié)點資源,造成有限的資源浪費,間隔太長又會導致對服務器狀態(tài)的判斷存在延遲,負載均衡器對服務器節(jié)點當前運行狀態(tài)的判斷不準確,從而導致任務分配的不公平。為解決上述問題,本文設計的計算模型任務調(diào)度采用服務節(jié)點主動式獲取方式,改變以前服務節(jié)點被動接收負載均衡器分發(fā)任務的模式。為實現(xiàn)服務節(jié)點能并行的獲取請求隊列中的任務,本文為每個服務節(jié)點設計了請求隊列緩沖區(qū),并使用專用線程對其進行管理。這樣的目的是讓服務節(jié)點內(nèi)部線程調(diào)度池中的各服務內(nèi)核線程可以并發(fā)的訪問請求隊列緩沖區(qū),避免直接訪問全局請求隊列時鎖操作引起排隊問題。請求隊列緩沖區(qū)專用線程的工作原理如圖2所示。服務節(jié)點中的線程調(diào)度池并行運行,各調(diào)度線程并發(fā)訪問請求隊列緩沖區(qū),獲取緩沖區(qū)中優(yōu)先級最高的任務分配給服務內(nèi)核群優(yōu)先進行處理,同時立即通知緩沖區(qū)管理線程立即更新緩沖區(qū),從全局任務優(yōu)先級隊列中獲取新的任務填充請求隊列緩沖區(qū),保證緩沖區(qū)中待執(zhí)行任務數(shù)量與線程調(diào)度池中線程個數(shù)相等。線程調(diào)度流程如圖3所示。2.4模型加速比分析評價一個計算模型并發(fā)處理能力的標準有很多,其中最常用的一種標準就是計算加速比,加速比(1)當線程數(shù)小于或等于處理器核心數(shù)時,加速比與處理器核心數(shù)呈正比,具有線性加速比,并行效率保持較優(yōu)狀態(tài)。(2)當線程數(shù)大于處理器核心數(shù)時,加速比與并行運行時間呈反比,最終將保持穩(wěn)定;參與計算的處理器核心數(shù)固定,則并行效率與加速比呈正比加速比完整表達式為:其中,Ψ(n,p)表示在p個處理器核心上解決規(guī)模為n的問題時的加速比;σ(n)表示計算任務中內(nèi)在的串行部分;φ(n)表示可以并行執(zhí)行的計算部分;K(n,p)表示并行開銷所需的時間。根據(jù)以上加速比計算式可以推導出Amdahl定律其中,uf079為整個算法在并行機上所能達到的最大加速比;f為整個算法中串行執(zhí)行部分所占的比例。Amdahl定律對于解決固定規(guī)模的問題,提供了一種預測用一定數(shù)量的處理器并行解決問題時加速比的上限,從而可以幫助決定一個程序是否值得并行優(yōu)化WebGIS計算模型中任務的串行部分比例使用計算模型中任務數(shù)目來衡量,設T本文對WebGIS計算模型進行分析,利用MicrosoftVisualStudio2010的性能分析工具檢測程序,通過CPU采樣分析,根據(jù)式(5)計算出需要串行執(zhí)行的任務所占比例為5%。設使用2臺服務器進行集群部署,2臺服務器CPU均為8核。在傳統(tǒng)WebGIS集群模型中,集群中的各個服務器能并行地處理請求,根據(jù)Amdahl定律計算出這種模型所能達到的最大加速比理論值為:基于多核優(yōu)化后,集群中的每個多核服務器節(jié)點中的服務內(nèi)核群在線程調(diào)度池的調(diào)度下并行運行,通過CPU采樣分析,節(jié)點內(nèi)部有26%的任務比例需要串行執(zhí)行。根據(jù)Amdahl定律計算出本文設計的基于多核優(yōu)化的WebGIS計算模型能達到的最大加速比理論值為:與傳統(tǒng)WebGIS計算模型相比,在使用上述2臺服務器進行集群部署的場景下,本文提出的WebGIS模型的最大加速比在理論上較傳統(tǒng)模型提高了約1.41倍。3實驗與結(jié)果分析3.1實驗環(huán)境設置本文使用位于高速局域網(wǎng)內(nèi)的刀片中心構(gòu)建試驗床,刀片服務器硬件配置為CPUIntel®Xeon®E56202.40GHz(8核),8GB內(nèi)存服務器,使用全國地質(zhì)圖瓦片數(shù)據(jù)(數(shù)據(jù)量大小為12.27GB)對本文設計的基于多核環(huán)境的WebGIS計算模型進行仿真實驗,并與傳統(tǒng)WebGIS模型進行對比。實驗環(huán)境的網(wǎng)絡拓撲結(jié)構(gòu)如圖4所示。測試過程中使用LoadRunner采集各個測試場景下地圖服務器的CPU利用率、平均每秒點擊率、平均每秒I/O次數(shù)、平均每秒吞吐量、平均每秒響應時間,實驗結(jié)果如表1所示。3.2測試結(jié)果分析3.2.1其他調(diào)度線程的性能比較根據(jù)表1中LoadRunner采集的結(jié)果數(shù)據(jù)可以分析得出:(1)當線程個數(shù)小于8個線程時,有空閑的CPU核心未被充分利用,隨著線程數(shù)的增加,更多地利用處理器資源,吞吐量線性增加,平均響應時間線性減少,性能不斷提升。(2)當線程個數(shù)達到8個線程,即與CPU核心數(shù)相等時,所有CPU核心被充分利用,各調(diào)度線程調(diào)度服務內(nèi)核并行計算,并發(fā)處理性能接近最優(yōu)。(3)當線程個數(shù)大于8個線程時,由于測試用的服務器CPU核心數(shù)只有8個,CPU會頻繁地進行線程切換操作,這會導致額外的CPU開銷,因此并發(fā)處理能力幾乎不能再線性增加。3.2.2不同線程數(shù)下并行效率分析LoadRunner采集的平均響應時間最直接地反映了服務器對大用戶量并發(fā)訪問請求的并發(fā)處理能力,根據(jù)表1中的結(jié)果數(shù)據(jù)中的平均響應時間,計算使用不同線程數(shù)時本文計算模型的加速比,即并發(fā)效率提升倍數(shù),結(jié)果如圖5所示。由圖5可以看出,使用8個線程加速比達到最大4.74,與2.4節(jié)的加速比理論分析基本相符。當小于等于8個線程之前,即當線程數(shù)小于CPU核心數(shù)時,加速比與線程數(shù)呈正比,具有線性加速比,并行效率保持較優(yōu)狀態(tài);當大于8個線程時,由于CPU要進行額外的線程上下文切換,各線程之間產(chǎn)生對有限的核心資源的爭用效應,因此,性能不能再得到提高,反而有所下降。3.2.3不同用戶并發(fā)用量時平均響應時間在不同并發(fā)用戶量并發(fā)訪問場景下,傳統(tǒng)WebGIS模型和本文基于多核優(yōu)化的WebGIS模型的平均響應時間對比如圖6所示?？梢钥闯?在網(wǎng)絡地圖可視化應用中,客戶端發(fā)送地圖數(shù)據(jù)請求時,特別是在瀏覽大規(guī)模矢量數(shù)據(jù)時,平均響應時間越小,用戶體驗越好從結(jié)果數(shù)據(jù)分析得出,隨著并發(fā)用戶量的增加,當并發(fā)用戶量大于10時,傳統(tǒng)模型較快達到性能瓶頸,隨著用戶量的繼續(xù)增加,平均響應時間也線性地快速增加;而本文提出的基于多核優(yōu)化的WebGIS模型在并發(fā)用戶量增加到25才達到性能瓶頸(與2.4節(jié)中性能分析結(jié)果中提到的并發(fā)性能提高約1.41倍基本相符),隨著用戶量的繼續(xù)增加,本文設計的模型的平均響應時間增長曲線平緩,與傳統(tǒng)模型相比,具有較好的穩(wěn)定性和抗高負載能力。4實驗