關(guān)于云數(shù)據(jù)中心的研究

關(guān)于云數(shù)據(jù)中心的研究

隨著經(jīng)濟(jì)全球化和信息通信技術(shù)的發(fā)展，云計算出現(xiàn)以來，在政府、科學(xué)界、學(xué)術(shù)界和用戶的支持下，云計算應(yīng)用不斷發(fā)展和深入，并從理論上逐漸轉(zhuǎn)變?yōu)閷嵺`。伴隨云計算技術(shù)的日臻成熟,數(shù)據(jù)中心也隨之發(fā)展。云計算數(shù)據(jù)中心具有資源規(guī)模大、異構(gòu)性強(qiáng)等特點。由此引出以下問題:存儲資源池化、存儲資源彈性擴(kuò)展、存儲資源調(diào)度以及異構(gòu)存儲資源管理。為解決上述問題,本文緊緊圍繞這些問題展開研究,希望提出數(shù)據(jù)中心存儲資源池化和資源調(diào)度策略,異構(gòu)資源管理方法,能為云數(shù)據(jù)中心的后續(xù)研究提供借鑒和幫助。1云計算、云存儲、數(shù)據(jù)存儲和黑龍江省移動云數(shù)據(jù)的建設(shè)背景1.1云計算co-平臺云計算是網(wǎng)格計算(GridComputing)、分布式計算(DistributedComputing)、并行計算(ParallelComputing)、效用計算(UtilityComputing)網(wǎng)絡(luò)存儲(NetworkStorageTechnologies)、虛擬化(Virtualization)和負(fù)載均衡(LoadBalance)等計算機(jī)技術(shù)和網(wǎng)絡(luò)技術(shù)相融合的產(chǎn)物。云計算至今沒有統(tǒng)一定義,但其分類比較標(biāo)準(zhǔn),按服務(wù)模式分為:軟件即服務(wù)(SaaS)、平臺即服務(wù)(PaaS)、基礎(chǔ)架構(gòu)即服務(wù)(IaaS);按部署方式分為:公有云、私有云和混合云。2012年3月,在中國國務(wù)院政府工作報告中給出了云計算的政府官方定義。云計算是基于互聯(lián)網(wǎng)的服務(wù)的增加、使用和交付商業(yè)模式,通常涉及通過互聯(lián)網(wǎng)來提供動態(tài)易擴(kuò)展且經(jīng)常是虛擬化的資源,是傳統(tǒng)計算機(jī)和網(wǎng)絡(luò)技術(shù)發(fā)展融合的產(chǎn)物,它意味著計算能力也可作為一種商品通過互聯(lián)網(wǎng)進(jìn)行流通。在該定義中云計算被認(rèn)為是一種“模式”,這種通過互聯(lián)網(wǎng)交付服務(wù)的模式將深刻地影響信息產(chǎn)業(yè)的市場格局,“計算能力”這種看不見的資源將以“商品”的形態(tài)在互聯(lián)網(wǎng)上“流通”。1.2云存儲的定義云存儲是在云計算概念上延伸和發(fā)展出的新概念,是指通過集群應(yīng)用、網(wǎng)格技術(shù)或分布式文件系統(tǒng)等,將網(wǎng)絡(luò)中大量不同類型的存儲設(shè)備通過應(yīng)用軟件集合起來協(xié)同工作,共同對外提供數(shù)據(jù)存儲和業(yè)務(wù)訪問功能的一個系統(tǒng)。讀者可以將其簡單地理解為:云存儲是以數(shù)據(jù)存儲和管理為核心的云計算系統(tǒng)。圖1是云存儲系統(tǒng)應(yīng)用拓?fù)鋱D,從圖1中可以看到,云存儲系統(tǒng)的核心是由云存儲控制服務(wù)器和后端存儲設(shè)備兩大部分組成。1.3數(shù)據(jù)中心的演變Google在其發(fā)布的《TheDatacenterasaComputer》一書中,將數(shù)據(jù)中心解釋為:“多功能的建筑物,能容納多個服務(wù)器以及通信設(shè)備。這些設(shè)備被放置在一起是因為它們具有相同的對環(huán)境的要求以及物理安全上的需求,并且這樣放置便于維護(hù)”,而“并不僅僅是一些服務(wù)器的集合”。數(shù)據(jù)中心是信息系統(tǒng)的核心,其主要功能是通過網(wǎng)絡(luò)向用戶提供信息服務(wù)。數(shù)據(jù)中心的演變經(jīng)歷了4個階段:數(shù)據(jù)存儲中心階段,最早出現(xiàn)在20世紀(jì)60年代,其主要業(yè)務(wù)是數(shù)據(jù)的集中存儲和管理。數(shù)據(jù)處理中心階段,出現(xiàn)在20世紀(jì)70年代以后,開始承擔(dān)核心的計算任務(wù)。信息中心階段,出現(xiàn)在20世紀(jì)90年代,具備了核心計算和核心業(yè)務(wù)運營支撐功能。云計算數(shù)據(jù)中心階段,出現(xiàn)在21世紀(jì),虛擬化技術(shù)的成熟應(yīng)用和云計算技術(shù)的迅速發(fā)展使其進(jìn)入了新的發(fā)展階段,具備核心運營支持、信息資源服務(wù)、核心計算、數(shù)據(jù)存儲和備份等功能。然而,傳統(tǒng)數(shù)據(jù)中心卻存在著以下弊端:(1)能源消耗和散熱問題;(2)各種資源利用率低是普遍存在的問題;(3)可靠性問題;(4)數(shù)據(jù)中心各個應(yīng)用系統(tǒng)建設(shè)相對獨立,其基礎(chǔ)設(shè)施存在“孤島效應(yīng)”;(5)資源配置和部署過程多為人工方式,缺乏自服務(wù)和自動部署的能力。1.4云數(shù)據(jù)中心建設(shè)背景在2012年以前,黑龍江移動數(shù)據(jù)業(yè)務(wù)系統(tǒng)一直采取“煙囪式”建設(shè)模式。每個新建或擴(kuò)容的業(yè)務(wù)系統(tǒng)必須從頭到尾經(jīng)歷以下流程:需求提出與確認(rèn)、方案制訂、可研設(shè)計、方案評估、可研批復(fù)、設(shè)備采購、系統(tǒng)搭建、驗收交付等。這不僅無法避免重復(fù)投資,也為后期運維管理帶來極大不便。面對未來業(yè)務(wù)形態(tài)急劇變化和業(yè)務(wù)需求爆發(fā)式增長的態(tài)勢,這種模式顯得捉襟見肘,而且越來越多的數(shù)據(jù)業(yè)務(wù)系統(tǒng)交付給IT運維部門,會使其逐步淪為成本中心。為此,根據(jù)集團(tuán)公司數(shù)據(jù)中心發(fā)展規(guī)劃,結(jié)合黑龍江移動實際需求,2012年黑龍江移動公司啟動了公有云建設(shè),在省內(nèi)建設(shè)云數(shù)據(jù)中心,主要提供合作類互聯(lián)網(wǎng)業(yè)務(wù),逐步開展個人業(yè)務(wù)、集團(tuán)客戶業(yè)務(wù)。截止目前黑龍江移動公司已建成云數(shù)據(jù)中心并通過初驗投入使用。云數(shù)據(jù)中心具有資源規(guī)模大,異構(gòu)性強(qiáng)等特點,由此引出的問題也較多。本文主要針對以下4個問題進(jìn)行研究:存儲資源池化、存儲資源彈性擴(kuò)展、存儲資源調(diào)度以及異構(gòu)存儲資源管理。2基于存款資產(chǎn)池化和彈性開發(fā)的研究2.1基于存儲資源池化的研究2.1.1構(gòu)建軟硬件資源池池化技術(shù),就是提前保存大量的資源,以備不時之需。企業(yè)通過集中不同的軟硬件資源形成統(tǒng)一的邏輯資源池,可構(gòu)建計算資源池、存儲資源池、網(wǎng)絡(luò)資源池和軟件資源池等。池化技術(shù)提供靈活簡便的資源域,適合資源分級分域,滿足高效運維管理。2.1.2實現(xiàn)存儲及資源的統(tǒng)一管理存儲池化概念并不始于存儲虛擬化技術(shù),早在服務(wù)器直聯(lián)存儲到以NAS或SAN為代表的網(wǎng)絡(luò)存儲發(fā)展歷程中就有這個概念,為何還需要存儲虛擬化的池化。對此,IBM存儲架構(gòu)師指出“企業(yè)針對不同應(yīng)用設(shè)計的多套SAN、NAS系統(tǒng)并存,造成存儲的信息孤島,系統(tǒng)之間無法共享存儲資源”。很多企業(yè)內(nèi)多個SAN系統(tǒng)并存且存儲利用率不同,各系統(tǒng)之間無法形成資源聯(lián)動,而所有企業(yè)都希望能夠靈活調(diào)度存儲資源。用一套SAN系統(tǒng)來整合企業(yè)內(nèi)所有存儲,但技術(shù)難度較大,這也是存儲虛擬化技術(shù)產(chǎn)生和持續(xù)發(fā)展的原因。存儲虛擬化是指通過對存儲系統(tǒng)或存儲服務(wù)的內(nèi)部功能進(jìn)行抽象、隱藏或隔離,使對存儲或數(shù)據(jù)的管理與對應(yīng)用、服務(wù)器、網(wǎng)絡(luò)資源的管理分離,從而實現(xiàn)應(yīng)用和網(wǎng)絡(luò)的獨立管理。其思想是區(qū)分資源的邏輯映像與物理設(shè)備,為系統(tǒng)和管理員提供簡化的視圖。從管理角度看,虛擬存儲池是集中化管理的結(jié)果,為各種應(yīng)用按需動態(tài)分配存儲資源。從用戶角度看,虛擬存儲池對其是透明的,用戶看不到具體設(shè)備,也不關(guān)心數(shù)據(jù)經(jīng)由什么路徑流向哪個設(shè)備。2.2存儲資產(chǎn)的彈性擴(kuò)展研究2.2.1典型的云存儲架構(gòu)云計算環(huán)境下由數(shù)以萬計的廉價存儲設(shè)備構(gòu)成的存儲中心是實現(xiàn)數(shù)據(jù)存儲的基礎(chǔ)。這些異構(gòu)的存儲設(shè)備通過各自的分布式文件系統(tǒng)將分散的、低可靠的資源聚合為一個具有高可靠性、高可擴(kuò)展性的整體,在此基礎(chǔ)上構(gòu)建面向用戶的云存儲服務(wù)。典型的云存儲架構(gòu)分為4層:存儲層、基礎(chǔ)管理層、應(yīng)用接口層和訪問層,如圖2所示。存儲層是云存儲系統(tǒng)最基礎(chǔ)的部分,存儲設(shè)備上層是統(tǒng)一存儲設(shè)備管理系統(tǒng),負(fù)責(zé)存儲設(shè)備的邏輯虛擬化管理、多鏈路冗余管理和設(shè)備狀態(tài)監(jiān)控。基礎(chǔ)管理層是云存儲系統(tǒng)最核心、最難實現(xiàn)的部分。該層通過集群、分布式文件系統(tǒng)和網(wǎng)格計算等技術(shù),完成各存儲設(shè)備之間的協(xié)同工作,對外提供統(tǒng)一服務(wù),并提供更強(qiáng)的數(shù)據(jù)訪問性能。應(yīng)用接口層是云存儲系統(tǒng)最靈活的部分,運營商可根據(jù)實際運營業(yè)務(wù)類型,開發(fā)各種應(yīng)用服務(wù)接口。已授權(quán)的用戶可以通過標(biāo)準(zhǔn)的公共應(yīng)用接口訪問云存儲系統(tǒng),享受云存儲服務(wù)。2.2.2存儲架構(gòu)擴(kuò)展技術(shù)隨著業(yè)務(wù)需求日漸增長,如何實現(xiàn)存儲資源快速部署并盡快響應(yīng)業(yè)務(wù)需求,是運營商需要深入思考的問題。移動公司將數(shù)據(jù)中心大量異構(gòu)存儲設(shè)備用虛擬化技術(shù)實現(xiàn)池化,通過上層的云存儲管理平臺對池化后的資源進(jìn)行管理。這樣做的好處是用戶無需關(guān)注底層資源的支撐技術(shù),只要專注于應(yīng)用需求提出;對運營商而言,當(dāng)存儲資源利用率達(dá)到閾值(比如85%或90%,可靈活設(shè)置),只需添加存儲設(shè)備并虛擬化,放在存儲資源池中,接受上層云存儲管理平臺的管理和控制。業(yè)界流行的存儲架構(gòu)擴(kuò)展技術(shù)有兩種,分別是縱向擴(kuò)展(Scale-up)和橫向擴(kuò)展(Scale-out)。Scale-up基于縱向擴(kuò)展體系架構(gòu),通過向現(xiàn)有存儲系統(tǒng)不斷增加存儲容量來滿足數(shù)據(jù)增長的需求。Scale-out基于橫向擴(kuò)展體系架構(gòu),以節(jié)點為單位擴(kuò)容,可擴(kuò)展更多功能性部件,容量和性能同步增長,擴(kuò)展之后從用戶視角看仍是一個系統(tǒng)。兩者對比如圖3所示。針對預(yù)算浪費和數(shù)據(jù)爆發(fā)式增長的現(xiàn)實,Scale-up的解決方法是購買更大容量的存儲,但面臨棘手的數(shù)據(jù)遷移問題會因停機(jī)實施而導(dǎo)致服務(wù)中斷。Scale-out則很好地解決了該矛盾,用戶按需采購存儲,一旦容量不足,再購置存儲放到原有資源池即可。隨著云計算應(yīng)用的不斷發(fā)展和未來大數(shù)據(jù)的推動,計算、存儲等基礎(chǔ)架構(gòu)由Scale-up向Scale-out方向發(fā)展的趨勢將變得更明朗。2.2.3數(shù)據(jù)中心模塊黑龍江移動數(shù)據(jù)中心一期的存儲方案:用HP存儲設(shè)備構(gòu)建塊存儲池,用EMC存儲設(shè)備構(gòu)建對象存儲池,通過上層云平臺管理軟件實現(xiàn)資源統(tǒng)一管理和調(diào)度。數(shù)據(jù)中心采用HP存儲設(shè)備構(gòu)建塊存儲系統(tǒng),共配置8個節(jié)點:6個節(jié)點組成一個Raid5冗余保護(hù)的cluster,作為海量存儲池;2個節(jié)點組成一個Raid10冗余保護(hù)的cluster,作為高性能塊存儲池。用EMC存儲設(shè)備構(gòu)建對象存儲池,共配置9個節(jié)點,每節(jié)點內(nèi)置36塊SATA磁盤,節(jié)點間按N+1冗余保護(hù)。3前云計算服務(wù)資源的靈活調(diào)度是資源池化的下一步發(fā)展,目前的云計算服務(wù),如Amazon的EC2,其顯著特征是服務(wù)提供商總能滿足用戶持續(xù)增長的需求,這也是云計算在資源調(diào)度方面的優(yōu)勢。3.1提取資源及實現(xiàn)共享資源基于云存儲的資源調(diào)度策略在綜合考慮資源利用率,經(jīng)濟(jì)效益等因素后,可以這樣設(shè)計:人為地將資源池分成共享池和私有池,結(jié)合共享策略、私有策略、借還策略和回收策略完成對存儲資源的調(diào)度。共享策略:為提高收益,利用分享率節(jié)點記錄應(yīng)用軟件對存儲共享池資源的占有率(收益率和分享率映射)。約束共享資源不能借,否則與現(xiàn)實情況不符。私有策略:按實際部署情況,利用管理節(jié)點來存儲軟件配置環(huán)境需要的虛擬存儲塊(Blocks)數(shù),確保在獨立情況下能完成軟件部署等基本任務(wù)。借還策略:根據(jù)租借機(jī)制實現(xiàn)應(yīng)用程序?qū)λ接写鎯locks進(jìn)行租借,權(quán)衡收益、資源利用率和運行階段應(yīng)用程序私有存儲Blocks可能空閑的情況,利用空閑的存儲Blocks協(xié)助完成其他任務(wù),借還節(jié)點記錄程序間的借還關(guān)系?；厥詹呗?實現(xiàn)資源維護(hù)和負(fù)載均衡,解決空閑的存儲Blocks數(shù)不能滿足任務(wù)需要的問題,按回收策略完成資源的重新分配,最終確保任務(wù)完成。根據(jù)業(yè)務(wù)需要可以對存儲資源調(diào)度策略調(diào)整,實現(xiàn)動態(tài)添加和智能分配存儲資源,減少資源空閑時間及任務(wù)等待次數(shù),在執(zhí)行任務(wù)時實現(xiàn)局部優(yōu)先平衡的動態(tài)負(fù)載均衡調(diào)節(jié),提高系統(tǒng)整體性能。3.2云數(shù)據(jù)異構(gòu)存儲資源管理的研究3.2.1層虛擬化存儲管理按云存儲系統(tǒng)的構(gòu)成和特點,可將其分為3層:物理設(shè)備虛擬化層、存儲節(jié)點虛擬化層和存儲區(qū)域網(wǎng)絡(luò)虛擬化層。3層虛擬化存儲管理模型大大降低了存儲管理的復(fù)雜度,有效地封裝了底層存儲設(shè)備的復(fù)雜性和多樣性,使系統(tǒng)更具擴(kuò)展性和靈活性。傳統(tǒng)方式下,由企業(yè)安排IT人員維護(hù)存儲系統(tǒng),投入大量人力物力。而云存儲模式下,由云存儲服務(wù)提供商負(fù)責(zé)維護(hù)和升級,企業(yè)能以最低成本享受到最新最專業(yè)的服務(wù)。3.2.2創(chuàng)建虛擬存儲池該層主要負(fù)責(zé)數(shù)據(jù)塊級別的資源分配和管理,利用底層物理設(shè)備創(chuàng)建虛擬存儲池。根據(jù)設(shè)備屬性和用戶需求,存儲池有多重數(shù)據(jù)屬性,如性能權(quán)重、讀寫特征等。存儲設(shè)備作為邏輯卷管理器從存儲池中分配邏輯卷,動態(tài)地管理數(shù)據(jù)塊的映射和轉(zhuǎn)發(fā)。3.2.3統(tǒng)一虛擬存儲池該層負(fù)責(zé)存儲節(jié)點內(nèi)部多個存儲池之間的資源分配和管理,將若干按需分配的存儲池整合為統(tǒng)一虛擬存儲池。該層對下管理存儲設(shè)備,對上支持存儲區(qū)域網(wǎng)絡(luò)虛擬化層。3.2.4虛擬存儲池管理該層負(fù)責(zé)存儲節(jié)點之間的資源分配和管理,集中管理所有存儲池,形成統(tǒng)一的虛擬存儲池。該層以帶外虛擬化方式管理云存儲系統(tǒng)的所有資源分配。4云數(shù)據(jù)中心存儲的發(fā)展通過存