技術(shù)報(bào)告虛擬化綠色智慧交通數(shù)據(jù)中心關(guān)鍵技術(shù)

1、計(jì)劃類別 項(xiàng)目編號(hào) 項(xiàng)目技術(shù)報(bào)告課題名稱 項(xiàng)目主持人 承擔(dān)單位 題目：虛擬化綠色智慧交通數(shù)據(jù)中心關(guān)鍵技術(shù)研究采用基于VMware vSphere的數(shù)據(jù)中心虛擬化體系方案設(shè)計(jì)和SDN的高并發(fā)多應(yīng)用SLA的資源管理方法，對(duì)數(shù)據(jù)中心能耗建模及優(yōu)化，簡(jiǎn)化基礎(chǔ)設(shè)施和資源管理方式，減少資源開(kāi)銷，整合資源，節(jié)約建設(shè)成本，實(shí)現(xiàn)智能、靈活、集約的業(yè)務(wù)調(diào)度，實(shí)現(xiàn)資源按需分配，提高智慧交通數(shù)據(jù)中心能源效率、資源利用率和設(shè)備能效比，達(dá)到綠色節(jié)能。關(guān)鍵詞：智慧交通；虛擬化；數(shù)據(jù)中心；VMware vSphere；大數(shù)據(jù)1 引言（Introduction）在智慧交通大數(shù)據(jù)中心方面，由于交通運(yùn)輸行業(yè)是數(shù)據(jù)密集型行業(yè)，大量的

2、交通數(shù)據(jù)必然要求高效的管理和研究分析手段。智慧交通大數(shù)據(jù)中心建設(shè)已經(jīng)是迫切需要，并且智慧交通大數(shù)據(jù)中心構(gòu)建必須把我當(dāng)前數(shù)據(jù)中心技術(shù)發(fā)展的趨勢(shì)。在智慧交通大數(shù)據(jù)中心構(gòu)建方面，國(guó)內(nèi)外許多學(xué)者進(jìn)行了大量的研究工作。Du1提出了一種新穎的城市交通數(shù)據(jù)即服務(wù)（CTDaaS），融合來(lái)自分布式提供商的數(shù)據(jù)，構(gòu)建了一個(gè)因特網(wǎng)的流量數(shù)據(jù)服務(wù)（IoTDS）模型，以識(shí)別數(shù)據(jù)資源之間的關(guān)聯(lián)和關(guān)系，并在透明計(jì)算范式和面向服務(wù)的架構(gòu)下開(kāi)發(fā)了CTDaaS代理，根據(jù)不同的計(jì)算模型融合來(lái)自各種數(shù)據(jù)源的知識(shí)，以及響應(yīng)差異化的數(shù)據(jù)質(zhì)量（QoD）。Jeon2提出一種新的統(tǒng)計(jì)建模方法，該方法根據(jù)每個(gè)鏈路的各種分析找到最佳的歷史數(shù)據(jù)集，

3、并按每周七天提供更精確的交通流預(yù)測(cè)，采用基于長(zhǎng)點(diǎn)分析、相關(guān)分析和蒙特卡羅模擬的三步過(guò)濾算法，并通過(guò)使用諸如均方誤差（MSE）和Akaike信息準(zhǔn)則的決定因素來(lái)確定最佳歷史數(shù)據(jù)范圍，構(gòu)建了一個(gè)大數(shù)據(jù)處理框架來(lái)處理整體預(yù)測(cè)過(guò)程和計(jì)算大量的交通數(shù)據(jù)。Xiong3提出深圳交通系統(tǒng)（SZTS，一個(gè)新的大數(shù)據(jù)Hadoop基準(zhǔn)套件），包括現(xiàn)實(shí)生活交通分析應(yīng)用程序與深圳的現(xiàn)實(shí)生活輸入數(shù)據(jù)集，專注特定的和真實(shí)的應(yīng)用領(lǐng)域，在微架構(gòu)級(jí)別，操作系統(tǒng)級(jí)別和作業(yè)級(jí)別執(zhí)行跨層工作負(fù)載表征，顯示SZTS與現(xiàn)有Hadoop基準(zhǔn)，以及通用多核PARSEC基準(zhǔn)相比的獨(dú)特特性。同時(shí)還研究工作負(fù)載行為相對(duì)于輸入數(shù)據(jù)大小的敏感性，并提出

4、了一種用于識(shí)別代表性輸入數(shù)據(jù)集的方法。Huang4提出了一種基于云計(jì)算技術(shù)的安全并行地圖匹配系統(tǒng)，通過(guò)在MapReduce范式中重構(gòu)來(lái)適應(yīng)云計(jì)算環(huán)境的串行跳躍映射匹配算法，在混合云上的隱私感知地圖匹配模型，以實(shí)現(xiàn)敏感的GPS數(shù)據(jù)保護(hù)，并在hadoop平臺(tái)上實(shí)施1000億記錄的大型車(chē)輛跟蹤數(shù)據(jù)集測(cè)，證明是高效率的大規(guī)模車(chē)輛跟蹤數(shù)據(jù)處理。2 數(shù)據(jù)中心與數(shù)據(jù)中心虛擬化（Data center anddata center virtualization）2.1 傳統(tǒng)數(shù)據(jù)中心面臨的機(jī)遇與挑戰(zhàn)數(shù)據(jù)中心起源于20世紀(jì)60年代以數(shù)據(jù)存儲(chǔ)和簡(jiǎn)單計(jì)算階段的計(jì)算中心，20世紀(jì)80年代逐步發(fā)展為以數(shù)據(jù)處理及業(yè)務(wù)應(yīng)用階

5、段的信息中心，隨后在21世紀(jì)初出現(xiàn)了以服務(wù)為主導(dǎo)的IT服務(wù)中心。隨著云計(jì)算和虛擬化的快速發(fā)展，通過(guò)虛擬化技術(shù)搭建下一代數(shù)據(jù)中心被越來(lái)越多的采用，虛擬化技術(shù)為數(shù)據(jù)中心在架構(gòu)、系統(tǒng)、業(yè)務(wù)模式和管理上提供一種全新的解決方案。高效的數(shù)據(jù)查詢檢索性能是現(xiàn)代數(shù)據(jù)中心的一個(gè)重要指標(biāo)，傳統(tǒng)數(shù)據(jù)查詢技術(shù)特征如表1所示。隨著技術(shù)的發(fā)展，傳統(tǒng)數(shù)據(jù)中心采用關(guān)系數(shù)據(jù)庫(kù)查詢、串行查詢，以及后來(lái)出現(xiàn)的倒序索引、并行索引已經(jīng)不能滿足大數(shù)據(jù)時(shí)代發(fā)展要求，需要更先進(jìn)的檢索查詢技術(shù)。2.2 虛擬化綠色數(shù)據(jù)中心針對(duì)傳統(tǒng)數(shù)據(jù)中心利用率低、缺乏靈活性、業(yè)務(wù)連續(xù)性差、可持續(xù)發(fā)展能力不足、運(yùn)營(yíng)能耗成本高、運(yùn)維管理水平不高、自動(dòng)化程度低、績(jī)效

6、評(píng)估難的不足，虛擬化技術(shù)釋放了數(shù)據(jù)中心的潛力，為數(shù)據(jù)中心帶來(lái)了極大的運(yùn)營(yíng)彈性。未來(lái)數(shù)據(jù)中心的面貌就是將底層的硬件，包括服務(wù)器、儲(chǔ)存與網(wǎng)絡(luò)設(shè)備全面虛擬化，建立起一個(gè)共享的隨需而選的運(yùn)作環(huán)境，上層的數(shù)據(jù)可以根據(jù)業(yè)務(wù)型態(tài)的不同需求，搭配出各種互相隔離的應(yīng)用，形成一個(gè)服務(wù)導(dǎo)向的IT架構(gòu)。虛擬化技術(shù)將更先進(jìn)的自動(dòng)化和系統(tǒng)管理引進(jìn)到數(shù)據(jù)中心，為數(shù)據(jù)中心提供了一種共享加隔離的安全、可信的云計(jì)算基礎(chǔ)架構(gòu)，成為疊加了云計(jì)算功能架構(gòu)的彈性數(shù)據(jù)中心。虛擬化數(shù)據(jù)中心的技術(shù)優(yōu)勢(shì)主要體現(xiàn)在提升IT設(shè)備利用率、簡(jiǎn)化管理、快速部署業(yè)務(wù)、更敏捷地支撐業(yè)務(wù)發(fā)展、綠色節(jié)能、實(shí)現(xiàn)高效的IT治理五方面。目前虛擬化數(shù)據(jù)中心正朝著分布式建

7、設(shè)模式，數(shù)據(jù)中心管理工具（DCIM）的重構(gòu)和發(fā)展為核心的控制點(diǎn)，軟件定義數(shù)據(jù)中心，數(shù)據(jù)向集中化管理方面發(fā)展且可靠性成為未來(lái)數(shù)據(jù)中心的基礎(chǔ)能力，更強(qiáng)調(diào)能源的有效利用與成本收益的優(yōu)化幾個(gè)主要方面發(fā)展。VMware vsphere Hypervisor是一款免費(fèi)的裸機(jī)hypervisor，能夠虛擬化服務(wù)器，以便將應(yīng)用整合到更少的硬件上。在內(nèi)置管理工具方面，可在幾分鐘內(nèi)輕松創(chuàng)建和調(diào)配虛擬機(jī)。在存儲(chǔ)使用效率方面，可以超出物理存儲(chǔ)的實(shí)際容量過(guò)量分配存儲(chǔ)資源。在高級(jí)內(nèi)存管理方面，可以超額分配內(nèi)存資源并執(zhí)行頁(yè)面共享和壓縮，從而優(yōu)化內(nèi)存資源的性能。另外，它還可以經(jīng)過(guò)強(qiáng)化的驅(qū)動(dòng)程序可實(shí)現(xiàn)高可靠性，通過(guò)與獨(dú)立硬件供

8、應(yīng)商合作，確保實(shí)現(xiàn)vSphere Hypervisor的最佳性能。IDC報(bào)告表明，通過(guò)虛擬化和現(xiàn)有安裝服務(wù)器重新部署與管理程序相結(jié)合，全球每年避免新增大量的服務(wù)器。由于使用VMware而避免新增服務(wù)器，虛擬化產(chǎn)品從2003年的總計(jì)107000個(gè)增長(zhǎng)到2016年的1620萬(wàn)個(gè)。全球服務(wù)器虛擬化從2003年的107000增加到2016年的5350萬(wàn)。由于使用了VMware虛擬化產(chǎn)品而避免了排放量。超融合基礎(chǔ)設(shè)施和軟件定義網(wǎng)絡(luò)進(jìn)一步減少基礎(chǔ)架構(gòu)設(shè)備（存儲(chǔ)陣列和網(wǎng)絡(luò)）數(shù)量的新增。由于使用VMware虛擬化產(chǎn)品，每年避免增加的基礎(chǔ)設(shè)施設(shè)備，從2014年總計(jì)595000臺(tái)增長(zhǎng)到2016年的107萬(wàn)臺(tái)。3

9、基于VMware vSphere虛擬化智慧交通數(shù)據(jù)中心（Virtualized smart transportation data centerbased on VMware vSphere）3.1 問(wèn)題與現(xiàn)狀交通運(yùn)輸行業(yè)的業(yè)務(wù)系統(tǒng)建設(shè)通常以滿足單一業(yè)務(wù)部門(mén)需求為主，具有業(yè)務(wù)覆蓋單一、系統(tǒng)重復(fù)建設(shè)，以及系統(tǒng)之間相互割裂的特點(diǎn)，形成一個(gè)個(gè)信息“孤島”和“煙囪”。交通運(yùn)輸行業(yè)中IT資源浪費(fèi)嚴(yán)重與發(fā)展不平衡導(dǎo)致目前業(yè)務(wù)系統(tǒng)信息化發(fā)展水平不能滿足交通行業(yè)高速發(fā)展的需要。同時(shí)，不同部門(mén)信息化存在巨大差距，部分交通信息化資源的配置和使用缺乏有效的監(jiān)管，加之業(yè)務(wù)平臺(tái)具有管理復(fù)雜、業(yè)務(wù)上線時(shí)間長(zhǎng)的特征，導(dǎo)致業(yè)

10、務(wù)連續(xù)性無(wú)法保障，影響了交通信息化的發(fā)展。隨著數(shù)據(jù)量的增多，計(jì)算、存儲(chǔ)密度增大，數(shù)據(jù)存儲(chǔ)平臺(tái)對(duì)安全性、擴(kuò)展性也提出更高的要求，急需一套安全可靠的數(shù)據(jù)存儲(chǔ)平臺(tái)，保障數(shù)據(jù)的安全。3.2 交通數(shù)據(jù)中心虛擬化對(duì)于交通部門(mén)希望實(shí)現(xiàn)高效綠色虛擬化交通數(shù)據(jù)中心來(lái)說(shuō)，VMware vsphere Hypervisor因其具有高度可配置性，對(duì)于要求完全虛擬化或選擇混合方法的交通部門(mén)來(lái)說(shuō)，它可以成為一個(gè)有吸引力的選擇。以VMWare vSphere 5.5 Hypervisor來(lái)說(shuō)，其性能參數(shù)如表2所示。交通數(shù)據(jù)中心虛擬化將計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、大數(shù)據(jù)分析、智能分析、災(zāi)備、安全等系統(tǒng)，以及視頻設(shè)備、網(wǎng)絡(luò)設(shè)備、服務(wù)器、

11、中間件、數(shù)據(jù)庫(kù)、業(yè)務(wù)應(yīng)用和機(jī)房動(dòng)力環(huán)境等分割管理的信息孤島進(jìn)行有效的整合和關(guān)聯(lián)，實(shí)現(xiàn)數(shù)據(jù)中心全網(wǎng)資源的全面監(jiān)控與集中統(tǒng)一管理。根據(jù)計(jì)算需求，采用服務(wù)器虛擬化應(yīng)用，對(duì)于視頻、圖像數(shù)據(jù)采用云存儲(chǔ)模式，對(duì)于數(shù)據(jù)庫(kù)、虛擬機(jī)鏡像文件等數(shù)據(jù)采用FC-SAN共享存儲(chǔ)。對(duì)于交通大數(shù)據(jù)分析和智能分析需求，采用大數(shù)據(jù)平臺(tái)針對(duì)非結(jié)構(gòu)化、半結(jié)構(gòu)化，以及結(jié)構(gòu)化的過(guò)車(chē)視頻、數(shù)據(jù)進(jìn)行建模分析和交通數(shù)據(jù)采集，支持全文快速檢索、以圖搜圖、智能研判、OD分析和統(tǒng)計(jì)分析等應(yīng)用。對(duì)于災(zāi)備需求，可基于存儲(chǔ)復(fù)制、雙機(jī)熱備、異地容災(zāi)等方式，進(jìn)行兩地三中心、同城雙中心或異地雙中心的容災(zāi)建設(shè)，同時(shí)可選用NBU備份或CommVault備份方案實(shí)

12、現(xiàn)數(shù)據(jù)備份。交通數(shù)據(jù)中心虛擬化從虛擬化方案的拓?fù)浣Y(jié)構(gòu)設(shè)計(jì)，虛擬架構(gòu)主體Vmware ESX Server配置、SAN集中存儲(chǔ)實(shí)現(xiàn)虛擬服務(wù)器的文件共享、虛擬架構(gòu)環(huán)境的集中管理、自動(dòng)化及優(yōu)化運(yùn)行，以及虛擬架構(gòu)環(huán)境的整合備份四方面進(jìn)行，其架構(gòu)如圖1所示。4 虛擬化智慧交通數(shù)據(jù)中心關(guān)鍵技術(shù)（Keytechnologies of virtualized smart transportationdata center）4.1 動(dòng)態(tài)交通監(jiān)控?cái)?shù)據(jù)存儲(chǔ)及數(shù)據(jù)容錯(cuò)在交通監(jiān)控領(lǐng)域，監(jiān)控?cái)?shù)據(jù)分析的效率決定價(jià)值，因此需要更低的延遲、更準(zhǔn)確的分析。隨著數(shù)據(jù)量的增加，即使對(duì)TB級(jí)別的數(shù)據(jù)進(jìn)行對(duì)視頻內(nèi)容的數(shù)據(jù)分析和檢索，采用

13、串行計(jì)算的模式都可能需要花費(fèi)數(shù)小時(shí)的計(jì)算，已遠(yuǎn)遠(yuǎn)不能勝任時(shí)效性的需求。大數(shù)據(jù)架構(gòu)下的存儲(chǔ)系統(tǒng)還需要考慮后續(xù)的計(jì)算模式的匹配。通過(guò)分布式資源管理框架，結(jié)合存儲(chǔ)區(qū)域網(wǎng)絡(luò)（SAN）和軟件定義存儲(chǔ)（SDS），考慮動(dòng)態(tài)交通監(jiān)控?cái)?shù)據(jù)的元組與屬性特點(diǎn)，結(jié)合不同應(yīng)用環(huán)境分別進(jìn)行建模，并基于智慧交通業(yè)務(wù)中各子任務(wù)映射關(guān)系特點(diǎn)，分析各業(yè)務(wù)的容錯(cuò)約束條件及參數(shù)變化，考慮副本技術(shù)與元數(shù)據(jù)服務(wù)，基于集群的中間數(shù)據(jù)容錯(cuò)機(jī)制，將容錯(cuò)設(shè)計(jì)到架構(gòu)之中，以可擴(kuò)展的分布式系統(tǒng)的方式實(shí)現(xiàn)。4.2 高并發(fā)多應(yīng)用SLA的資源管理基于高并發(fā)多應(yīng)用SLA（Service Level Agreement）的兼容性和基于進(jìn)程粒度的共享平臺(tái)資源管

14、理5，研究根據(jù)應(yīng)用資源需求進(jìn)行應(yīng)用到物理機(jī)的應(yīng)用放置/遷移和動(dòng)態(tài)分配物理機(jī)資源，降低SLA受到影響或資源浪費(fèi)概率的發(fā)生的同結(jié)點(diǎn)應(yīng)用資源的動(dòng)態(tài)調(diào)整；基于虛擬機(jī)粒度的虛擬化平臺(tái)資源管理，研究包括虛擬機(jī)的放置/遷移和同結(jié)點(diǎn)虛擬機(jī)資源的動(dòng)態(tài)調(diào)整。由于虛擬機(jī)中應(yīng)用負(fù)載具有隨時(shí)變動(dòng)性，借助虛擬化技術(shù)提供的細(xì)粒度資源分配機(jī)制支持，為虛擬機(jī)動(dòng)態(tài)增加或減少資源。4.3 數(shù)據(jù)中心能耗建模、優(yōu)化和管理對(duì)虛擬化數(shù)據(jù)中心的能耗管理從能耗監(jiān)控與測(cè)量、能耗分析與建模、能耗管理實(shí)現(xiàn)機(jī)制，以及能耗管理優(yōu)化算法四個(gè)方面進(jìn)行研究。利用客戶虛擬機(jī)的能耗管理策略實(shí)現(xiàn)虛擬機(jī)的能耗管理，以及利用硬件能耗管理機(jī)制實(shí)現(xiàn)虛擬機(jī)的能耗管理兩種傳統(tǒng)

15、解決方法的不足。結(jié)合軟件和硬件層次上能耗調(diào)節(jié)技術(shù)的方法來(lái)進(jìn)行虛擬化云計(jì)算平臺(tái)的能耗管理，包括虛擬化云平臺(tái)的能耗分析與建模、服務(wù)器整合建模，以及在線遷移建模。4.4 高效查詢架構(gòu)高效查詢架構(gòu)采用Lucene和Hadoop，Lucene實(shí)現(xiàn)倒序索引，提供全文檢索，并行索引階段和查詢階段用Hadoop的Map和Reduce過(guò)程實(shí)現(xiàn)，顯著提高查詢效率。數(shù)據(jù)及時(shí)交由實(shí)時(shí)計(jì)算框架進(jìn)行處理，同時(shí)定期同步至離線計(jì)算框架；實(shí)時(shí)計(jì)算框架處理接收到的實(shí)時(shí)數(shù)據(jù)，并將處理結(jié)果輸出到數(shù)據(jù)查詢框架或者離線計(jì)算框架；離線計(jì)算框架則定期對(duì)數(shù)據(jù)進(jìn)行處理，并將處理結(jié)果輸出至數(shù)據(jù)查詢框架；數(shù)據(jù)查詢框架對(duì)海量數(shù)據(jù)進(jìn)行統(tǒng)計(jì)、匯總和分析，

16、發(fā)現(xiàn)重復(fù)發(fā)生概率較高的模式，并通過(guò)應(yīng)用云面向用戶提供服務(wù)。5 虛擬化綠色智慧交通數(shù)據(jù)中心設(shè)計(jì)實(shí)現(xiàn)（Virtualization of green smart transportationdata center design and implementation）5.1 虛擬化綠色智慧交通數(shù)據(jù)中心技術(shù)路線虛擬化綠色智慧交通數(shù)據(jù)中心分三層結(jié)構(gòu)，底層是前端感知層，負(fù)責(zé)將各類檢測(cè)數(shù)據(jù)收集匯總，形成交通大數(shù)據(jù)；彈性計(jì)算層通過(guò)對(duì)數(shù)據(jù)預(yù)處理、分析及優(yōu)化通過(guò)虛擬化存儲(chǔ)、網(wǎng)絡(luò)和計(jì)算平臺(tái)實(shí)現(xiàn)安全、可用和自動(dòng)化；業(yè)務(wù)應(yīng)用層實(shí)現(xiàn)具體交通管理、指揮、預(yù)警業(yè)務(wù)，其技術(shù)路線如圖2所示。5.2 虛擬化綠色智慧交通數(shù)據(jù)中心方案

17、虛擬化綠色智慧交通數(shù)據(jù)中心組成包括五部分，分別是內(nèi)網(wǎng)數(shù)據(jù)、內(nèi)網(wǎng)虛擬化平臺(tái)、內(nèi)網(wǎng)應(yīng)用、外網(wǎng)虛擬化平臺(tái)、應(yīng)用需求。方案如圖3所示。6 結(jié)論（Conclusion）通過(guò)交通數(shù)據(jù)中心虛擬化，實(shí)現(xiàn)現(xiàn)有物理資源的集中管理和統(tǒng)一調(diào)度，提高了交通部門(mén)設(shè)備利用率和能源利用的有效性，提升運(yùn)營(yíng)效率，以及降低投資開(kāi)支。選用VMware虛擬化產(chǎn)品提高了交通數(shù)據(jù)中心系統(tǒng)基礎(chǔ)構(gòu)架的自動(dòng)化程度和靈活性，滿足了不斷擴(kuò)大的業(yè)務(wù)需求。同時(shí)，虛擬化數(shù)據(jù)中心不間斷運(yùn)營(yíng)和集成化管理工具可以簡(jiǎn)化運(yùn)營(yíng)，加快解決問(wèn)題的速度，并有助于向新技術(shù)轉(zhuǎn)型。參考文獻(xiàn)（References）1 Du B，Huang R，Chen X，et al.Activ

18、e CTDaaS：A Data Service Framework Based on Transparent IoD in City Traf?cJ.IEEE Transactions on Computers，2016，65：1.2 Jeon S，Hong B.Monte Carlo simulation-based traffic speed forecasting using historical big dataJ.Future Generation Computer Systems，2016，65：182-195.3 Xiong W，Yu Z，Eeckhout L，et al.ShenZhen transportation system（SZTS）：a nove