警務(wù)云計算平臺視頻資源整合方案.doc

警務(wù)云計算平臺視頻資源整合方案警務(wù)云計算平臺視頻資源整合方案目錄目錄21 項目背景與必要性分析41.1 城市安防與云計算41.2 某省安防現(xiàn)狀分析51.3 項目必要性51.3.1 從信息孤島到全局統(tǒng)籌的轉(zhuǎn)變61.3.2 從人工監(jiān)控到智能安防的轉(zhuǎn)變61.3.3 從事后分析到事中追蹤的轉(zhuǎn)變71.3.4 從獨立應(yīng)用到綜合聯(lián)動的轉(zhuǎn)變72 平臺架構(gòu)設(shè)計82.1 網(wǎng)絡(luò)架構(gòu)82.1.1 網(wǎng)絡(luò)拓撲82.1.2 數(shù)據(jù)安全網(wǎng)閘102.2 軟件架構(gòu)122.2.1 平臺架構(gòu)圖122.2.2 前端設(shè)備132.2.3 接入服務(wù)器132.2.4 中心服務(wù)器142.2.5 存儲服務(wù)器集群142.2.6 處理服務(wù)器集群142.2.7 流媒體服務(wù)器152.2.8 客戶端152.3 平臺聯(lián)動調(diào)度152.4 平臺部署策略172.4.1 區(qū)縣未集中處理的視頻172.4.2 區(qū)縣已集中管理的視頻183 平臺模塊技術(shù)描述193.1 IaaS層cStor云存儲193.1.1 cStor云存儲系統(tǒng)193.1.2 cStor系統(tǒng)構(gòu)架243.1.3 cStor架構(gòu)描述243.1.4 cStor部署示意圖253.1.5 cStor掛載接口263.1.6 cStor讀寫數(shù)據(jù)工作原理263.1.7 minicloud簡介283.1.8 minicloud產(chǎn)品優(yōu)勢283.1.9 minicloud技術(shù)規(guī)格303.1.10 cStor存儲性能303.2 PaaS層cProc云處理323.2.1 JobKeeper云調(diào)度323.2.2 cProc數(shù)據(jù)立方363.2.3 cProc數(shù)據(jù)立方關(guān)鍵技術(shù)393.2.4 cProc數(shù)據(jù)立方性能指標443.2.5 與同類技術(shù)/產(chǎn)品對比分析453.3 SaaS層cVideo云視頻483.3.1 cVideo系統(tǒng)邏框圖483.3.2 cVideo子系統(tǒng)描述503.3.3 cVideo接口描述693.3.4 cVideo總體性能713.3.5 cVideo智能識別734 圖像資源庫774.1 圖像資源庫建設(shè)內(nèi)容774.2 關(guān)鍵技術(shù)784.2.1 圖像增強技術(shù)784.2.2 目標識別技術(shù)794.2.3 顏色特征提取技術(shù)804.3.4 紋理特征提取技術(shù)814.3.5 形狀特征提取技術(shù)814.3.6 大規(guī)模圖像數(shù)據(jù)管理技術(shù)824.3.7 人臉識別技術(shù)834.3 圖像數(shù)據(jù)庫優(yōu)勢分析854.3.1 圖像優(yōu)化可用性高854.3.2 特征提取方便檢閱854.3.3 辦案視頻同步上傳854.3.4 高速索引秒級處理855應(yīng)用實例865.1 道路狀況檢測865.2 車輛軌跡跟蹤885.3 GIS聯(lián)動895.4 重點區(qū)域智能監(jiān)控905.5 套牌車檢索925.6 移動終端監(jiān)控936 聯(lián)系方式951 項目背景與必要性分析1.1 城市安防與云計算城市公共場所往往有成千上萬路監(jiān)控攝像頭遍布街頭，晝夜不停地監(jiān)視和錄像，在改善社會治安的同時，也產(chǎn)生出海量的視頻數(shù)據(jù)需要監(jiān)控管理平臺存儲和處理。要對這些海量視頻通過人工進行重點圖像的抓拍，困難很大。首先，需要對所有的視頻錄像進行逐幀瀏覽，才能發(fā)現(xiàn)重點圖像，這無疑工作量巨大，甚至猶如大海撈針。其次，即使找到了重點圖像，人工抓拍，并且要記錄下對應(yīng)的原始視頻圖像的時間點等，也是工作量很大，效率很低。由于人的生理特征所限，長時間觀看視頻錄像，容易產(chǎn)生視覺疲勞，還有可能漏掉重要圖像和線索。理想情況是一旦有重要事件發(fā)生，系統(tǒng)就可在事后能快速查找到線索。針對上述海量監(jiān)控視頻錄像的事后分析，傳統(tǒng)以人海戰(zhàn)術(shù)為主的視頻線索查找，顯然不能滿足高效查找，正面臨巨大挑戰(zhàn)，急需一種更為高效的、自動的、智能的系統(tǒng)實現(xiàn)上述需求。目前，基于云計算的大規(guī)模數(shù)據(jù)存儲和處理技術(shù)以及視頻圖像智能處理分析技術(shù)可以解決這一問題。通過視頻濃縮摘要，縮短視頻事件的播放時間，通過目標內(nèi)容識別、分類等實現(xiàn)快速查找事件線索，縮小查看范圍的功能，這些都極大地減輕警方刑偵人員的工作負荷，海量視頻分析功能的實現(xiàn)和應(yīng)用將大大提高監(jiān)控效率。國內(nèi)外很多公司以及機構(gòu)都在這一領(lǐng)域投入了大量的研究，將云計算，智能識別等技術(shù)聯(lián)系在一起，更好的為安防服務(wù)。充分利用云計算的海量數(shù)據(jù)計算能力和智能的處理能力，不僅能大大縮小了對于各類事件的事后取證所需要的時間，提高了取證效率，而且對于各種突發(fā)事件的預(yù)防、響應(yīng)都起到了積極有效的作用。1.2 某省安防現(xiàn)狀分析某省公安廳貫徹執(zhí)行“平安城市”方針，目前全省已先后建立了110余萬臺監(jiān)控攝像機，為全省人民的安全提供著保障，但同時，如此龐大且分散的監(jiān)控體系也帶來了巨大的挑戰(zhàn)。矛盾主要集中在： 海量視頻需要存儲，但現(xiàn)有存儲空間嚴重不足； 視頻碼率清晰度不斷提升，但傳輸網(wǎng)絡(luò)帶寬資源不足； 小塊區(qū)域集中管理，但跨區(qū)域調(diào)用視頻困難； 監(jiān)控還未達到智能化程度，時效性不強，多用于事后回調(diào)；在之前的建設(shè)與管理中，省廳已打造了一個視頻資源共享平臺，實現(xiàn)了將8萬路視頻資源的整合和統(tǒng)一管理，取得了很大的成功。但與全省110萬的總量相比，仍有許多工作要做，并且還需要進一步將社會上的視頻資源也納入到整個監(jiān)控體系中來。1.3 項目必要性公共區(qū)域視頻監(jiān)控系統(tǒng)的建設(shè)是平安城市建設(shè)必不可少的重要組成部分，其視頻監(jiān)控資源的整合、優(yōu)化以及利用程度是城市信息化程度的重要標志之一，大部分的公共區(qū)域中已建成大量、屬于各個部門、基于不同制式標準、不同設(shè)備、不同平臺的視頻監(jiān)控系統(tǒng)，但目前這些資源并沒有得到有效整合，無法跨平臺、跨部門進行集中優(yōu)化處理，這就造成了城市現(xiàn)有視頻資源利用率低、重復(fù)建設(shè)、缺乏統(tǒng)一調(diào)度等不良現(xiàn)象，本項目基于這個現(xiàn)狀旨在建設(shè)一個統(tǒng)一的、城市級的視頻監(jiān)控平臺，將城市現(xiàn)有的視頻監(jiān)控資源有效整合起來，并在此基礎(chǔ)上針對各類城市管理中的應(yīng)用需求，實現(xiàn)高效實用的業(yè)務(wù)應(yīng)用。通過構(gòu)建cVideo綜合視頻監(jiān)控云平臺（以下簡稱“平臺”），將城市可利用的全部視頻資源經(jīng)過優(yōu)化、整合及智能處理后，透明地呈現(xiàn)給使用者，為城市管理提供有力支撐?！捌脚_”在現(xiàn)有信息化建設(shè)基礎(chǔ)上，集成現(xiàn)有視頻監(jiān)控資源，建設(shè)大規(guī)模視頻實時接入處理分析監(jiān)控平臺，實現(xiàn)與現(xiàn)有平臺，網(wǎng)絡(luò)攝像機、以及新建監(jiān)控設(shè)備的對接，實現(xiàn)上萬路的視頻接入。對上述視頻監(jiān)控平臺的視頻接入后，要求實現(xiàn)轉(zhuǎn)碼處理、智能識別、解碼上墻和數(shù)據(jù)存儲回看等功能，以滿足不同終端的訪問需求、實現(xiàn)車流統(tǒng)計等交通數(shù)據(jù)的提取、對關(guān)鍵數(shù)據(jù)進行存儲、以及實現(xiàn)大屏控制等功能。實現(xiàn)從傳統(tǒng)的模式向云模式的轉(zhuǎn)換，并可以帶來巨大的獲益。1.3.1 從信息孤島到全局統(tǒng)籌的轉(zhuǎn)變針對某省現(xiàn)在已有的圖像平臺，需要對省市兩級主要平臺完成升級改造，確保實現(xiàn)公安視頻圖像信息共享平臺之間的聯(lián)網(wǎng)互通，同時兼容各地承建的視頻監(jiān)控系統(tǒng)和平臺，以提升整個某省公安圖像信息的共享度?！捌脚_”將散落在各個派出所或者小區(qū)域中的“信息孤島”相互連接，構(gòu)成由省廳統(tǒng)一管理的四級大平臺，使視頻數(shù)據(jù)能夠互通共享，并以此為基礎(chǔ)構(gòu)建豐富多彩的上層應(yīng)用。1.3.2 從人工監(jiān)控到智能安防的轉(zhuǎn)變在實現(xiàn)互聯(lián)之后，我們?nèi)詴l(fā)現(xiàn)新的問題。目前，成千上萬路監(jiān)控攝像頭遍布街頭，晝夜不停地監(jiān)視和錄像，在改善社會治安的同時，也產(chǎn)生出海量的視頻數(shù)據(jù)需要監(jiān)控管理平臺處理。要對這些海量視頻通過人工進行重點圖像的抓拍，困難很大。首先，需要對所有的視頻錄像進行諸秒瀏覽，才能發(fā)現(xiàn)重點圖像，這無疑工作量巨大，甚至猶如大海撈針。其次，即使找到了重點圖像，人工抓拍，并且要記錄下對應(yīng)的原始視頻圖像的時間點等，也是工作量很大，效率很低。由于人的生理特征所限，長時間觀看視頻錄像，容易產(chǎn)生視覺疲勞，還有可能漏掉重要圖像和線索。因此，用機器代替人工（機器結(jié)合人工），是必然的趨勢，通過智能地圖像識別算法，將“可疑”的視頻篩選出來，如此一來可以大幅降低人為的干預(yù)度，提升監(jiān)管效率。1.3.3 從事后分析到事中追蹤的轉(zhuǎn)變一般針對事件可以分為事前預(yù)防、事中跟蹤和事后取證。理想的情況是：一旦有重要事件發(fā)生，系統(tǒng)就可在很短時間內(nèi)查找到線索并定位，而目前海量監(jiān)控視頻大多以錄像的形式用于事后調(diào)取和回看，并且主要以傳統(tǒng)人海戰(zhàn)術(shù)的視頻線索查找，顯然不能滿足高效查找，正面臨巨大挑戰(zhàn)，急需一種更為高效的、自動的、智能的系統(tǒng)實現(xiàn)上述需求。目前，基于云計算的大規(guī)模數(shù)據(jù)存儲和處理技術(shù)以及視頻圖像智能處理分析技術(shù)可以解決這一問題。通過視頻濃縮摘要，縮短視頻事件的播放時間，通過目標內(nèi)容識別、分類等實現(xiàn)快速查找事件線索，縮小查看范圍的功能，這些都極大地減輕警方刑偵人員的工作負荷，海量視頻分析功能的實現(xiàn)和應(yīng)用將大大提高監(jiān)控效率。國內(nèi)外很多公司以及機構(gòu)都在這一領(lǐng)域投入了大量的研究，將云計算，智能識別等技術(shù)聯(lián)系在一起，更好的為安防服務(wù)。通過對云計算的海量數(shù)據(jù)計算能力的充分利用，提供智能識別所需的處理能力。這樣不僅能大大縮小了對于各類事件的事后取證所需要的時間，提高了取證效率，而且對于各種突發(fā)事件的預(yù)防、響應(yīng)都起到了積極有效的作用。1.3.4 從獨立應(yīng)用到綜合聯(lián)動的轉(zhuǎn)變在現(xiàn)有的條件下，視頻監(jiān)控大多數(shù)時間是以一個單獨的應(yīng)用呈現(xiàn)，或是通過大屏進行實時監(jiān)控，也可能是通過電腦終端進行監(jiān)控管理。然而隨著信息化程度的不斷提升，單一的監(jiān)控已然無法滿足用戶的需求，具有聯(lián)動功能的綜合型平臺愈發(fā)成為轉(zhuǎn)變的方向。因此，需要實現(xiàn)將警務(wù)綜合平臺與視頻結(jié)合應(yīng)用相互結(jié)合，整合成一共公共的基礎(chǔ)平臺，以更好地提供各類上層應(yīng)用系統(tǒng)的使用。同時，從視頻、聲音、圖像到信息提取、資料匯聚再到上層應(yīng)用，無一不有大數(shù)據(jù)穿插其中，如何應(yīng)對如此海量的信息和數(shù)據(jù)，如何將這些數(shù)據(jù)變成可以有效利用的寶貴資源也成為了日漸熱議的話題。2 平臺架構(gòu)設(shè)計根據(jù)省廳已有建設(shè)情況和對實際需求的深入分析，本方案利用 cStor 云存儲和 JobKeeper云調(diào)度技術(shù)構(gòu)建統(tǒng)一的cVideo云視頻監(jiān)控管理平臺軟件，部署在標準X86服務(wù)器集群上，通過對已有監(jiān)控資源的整合，實現(xiàn)海量高清視頻監(jiān)控的數(shù)據(jù)存儲和智能處理。2.1 網(wǎng)絡(luò)架構(gòu)2.1.1 網(wǎng)絡(luò)拓撲針對某省的實際情況，多級cVideo云視頻監(jiān)控系統(tǒng)采用分布式架構(gòu)，分級管理和部署。以街道派出所為單位，初期擬定每個所部署一臺“minicloud”（“minicloud”迷你云微型數(shù)據(jù)倉庫將在下面的章節(jié)中進行詳細描述），用于視頻數(shù)據(jù)的保存，從區(qū)級到市級再到省級分別部署cVideo系統(tǒng)，cVideo系統(tǒng)的架構(gòu)會在2.2中進行具體描述。整個“平臺”構(gòu)建于視頻專網(wǎng)之上，其中，省級中心處于核心地位，部署元數(shù)據(jù)服務(wù)器，以統(tǒng)一管理元數(shù)據(jù)信息，各派出所則使用“minicloud”中的三個互為冗余的節(jié)點擔當存儲節(jié)點的角色?！捌脚_”遵循“就近接入、本地存儲、中心統(tǒng)籌、權(quán)限管理”的方針，隨著存儲容量需求的增加，只需在容量不足的派出所增加存儲節(jié)點（服務(wù)器）即可，十分方便。而區(qū)縣級和市級主要負責對區(qū)域視頻的匯聚和處理，部署cVideo系統(tǒng)，并將處理后得到的信息提供給各上層應(yīng)用服務(wù)。cVideo云視頻監(jiān)控平臺針對省級的建設(shè)方案采用多級部署的方式，大致拓撲如下圖所示：圖2-1 cVideo多級部署概要圖初步預(yù)計每個派出所需要存儲的監(jiān)控攝像機按100路左右，平均碼流按2Mbps計算，則存放半個月需要的存儲容量約為：2 / 8 * 3600 * 24 * 15 *100 = 32.4TB“minicloud”是由三臺服務(wù)器所組成的小型云平臺，能夠存儲的總?cè)萘繛椋? * 3 * 3 = 81TB為了保證數(shù)據(jù)的可靠性，對數(shù)據(jù)進行1：1備份后，可用容量為：40.5TB，可以滿足初期的需求。隨著使用和前端設(shè)備的增設(shè)，容量需求會愈發(fā)增加，這時我們同樣提供了機架式的擴展方案，當存儲容量不足時，只需在“minicloud”下新增存儲節(jié)點（服務(wù)器），系統(tǒng)容量會自動增加，實現(xiàn)擴容十分方便。前端監(jiān)控設(shè)備所采集到的視頻數(shù)據(jù)保存在所屬的“minicloud”中，或經(jīng)過接入服務(wù)器，接入所屬區(qū)級的cVideo監(jiān)控平臺中進行管理和處理，各級客戶端訪問相應(yīng)中心服務(wù)器，按需操作和調(diào)控。云處理服務(wù)器提供空前的數(shù)據(jù)處理能力，提供諸如視頻轉(zhuǎn)碼、內(nèi)容識別等海量數(shù)據(jù)的處理支持。查看歷史視頻時，接入云存儲遵守分區(qū)接入、分局接入和就近接入原則，考慮到突發(fā)事件會致使查看視頻記錄的人員增多，分布式部署可以很好地緩解接入壓力。2.1.2 數(shù)據(jù)安全網(wǎng)閘考慮到公安網(wǎng)、圖像專網(wǎng)、社會公網(wǎng)之間安全性和保密性的問題，cVideo監(jiān)控平臺在實際布設(shè)過程中，也會遵循跨網(wǎng)絡(luò)必須經(jīng)過網(wǎng)閘的規(guī)則，示意圖如下：圖2-2 cVideo網(wǎng)絡(luò)隔離概要圖本次建設(shè)的cVideo云視頻監(jiān)控平臺位于視頻專網(wǎng)，以確保帶寬的通常及視頻的實時性。對于社會上公網(wǎng)中的監(jiān)控前端設(shè)備，納入平臺管理后在專網(wǎng)入口處也會設(shè)立網(wǎng)閘機制，進行物理隔離，保證進入專網(wǎng)的數(shù)據(jù)均為符合要求的。公安人員辦公環(huán)境為公安內(nèi)網(wǎng)，當需要訪問視頻專網(wǎng)的圖像信息時，視頻圖像數(shù)據(jù)會經(jīng)過網(wǎng)閘檢測，確保安全后放可接入公安內(nèi)網(wǎng)中，并且從公網(wǎng)到公安網(wǎng)經(jīng)過了兩重網(wǎng)關(guān)的監(jiān)管，使公安網(wǎng)的安全性進一步提升。圖2-3 網(wǎng)閘設(shè)置保證數(shù)據(jù)安全但進行網(wǎng)閘設(shè)置勢必會對帶寬有所限制，因此為了保證網(wǎng)絡(luò)互聯(lián)互通的同時，保證系統(tǒng)的安全性需對視頻數(shù)據(jù)進行云轉(zhuǎn)碼傳輸。由于視頻轉(zhuǎn)碼計算量很大，單一的計算機不可能實現(xiàn)整個監(jiān)控系統(tǒng)內(nèi)的攝像頭實時視頻數(shù)據(jù)的轉(zhuǎn)碼。cVideo研發(fā)了云端轉(zhuǎn)碼技術(shù)，將視頻轉(zhuǎn)碼計算放大云端，實現(xiàn)整個系統(tǒng)內(nèi)的實時視頻轉(zhuǎn)碼，以滿足用戶對不同分辨率，不同碼流，不同終端的使用需求。 圖2-4 轉(zhuǎn)碼前后視頻對比視頻接入模塊首先將不同廠家的前端設(shè)備接入進來，對于支持RTSP的采集設(shè)備，我們利用標準的流媒體協(xié)議接口實現(xiàn)視頻和音頻數(shù)據(jù)的傳輸。對于不支持RTSP的采集設(shè)備，我們利用設(shè)備廠商提供的SDK進行接入。然后在cProc云計算平臺上利用高效的轉(zhuǎn)碼技術(shù)，將采集到的高清視頻信號解碼后再重新編碼，在滿足用戶需求的同時降低對網(wǎng)絡(luò)帶寬的消耗。同時將轉(zhuǎn)碼后的視頻流推送給流媒體服務(wù)器分發(fā)出去。圖2-5 云轉(zhuǎn)碼流程2.2 軟件架構(gòu)2.2.1 平臺架構(gòu)圖如下圖所示，cVideo云視頻監(jiān)控平臺是部署于標準X86服務(wù)器上的軟件平臺，主要由七個子系統(tǒng)組成：前端設(shè)備、接入系統(tǒng)、處理系統(tǒng)、存儲系統(tǒng)、流媒體服務(wù)器、中心調(diào)度系統(tǒng)和客戶端。這七個模塊既相互獨立，又協(xié)調(diào)統(tǒng)一，共同對外提供服務(wù)。圖2-6 cVideo平臺模塊架構(gòu)圖2.2.2 前端設(shè)備前端設(shè)備在中心服務(wù)器的調(diào)度下進行信息采集，以RTSP的形式傳輸給存儲/處理服務(wù)器集群，或者以SDK的形式傳輸給接入服務(wù)器。(前端設(shè)備包括：模擬攝像機、網(wǎng)絡(luò)攝像機、卡口設(shè)備、第三方平臺等)2.2.3 接入服務(wù)器整合各種前端設(shè)備，將不同廠家不同平臺的前端設(shè)備通過RTSP標準流媒體協(xié)議或者SDK私有協(xié)議的方式接入本系統(tǒng)，以實現(xiàn)對多種前端攝像機和已有平臺的統(tǒng)一接入，供本平臺內(nèi)其他模塊統(tǒng)一調(diào)用，并以輪詢的方式監(jiān)聽前端設(shè)備，如有異常則產(chǎn)生報警信號。2.2.4 中心服務(wù)器平臺的核心控制部分，實現(xiàn)了與客戶端的信令交互、通過JobKeeper云調(diào)度系統(tǒng)來調(diào)度云集群節(jié)點處理各項任務(wù)、并實現(xiàn)對整個平臺的統(tǒng)一管理和監(jiān)控。a）用戶管理功能：根據(jù)用戶信息表，管理用戶登錄、用戶的權(quán)限，可以管理用戶信息、增刪用戶等。b）前端信息采集設(shè)備管理功能：根據(jù)攝像機和用戶的權(quán)限，管理當前用戶所能涉及的前端設(shè)備狀態(tài)、節(jié)點運行狀態(tài)，并進行實時的更新。c）與用戶和前端設(shè)備的信息交互功能：更新前端信息，并根據(jù)客戶需求進行對前端設(shè)備調(diào)度，以及對JobKeeper的任務(wù)分發(fā)。同時，進行信息數(shù)據(jù)的處理，以完成整個平臺的調(diào)度工作。d）對服務(wù)器集群進行統(tǒng)一的調(diào)度管理，獲取每臺機器的運行狀態(tài)。根據(jù)機器的運行狀態(tài)進行自動調(diào)度和部署，負載均衡，提高機器的使用率，進而提高服務(wù)器的梳理效率。e）解決服務(wù)器集群信息處理的冗余狀態(tài)，查錯排錯，保證系統(tǒng)的無人值守、自動生長的高效性。2.2.5 存儲服務(wù)器集群使用cStor云存儲系統(tǒng)，提供統(tǒng)一的存儲資源池，用以存儲關(guān)鍵數(shù)據(jù)，提供歷史視頻的回看以及相關(guān)數(shù)據(jù)的下載服務(wù)。同時，支持網(wǎng)絡(luò)掛載盤符的模式，以滿足整個平臺中其他模塊的存儲需求。2.2.6 處理服務(wù)器集群大致可以分為接入分析、數(shù)據(jù)處理和結(jié)果分發(fā)三個子模塊，主要負責對完成對接入視頻的各項處理任務(wù)，諸如：內(nèi)容識別、實時轉(zhuǎn)碼、錄像存儲等，再將處理好的結(jié)果發(fā)送至流媒體服務(wù)器和存儲服務(wù)器。2.2.7 流媒體服務(wù)器以流媒體服務(wù)器的形式對外提供標準的RTSP流媒體服務(wù)，用戶根據(jù)相應(yīng)的流媒體RTSP地址，即可實時地獲取系統(tǒng)處理完后的實時視頻數(shù)據(jù)，以供監(jiān)控和遠程訪問。采用虛擬IP技術(shù)，備份冗余機制，針對公網(wǎng)和內(nèi)網(wǎng)不同的訪問需求提供不同的碼流推送。2.2.8 客戶端支持Windows、Linux、iOS、Android等主流操作系統(tǒng)，提供B/S和C/S架構(gòu)客戶端，控制視頻解碼上墻等，實現(xiàn)與用戶的直接交互。2.3 平臺聯(lián)動調(diào)度按2.2節(jié)中所說的架構(gòu)，在實際應(yīng)用中，經(jīng)常會出現(xiàn)跨級的聯(lián)動調(diào)度問題，下圖展示了cVideo云視頻監(jiān)控平臺多級聯(lián)動調(diào)度的流程。 上級中心總平臺的接入服務(wù)器和下級子平臺的中心服務(wù)器信令交互，上級平臺的接入服務(wù)器相當于下級平臺的一個超級管理員用戶。總平臺通過接入服務(wù)器登陸到子平臺，從而進行獲取設(shè)備列表、獲取設(shè)備信息、云臺控制、獲取流地址等操作。 上下級平臺的設(shè)備管理、用戶管理、日志管理等功能相互獨立，下級平臺和第三方平臺對“平臺”的用戶不可見，用戶可以透明地訪問各平臺的前端監(jiān)控設(shè)備資源（可以知道設(shè)備是屬于哪個平臺、哪個部門的，但不能直接登陸到下級平臺或第三方平臺）。在“平臺”用戶視角，相當于所有下級平臺和第三方平臺的設(shè)備都是直接部署在此綜合的云平臺之上。圖2-7 多級部署上級視頻數(shù)據(jù)流對接如上圖所示，如果是上級中心總平臺用戶想查看某前端攝像機的實時視頻，那么，該用戶首先通過客戶端或瀏覽器登陸平臺，隨后發(fā)出對某路視頻的監(jiān)控請求，中心調(diào)度系統(tǒng)會根據(jù)數(shù)據(jù)庫里的攝像機設(shè)備信息將任務(wù)經(jīng)由接入服務(wù)器發(fā)送給政務(wù)專網(wǎng)的中心調(diào)度系統(tǒng)，由其調(diào)度相應(yīng)接入、處理服務(wù)器進行進入和轉(zhuǎn)發(fā)處理。該視頻流經(jīng)過子平臺流媒體服務(wù)器轉(zhuǎn)發(fā)至總平臺，客戶端得到該地址即可播放出實時視頻流。如果此時子平臺的用戶也想監(jiān)控上述該路的實時視頻，在請求該路監(jiān)控時，子平臺的中心服務(wù)器會自動發(fā)現(xiàn)該監(jiān)控任務(wù)已由總平臺用戶發(fā)起過，只要經(jīng)過總平臺中心控制的許可，便可立即將流媒體服務(wù)器推送地址反饋給客戶端，子平臺用戶的客戶端則直接可以播放出該路實時視頻流。如下圖所示：圖2-8 多級部署下級視頻數(shù)據(jù)流對接2.4 平臺部署策略針對某省的實際情況，在之前的規(guī)劃和管理過程中，部分區(qū)域已經(jīng)實現(xiàn)了按區(qū)縣為單位對現(xiàn)有視頻做了集中管理和存儲，而另一些則是完完全全的“信息孤島”狀態(tài)。在“平臺”的實施部署過程中，需要充分考慮到這些因素，以“不重建、多復(fù)用”為主旨，充分利用已有的平臺和系統(tǒng)，實現(xiàn)對異構(gòu)的監(jiān)控體系的統(tǒng)一管理。2.4.1 區(qū)縣未集中處理的視頻對于區(qū)縣沒有集中處理的視頻，“平臺”會按照2.1章節(jié)中的部署規(guī)則，給每個派出所部署一套minicloud，用其本地化保存視頻數(shù)據(jù)，并接受省廳中心的直接管理，同時提供給上層應(yīng)用和服務(wù)的支撐。2.4.2 區(qū)縣已集中管理的視頻對于區(qū)縣已經(jīng)集中管理過的視頻，“平臺”則不會對該區(qū)域及其下屬派出所新建設(shè)備，而是與該系統(tǒng)交互，通過其SDK進行對接和信息交互，獲取需要的管理信息及視頻流。從用戶的角度而言，呈現(xiàn)在面前的只是單純的一個個獨立的攝像機，用戶不必關(guān)心前端的攝像機具體是從我們部署的minicloud中傳輸過來的，亦或是從已有區(qū)縣系統(tǒng)中傳輸過來的，“平臺”已經(jīng)將中間過程透明化，以更貼近用戶的使用習慣。3 平臺模塊技術(shù)描述方案采用信令流和數(shù)據(jù)流分離的方式，在標準X86(X64)服務(wù)器集群上部署存儲、處理、調(diào)度等軟件系統(tǒng)，形成一個整體的云視頻監(jiān)控解決方案，實現(xiàn)對現(xiàn)有視頻監(jiān)控資源的整合。采用云調(diào)度和云存儲技術(shù)，有較高的擴展性和容錯能力，解決服務(wù)器單點故障問題，降低升級和維護成本。3.1 IaaS層cStor云存儲3.1.1 cStor云存儲系統(tǒng) cStor簡介cStor云存儲系統(tǒng)是9年來不斷積累研發(fā)的高科技產(chǎn)品，是國內(nèi)最早實現(xiàn)并保持領(lǐng)先的云存儲系統(tǒng)，整套系統(tǒng)包括軟件與硬件，是一個海量的云存儲平臺。與傳統(tǒng)的大規(guī)模存儲系統(tǒng)相比，它具有構(gòu)建成本低、性能高效可靠、使用簡單方便的特點。在需要存儲大量數(shù)據(jù)（如視頻數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)等）的應(yīng)用場合，可以大幅提高存儲系統(tǒng)性價比。與目前國際上知名的云存儲廠商相比，具有更高的性價比、更低的能耗、更加通用和更方便的使用模式。圖3-1 cStor云存儲系統(tǒng) cStor主要優(yōu)勢 高可靠性系統(tǒng)中采用廉價的大容量存儲服務(wù)節(jié)點，通過cStor系統(tǒng)軟件實現(xiàn)統(tǒng)一管理和容錯，提供高效、穩(wěn)定服務(wù)。與使用專用服務(wù)器相比，可以將系統(tǒng)構(gòu)建成本節(jié)省5-10倍以上，且規(guī)模越大，優(yōu)勢越明顯。在降低系統(tǒng)的構(gòu)建成本的同時，系統(tǒng)的可靠性不僅沒有收到影響，相反，通過一系列的可靠性保障機制，使得cStor系統(tǒng)具有高可靠性的特性。在cStor云存儲系統(tǒng)中，數(shù)據(jù)具有多個副本（默認情況下是2份，可以根據(jù)需要設(shè)置），任意節(jié)點出現(xiàn)故障，系統(tǒng)將會自動復(fù)制數(shù)據(jù)副本到新的節(jié)點上，不會丟失數(shù)據(jù)。這樣，在節(jié)點發(fā)生故障的情況下，也可以實現(xiàn)數(shù)據(jù)的無間斷服務(wù)。同時，元數(shù)據(jù)管理節(jié)點采用雙機鏡像模式容錯，如果有一節(jié)點出現(xiàn)故障，另一節(jié)點自動接替。 高性能cStor采用控制流與數(shù)據(jù)流分離的技術(shù)，數(shù)據(jù)的存儲或讀取實際上是與各個存儲節(jié)點上并行讀寫；這樣隨著存儲節(jié)點數(shù)目的增多，整個系統(tǒng)的吞吐量和IO性能將呈線性增長。同時，cStor采用負載均衡技術(shù)，自動均衡各服務(wù)器負載，使得各存儲節(jié)點的性能調(diào)節(jié)到最高。 在線伸縮cStor云存儲系統(tǒng)擴容非常方便，支持不停止服務(wù)的情況下，動態(tài)加入新的存儲節(jié)點，無需任何操作，即實現(xiàn)擴容；同時，無需人為干預(yù)，也可以摘下任意節(jié)點，系統(tǒng)自動縮小規(guī)模而不丟失數(shù)據(jù)，存儲在此節(jié)點上的數(shù)據(jù)將會重新備份到其他節(jié)點上。 通用易用cStor云存儲系統(tǒng)提供標準POSIX接口，無論是哪種操作系統(tǒng)下的應(yīng)用程序，都可以不經(jīng)修改將云存儲當成自己的海量磁盤來使用。如：同時，cStor也提供專用的API接口，供開發(fā)人員調(diào)用。 智能管理提供基于WEB的管理平臺，所有的管理工作均由cStor管理模塊自動完成，使用人員無需任何專業(yè)知識便可以輕松管理整個系統(tǒng)。通過管理平臺，可以對cStor中的所有節(jié)點實行無間斷監(jiān)控，用戶通過監(jiān)控界面可以清楚地了解到每一個節(jié)點和磁盤的運行情況。 cStor關(guān)鍵技術(shù) 負載自動均衡技術(shù)cStor采用中心服務(wù)器模式來管理整個云存儲文件系統(tǒng)，所有元數(shù)據(jù)均保存在Master Server上，文件則劃分為多個chunk存儲在不同的Chunk Server上。Master Server維護了一個統(tǒng)一的命名空間，同時掌握整個系統(tǒng)內(nèi)Chunk Server的使用情況，當客戶端向元數(shù)據(jù)服務(wù)器發(fā)送數(shù)據(jù)讀寫的請求時，元數(shù)據(jù)服務(wù)器根據(jù)Chunk Server的磁盤使用情況、網(wǎng)絡(luò)負擔等情況，選擇負擔最輕的Chunk Server對外提供服務(wù)，自動均衡負載負擔。另外，當某有一個Chunk Server因為機器故障或者其他原因造成離線時，Master Server會將此機器自動屏蔽掉，不再將此Chunk Server提供給客戶端使用，同時存儲在此Chunk Server上的數(shù)據(jù)也會自動的備份到其他可用的Chunk Server上，自動屏蔽Chunk Server故障對系統(tǒng)的影響。 高速并發(fā)訪問技術(shù)客戶端在訪問cStor時，首先訪問Master Server節(jié)點，獲取將要與之進行交互的Chunk Server信息，然后直接訪問這些Chunk Server完成數(shù)據(jù)存取。cStor的這種設(shè)計方法實現(xiàn)了控制流和數(shù)據(jù)流的分離。Client與Master Server之間只有控制流，而無數(shù)據(jù)流，這樣就極大地降低了Master Server的負載，使之不成為系統(tǒng)性能的一個瓶頸。Client與Chunk Server之間直接傳輸數(shù)據(jù)流，同時由于文件被分成多個chunk進行分布式存儲，Client可以同時訪問多個Chunk Server，從而使得整個系統(tǒng)的I/O高度并行，系統(tǒng)整體性能得到提高。通常情況下，系統(tǒng)的整體吞吐率與Chunk Server的數(shù)量呈正比。 高可靠性保證技術(shù)對于元數(shù)據(jù)，cStor通過操作日志來提供容錯功能，當Master Server發(fā)生故障時，在磁盤數(shù)據(jù)保存完好的情況下，可以迅速恢復(fù)以上元數(shù)據(jù)。為了防止Master Server徹底死機的情況，cStor還提供了Master Server遠程的實時備份，這樣在當前的Master Server出現(xiàn)故障無法工作的時候，另外一臺備Master Server可以迅速接替其工作。對于Chunk Server，cStor采用副本的方式實現(xiàn)容錯。每一個chunk有多個存儲副本（默認為兩個），分布存儲在不同的Chunk Server上。副本的分布策略考慮了多種因素，如網(wǎng)絡(luò)的拓撲、機架的分布、磁盤的利用率等。對于每一個Chunk Server，必須將所有的副本全部寫入成功，才視為成功寫入。在其后的過程中，如果相關(guān)的副本出現(xiàn)丟失或不可恢復(fù)等狀況，Master Server會自動將該副本復(fù)制到其他Chunk Server，從而確保副本保持一定的個數(shù)。在有多個Chunk Server的情況下，任意損失一個節(jié)點，數(shù)據(jù)都不會丟失，而且隨著Chunk Server數(shù)目的增多，整個系統(tǒng)的可靠性越大。同時，系統(tǒng)除了支持傳統(tǒng)的1：1、1：2的冗余備份技術(shù)外，也支持高效的N：N+M的編碼容錯技術(shù)，即：假設(shè)將原始文件切分為N個數(shù)據(jù)塊，通過冗余編碼技術(shù)，將其編碼后增加了M個數(shù)據(jù)塊，數(shù)據(jù)總量變成了N+M個數(shù)據(jù)塊。從中任意取出N個數(shù)據(jù)塊即可將文件還原，進一步提升了空間利用率，確保數(shù)據(jù)安全可靠。 高可用技術(shù)系統(tǒng)中的所有服務(wù)節(jié)點均是通過網(wǎng)絡(luò)連接在一起，由于采用了高可靠的容錯機制，系統(tǒng)增減節(jié)點不必停止服務(wù)，可在線增減存儲節(jié)點，存儲節(jié)點和元數(shù)據(jù)節(jié)點間通過注冊管理機制自適應(yīng)管理，實現(xiàn)自動伸縮。元數(shù)據(jù)服務(wù)器采用主備雙機熱備技術(shù)，主機故障，備機自動接替其工作，對外服務(wù)不停止；存儲節(jié)點采用冗余備份機制，多個存儲節(jié)點情況下，任意損失一個節(jié)點，數(shù)據(jù)不丟失，系統(tǒng)不停機，F(xiàn)TP等上層服務(wù)不停止。3.1.2 cStor系統(tǒng)構(gòu)架圖3-2 cStor云存儲系統(tǒng)架構(gòu)如上圖所示，cStor云存儲文件系統(tǒng)采用分布式的存儲機制，將數(shù)據(jù)分散存儲在多臺獨立的存儲服務(wù)器上。它采用包括元數(shù)據(jù)管理服務(wù)器（Master Server）和數(shù)據(jù)存儲節(jié)點服務(wù)器（Chunk Server）以及客戶端節(jié)點的結(jié)構(gòu)構(gòu)成一個虛擬的海量存儲卷。3.1.3 cStor架構(gòu)描述Master Server保存系統(tǒng)的元數(shù)據(jù)，負責對整個文件系統(tǒng)的管理，Master Server在邏輯上只有一個，但采用主備雙機鏡像的方式，保證系統(tǒng)的不間斷服務(wù)；Chunk Server負責具體的數(shù)據(jù)存儲工作，數(shù)據(jù)以文件的形式存儲在Chunk Server上，Chunk Server的個數(shù)可以有多個，它的數(shù)目直接決定了cStor云存儲系統(tǒng)的規(guī)模；客戶端即為服務(wù)器對外提供數(shù)據(jù)存儲和訪問服務(wù)的窗口，通常情況下，客戶端都部署在Chunk Server上，每一個塊數(shù)據(jù)服務(wù)器，及時存儲服務(wù)器也是客戶端服務(wù)器。對每一個節(jié)點，cStor云存儲系統(tǒng)提供的管理監(jiān)控中心都可以對其進行管理，包括設(shè)備運行狀態(tài)、磁盤運行狀態(tài)、服務(wù)在線情況以及異常告警等功能；另外，網(wǎng)管監(jiān)控中心還提供有如FTP、CIFS、NFS賬戶添加等客戶端管理和配置工具。這種分布式系統(tǒng)最大的好處是有利于存儲系統(tǒng)的擴展和實現(xiàn)，在小規(guī)模的數(shù)據(jù)擴展時，只需要添加具體的Chunk Server即可，而不需要添加整套設(shè)備。3.1.4 cStor部署示意圖圖3-3 cStor云存儲部署示意圖cStor云存儲系統(tǒng)所有的節(jié)點均通過網(wǎng)絡(luò)的方式連接起來，其中存儲節(jié)點采用廉價的計算機節(jié)點，運用自適應(yīng)副本管理技術(shù)進行容錯。所有存儲節(jié)點同時擔任對外服務(wù)功能，客戶端分別掛載到不同存儲節(jié)點訪問云存儲系統(tǒng)。通過增加或者減少存儲節(jié)點的方式，即可以對存儲系統(tǒng)進行在線伸縮，由于采用了自適應(yīng)副本管理技術(shù)進行容錯，系統(tǒng)在線伸縮的過程中，不影響系統(tǒng)對外提供服務(wù)。3.1.5 cStor掛載接口對于cStor云存儲的用戶來說，通過cStor客戶端可以將海量云存儲系統(tǒng)映射成一個本地海量磁盤（Windows客戶端）或者映射到一個目錄（Unix、Linux、MacOS、FreeBSD等客戶端），對于此磁盤或者目錄的讀寫操作，即可實現(xiàn)云存儲系統(tǒng)數(shù)據(jù)的讀寫。并且，cStor支持NFS、CIFS、FTP等協(xié)議的訪問接口。同時，由于cStor文件系統(tǒng)支持POSIX接口規(guī)范，對于目前一般的應(yīng)用不需要做二次開發(fā)即可使用。3.1.6 cStor讀寫數(shù)據(jù)工作原理圖3-4 cStor客戶端寫數(shù)據(jù)流程其詳細過程是：cStor客戶端向元數(shù)據(jù)服務(wù)器發(fā)起數(shù)據(jù)寫請求；元數(shù)據(jù)服務(wù)器根據(jù)其管理的存儲節(jié)點的工作和使用情況，根據(jù)負載均衡的原理，在相關(guān)存儲節(jié)點上創(chuàng)建一些新的數(shù)據(jù)塊；相關(guān)存儲節(jié)點服務(wù)器創(chuàng)建成功，將結(jié)果返回給元數(shù)據(jù)服務(wù)器；元數(shù)據(jù)服務(wù)器一方面?zhèn)浞莺屯酱嗽獢?shù)據(jù)信息，另一方面將相關(guān)存儲節(jié)點信息返回給客戶端；客戶端根據(jù)得到的存儲節(jié)點信息，向?qū)?yīng)存儲節(jié)點發(fā)出數(shù)據(jù)寫請求，并向存儲節(jié)點發(fā)送數(shù)據(jù)；存儲節(jié)點接收數(shù)據(jù)并存儲到相應(yīng)塊，同時也向其他存儲節(jié)點發(fā)起備份；當本地寫以及備份均成功后，存儲節(jié)點將成功信息返回給客戶端；客戶端收到成功信號后，即完成數(shù)據(jù)的存儲。下圖為cStor客戶端讀數(shù)據(jù)流程圖如下所示：圖3-5 cStor客戶端讀數(shù)據(jù)流程總的來說，cStor云存儲系統(tǒng)的控制流和數(shù)據(jù)流是分離的，一方面降低了元數(shù)據(jù)服務(wù)的負擔，使得其處理能力更強，另一方面將數(shù)據(jù)讀寫的負擔分擔到各存儲節(jié)點，使得系統(tǒng)的整體性能得到了提高，與節(jié)點數(shù)目成正相關(guān)。3.1.7 minicloud簡介云計算的飛速發(fā)展，使云存儲領(lǐng)域涉及的范圍越來越廣，隨著企業(yè)辦公人員對數(shù)據(jù)存儲安全性和可靠性的要求越來越高，使用傳統(tǒng)的存儲模式，如移動硬盤、U盤、刻錄光盤等方式，都存在著使用不方便、管理麻煩等諸多問題，特別軟硬件故障可能導(dǎo)致本地存儲信息的大量丟失或損壞。因此如何安全可靠的存儲企業(yè)運營數(shù)據(jù)，成為了現(xiàn)在企業(yè)辦公的重中之重。 因此，云創(chuàng)存儲推出minicloud微型云計算數(shù)據(jù)中心，用最少的成本為企業(yè)部署云存儲以及企業(yè)辦公應(yīng)用軟件，為辦公室配置一朵迷你的云，滿足企業(yè)的辦公需求，大幅度降低了企業(yè)IT建設(shè)的門檻與風險。圖3-6 minicloud外觀圖3.1.8 minicloud產(chǎn)品優(yōu)勢 超安全的私有云計算數(shù)據(jù)中心 minicloud采用可靠的分布式云存儲,最大支撐三個27TB的存儲節(jié)點,采用1:1容錯保證企業(yè)數(shù)據(jù)安全可靠,minicloud可作為企業(yè)的數(shù)據(jù)中心,為企業(yè)的各種重要數(shù)據(jù)提供安全可靠的存儲,重要數(shù)據(jù)包括企業(yè)設(shè)計文檔、設(shè)計圖紙、經(jīng)營數(shù)據(jù)等。 海量存儲空間支持靈活使用 裸容量高達81TB，采用1:1容錯，可用空間最大達40.5TB，既可作為應(yīng)用軟件（如郵箱、視頻監(jiān)控等）的海量存儲空間，又可以作為員工的私密存儲空間，還可以作為數(shù)據(jù)共享空間。為了保障數(shù)據(jù)安全，辦公室內(nèi)部共享數(shù)據(jù)與通過互聯(lián)網(wǎng)共享數(shù)據(jù)采用完全隔離的兩套系統(tǒng)。 簡易的部署方式 隨著中小型企業(yè)、學校等單位的迅速發(fā)展壯大，擁有自己的服務(wù)器是必不可少的。但是傳統(tǒng)的服務(wù)器的部署不僅占用空間，而且可能還需要有專門的機房，對于辦公場所面積有限制的企業(yè)、單位來說部署一套傳統(tǒng)的服務(wù)器是相當不易的。而minicloud具有節(jié)省空間的得天獨厚優(yōu)勢， 441mm 550mm 350mm的大小集三個服務(wù)器于一身，完全消除企業(yè)單位應(yīng)對部署服務(wù)器的困難。不需要專業(yè)人員就能在自己的辦公場所部署一套集成多應(yīng)用的服務(wù)器。 人性化的系統(tǒng)監(jiān)控 可方便地對minicloud進行監(jiān)控，完成對系統(tǒng)的實時監(jiān)控，包括云存儲容量的監(jiān)控、磁盤的監(jiān)控、CPU的監(jiān)控以及內(nèi)存的監(jiān)控，界面效果如下圖所示。圖3-7 minicloud監(jiān)控界面 可靠的企業(yè)應(yīng)用 企業(yè)應(yīng)用程序包括郵件服務(wù)器程序、數(shù)據(jù)庫、云存儲管理節(jié)點等均采用雙機熱備，為企業(yè)提供安全可靠的應(yīng)用，保證應(yīng)用程序可持續(xù)的運行；同時minicloud提供配置接口，通過配置可實現(xiàn)第三方應(yīng)用程序的雙機熱備。 自動同步 各個客戶端中文件夾自動同步，服務(wù)器文件自動保持一致，多客戶端文件自動同步。 多平臺隨時訪問 minicloud微型云計算數(shù)據(jù)中心支持Windows客戶端、網(wǎng)站、Android客戶端、iPhone/iPad客戶端，方便用戶隨時隨地訪問minicloud。 便攜共享，協(xié)同辦公 minicloud支持多人共享同步文件夾，提供了更加便捷的協(xié)同辦公的方式。3.1.9 minicloud技術(shù)規(guī)格“minicloud”產(chǎn)品根據(jù)不同應(yīng)用對象的應(yīng)用需求以及對系統(tǒng)配置的要求分成三種技術(shù)規(guī)格，詳細說明如下。表3-1 “minicloud”技術(shù)規(guī)格表經(jīng)濟型（minicloud M1100)標準型（minicloud M1200)增強型（minicloud M1300)尺寸550mm(長度) x 441mm(寬度) x 350mm(高度)售后質(zhì)保服務(wù)第1年提供免費質(zhì)保服務(wù)，第2-3年提供成本價維修服務(wù)內(nèi)置服務(wù)器數(shù)量333每臺服務(wù)器技術(shù)規(guī)格主板Intel芯片組主板處理器單路四核，2GHz以上雙路四核，2GHz以上雙路四核，2GHz以上內(nèi)存8GB16GB32GB網(wǎng)絡(luò)板載千兆網(wǎng)口, 支持負載均衡和失敗替換電源480W（1+1）冗余電源包裝內(nèi)容minicloud說明書、保修卡、電源線、網(wǎng)線包含軟件cStor云存儲系統(tǒng)存儲容量最高可達81TB，采用1:1副本容錯網(wǎng)盤系統(tǒng) 在云存儲系統(tǒng)基礎(chǔ)上構(gòu)建的領(lǐng)先的私有網(wǎng)盤系統(tǒng)，支持Windows、Android、iOS、Web等多種訪問方式。郵箱系統(tǒng) 企業(yè)私有郵箱系統(tǒng)，采用云架構(gòu)，數(shù)據(jù)更可靠更安全。minicloud管理平臺可便捷的對minicloud進行管理，包括用戶的管理、存儲的管理、運行狀態(tài)的管理等。3.1.10 cStor存儲性能cStor云存儲系統(tǒng)的性能指標如下表所示：表3-2 cStor云存儲性能指標cStor云存儲系統(tǒng)軟件性能指標主特性子特性功能說明高可用保證主備雙機能夠在主元數(shù)據(jù)服務(wù)器故障情況下自動切換至備用元數(shù)據(jù)服務(wù)器，對外服務(wù)不停止空間掛載（接口開放性）Windows掛載運行Windows客戶端程序，在Windows系統(tǒng)上顯示為一本地海量磁盤Linux/Unix/FreeBS/MacOS掛載運行Linux/Unix/FreeBS/MacOS掛載程序，在系統(tǒng)上對應(yīng)為一本地目錄可靠性保證元數(shù)據(jù)日志元數(shù)據(jù)日志本地持久化，可根據(jù)元數(shù)據(jù)日志恢復(fù)元數(shù)據(jù)元數(shù)據(jù)日志備份支持元數(shù)據(jù)日志異機備份，可根據(jù)備份日志恢復(fù)元數(shù)據(jù)塊數(shù)據(jù)備份采用副本冗余方式或編解碼方式容錯，當磁盤損壞副本數(shù)減少時，系統(tǒng)自動重建副本數(shù)到配置的值，保證數(shù)據(jù)安全可靠、服務(wù)不間斷空間利用率磁盤有效容量系統(tǒng)N+M編解碼配置下，磁盤有效容量=N/(N+M)裸容量，如8+2編碼情況下，磁盤利用率為80%。若采用傳統(tǒng)副本方式1：N容錯，則磁盤有效容量為1/(1+N)裸容量。高性能保證吞吐量系統(tǒng)整體吞吐量隨系統(tǒng)規(guī)模增加呈線性增長寫性能單客戶端寫性能高于100MB/s讀性能單客戶端讀性能高于80MB/s動態(tài)擴展存儲節(jié)點動態(tài)擴展能夠在不停止服務(wù)的情況下進行擴容或收縮規(guī)模，在線增加和減少存儲節(jié)點訪問接口支持支持POSIX規(guī)范支持掛載為Linux/Unix本地文件目錄或Windows磁盤，用戶使用和操作與本地文件系統(tǒng)相同支持FTP訪問支持FTP訪問方式支持NFS訪問支持NFS訪問方式支持CIFS訪問支持CIFS訪問方式存儲節(jié)點可兼作服務(wù)節(jié)點存儲節(jié)點可兼作服務(wù)節(jié)點存儲節(jié)點可兼作服務(wù)節(jié)點，對外提供數(shù)據(jù)訪問服務(wù)負載均衡負載自動均衡根據(jù)空間利用情況進行負載均衡流量分擔并發(fā)訪問時流量自動分擔并發(fā)訪問時流量自動分擔至不同的存儲節(jié)點安全性身份標識和鑒別系統(tǒng)的管理監(jiān)控中心具有身份標識和鑒別功能正常訪問控制系統(tǒng)具有對系統(tǒng)正常訪問的控制能力屏蔽非法操作系統(tǒng)具有對未預(yù)期的非法操作的控制能力數(shù)據(jù)備份和恢復(fù)系統(tǒng)可以配置備份因子，設(shè)置數(shù)據(jù)存儲的份數(shù)日志管理系統(tǒng)元數(shù)據(jù)服務(wù)器具有日志功能管理監(jiān)控設(shè)備監(jiān)控監(jiān)控設(shè)備的運行狀態(tài)磁盤監(jiān)控監(jiān)控設(shè)備的磁盤狀態(tài)空間監(jiān)控監(jiān)控系統(tǒng)的空間使用狀態(tài)文件監(jiān)控監(jiān)控和統(tǒng)計系統(tǒng)的文件狀態(tài)塊級監(jiān)控監(jiān)控系統(tǒng)的數(shù)據(jù)塊狀態(tài)、壞塊統(tǒng)計和定位3.2 PaaS層cProc云處理3.2.1 JobKeeper云調(diào)度如何保證在云計算平臺中部分硬件或軟件發(fā)生故障的情況下仍不影響系統(tǒng)的正常運行；如何保證在云計算平臺中高效穩(wěn)定的合理化分配和執(zhí)行任務(wù)，同時能夠完全解決系統(tǒng)單點故障問題，負載均衡，自動調(diào)度與部署的高效云調(diào)度平臺，JobKeeper服務(wù)器最大的作用即是解決云計算系統(tǒng)中的單點故障和任務(wù)調(diào)度的問題。 Jobkeeper系統(tǒng)架構(gòu)Jobkeeper的系統(tǒng)架構(gòu)如下圖所示：圖3-8 Jobkeeper架構(gòu)圖上圖中對Jobkeeper進行了分層，對每層進行具體闡述 虛擬化資源層：將機器進行虛擬化，形成更大范圍的服務(wù)集群。 存儲層：存儲數(shù)據(jù)的處理結(jié)果集或其他中間結(jié)果集的單元。 數(shù)據(jù)處理層：獨立的數(shù)據(jù)處理程序，是對不同需求數(shù)據(jù)的統(tǒng)一處理方案，由JobKeeper調(diào)度平臺進行統(tǒng)一的配置管理。 業(yè)務(wù)層：對于應(yīng)用層的相關(guān)功能的業(yè)務(wù)化，數(shù)字化處理，用于將應(yīng)用層的需求任務(wù)進行規(guī)則化劃分，形成統(tǒng)一的處理化模式。 應(yīng)用層：一組用于管理和結(jié)果反饋的顯示組件。是整個系統(tǒng)面向用戶和開發(fā)人員的基礎(chǔ)承載。 Jobkeeper任務(wù)分發(fā)JobKeeper的任務(wù)分發(fā)流程如下圖所示： 圖 3-9 JobKeeper任務(wù)分發(fā)流程圖當用戶在應(yīng)用層下發(fā)任務(wù)給管理節(jié)點，管理節(jié)點調(diào)度機器處理任務(wù)，將任務(wù)扔給具體的處理節(jié)點，處理節(jié)點將結(jié)果返回給管理節(jié)點，管理節(jié)點整理結(jié)果，而后返回給應(yīng)用層。服務(wù)器節(jié)點組：負責對處理節(jié)點的系統(tǒng)信息以及任務(wù)處理信息進行實時的跟蹤和保存，對應(yīng)的信息鏡像存儲在基于cStor或者NFS服務(wù)的存儲系統(tǒng)上。處理節(jié)點組：通過RPC的遠程調(diào)用獲取各自節(jié)點的任務(wù)處理目標，并實時的和處理節(jié)點上的任務(wù)處理目標進行對比，控制程序的執(zhí)行和結(jié)束。處理節(jié)點組會在一個設(shè)定的心跳間隔內(nèi)主動的和管理節(jié)點組聯(lián)系一次，報告節(jié)點存活狀態(tài)。 Jobkeeper優(yōu)勢分析 高可靠性： 采用“多主多備，負載均衡”的管理節(jié)點，從而保證無論管理節(jié)點還是處理節(jié)點都不存在任何單點故障問題。 低依賴性：采用模塊化設(shè)計思想，通過統(tǒng)一化配置和API接口的方式向用戶提供服務(wù)。 低干預(yù)性：采用基于事件化的統(tǒng)一管理模式。在系統(tǒng)無人值守的情況下自動完成故障處理等功能。 高實時性：在機器性能允許的范圍內(nèi)，所有任務(wù)的控制工作基本都在秒級完成，具有前所未有的高效性。 Jobkeeper故障處理機制圖3-10 JobKeeper故障處理當任務(wù)處理節(jié)點宕機，或者該任務(wù)被初始化時，系統(tǒng)產(chǎn)生相應(yīng)錯誤，繼而該任務(wù)會返還到任務(wù)調(diào)度層交給調(diào)度節(jié)點重新分配。如果任務(wù)處理節(jié)點宕機或者子任務(wù)出現(xiàn)未知錯誤，那么該任務(wù)將返回到任務(wù)處理節(jié)點上，由任務(wù)節(jié)點機器重新分配該子任務(wù)。而所有的任務(wù)信息和處理節(jié)點信息都會定時寫入到磁盤文件，因此，不會出現(xiàn)做了一半的任務(wù)終止后需要重新執(zhí)行的問題，系統(tǒng)會自動根據(jù)上次執(zhí)行的情況將錯誤前的狀態(tài)遷移到另一臺處理節(jié)點上，使整個任務(wù)繼續(xù)進行下去。由于JobKeeper主節(jié)點由多臺組成，互為主備，熱備鏡像。當工作的主節(jié)點發(fā)生故障時，備用的會自動進行接替，成為新的主節(jié)點，確保處理任務(wù)不會中斷，服務(wù)不會停止。3.2.2 cProc數(shù)據(jù)立方 簡介2012年11月，南京云創(chuàng)存儲科技有限公司推出了獨立開發(fā)的數(shù)據(jù)立方大數(shù)據(jù)處理系統(tǒng)，該系統(tǒng)是南京云創(chuàng)存儲的專有技術(shù)，屬于當前流行的大數(shù)據(jù)處理技術(shù)。大數(shù)據(jù)是指無法在一定時間內(nèi)用常規(guī)軟件工具對其內(nèi)容進行抓取、管理和處理的數(shù)據(jù)集合。大數(shù)據(jù)來自方方面面，從搜集天氣情況的感測器，接入社交媒體網(wǎng)站的指令，數(shù)碼圖片，在線的視頻資料，到網(wǎng)絡(luò)購物的交易記錄，手機的全球定位系統(tǒng)信號等等。隨著數(shù)據(jù)規(guī)模的急劇膨脹，各行業(yè)累積的數(shù)據(jù)量越來越巨大，數(shù)據(jù)類型也越來越多、越來越復(fù)雜，已經(jīng)超越了傳統(tǒng)數(shù)據(jù)管理系統(tǒng)、處理模式的能力范圍，于是“大數(shù)據(jù)”這樣一個在含義上趨近于“無窮大”的概念才會應(yīng)運而生。大數(shù)據(jù)具有四方面特征，“首先在于體量大，是一個數(shù)據(jù)全集的概念， 第二是類型多，包括結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)等多種類型，其中視頻數(shù)據(jù)在目前占到了90%以上的總額；第三要求速度快，需要以秒級為目標進行實時動態(tài)處理。最后在于價值密度，由于大量有用和可能沒用的數(shù)據(jù)并存，遍地是金子，又遍地是沙子”，所以大數(shù)據(jù)的目的就在于從龐大的數(shù)據(jù)集合中找尋有價值的數(shù)據(jù)和知識，通過分析挖掘為各行業(yè)提供真正的智慧。大數(shù)據(jù)給我們帶來了很多現(xiàn)實中的難題，為了解決這些難題我們需要新的技術(shù)變革，需要新一代的數(shù)據(jù)庫技術(shù)，此被稱之為大數(shù)據(jù)處理技術(shù)。大數(shù)據(jù)處理技術(shù)被設(shè)計用于在成本可承受的條件下，通過非?？焖俚牟杉?、發(fā)現(xiàn)和分析，從大量化、多類別的數(shù)據(jù)中提取價值，將是IT領(lǐng)域新一代的技術(shù)與架構(gòu)。簡單一點講，大數(shù)據(jù)處理技術(shù)其實是一系列技術(shù)的集合，大致可