視頻結(jié)構(gòu)化大數(shù)據(jù)平臺解決方案

PAGEPAGE10/47視頻結(jié)構(gòu)化大數(shù)據(jù)平臺解決方案千視通目錄建設(shè)背景 4建設(shè)目標 5建設(shè)原則 6標準化原則 6統(tǒng)一設(shè)計原則 6大數(shù)據(jù)處理原則 6高可高安全性原則 6適用性原則 7可擴展性原則 7系統(tǒng)總體設(shè)計 7設(shè)計依據(jù) 7總體架構(gòu)設(shè)計 10業(yè)務架構(gòu)設(shè)計 11網(wǎng)絡(luò)架構(gòu)設(shè)計 12數(shù)據(jù)結(jié)構(gòu)化 135.1.概述 13數(shù)據(jù)采集 14控制調(diào)度單元 15目標結(jié)構(gòu)化單元 15車輛結(jié)構(gòu)化單元 21前端要求 26數(shù)據(jù)存儲 296.1.概述 29功能設(shè)計 29數(shù)據(jù)存儲 29數(shù)據(jù)服務 30系統(tǒng)管理 31存儲設(shè)計 32數(shù)據(jù)應用 32以圖搜車 33人物大數(shù)據(jù) 34人物綜合查詢 34人物檢索 34人騎車檢索 36視頻框選嫌疑目標 37以圖搜圖 38智能建庫引擎 38以圖搜圖應用 38S應用 .9基本操作 39地圖查詢 39軌跡展示 40攝像頭操作 !未定義書簽。系統(tǒng)管理 41平臺特點 44提高海量視頻倒查的效能 44提供視頻關(guān)鍵特征的視頻檢索 45永久保存結(jié)構(gòu)化的視頻信息 45基于虛擬化服務的云計算架構(gòu) 46配置清單 !未定義書簽。建設(shè)背景平安城市視頻監(jiān)控技術(shù)已經(jīng)從聯(lián)網(wǎng)整合階段發(fā)展到視頻實戰(zhàn)深但是如何將這些視頻資源整合好、利用好、管理好、應用好，發(fā)揮視頻實戰(zhàn)的最大效用，是視頻實戰(zhàn)應用下一步發(fā)展面臨的問題。2010ZB番，一天產(chǎn)生的視頻監(jiān)控數(shù)據(jù)超過1500PB。地市“天網(wǎng)”攝像頭都數(shù)以萬計。人工分析視頻的方法不再適用。如何存儲海量視頻信息？如何提升海量視頻信息查找效率？如何利用海量視頻信息為案件偵破提供支撐？（經(jīng)過結(jié)構(gòu)化引擎處理,基于云存儲技術(shù)構(gòu)建大數(shù)據(jù)平臺，基于數(shù)據(jù)挖掘技術(shù)構(gòu)建應用平臺，實現(xiàn)視頻圖片的智能檢索、車輛大數(shù)據(jù)應用、人物大數(shù)據(jù)應用，人臉大數(shù)據(jù)應用等。建設(shè)目標系統(tǒng)主要解決如何快速有效提高從大量視頻和圖像信息中查找到的增加問題以及目前的視頻數(shù)據(jù)使用方案越來越難解決的海量視頻系統(tǒng)建成后，公安所有的監(jiān)控視頻、交通卡口、社會監(jiān)控數(shù)據(jù)以及案事件的視頻資料等歸檔數(shù)據(jù)將成為一個結(jié)構(gòu)化的處理，存儲，管理，分析，計算，使用的一體化大數(shù)據(jù)云中心。建設(shè)原則標準化原則統(tǒng)一設(shè)計原則按照公安部視頻數(shù)據(jù)的相關(guān)標準設(shè)計系統(tǒng)結(jié)構(gòu)。特別是應用系統(tǒng)建設(shè)結(jié)構(gòu)、數(shù)據(jù)模型結(jié)構(gòu)、數(shù)據(jù)存儲結(jié)構(gòu)以及系統(tǒng)擴展規(guī)劃等內(nèi)容，從規(guī)劃的全局出發(fā)、從長遠的角度考慮。大數(shù)據(jù)處理原則致力于跨警種、跨系統(tǒng)的視頻相關(guān)數(shù)據(jù)結(jié)構(gòu)化處理，致力于非結(jié)務需求。高可靠/高安全性原則從系統(tǒng)從結(jié)構(gòu)上、產(chǎn)品性能上、設(shè)備的選型上，以及具體的實施對整個計算資源進行有效調(diào)度和分配，平時保障85%的計算資源利用15%的計算資源，一方面使得機器不在峰值上一直運行，同時在突發(fā)臨時事件時，預留的15%的計算資源可以備用，確保系統(tǒng)的有關(guān)標準及公安部門有關(guān)安全技術(shù)防范的要求。適用性原則系統(tǒng)的建設(shè)將保護已有資源，急用先行，在滿足應用需求的前提下，盡量降低建設(shè)成本?？蓴U展性原則系統(tǒng)設(shè)計不但保證目前系統(tǒng)容量的要求，也將考慮今后系統(tǒng)的SDK擴展。系統(tǒng)總體設(shè)計設(shè)計依據(jù)本系統(tǒng)主要設(shè)計依據(jù)遵循以下標準和規(guī)范：項目政策文件：見》201119號《全國公安裝備建設(shè)“十二五”規(guī)劃》201211作任務書》公科信【2012】73 號《全國公安機關(guān)圖像信息聯(lián)網(wǎng)總體設(shè)計方案》公科信傳發(fā)【2012】367 號《?。▍^(qū)、市）公安機關(guān)視頻像信息整合與共享技術(shù)方案編寫指南》公安信息系統(tǒng)類標準公安部《金盾工程總體方案設(shè)計》公安部《公安信息系統(tǒng)應用支撐平臺總體方案設(shè)計》公安部《公安信息化標準體系》公安部《地市級綜合信息系統(tǒng)總體設(shè)計方案》公安部《共享數(shù)據(jù)項代碼標準》公安部《共享數(shù)據(jù)項集項目規(guī)范》GAGA公安部《經(jīng)濟犯罪案件信息管理系統(tǒng)技術(shù)規(guī)范》GA397.X-2002GAGAGAGB/T22239-2008GB/T24856-2009計算機信息系統(tǒng)類標準《計算機軟件開發(fā)規(guī)范》GB/T20272-2006GB/T20273-2006視頻系統(tǒng)類標準《城市監(jiān)控報警聯(lián)網(wǎng)系統(tǒng)技術(shù)標準（GA/T669-2008）求》GBT28181-2011(GB50198-94)（GA/T367-2001）信息安全類標準GB/T24856-2009GB17859-1999GB/T22240-2008GB/T20269-2006總體架構(gòu)設(shè)計”一個中心：利用云計算、云存儲技術(shù)，建設(shè)視頻大數(shù)據(jù)中心；一個平臺：多個業(yè)務應用：在大數(shù)據(jù)中心上，實現(xiàn)視頻圖片的智能檢索；在大數(shù)據(jù)中心上，實現(xiàn)視頻圖片的車輛分析；在大數(shù)據(jù)中心上，實現(xiàn)視頻圖片的人物分析；業(yè)務架構(gòu)設(shè)計架構(gòu)說明:大數(shù)據(jù)應用平臺組成。大數(shù)據(jù)接入負責接入在線各種社會視頻資源和公安各視頻資源?；蛘咧苯訉腚x線視頻資源。大數(shù)據(jù)處理對收集到的數(shù)據(jù)經(jīng)進行轉(zhuǎn)換、分析處理。視頻、圖片等非結(jié)構(gòu)化數(shù)據(jù)經(jīng)過各種算法生成標準數(shù)據(jù)集供挖掘和分析使用。存SDKGIS應用等應用服務。網(wǎng)絡(luò)架構(gòu)設(shè)計Hadoop系統(tǒng)可單獨部署，也可以級聯(lián)部署。級聯(lián)部署時，中心管理平臺可以對子節(jié)點進行任務管理、調(diào)度、狀態(tài)查看。可指定子節(jié)點信息上傳的位置、信息上傳的類型。中心管理服務器收到信息后，可對消息進行二次過濾后再入庫。視頻結(jié)構(gòu)化平臺級聯(lián)示意圖數(shù)據(jù)結(jié)構(gòu)化概述大數(shù)據(jù)視頻結(jié)構(gòu)化分析系統(tǒng)控制調(diào)度、目標結(jié)構(gòu)化單元、車輛結(jié)數(shù)據(jù)采集主要接入卡口數(shù)據(jù)、電警數(shù)據(jù)、實時視頻、歷史視頻、卡口識別洗、轉(zhuǎn)換、分類后，將數(shù)據(jù)存入大數(shù)據(jù)平臺。提供對大數(shù)據(jù)統(tǒng)一的接入方式，接口形式包括API便公安數(shù)據(jù)接入大數(shù)據(jù)平臺。大數(shù)據(jù)平臺采集視頻聯(lián)網(wǎng)平臺API方式：文件交換形式接口通過協(xié)議交換文件，文件格式需要接入時定義接口文檔；RDBMS通過JDBCWebService通過開發(fā)定制的服務和第三方接口?？刂普{(diào)度單元活動目標結(jié)構(gòu)化單元AVI士、景陽等廠家。（DVR指定存儲設(shè)備的錄像文件）的視頻存儲文件下載至本處理單元。錄像文件進行處理。元主動或被動上報運行監(jiān)測狀態(tài)和當前任務處理狀態(tài)。整。的視頻數(shù)據(jù)管理單元。數(shù)據(jù)，并記錄運動物體的特征（顏色、方向、大小等）信息。片中人、車輛、人騎車的特征信息提取。例如：人結(jié)構(gòu)化流程圖：17/47PAGEPAGE18/47獲取人圖像信息。獲取圖片中的人的等相關(guān)特征信息。（背包、拉桿箱、戴眼鏡等）進行自動檢測、自動識別的功能。支持模式：工具支持三種檢測模式。文件流模式實時流模式直連設(shè)備模式中人的信息提取，并識別出相關(guān)信息。主要功能：人結(jié)構(gòu)化描述信息：性別信息識別系統(tǒng)支持男人、女人識別。年齡段信息識別系統(tǒng)支持老人、中年、青年、兒童進行識別。方向識別系統(tǒng)支持正面、側(cè)面、背面、斜上方等方向進行識別。上下身衣服顏色識別系統(tǒng)支持黑、白、紅、黃、藍、綠、灰、青等顏色識別。人裝飾物識別系統(tǒng)支持戴眼鏡、帽子、背包、拉桿箱、打雨傘等進行識別，國內(nèi)領(lǐng)先。人騎車結(jié)構(gòu)化描述信息：騎車類別識別系統(tǒng)支持兩輪車、三輪車識別。性別信息識別系統(tǒng)支持男人、女人識別。年齡信息識別系統(tǒng)支持老人、中年、青年、幼兒進行識別。上身衣服顏色識別系統(tǒng)支持黑、白、紅、黃、藍、綠、灰、青等顏色識別。人裝飾物識別系統(tǒng)支持戴眼鏡、打雨傘等進行識別。活動目標速度識別系統(tǒng)支持對活動目標移動速度進行慢、快進行識別。車輛結(jié)構(gòu)化描述信息：不同環(huán)境下車輛識別系統(tǒng)支持白天、夜間、同畫面多車輛、從車頭、從車尾識別。車身顏色識別黑、白、紅、黃、藍、綠、灰、青等10種車身顏色識別。車型識別如轎車、小型貨車、大型貨車、客車等類型。車品牌、車系、款型識別系統(tǒng)支持車輛三級品牌（品牌、車系和款型）識別國內(nèi)領(lǐng)先?；顒幽繕诉\動方向系統(tǒng)支持對活動目標運動方向上、下、左、右進行識別。活動目標速度識別系統(tǒng)支持對活動目標移動速度進行慢、快進行識別。車輛結(jié)構(gòu)化單元等的相關(guān)特征信息。車輛結(jié)構(gòu)化流程圖：22/47PAGEPAGE23/47獲取車輛圖像信息。獲取圖片中的車輛的車牌、車身、車標、車系、車輛寬度、安全帶等相關(guān)特征信息。實現(xiàn)對視頻圖幀中車輛信息（車牌號碼、車牌顏色、車身顏色、標識物、駕駛員行為等）進行自動檢測、自動識別的功能。支持模式：工具支持三種檢測模式。文件流模式實時流模式直連設(shè)備模式車輛特征識別單元采用車牌智能識別技術(shù)和先進的圖像識別算關(guān)信息。主要功能：不同環(huán)境下車輛識別系統(tǒng)支持白天、夜間、同畫面多車輛、從車頭、從車尾識別。車牌信息識別GA36-200717、掛車警用汽車號牌（前后車牌、拖拉機號牌、軍車號牌、武警車號牌、個性化車牌、黑色車牌。車身顏色識別黑、白、紅、黃、藍、綠、灰、青等10種車身顏色識別。車型識別如轎車、越野車、商務車、小型貨車、大型貨車、輕客、小型隨車吊、消防車、渣土車、押運車、工程搶修車、救援車、欄板卡車等類型。車品牌、車系、款型識別系統(tǒng)支持車輛三級品牌（品牌、車系和款型）1603000，國內(nèi)領(lǐng)先。特有的年檢標、車窗貼、掛飾、遮陽板識別能力系統(tǒng)支持對年檢標、車窗貼、掛飾、遮陽板的識別檢測，并以不同顏色框加以標識。駕駛員行為識別系統(tǒng)支持駕駛員打電話、是否系安全帶等危險行為進行識別檢測?；顒幽繕诉\動方向系統(tǒng)支持對活動目標運動方向上、下、左、右進行識別?；顒幽繕怂俣茸R別系統(tǒng)支持對活動目標移動速度進行慢、快進行識別。人臉結(jié)構(gòu)化單元表情、種族等的相關(guān)特征信息。實現(xiàn)對視頻圖幀中人臉信息（年齡、性別、表情、種族等）進行自動檢測、自動識別的功能。支持模式：工具支持三種檢測模式。文件流模式實時流模式直連設(shè)備模式人臉特征識別單元采用人臉智能識別技術(shù)和先進的圖像識別算法，對視頻流及圖片中人臉的信息提取，并識別出的相關(guān)信息。主要功能：1）區(qū)分男性、女性2）年齡識別能準確識別出具體的年齡3）種族識別能區(qū)分黃種人、黑種人、白種人。前端要求提取車牌的攝像機架設(shè)有如下要求：、高清視頻流。2、具備自動曝光補償、強光抑制、寬動態(tài)、自動白平衡。3、適應角度：車輛顯示完整，車輛正面與攝像頭法線方向的左右傾斜在20度以內(nèi)，上下傾斜角度小于15度。4、車牌識別時，車牌聚焦清晰區(qū)域處的環(huán)境照明在白天必須大200lux100lux。590-160太暗等。6、支持各種車牌識別：民用車牌（92式、民用貨車車牌（排黃車牌、民用車牌（2002個性化車牌軍車車牌（2005式。7、識別車牌號碼的時間≥ 100ms 移動車輛，車牌檢測正確率>95%；漢字識別正確>90%、字符位識別率大、全車牌識別正確率。a）攝像機架設(shè)要求設(shè)備安裝位置與角度應避免出現(xiàn)強逆光、反光等情況。當同一個兩車道提取的準確率。如下現(xiàn)場布局側(cè)視圖所示。為保證從視頻中能準確的提供人臉和提起后進行人臉比對識別，對提取人臉的攝像機架設(shè)有如下要求：攝像機架設(shè)要求2.5m15度以內(nèi)。攝像頭到人臉的距6米左右。地面2m以內(nèi)的對焦寬度，監(jiān)控人臉寬度至少占畫面寬60攝像機架設(shè)示例光線要求200lux左右，避免有逆光、強光和陰陽臉200-900lux。照片采集要求抓拍的人臉照片清晰、完整。數(shù)據(jù)存儲概述視頻大數(shù)據(jù)資源信息庫是視頻圖像存儲、管理的綜合平臺。支持創(chuàng)新的QPI大數(shù)據(jù)資源信息庫采用SOA體系結(jié)構(gòu)，以及多媒體數(shù)據(jù)庫M、分高效訪問，低資源占用，大大提高特征數(shù)據(jù)的交互性。功能設(shè)計數(shù)據(jù)存儲支持對上傳的結(jié)構(gòu)或非結(jié)構(gòu)化數(shù)據(jù)提供云存儲,主要體現(xiàn)在以下三個部分：多節(jié)點擴容能力：當磁盤容量不夠時，可以靈活的增加數(shù)據(jù)節(jié)點，簡單實現(xiàn)擴容。文件分塊存儲：對大文件進行分塊存儲，把一個大的數(shù)據(jù)文件自動切割成成的方式進行存儲,讀取時,分別在多個存儲節(jié)點上讀取,減少磁IO據(jù)處理迅速。自動容災：失的時,系統(tǒng)自動的在其它存儲節(jié)點上去獲取文件,對丟失的文件進行修復，自動重新恢復文件,達到數(shù)據(jù)節(jié)點相互備份的。數(shù)據(jù)服務通過封裝SDK提供以下主要服務：全文檢索對視頻大數(shù)據(jù)資源信息庫中存儲的所有數(shù)據(jù)提供全文檢索類并建立索引,當用戶進行檢索時,系統(tǒng)提供強大的檢索功能,可以根據(jù)內(nèi)容進行多角度多側(cè)面的利用數(shù)據(jù)信息資源,方便快捷得獲取到自己想要的信息。文件下載對用戶需要進行存儲和管理的文件進行上傳和下載功能,對上傳到庫中的視頻文件進行快速下載或播放,圖片文件進行放大縮小以及瀏覽功能。流媒體服務系統(tǒng)內(nèi)置流媒體服務，對用戶上傳的視頻,音頻以及多媒體文件,以流的方式在網(wǎng)絡(luò)中進行傳輸,相對于下載后觀看的待整個文件下載完畢。系統(tǒng)內(nèi)置流媒體服務，對用戶上傳的視頻,音頻以及多媒體文件,以流的方式在網(wǎng)絡(luò)中進行傳輸,相對于下載后觀看的待整個文件下載完畢。系統(tǒng)管理賦予相應的角色權(quán)限，從而控制用戶查看庫中數(shù)據(jù)的權(quán)限；角色賦予相應的功能權(quán)限，從而控制用戶在系統(tǒng)中的功能權(quán)限；示，并可對置頂?shù)膬?nèi)容進行維護；存儲設(shè)計存儲設(shè)計方案：目標結(jié)構(gòu)化；1天每路：3.5G車輛結(jié)構(gòu)化；1天每路（或者1天每路0萬輛車計算：備注：視頻結(jié)構(gòu)化分析平臺：40903.5G×40×90÷1024G≈12.6T120903.2G×120×90÷1024G≈34.6T312.6T+34.6T≈47.2T47.2T*3=141.6T共需要的設(shè)備數(shù)量為：141.6T÷48T=3臺數(shù)據(jù)應用從視頻數(shù)據(jù)的數(shù)據(jù)量增長的角度，隨著公安業(yè)務及視頻技術(shù)的不數(shù)據(jù)加工和數(shù)據(jù)挖掘等深層次的數(shù)據(jù)應用。大數(shù)據(jù)綜合業(yè)務應用平臺提供視頻綜合分析業(yè)務應用，實現(xiàn)智能檢索、車輛大數(shù)據(jù)、人臉大數(shù)據(jù)、人物大數(shù)據(jù)等功能，滿足不同業(yè)務部門應用需求。以圖搜車以圖搜車結(jié)果對比圖片顯示人物大數(shù)據(jù)人物綜合查詢系統(tǒng)對日常業(yè)務所接入的實時源和離線源等視頻/圖片數(shù)據(jù)，進行特征提取分析及識別，對目標人物結(jié)構(gòu)化信息（包括性別、年齡、方向特征、衣服顏色、背包、拉桿箱等）進行存儲。WEB/組合查詢。系統(tǒng)支持對目標任務進行精確查詢和模糊查詢。人物檢索人形檢索將嫌疑人的截圖輸入至系統(tǒng)中，利用人形檢索的功能，系統(tǒng)會根據(jù)目標嫌疑人的衣著、顏色分布、體態(tài)特征快速地在跨攝像頭中進行全局搜索，查找出相似的目標，并將結(jié)果以快照的形式輸出，刑偵人員可此進行研判；人形檢索，如下圖所示：人員衣著顏色和紋理特征檢索支持人員衣著顏色檢索，可以通過調(diào)色板精確選色，以及從視頻畫面中采集顏色。支持按上半身、下半身分別指定顏色進行檢索，檢索結(jié)果中符合條件的目標能夠排在前列。上下半身檢索結(jié)果如下圖所示：支持根據(jù)人員衣著紋理特征進行檢索，檢索結(jié)果如下圖所示：跨線與運動方向檢測支持通過指定跨線位置和方向?qū)\動目標進行檢索，輸出目標快照。支持設(shè)置多條跨線，每條線的方向可單獨設(shè)置，目標快照中同時顯示所畫的線和方向。跨區(qū)域檢索支持進入?yún)^(qū)域、離開區(qū)域、在區(qū)域內(nèi)逗留、出現(xiàn)在此區(qū)域的目標檢索。條件組合檢索支持在視頻中使用人車分類、跨線、跨區(qū)域、顏色等多種條件的組合檢索，檢索結(jié)果中符合條件的目標能夠排在目標快照圖片前列。人騎車檢索系統(tǒng)融合對人騎車目標進行檢索，結(jié)果如下圖：檢索人騎車目標快照視頻框選嫌疑目標支持在查看原始視頻時，暫停直接框選嫌疑目標，以框選的目標截圖為條件，可跨監(jiān)控點對框選目標進行快速查找。如下圖所示：以圖搜圖智能建庫引擎Hadoop的接口向用戶提供分布式索引建庫服務。以圖搜圖應用支持本地上傳圖片至圖片庫進圖像比對查找(人物、車輛、人臉、非機動車輛等目標)；通過提取圖片的局部特征進行查找和比對，分析結(jié)果通過快照的方式進行展示；支持對查找結(jié)果按時間進行排序以圖片列表的方式進行可視化呈現(xiàn)。GIS應用基本操作攝像頭圖層：正常攝像頭圖層，故障攝像頭圖層；車輛軌跡圖層：標地圖查詢支持視頻、卡口、電警等的點選、框選、圈選、多邊形選擇、社會面監(jiān)控的普通查詢和空間查詢。PGIS定位，顯示卡口基礎(chǔ)信息、過車數(shù)據(jù)信息等信息。軌跡展示以PGIS合計算，對預警車輛的位置與軌跡進行預測。預警車輛定位。通過地圖和列表形式實時顯示預警車輛信息，息。支持單個或多個預警車輛同時定位。時間段內(nèi)的行駛軌跡，并在地圖上顯示完整的車輛行駛軌跡。預警車輛軌跡預測。根據(jù)預警車輛的行駛方向、車速、過車時間等，基于GIS分析其周邊卡口分布、歷史通行軌跡等，在地圖上顯示5分鐘、10分鐘等不同時間段預警車輛可能出現(xiàn)的范圍和途徑卡口位置。系統(tǒng)管理4地原始視頻文件和建立DVR/NVR支持結(jié)構(gòu)化任務調(diào)度管理：選擇視頻圖像文件進行結(jié)構(gòu)化處理任務配置，靈活設(shè)定任務優(yōu)先級。系統(tǒng)設(shè)置主要實現(xiàn)平臺的權(quán)限控制、日志管理、任務模板配置、時鐘同步、服務器配置功能，實現(xiàn)系統(tǒng)平臺整體監(jiān)控及資源調(diào)度。具備用戶權(quán)限控制功能，對客戶端登錄的用戶進行用戶鑒權(quán)，限制和管理用戶的操作權(quán)限；對系統(tǒng)用戶及操作權(quán)限提供增刪查改等。進行的配置操作。系統(tǒng)日志的查詢?yōu)橄到y(tǒng)的安全審計提供了一種手段。管理員可通過靈活的條件對系統(tǒng)日志進行查詢。通過設(shè)置查詢條件為系統(tǒng)管理員提供了靈活的操作日志查詢功址等相關(guān)信息。系統(tǒng)支持日志的導出功能。支持處理任務模塊定