云存儲(chǔ)部分功能描述

1云存儲(chǔ)虛擬化設(shè)計(jì)宇視科技推出的全新一代分布式云存儲(chǔ)系統(tǒng)產(chǎn)品，采用無元數(shù)據(jù)的全對(duì)稱分布式架構(gòu)，以大規(guī)模橫向擴(kuò)展、縱向擴(kuò)展能力以及PB級(jí)單一存儲(chǔ)空間為視頻監(jiān)控等應(yīng)用提供非結(jié)構(gòu)化數(shù)據(jù)共享存儲(chǔ)資源。云存儲(chǔ)系統(tǒng)支持POSIX、iSCSI、NFS、CIFS、FTP、HTTP、REST等標(biāo)準(zhǔn)訪問協(xié)議，兼容HDFSAPI，支持Hadoop應(yīng)用，充分滿足各種業(yè)務(wù)需求。1.1空間虛擬化Uni-FS是運(yùn)行于我司云存儲(chǔ)系統(tǒng)所有存儲(chǔ)節(jié)點(diǎn)之上的分布式文件系統(tǒng)，它將各物理存儲(chǔ)設(shè)備節(jié)點(diǎn)組成一個(gè)集群，對(duì)外提供文件存取和數(shù)據(jù)保護(hù)等功。它采用無元數(shù)據(jù)設(shè)計(jì)的全對(duì)稱分布式架構(gòu)，支持3～300個(gè)存儲(chǔ)節(jié)點(diǎn)的彈性無縫擴(kuò)展，可提供PB級(jí)單一存儲(chǔ)空間。1.2全局統(tǒng)一命名空間分布式文件系統(tǒng)最大的特點(diǎn)之一就是提供全局統(tǒng)一的命名空間。全局統(tǒng)一命名空間就是將多個(gè)存儲(chǔ)服務(wù)器的磁盤和內(nèi)存資源聚集成一個(gè)單一的虛擬存儲(chǔ)池，對(duì)上層用戶和應(yīng)用屏蔽了底層的物理硬件。存儲(chǔ)資源可以根據(jù)需要在虛擬存儲(chǔ)池中進(jìn)行彈性擴(kuò)展。全局統(tǒng)一命名空間可以讓不同的用戶通過單一掛載點(diǎn)進(jìn)行數(shù)據(jù)共享，I/O可在命名空間內(nèi)的所有存儲(chǔ)設(shè)備上自動(dòng)進(jìn)行負(fù)載均衡。我司云存儲(chǔ)系統(tǒng)是基于Uni-FS文件系統(tǒng)提供統(tǒng)一命名空間，在同一個(gè)云存儲(chǔ)系統(tǒng)中可以同時(shí)有多個(gè)Uni-FS文件系統(tǒng)的卷（物理資源池，由多個(gè)存儲(chǔ)設(shè)備的資源組成），不同的卷創(chuàng)建的文件系統(tǒng)有不同的命名空間。我司云存儲(chǔ)系統(tǒng)同時(shí)也是基于Uni-FS文件系統(tǒng)的卷提供共享文件目錄，因此不同用戶可通過訪問這個(gè)單一的共享文件目錄，實(shí)現(xiàn)IO在這個(gè)Uni-FS文件系統(tǒng)命名空間內(nèi)的所有存儲(chǔ)設(shè)備上自動(dòng)負(fù)載均衡。1.3彈性擴(kuò)展我司云存儲(chǔ)系統(tǒng)的無元數(shù)據(jù)，通過彈性HASH算法定位文件訪問的架構(gòu)，決定了我司云存儲(chǔ)系統(tǒng)獲得了接近線性的高擴(kuò)展性。我司云存儲(chǔ)系統(tǒng)支持從橫向和縱向的擴(kuò)展模式，實(shí)現(xiàn)在容量、性能和帶寬三方面的線性擴(kuò)展。Scale-Out橫向擴(kuò)展：通過增加存儲(chǔ)節(jié)點(diǎn)，實(shí)現(xiàn)系統(tǒng)容量、性能和帶寬的擴(kuò)展。存儲(chǔ)節(jié)點(diǎn)最大可擴(kuò)展至300個(gè)。Scale-up縱向擴(kuò)展：在單節(jié)點(diǎn)的硬件性能范圍內(nèi)，通過增加磁盤擴(kuò)展柜和磁盤實(shí)現(xiàn)系統(tǒng)容量和性能的擴(kuò)展。1.4認(rèn)證與權(quán)限管理我司云存儲(chǔ)系統(tǒng)支持本地認(rèn)證和外部域認(rèn)證，域認(rèn)證支持外部AD域服務(wù)器認(rèn)證（適用于CIFS文件共享），外部LDAP域服務(wù)器認(rèn)證（適用于NFS文件共享）和外部NIS域服務(wù)器認(rèn)證（適用于NFS文件共享）。在云存儲(chǔ)系統(tǒng)中，共享文件夾針對(duì)用戶、主機(jī)或用戶組可以設(shè)置相應(yīng)的讀寫訪問權(quán)限。1.5配額管理當(dāng)卷處于掛載狀態(tài)時(shí)（工作狀態(tài)），對(duì)共享文件夾設(shè)置系統(tǒng)用戶的配額，可以限制該系統(tǒng)用戶在共享文件夾下的最大寫入數(shù)據(jù)大小。一個(gè)用戶可以在多個(gè)共享文件夾下?lián)碛胁煌漕~，一個(gè)共享文件夾下也可以有多個(gè)不同配額的用戶。配額的設(shè)置又分為硬配額和軟配額的配置，先介紹下硬配額和軟配額的定義：硬配額：一旦設(shè)置了硬配額大小，當(dāng)用戶數(shù)據(jù)達(dá)到配額大小時(shí)用戶無法再寫入新的數(shù)據(jù)，系統(tǒng)可根據(jù)設(shè)定發(fā)送配額通知郵件給用戶。軟配額：一旦設(shè)置了軟配額大小，當(dāng)用戶數(shù)據(jù)達(dá)到配額大小時(shí)系統(tǒng)可根據(jù)設(shè)定發(fā)送通知郵件給用戶，但用戶仍可以在容許時(shí)間內(nèi)寫入新的數(shù)據(jù)，如果未配置硬配額，則可以寫入數(shù)據(jù)直到達(dá)到可用卷資源的大??；如果設(shè)置了硬配額，則可以寫入到硬配額的大小。1.6負(fù)載均衡與故障切換我司云存儲(chǔ)系統(tǒng)提供前端虛擬IP地址池，為節(jié)點(diǎn)分配動(dòng)態(tài)IP地址，客戶端根據(jù)域名訪問云存儲(chǔ)系統(tǒng)，采用輪詢的方式為客戶端（流媒體服務(wù)器等）返回不同的IP地址，實(shí)現(xiàn)業(yè)務(wù)在不同節(jié)點(diǎn)上進(jìn)行讀寫訪問，從而達(dá)到業(yè)務(wù)負(fù)載均衡的目的。1.7統(tǒng)一管理管理同時(shí)支持圖形界面和命令行方式。管理員可以通過Master浮動(dòng)IP地址訪問統(tǒng)一的網(wǎng)管界面，完成對(duì)集群系統(tǒng)的監(jiān)控、配置、資源分配、性能統(tǒng)計(jì)和告警瀏覽等操作。支持Email，SNMPTrap，短信，蜂鳴器，指示燈，數(shù)碼管等多種告警方式。2安防業(yè)務(wù)方案設(shè)計(jì)2.1視頻云直存…視頻管理服務(wù)器…視頻管理服務(wù)器云存儲(chǔ)管理服務(wù)器云存儲(chǔ)系統(tǒng)IPC云存儲(chǔ)節(jié)點(diǎn)監(jiān)控平臺(tái)信令流實(shí)況流存儲(chǔ)流…回放流……HA監(jiān)控網(wǎng)絡(luò)解碼顯示信令與業(yè)務(wù)互不干擾，平臺(tái)故障，不影響存儲(chǔ)業(yè)務(wù)視頻云存儲(chǔ)組網(wǎng)中IPC主動(dòng)管理存儲(chǔ)計(jì)劃和前端智能數(shù)據(jù)告警，可以及時(shí)觸發(fā)告警錄像，同時(shí)簡化了后端云存儲(chǔ)架構(gòu)，降低了存儲(chǔ)業(yè)務(wù)壓力，可以讓云存儲(chǔ)系統(tǒng)專注讀寫，更好的滿足用戶的存儲(chǔ)需求。應(yīng)該說，視頻云直存模式是在宇視塊直存基礎(chǔ)上延伸出來的云存儲(chǔ)模式，汲取了SAN共享技術(shù)及分布式文件系統(tǒng)的塊分配策略，突出解決了空間按需占有、彈性擴(kuò)容及負(fù)載均衡等問題。Camera1Camera1Camera2Camera3Camera4。。。擴(kuò)容500G再擴(kuò)600G擴(kuò)容400G再擴(kuò)300GIPSANIPSANIPSANIPSANcam4cam4IPSANCam1500GCam2200GCam3300GIPSANIPSANIPSANIPSANcam3cam3Cam1G500Cam1600Gcam4cam2Cam1cam2cam4Cam32.2圖片CDS云存儲(chǔ)圖片云存儲(chǔ)組網(wǎng)相對(duì)視頻增加了TMS（智能交通管理服務(wù)器），主要負(fù)責(zé)圖片智能數(shù)據(jù)分析、黑白名單及研判等業(yè)務(wù)，在IPC完成一定數(shù)量的圖片存儲(chǔ)后，以事務(wù)的方式上傳卡口智能數(shù)據(jù)到TMS服務(wù)器。圖片大小一般從幾KByte到上MByte不等。大量的圖片小文件對(duì)元數(shù)據(jù)的操作開銷非常大，既增加了總體數(shù)據(jù)的寫入數(shù)量，也增加了磁盤的隨機(jī)讀寫，同時(shí)也容易產(chǎn)生磁盤碎片。為此，從底層重新設(shè)計(jì)了塊分配及元數(shù)據(jù)的組織算法，通過重組的方法將圖片流化處理，充分利用視頻存儲(chǔ)的塊組織模式。海量小文件存儲(chǔ)（簡稱LOSF，lotsofsmallfiles）是業(yè)界難題。業(yè)內(nèi)有些廠家為了快速實(shí)現(xiàn)功能，將非結(jié)構(gòu)化的圖片采用表式的數(shù)據(jù)庫存儲(chǔ)技術(shù)，存在表容量大、內(nèi)存消耗大、查詢路徑長、容量難擴(kuò)展等缺點(diǎn)。宇視科技參考淘寶、微信、Facebook等互聯(lián)網(wǎng)技術(shù)，采用流式的對(duì)象存儲(chǔ)技術(shù)，并把索引結(jié)構(gòu)從秒級(jí)擴(kuò)展到幀級(jí)，可以很好的解決上述問題。圖片的索引和內(nèi)容分開處理，將結(jié)構(gòu)化的圖片索引存儲(chǔ)入千億級(jí)數(shù)據(jù)庫可以快速檢索、易擴(kuò)展，非結(jié)構(gòu)化的圖片經(jīng)過聚合處理后存入數(shù)據(jù)對(duì)象，實(shí)現(xiàn)千億級(jí)圖片存儲(chǔ)。并行智能分析系統(tǒng)的性能提升除了提高智能算法，同時(shí)也要避免浪費(fèi)大量的時(shí)間在iowait上等待數(shù)據(jù)。分布式存儲(chǔ)系統(tǒng)的讀取包含：從千億級(jí)業(yè)務(wù)數(shù)據(jù)庫獲取圖片索引，從千億級(jí)元數(shù)據(jù)列表獲取數(shù)據(jù)節(jié)點(diǎn)ID，從PB級(jí)的存儲(chǔ)中讀取數(shù)據(jù)，在數(shù)據(jù)中定位到單幀圖片。其中每一步的耗時(shí)都達(dá)到秒級(jí)以上。宇視CDS的圖片無元尋址技術(shù)將圖片的元數(shù)據(jù)信息嵌入文件名，減少元數(shù)據(jù)的讀取，從而快速定位到單幀圖片。提高業(yè)務(wù)體驗(yàn)的同時(shí)，也增加了云存儲(chǔ)的查詢性能和集群規(guī)模。獲取圖片的業(yè)務(wù)延時(shí)達(dá)到了50毫秒，端到端打通了智能分析的IO瓶頸，大大提高了圖片并行分析速度。2.3集群化媒體獲取服務(wù)設(shè)計(jì)數(shù)據(jù)讀取流程云存儲(chǔ)當(dāng)前提供了兩種最常用的數(shù)據(jù)讀取服務(wù)，RTSP點(diǎn)播回放服務(wù)（針對(duì)視頻業(yè)務(wù)）和Http服務(wù)（針對(duì)圖片業(yè)務(wù)）。Http服務(wù)直接部署在CDV上，客戶端通過URL地址就可以顯示和下載圖片。這種方式的帶來的好處是減少數(shù)據(jù)讀取的中間環(huán)節(jié)，而且由于數(shù)據(jù)分布上在寫入時(shí)經(jīng)過客戶段負(fù)載均衡后，大批量下載可以充分利用多CDV節(jié)點(diǎn)的讀取能力。RTSP點(diǎn)播服務(wù)中引入了VOD集群功能，即用戶可以隨需配置，從而滿足大規(guī)模的點(diǎn)播和下載需要，而且VOD集群會(huì)進(jìn)行一定的數(shù)據(jù)緩存處理，從而在一定程度上降低對(duì)后端存儲(chǔ)的壓力，同時(shí)起到一定的CDN（內(nèi)容分發(fā)網(wǎng)絡(luò)）功能，提升播放體驗(yàn)。離散化的數(shù)據(jù)在存儲(chǔ)集群的各個(gè)節(jié)點(diǎn)進(jìn)行數(shù)據(jù)整合，統(tǒng)一向數(shù)據(jù)分發(fā)層的VOD集群提供數(shù)據(jù)服務(wù)。存儲(chǔ)集群里的各個(gè)節(jié)點(diǎn)自身支持負(fù)載均衡和緩存加速，避免了熱點(diǎn)數(shù)據(jù)對(duì)單個(gè)存儲(chǔ)節(jié)點(diǎn)的性能消耗。同時(shí)VOD集群里的各個(gè)服務(wù)器支持集群和級(jí)聯(lián)，單臺(tái)提供512路并發(fā)接入，可接入超高并發(fā)的客戶端，并提供錄像切片、同步回放、即時(shí)回放、倍速快進(jìn)/快退等功能。同時(shí)客戶端的錄像下載服務(wù)由存儲(chǔ)節(jié)點(diǎn)直接提供，可以減少IO路徑，可提供100MBps的極速下載特性，如果不考慮網(wǎng)絡(luò)瓶頸、CPU瓶頸、本地硬盤讀寫瓶頸，下載速度還可以更快。2.4數(shù)據(jù)生命周期管理宇視云存儲(chǔ)方案，一方面對(duì)存儲(chǔ)空間進(jìn)行池化處理，另一方面也對(duì)安防數(shù)據(jù)業(yè)務(wù)進(jìn)行了更合理的空間規(guī)劃和數(shù)據(jù)可靠性保障。2.4.1業(yè)務(wù)分組隔離支持將存儲(chǔ)節(jié)點(diǎn)根據(jù)業(yè)務(wù)類型分組部署，并將業(yè)務(wù)數(shù)據(jù)流控制在分組內(nèi)，保證數(shù)據(jù)流的路徑可控，且在同一存儲(chǔ)節(jié)點(diǎn)分組內(nèi)，能支持視頻、圖片等不同類型的混合業(yè)務(wù)。2.4.2用戶空間針對(duì)不同業(yè)務(wù)類型進(jìn)行優(yōu)化用戶空間是在不同的存儲(chǔ)共享池上分配的業(yè)務(wù)可用空間。系統(tǒng)設(shè)計(jì)時(shí)考慮到視頻流與圖片流有不同的業(yè)務(wù)特征，將用戶空間附加了業(yè)務(wù)屬性，并在存儲(chǔ)節(jié)點(diǎn)的數(shù)據(jù)流寫入過程中進(jìn)行針對(duì)性優(yōu)化。連續(xù)化、順序性是視頻業(yè)務(wù)的突出特性，而這個(gè)特性對(duì)于連續(xù)存儲(chǔ)空間的要求非常突出，這樣才能發(fā)揮物理硬盤的最大性能，效能比才能達(dá)到最大。而圖片流，對(duì)于大量圖片相機(jī)發(fā)生源并不具有較好的連續(xù)性和順序性，縮略圖、合成圖等不同類型的圖片大小差別非常大，通過圖片塊化整合，將并發(fā)的大量相機(jī)的圖片寫入操作，整合為近似視頻流的模式，達(dá)到性能的最大化。2.4.3多維度的空間配額對(duì)于監(jiān)控業(yè)務(wù)來說，留存期是一個(gè)突出的特征，保證每個(gè)相機(jī)固定的留存期是監(jiān)控存儲(chǔ)系統(tǒng)的基本功能，因此，系統(tǒng)設(shè)計(jì)了多個(gè)維度的空間配額控制。首先，創(chuàng)建存儲(chǔ)共享池時(shí)會(huì)指定存儲(chǔ)節(jié)點(diǎn)分組，從而限制業(yè)務(wù)范圍只能在有限的存儲(chǔ)節(jié)點(diǎn)范圍內(nèi)，避免對(duì)其他存儲(chǔ)節(jié)點(diǎn)的影響。其次，用戶空間在存儲(chǔ)共享池內(nèi)會(huì)先配置空間配額，該用戶使用的空間不能超過配額的限制，避免對(duì)其他用戶空間的占用。最后，業(yè)務(wù)系統(tǒng)在配置每個(gè)相機(jī)的留存期時(shí)，會(huì)在用戶空間上再次指定使用配額，避免對(duì)其他相機(jī)留存期的影響。2.4.4細(xì)粒度的數(shù)據(jù)冗余策略通用云存