H3C大數(shù)據(jù)產(chǎn)品技術(shù)白皮書 (2)

1、.H3C大數(shù)據(jù)產(chǎn)品技術(shù)白皮書杭州華三通信技術(shù)有限公司2021年1月目 錄1H3C大數(shù)據(jù)產(chǎn)品介紹11.1產(chǎn)品簡介11.2產(chǎn)品架構(gòu)11.2.1 數(shù)據(jù)處理21.2.2 數(shù)據(jù)分層31.3產(chǎn)品技術(shù)特點(diǎn)4先進(jìn)的混合計(jì)算架構(gòu)4高性價(jià)比的分布式集群4云化ETL4數(shù)據(jù)分層和分級(jí)存儲(chǔ)5數(shù)據(jù)分析挖掘5數(shù)據(jù)服務(wù)接口5可視化運(yùn)維管理51.4產(chǎn)品功能簡介6管理平面功能：6業(yè)務(wù)平面功能：62DataEngine HDP核心技術(shù)83DataEngine MPP Cluster核心技術(shù)83.1MPP + Shared Nothing架構(gòu)83.2核心組件93.3高可用103.4高性能擴(kuò)展能力103.5高性能數(shù)據(jù)加載113.6OL

2、AP函數(shù)123.7行列混合存儲(chǔ)12.1 H3C大數(shù)據(jù)產(chǎn)品介紹1.1 產(chǎn)品簡介H3C大數(shù)據(jù)平臺(tái)采用開源社區(qū)Apache Hadoop2.0和MPP分布式數(shù)據(jù)庫混合計(jì)算框架為用戶提供一套完整的大數(shù)據(jù)平臺(tái)解決方案，具備高性能、高可用、高擴(kuò)展特性，可以為超大規(guī)模數(shù)據(jù)管理提供高性價(jià)比的通用計(jì)算存儲(chǔ)能力。H3C大數(shù)據(jù)平臺(tái)提供數(shù)據(jù)采集轉(zhuǎn)換、計(jì)算存儲(chǔ)、分析挖掘、共享交換以及可視化等全系列功能，并廣泛地用于支撐各類數(shù)據(jù)倉庫系統(tǒng)、BI系統(tǒng)和決策支持系統(tǒng)幫助用戶構(gòu)建海量數(shù)據(jù)處理系統(tǒng)，發(fā)現(xiàn)數(shù)據(jù)的內(nèi)在價(jià)值。1.2 產(chǎn)品架構(gòu)H3C大數(shù)據(jù)平臺(tái)包含4個(gè)部分：第一部分是運(yùn)維管理，包括：安裝部署、配置管理、主機(jī)管理、用戶管理、服

3、務(wù)管理、監(jiān)控告警和安全管理等。第二部分是數(shù)據(jù)ETL，即獲取、轉(zhuǎn)換、加載，包括：關(guān)系數(shù)據(jù)庫連接Sqoop、日志采集Flume、ETL工具 Kettle。第三部分是數(shù)據(jù)計(jì)算。MPP采用分析型分布式數(shù)據(jù)庫，存儲(chǔ)高價(jià)值密度的結(jié)構(gòu)化數(shù)據(jù)；Hadoop存儲(chǔ)非結(jié)構(gòu)化/半結(jié)構(gòu)化數(shù)據(jù)和低價(jià)值密度結(jié)構(gòu)化數(shù)據(jù)。計(jì)算結(jié)果都存到數(shù)據(jù)倉庫，數(shù)據(jù)倉庫中的數(shù)據(jù)可直接用于分析和展示。數(shù)據(jù)倉庫是面向主題的、集成的、穩(wěn)定的且隨時(shí)間不斷變化的數(shù)據(jù)集合，用以支持經(jīng)營管理中的決策制定過程。第四部分?jǐn)?shù)據(jù)服務(wù)，包括：機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)檢索、數(shù)據(jù)可視化、即席分析、SQL和API，為應(yīng)用層提供服務(wù)和中間件調(diào)用。第1章1.11.21.2.1

4、 數(shù)據(jù)處理對(duì)于大數(shù)據(jù)管理平臺(tái)，應(yīng)該建立一套標(biāo)準(zhǔn)化、規(guī)范化的數(shù)據(jù)處理流程，例如：如何采集內(nèi)部和外部數(shù)據(jù)、結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)；如何清洗采集來的臟數(shù)據(jù)和無效數(shù)據(jù)；如何對(duì)不同來源的數(shù)據(jù)進(jìn)行打通；如何對(duì)非結(jié)構(gòu)化的數(shù)據(jù)進(jìn)行結(jié)構(gòu)化加工；如何在結(jié)構(gòu)化數(shù)據(jù)的基礎(chǔ)上進(jìn)行商業(yè)建模和數(shù)據(jù)挖掘等等。大數(shù)據(jù)管理層在一條數(shù)據(jù)總線上構(gòu)建了一條完整的大數(shù)據(jù)處理流水線。這條流水線從數(shù)據(jù)的采集、清洗到加工處理，把原始雜亂無章的數(shù)據(jù)加工成結(jié)構(gòu)化的數(shù)據(jù)組件，供上層的大數(shù)據(jù)應(yīng)用來拼裝調(diào)用，讓企業(yè)擁有創(chuàng)造數(shù)據(jù)資產(chǎn)的能力。1.2.2 數(shù)據(jù)分層l ODS層：數(shù)據(jù)來源于各生產(chǎn)系統(tǒng)，通過ETL工具對(duì)接口文件數(shù)據(jù)進(jìn)行編碼替換和數(shù)據(jù)清洗轉(zhuǎn)換，不做關(guān)

5、聯(lián)操作。未來也可用于準(zhǔn)實(shí)時(shí)數(shù)據(jù)查詢。l 輕度匯總層：主題域內(nèi)部基于明細(xì)層數(shù)據(jù)，進(jìn)行多維度的、用戶級(jí)的匯總l 明細(xì)數(shù)據(jù)層：主題域內(nèi)部進(jìn)行拆分、關(guān)聯(lián)。是對(duì)ODS操作型數(shù)據(jù)按照主題域劃分規(guī)則進(jìn)行的拆分及合并。l 信息子層：報(bào)表數(shù)據(jù)、多維數(shù)據(jù)、指標(biāo)庫等數(shù)據(jù)來源于匯總層。匯總層：主題域之間進(jìn)行關(guān)聯(lián)、匯總計(jì)算。匯總數(shù)據(jù)服務(wù)于信息子層，目的是為了節(jié)約信息子層數(shù)據(jù)計(jì)算成本和計(jì)算時(shí)間。l 應(yīng)用層：應(yīng)用系統(tǒng)的私有數(shù)據(jù)，應(yīng)用的業(yè)務(wù)數(shù)據(jù)。精細(xì)化營銷做為大數(shù)據(jù)平臺(tái)的一個(gè)上層應(yīng)用，由大數(shù)據(jù)平臺(tái)提供數(shù)據(jù)支撐。1.3 產(chǎn)品技術(shù)特點(diǎn)第1章1.1先進(jìn)的混合計(jì)算架構(gòu) 采用Hadoop和MPP融合技術(shù)架構(gòu)，對(duì)半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)支

6、持并行計(jì)算和低成本存儲(chǔ)，提供低時(shí)延、高并發(fā)的查詢和分析功能；對(duì)結(jié)構(gòu)化數(shù)據(jù)采用MPP分布式列存儲(chǔ)，支持分布式計(jì)算、智能索引等功能，實(shí)現(xiàn)高性能結(jié)構(gòu)化數(shù)據(jù)分析處理。集成MapReduce、Spark、Storm、Tez等多種計(jì)算框架，利用YARN資源管理做統(tǒng)一管理，可在同一份數(shù)據(jù)集上運(yùn)行多種計(jì)算。離線計(jì)算、內(nèi)存計(jì)算和流式計(jì)算并存，能滿足高吞吐、大數(shù)據(jù)量和低時(shí)延實(shí)時(shí)處理等多方面的數(shù)據(jù)計(jì)算要求。高性價(jià)比的分布式集群 基于x86服務(wù)器本地的計(jì)算與存儲(chǔ)資源，計(jì)算集群可以動(dòng)態(tài)調(diào)整，從數(shù)臺(tái)到數(shù)千臺(tái)之間彈性擴(kuò)展，按需構(gòu)建應(yīng)用，減少總體成本；同時(shí)，在設(shè)計(jì)時(shí)充分考慮了硬件設(shè)備的不可靠因素，在軟件層面提供計(jì)算和存儲(chǔ)的高

7、可靠保證，具備較強(qiáng)的容錯(cuò)性。 云化ETL 將不同業(yè)務(wù)系統(tǒng)中分散、零亂、標(biāo)準(zhǔn)不統(tǒng)一的各種源數(shù)據(jù)中的數(shù)據(jù)進(jìn)行匯聚。支持從DBMS、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、企業(yè)生產(chǎn)系統(tǒng)等各種數(shù)據(jù)源中提取數(shù)據(jù)。各類數(shù)據(jù)經(jīng)過抽取、清洗和轉(zhuǎn)化后，實(shí)現(xiàn)多對(duì)多地加載到包含但不限于大數(shù)據(jù)集群和各類關(guān)系型數(shù)據(jù)庫中。該過程由一個(gè)統(tǒng)一的操作接口封裝，經(jīng)過無代碼的可視化配置后，可實(shí)現(xiàn)自動(dòng)化地、分布式地執(zhí)行整個(gè)ETL作業(yè)流程。數(shù)據(jù)分層和分級(jí)存儲(chǔ) 把數(shù)據(jù)按照不同階段分為ODS(Operational Data Store)數(shù)據(jù)、輕度匯總數(shù)據(jù)、信息子層數(shù)據(jù)和應(yīng)用數(shù)據(jù)，分別存儲(chǔ)在Hadoop平臺(tái)、MPP分布式數(shù)據(jù)庫和數(shù)據(jù)倉庫，滿足不同階段的計(jì)算需求；

8、按照在線數(shù)據(jù)、歷史數(shù)據(jù)等來管理數(shù)據(jù)生命周期，滿足在線數(shù)據(jù)的高性能存儲(chǔ)的需求；將核心模型數(shù)據(jù)通過改造融入到數(shù)據(jù)倉庫的核心模型中，減少數(shù)據(jù)冗余，提升數(shù)據(jù)質(zhì)量；將數(shù)據(jù)倉庫中的歷史數(shù)據(jù)遷移到低成本分布式數(shù)據(jù)庫，減輕數(shù)據(jù)倉庫的計(jì)算與存儲(chǔ)壓力并支撐深度數(shù)據(jù)分析。數(shù)據(jù)分析挖掘 支持R語言，集成機(jī)器學(xué)習(xí)算法庫Mahout和Spark MLlib，包含聚類分析、分類算法、頻度關(guān)聯(lián)分析和推薦系統(tǒng)在內(nèi)的常用機(jī)器學(xué)習(xí)算法。滿足批處理統(tǒng)計(jì)分析、在線數(shù)據(jù)檢索、R語言數(shù)據(jù)挖掘、實(shí)時(shí)流處理、全文搜索等全方位需求。可幫助企業(yè)建立高速可擴(kuò)展的數(shù)據(jù)倉庫和數(shù)據(jù)集市，結(jié)合多種報(bào)表工具提供交互式數(shù)據(jù)分析、即時(shí)報(bào)表和BI可視化展示能力。數(shù)

9、據(jù)服務(wù)接口 提供交互式SQL和可編程API，提取數(shù)據(jù)存儲(chǔ)計(jì)算平臺(tái)的數(shù)據(jù)處理結(jié)果，屏蔽底層細(xì)節(jié)，為上層應(yīng)用提供數(shù)據(jù)服務(wù)。主要包括SQL接口、MapReduce/Spark/Storm計(jì)算接口等多種可編程API、全文實(shí)時(shí)搜索接口、業(yè)務(wù)定向接口、關(guān)聯(lián)查詢接口，滿足數(shù)據(jù)查詢、可視化BI展示、數(shù)據(jù)交換、數(shù)據(jù)分析、目錄服務(wù)、綜合查詢等業(yè)務(wù)應(yīng)用的需要?？梢暬\(yùn)維管理 提供Web圖形化界面實(shí)現(xiàn)運(yùn)集群的管理和監(jiān)控，集群的節(jié)點(diǎn)、主機(jī)和服務(wù)的運(yùn)行狀態(tài)都能在界面上顯示，操作友好，功能豐富。提供集群快速安裝部署、機(jī)架展示、用戶權(quán)限管理、主機(jī)與服務(wù)管理、監(jiān)控及告警通知等多方面支持，在可管理性方面優(yōu)勢(shì)顯著。服務(wù)分類服務(wù)名稱

10、服務(wù)功能說明系統(tǒng)服務(wù)YARN一種全新的通用的Hadoop資源管理器，為集群在利用率和資源統(tǒng)一管理等方面帶來了巨大便利?？墒筂apReduce、Spark、Storm等共存。ZooKeeper分布式應(yīng)用程序協(xié)調(diào)服務(wù)，保證集群的一致性。提供的功能包括：配置維護(hù)、名字服務(wù)、分布式同步、組服務(wù)等。Slider將已存在服務(wù)部署在YARN集群上，而不用修改已存在服務(wù)。Oozie提供Hadoop作業(yè)工作流管理功能，可管理MR、Hive、Pig、Sqoop和HDFS 等任務(wù)。Kafka一種低時(shí)延高吞吐量的分布式發(fā)布/訂閱消息系統(tǒng)，同時(shí)滿足在線和離線處理海量消息數(shù)據(jù)派發(fā)。Kerberos一個(gè)基于共享密鑰對(duì)稱加密

11、的安全網(wǎng)絡(luò)認(rèn)證系統(tǒng)，可防止對(duì)集群的惡意使用和篡改，保障Hadoop集群的安全可靠。計(jì)算服務(wù)MapReduce批處理框架，將一個(gè)大任務(wù)分成多個(gè)獨(dú)立的小任務(wù)，最后匯總各個(gè)小任務(wù)的結(jié)果。用戶只需關(guān)注上層應(yīng)用的邏輯，完全不用關(guān)注底層分布式細(xì)節(jié)，大大提升了分布式應(yīng)用開發(fā)的效率和質(zhì)量。主要用于離線計(jì)算和計(jì)算密集型應(yīng)用。Spark迭代計(jì)算框架，基于內(nèi)存計(jì)算。性能比MR快10-100倍，通用性好，支持批處理、流處理、SQL查詢、機(jī)器學(xué)習(xí)、圖計(jì)算等。Storm流處理框架，具有效率高、能保證每條消息都能被處理和實(shí)踐應(yīng)用很多等優(yōu)點(diǎn)。TezMapReduce程序性能優(yōu)化器。將MR程序轉(zhuǎn)化為有向無環(huán)圖，大大提升性能。存

12、儲(chǔ)服務(wù)HDFSHadoop分布式文件系統(tǒng)，具有高容錯(cuò)性，可以部署在廉價(jià)的機(jī)器上。提供高吞吐量來訪問應(yīng)用程序的數(shù)據(jù)，適合存儲(chǔ)超大數(shù)據(jù)集。HBase分布式、面向列數(shù)據(jù)庫，利用HDFS作為持久化數(shù)據(jù)存儲(chǔ)，使用Zookeeper作為協(xié)同服務(wù)組件。具有容量巨大、面向列存儲(chǔ)和權(quán)限控制、稀疏性、高可用和高性能等特點(diǎn)。數(shù)據(jù)處理SqoopHadoop和關(guān)系型數(shù)據(jù)庫之間進(jìn)行批量數(shù)據(jù)轉(zhuǎn)移的工具。Flume一個(gè)高可用的，高可靠的，分布式的海量日志采集、聚合和傳輸?shù)南到y(tǒng)。Hive基于Hadoop的數(shù)據(jù)倉庫工具，可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表，采用HiveQL作為查詢語言。將HiveQL轉(zhuǎn)換為MapReduce

13、任務(wù)，從而完成海量數(shù)據(jù)的查詢和分析。Pig基于Hadoop的數(shù)據(jù)流處理引擎，將類SQL的數(shù)據(jù)分析請(qǐng)求轉(zhuǎn)換為Map/Reduce任務(wù)。Mahout機(jī)器學(xué)習(xí)算法庫，3個(gè)主要應(yīng)用場(chǎng)景是協(xié)作篩選、集群和分類，可使用MR、Scala、Spark來提交Mahout接口。數(shù)據(jù)即服務(wù)提供機(jī)器學(xué)習(xí)Mahout、數(shù)據(jù)挖掘、數(shù)據(jù)檢索、R語言、交互式SQL（SQL on Hadoop）、可編程API等功能，滿足上次應(yīng)用開發(fā)需求。MPP分布式數(shù)據(jù)庫H3C MPP關(guān)系型數(shù)據(jù)庫集群，良好的SQL語言支持。高性能、高容錯(cuò)、高可用。1.4 產(chǎn)品功能簡介服務(wù)名稱服務(wù)功能說明安裝部署提供定制部署、Zero部署和虛機(jī)部署等多種集群部

14、署方式，滿足用戶不用應(yīng)用場(chǎng)景需求。提供Web圖形化界面和快速向?qū)?，引?dǎo)用戶快捷高效地建立集群。機(jī)架管理實(shí)現(xiàn)HDFS副本存放策略的可視化管理。配置管理實(shí)現(xiàn)集群各項(xiàng)服務(wù)配置參數(shù)的歷史快照功能，記錄配置變更，方便性能調(diào)優(yōu)。用戶和組管理支持單用戶和用戶組管理，便捷的用戶和組的增刪操作，提供不同級(jí)別的訪問權(quán)限控制；主機(jī)管理實(shí)時(shí)監(jiān)控主機(jī)各項(xiàng)硬件資源(CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)等)及其上承載的服務(wù)的運(yùn)行狀態(tài)。執(zhí)行主機(jī)級(jí)別操作如停止、運(yùn)行主機(jī)上的服務(wù)等。服務(wù)管理對(duì)集群的各項(xiàng)服務(wù)做集中式管理，提供啟動(dòng)服務(wù)、停止服務(wù)、修改屬性和設(shè)定運(yùn)行參數(shù)等功能。實(shí)現(xiàn)集群各項(xiàng)服務(wù)運(yùn)行狀態(tài)(基本信息、告警、運(yùn)行健康狀態(tài))實(shí)時(shí)監(jiān)控。監(jiān)

15、控和告警監(jiān)控集群運(yùn)行的健康狀態(tài)，在特定的情況下發(fā)出信息，幫助識(shí)別和定位問題原因?？勺远x告警的監(jiān)控間隔和閾值、觸發(fā)條件、告警通知方式。版本管理實(shí)現(xiàn)HDP Stack可用服務(wù)和軟件版本的管理功能。多租戶支持多租戶訪問集群資源。安全管理支持本地、LDAP和Kerberos多種身份認(rèn)證方式，實(shí)現(xiàn)訪問權(quán)限控制。支持對(duì)文件、目錄、表、列、行等細(xì)粒度的訪問控制，可防止對(duì)集群的惡意使用和篡改，保證集群的可安全可靠。數(shù)據(jù)管理實(shí)現(xiàn)數(shù)據(jù)的壓縮、備份、交換及數(shù)據(jù)ETL的管理。管理平面功能：業(yè)務(wù)平面功能：.2 DataEngine HDP核心技術(shù)DataEngine HDP基于X86服務(wù)器本地的計(jì)算與存儲(chǔ)資源提供了分

16、布式并行計(jì)算和低成本存儲(chǔ)，提供低時(shí)延、高并發(fā)的查詢功能，集群可以擴(kuò)展到上千臺(tái)服務(wù)器。H3C通過對(duì)Hadoop開源組件的封裝和增強(qiáng)，對(duì)外提供數(shù)據(jù)分布式計(jì)算存儲(chǔ)、數(shù)據(jù)分析能力。l 資源管理YARN：改進(jìn)的YARN統(tǒng)一資源管理，在同一物理主機(jī)/虛擬主機(jī)和數(shù)據(jù)集上運(yùn)行多種計(jì)算框架,包括離線計(jì)算、內(nèi)存計(jì)算和實(shí)時(shí)計(jì)算。l 分布式文件系統(tǒng)HDFS：分布式文件系統(tǒng)，有較強(qiáng)的容錯(cuò)性，可在x86平臺(tái)上運(yùn)行，減少總體成本，可擴(kuò)展，能構(gòu)建大規(guī)模的應(yīng)用。l 數(shù)據(jù)庫HBase：HBase是一種構(gòu)建在HDFS（Hadoop Distributed ）之上的分布式、面向列的存儲(chǔ)系統(tǒng)，它具有高可靠、高性能、面向列和可伸縮的特性

17、。HBase適合于存儲(chǔ)大表數(shù)據(jù)（表的規(guī)模可以達(dá)到數(shù)十億行以及數(shù)百萬列），并且對(duì)大表數(shù)據(jù)的讀、寫訪問可以達(dá)到實(shí)時(shí)級(jí)別。l 離線計(jì)算： MapReduce是一種離線計(jì)算框架，將一個(gè)算法抽象成Map和Reduce兩個(gè)階段進(jìn)行處理，適合數(shù)據(jù)密集型計(jì)算場(chǎng)景。l 內(nèi)存計(jì)算： Spark是一種內(nèi)存計(jì)算框架，它將數(shù)據(jù)盡可能放到內(nèi)存中以提高迭代應(yīng)用和交互式應(yīng)用的計(jì)算效率。l 實(shí)時(shí)計(jì)算： Storm擅長流式計(jì)算、實(shí)時(shí)分析，比如廣告點(diǎn)擊計(jì)算、它在實(shí)時(shí)性要遠(yuǎn)遠(yuǎn)好于MapReduce計(jì)算框架。第2章3 DataEngine MPP Cluster核心技術(shù)3.1 MPP + Shared Nothing架構(gòu)DataEng

18、ine MPP Cluster采用完全并行的 MPP + Shared Nothing 的分布式扁平架構(gòu)，這種架構(gòu)中的每一個(gè)節(jié)點(diǎn)（node）都是獨(dú)立的、自給的、節(jié)點(diǎn)之間對(duì)等，而且整個(gè)系統(tǒng)中不存在單點(diǎn)瓶頸，具有非常強(qiáng)的擴(kuò)展性。圖 31 Shared Nothing + MPP 架構(gòu)示意圖3.2 核心組件DataEngine MPP Cluster產(chǎn)品總共包含三大核心組件，即GCluster、GCware和GNode。GCWare用于各節(jié)點(diǎn)GCluster實(shí)例間共享信息，GCluster負(fù)責(zé)集群調(diào)度，每個(gè)GNode就是最基本的存儲(chǔ)和計(jì)算單元。GCluster：GCluster負(fù)責(zé)SQL的解析、SQ

19、L優(yōu)化、分布式執(zhí)行計(jì)劃生成、執(zhí)行調(diào)度。GCWare：GCWare用于各節(jié)點(diǎn)GCluster實(shí)例間共享信息(包括集群結(jié)構(gòu)，節(jié)點(diǎn)狀態(tài)，節(jié)點(diǎn)資源狀態(tài)等信息)，以及控制多副本數(shù)據(jù)操作時(shí)，提供可操作節(jié)點(diǎn)，并在多副本操作中，控制各節(jié)點(diǎn)數(shù)據(jù)一致性狀態(tài)。GCWare對(duì)于集群的管理工作是以節(jié)點(diǎn)為基本單位的。GNode：GNode是GCluster中最基本的存儲(chǔ)和計(jì)算單元。GNode是由GCWare管理的一個(gè)8a實(shí)例，每個(gè)GCluster節(jié)點(diǎn)上有一個(gè)GNode實(shí)例運(yùn)行。GNode負(fù)責(zé)集群數(shù)據(jù)在節(jié)點(diǎn)上的實(shí)際存儲(chǔ)，并從GCluster接收和執(zhí)行經(jīng)分解的SQL執(zhí)行計(jì)劃，執(zhí)行結(jié)果返回給GCluster。數(shù)據(jù)加載時(shí)，GNo

20、de直接從集群加載服務(wù)接收數(shù)據(jù)，寫入本地存儲(chǔ)空間。GCMonit：GCMonit用于定期監(jiān)測(cè)DataEngine MPP Cluster服務(wù)程序的運(yùn)行狀態(tài), 一旦發(fā)現(xiàn)某個(gè)服務(wù)程序的進(jìn)程狀態(tài)發(fā)生變化，就會(huì)根據(jù)配置文件中的內(nèi)容來執(zhí)行相應(yīng)的命令。GCMonit進(jìn)程監(jiān)控程序?yàn)榧褐械拿總€(gè)組件提供各自的啟停腳本，提供的總腳本可以一次性啟停所有模塊的服務(wù)。3.3 高可用DataEngine MPP Cluster通過SafeGroup組內(nèi)冗余機(jī)制來保證集群的高可用特性：1) 每個(gè)SafeGroup可提供1個(gè)或2個(gè)副本數(shù)據(jù)冗余；2) SafeGroup 內(nèi)數(shù)據(jù)副本自動(dòng)同步；3) 復(fù)制引擎自動(dòng)管理數(shù)據(jù)同步；圖 32 SafeGroup高可用性管理示意圖3.4 高性能擴(kuò)展能力DataEngine MPP Cluster具備高性能擴(kuò)展能力：1) 通過SafeGroup 動(dòng)態(tài)擴(kuò)展集群節(jié)點(diǎn)；2) 每個(gè)節(jié)點(diǎn)可以處理10TB有效數(shù)據(jù)，同時(shí)提供計(jì)算和存儲(chǔ)能力；3) GCware 負(fù)責(zé)新節(jié)點(diǎn)的數(shù)據(jù)同步。圖 33