白皮書-神通xcluster集群件

11產(chǎn)品簡(jiǎn) 目錄產(chǎn)品功 目錄基本功 管理工 產(chǎn)品架 技術(shù)特 擴(kuò) 負(fù)載均 高可靠 元數(shù)據(jù) 管理終 實(shí)驗(yàn)驗(yàn) 運(yùn)行環(huán) 硬件要 服務(wù)說 7.2服務(wù)內(nèi) 7.57.2服務(wù)內(nèi) 7.5本地化服 7.3服務(wù)方 7.6提供解決方案協(xié)同服 7.4響應(yīng)時(shí) 7.7服務(wù)團(tuán) 神通xCluster集群件是神舟通用數(shù)據(jù)技術(shù)（簡(jiǎn)稱“神舟通用公司”）以多年大型通用數(shù)據(jù)庫(kù)領(lǐng)域的研發(fā)實(shí)力為基礎(chǔ)，集深厚的航天信息化建設(shè)經(jīng)驗(yàn)，集成多項(xiàng)先進(jìn)技術(shù)，為滿足航天、、金融、電信、電力等行業(yè)的海量數(shù)據(jù)分析統(tǒng)計(jì)應(yīng)用需求而打造的數(shù)據(jù)庫(kù)分布式計(jì)算集群。是國(guó)家“核高基”重大專項(xiàng)、國(guó)863計(jì)劃在基礎(chǔ)所取得的一項(xiàng)重要成果。神通xCluster集群件的研發(fā)得到了國(guó)家發(fā)改委、國(guó)家科技部、工信部、國(guó)防科工委以及中國(guó)航天科技公司的大力支持，在國(guó)產(chǎn)相關(guān)領(lǐng)域居于領(lǐng)先水平。依托神通數(shù)據(jù)庫(kù)、神通KSTORE以及神通xCluster集群件的產(chǎn)品研發(fā)，公司先后獲得了8項(xiàng)相關(guān)技術(shù)發(fā)明專利。神通xCluster集群件兼容神通數(shù)據(jù)庫(kù)和神通KSTORE產(chǎn)品，支持標(biāo)準(zhǔn)的SQL語(yǔ)句，提供標(biāo)準(zhǔn)的ODBC和JDBC數(shù) 同時(shí)具有高效的查詢處理性能。系統(tǒng)功能完善，性能穩(wěn)定，配置簡(jiǎn)單、靈活，在TPCBENCH-MARKH測(cè)試中表 針對(duì)海量數(shù)據(jù)隨著業(yè)務(wù)增長(zhǎng)而無限擴(kuò)大的特點(diǎn)，神通xCluster集群件提供集群的 1 在數(shù)據(jù)庫(kù)中，而是在需要的時(shí)候根據(jù)視圖定義計(jì)算出來。視圖限制表的行列2執(zhí)行時(shí)所能干擾的程度。級(jí)別越擾越少，并發(fā)程度越低；級(jí)別越低，干擾越多，3數(shù)據(jù)遷移的主要功能是進(jìn)行神通xCluster集群件與其它各種異構(gòu)數(shù)據(jù)源（如各種關(guān)系數(shù)據(jù)庫(kù)系統(tǒng)、文本計(jì)劃提示功能為應(yīng)用開發(fā)提供一種用以控制生成計(jì)劃的方式?；诖鷥r(jià)的優(yōu)化器在絕大多數(shù)最優(yōu)的應(yīng)用發(fā)可以過計(jì)提示hint）生更的劃以應(yīng)對(duì)能要。一個(gè)神通xCluster集群件可以創(chuàng)建多個(gè)邏輯數(shù)據(jù)庫(kù)，不同的邏輯數(shù)據(jù)庫(kù)之間相互獨(dú)立，相當(dāng)于多個(gè)集群神通xCluster集群件提供了擴(kuò)展功能，當(dāng)集群的負(fù)載增加可能超出其承受能力時(shí)，可以通過添加節(jié)神通xCluster集群件提供了對(duì)數(shù)據(jù)對(duì)象的均衡負(fù)載功能，以數(shù)據(jù)表為操作單位，調(diào)整表在各數(shù)據(jù)庫(kù)節(jié)點(diǎn)Web管理工具是為數(shù)據(jù)庫(kù)管理員提供的圖形化管理工具。能對(duì)神通xCluster集群件上的數(shù)據(jù)庫(kù)對(duì)象（如表、4經(jīng)過處理以后再將結(jié)果返回給ISQLPLUS顯示給用戶。5個(gè)節(jié)點(diǎn)的狀態(tài)和cpu負(fù)載、數(shù)據(jù)負(fù)載以及網(wǎng)絡(luò)負(fù)載等信息。6圖6所示。7豐富的數(shù)據(jù)分布方群件的數(shù)據(jù)分布方案，可以使數(shù)據(jù)能力呈穩(wěn)定線性增長(zhǎng)而不會(huì)影響系統(tǒng)性能。結(jié)合神通數(shù)據(jù)庫(kù)或神通循環(huán)分布到若干節(jié)點(diǎn)（Roundrobin）僅存在于單節(jié)點(diǎn)（SingleCREATECREATETABLEREGION(R_REGIONKEYINTEGERNOTCHAR(25)NOTVARCHAR(152)NOT8CREATETABLECREATETABLEORDERS( INTEGERNOT INTEGERNOTNULL, CHAR(1)NOTNULL, FLOAT8NOTNULL, DATENOTNULL,O_ORDERPRIORITYCHAR(15)NOTNULL, CHAR(15)NOTNULL, INTEGERNOTNULL, VARCHAR(79)NOTPARTITIONINGKEYO_ORDERKEYONALLBUCKETS4;9高速數(shù)據(jù)COPYxClusterxCluster瞬時(shí)數(shù)據(jù)導(dǎo)入速度可達(dá)370M/s。高效的查詢處制的進(jìn)行擴(kuò)展，并在一定范圍內(nèi)隨著節(jié)點(diǎn)的擴(kuò)展，性能基本呈線性增長(zhǎng)。神通xCluster集群件特別適用于分析型應(yīng)用，成本$5385.82的神通xCluster集群件集群系統(tǒng)QphH@100GB為1997.45。ClusterServerClusterServer會(huì)相應(yīng)的先做合并排序（MERGESORT）操作--ORDERS表采用HASH分布4個(gè)節(jié)SELECTCOUNT(*)FROMQueryStepStep------1TMPTT1_1，以接收后續(xù)操作中可能送到本節(jié)點(diǎn)的中間結(jié)果2CREATETABLE"TMPTT1_1"("XCOL1"INT)NOLOGGINGSelectSELECTCOUNT(*)AS"XCOL1"FROM"ORDERS"使用臨時(shí)使用臨時(shí)表接收 送來的中間結(jié)果并發(fā)的執(zhí)行第二次 操作，并返給集群；注意：此時(shí)是對(duì)個(gè)點(diǎn)的結(jié)果做和操作，因此需要將 操作變?yōu)榱薙M。刪除臨時(shí)表SelectSELECTSUM("XCOL1")AS"EXPRESSION1"FROMDrop:--LINEITEM表采用HASH區(qū)4GROUPORDER

SUM(L_TY)ASSUM_QTY,SUM(L_EXTENDEDPRICE)ASSUM_BASE_PRICE,SUM(L_EXTENDEDPRICE*(1-L_DISCOUNT))ASSUM_DISC_PRICE,SUM(L_EXTENDEDPRICE*(1-L_DISCOUNT)*(1+L_TAX))ASSUM_CHARGE,AVG(L_TY)ASAVG_QTY,AVG(L_EXTENDEDPRICE)ASAVG_PRICE,AVG(L_DISCOUNT)ASAVG_DISC,COUNT(*)ASCOUNT_ORDERL_SHIPDATE<=DATE'1998-12-01'-INTERVAL'120DAY'Query創(chuàng)建臨時(shí)創(chuàng)建臨時(shí)表TMPTT1_1，以接收后續(xù)操作中可能發(fā)送到本節(jié)點(diǎn)的中間結(jié)果四個(gè)節(jié)點(diǎn)并行做查詢，因?yàn)楹瘮?shù)的存在，在匯聚了各個(gè)節(jié)點(diǎn)的結(jié)果后需要做二次操作Step0c1avg均值，則各個(gè)節(jié)點(diǎn)需要返回各自c1sumcount。CREATETABLE"TMPTT1_1"("XCOL1"CHAR(1),"XCOL2"CHAR(1),"XCOL3"DOUBLEPRECISION,"XCOL4"DOUBLEPRECISION,"XCOL5"DOUBLEPRECISION,"XCOL6"DOUBLEPRECISION,"XCOL7"DOUBLEPRECISION,"XCOL8"BIGINT,"XCOL9"DOUBLEPRECISION,"XCOL10"BIGINT,"XCOL11"DOUBLEPRECISION,"XCOL12"BIGINT,"XCOL13"INT)NOLOGGING指定）TMPTT_1。步的匯聚操作，如：sum1+sum2+sum3+sum4=sum，(sum1+sum2+sum3+sum4count1+count2+count3+count4avg將最終結(jié)果返回給用戶，刪指定）TMPTT_1。步的匯聚操作，如：sum1+sum2+sum3+sum4=sum，(sum1+sum2+sum3+sum4count1+count2+count3+count4avg將最終結(jié)果返回給用戶，刪除臨時(shí)表TMPTT1_1StepSelectSELECT"XCOL1"AS"L_RETURNFLAG","XCOL2"AS"L_LINESTATUS",SUM("XCOL3")AS"SUM_QTY",SUM("XCOL4")AS"SUM_BASE_PRICE",SUM("XCOL5")AS"SUM_DISC_PRICE",SUM("XCOL6")AS"SUM_CHARGE",(SUM("XCOL7")/SUM("XCOL8"))AS"AVG_QTY",(SUM("XCOL9")/SUM("XCOL10"))AS"AVG_PRICE",(SUM("XCOL11")/SUM("XCOL12"))AS"AVG_DISC",SUM("XCOL13")AS"COUNT_ORDER"FROM"TMPTT1_1"groupby"XCOL1","XCOL2","XCOL1","XCOL2"--ORDERSLINEITEMHASH分區(qū)，分布到相同4個(gè)節(jié)點(diǎn)SELECTL_RETURNFLAG,L_LINESTATUSFROMORDERS,LINEITEMWHEREO_ORDERKEY=StepSelectSELECT"LINEITEM"."L_RETURNFLAG"AS"L_RETURNFLAG","LINEITEM"."L_LINESTATUS"AS"L_LINESTATUS"FROM"ORDERS"INNERJOIN"LINEITEM"ON("ORDERS"."O_ORDERKEY"="LINEITEM"."L_ORDERKEY")擴(kuò)xCluster集群件提供了擴(kuò)展功能，可以通過添加節(jié)點(diǎn)數(shù)據(jù)庫(kù)來提升集群性能，而不需要停止應(yīng)用業(yè)務(wù)。如圖7所示。神通xCluster集群件采用Share-Nothing的集群架構(gòu)，因此對(duì)數(shù)據(jù)節(jié)點(diǎn)的擴(kuò)展個(gè)數(shù)沒有限制。神通圖 性能，從而影響集群的整體性能。神通xCluster集群件提供了對(duì)HASH分布數(shù)據(jù)對(duì)象的均衡負(fù)載功能，以數(shù)據(jù)表現(xiàn)有的應(yīng)用業(yè)務(wù)負(fù)載總量為：759748747。這些負(fù)載被均勻分布在兩個(gè)節(jié)點(diǎn)上：SN1負(fù)載23、SN2負(fù)載24。隨著業(yè)務(wù)增長(zhǎng)，其中兩種業(yè)務(wù)（兩張表）的負(fù)載大幅增加：第一類業(yè)務(wù)（表1）負(fù)載710，第二類業(yè)務(wù)（2）510SN2，SN2載過重，此時(shí)可以調(diào)整第二類業(yè)務(wù)的分布進(jìn)行負(fù)載均衡。調(diào)整后第二類業(yè)務(wù)將分布在SN1、SN2個(gè)節(jié)點(diǎn)的負(fù)載為：SN1：23+10=33、SN2：24+10=34。現(xiàn)有的應(yīng)用業(yè)務(wù)負(fù)載總量為：759748747。這些負(fù)載被均勻分布在兩個(gè)節(jié)點(diǎn)上：SN123、SN224812，7+12，但是此時(shí)SN1、SN2的負(fù)載都已經(jīng)過重。此時(shí)可以先擴(kuò)展，在進(jìn)行負(fù)載均衡調(diào)整。調(diào)整后第六類和第七類SN3：SN1：977=23、SN2：75+4824、1212248ClusterServer9神通xCluster行管理，實(shí)現(xiàn)擴(kuò)展等重要功能；數(shù)據(jù)分布管理模塊依靠元數(shù)據(jù)庫(kù)中記錄的信息進(jìn)行數(shù)據(jù)的分發(fā)和；在具，對(duì)集群進(jìn)行管理和監(jiān)測(cè)。也可以像使用ISQL神通數(shù)據(jù)庫(kù)管理系統(tǒng)和神通KSTORE產(chǎn)品一樣，通過數(shù)據(jù)庫(kù)節(jié)神通xCluster集群件的數(shù)據(jù)庫(kù)節(jié)點(diǎn)兼容神通數(shù)據(jù)庫(kù)管理系統(tǒng)和神通KSTORE產(chǎn)品，并支持嵌套神通xCluster集數(shù)據(jù)庫(kù)節(jié)點(diǎn)是集群務(wù)數(shù)據(jù)的實(shí)際存放位置和集群的主要計(jì)算能力，集群的數(shù)據(jù)能力和查詢處理能力隨著數(shù)據(jù)庫(kù)節(jié)點(diǎn)的增多而增強(qiáng)。神通xCluster集群件對(duì)各個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)的性能沒有任何要求，但是顯而易見的，性的數(shù)據(jù)分布和負(fù)載均衡避免。因此一個(gè)典型的高性能/高擴(kuò)展性神通xCluster集群件部署方案里，各數(shù)據(jù)庫(kù)節(jié)為驗(yàn)證該高性能/高擴(kuò)展性方案的有效性，使用該方案部署了一個(gè)基于神通數(shù)據(jù)庫(kù)7.0企業(yè)版的集群，見圖11。9臺(tái)聯(lián)想R525G3機(jī)架式服務(wù)器，使用QuidwayS3328TP-SI(AC)交換機(jī)互聯(lián)。服務(wù)器安裝64位操作系統(tǒng)RedHatLinuxServer6.17.0xClusterV3.06×1TBSATA為了更真實(shí)的模擬和驗(yàn)證集群在實(shí)際業(yè)務(wù)應(yīng)用中的高性能/高擴(kuò)展性，采用中國(guó)山東綜合結(jié)算系統(tǒng)的實(shí)際數(shù)據(jù)作為驗(yàn)證源數(shù)據(jù)。主數(shù)據(jù)表TEST包含112個(gè)屬性，需7個(gè)月的話單數(shù)據(jù)，數(shù)據(jù)量為2737GB。測(cè)試用例為該結(jié)算系統(tǒng)最常用的5種查詢。在單個(gè)聯(lián)想R525 G3機(jī)架式服務(wù)器節(jié)點(diǎn)分別使用神通數(shù)據(jù)庫(kù)7.0企業(yè)版和ORACLE對(duì)7個(gè)月的數(shù)據(jù)測(cè)試5種最常用的業(yè)務(wù)查詢，然后把這7個(gè)月的數(shù)據(jù)分布在8個(gè)節(jié)點(diǎn)的集群上再次測(cè)試5種查詢。如表1所示。8*Server6.1Server6.1Server6.1ORACLE基于神通數(shù)據(jù)庫(kù)7.0企業(yè)版和xCluster集群V3.08節(jié)點(diǎn)集群查詢執(zhí)行時(shí)間單位：秒selectcount(*)fromfromtestwherestart_time<to_date('2010-01-0200:00:00','yyyy-mm-ddhh24:mi:ss')andhplmn1='452';selectsum(charge1),sum(charge2),sum(charge3)fromtestwherestart_time<'2010-01-0400:00:00'andstart_time>='2010-01-03selectsum(charge1),sum(charge2),sum(charge3)fromtestwherestart_time<'2010-01-0200:00:00'andstart_time>='2010-01-0100:00:00'andhplmn1='452';selectsum(charge1),sum(charge2),sum(charge3)fromtestwherehplmn2=451andhplmn3=5139; 顯著提高，平均加速比為1：7.14。如圖12所示。12：性能集群驗(yàn)證4.5.2源數(shù)據(jù)總量為22.03TB。8*Server6.1Server6.1神通數(shù)據(jù)庫(kù)7.0企業(yè)版和神通xClusterV3.08 selectcount(*)fromfromtestwherestart_timeto_date('2010-01-0200:00:00','yyyy-mm-ddandhplmn1=selectsum(charge1),sum(charge2),sum(charge3)fromtestwherestart_time<'2010-0400:00:00'andstart_time>='2010-01-selectsum(charge1),sum(charge2),sum(charge3)fromtestwherestart_time<'2010-01-0200:00:00'andstart_time>='2010-01-0100:00:00'andselectsum(charge1),sum(charge2),sum(charge3)fromtestwherehplmn2=451andhplmn3= 明顯降低，平均查詢效率比接近1：1。處理器類型：PentiumIII處