災(zāi)備行業(yè)技術(shù)白皮書(shū)概述

1、 災(zāi)備行業(yè)技術(shù)白皮書(shū)概述 該白皮書(shū)旨在通過(guò)對(duì)備份、容災(zāi)、存儲(chǔ)、數(shù)據(jù)復(fù)制、數(shù)據(jù)管理、云災(zāi)備等系列內(nèi)容及行業(yè)解決方案，為行業(yè)人士在基礎(chǔ)知識(shí)學(xué)習(xí)、專(zhuān)業(yè)知識(shí)補(bǔ)充、技能理念提升等方面提供幫助，是廣大相關(guān)從業(yè)者看清災(zāi)備行業(yè)發(fā)展的窗戶(hù)本文主要分享下白皮書(shū)中的復(fù)制技術(shù)；數(shù)據(jù)復(fù)制(Replication)是指通過(guò)網(wǎng)絡(luò)把數(shù)據(jù)實(shí)時(shí)或定時(shí)地從一個(gè)地方復(fù)制到另一個(gè)地方。數(shù)據(jù)復(fù)制技術(shù)根據(jù)計(jì)算機(jī)網(wǎng)絡(luò)體系構(gòu)，按不同層次分為五種：1、基于應(yīng)用和中間層的數(shù)據(jù)復(fù)制技2、基于主機(jī)層的數(shù)據(jù)復(fù)制技術(shù)3、基于數(shù)據(jù)庫(kù)的數(shù)據(jù)復(fù)制技術(shù)4、基于存儲(chǔ)系統(tǒng)網(wǎng)關(guān)的數(shù)據(jù)復(fù)制技術(shù)5、基于存儲(chǔ)介質(zhì)的數(shù)據(jù)復(fù)制技術(shù)（1）基于應(yīng)用和中間層的數(shù)據(jù)復(fù)制技術(shù)應(yīng)用層的數(shù)據(jù)

2、復(fù)制通過(guò)應(yīng)用程序與主備中心的數(shù)據(jù)庫(kù)進(jìn)行同步或異步的寫(xiě)操作，以保證主備中心數(shù)據(jù)的一致性，災(zāi)備中心可以和生產(chǎn)中心同時(shí)正常運(yùn)行，既能容災(zāi)，還可實(shí)現(xiàn)部分功能分擔(dān)，但是該技術(shù)的實(shí)現(xiàn)方式復(fù)雜，與應(yīng)用軟件業(yè)務(wù)邏輯直接關(guān)聯(lián)，實(shí)現(xiàn)和維護(hù)難度較高，并且使用應(yīng)用層的數(shù)據(jù)復(fù)制會(huì)提高系統(tǒng)的風(fēng)險(xiǎn)與數(shù)據(jù)丟失的風(fēng)險(xiǎn)。獨(dú)立于底層的操作系統(tǒng)、數(shù)據(jù)庫(kù)、存儲(chǔ)，應(yīng)用可以根據(jù)需求實(shí)現(xiàn)雙寫(xiě)或多寫(xiě)，從而實(shí)現(xiàn)主本和多個(gè)數(shù)據(jù)副本之間的數(shù)據(jù)復(fù)制功能。這種由應(yīng)用實(shí)現(xiàn)的技術(shù)，可以在中間件或應(yīng)用平臺(tái)層進(jìn)行封裝和實(shí)現(xiàn)，對(duì)上的應(yīng)用透明，也可以在應(yīng)用層實(shí)現(xiàn)。其主要好處是可根據(jù)需求定制、可實(shí)現(xiàn)應(yīng)用和數(shù)據(jù)庫(kù)層的復(fù)制，自主可控；主要不足是目前市場(chǎng)上沒(méi)有成熟、適合傳

3、統(tǒng)IT企業(yè)大規(guī)模推廣使用的中間件產(chǎn)。如果完全由應(yīng)用封裝平臺(tái)或者應(yīng)用來(lái)實(shí)現(xiàn)，代碼的復(fù)雜程度提高，增加了應(yīng)用的維護(hù)成本。（2）基于主機(jī)層的數(shù)據(jù)復(fù)制技術(shù)基于主機(jī)的數(shù)據(jù)復(fù)制是通過(guò)磁盤(pán)卷的鏡像或復(fù)制進(jìn)行的，業(yè)務(wù)進(jìn)行在主機(jī)的卷管理器層，對(duì)硬件設(shè)備尤其是存儲(chǔ)設(shè)備的限制小，利用生產(chǎn)中心和備份中心的主機(jī)系統(tǒng)通過(guò)IP網(wǎng)絡(luò)建立數(shù)據(jù)傳輸通道，數(shù)據(jù)傳輸可靠，效率對(duì)較高；通過(guò)主機(jī)數(shù)據(jù)管理軟件實(shí)現(xiàn)數(shù)據(jù)的遠(yuǎn)程復(fù)制，當(dāng)主數(shù)據(jù)中心的數(shù)據(jù)遭到破壞時(shí)，可以隨時(shí)從備份中心恢復(fù)應(yīng)用或從備份中心恢復(fù)數(shù)據(jù)?；谥鳈C(jī)的數(shù)據(jù)復(fù)制不需要兩邊采用同樣的存儲(chǔ)設(shè)備，具有較大的靈活性，缺點(diǎn)是復(fù)制功能會(huì)占用一些主機(jī)的CPU資源，對(duì)軟件要求較高（很多軟件無(wú)法

4、提供基于時(shí)間點(diǎn)的快照功能），對(duì)主機(jī)的性能有一定的影響。為了避免上述復(fù)制問(wèn)題，提高復(fù)制效率，英方經(jīng)過(guò)長(zhǎng)期的技術(shù)研發(fā)創(chuàng)新，推出了基于操作系統(tǒng)內(nèi)存層的字節(jié)級(jí)增量異步復(fù)制技術(shù)。英方軟件字節(jié)級(jí)數(shù)據(jù)捕獲與復(fù)制技術(shù)在實(shí)施過(guò)程中，首先會(huì)做初始化的數(shù)據(jù)鏡像，然后通過(guò)核心的復(fù)制引擎，開(kāi)始旁路監(jiān)聽(tīng)所有文件系統(tǒng)的寫(xiě)操作，例如Rename、SetAttr等，都能準(zhǔn)確的捕獲，并通過(guò)數(shù)據(jù)序列化傳輸技術(shù)（Data-OrderTransfer，簡(jiǎn)稱(chēng)“DOT”）異步傳輸?shù)綖?zāi)備端，完成整個(gè)數(shù)據(jù)的捕獲和復(fù)制過(guò)程。字節(jié)級(jí)復(fù)制的核心引擎工作時(shí)，并沒(méi)有復(fù)雜的數(shù)學(xué)運(yùn)算，對(duì)生產(chǎn)機(jī)計(jì)算資源占用可以忽略，僅僅是旁路捕獲數(shù)據(jù)。其次，所有的數(shù)據(jù)都是從

5、內(nèi)存中捕獲，并不涉及生產(chǎn)主機(jī)存儲(chǔ)的讀取操作，因此數(shù)據(jù)復(fù)制過(guò)程不占用主機(jī)的存儲(chǔ)IO資源。基于字節(jié)級(jí)的數(shù)據(jù)復(fù)制粒度最小到字節(jié)，因此對(duì)于帶寬資源的要求極低，是適應(yīng)于異地遠(yuǎn)距離及向未來(lái)的混合IT環(huán)境和云化架構(gòu)的一種復(fù)制方式。（3）基于數(shù)據(jù)庫(kù)的數(shù)據(jù)復(fù)制技術(shù)基于數(shù)據(jù)庫(kù)軟件的復(fù)制技術(shù)括物理復(fù)制和邏輯復(fù)制兩種方式。邏輯復(fù)制是利用數(shù)據(jù)庫(kù)的重做日、歸檔日，將主本所在站點(diǎn)的日傳輸?shù)礁北舅谡军c(diǎn)，通過(guò)重做SQL的方式實(shí)現(xiàn)數(shù)據(jù)復(fù)制。邏輯復(fù)制只提供異步復(fù)制，主副本數(shù)據(jù)的最終一致性，無(wú)法保證實(shí)時(shí)一致性；物理復(fù)制不是基于SQLApply操作來(lái)完成復(fù)制，而是通過(guò)redolog日或歸檔日在副本站點(diǎn)的同步或異步持久化寫(xiě)來(lái)實(shí)現(xiàn)復(fù)制功

6、能，同時(shí)副本站點(diǎn)的數(shù)據(jù)可以提供只讀功能。開(kāi)放平臺(tái)數(shù)據(jù)庫(kù)復(fù)制技術(shù)則是一種基于數(shù)據(jù)庫(kù)log（日）的構(gòu)化數(shù)據(jù)復(fù)制技術(shù)，它通過(guò)解析源數(shù)據(jù)庫(kù)在線log或歸檔log獲得數(shù)據(jù)的增、刪、改變化，再將這些變化應(yīng)用到目標(biāo)數(shù)據(jù)庫(kù)，使源數(shù)據(jù)庫(kù)與目標(biāo)數(shù)據(jù)庫(kù)同步，以達(dá)到多站點(diǎn)間數(shù)據(jù)庫(kù)可雙活甚至多活，實(shí)現(xiàn)業(yè)務(wù)連續(xù)可用和容災(zāi)的目的。基于數(shù)據(jù)庫(kù)的數(shù)據(jù)復(fù)制是對(duì)數(shù)據(jù)庫(kù)記錄級(jí)別、表級(jí)別容災(zāi)高可用的基礎(chǔ)技術(shù)，英方數(shù)據(jù)庫(kù)容災(zāi)技術(shù)合了主機(jī)復(fù)制和數(shù)據(jù)庫(kù)日分析的優(yōu)點(diǎn)，提高了系統(tǒng)應(yīng)用的靈活性，可實(shí)現(xiàn)數(shù)據(jù)庫(kù)應(yīng)用多活，同時(shí)也極大減少了數(shù)據(jù)庫(kù)應(yīng)用的增量數(shù)據(jù)傳輸。在細(xì)粒度數(shù)據(jù)容災(zāi)、廣域云化容災(zāi)領(lǐng)域仍然具有廣闊的應(yīng)用前景。數(shù)據(jù)庫(kù)語(yǔ)言級(jí)的實(shí)時(shí)數(shù)據(jù)同步簡(jiǎn)述，

7、在數(shù)據(jù)庫(kù)正常使用時(shí)，自動(dòng)完成源端到備端數(shù)據(jù)的初始化全量復(fù)制，并實(shí)時(shí)監(jiān)控及同步復(fù)制增量數(shù)據(jù)，其正常流程的狀態(tài)轉(zhuǎn)換及條件如下：英方軟件i2Active是基于redolog日分析技術(shù)的Oracle數(shù)據(jù)實(shí)時(shí)復(fù)制工具，具有簡(jiǎn)單靈活、高性能、非侵入、低影響、低于秒級(jí)延遲，低成本的特點(diǎn)，部署和使用也非常簡(jiǎn)便。能夠幫助用戶(hù) 在復(fù)雜的應(yīng)用環(huán)境下完成Oracle容災(zāi)備份、數(shù)據(jù)遷移、業(yè)務(wù)數(shù)據(jù)分發(fā)、構(gòu)建大型數(shù)據(jù)倉(cāng)庫(kù)等技術(shù)數(shù)據(jù)整合等工作。（4）基于存儲(chǔ)系統(tǒng)網(wǎng)關(guān)的數(shù)據(jù)復(fù)制技術(shù)存儲(chǔ)網(wǎng)關(guān)位于服務(wù)器與存儲(chǔ)之間，是構(gòu)架在SAN網(wǎng)絡(luò)上的專(zhuān)用存儲(chǔ)服務(wù)技術(shù)。這項(xiàng)技術(shù)基于存儲(chǔ)虛擬化技術(shù)。存儲(chǔ)虛擬化的直接定義：在存儲(chǔ)設(shè)備中形成的存儲(chǔ)資源透

8、明抽象層，即存儲(chǔ)虛擬化是服務(wù)器與存儲(chǔ)間的一個(gè)抽象層，它是物理存儲(chǔ)的邏輯表示方法。其主要目的就是要把物理存儲(chǔ)介質(zhì)抽象為邏輯存儲(chǔ)空間，將分散繁雜的異構(gòu)存儲(chǔ)管理整合為統(tǒng)一簡(jiǎn)單的集中存儲(chǔ)管理，將人們所對(duì)的眾多存儲(chǔ)問(wèn)題，由繁化簡(jiǎn)（其中括存儲(chǔ)的讀寫(xiě)方式、連接方式、存儲(chǔ)的規(guī)格或構(gòu)等），由散化整（存儲(chǔ)管理）的過(guò)程就是存儲(chǔ)虛擬化。存儲(chǔ)網(wǎng)關(guān)通過(guò)對(duì)于進(jìn)入的IO數(shù)據(jù)流提供各類(lèi)數(shù)據(jù)存儲(chǔ)服務(wù)，大幅提升了在服務(wù)器或存儲(chǔ)層可以提供遠(yuǎn)程數(shù)據(jù)復(fù)制、異構(gòu)化存儲(chǔ)融合、存儲(chǔ)設(shè)備高可用鏡像、快照服務(wù)、數(shù)據(jù)遷移服務(wù)甚至于 部分存儲(chǔ)網(wǎng)關(guān)可以提供精準(zhǔn)的持續(xù)數(shù)據(jù)保護(hù)連續(xù)數(shù)據(jù)恢復(fù)服務(wù)。由于存儲(chǔ)網(wǎng)關(guān)卸載了服務(wù)器和陣列的復(fù)制工作負(fù)載，它可以跨越大量的

9、服務(wù)器平臺(tái)和存儲(chǔ)陣列運(yùn)行，因而使它成為高度異構(gòu)的環(huán)境下的容災(zāi)技術(shù)的理想選擇。另外，由于針對(duì)帶寬優(yōu)化、數(shù)據(jù)恢復(fù)精細(xì)化等方獨(dú)有的優(yōu)勢(shì)，這項(xiàng)技術(shù)也成為比較主流的一種災(zāi)備技術(shù)。這項(xiàng)技術(shù)主要爭(zhēng)論點(diǎn)在于性能保障能力的發(fā)展程度。近年來(lái)，隨SAN應(yīng)用的不斷普及，SAN網(wǎng)絡(luò)中由異構(gòu)存儲(chǔ)設(shè)備和爆炸式增長(zhǎng)的數(shù)據(jù)量所帶來(lái)的管理復(fù)雜性、資源利用率低、投資浪費(fèi)、 存儲(chǔ)設(shè)備自身數(shù)據(jù)服務(wù)能力較低等問(wèn)題促進(jìn)了存儲(chǔ)網(wǎng)關(guān)的發(fā)展和應(yīng)用。（5）基于存儲(chǔ)介質(zhì)的數(shù)據(jù)復(fù)制技術(shù)通過(guò)存儲(chǔ)系統(tǒng)內(nèi)建的固件或操作系統(tǒng)、IP網(wǎng)絡(luò)或光纖通道等傳輸介質(zhì)連接，將數(shù)據(jù)以同步或異步的方式復(fù)制到遠(yuǎn)端，從而實(shí)現(xiàn)生產(chǎn)數(shù)據(jù)的災(zāi)難保護(hù)。采用基于存儲(chǔ)介質(zhì)的數(shù)據(jù)復(fù)制技術(shù)建設(shè)容

10、災(zāi)方案的特點(diǎn)主要是對(duì)網(wǎng)絡(luò)連接及硬件的要求較高?；诖鎯?chǔ)的復(fù)制可以是“一對(duì)一”復(fù)制方式，也可以是“一對(duì)多”或“多對(duì)一”的復(fù)制方式，即一個(gè)存儲(chǔ)的數(shù)據(jù)復(fù)制到多個(gè)遠(yuǎn)程存儲(chǔ)或多個(gè)存儲(chǔ)的數(shù)據(jù)復(fù)制到同一遠(yuǎn)程存儲(chǔ)，而且復(fù)制可以是雙向的。存儲(chǔ)復(fù)制技術(shù)使基于實(shí)現(xiàn)存儲(chǔ)磁盤(pán)陣列之間的直接鏡像，通過(guò)存儲(chǔ)系統(tǒng)內(nèi)建的固件或操作系統(tǒng)，利用IP網(wǎng)絡(luò)或光纖通道等傳輸界連，將數(shù)據(jù)以同步或異步的方式復(fù)制到遠(yuǎn)端。當(dāng)然，一般情況下這種模式，必須同等存儲(chǔ)牌并且同等型號(hào)的存儲(chǔ)系統(tǒng)控制器之間才能實(shí)現(xiàn)，配備低延遲大帶寬也是必要條件之一。由于復(fù)制工作被交給存儲(chǔ)控制器來(lái)完成，在異步傳輸本地緩存較大的時(shí)候可以很好地避免服務(wù)器的性能開(kāi)銷(xiāo)過(guò)大的問(wèn)題，從而

11、使基于存儲(chǔ)陣列的復(fù)制非常適合關(guān)鍵任務(wù)和高端交易應(yīng)用。這也是目前應(yīng)用最廣泛的容災(zāi)復(fù)制技術(shù)之一，但這種技術(shù)隨閃存存儲(chǔ)、開(kāi)放式存儲(chǔ)、云存儲(chǔ)、向?qū)ο蟠鎯?chǔ)等等混合存儲(chǔ)技術(shù)的普及和迭代，越來(lái)越難以適應(yīng)新環(huán)境下的容災(zāi)復(fù)制需求。英方變長(zhǎng)塊復(fù)制技術(shù)：通?；诖鎯?chǔ)介質(zhì)的數(shù)據(jù)復(fù)制也稱(chēng)為塊復(fù)制技術(shù)，傳統(tǒng)的塊復(fù)制技術(shù)主要是基于定長(zhǎng)塊復(fù)制原理進(jìn)行塊級(jí)別數(shù)據(jù)復(fù)制。英方軟件在合用戶(hù)新場(chǎng)景的需求下，基于變長(zhǎng)塊復(fù)制原理，推出了變長(zhǎng)塊復(fù)制技術(shù)通過(guò)在卷管理層和磁盤(pán)驅(qū)動(dòng)之間安“捕獲監(jiān)控管理”模塊， 精準(zhǔn)捕獲到發(fā)生數(shù)據(jù)變化的塊是哪一個(gè)或哪幾個(gè)，然后在位圖(Bitmap)上記錄下來(lái)，在觸發(fā)備份規(guī)則時(shí)，僅傳輸發(fā)生變化的子數(shù)據(jù)塊。針對(duì)以上數(shù)據(jù)

12、復(fù)制技術(shù)的功能比較，下表很好地歸納和總了各自的特點(diǎn)：但是關(guān)于數(shù)據(jù)復(fù)制量的對(duì)比，它們之間還是有很大的差距，下圖以一個(gè)300M的文件修改了512字節(jié)的場(chǎng)景為例，說(shuō)明當(dāng)前主流復(fù)制技術(shù)所復(fù)制的數(shù)據(jù)量的比例復(fù)制傳輸?shù)臄?shù)據(jù)量之比為300MB:64KB:512B（4800:128:1）。此外，如果數(shù)據(jù)復(fù)制技術(shù)按模式，又可以分為連續(xù)復(fù)制和定時(shí)拷貝：連續(xù)復(fù)制：連續(xù)復(fù)制是對(duì)業(yè)務(wù)狀態(tài)數(shù)據(jù)進(jìn)行持續(xù)不斷的復(fù)制，針對(duì)業(yè)務(wù)系統(tǒng)遭遇故障如突然的宕機(jī)、存儲(chǔ)故障等物理錯(cuò)誤時(shí)恢復(fù)應(yīng)用進(jìn)程。當(dāng)災(zāi)難發(fā)生時(shí)，連續(xù)復(fù)制過(guò)程也終止；在進(jìn)行業(yè)務(wù)恢復(fù)時(shí)利用備份數(shù)據(jù)可以恢復(fù)停機(jī)現(xiàn)場(chǎng)的生產(chǎn)數(shù)據(jù)，從而恢復(fù)業(yè)務(wù)。連續(xù)復(fù)制技術(shù)分為：同步復(fù)制：要求每一個(gè)寫(xiě)入操作在執(zhí)行下一個(gè)操作處理之前，在源端和目標(biāo)端都能完成。數(shù)據(jù)丟失少，