分布式數(shù)據(jù)庫(kù)發(fā)展路徑研究

1、目錄 HYPERLINK l _bookmark0 前言 3 HYPERLINK l _bookmark1 分布式數(shù)據(jù)庫(kù)的概念及分類(lèi) 6 HYPERLINK l _bookmark2 分布式數(shù)據(jù)庫(kù)的概念 6 HYPERLINK l _bookmark3 分布式數(shù)據(jù)庫(kù)的主要技術(shù) 7 HYPERLINK l _bookmark4 分布式事務(wù)處理技術(shù) 7 HYPERLINK l _bookmark5 分布式存儲(chǔ)技術(shù) 11 HYPERLINK l _bookmark6 分布式數(shù)據(jù)庫(kù)的分類(lèi) 13 HYPERLINK l _bookmark7 聯(lián)機(jī)事務(wù)處理 13 HYPERLINK l _bookmark

2、8 聯(lián)機(jī)分析處理 14 HYPERLINK l _bookmark9 混合事務(wù)分析處理 15 HYPERLINK l _bookmark10 分布式數(shù)據(jù)庫(kù)發(fā)展的現(xiàn)狀及問(wèn)題 16 HYPERLINK l _bookmark11 分布式數(shù)據(jù)庫(kù)的發(fā)展現(xiàn)狀 16 HYPERLINK l _bookmark12 技術(shù)現(xiàn)狀 16 HYPERLINK l _bookmark13 重點(diǎn)領(lǐng)域應(yīng)用 18 HYPERLINK l _bookmark14 分布式數(shù)據(jù)庫(kù)發(fā)展面臨的問(wèn)題 22 HYPERLINK l _bookmark15 應(yīng)用系統(tǒng)面對(duì)分布式數(shù)據(jù)庫(kù)的合理選擇問(wèn)題 22 HYPERLINK l _bookm

3、ark16 遺留系統(tǒng)面對(duì)分布式數(shù)據(jù)庫(kù)的遷移改造問(wèn)題 23 HYPERLINK l _bookmark17 分布式數(shù)據(jù)庫(kù)運(yùn)維管理較為復(fù)雜 24 HYPERLINK l _bookmark18 分布式數(shù)據(jù)庫(kù)產(chǎn)品成熟度有待提升 25 HYPERLINK l _bookmark19 分布式數(shù)據(jù)庫(kù)發(fā)展趨勢(shì) 25 HYPERLINK l _bookmark20 分布式數(shù)據(jù)庫(kù)的產(chǎn)品化日趨成熟 25 HYPERLINK l _bookmark21 與人工智能等新技術(shù)融合實(shí)現(xiàn)高效運(yùn)維 26 HYPERLINK l _bookmark22 分布式數(shù)據(jù)庫(kù)的服務(wù)方式將向云化發(fā)展 26 HYPERLINK l _boo

4、kmark23 分布式數(shù)據(jù)庫(kù)發(fā)展路徑建議 26 HYPERLINK l _bookmark24 政策引導(dǎo)，形成分布式數(shù)據(jù)庫(kù)的典型案例 27 HYPERLINK l _bookmark25 產(chǎn)用協(xié)同，提升分布式數(shù)據(jù)庫(kù)產(chǎn)品成熟度 27 HYPERLINK l _bookmark26 營(yíng)造環(huán)境，打造分布式數(shù)據(jù)庫(kù)的生態(tài)體系 28分布式數(shù)據(jù)庫(kù)的概念及分類(lèi)分布式數(shù)據(jù)庫(kù)的概念分布式數(shù)據(jù)庫(kù)最早于 20 世紀(jì) 80 年代提出，受限于當(dāng)時(shí)的計(jì)算機(jī)軟硬件及網(wǎng)絡(luò)發(fā)展水平，數(shù)據(jù)庫(kù)專(zhuān)家 M.Tamer zsu和 Patrick Valduriez 在經(jīng)典著作分布式數(shù)據(jù)庫(kù)系統(tǒng)原理（第3 版）中，把分布式數(shù)據(jù)庫(kù)定義為一群分布

5、在計(jì)算機(jī)網(wǎng)絡(luò)上、邏輯上相互關(guān)聯(lián)的數(shù)據(jù)庫(kù)。隨著信息技術(shù)的發(fā)展，集中式數(shù)據(jù)庫(kù)也正向基于網(wǎng)絡(luò)的共享集群路線發(fā)展，而市場(chǎng)上的分布式數(shù)據(jù)庫(kù)也不僅限于網(wǎng)絡(luò)分布、邏輯關(guān)聯(lián)等特性，經(jīng)典的分布式數(shù)據(jù)庫(kù)定義顯然已不能體現(xiàn)分布式數(shù)據(jù)庫(kù)當(dāng)前技術(shù)特點(diǎn)，難以滿(mǎn)足數(shù)據(jù)庫(kù)種類(lèi)區(qū)分要求。根據(jù)目前我國(guó)分布式數(shù)據(jù)庫(kù)技術(shù)現(xiàn)狀，我們認(rèn)為分布式數(shù)據(jù)庫(kù)是具備分布式事務(wù)處理能力、可平滑擴(kuò)展、分布于計(jì)算機(jī)網(wǎng)絡(luò)且邏輯上統(tǒng)一的數(shù)據(jù)庫(kù)。主要特征如下：分布式事務(wù)處理。分布式數(shù)據(jù)庫(kù)與集中式數(shù)據(jù)庫(kù)的主要區(qū)別就是是否具備分布式事務(wù)的處理能力。通過(guò)對(duì)數(shù)據(jù)庫(kù)各種操作的并行計(jì)算、全局事務(wù)管理等機(jī)制，實(shí)現(xiàn)真正的分布式事務(wù)處理，并實(shí)現(xiàn)與集中式數(shù)據(jù)庫(kù)一致的 ACID

6、特性。平滑擴(kuò)展。分布式數(shù)據(jù)庫(kù)可根據(jù)業(yè)務(wù)的增長(zhǎng)需要，動(dòng)態(tài)擴(kuò)展物理節(jié)點(diǎn)，以提升整體處理能力，且擴(kuò)展過(guò)程不需停機(jī)，不影響在線業(yè)務(wù)。理論上可以進(jìn)行無(wú)限擴(kuò)展，擴(kuò)展之后在邏輯上仍然是一個(gè)統(tǒng)一的數(shù)據(jù)庫(kù)。物理分布、邏輯統(tǒng)一。分布式數(shù)據(jù)庫(kù)的數(shù)據(jù)不是存儲(chǔ)在一個(gè)物理節(jié)點(diǎn)中，而是存儲(chǔ)在計(jì)算機(jī)網(wǎng)絡(luò)上的多個(gè)節(jié)點(diǎn)上，且通過(guò)網(wǎng)絡(luò)實(shí)現(xiàn)了真正的物理分布。而邏輯上仍是一個(gè)數(shù)據(jù)庫(kù)，為用戶(hù)提供統(tǒng)一的訪問(wèn)入口，實(shí)現(xiàn)對(duì)分布在網(wǎng)絡(luò)節(jié)點(diǎn)上的數(shù)據(jù)的統(tǒng)一操作，即用戶(hù)可以像使用傳統(tǒng)集中式數(shù)據(jù)庫(kù)一樣使用分布式數(shù)據(jù)庫(kù)，而不是分別操作多個(gè)數(shù)據(jù)庫(kù)。分布式數(shù)據(jù)庫(kù)的主要技術(shù)分布式事務(wù)處理技術(shù)分布式數(shù)據(jù)庫(kù)為了保障跨多個(gè)節(jié)點(diǎn)的事務(wù)原子性、一致性，一般使用分布式協(xié)議

7、來(lái)處理分布式事務(wù)。常用兩階段提交協(xié)議、三階段提交協(xié)議保障事務(wù)的原子性；使用 Paxos、 RAFT 等協(xié)議同步數(shù)據(jù)庫(kù)事務(wù)日志從而保證分布式事務(wù)的一致性。兩階段提交協(xié)議在事務(wù)處理、網(wǎng)絡(luò)通信等領(lǐng)域，兩階段提交（tow-phase commit，下文簡(jiǎn)稱(chēng) 2PC）是一種常用的原子性保障協(xié)議。在分布式事務(wù)場(chǎng)景下， 2PC 能夠協(xié)調(diào)所有參與者共同達(dá)到 commit/rollback 的結(jié)果，保證事務(wù)的原子性。該協(xié)議分為兩步（PREPARE，COMMIT），因此稱(chēng)為兩階段提交。2PC 協(xié)議中包含兩種角色，分別為協(xié)調(diào)者（Coordinator）和參與者（Participant）。其中協(xié)調(diào)者推動(dòng)參與者執(zhí)行，負(fù)

8、責(zé)整個(gè)協(xié)議的推進(jìn)，從而最終達(dá)到一致的決議。參與者負(fù)責(zé)提出決議并接受決議。協(xié)調(diào)者收到 COMMIT/ROLLBACK 的命令，開(kāi)啟兩階段提交。在沒(méi)有宕機(jī)的情況下，2PC 很好地完成了事務(wù)提交原子性保證，但如果協(xié)調(diào)者收齊所有的 prepare 完成之后發(fā)生宕機(jī)，此時(shí)參與者會(huì)一直等待協(xié)調(diào)者恢復(fù)，2PC 的狀態(tài)機(jī)會(huì)卡住，無(wú)法推進(jìn)。因此 2PC 協(xié)議是一個(gè)阻塞性協(xié)議，機(jī)器宕機(jī)情況下會(huì)影響系統(tǒng)的可用性。圖 1-1 二階段協(xié)議步驟三階段提交協(xié)議為了解決 2PC 協(xié)議宕機(jī)情況下?tīng)顟B(tài)機(jī)卡住的問(wèn)題，三階段提交協(xié)議（Three-Phase Commit，3PC）誕生了。3PC 是為了解決兩階段提交的阻塞問(wèn)題，即在執(zhí)

9、行過(guò)程中需要鎖住其他更新且不能容錯(cuò)的缺點(diǎn)，而在兩階段協(xié)議上進(jìn)行的改進(jìn)。階段節(jié)點(diǎn)的角色分配與兩階段協(xié)議一致，執(zhí)行過(guò)程上，3PC協(xié)議在 2PC 基礎(chǔ)之上，增加了一個(gè) PRE_COMMIT 階段。針對(duì) 2PC 的問(wèn)題，參與者宕機(jī)重啟之后，會(huì)問(wèn)其他參與 者的狀態(tài)，如果其他參與者均處于 PREPARE 階段，則該參 與者告訴其他參與者事務(wù)回滾。如果其他參與者至少有一個(gè) 出于 PRE_COMMIT 或者 COMMIT 階段，則通知所有參與 者事務(wù)提交。因此，有了 3PC 協(xié)議，即使協(xié)調(diào)者宕機(jī)，參與 者也能通過(guò)回查其他參與者的狀態(tài)，把事務(wù)狀態(tài)機(jī)推進(jìn)結(jié)束。Paxos 協(xié)議Paxos 協(xié)議用來(lái)解決的問(wèn)題可以用一

10、句話(huà)來(lái)概括：將所 有節(jié)點(diǎn)都寫(xiě)入同一個(gè)值，且被寫(xiě)入后不再更改。Paxos 協(xié)議 涉及三個(gè)角色，提議發(fā)起者（Proposer），提議接受者（Acceptor）和提議學(xué)習(xí)者（Learner）。提議發(fā)起者 Proposer 可以有多個(gè)， 提出議案（Value），但對(duì)同一輪 Paxos 過(guò)程，最多只有一個(gè) Value 被批準(zhǔn)。提議接受者 Acceptor 有 N 個(gè)，Proposer 提出 的 Value 必須獲得超過(guò)半數(shù)(N/2+1)的 Acceptor 批準(zhǔn)后才能通 過(guò)。Acceptor 之間完全對(duì)等獨(dú)立。上面提到只要超過(guò)半數(shù) Accpetor 通過(guò)即可獲得通過(guò)，那么提議學(xué)習(xí)者 Learner 角色

11、的目的就是把通過(guò)的確定性取值同步給其他未確定的 Acceptor。Raft 協(xié)議圖 1-2 paxos 協(xié)議圖解Raft 協(xié)議是 Paxos 協(xié)議的一種簡(jiǎn)化實(shí)現(xiàn)。包括三種角色： Leader，Candidate 和 Follower。所有節(jié)點(diǎn)都以 Follower 的狀態(tài)開(kāi)始，如果沒(méi)有收到Leader 消息則會(huì)變成Candidate 狀態(tài)。 Candidate 會(huì)向其他節(jié)點(diǎn)拉選票，如果得到大部分的票則成為 Leader，這個(gè)過(guò)程是 Leader 選舉。相比 Paxos，Raft 強(qiáng)化了節(jié)點(diǎn)間的日志同步，在領(lǐng)導(dǎo)者選舉方面和選舉之后的日志同步方面更加清晰，算法的詳細(xì)過(guò)程本報(bào)告不再贅述。Raft 相

12、較于 Paxos 有大幅度的簡(jiǎn)化且在分布式一致性上具有完全等價(jià)的特性，這使得 Raft 應(yīng)用廣泛，但 Raft 相較于 Paxos 也有其自身的不足，主要體現(xiàn)在兩個(gè)方面：一是 Raft 相較于 Paxos 的并發(fā)度是不足的。Paxos 支持多 Leader，這本身就帶來(lái)了并發(fā)度上的優(yōu)勢(shì)。其次，每一個(gè)Paxos 節(jié)點(diǎn)能夠同時(shí)進(jìn)行多個(gè)投票而 Raft 則不支持，其 Follower 節(jié)點(diǎn)必須一個(gè)一個(gè)地處理投票，這兩點(diǎn)就決定了在并發(fā)度上 Raft 無(wú)法和 Paxos 媲美。二是 Raft 相較于 Paxos 在新節(jié)點(diǎn)加入的時(shí)候不太友好。 Paxos 在新節(jié)點(diǎn)加入的時(shí)候可以立刻投入服務(wù)不用確認(rèn)節(jié)點(diǎn)加入

13、前的數(shù)據(jù)或日志，但是 Raft 則不然，新的節(jié)點(diǎn)加入后首先要進(jìn)行日志復(fù)制操作，必須要等之前的日志得到確認(rèn)之后才能提供服務(wù)，這無(wú)疑帶來(lái)了額外的風(fēng)險(xiǎn)。在分布式數(shù)據(jù)庫(kù)場(chǎng)景下，采用 Paxos/Raft 等協(xié)議在多個(gè)副本之間同步數(shù)據(jù)庫(kù)事務(wù)日志，確保至少一半以上數(shù)量的副本中保存的事務(wù)日志一致，從而實(shí)現(xiàn)分布式事務(wù)的一致性。分布式存儲(chǔ)技術(shù)分布式數(shù)據(jù)庫(kù)一般采用無(wú)共享（Shared-nothing）架構(gòu)，數(shù)據(jù)分布在網(wǎng)絡(luò)上多個(gè)互聯(lián)的節(jié)點(diǎn)上，這樣做有多種好處：數(shù)據(jù)量、讀取負(fù)載、寫(xiě)入負(fù)載超過(guò)單臺(tái)機(jī)器的處理能力。滿(mǎn)足容錯(cuò)和高可用需求，單臺(tái)機(jī)器（或多臺(tái)機(jī)器、網(wǎng)絡(luò)或整個(gè)數(shù)據(jù)中心）出現(xiàn)故障的情況下，仍然能繼續(xù)工作。多臺(tái)機(jī)器可

14、以提供冗余，一臺(tái)出現(xiàn)故障，另一臺(tái)可以接管。降低延遲，每個(gè)用戶(hù)可以從地理上最近的數(shù)據(jù)中心獲取服務(wù)，避免等待數(shù)據(jù)包遠(yuǎn)距離傳輸。數(shù)據(jù)分布存儲(chǔ)有兩種常見(jiàn)方式：復(fù)制（Replication）和分區(qū)(Partitioning)，兩者通常結(jié)合使用，使得每個(gè)分區(qū)的副本存儲(chǔ)在多個(gè)節(jié)點(diǎn)上。這意味著，即使每條記錄屬于一個(gè)分區(qū)，它仍然可以存儲(chǔ)在多個(gè)不同的節(jié)點(diǎn)上以獲得容錯(cuò)能力。數(shù)據(jù)分區(qū)技術(shù)對(duì)于數(shù)據(jù)量很大的數(shù)據(jù)集，將數(shù)據(jù)進(jìn)行拆分，分布存儲(chǔ)在不同物理節(jié)點(diǎn)上，每個(gè)節(jié)點(diǎn)存儲(chǔ)全部數(shù)據(jù)的一個(gè)子集，這種對(duì)數(shù)據(jù)進(jìn)行拆分的方式叫做分區(qū)（partition）。不同數(shù)據(jù)庫(kù)中對(duì)分區(qū)的名稱(chēng)定義有所差異，有些稱(chēng)之為分區(qū)（partition），有些

15、稱(chēng)之為分片（sharding），還有一些稱(chēng)之為區(qū)域（Region），但是其含義都是基本相同的。分區(qū)可以采用不同的策略，如 Hash、Range、List 等。分區(qū)的目標(biāo)是將大量數(shù)據(jù)和訪問(wèn)請(qǐng)求均勻分布在多個(gè)節(jié)點(diǎn)上。分區(qū)的優(yōu)點(diǎn)一是提高可擴(kuò)展性，一個(gè)表的不同分區(qū)可以 分布在不同的機(jī)器上，使得單表的容量可以超過(guò)單機(jī)的容量。二是提高可管理性，對(duì)于數(shù)據(jù)操作的粒度可以控制在單個(gè)分 區(qū)，例如按照時(shí)間分區(qū)的數(shù)據(jù)，可以通過(guò)刪除一個(gè)分區(qū)來(lái)實(shí) 現(xiàn)數(shù)據(jù)過(guò)期功能。三是提高性能，通過(guò)分區(qū)裁剪，可以快速 定位到用戶(hù)需要查詢(xún)的分區(qū)，提高查詢(xún)性能。數(shù)據(jù)復(fù)制技術(shù)數(shù)據(jù)復(fù)制是一種實(shí)現(xiàn)數(shù)據(jù)備份的技術(shù)，指在不同節(jié)點(diǎn)上保存相同的數(shù)據(jù)副本，提

16、供冗余。當(dāng)一個(gè)節(jié)點(diǎn)故障后，可以從其他存儲(chǔ)該數(shù)據(jù)的節(jié)點(diǎn)獲取數(shù)據(jù)，避免數(shù)據(jù)丟失，進(jìn)而提高了系統(tǒng)可靠性。分布式數(shù)據(jù)庫(kù)一般具有多個(gè)副本，副本間通過(guò) Paxos 或 Raft 協(xié)議保證副本間的數(shù)據(jù)強(qiáng)一致。分布式數(shù)據(jù)庫(kù)的分類(lèi)分布式數(shù)據(jù)庫(kù)分類(lèi)與傳統(tǒng)集中式關(guān)系數(shù)據(jù)庫(kù)相似，按對(duì)數(shù)據(jù)處理的方式不同一般分為兩類(lèi)：聯(lián)機(jī)事務(wù)處理、聯(lián)機(jī)分析處理。隨著技術(shù)的發(fā)展，用戶(hù)對(duì)于數(shù)據(jù)庫(kù)的要求越來(lái)越高，事務(wù)處理類(lèi)的數(shù)據(jù)庫(kù)在滿(mǎn)足功能、性能時(shí)，還需要有一定的數(shù)據(jù)分析能力，因此目前分布式數(shù)據(jù)庫(kù)又產(chǎn)生一個(gè)新的分類(lèi)混合事務(wù)分析處理。聯(lián)機(jī)事務(wù)處理聯(lián)機(jī)事務(wù)處理（On-Line Transaction Processing，OLTP）是事件驅(qū)動(dòng)、面

17、向應(yīng)用的，也稱(chēng)為面向交易的處理過(guò)程。其基本特征是前臺(tái)接收的用戶(hù)數(shù)據(jù)可以立即傳送到計(jì)算中心進(jìn)行處理，并在很短的時(shí)間內(nèi)給出處理結(jié)果，是對(duì)用戶(hù)操作的快速響應(yīng)。例如銀行類(lèi)、電子商務(wù)類(lèi)的交易系統(tǒng)就是典型的 OLTP 系統(tǒng)。其具備以下特點(diǎn)：直接面向應(yīng)用，數(shù)據(jù)在系統(tǒng)中產(chǎn)生?；诮灰椎奶幚硐到y(tǒng)。每次交易牽涉的數(shù)據(jù)量很小；對(duì)響應(yīng)時(shí)間要求非常高。用戶(hù)數(shù)量非常龐大，其用戶(hù)是操作人員，并發(fā)度很高。數(shù)據(jù)庫(kù)的各種操作主要基于索引進(jìn)行。以 SQL 作為交互載體。總體數(shù)據(jù)量相對(duì)較小。聯(lián)機(jī)分析處理聯(lián)機(jī)分析處理（On-Line Analytical Processing，OLAP）是面向數(shù)據(jù)分析的，也稱(chēng)為面向信息分析處理過(guò)程。它

18、使分析人員能夠迅速、一致、交互地從各個(gè)方面觀察信息，以達(dá)到深入理解數(shù)據(jù)的目的。其特征是應(yīng)對(duì)海量數(shù)據(jù)，支持復(fù)雜的分析操作，側(cè)重決策支持，并且提供直觀易懂的查詢(xún)結(jié)果。例如數(shù)據(jù)倉(cāng)庫(kù)是典型的 OLAP 系統(tǒng)。其具備以下特點(diǎn)：本身不產(chǎn)生數(shù)據(jù)，其基礎(chǔ)數(shù)據(jù)來(lái)源于生產(chǎn)系統(tǒng)中的操作數(shù)據(jù)。基于查詢(xún)的分析系統(tǒng)；復(fù)雜查詢(xún)經(jīng)常使用多表聯(lián)結(jié)、全表掃描等，牽涉的數(shù)量往往十分龐大。每次查詢(xún)?cè)O(shè)計(jì)的數(shù)據(jù)量很大，響應(yīng)時(shí)間與具體查詢(xún)有很大關(guān)系。用戶(hù)數(shù)量相對(duì)較少，其用戶(hù)主要是業(yè)務(wù)人員與管理人員。由于業(yè)務(wù)問(wèn)題不固定，數(shù)據(jù)庫(kù)的各種操作不能完全基于索引進(jìn)行。以 SQL 為主要載體，也支持語(yǔ)言類(lèi)交互?？傮w數(shù)據(jù)量相對(duì)較大?；旌鲜聞?wù)分析處理混合事

19、務(wù)分析處理（Hybrid Transaction/Analytical Process， HTAP）由 Gartner 于 2014 年提出。目前 HTAP 方案主流大 體有兩個(gè)方向，根據(jù) OLTP 和 OLAP 負(fù)載是否使用相同的節(jié) 點(diǎn)或者引擎，分為統(tǒng)一架構(gòu)和分離架構(gòu)。統(tǒng)一架構(gòu)的特點(diǎn)是一個(gè)節(jié)點(diǎn)同時(shí)提供 OLTP 和 OLAP能力，存儲(chǔ)結(jié)構(gòu)上通常使用行列混合的架構(gòu)。分離架構(gòu)采用不同的子系統(tǒng)實(shí)現(xiàn) OLTP 和 OLAP 功能，中間使用高效的同步協(xié)議把 OLTP 子系統(tǒng)的數(shù)據(jù)更新實(shí)時(shí)同步到 OLAP 子系統(tǒng)，而用戶(hù)層（SQL）可以自動(dòng)選擇最優(yōu)的數(shù)據(jù)源。HTAP 避免了繁瑣且昂貴的 ETL（抽取、轉(zhuǎn)

20、換、加載）操作，而且可以更快地對(duì)最新數(shù)據(jù)進(jìn)行分析。這種快速分析數(shù)據(jù)的能力將成為未來(lái)企業(yè)的核心競(jìng)爭(zhēng)力之一。主要特點(diǎn)如下：底層數(shù)據(jù)要么只有一份，要么可快速?gòu)?fù)制，并且同時(shí)滿(mǎn)足高并發(fā)的實(shí)時(shí)更新。滿(mǎn)足海量數(shù)據(jù)的容量問(wèn)題，在存儲(chǔ)、計(jì)算都具有很好的線性擴(kuò)展能力。具有很好的優(yōu)化器，可滿(mǎn)足事務(wù)類(lèi)、分析類(lèi)的語(yǔ)句需求。具備標(biāo)準(zhǔn)的 SQL，并支持諸如二級(jí)索引、分區(qū)、列式存儲(chǔ)等技術(shù)。分布式數(shù)據(jù)庫(kù)發(fā)展的現(xiàn)狀及問(wèn)題分布式數(shù)據(jù)庫(kù)的發(fā)展現(xiàn)狀技術(shù)現(xiàn)狀相比于集中式數(shù)據(jù)，分布式數(shù)據(jù)庫(kù)具有平滑擴(kuò)展、高可靠、高可用、低成本等關(guān)鍵特性和顯著優(yōu)點(diǎn)。目前部分分布式數(shù)據(jù)庫(kù)實(shí)現(xiàn)了分布式事務(wù)的強(qiáng)一致性，保證分布式事務(wù)的 ACID 要求，為分布式數(shù)據(jù)

21、庫(kù)在關(guān)鍵領(lǐng)域的領(lǐng)域奠定了基礎(chǔ)，而且成熟的分布式數(shù)據(jù)庫(kù)透明性較好，上層應(yīng)用系統(tǒng)可以像使用集中式數(shù)據(jù)庫(kù)一樣使用分布式數(shù)據(jù)庫(kù)事務(wù)，無(wú)需關(guān)注分布式數(shù)據(jù)庫(kù)的內(nèi)部細(xì)節(jié)。平滑擴(kuò)展與高性能。分布式數(shù)據(jù)庫(kù)的最大優(yōu)勢(shì)就是可以平滑地進(jìn)行節(jié)點(diǎn)擴(kuò)展，這樣使得在系統(tǒng)運(yùn)行初期，分布式數(shù)據(jù)庫(kù)暫時(shí)不需要規(guī)劃部署大量機(jī)器，隨著業(yè)務(wù)增長(zhǎng)，可動(dòng)態(tài)增加節(jié)點(diǎn)，提升整體存儲(chǔ)容量和處理性能，同時(shí)實(shí)現(xiàn)了業(yè)務(wù)無(wú)感知的平滑擴(kuò)容，以滿(mǎn)足業(yè)務(wù)連續(xù)性要求。正是通過(guò)這種擴(kuò)展能力，使得分布式數(shù)據(jù)庫(kù)通過(guò)機(jī)器橫向堆疊實(shí)現(xiàn)存儲(chǔ)容量和處理性能的提升，突破了集中式數(shù)據(jù)庫(kù)由于硬件配置帶來(lái)的存儲(chǔ)和性能限制，以滿(mǎn)足海量數(shù)據(jù)存儲(chǔ)和高并發(fā)處理要求，可以達(dá)到幾十萬(wàn)級(jí) TPS、百

22、萬(wàn)級(jí) QPS 以上的處理性能。容災(zāi)備份與高可靠。分布式數(shù)據(jù)庫(kù)通常都會(huì)采用多副本機(jī)制，比如三副本或五副本，一份數(shù)據(jù)在多個(gè)節(jié)點(diǎn)上保存，副本間通過(guò) Raft、Paxos 等一致性協(xié)議保證數(shù)據(jù)一致性。當(dāng)某個(gè)節(jié)點(diǎn)或者部分節(jié)點(diǎn)故障時(shí)，數(shù)據(jù)不會(huì)丟失，上層業(yè)務(wù)不受影響。在多地多活的分布式方案中，分布式數(shù)據(jù)庫(kù)亦可以實(shí)現(xiàn)分布式單元化架構(gòu)，保證數(shù)據(jù)一致性的前提下，向外提供穩(wěn)定可靠高效的服務(wù)能力。分布式數(shù)據(jù)庫(kù)的多副本機(jī)制實(shí)現(xiàn)了系統(tǒng)的容災(zāi)能力，提升系統(tǒng)可靠性。高可用?？捎眯砸话闶侵冈谝蟮耐獠抠Y源得到保證的前提下，系統(tǒng)在規(guī)定的條件下和規(guī)定的時(shí)間內(nèi)（不包括計(jì)劃內(nèi)服務(wù)中斷時(shí)間）處于可執(zhí)行規(guī)定功能狀態(tài)的能力，一般按允許計(jì)劃外

23、年服務(wù)中斷時(shí)間、可用程度至少達(dá)到“n 個(gè) 9”來(lái)衡量。比如一個(gè)服務(wù)如果有 5 個(gè) 9 的可用性，指的就是一年里 99.999%時(shí)間里服務(wù)都是可用的。由于分布式數(shù)據(jù)庫(kù)采用了多副本及分布式事務(wù)處理等機(jī)制，使得其可以保證較高的可用性，以適應(yīng)金融等一些關(guān)鍵領(lǐng)域的技術(shù)要求。需要說(shuō)明的是，根據(jù) Brewer 等人的分布式系統(tǒng) CAP 理論，不存在一個(gè)分布式系統(tǒng)，既能保證數(shù)據(jù)一致性（C），也能保證可用性（A），還能保證分區(qū)容錯(cuò)性（P）。所以通常情況下，一般的分布式數(shù)據(jù)庫(kù)會(huì)選擇 CA 或者 CP，或者犧牲一部分 C 來(lái)?yè)Q取 A 的提升。低成本。分布式數(shù)據(jù)庫(kù)一般基于通用的 PC 服務(wù)器和操作系統(tǒng)，數(shù)據(jù)也存儲(chǔ)在本

24、地磁盤(pán)中，使得在硬件成本上，比傳統(tǒng)小型機(jī)和高端磁陣有明顯優(yōu)勢(shì)。特別是在節(jié)點(diǎn)擴(kuò)展到一定規(guī)模后，不僅實(shí)現(xiàn)了集中式數(shù)據(jù)庫(kù)無(wú)法實(shí)現(xiàn)的高并發(fā)，而且單個(gè)事務(wù)處理消耗的成本也會(huì)比集中式數(shù)據(jù)庫(kù)顯著降低。重點(diǎn)領(lǐng)域應(yīng)用互聯(lián)網(wǎng)領(lǐng)域互聯(lián)網(wǎng)是分布式數(shù)據(jù)庫(kù)首先被重點(diǎn)應(yīng)用的領(lǐng)域。從成本考慮，隨著數(shù)據(jù)量和系統(tǒng)訪問(wèn)量增加，依賴(lài)縱向擴(kuò)展的傳統(tǒng)數(shù)據(jù)庫(kù)架構(gòu)，采用小型機(jī)、磁陣和商用數(shù)據(jù)庫(kù)軟件的購(gòu)買(mǎi)和維護(hù)成本會(huì)越來(lái)越高。而采用廉價(jià) PC 服務(wù)器、使用本地存儲(chǔ)的分布式數(shù)據(jù)庫(kù)，成本顯著下降，同時(shí)還帶來(lái)良好的系統(tǒng)成長(zhǎng)性。另外，互聯(lián)網(wǎng)應(yīng)用，包括各種大促、春節(jié)搶票、秒殺等場(chǎng)景，都有短時(shí)間內(nèi)并發(fā)量激增的情形。如果按照業(yè)務(wù)峰值提前采購(gòu)計(jì)算資源，必然會(huì)

25、導(dǎo)致資源浪費(fèi)。借助分布式數(shù)據(jù)庫(kù)的彈性擴(kuò)縮容的能力，能更好滿(mǎn)足業(yè)務(wù)場(chǎng)景的需求，并避免資源浪費(fèi)。以淘寶為例，成立至今，淘寶已積攢了萬(wàn)億級(jí)海量訂單數(shù)據(jù)，百億級(jí)圖片數(shù)據(jù)。從 2009 年第一個(gè)雙十一，到 2020年雙十一，訂單峰值從 400 筆/秒提升到 58.3 萬(wàn)筆/秒，增長(zhǎng)1500 倍。如此海量的數(shù)據(jù)和高并發(fā)的數(shù)據(jù)庫(kù)訪問(wèn)請(qǐng)求，遠(yuǎn)遠(yuǎn)突破了單點(diǎn)設(shè)備所能提供的存儲(chǔ)容量和計(jì)算能力上限，縱使再優(yōu)秀的傳統(tǒng)集中式數(shù)據(jù)庫(kù)也無(wú)法支撐。2014 年開(kāi)始，淘寶逐漸用其 OceanBase 分布式數(shù)據(jù)庫(kù)替換 Oracle 數(shù)據(jù)庫(kù)，并最終支持支付寶內(nèi)部全部業(yè)務(wù)。OceanBase 的實(shí)踐，證明分布式數(shù)據(jù)庫(kù)適用于互聯(lián)網(wǎng)應(yīng)用

26、場(chǎng)景，現(xiàn)在越來(lái)越多的互聯(lián)網(wǎng)應(yīng)用運(yùn)行在分布式數(shù)據(jù)庫(kù)之上。2.1.2.1 金融領(lǐng)域金融領(lǐng)域是使用分布式數(shù)據(jù)庫(kù)的另一個(gè)重要場(chǎng)景，但和互聯(lián)網(wǎng)在應(yīng)用場(chǎng)景、技術(shù)條件和關(guān)鍵訴求上存在顯著差異。以分布式事務(wù)一致性方案為例，互聯(lián)網(wǎng)普遍采用最終一致性方案以獲得更高的性能，同時(shí)對(duì)該方案存在的同步阻塞、數(shù)據(jù)臟讀等問(wèn)題，需要應(yīng)用代碼參與控制一致性，互聯(lián)網(wǎng)企業(yè)因?yàn)閼?yīng)用和數(shù)據(jù)庫(kù)都是自己開(kāi)發(fā)，所以不存在相互配合等問(wèn)題。但金融核心業(yè)務(wù)要求數(shù)據(jù)庫(kù)必須支持強(qiáng)一致性方案，這是金融行業(yè)對(duì)數(shù)據(jù)正確性的基本要求，同時(shí)也是減少現(xiàn)有第三方開(kāi)發(fā)的數(shù)百個(gè)應(yīng)用遷移和改造成本的必然要求。目前金融核心業(yè)務(wù)架構(gòu)普遍采用“大/小機(jī)+Oracle/DB2”集

27、中式數(shù)據(jù)庫(kù)系統(tǒng)。一方面隨著我國(guó)經(jīng)濟(jì)和科技，尤其是移動(dòng)支付的發(fā)展，現(xiàn)有系統(tǒng)已無(wú)法滿(mǎn)足金融類(lèi)企業(yè)高安全、高性能、低成本及高質(zhì)量等要求；另一方面隨著國(guó)際形勢(shì)的變化，現(xiàn)有系統(tǒng)可能會(huì)面臨服務(wù)下降甚至斷供的風(fēng)險(xiǎn)。所以逐步以自主可控的分布式數(shù)據(jù)庫(kù)替換現(xiàn)有集中式數(shù)據(jù)庫(kù)成為金融行業(yè)的必然選擇之一。據(jù)了解，中信銀行是最早完成核心業(yè)務(wù)基于國(guó)產(chǎn)分布式數(shù)據(jù)庫(kù) GoldenDB 上線的大型銀行，其數(shù)據(jù)庫(kù)按照兩地三中心（北京生產(chǎn)機(jī)房、同城機(jī)房；合肥異地容災(zāi)機(jī)房）建設(shè)，實(shí)現(xiàn)同城 RPO=0，異地 RPO=5s 的關(guān)鍵指標(biāo)，滿(mǎn)足金融行業(yè) 5 個(gè) 9 以上的高可用要求。2019 年 10 月 26 日，信用卡核心投產(chǎn)，計(jì)算節(jié)點(diǎn)每

28、中心 10 臺(tái)，數(shù)據(jù)節(jié)點(diǎn) 40 個(gè)分片（部分合設(shè)），三中心一主五備（2+2+2），約 200 臺(tái)機(jī)器；2020 年 5 月 3 日，賬務(wù)核心投產(chǎn)，計(jì)算節(jié)點(diǎn)每中心 20 臺(tái)，數(shù)據(jù)節(jié)點(diǎn)40 個(gè)分片，三中心一主七備（3+3+2），共 400 臺(tái)機(jī)器，至此原來(lái)承載中信銀行核心業(yè)務(wù)的 IBM AS400+DB2 正式下線。 2020 年 10 月 31 日，平安銀行“A+信用卡核心系統(tǒng)”正式由騰訊云 TDSQL 分布式數(shù)據(jù)庫(kù)承載。系統(tǒng)基于分布式架構(gòu)，采用私有云和 PssS 平臺(tái)建設(shè)，實(shí)現(xiàn)了應(yīng)用微服務(wù)化，能夠按客戶(hù)維度進(jìn)行分片，行方所有的客戶(hù)的業(yè)務(wù)均可以在單個(gè)分片完成，包括交易授權(quán)、用卡業(yè)務(wù)，也包括行方的

29、批量業(yè)務(wù)，通過(guò) shard-nothing 分布式架構(gòu)，可以實(shí)現(xiàn)透明水平擴(kuò)容。系統(tǒng)采用兩地三中心的部署架構(gòu)，主機(jī)房在深圳的觀瀾區(qū)（1 主 1 備），備機(jī)房分別在深圳的福田區(qū)（2 備）和上海（2 備）。福田作為同城災(zāi)備中心，在觀瀾本地的主機(jī)和備機(jī)都出現(xiàn)問(wèn)題時(shí)，會(huì)自動(dòng)切換到福田的機(jī)房，上海作為異地災(zāi)備中心。達(dá)夢(mèng)透明分布式數(shù)據(jù)庫(kù)于 2019 年上線某國(guó)有大行的員工一體化系統(tǒng)，面向該行國(guó)內(nèi) 30 多萬(wàn)員工的人力資源服務(wù)業(yè)務(wù)，在業(yè)務(wù)復(fù)雜度和系統(tǒng)并發(fā)度方面，對(duì)分布式數(shù)據(jù)庫(kù)形成較高挑戰(zhàn)。同時(shí)該項(xiàng)目還是首個(gè)基于國(guó)產(chǎn) CPU 的分布式數(shù)據(jù)庫(kù)的成功上線案例，從軟件層面較好的解決了國(guó)產(chǎn) CPU系統(tǒng)性能問(wèn)題，并能支撐

30、 30 萬(wàn)用戶(hù)的壓力，通過(guò) 1 主 2 副的數(shù)據(jù) 3 副本方案，提供數(shù)據(jù)冗余保護(hù)。易鯨捷公司的分布式數(shù)據(jù)庫(kù)產(chǎn)品“錢(qián)庫(kù)”與長(zhǎng)亮公司的 “V7”應(yīng)用在 2020 年 4 月 5 日正式在貴陽(yáng)銀行核心沙箱項(xiàng)目上線。該項(xiàng)目引入了全國(guó)產(chǎn)化解決方案，并涵蓋了貴陽(yáng)銀行的各類(lèi)業(yè)務(wù)，包括：客戶(hù)、存款、貸款、借記卡、結(jié)算、中間業(yè)務(wù)、核算、機(jī)構(gòu)、柜員、現(xiàn)金、權(quán)限以及互聯(lián)網(wǎng)業(yè)務(wù)等。該項(xiàng)目首次提出“雙庫(kù)并行”的技術(shù)架構(gòu)，通過(guò)新建一套核心應(yīng)用系統(tǒng)集群 B 基于錢(qián)庫(kù)數(shù)據(jù)庫(kù)運(yùn)行，并與原核心業(yè)務(wù)系統(tǒng)并行，實(shí)現(xiàn)了兩個(gè)系統(tǒng)間的秒級(jí)切換，在系統(tǒng)平滑過(guò)渡的同時(shí)也實(shí)現(xiàn)了業(yè)務(wù)層面的“災(zāi)備”。這些項(xiàng)目的成功投產(chǎn)和穩(wěn)定運(yùn)行，證明分布式數(shù)據(jù)庫(kù)可

31、以滿(mǎn)足金融核心領(lǐng)域高安全、高性能、低成本及高質(zhì)量等要求。分布式數(shù)據(jù)庫(kù)發(fā)展面臨的問(wèn)題分布式數(shù)據(jù)庫(kù)雖然具備獨(dú)特技術(shù)應(yīng)用優(yōu)勢(shì)，但其發(fā)展也面臨一系列問(wèn)題。應(yīng)用系統(tǒng)面對(duì)分布式數(shù)據(jù)庫(kù)的合理選擇問(wèn)題按照 CAP 理論，分布式系統(tǒng)不可能同時(shí)滿(mǎn)足一致性 (Consistency) 、可用性(Availability) 和分區(qū)容錯(cuò)性(Partition tolerance)，而最多只能同時(shí)滿(mǎn)足其中兩個(gè)。在分布式系統(tǒng)中，由于網(wǎng)絡(luò)可能會(huì)出現(xiàn)延遲、丟包甚至中斷等問(wèn)題，導(dǎo)致分區(qū) 容錯(cuò)性是必須要實(shí)現(xiàn)的，因此一般在一致性和可用性之間進(jìn) 行權(quán)衡，而不同的應(yīng)用系統(tǒng)對(duì)一致性、可用性和性能的要求 各不相同。例如,很多互聯(lián)網(wǎng)應(yīng)用對(duì)一致

32、性要求相對(duì)較低，但 希望可用性較高；而金融核心應(yīng)用常常需要優(yōu)先保證較高的 一致性又要保證 5 個(gè) 9 及以上的高可用。因此，在 CAP 理論 約束下，如何根據(jù)應(yīng)用的特點(diǎn)從種類(lèi)繁多的分布式數(shù)據(jù)庫(kù)系 統(tǒng)中做出合理選擇，是大多數(shù)軟件開(kāi)發(fā)人員面臨的一大難題。圖 2-1 CAP 理論示意圖遺留系統(tǒng)面對(duì)分布式數(shù)據(jù)庫(kù)的遷移改造問(wèn)題分布式數(shù)據(jù)庫(kù)的本質(zhì)是在全局范圍內(nèi)，通過(guò)各種調(diào)度設(shè)計(jì)保證多個(gè)具備集中式數(shù)據(jù)庫(kù)功能的單節(jié)點(diǎn)數(shù)據(jù)庫(kù)協(xié)同工作。在集中式數(shù)據(jù)庫(kù)中應(yīng)用比較成熟的存儲(chǔ)過(guò)程、觸發(fā)器、視圖、DBLink、外鍵約束等功能需要遷移到全局層面實(shí)現(xiàn)，實(shí)現(xiàn)難度較大。即使部分分布式數(shù)據(jù)庫(kù)已經(jīng)實(shí)現(xiàn)上述功能，也可能是受限使用，并且

33、執(zhí)行效率低于集中式數(shù)據(jù)庫(kù)。上層業(yè)務(wù)在實(shí)現(xiàn)或者改造時(shí)，需要額外關(guān)心數(shù)據(jù)模型，數(shù)據(jù)模型的主要工作是設(shè)計(jì)數(shù)據(jù)和數(shù)據(jù)之間的關(guān)系，后續(xù)的業(yè)務(wù)實(shí)現(xiàn)是圍繞數(shù)據(jù)關(guān)系實(shí)現(xiàn)相應(yīng)的邏輯?？紤]到硬件開(kāi)銷(xiāo)和充分發(fā)揮性能優(yōu)勢(shì)，數(shù)據(jù)模型要考慮本數(shù)據(jù)及其相關(guān)的一組數(shù)據(jù)的數(shù)據(jù)分布規(guī)則，后續(xù)的應(yīng)用實(shí)現(xiàn)也需要考慮這點(diǎn)，例如要盡力避免分布式事務(wù)。如果分區(qū)設(shè)計(jì)良好，分布式數(shù)據(jù)庫(kù)將表現(xiàn)出非常高的并發(fā)能力和水平擴(kuò)展特性，從而使遷移至分布式數(shù)據(jù)庫(kù)的應(yīng)用受益，反之可能影響整體系統(tǒng)的性能。值得注意的是，目前大量的外圍業(yè)務(wù)由于功能雜、關(guān)聯(lián)數(shù)據(jù)多、復(fù)雜語(yǔ)句比例高，使用了較多的集中式數(shù)據(jù)庫(kù)的特定語(yǔ)法或者功能，遷移到新的分布式數(shù)據(jù)庫(kù)上必須充分評(píng)估改造和

34、遷移工作量、投入收益比。相反不少核心業(yè)務(wù)一方面因?yàn)樾阅芤蟾摺I(yè)務(wù)相對(duì)簡(jiǎn)單等原因使用集中式數(shù)據(jù)庫(kù)的特定語(yǔ)法和功能要比外圍應(yīng)用少得多，另外一方面核心業(yè)務(wù)改造遷移后可以獲得原來(lái)不具備的高可用、高性能等收益。分布式數(shù)據(jù)庫(kù)運(yùn)維管理較為復(fù)雜分布式數(shù)據(jù)通常由幾十臺(tái)至數(shù)千臺(tái)服務(wù)器組成，相對(duì)于傳統(tǒng)集中式數(shù)據(jù)庫(kù)，分布式數(shù)據(jù)庫(kù)的硬件、軟件維護(hù)都是非常大的挑戰(zhàn)，對(duì)運(yùn)維人員要求很高，這也是為什么分布式數(shù)據(jù)庫(kù)在互聯(lián)網(wǎng)和金融領(lǐng)域率先應(yīng)用的原因之一，因?yàn)榛ヂ?lián)網(wǎng)企業(yè)和金融機(jī)構(gòu)的運(yùn)維隊(duì)伍水平較高，這就需要數(shù)據(jù)庫(kù)廠商提供簡(jiǎn)單、方便的統(tǒng)一圖形化運(yùn)維管理控制平臺(tái)，實(shí)現(xiàn)一些常用的運(yùn)維操作，比如：服務(wù)器資源管理、創(chuàng)建/刪除數(shù)據(jù)庫(kù)集群、查

35、看集群狀態(tài)信息、監(jiān)控各個(gè)節(jié)點(diǎn)/核心組件的運(yùn)行情況、備份、恢復(fù)等，以來(lái)降低分布式數(shù)據(jù)庫(kù)的日常運(yùn)維難度，方便分布式數(shù)據(jù)庫(kù)使用。未來(lái)還要考慮借助人工智能等技術(shù)進(jìn)一步降低運(yùn)維工作量和難度。分布式數(shù)據(jù)庫(kù)產(chǎn)品成熟度有待提升相比于集中式數(shù)據(jù)庫(kù)，分布式數(shù)據(jù)庫(kù)還處于發(fā)展的初期，自身的技術(shù)體系、標(biāo)準(zhǔn)規(guī)范、測(cè)評(píng)機(jī)制、產(chǎn)品推廣等方面尚 不健全，甚至很多用戶(hù)單位對(duì)分布式數(shù)據(jù)的理解也不盡相同。分布式數(shù)據(jù)庫(kù)的優(yōu)化器、數(shù)據(jù)類(lèi)型、復(fù)雜查詢(xún)、自定義函數(shù)、 存儲(chǔ)過(guò)程等高級(jí)特性參差不齊，有待進(jìn)一步提升，而傳統(tǒng)集 中式數(shù)據(jù)庫(kù)已經(jīng)過(guò)數(shù)十年的發(fā)展，語(yǔ)法豐富、功能完善，部 分主流集中式數(shù)據(jù)庫(kù)在標(biāo)準(zhǔn)的 SQL 基礎(chǔ)上衍生出很多該數(shù) 據(jù)庫(kù)的特殊用法，應(yīng)用系統(tǒng)如果過(guò)多的使用了這些特殊用法，在遷移到分布式數(shù)據(jù)庫(kù)時(shí)，語(yǔ)法適配改造通常會(huì)異常困難，是推廣分布式數(shù)據(jù)庫(kù)使用的一大門(mén)檻。分布式數(shù)據(jù)庫(kù)發(fā)展趨勢(shì)分布式數(shù)據(jù)庫(kù)的產(chǎn)品化日趨成熟隨著國(guó)產(chǎn)分布式數(shù)據(jù)庫(kù)在金融、互聯(lián)網(wǎng)等重點(diǎn)行業(yè)中的應(yīng)用，促使產(chǎn)品技術(shù)不斷迭代，兼容性、易用性、可擴(kuò)展性等問(wèn)題將一一克服。未來(lái)隨著分布式數(shù)據(jù)庫(kù)等的標(biāo)準(zhǔn)體系