OceanBase云數(shù)據(jù)庫在金融核心系統(tǒng)架構(gòu)實踐

1、云數(shù)據(jù)庫OceanBase架構(gòu)演進及在金融核心系統(tǒng)中的實踐緣起數(shù)據(jù)庫在可靠與可擴展路上的不斷追尋歷程與架構(gòu)演進漫漫工程路上的荊棘、權(quán)衡與不妥協(xié)云數(shù)據(jù)庫OceanBase公有云上的金融級數(shù)據(jù)庫服務(wù)未來發(fā)展不忘初心，矢志前行1234AgendaOceanBase的定義不是NoSQL分布式關(guān)系型數(shù)據(jù)庫支持完整的ACID可擴展、高可用兼容MySQL協(xié)議CassandraOceanBase的發(fā)展歷程V0.1 開發(fā)版本V0.3 OLAP嘗試V0.4 啟動V0.5 多機房同步， 開始在螞蟻核心 系統(tǒng)使用V1.0 覆蓋螞蟻核心系統(tǒng)， 公有云上線V0.2 收藏夾V0.4 支持SQLV0.5 啟動V1.0 多點寫

2、入2010201220142016201120132015互聯(lián)網(wǎng)對傳統(tǒng)關(guān)系型數(shù)據(jù)庫的挑戰(zhàn)可擴展性傳統(tǒng)關(guān)系數(shù)據(jù)庫本質(zhì)上是單機數(shù)據(jù)庫向上擴展互聯(lián)網(wǎng)對傳統(tǒng)關(guān)系型數(shù)據(jù)庫的挑戰(zhàn)可擴展性通過讀寫分離 & 分庫分表來解決極大的增加了應(yīng)用層的復(fù)雜度1000等降價家居100010006.30前零食200010003000收藏信息收藏的商品的信息UID備注標簽寶貝ID110001200013000寶貝ID價格描述.1000992000199互聯(lián)網(wǎng)對傳統(tǒng)關(guān)系型數(shù)據(jù)庫的挑戰(zhàn)可靠性數(shù)據(jù)一致性主備切換問題OceanBase的目標限制使用普通PC服務(wù)器，不使用共享存儲、小型機等昂貴硬件服務(wù)器、磁盤、網(wǎng)絡(luò)、機房(IDC)等并

3、非持續(xù)可用目標關(guān)系型數(shù)據(jù)庫、支持跨表跨行事務(wù)分布式、可擴展，對應(yīng)用透明高可靠、數(shù)據(jù)強一致，可抵御單機、機架、機房(IDC)故障高性能OceanBase主要面臨的問題數(shù)據(jù)庫的功能傳統(tǒng)關(guān)系型 數(shù)據(jù)庫發(fā)展 時間較長， 功能豐富分布式一致性分布式系統(tǒng) 的多副本如 何保持一致 性最終一致性、 弱一致性不 符合用戶需 求分布式事務(wù)理論成熟工程與性能 上的優(yōu)化交易庫：每筆交易一條/幾條記錄，增刪改：創(chuàng)建、買家已付款、 賣家已發(fā)貨、退貨退款賬務(wù)庫：每人一條/幾條記錄，增刪改：付款、收款、變更數(shù)據(jù)庫：數(shù)據(jù)總量大，增刪改量少10億次寫，100B/寫100GB只讀數(shù)據(jù) 修改數(shù)據(jù)數(shù)據(jù)庫：隱蔽的事實數(shù)據(jù)存儲：多機磁盤修

4、改增量：單機內(nèi)存Data基線數(shù)據(jù)(磁盤)修改增量(內(nèi)存)Query數(shù)據(jù)增刪改每日合并：修改增量多數(shù)數(shù)據(jù)庫每天有明顯 的訪問低谷 (e.g.,2:00am-5:00am)Data基線數(shù)據(jù)修改增量新的修 改增量讀寫事務(wù) 照常進行最初版本v0.2存在兩個單點，通過HA(http:/)來實現(xiàn)高可用基線數(shù)據(jù)節(jié)點可任意擴展寫節(jié)點半同步，不能區(qū)分insert / updateV0.2與收藏夾業(yè)務(wù)同學代寫的Java胖客戶端解決了收藏夾的一個業(yè)務(wù)痛點通過數(shù)據(jù)冗余+Join更新信息消滅隨機讀/寫策略和業(yè)務(wù)一起解決業(yè)務(wù)痛點綁定客戶UID備注標簽寶貝ID價格描述1000等降價家居100098詳情10006.30前零食

5、200010003000寶貝ID價格描述.100099V0.3 多IDC & OLAP去除UpdateServer的HA，改由RootServer來決定誰是Master支持多IDC部署、但IDC切換需要人工介入在查詢層面對并發(fā)作了優(yōu)化，可滿足輕量級的OLAPV0.3與廣告報表報表業(yè)務(wù)數(shù)據(jù)分塊、并發(fā)查詢數(shù)據(jù)導(dǎo)入單點瓶頸旁路影響千億條記錄百T規(guī)模數(shù)據(jù)客戶端的表現(xiàn)力差V0.4 支持SQLUpdate ServerMergeServer ChunkServerMergeServer ChunkServerMergeServer ChunkServerMergeServer ChunkServerMer

6、geServer ChunkServerMergeServer ChunkServer修改增量應(yīng)用接口基線數(shù)據(jù)SQLSQLSQLSQLSQLSQLSQLSQLRoot Server配置管理兼容MySQL協(xié)議區(qū)分update/insert支持并發(fā)更新V0.4小結(jié)去除自定義協(xié)議的客戶端不少業(yè)務(wù)慕名而來并對外開源( 非核心業(yè)務(wù)核心業(yè)務(wù)開始嘗試數(shù)據(jù)庫功能缺失同步機制0.5 多機房同步RootServer分布式選主，不再依賴HA多機房部署，少數(shù)派機房故障自動容災(zāi)，數(shù)據(jù)不丟失覆蓋螞蟻多個核心系統(tǒng)V0.5與螞蟻核心系統(tǒng)OracleOB交易APPORM中間層實時數(shù)據(jù)對比雙寫驗證灰度引流、隨時回滾V0.5與螞蟻

7、核心系統(tǒng)2014年初交易核心開始遷移當年雙11承擔20%的流量2015完成支付在內(nèi)的多個核心 系統(tǒng)遷移第一個支撐的銀行的非商業(yè)數(shù) 據(jù)庫網(wǎng)商銀行交易支付卡券當面 付賬務(wù)單UpdateServer的意義與限制極大簡化實現(xiàn)避免分布式事務(wù)較簡單的數(shù)據(jù)模型限制集群規(guī)模數(shù)據(jù)導(dǎo)入0.5以前1.0引入分區(qū)表1.0 多點寫入主庫執(zhí)行寫事務(wù)并同步到備庫，超過半數(shù) 成功則事務(wù)成功2/22/3, 3/33/4，4/43/5, 4/5，5/5主庫IDC-1備庫IDC-3備庫IDC-27897879同步機制錯峰合并P1P2P3P4P5P6P7P8IDC1P1P2P3P4P5P6P7P8IDC2P1P2P3P4P5P6P7

8、P8IDC3逐IDC合并，灰度引流，緩存預(yù)熱同樣的用在升級流程上一條記錄修改，整個數(shù)據(jù)重寫50MB/s寫入4TB盤，需4TB/50MB=80,000s新數(shù)據(jù)修改的數(shù)據(jù)舊數(shù)據(jù)每日合并每日合并耗時數(shù)據(jù)分塊(例如2MB)舊數(shù)據(jù)新數(shù)據(jù)降低每日合并耗時公有云上的金融級數(shù)據(jù)庫服務(wù)云數(shù)據(jù)庫OceanBase云數(shù)據(jù)庫OceanBase基于OceanBase的DBaaS提供自助化服務(wù)，一鍵即可 擁有OceanBase實例免管理提供使用建議在螞蟻和集團長期使用，原 生態(tài)輸出具備輸出到專有云的能力網(wǎng)商銀行云數(shù)據(jù)庫OceanBase多可用區(qū)部署杭州三IDC部署，每個IDC之間延遲小于1ms與內(nèi)部最新版本保持同步生態(tài)支持DTS 數(shù)據(jù)遷移DMS數(shù)據(jù)管理集群共享模式，無縫動態(tài)伸縮，即時生效未來發(fā)展OceanBase目前仍然在快速 迭代灰度升級對應(yīng)用透明讓數(shù)據(jù)庫的歸數(shù)據(jù)庫，一切 以簡化用戶使用為目標完善功能歷史庫OLTP & OLAP混合負載成本業(yè)務(wù)快速需求迭代正式灰度上線升級未來發(fā)展完善功能以業(yè)務(wù)需求驅(qū)動滿足內(nèi)部業(yè)務(wù)的平滑遷移數(shù)據(jù)庫兼容性測試平臺站在巨人的肩膀上數(shù)據(jù)類型存儲過程、FlashBack未來發(fā)展歷史庫OLTP系統(tǒng)有典型的冷熱數(shù)據(jù)冷數(shù)據(jù)需要遷移OceanBase冷熱數(shù)據(jù)自動識別異構(gòu)機型SSDSATAP1P2P3P4P5P6P7P8IDC1未來發(fā)展OLTP & OLAP混合負載離線分析OLAP對