專(zhuān)4-3－騰訊云數(shù)據(jù)庫(kù)CDB技術(shù)演進(jìn)之路-程彬

騰訊云數(shù)據(jù)庫(kù)CDB技術(shù)演進(jìn)之路??云數(shù)據(jù)庫(kù)概覽?CDB之存儲(chǔ)篇?CDB之復(fù)制篇?CDB之引擎篇云計(jì)算云計(jì)算云數(shù)據(jù)庫(kù)概覽-什么是云數(shù)據(jù)庫(kù)NIST關(guān)于云計(jì)算服務(wù)的基本特征定義p滿(mǎn)足云計(jì)算特征的數(shù)據(jù)庫(kù)服務(wù)p數(shù)據(jù)庫(kù)內(nèi)核+云化功能云數(shù)據(jù)庫(kù)概覽-鵝廠(chǎng)的云數(shù)據(jù)庫(kù)CDBpSQL接入集群實(shí)例集群TXSQLLogBus復(fù)制通接入集群實(shí)例集群TXSQLLogBus復(fù)制通道TXSQLTXSQL云數(shù)據(jù)庫(kù)概覽-CDB內(nèi)核技術(shù)棧集群集群存儲(chǔ)CDB之存儲(chǔ)篇-三次存儲(chǔ)革命Cluster1.0Cluster2.0SAS-Raid階段1階段2階段3階段4p根據(jù)存儲(chǔ)介質(zhì)特性，進(jìn)行數(shù)據(jù)庫(kù)存儲(chǔ)技術(shù)設(shè)計(jì)p數(shù)據(jù)庫(kù)存儲(chǔ)的本質(zhì)：面向塊的存儲(chǔ)CDB之存儲(chǔ)篇-第一次革命pSASRaid存儲(chǔ)的主要矛盾限pSSDRaid存儲(chǔ)可行性p解決問(wèn)題的思路ü分布式KV解決了性能、擴(kuò)展性、SSD使用問(wèn)題ü分布式KV和數(shù)據(jù)庫(kù)存儲(chǔ)的聯(lián)系：blockü塊block的數(shù)據(jù)模型(Disk,LBA,Value)<->(Key,Value) 文件讀寫(xiě)文件系統(tǒng)磁盤(pán)塊讀寫(xiě)SASSAS陣列基于SAS陣列的數(shù)據(jù)庫(kù)存儲(chǔ)CDB之存儲(chǔ)篇-第一次革命(Cont.1)pSSDCluster1.0存儲(chǔ)OKVü適配SSD特性的KV存儲(chǔ)系統(tǒng)üMySQL層優(yōu)化：千兆網(wǎng)絡(luò)瓶頸&去doublewriteü文件系統(tǒng)&塊設(shè)備調(diào)優(yōu)p運(yùn)營(yíng)中的故事 文件讀寫(xiě)文件系統(tǒng)磁盤(pán)塊讀寫(xiě)虛擬塊設(shè)備網(wǎng)絡(luò)KV虛擬塊設(shè)備SSD-KV基于SSDCluster1.0的數(shù)據(jù)庫(kù)存儲(chǔ)CDB之存儲(chǔ)篇-第二次革命pSSDCluster1.0的主要矛盾IO開(kāi)銷(xiāo)有，但已不是主要矛盾p解決問(wèn)題的思路新的技術(shù)制高點(diǎn)：數(shù)據(jù)庫(kù)引擎本身的性能和穩(wěn)定性 文件讀寫(xiě)文件系統(tǒng)磁盤(pán)塊讀寫(xiě)基于PCI-ESSD的數(shù)據(jù)庫(kù)存儲(chǔ)CDB之存儲(chǔ)篇-第三次革命ü擴(kuò)展性問(wèn)題：容量無(wú)法和SAN\NAS\專(zhuān)有存儲(chǔ)相比ü中間件sharding解決了擴(kuò)展性問(wèn)題，但兼容性有問(wèn)題p解決問(wèn)題的思路ü主要目標(biāo)：100TB以下，SQL完全兼容的傳統(tǒng)行業(yè)DB服務(wù)據(jù)庫(kù)節(jié)點(diǎn)有主從之分ü盡量減少I(mǎi)O次數(shù)：主數(shù)據(jù)庫(kù)節(jié)點(diǎn)才能寫(xiě)存儲(chǔ)集群，從節(jié)點(diǎn)不會(huì)寫(xiě)CDB之復(fù)制篇-三種復(fù)制模式半半同步復(fù)制強(qiáng)一致復(fù)制異步復(fù)制階段1階段2階段3p復(fù)制結(jié)合機(jī)房部署，靈活選擇，達(dá)到最有效的容災(zāi)效果CDB之復(fù)制篇-半同步的一些問(wèn)題MySQLNativeSemiSyncReplicationCDB之復(fù)制篇-性能優(yōu)化p性能關(guān)鍵因子ü單個(gè)事務(wù)耗時(shí)：用戶(hù)層面的響應(yīng)時(shí)間，每個(gè)事務(wù)耗時(shí)多少msü系統(tǒng)整體吞吐：服務(wù)層面的處理能力，一臺(tái)機(jī)器每秒能處理事務(wù)數(shù)(TPS)p單個(gè)事務(wù)耗時(shí)üTsql和Tengine在同步復(fù)制下不是關(guān)鍵瓶頸üTreplicate=Tbinlog網(wǎng)絡(luò)傳輸+Tslave落地binlog，Tbinlog網(wǎng)絡(luò)傳輸取決于RTT值ü測(cè)試數(shù)據(jù)：ü全cache下MySQL異步單事務(wù)耗時(shí)3.37ms；ü半同步單事務(wù)耗時(shí)8.33ms，測(cè)試環(huán)境RTT值2.6ms，Tslave落地binlog為1.9msü測(cè)試機(jī)器順序512B的write+fsync延時(shí)0.13ms，Tslave落地binlog優(yōu)化空間大p系統(tǒng)整體吞吐=并發(fā)數(shù)/單個(gè)事務(wù)耗時(shí)CDB之復(fù)制篇-性能優(yōu)化(Cont.1)gLp構(gòu)建獨(dú)立于MySQL的快速?gòu)?fù)制通道logbusü基于semisync協(xié)議，模擬slave向master建立主從關(guān)系，同步binlogü避免原生相關(guān)耗時(shí)瓶頸L數(shù)據(jù)庫(kù)版本同步類(lèi)型TPS單事務(wù)耗時(shí)(ms)同步RTT性能基準(zhǔn)對(duì)比MySQL5.7異步2.60MySQL5.7半同步8.322.6046.30%MySQL5.7bus1692.6066.79%mmasterTx3Tx2ACK2ACK3slaveACK1CDB之復(fù)制篇-性能優(yōu)化(Cont.2)p優(yōu)化MySQL5.6的binlog發(fā)送、響應(yīng)übinlog同步阻塞傳輸模型：masterbinlogdump線(xiàn)程發(fā)送某個(gè)事務(wù)binlog后，等待slave回包后，再發(fā)送下一個(gè)事務(wù)binlog。理論上最大QPS=1000/RTT(ms)。一般情況同城跨園區(qū)之間RTT為3ms左右，QPS峰值約330負(fù)責(zé)處理回包，通知事務(wù)線(xiàn)程繼續(xù)提交slavemasterslaveSNDTx1CKTxSNDTx2SNDTx2CKTxCDB之引擎篇-TXSQL面向面向bug優(yōu)化面向性能優(yōu)化面向運(yùn)維優(yōu)化深度