騰訊云CDB內(nèi)核架構(gòu)功能解密

1、庖丁解牛：騰訊云CDB內(nèi)核架構(gòu)功能解密目 錄CDB內(nèi)核簡(jiǎn)介01CDB內(nèi)核架構(gòu)及特性02CDB內(nèi)核質(zhì)量保障03CDB內(nèi)核最佳實(shí)踐04CDB內(nèi)核簡(jiǎn)介T(mén)XSQL 騰訊自研數(shù)據(jù)庫(kù)內(nèi)核Access ClustersInstance ClusterStorage ClusterRouteSafetyHADatabase EnginesReplicationStorage什么是TXSQLTXSQL = Tencent MySQL騰訊-CDB (Cloud DataBase)團(tuán)隊(duì)自研MySQL分支騰訊云及騰訊內(nèi)部云DBaaS平臺(tái)官方唯一MySQL版本為什么有TXSQLMySQL- The most popul

2、ar database海量運(yùn)營(yíng)的挑戰(zhàn)：超大規(guī)模、海量用戶、多種業(yè)務(wù)場(chǎng)景促進(jìn)開(kāi)源數(shù)據(jù)庫(kù)技術(shù)發(fā)展TXSQL的演進(jìn)之路TXSQL 5.1TXSQL 5.5TXSQL 5.6Bugfix for5.1Bugfix for 5.5Featuresneeded by OSSBugfix for 5.6Features needed by OSSFeatures from DBA & businessRead and WriteOptimization.TXSQL 8.0(coming soon)Bugfix for 5.7Features needed by OSSEncryptionAuditThrea

3、d pool.TXSQL 5.7CStoreAEP perf boostMore featureMore optimization.CynosDBCloud native databaseSeparating compute and storage現(xiàn)網(wǎng)客戶電商平臺(tái)金融支付科技教育影音娛樂(lè)CDB內(nèi)核架構(gòu)及亮點(diǎn)功能CDB內(nèi)核架構(gòu)騰訊云高效能云硬盤(pán)CBS線程池半 同 步 復(fù) 制 插 件審 計(jì) 插 件透 明 數(shù) 據(jù) 加 密 插 件Server層（優(yōu)化器，執(zhí)行器）存儲(chǔ)引擎層InnoDBCStoreMyISAM客戶端從 實(shí) 例審 計(jì) 系 統(tǒng)K M S亮點(diǎn)功能：列存引擎CSTORE列式存儲(chǔ)數(shù)據(jù)按列存儲(chǔ)而不是

4、按行存儲(chǔ)查詢時(shí)無(wú)需訪問(wèn)無(wú)關(guān)列，減少大量 IO高壓縮比壓縮比平均在10比1，可以大大減少存儲(chǔ)空間快速加載支持 MySQL 標(biāo)準(zhǔn)的 LOAD 語(yǔ)句多核并行處理，加載速度可達(dá) INNODB 的 10 倍執(zhí)行引擎支持查詢?nèi)我舛嗔械慕M合單節(jié)點(diǎn)可支持百億行記錄的秒級(jí)查詢支持多種JOIN算法，包括HASH JOIN查詢優(yōu)化查詢時(shí)利用多種形式的稀疏索引過(guò)濾數(shù)據(jù)維護(hù)數(shù)據(jù)的統(tǒng)計(jì)信息，聚合類(lèi)查詢預(yù)計(jì)算MySQL兼容SQL 語(yǔ)法全面兼容 MySQL 8.0兼容 MySQL 工具和應(yīng)用，例如phpMyADmin等支持XtraBackup 物理備份和恢復(fù)亮點(diǎn)功能：秒加字段只修改數(shù)據(jù)字典信息，避免數(shù)據(jù)拷貝即時(shí)完成，無(wú)需等待

5、亮點(diǎn)功能：異步刪除大表目標(biāo):避免在刪除大表時(shí)產(chǎn)生IO峰值實(shí)現(xiàn)方法:將.ibd文件名改為臨時(shí)文件名在后臺(tái)線程中逐步truncate .ibd文件（每次128M）最終將.ibd文件刪除安全性：審計(jì)安全性：加密KMS : Key Management Service by Tencent CloudCAM : Cloud Access ManagementService by Tencent CloudKeyring_kms集成 KMS & CAM with MySQL TDE實(shí)現(xiàn) Keyring 接口KMS PluginCAMKMS性能優(yōu)化：面向非易失性存儲(chǔ)的優(yōu)化單機(jī)場(chǎng)景，有redolog，性能提

6、升15%主備場(chǎng)景，有redolog&binlog，性能提升50+%同步場(chǎng)景，主機(jī)有redolog&binlog，備機(jī)redolog&relaylog，性能提升60+%近，在sync_relay_log為=1，強(qiáng)同步場(chǎng)景，性能提升2221%性能優(yōu)化：熱點(diǎn)更新內(nèi)核級(jí)解決秒殺場(chǎng)景下的熱點(diǎn)數(shù)據(jù)更新問(wèn)題一鍵開(kāi)啟，用戶無(wú)需修改任何應(yīng)用層SQLCDB內(nèi)核質(zhì)量保障自主可控的內(nèi)核質(zhì)量保障建立內(nèi)核產(chǎn)品自主可控的全流程質(zhì)量保障體系1：開(kāi)發(fā)流程：從需求搜集，評(píng)審到設(shè)計(jì)開(kāi)發(fā)，到測(cè)試和灰度上線全流程驗(yàn)證產(chǎn)品質(zhì)量2：測(cè)試體系：研發(fā)自測(cè) 自動(dòng)化測(cè)試 版本測(cè)試 灰度上線測(cè)試3：質(zhì)量反饋：針對(duì)測(cè)試和客戶使用中發(fā)現(xiàn)的問(wèn)題，快速響應(yīng)

7、，即刻解決需求搜集開(kāi)發(fā)需求主要來(lái)源于客戶 反饋，市場(chǎng)調(diào)研，內(nèi)部分 析等需求評(píng)審對(duì)于所有需求，進(jìn)行 內(nèi)部評(píng)審，落實(shí)開(kāi)發(fā) 計(jì)劃設(shè)計(jì)開(kāi)發(fā)根據(jù)需求進(jìn)行架構(gòu)設(shè) 計(jì)和開(kāi)發(fā)測(cè)試評(píng)審對(duì)開(kāi)發(fā)完成的功能進(jìn) 行嚴(yán)格的測(cè)試，包括： 功能測(cè)試,穩(wěn)定性測(cè)試,壓力及性能測(cè)試等灰度上線定期發(fā)布版本，并灰 度上線。讓客戶進(jìn)行 測(cè)試試用，之后正式上線自主可控的內(nèi)核質(zhì)量保障現(xiàn)網(wǎng)問(wèn)題響應(yīng)體系1：7*24小時(shí)在線值班：對(duì)現(xiàn)網(wǎng)客戶碰到的內(nèi)核問(wèn)題快速響應(yīng)，及時(shí)解決2：實(shí)例監(jiān)控系統(tǒng)：crash實(shí)例監(jiān)控系統(tǒng)，慢查詢告警系統(tǒng)，秒級(jí)監(jiān)控系統(tǒng)等3：?jiǎn)栴}歸納總結(jié)：記錄所有現(xiàn)網(wǎng)問(wèn)題并做好分類(lèi)，形成知識(shí)庫(kù)，定期分享CDB內(nèi)核最佳實(shí)踐涅槃重生：微盟上云紀(jì)實(shí)

8、源：騰訊云黑石自建服務(wù)器 目標(biāo)：騰訊云CDB測(cè)試方法：mysqlslap -iterations=100 -create-schema=test -query=query.sql -number-of- queries=20000 -delimiter=; -concurrency=100時(shí)間線：4月8日發(fā)現(xiàn)性能問(wèn)題1 4月9日微盟騰訊成立專(zhuān)項(xiàng)組分析并驗(yàn)證問(wèn)題 4月10日21時(shí)確認(rèn) 問(wèn)題原因，進(jìn)行第一版優(yōu)化 4月13日抽檢29套CDB實(shí)例并應(yīng)用第一排優(yōu)化配置 4月14日基準(zhǔn)+業(yè) 務(wù)壓測(cè) 4月14日23時(shí)全面分析生成壓測(cè)報(bào)告發(fā)現(xiàn)性能問(wèn)題2 4月23日第二版優(yōu)化 4月24日第 三版優(yōu)化 4月25日

9、30個(gè)實(shí)例DTS遷移任務(wù) 4月26日發(fā)現(xiàn)性能問(wèn)題3 4月26日第四版優(yōu)化，CDB 上云建立長(zhǎng)期基準(zhǔn)壓測(cè)任務(wù)工具集：perf 工具：用于分析特殊 SQL 語(yǔ)句在 MySQL 內(nèi)部的資源消耗情況 pt-pmp 工具：用于排查大并發(fā)環(huán)境下的性能瓶頸，提升實(shí)例性能 數(shù)據(jù)庫(kù)性能秒級(jí)監(jiān)控工具（orzdba）騰訊云 CDB 團(tuán)隊(duì)內(nèi)核層的源碼分析與修改涅槃重生：微盟上云紀(jì)實(shí)問(wèn)題1： NUMA綁核問(wèn)題原因：騰訊云CDB cgroup隔離策略和微盟cgroup隔離策略不一致造成辦法：調(diào)整cpu quota設(shè)置，修改測(cè)試CDB機(jī)器CPU隔離策略，按核進(jìn)行綁定 并將核綁定到同一個(gè)Node上。問(wèn)題2：網(wǎng)絡(luò)問(wèn)題原因：1：并發(fā)增加時(shí)，mysqlslap退化為短連接。2：TGW導(dǎo)致的網(wǎng)絡(luò)延遲。辦法：1：調(diào)整參數(shù)tcp_rmem， tcp_wmem