高可用數(shù)據(jù)服務(wù)交易系統(tǒng)架構(gòu)

1、高可用數(shù)據(jù)服務(wù)交易系統(tǒng)架構(gòu)SDMK = Smart Data MarketSDMK提供了API服務(wù)，人群數(shù)據(jù)服務(wù)，異步服務(wù)等內(nèi)容；還開放了Lookalike，情景感知，預(yù)測引擎，推薦引擎等人工智能服務(wù)；降低數(shù)據(jù)應(yīng)用場景的難度，幫助更多企業(yè)發(fā)現(xiàn)數(shù)據(jù)的深層價值。SDMK的功能模塊External RelyStorageGatewayService (TD&3rd)Log(in ElasticSearch)Persistent data ( in MySQL)Cached data (in Redis)MeteringMes Que(by KaAdaptorTD Account CenterAsyn

2、c GatewayFile Service Machine UIAccount Config & CalculationService MgmtPaymentWallet Config & Assistant ChargingReportAuditWebsiteHuman UI Front End PageBack End PageOM業(yè)務(wù)流程服務(wù)調(diào)用基本業(yè)務(wù)邏輯用戶GatewayAccountMeteringService驗證身份和購買尚有余量檢查配額鑒權(quán)通過調(diào)用服務(wù)推送調(diào)用結(jié)果校驗身份查已用量數(shù)據(jù)服務(wù)更新計量調(diào)用NN可用性挑戰(zhàn)要求計量最終誤差要求 不高于 0.01%交易系統(tǒng)可用性要求 不低

3、于 99.9%0.01%1%99.9%準(zhǔn)確計量要求計量準(zhǔn)確無誤交易-計量閉環(huán)，要求高并發(fā)下實時計量容錯性準(zhǔn)確高并發(fā)故障恢復(fù)減少系統(tǒng)耦合降低數(shù)據(jù)庫壓力應(yīng)對高并發(fā)易于擴展異步計量準(zhǔn)確計量初始架構(gòu)：實現(xiàn)功能GatewayUserServiceCharging12Log Storage &Calculation345準(zhǔn)確計量架構(gòu)演進：提高效率Log Storage &CalculationCharging214UserGatewayService5PermanentStorageCacheMetering3MessageQueue63準(zhǔn)確計量Lambda主數(shù)據(jù)集（不變層）：Elastic Search

4、中的日志批處理層結(jié)果：MySQL中按天存儲的用量速度層：Redis中的當(dāng)天和昨天結(jié)果服務(wù)層：按天進行預(yù)計算查詢服務(wù)：Metering模塊計算結(jié)果的開-閉原則多種計量指標(biāo)同時計算，按需取用速度層實時視圖實時視圖實時視圖調(diào)用日志批處理層主數(shù)據(jù)集批處理 視圖批處理 視圖服務(wù)層批處理 視圖用戶X購買的Y 服務(wù)還剩多少？消息隊列準(zhǔn)確計量架構(gòu)演進： 服務(wù)降級與重算GatewayUserServiceLog StorageCharging1245Permanent StorageCacheMeteringMess Que363高可用性【事前】預(yù)防【事中】自動化故障轉(zhuǎn)移【事中】故障感知【事后】故障恢復(fù)挑戰(zhàn)：可

5、用性目標(biāo)1級整體服務(wù)的高可用性, 99.9%（不可用時間每年低于9個小時，每月低于1小時）感知恢復(fù)預(yù)防發(fā)生故障轉(zhuǎn) 移高可用性分布式部署，無狀態(tài)設(shè)計所有服務(wù)通過nginx調(diào)用，多upstream，輪詢機制服務(wù)無狀態(tài)，必要的狀態(tài)保存在中央存儲中(MySQL/Redis等)所有調(diào)用必須帶trackid，以便定位問題，縮短故障恢復(fù)時間Instance 2ServiceInstance nInstance 1NginxNginxCaller高可用性降低關(guān)鍵路徑復(fù)雜性與負(fù)載對于SDMK來說，關(guān)鍵路徑就是通過Gateway進行的服務(wù)調(diào)用專注于核心業(yè)務(wù)，盡量少加入無關(guān)的復(fù)雜邏輯與數(shù)據(jù)依賴調(diào)用其它服務(wù)均需設(shè)置超

6、時，避免被外部服務(wù)故障影響適時拆分和合并功能模塊降低模塊復(fù)雜度清晰部署邊界高可用性熔斷機制限制用戶處于pending狀態(tài)的請求數(shù)分服務(wù)SLA獨立適配器資源限制對資源的使用進行限制，避免無效或者故障調(diào)用耗盡資源用戶A可用資源SDMK可用資源用戶B可 用資源服務(wù)S1服務(wù)S2高可用性消息系統(tǒng)的選擇數(shù)據(jù)可持久化支持訂閱和隊列兩種方式高性能具有水平擴展性使用消息系統(tǒng)解耦緩沖支持故障恢復(fù)應(yīng)用易 擴展高可用性所有服務(wù)上線之前必須有基本監(jiān)控與報警基礎(chǔ)組件監(jiān)控與報警業(yè)務(wù)指標(biāo)監(jiān)控與報警調(diào)用追蹤系統(tǒng)監(jiān)控與報警白盒業(yè)務(wù)組件追蹤服務(wù)高可用性Nginx(外)Nginx(內(nèi))SDMK服務(wù)數(shù)據(jù)服務(wù)用戶守護用戶監(jiān)控與報警黑盒Nginx監(jiān)控與報警心跳和守護用戶監(jiān)控外部可用性（端到端）監(jiān)控與報警監(jiān)控