新浪微博服務(wù)治理框架

微博平臺服務(wù)化框架衛(wèi)向軍Agenda服務(wù)化框架服務(wù)標(biāo)準(zhǔn)化日志標(biāo)準(zhǔn)化數(shù)據(jù)聚合平臺服務(wù)治理平臺監(jiān)控平臺微博平臺架構(gòu)業(yè)務(wù)架構(gòu)內(nèi)容/關(guān)系/通訊技術(shù)架構(gòu)接口層Jersey框架監(jiān)控服務(wù)治理私信短鏈資源層組合服務(wù)原子

用戶關(guān)系Config…DubboMCQMessageQueueMCRedisMySQLHBaseCacheServiceSSDServiceKey-ListServiceTrace接口RPC異常Error調(diào)用鏈SLA服務(wù)狀態(tài)服務(wù)依賴發(fā)布和灰度服務(wù)擴(kuò)容與縮容流量切換核心內(nèi)容業(yè)務(wù)架構(gòu)服務(wù)拆分為原子服務(wù)與組合服務(wù)平臺服務(wù)標(biāo)準(zhǔn)化定義技術(shù)架構(gòu)Trace系統(tǒng)與基礎(chǔ)技術(shù)組件改造Dubbo/ConfigService與服務(wù)治理改造定義標(biāo)準(zhǔn)化日志格式定義標(biāo)準(zhǔn)化分布式服務(wù)狀態(tài)日志監(jiān)控接口狀態(tài)：分析日志服務(wù)狀態(tài)：分析服務(wù)日志Error/Exception：分析日志調(diào)用鏈：分析日志服務(wù)治理服務(wù)依賴：動態(tài)分析法+靜態(tài)分析法服務(wù)擴(kuò)容：服務(wù)報警+手動/自動擴(kuò)容流量切換：不同的流量切換策略服務(wù)發(fā)布與灰度：TBD服務(wù)化框架監(jiān)控平臺監(jiān)控指標(biāo)UI呈現(xiàn)報警子系統(tǒng)服務(wù)治理平臺流量切換服務(wù)擴(kuò)容數(shù)據(jù)聚合平臺接口日志RPC日志資源日志MotanClientMotanRegistry上報上報上報服務(wù)發(fā)布RPCPushClientConfigServerPush…CacheService服務(wù)標(biāo)準(zhǔn)化服務(wù)模型服務(wù)注冊ServiceType(atomic/composite)DependentServices+ServiceProvider在注冊時增加ServiceType，標(biāo)識該服務(wù)是Atomic還是Composite，atomic服務(wù)不依賴于任何其他服務(wù)。ServiceProvider在注冊時增加DependentService，標(biāo)識該服務(wù)直接依賴的所有服務(wù)。上面兩項用于服務(wù)治理平臺中服務(wù)依賴的靜態(tài)分析。能否將Web接口注冊為服務(wù)？（個人覺得短期不需要）。服務(wù)標(biāo)準(zhǔn)化定義服務(wù)級別1為核心服務(wù)2為非核心服務(wù)定義服務(wù)XXX日志標(biāo)準(zhǔn)化日志采集點采集點用于何種統(tǒng)計項調(diào)用鏈出入口調(diào)用鏈ExceptionException、調(diào)用鏈ErrorError、調(diào)用鏈服務(wù)節(jié)點日志服務(wù)健康狀態(tài)TBD調(diào)用鏈模型(1)CSSRCRSSCSSRCRSSCSSRCRSSCSSRCRSSAPI接口(A)RPC(B)RPC(C)RPC(D)RPC(E)UserCSSRCRSS調(diào)用鏈模型(2)CSSRCRSS一次服務(wù)調(diào)用由4個采集點組成，分別是：CS（客戶端發(fā)送）、SR（服務(wù)端接收）、SS（服務(wù)端發(fā)送）、CR（客戶端接收）。CS和CR共同組成Client的一個Span，在當(dāng)前RequestContext下生成該SpanID，同時從RequestContext下獲取ParentSpan。在SR和SS處理之前，RequestContext暫存的Span將被替換成上一步生成的SpanID,SR和SS將生成另外一個Span。調(diào)用鏈標(biāo)準(zhǔn)化日志ReqIDSIDPSIDAnnotationServiceNameStartTimeProcesstimeNodeIP16位UUIDRPCInterfaceNameNodeIPFieldDescriptionReqID請求序列號，在調(diào)用鏈入口生成，考慮使用節(jié)點IP地址+IDC機(jī)房編碼+序列號生成SIDspanID，調(diào)用鏈中的一個節(jié)點，從請求開始到請求結(jié)束，生成方式同ReqID。PSIDCallerspanIDAnnotation該調(diào)用節(jié)點的類別，有APIclient/APIserver/RPCClient/RPCServer/其他中間件定義ServiceName接口名稱Start/ProcessTime開始時間和請求時間NodeIP處理該Span請求的機(jī)器IP地址Exception/Error標(biāo)準(zhǔn)化日志ReqIDSIDPSIDTypeContent16位UUIDException/ErrorFieldDescriptionReqID請求序列號，在調(diào)用鏈入口生成，考慮使用節(jié)點IP地址+IDC機(jī)房編碼+序列號生成SIDspanID，調(diào)用鏈中的一個節(jié)點，從請求開始到請求結(jié)束，生成方式同ReqID。PSIDCallerspanIDTypeExceptionorErrorContentException/Error內(nèi)容備注：僅當(dāng)Exception和Error發(fā)生在調(diào)用鏈上時，才生成ReqID，SID，PSID，Type服務(wù)狀態(tài)標(biāo)準(zhǔn)化日志AnnotationServiceNameAvgQPSMinQPSMaxQPSSamplePeriodExtensionRPCInterfaceNameNodeIPFieldDescriptionAnnotation該調(diào)用節(jié)點的類別，有APIclient/APIserver/RPCClient/RPCServer/其他中間件定義ServiceName接口名稱AvgQPS平均的QPSMinQPS最小的QPSMaxQPS最大的QPSSamplePeriod采樣間隔Extension擴(kuò)展用字段備注：所有的分布式服務(wù)都可以使用這個標(biāo)準(zhǔn)化日志數(shù)據(jù)聚合平臺分布式服務(wù)狀態(tài)流式處理流程RPC

ServerClusterNode1Node2Node3statusstatusstatusMotanRegistryN1Status數(shù)據(jù)聚合平臺N2StatusN3StatusService運(yùn)行狀態(tài)服務(wù)靜態(tài)狀態(tài)+RPC調(diào)用鏈接口調(diào)用鏈資源調(diào)用鏈調(diào)用鏈信息+Service統(tǒng)計信息HBase分布式服務(wù)依賴MotanRegistry數(shù)據(jù)聚合平臺服務(wù)靜態(tài)依賴+RPC調(diào)用鏈接口調(diào)用鏈資源調(diào)用鏈調(diào)用鏈狀態(tài)服務(wù)一致性校驗HBase服務(wù)動態(tài)依賴服務(wù)動態(tài)依賴服務(wù)動態(tài)依賴服務(wù)治理平臺服務(wù)依賴功能：靜態(tài)依賴表(MotanRegistry)動態(tài)依賴表(調(diào)用鏈分析)動態(tài)+靜態(tài)依賴表一致性檢查作用指導(dǎo)如何拆分現(xiàn)有的業(yè)務(wù)或者復(fù)雜的RPC服務(wù)。依賴某一RPC服務(wù)的所有接口和服務(wù)，下線服務(wù)時使用當(dāng)某一服務(wù)異常時，通知受影響的服務(wù)負(fù)責(zé)人服務(wù)升級時，通知受影響的服務(wù)負(fù)責(zé)人流量切換功能：將流量從一個IDC打到別的IDC基于IDC/rack/machine級別流量切換作用機(jī)房發(fā)生故障或者維修時，快速切換某一機(jī)房的RPC服務(wù)故障時，快速切換能力方便服務(wù)的擴(kuò)容與升級，為服務(wù)的灰度發(fā)布提供基礎(chǔ)能力流量切換MotanClient流量切換MotanRegistryIDC1: 10.5.2.1

10.5.2.2IDC2: 10.6.2.1

10.6.2.210.5.2.110.5.2.110.6.2.110.6.2.1控制流切換前數(shù)據(jù)流切換后數(shù)據(jù)流IDC1+IDC2

IDC1問題：基于IDC的流量切換策略是否夠用？是否需要增加按20/80比例的流量分發(fā)策略？Push服務(wù)擴(kuò)容與縮容擴(kuò)容準(zhǔn)備擴(kuò)容服務(wù)機(jī)器，驗證ready后。通過服務(wù)治理平臺，增加擴(kuò)容服務(wù)節(jié)點，調(diào)整狀態(tài)為預(yù)覽?？s容按照IDC/rack/machine規(guī)則將需要下掉的服務(wù)流量分