分布式緩存技術(shù)方案

一.背景在高并發(fā)的分布式的系統(tǒng)中，緩存是必不可少的一部分。沒有緩存對(duì)系統(tǒng)的加速和阻擋大星的請(qǐng)求直接落到系統(tǒng)的底層,系統(tǒng)是很難撐住高并發(fā)的沖擊，分布式系統(tǒng)中緩存的設(shè)計(jì)是很重要的一環(huán)使用緩存的收益：加速讀寫,緩存一般是內(nèi)存操作,要比傳統(tǒng)數(shù)據(jù)庫(kù)操作要快的多?降低后端的負(fù)載。緩存一些復(fù)雜計(jì)算或者耗時(shí)得出的結(jié)果可以降低后端系統(tǒng)對(duì)CPU、10、線程這些資源的需求本地緩存遠(yuǎn)端調(diào)用結(jié)果，減少服務(wù)間的調(diào)用,提升服務(wù)并發(fā)能力目前問(wèn)題：目前業(yè)務(wù)中對(duì)緩存的使用并不多，在這次直播活動(dòng)中，組件性能瓶勁很多,有很大一部分是可以通過(guò)緩存加速的疫情直播活動(dòng)期間,幾個(gè)核心服務(wù)由于人手、改造難度問(wèn)題等,最后由羅陳瓏做一了個(gè)緩存代理服務(wù)，把UC、EOMS的部分接口做了緩存代理,這些緩存本來(lái)應(yīng)該由服務(wù)提供者來(lái)實(shí)現(xiàn)的數(shù)據(jù)一致性問(wèn)題，加了緩存之后，隨之而來(lái)的就是1—致性的問(wèn)題數(shù)據(jù)一致性問(wèn)題，加了緩存之后，隨之而來(lái)的就是1—致性的問(wèn)題，發(fā)現(xiàn)有數(shù)據(jù)不能及時(shí)更新目前大家對(duì)緩存使用方式不太統(tǒng)一，有的組件使用本地JVM緩存時(shí)封裝太復(fù)雜,出現(xiàn)問(wèn)題不好走位,清除緩存也不好做二目標(biāo)降低分布式緩存技術(shù)使用門檻，將分布式緩存框架作為微服務(wù)開發(fā)必備的腳手架,讓開發(fā)者更易使用，避免因技術(shù)門檻而放棄使用緩存?梳理核心業(yè)勢(shì)，使用分布式緩存加速服勢(shì)響應(yīng)速度,降低服勢(shì)負(fù)載三.分布式緩存方案3.1@WafCacheable緩存3.1.1分布式緩存和本地jvm緩存為了提高接口能力，需要將一些頊繁訪問(wèn)但數(shù)據(jù)更新頻率比較彳氐的放入緩存中，不要庫(kù)或其他耗時(shí)耗資源的數(shù)據(jù)源中取。使用@WafCacheable注解，緩存過(guò)期時(shí)間可以根據(jù)數(shù)據(jù)更新頻率自由設(shè)定，不設(shè)置默認(rèn)為2小時(shí)。?WafCacheable標(biāo)記的方法被攔截后，數(shù)據(jù)獲取的優(yōu)先級(jí)：本地jvm緩存＞redis緩存〉數(shù)據(jù)源（DB、RMI、其他耗時(shí)耗資源的操作）?WafCacheable使用場(chǎng)景：高頻訪問(wèn)彳矽頁(yè)更新的數(shù)據(jù)ewafCacheabl^8OverridepublicModuleConfiggetByTenantCodeAndDefaultConfigCode(StringtenantCode,StringdefaultConfigcodTenanttenant=ths.tenantServ.ce.getByCodG(tcnantCode);if(tenant=null){returnnuLl;}Hetuhiithis.getByTenAntldAndDefaulXConflgCode(tenant?gGtId(),defaultConfigCode);注意：@WafCacheable對(duì)同一個(gè)類里的內(nèi)調(diào)方法（A調(diào)B,B上加注解不生效），如果直接用this.BQ,加在B上的緩存不生效,需要使用${service}.B（）調(diào)用（${service}指service實(shí)例)。3.1.2RMI緩存RMI（RemoteMethodInvocation）是指微服務(wù)提供的SDK中FeignClient方式申請(qǐng)的接口r具體參考http://note.youdao?com/noteshare?id=dda3f2af3976689339c9ffa5ba0b0675RMI上也可以加@WafCacheable注解。使用場(chǎng)景：對(duì)于數(shù)據(jù)變化頻率在2小時(shí)以上的，為了減少服勢(shì)端的請(qǐng)求,提高接口性能緩存方式：本地jvm緩存作用域：客戶端/消費(fèi)者，攔截的包要注意，只攔截以下規(guī)則的包命名建議RMI上緩存時(shí)間不要超過(guò)同一接口service上的過(guò)期時(shí)間的1/2,最好設(shè)置為1/4.^FeignClient(url- _ “，value-rlassapi")pub二丄cinterlaceClassirie.niberApiextendsClientCallTypeApi{SWofCachcablc(cxpirc-GOG)€ApiOp0r,tion("?S學(xué)校的學(xué)段和年級(jí)“)6RequestMapping(value=M/v'/schoo*:：/(schooicij/secticrn；"rmethod=RequestNothod?G￡T)PagerResult<SchoolSectionsvo>querySchoolSections(^ReqvestKeader(value■^.^or-tcri-nt-'d")Stringtenant3.1.3關(guān)閉緩存方法1）酉8置文件中修改?在application.yml中加入waf：cache:enabled:false注意:生產(chǎn)環(huán)境禁止關(guān)閉緩存?調(diào)用rest接口關(guān)閉當(dāng)前結(jié)點(diǎn)緩存2）管理接口動(dòng)態(tài)設(shè)置3.1.4緩存配置默認(rèn)情況下緩存是開啟狀態(tài)，緩存隊(duì)列大小3W,單個(gè)又竣20K以下會(huì)放入jvmf否則只放入redis,當(dāng)然也可以通過(guò)緩存模式可以強(qiáng)制指定放入jvm.application.yml酉￡置:waf:cache:enabled：true //■max-object-size:30薦緩存單糸-大小，單位Ab max-queue-size:20000薦緩譏隊(duì)列上限3.1.5緩存注解的使用public@interfaceWafCacheable{*緩存過(guò)期時(shí)間，單位是秒*默認(rèn)72。0秒々小時(shí)丿*/intexpire()default7200;*緩存key，支持自定義*如果沒有設(shè)置使用默認(rèn)方式*自定義Jcey+請(qǐng)求參數(shù)*VStringkey() t""；/*才*是否強(qiáng)制放進(jìn)J咖緩存不管緩存對(duì)象上限*默認(rèn)不強(qiáng)制*只有當(dāng)C^QheMo<^e-BOTjH^JforcePutIntQj?^i^S$^booleanforcePutlntoJvm()defaultfalse;*緩存模式"默認(rèn)為jvm/氓dis都放*/WafCacheModecacheMode()defaultWafCacheMode.BOTH;3.1.5手動(dòng)使用緩存CacheService是封裝了jvm緩存和redis緩存，在使用sdk操作緩存時(shí)，會(huì)同時(shí)往jvm和redis都放-份，部分api支持對(duì)象大于設(shè)置的單個(gè)對(duì)象大小上限可不放jvm.RedisService封裝redis的基本操作，包含分布式鎖的操作。

3.2緩存清除/數(shù)據(jù)一致性問(wèn)題—致的問(wèn)題，當(dāng)一個(gè)緩存能極大的提高系統(tǒng)負(fù)載能力，但同時(shí)也引入新的問(wèn)題，業(yè)務(wù)規(guī)則或緩存的源數(shù)據(jù)發(fā)生變化時(shí).—致的問(wèn)題，當(dāng)一個(gè)3.Z1緩存清理的難點(diǎn)?緩存key不確走。通過(guò)?Wafcacheable注解設(shè)置的緩存，緩存key的生成策略為如果設(shè)置了自立義key的前綴，則使用自立義key前綴+各個(gè)參數(shù)拼接而成，如果沒有設(shè)置自左義key則使用包名+類劃+方法需+各個(gè)參數(shù)拼接而成。labileStxiw 剛“Sxriaa “Scmb? Cojaetd {SrxiD^Qfferah-r*vSTTir>j9uffer<|;if|2tr2aantil?.i?A?tBlank|t?y||{⑷key”）?>?I9b?“emigrgetS皿I.acpead廠.?》?append（r?a/>dR5re>iarlArgtranu?-null<a?rguM3tv.leeajchC|{ate.serQ「??〉?ypeadiW勿?toRCRSxtlaoiftwtnens丨”rwtaniM>.coStria^11.r?plaot（：?：；?》： ?{?, ："「：??：■?*?￥：a*）.r?pl?c?{‘ ??| |?<： r<pl?c?9??nr:**|.r?placa（-?緩存存在多個(gè)節(jié)點(diǎn)中。緩存不僅有微服務(wù)提供者內(nèi)部緩存，還有客戶端（消費(fèi)端）的緩存，一般是在rmi通過(guò)紗afcacheable設(shè)置的。緩存既有jvm緩存也有redis緩存。jvm緩存存在于每個(gè)application中。這樣意味著需要淸除所有微服務(wù)節(jié)點(diǎn)內(nèi)部的jvm緩存及redis緩存，包括客戶端（消費(fèi)者端）緩存。3.2.2LRU+TTL算法緩存更新在被動(dòng)更新緩存上是采用LRU+TTL組合算法實(shí)現(xiàn)緩存更新,也就是說(shuō)只要緩存達(dá)到任一清除條件（緩存過(guò)期或LRU）都會(huì)被清除LRU算法，當(dāng)緩存容量不足時(shí)（控制了緩存上限，避免00M）,淘汰最久沒有被訪問(wèn)過(guò)的，始終保持熱數(shù)據(jù)的緩存命中率TTL算法TTL算法r也就是超時(shí)剔除r給緩存i手動(dòng)設(shè)置一個(gè)過(guò)期時(shí)間，當(dāng)超過(guò)時(shí)間后，再次訪問(wèn)時(shí)從數(shù)據(jù)源重新加載并設(shè)回緩存期,3.2.3主動(dòng)通知緩存更新（立即生效）由上層應(yīng)用在配置更新后，通過(guò)MQ消息通知給微服務(wù)，微服務(wù)各應(yīng)用H?點(diǎn)以廣播消息的方式消費(fèi)，淸除本節(jié)點(diǎn)內(nèi)的緩存。適用場(chǎng)景：適用數(shù)據(jù)一致性要求高，對(duì)數(shù)據(jù)不一致容忍度低的場(chǎng)景優(yōu)點(diǎn)：數(shù)據(jù)一致性高，實(shí)現(xiàn)方式簡(jiǎn)單，上層應(yīng)用改動(dòng)比較小，只需在緩存的數(shù)據(jù)發(fā)生變化后發(fā)送一條mq消息缺點(diǎn)：上層應(yīng)用需要按照淸除緩存規(guī)則在相應(yīng)的增、刪、改的功能處增加mq消息。緩存key規(guī)則說(shuō)明：英文逗號(hào)表示且的關(guān)系，檢索同一個(gè)key中包含的逗號(hào)分隔的多個(gè)關(guān)鍵字?;"英文分號(hào)表示或的關(guān)系，檢索封號(hào)分隔的多個(gè)key.例如:cityr010;getAIICity解釋：檢索緩存key中同時(shí)包含city和010字符串的key檢索緩存key中包含getAIICity的key.33內(nèi)置緩存管理3.3.1開關(guān)緩存請(qǐng)求/cache/editW請(qǐng)求GET類型接口 手動(dòng)控制緩存開關(guān)描述 注意:不要輕意關(guān)閉整個(gè)緩存，目前生產(chǎn)上流量比較大,關(guān)閉整個(gè)緩存會(huì)對(duì)數(shù)據(jù)庫(kù)有較大壓力如需緊級(jí)讓某個(gè)開關(guān)生效,可以調(diào)用清除緩存的方法單個(gè)清緩請(qǐng)求 http://xxxxx/叩p/cache/edit?enable=close關(guān)閉緩存示例http://xxxxx/app/cache/edit?enable=t開后緩存響應(yīng)true開后緩存示例false關(guān)閉緩存

3.3.2打印jvm緩存請(qǐng)求W請(qǐng)求類型接口描述app/cache/stackGET以json格式輸出全部jvm緩存，包括key及value此方法可用于調(diào)試緩存內(nèi)變量請(qǐng)求示例響應(yīng)示例http://xxxxx/app/cache/stack響應(yīng)示例{ncodeH:200,nmessageH:'-result'1: {}}3.3.3打印jvm緩存隊(duì)列大小請(qǐng)求w請(qǐng)求類型接口描述請(qǐng)求示例響應(yīng)示例/cache/stack/sizeGET僅輸出jvm內(nèi)緩存key的個(gè)數(shù)http://xxxxx/app/cache/stack/size{"size":3963}3.3.4打印所有jvm緩存key請(qǐng)求地/eache/stack/keys址請(qǐng)求類GET型

接口插 輸出當(dāng)前進(jìn)程中所有jvm緩存的key述請(qǐng)求示http://xxxxx/app/cache/stack/keys例響應(yīng)示例3.3.5模糊搜索緩存中的key請(qǐng)求地/cache/keys/_search址請(qǐng)求類GET型接口描模糊搜索某個(gè)key,大代無(wú)關(guān)述請(qǐng)求示http://xxxxx/app/cache/keys/_search?q=com例響應(yīng)示例3.3.6清除全部jvm緩存請(qǐng)求地/cache/clearjvm址請(qǐng)求類GET型接口描清除全部jvm內(nèi)存述注意:盡呈不要使用清除全部jvm內(nèi)存，可以使用清除特走緩存操作請(qǐng)求示http://xxxxx/app/cache/clearjvm例響應(yīng)示例晌應(yīng)示例{"code":200z"message":,,0K"/?'resulf: {}}3.3.7清除指定key緩存請(qǐng)求地/cache/clear址請(qǐng)求類POST型接口描 清除緩存，可以清除多個(gè)緩存述請(qǐng)求示http://xxxxx/app/cache/clear例 body:[■key"1響應(yīng)示 響應(yīng)示例例Hcoden:200,Hmessage":nOKHfnresultn: {}}3.3.8緩存狀態(tài)請(qǐng)求地址請(qǐng)求類型接口描述請(qǐng)求示/cac