丨基于raft的分布式kv系統(tǒng)開(kāi)發(fā)實(shí)戰(zhàn)二如何實(shí)現(xiàn)代碼

在上一講中，咱們將系統(tǒng)劃分為三大功能塊（接入?yún)f(xié)議、KV操作、分布式集群），那么今天我會(huì)按順序具體說(shuō)一說(shuō)每塊功能的實(shí)現(xiàn)，幫助你掌握架構(gòu)背后的細(xì)節(jié)代碼。首先，先來(lái)了解一下，如何實(shí)現(xiàn)接入?yún)f(xié)議。19到，我們選擇了HTTP議作為通訊協(xié)議，并設(shè)計(jì)了"/key"和"/join"2HTTPRESTfulAPI，分別用于支持KV操作和增加節(jié)點(diǎn)的操作，那么，它們是如何實(shí)現(xiàn)的呢？接入?yún)f(xié)議的實(shí)現(xiàn)，就是下面的樣子圖我?guī)阕咭槐檫@三個(gè)步驟，便于你加深印在ServeHTTP()中，會(huì)根據(jù)URL路徑設(shè)置相關(guān)的路由信息。比如，會(huì)在handlerKeyRequest()處理URL徑前綴為"/key"的請(qǐng)求，會(huì)在handleJoin處理URL路徑為"/join"的請(qǐng)求。在handleKeyRequest()中，處理來(lái)自客戶(hù)端的KV操作請(qǐng)求，也就是基于HTTPPOST請(qǐng)求的賦值操作、基于HTTPGET請(qǐng)求的查詢(xún)操作、基于HTTPDELETE請(qǐng)求的刪除操handleJoin(，處理增加節(jié)點(diǎn)的請(qǐng)求，最終調(diào)用raft.AddVoter()數(shù)，將新節(jié)點(diǎn)在這里，需要你注意的是，在根據(jù)URL設(shè)置相關(guān)路由信息時(shí)，你需要考慮是路徑（比如strings.HasPrefix(r.URL.Path,“/key”)），還是完整匹配（比如r.URL.Path“/join”），避免在實(shí)際運(yùn)行時(shí)，路徑匹配出錯(cuò)。比如，如果對(duì)"/key"做完整匹配（r.URL.Pathkey”），那么下面的查詢(xún)操作會(huì)因?yàn)槁窂狡ヅ涑鲥e(cuò)，無(wú)法找到路由信代代1curl-XGETraft-cluster-另外，還需要你注意的是，只有者節(jié)點(diǎn)才能執(zhí)行raft.AddVoter()函數(shù)，也就是說(shuō)handleJoin()函數(shù)，只能在者節(jié)點(diǎn)上執(zhí)行說(shuō)完接入?yún)f(xié)議后，接下來(lái)咱們來(lái)分析一下第二塊功能的實(shí)現(xiàn)，也就是，如何實(shí)現(xiàn)KV操作如何實(shí)現(xiàn)KV上一節(jié)課，我提到這個(gè)分KV統(tǒng)會(huì)實(shí)現(xiàn)賦值、查詢(xún)、刪除3操作，那具體怎么實(shí)現(xiàn)呢？你應(yīng)該知道，賦值操作是基于HTTPPOST請(qǐng)求來(lái)實(shí)現(xiàn)的，就像下面的樣子。代代1curl--d'{"foo":也就是說(shuō)，我們是通過(guò)HTTPPOST請(qǐng)求，實(shí)現(xiàn)了賦值操作圖同樣的，我們走一遍這個(gè)過(guò)程，加深一下印當(dāng)接收到KV操作的請(qǐng)求時(shí)，系統(tǒng)將調(diào)用handleKeyRequest()進(jìn)行處理handleKeyRequest()數(shù)中，檢測(cè)到HTTP類(lèi)型為POST求時(shí)，確認(rèn)了這是一個(gè)賦值操作，將執(zhí)行store.Set()函數(shù)。Set數(shù)中，將創(chuàng)建指令，并通過(guò)raft.Apply()數(shù)將指令提交給Raft。最終指令Raft指令應(yīng)用到狀態(tài)機(jī)后，最終將執(zhí)行applySet()數(shù)，創(chuàng)建相應(yīng)的key值到在這里，補(bǔ)充一下，F(xiàn)SM結(jié)構(gòu)復(fù)用了Store結(jié)構(gòu)體，并實(shí)現(xiàn)了fsm.Apply()fsm.Snapshot()、fsm.Restore()3個(gè)函數(shù)。最終應(yīng)用到狀態(tài)機(jī)的數(shù)據(jù)，map[string]string的形式，存放在Store.m中。那查詢(xún)操作是怎么實(shí)現(xiàn)的呢？它是基于HTTPGET請(qǐng)求來(lái)實(shí)現(xiàn)代代1curl-XGET也就是說(shuō)，我們是通過(guò)HTTPGET請(qǐng)求實(shí)現(xiàn)了查詢(xún)操作。在這里強(qiáng)調(diào)一下，相比需要圖我們走一遍這個(gè)過(guò)程，加深一下印當(dāng)接收到KV操作的請(qǐng)求時(shí)，系統(tǒng)將調(diào)用handleKeyRequest()進(jìn)行處理handleKeyRequest()數(shù)中，檢測(cè)到HTTP類(lèi)型為GET求時(shí)，確認(rèn)了這是一個(gè)賦值操作，將執(zhí)行store.Get()函數(shù)。Get()函數(shù)在內(nèi)存中查詢(xún)指定key對(duì)應(yīng)的值而最后一個(gè)刪除操作，是基于HTTPDELETE請(qǐng)求來(lái)實(shí)現(xiàn)的代代1curl-XDELETE也就是說(shuō)，我們是通過(guò)HTTPDELETE請(qǐng)求，實(shí)現(xiàn)了刪圖同樣的，我們走一遍這個(gè)過(guò)程當(dāng)接收到KV操作的請(qǐng)求時(shí)，系統(tǒng)將調(diào)用handleKeyRequest()進(jìn)行處理handleKeyRequest()數(shù)中，檢測(cè)到HTTP類(lèi)型為DELETE時(shí)，確認(rèn)了這是一個(gè)刪除操作，將執(zhí)行store.Delete()函數(shù)。Delete數(shù)中，將創(chuàng)建指令，并raft.Apply()數(shù)，將指令提交給Raft。最終當(dāng)前Raft將指令應(yīng)用到狀態(tài)機(jī)后，最終執(zhí)行applyDelete()函數(shù)，刪除key和值需要向Raft狀態(tài)機(jī)中提交指令的操作，是必須要在者節(jié)點(diǎn)上執(zhí)行的，也就是所謂的需要數(shù)據(jù)的查詢(xún)操作（比如客戶(hù)端設(shè)置查詢(xún)操作的讀一致性級(jí)別consistent），是必須在者節(jié)點(diǎn)上執(zhí)行的說(shuō)完了如何實(shí)現(xiàn)KV操作后，來(lái)看一下最后一塊功能，如何實(shí)現(xiàn)分布式集群創(chuàng)建集實(shí)現(xiàn)一個(gè)Raft集群，首先我們要做的就是創(chuàng)建集群，創(chuàng)建Raft集群，主要分為兩步。首先，第一個(gè)節(jié)點(diǎn)通過(guò)Bootstrap的方式啟動(dòng)，并作為者節(jié)點(diǎn)。啟動(dòng)命令就像下面的樣代代1$GOPATH/bin/raftdb-idnode01-haddrraft-cluster-host01:8091-raddrraft-這時(shí)將在Store.Open()函數(shù)中，調(diào)用BootstrapCluster()函數(shù)將節(jié)點(diǎn)啟動(dòng)起接著，其他節(jié)點(diǎn)會(huì)通過(guò)-join參數(shù)指定者節(jié)點(diǎn)的地址信息，并向者節(jié)點(diǎn)發(fā)送，包含代代1$GOPATH/bin/raftdb-idnode02-haddrraft-cluster-host02:8091-raddrraft-當(dāng)者節(jié)點(diǎn)接收到來(lái)自其他節(jié)點(diǎn)的增加節(jié)點(diǎn)請(qǐng)求后，將調(diào)用handleJoin()函數(shù)進(jìn)行處理，并最終調(diào)用raft.AddVoter()函數(shù)，將新節(jié)點(diǎn)加入到集群中。在這里，需要你注意的是，只有在向集群中添加新節(jié)點(diǎn)時(shí)，才需要使用join數(shù)。當(dāng)節(jié)點(diǎn)代代1$GOPATH/bin/raftdb-idnode02-haddrraft-cluster-host02:8091-raddrraft-寫(xiě)操在9講中，我們選擇了方法2處理該請(qǐng)求，并將者的地址信息轉(zhuǎn)發(fā)給客戶(hù)端。后續(xù)客戶(hù)端就可以直接者（了演示方便，我們以賦值操作為例）。圖我們來(lái)看一下具體的內(nèi)容調(diào)用Set()函數(shù)執(zhí)行賦值操如果執(zhí)行Set數(shù)成功，將執(zhí)行步驟3；如果執(zhí)行Set數(shù)出錯(cuò)，且提示出錯(cuò)的原因步驟4；如果執(zhí)行Set()函數(shù)出錯(cuò)，且提示出錯(cuò)的原因不是因?yàn)楫?dāng)前節(jié)點(diǎn)不是者，將執(zhí)行步驟5。賦值操作執(zhí)行成功，正常系統(tǒng)運(yùn)行出錯(cuò)，返回錯(cuò)誤信息給客而為了更好的利用curl客戶(hù)端的HTTP重定向功能，我實(shí)現(xiàn)了HTTP307重定向，這樣，你在執(zhí)行賦值操作時(shí)，就不需要關(guān)心節(jié)點(diǎn)是否是者節(jié)點(diǎn)了。比如，你可以使用下面令，節(jié)點(diǎn)2（也就是raft-cluster-host02，0）執(zhí)行賦值操作。代代1curl-XPOSTraft-cluster-host02:8091/key-d'{"foo":"bar"}'-如果當(dāng)前節(jié)點(diǎn)（也就是節(jié)點(diǎn)2）不是者，它將返回包含者地址信息的HTTP307重定向響應(yīng)給curl。這時(shí)，curl根據(jù)響應(yīng)信息，重新發(fā)起賦值操作請(qǐng)求，并直接者節(jié)點(diǎn)（也就是節(jié)點(diǎn)1，0）。具體的過(guò)程，就像下面的Wireshark截圖。圖寫(xiě)請(qǐng)須在者節(jié)執(zhí)行然查作屬操作以在節(jié)點(diǎn)行，但是如何實(shí)現(xiàn)卻更加復(fù)雜，因?yàn)樽x操作的實(shí)現(xiàn)關(guān)乎著一致性的實(shí)現(xiàn)。那么，具體怎么實(shí)現(xiàn)讀操說(shuō)的是，我們可以實(shí)現(xiàn)3一致性模型（也就是stale、default、consistent），這具體的讀操作的代碼實(shí)現(xiàn)，就像下面的樣圖我們走一遍這個(gè)過(guò)程當(dāng)接收到HTTPGET查詢(xún)請(qǐng)求時(shí)，系統(tǒng)會(huì)先level數(shù)，來(lái)獲取當(dāng)前請(qǐng)求的讀一調(diào)用Get()函數(shù)，查詢(xún)指定key和讀一致性級(jí)別對(duì)應(yīng)的Get()；如果執(zhí)行Get()到者節(jié)點(diǎn)上執(zhí)行查詢(xún)操作，將執(zhí)行步驟5；如果執(zhí)行Get()出錯(cuò)，且提示出錯(cuò)的原因不是因?yàn)楫?dāng)前節(jié)點(diǎn)不是者，將執(zhí)行步驟。查詢(xún)操作執(zhí)行成功，返回查詢(xún)到的值給客戶(hù)系統(tǒng)運(yùn)行出錯(cuò)，返回錯(cuò)誤信息給客在這里，為了更好地利用curl客戶(hù)端的HTTP重定向功能，我同樣實(shí)現(xiàn)了HTTP307重定向（具體原理，前面已經(jīng)介紹了，這里就不啰嗦了）。比如，你可以使用下面令，來(lái)實(shí)現(xiàn)一致性級(jí)別為consistent的查詢(xún)操作，不需要關(guān)心節(jié)點(diǎn)（raft-cluster-host02）是11curl-XGETraft-cluster-host02:8091/key/foo?level=consistent-代本節(jié)課我主要帶你了解了接入?yún)f(xié)議、KV作、分布式集群的實(shí)現(xiàn)，我希望你記住下面三個(gè)我們可以借助HTTP請(qǐng)求類(lèi)型，來(lái)實(shí)現(xiàn)相關(guān)的操作，比如，我們可以通過(guò)HTTPGET請(qǐng)求實(shí)現(xiàn)查詢(xún)操作，通過(guò)HTTPDELETE請(qǐng)求實(shí)現(xiàn)刪除操作。你可以通過(guò)HTTP307重定向響應(yīng)，來(lái)返回者的地址信息給客戶(hù)端，需要你注意的是，curl已支持HTTP307重定向，使用起來(lái)很方便，所以推薦你優(yōu)先考慮curl，在日常中執(zhí)行KV操作。在Raft中，我們可以通過(guò)raft.VerifyLeader()來(lái)確認(rèn)當(dāng)前者，是否仍是者展和支撐海量服務(wù)的QQ，是由多個(gè)組件（協(xié)議接入組件、名字服務(wù)、組件等）雖然這個(gè)分布式KV系統(tǒng)比較簡(jiǎn)單，但它相對(duì)純粹聚焦在技術(shù)，能幫助你很好的理解Raft算法、HashicorpRaft實(shí)現(xiàn)、分布式系統(tǒng)開(kāi)發(fā)實(shí)戰(zhàn)等。所以，我希望你不懂就問(wèn)，有問(wèn)題，我續(xù)優(yōu)化項(xiàng)目會(huì)針家共疑問(wèn)發(fā)實(shí)關(guān)代從代2個(gè)角度，幫助你更透徹的理解技術(shù)。我希望你能在課下采用自己熟悉的編程語(yǔ)KV我提到了通過(guò)join數(shù)