版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
京東文件系統(tǒng)簡介劉海鋒QConShanghai2013CopyrightofJD.com為什么自主研發(fā)實現技術與經驗正在進行的工作問題與挑戰(zhàn)商品訂單365*數億*~10KB商品圖片幾十億*(20~200KB)庫房記錄365*十億*(KB~MB)各種方案關系數據庫OracleExadata,…Pains–沒法擴容、定期刪除開源存儲系統(tǒng)HDFS、FastDFS、…Pains–難以選型、定制、維護自主研發(fā)核心軟件系統(tǒng)可以自主研發(fā)Ifyoubelieveyoucan注意事項緊扣業(yè)務需求高度定制分期開展第一期不做大而全縮短開發(fā)周期,提高ROI系統(tǒng)定位V1:ScalableSystemKey-FileStore特別針對海量小文件強可靠、強一致、高可用Key由系統(tǒng)本身生成可滿足很多業(yè)務需求
–Really?V2:supportuser-definedkeysandmore為什么自主研發(fā)實現技術與經驗正在進行的工作編程語言的選擇Go寫系統(tǒng)框架,C寫單機存儲引擎各取所長WhyGo?良好性能,高開發(fā)效率適合小團隊開發(fā)總體架構客戶端Java,C/C++,nginx-based,Go,..ClusterCoordinatorZooKeeperDatanode3datanodes
formareplicagroup1leader+2followers一致、持久的存儲單元通常每磁盤部署一個實例ClustercoordinatordatanodeJavaclientreplicagroupmonitorchecker集群視圖replica-groupId->memberaddresses&weightsWeight標識可讀可寫狀態(tài)/jfs-root/datanodes/replicagroup-1/:20130;0:20130;
0:20130;-1…replicagroup-5/
:20130;1758
:20130;
0
:20130;0
…客戶端實現讀寫路由等關鍵邏輯JFSKey舉例jfs/t5/8/10240/10000/A5B8FC33-YReplicaGroup-5Internalkey-8/10240/10000ChunkId/Offset/SizeCRC-A5B8FC33Y-已壓縮JFS復制協議Paxos算法的變體固定成員角色–oneprimary+2followers不做majority-basedleaderelectionFull-quorumreplication二元狀態(tài)機-ReplGroupReadyorReplGroupSplitprimaryfollowerfollowerclient單機存儲引擎一組Append-Only文件,無內存索引chunkId/offset/sizeasinternalkey便于Crash-Recovery操作就是做文件同步如何做Garbage-Collection?利用lseek()compact故障處理與恢復兩種類型Fail-RestartFail-Replace統(tǒng)一處理ChunkfilesynchronizationPrimary(corrupted)Follower(restarted)FollowerPrimary(new)PrimaryFollowerBFollowerA可靠性與一致性強一致各個成員均寫入才返回寫成功同一復制組保持數據一致每個數據文件的每個字節(jié)強可靠集群宕機、磁盤損壞文件誤刪除或截斷若某個或某兩個數據文件被誤刪,系統(tǒng)自動恢復可用性定義給定一個復制組
若某成員在線則讀可用僅當全體成員在線才可寫整個系統(tǒng)的寫可用性至少一個復制組可寫除非IDC斷網斷電,JFS集群總是可寫可讀因為總是部署很多復制組在不同網段離線模塊Monitor各個datanode的運行時metricsChecker各個復制組的一致性核對磁盤故障的主動檢測datanodemonitorchecker持續(xù)優(yōu)化流水線寫支持大文件透明壓縮針對文本對象,節(jié)省帶寬與機器資源客戶端壓縮vs服務端壓縮多數據中心異步復制,客戶端就近讀取通過ErasureCoding降低存儲成本利用訪問時效性性能數字應用舉例商品訂單每年500TB庫房流水記錄每年超過1PB商品圖片近百TB,持續(xù)增長消息隊列服務開發(fā)中相關工作類似系統(tǒng)Facebook’sHaystackTaobao’sTFSFastDFS、Weed-FS、…JingdongFilesystemV1更重要的數據強一致性無單點故障無內存索引透明壓縮,etal.為什么自主研發(fā)實現技術與經驗正在進行的工作重新審視需求核心業(yè)務的海量小文件交易訂單、商品圖片、庫房記錄、消息隊列…云存儲服務面向私有/公有云的對象存儲服務針對IaaS平臺的持久塊設備存儲對象存儲基本架構ServiceGatewayLoadBalancerDatastoragesubsystemMetadatasubsystemConsistencyMaintainerAccountManagerobjectstorageevolutioninsideJD.com之前版本HDFS作為數據存儲子系統(tǒng)Pains:85%容量是小于1MB的對象MySQLsharding負責元數據管理Pains:manualpartitioning現在版本JFS替換HDFS負責小文件存儲下一版本JFSastheONLYbackendJFS-v2:ScalableDirectories作為對象存儲服務的完整后端Bucket->DirectoryJFSDirectory特性單級目錄,自定義文件名與屬性單個目錄內文件數不限支持目錄內prefix/range查詢、有序遍歷JFSasthecompletebackend(tinyfiles,bigfiles,directories)ServiceGatewayLoadBalancerConsistencyMaintainerAccountManagerJFS-v3:Block-deviceFiles預分配、定長、獨占寫在此基礎上提供持久塊存儲服務JFSasthebackendPhysicalHostVMVMVMVolumeManager愿景統(tǒng)一的存儲后端,提供不同產品抽象內部各子系統(tǒng)有獨立的復制協議與存儲引擎JingdongFilesystemBlockdeviceinterfacePrivateClientLibrariesPublicobject
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 外貿單證操作 課件 項目二:信用證處理-外貿單證操作
- 2024上半年網約車行業(yè)發(fā)展洞察-月狐數據-2024-26正式版
- 2025高考物理步步高同步練習選修1第四章 光光的衍射含答案
- 大學英語三級(B級)模擬試卷5(共714題)
- 《閱讀與寫作結合》綜合訓練教案
- 《詩中的秋》季節(jié)之美教案
- 《古詩三首》情感共鳴教案
- 計算機應用基礎(Windows 7+Office 2010) 課件 任務3-1 運動會總體方案
- 專升本(高等數學二)模擬試卷13(共252題)
- 蘇科版七年級數學上冊第二章 有理數 單元檢測卷含答案
- 預防宗教滲透
- 中醫(yī)學-精氣血精液課件
- 創(chuàng)業(yè)計劃書自我介紹
- IPC-J-STD-001D手工焊接標準培訓教材
- 施工現場常見安全問題及預防措施課件模板
- 12.課外現代文閱讀部編語文七年級下冊第一次月考專項復習試卷()
- 酒店銷售部運營手冊
- 骨科老年人健康講座
- IT行業(yè)檔案管理制度的軟件開發(fā)與源代碼管理
- 《廣西歷史建筑保護修繕及檢測技術標準》
- 導尿術的并發(fā)癥預防及處理
評論
0/150
提交評論