對(duì)象存儲(chǔ)技術(shù)課件

對(duì)象存儲(chǔ)

Object-BasedStorage對(duì)象存儲(chǔ)

Object-BasedStorage1HistoryofObjectStorageHistoryofObjectStorage2

TheDataAccessTaxonomy

TheBlockParadigmDAS,SAN

TheDataAccessTaxonomy

The3

TheBlockParadigm

TheBlockParadigm

4

TheDataAccessTaxonomy

TheFileParadigmLocalFS,DistributedFS:(NFS,CIFS,WAFS)SharedFS:(ClusterFS,SANFS)Global,Distributed&ParallelFSNAS

TheDataAccessTaxonomy

The5LocalFileSystemsOnemorelevelofindirectionLocalFileSystemsOnemorelev6DistributedFileSystems

e.g.NASwithNFS,CIFSProtocolDistributedFileSystems

e.g.7NASAggregation/Virtualization

GlobalNamespaceNASAggregation/Virtualization8NASAggregation/Virtualization

GlobalNamespaceNASAggregation/Virtualization9NASCluster

TightlyCoupledNASNASCluster

TightlyCoupledNA10NASCluster

LooselyCoupledNAS:GlobalNamespacewithNFSv4.1andpNFSNASCluster

LooselyCoupledNA11

TheDataAccessTaxonomy

TheObjectParadigmOSDCASOSS

TheDataAccessTaxonomy

The12TheOldBlockParadigmTheOldBlockParadigm13TheNewObjectParadigmBlockParadigmTheNewObjectParadigmBlock14TheNewObjectParadigm?WRITE26,763Bytes?QoS=High?Description=“X-Ray”?Retention=50years?AccessKey=*&^%#?DataPayload........ObjectStorageResponsibilities:?SpaceManagement?AccessControl

(IdentityMgmt)?QoSManagement?Cache,Backup?PolicyMigration,

RetentionTheNewObjectParadigm?WRITE15Self-ContainedObjectsMetadata:

creationdate/time;ownership,size...Attributes–inferred:accesspatterns,content,indexes...Attributes–usersupplied:retention,QoS…Self-ContainedObjects16BlockAccess-InodesTheinodecontainsafewblocknumberstoensureefficientaccesstosmallfiles.AccesstolargerfilesisprovidedviaindirectblocksthatcontainblocknumbersBlockAccess-InodesThe17BlockAccess-InodesBlockAccess-Inodes18Inodesvs.ObjectsInodesvs.Objects19ANSIT10OSDSCSITargetsANSIT10OSDSCSITargets20SCSIStandardsArchitectureSCSIStandardsArchitecture21ObjectAutonomyStoragebecomesautonomous:–capacityplanning–loadbalancing–backup–QoS,SLAs–understanddata/objectgrouping–aggressivepre-fetching–thinprovisioning–search–compression/de-duplication/encryption–strongsecurity–compliance/retention/securedelete–availability/replication–audit...ObjectAutonomyStoragebecomes22DataSharing

Homogeneous/HeterogeneousDataSharing

Homogeneous/Heter23DataSharing

Homogeneous/HeterogeneousDataSharing

Homogeneous/Heter24DataMigration-ILM

Homogeneous/HeterogeneousDataMigration-ILM

Homogeneo25AdditionalLayerofSecurity?strongsecurityviaexternalservice

–authentication

–authorization

–NIS,LDAP....?finegranularity

–perobjectAdditionalLayerofSecurity?26LivinginaFlatNamespaceLivinginaFlatNamespace27VirtualView/VirtualFileSystemsVirtualView/VirtualFileSy28TheFirstGenerationof

ObjectStorageTheFirstGenerationof

Objec29ObjectDecompositionObjectDecomposition30對(duì)象存儲(chǔ)系統(tǒng)結(jié)構(gòu)對(duì)象存儲(chǔ)系統(tǒng)結(jié)構(gòu)31對(duì)象存儲(chǔ)系統(tǒng)組成對(duì)象(Object)包含了文件數(shù)據(jù)以及相關(guān)的屬性信息，可以進(jìn)行自我管理OSD（Object-basedStorageDevice)一個(gè)智能設(shè)備，是Object的集合文件系統(tǒng)文件系統(tǒng)運(yùn)行在客戶端上，將應(yīng)用程序的文件系統(tǒng)請(qǐng)求傳輸?shù)組DS和OSD上元數(shù)據(jù)服務(wù)器(MetadataServer，MDS)系統(tǒng)提供元數(shù)據(jù)、Cache一致性等服務(wù)網(wǎng)絡(luò)連接對(duì)象存儲(chǔ)系統(tǒng)組成對(duì)象(Object)OSD（Object-b321.對(duì)象(Object)

對(duì)象存儲(chǔ)的基本單元。每個(gè)Object是數(shù)據(jù)和數(shù)據(jù)屬性集的綜合體。數(shù)據(jù)屬性可以根據(jù)應(yīng)用的需求進(jìn)行設(shè)置，包括數(shù)據(jù)分布、服務(wù)質(zhì)量等。在傳統(tǒng)的存儲(chǔ)中，塊設(shè)備要記錄每個(gè)存儲(chǔ)數(shù)據(jù)塊在設(shè)備上的位置。Object維護(hù)自己的屬性，從而簡(jiǎn)化了存儲(chǔ)系統(tǒng)的管理任務(wù)，增加了靈活性。Object的大小可以不同，可以包含整個(gè)數(shù)據(jù)結(jié)構(gòu)，如文件、數(shù)據(jù)庫(kù)表項(xiàng)等。1.對(duì)象(Object)對(duì)象存儲(chǔ)的基本單元。每個(gè)Ob33對(duì)象分類對(duì)象分類342、OSD（Object-basedStorageDevice)

每個(gè)OSD都是一個(gè)智能設(shè)備，具有自己的存儲(chǔ)介質(zhì)、處理器、內(nèi)存以及網(wǎng)絡(luò)系統(tǒng)等，負(fù)責(zé)管理本地的Object，是對(duì)象存儲(chǔ)系統(tǒng)的核心。OSD同塊設(shè)備的不同不在于存儲(chǔ)介質(zhì)，而在于兩者提供的訪問接口。2、OSD（Object-basedStorageDev35OSD的主要功能數(shù)據(jù)存儲(chǔ)和安全訪問

對(duì)象放置管理：OSD使用Object對(duì)所保存的數(shù)據(jù)進(jìn)行管理。它將數(shù)據(jù)存放到磁盤的磁道和扇區(qū)，將若干磁道和扇區(qū)組合起來構(gòu)成Object，并且通過此Object向外界提供對(duì)數(shù)據(jù)的訪問。

對(duì)象操作：每個(gè)Object同傳統(tǒng)的文件相似，使用同文件類似的訪問接口，包括Open、Read、Write等。但是兩者并不相同，每個(gè)Object可能包括若干個(gè)文件，也可能是某個(gè)文件的一部分，且是獨(dú)立于操作系統(tǒng)的。除了具體的用戶數(shù)據(jù)外，OSD還記錄了每個(gè)Object的屬性信息，主要是物理視圖信息。將這些信息放到OSD上，大大減輕了元數(shù)據(jù)服務(wù)器的負(fù)擔(dān)，增強(qiáng)了整個(gè)存儲(chǔ)系統(tǒng)的并行訪問性能和可擴(kuò)展性。

OSD的主要功能數(shù)據(jù)存儲(chǔ)和安全訪問36對(duì)象存儲(chǔ)技術(shù)課件373、客戶端文件系統(tǒng)

文件系統(tǒng)對(duì)用戶的文件操作進(jìn)行解釋，并在元數(shù)據(jù)服務(wù)器和OSD間通信，完成所請(qǐng)求的操作。

現(xiàn)有的應(yīng)用對(duì)數(shù)據(jù)的訪問大部分都是通過POSIX文件方式進(jìn)行的，對(duì)象存儲(chǔ)系統(tǒng)提供給用戶的也是標(biāo)準(zhǔn)的POSIX文件訪問接口。接口具有和通用文件系統(tǒng)相同的訪問方式，同時(shí)為了提高性能，也具有對(duì)數(shù)據(jù)的Cache功能和文件的條帶功能。同時(shí)，文件系統(tǒng)必須維護(hù)不同客戶端上Cache的一致性，保證文件系統(tǒng)的數(shù)據(jù)一致3、客戶端文件系統(tǒng)文件系統(tǒng)對(duì)用戶的文件操作進(jìn)行解釋，38文件系統(tǒng)讀訪問實(shí)例：客戶端應(yīng)用發(fā)出讀請(qǐng)求;文件系統(tǒng)向元數(shù)據(jù)服務(wù)器發(fā)送請(qǐng)求，獲取要讀取的數(shù)據(jù)所在的OSD;然后直接向每個(gè)OSD發(fā)送數(shù)據(jù)讀取請(qǐng)求；OSD得到請(qǐng)求以后，判斷要讀取的Object，并根據(jù)此Object要求的認(rèn)證方式，對(duì)客戶端進(jìn)行認(rèn)證，如果此客戶端得到授權(quán)，則將Object的數(shù)據(jù)返回給客戶端；文件系統(tǒng)收到OSD返回的數(shù)據(jù)以后，讀操作完成。文件系統(tǒng)讀訪問實(shí)例：客戶端應(yīng)用發(fā)出讀請(qǐng)求;394.元數(shù)據(jù)服務(wù)器(MetadataServer)

為客戶端提供元數(shù)據(jù)，主要是文件的邏輯視圖，包括文件與目錄的組織關(guān)系、每個(gè)文件所對(duì)應(yīng)的OSD等。4.元數(shù)據(jù)服務(wù)器(MetadataServer)為404.元數(shù)據(jù)服務(wù)器(MetadataServer)在傳統(tǒng)的文件系統(tǒng)中，元數(shù)據(jù)由本機(jī)或者文件服務(wù)器負(fù)責(zé)維護(hù)，每次對(duì)數(shù)據(jù)塊的操作都要獲取元數(shù)據(jù)。在對(duì)象存儲(chǔ)系統(tǒng)中，由于每次操作只有一次對(duì)元數(shù)據(jù)的訪問，具體的數(shù)據(jù)傳輸都由OSD和客戶端通過直接連接進(jìn)行，大大減少了元數(shù)據(jù)的操作，降低了元數(shù)據(jù)服務(wù)器的負(fù)擔(dān)，從而為系統(tǒng)的擴(kuò)展提供了可能性。

4.元數(shù)據(jù)服務(wù)器(MetadataServer)在傳統(tǒng)的414.元數(shù)據(jù)服務(wù)器(MetadataServer)特點(diǎn)客戶端采用Cache來緩存數(shù)據(jù)

當(dāng)多個(gè)客戶端同時(shí)訪問某些數(shù)據(jù)時(shí)，MDS提供分布的鎖機(jī)制來確保Cache的一致性。為客戶端提供認(rèn)證為了增強(qiáng)系統(tǒng)的安全性，MDS為客戶端提供認(rèn)證方式。OSD將依據(jù)MDS的認(rèn)證來決定是否為客戶端提供服務(wù)。

4.元數(shù)據(jù)服務(wù)器(MetadataServer)特點(diǎn)425.網(wǎng)絡(luò)連接

網(wǎng)絡(luò)連接是對(duì)象存儲(chǔ)系統(tǒng)的重要組成部分。它將客戶端、MDS和OSD連接起來，構(gòu)成了一個(gè)完整的系統(tǒng)。5.網(wǎng)絡(luò)連接網(wǎng)絡(luò)連接是對(duì)象存儲(chǔ)系統(tǒng)的重43對(duì)象存儲(chǔ)與傳統(tǒng)存儲(chǔ)的對(duì)比存儲(chǔ)接口存儲(chǔ)系統(tǒng)優(yōu)點(diǎn)缺點(diǎn)塊級(jí)存儲(chǔ)塊塊存儲(chǔ)設(shè)備如:SAN,提供高性能的隨機(jī)I/O和數(shù)據(jù)吞吐率可擴(kuò)展性和可管理性較差、價(jià)格較高、不能滿足成千上萬CPU規(guī)模的系統(tǒng)文件儲(chǔ)存文件塊存儲(chǔ)設(shè)備＋文件系統(tǒng)如:NAS,擴(kuò)展性好、易于管理、價(jià)格便宜開銷高、帶寬低、延遲大,不利于高性能集群中應(yīng)用對(duì)象存儲(chǔ)對(duì)象塊存儲(chǔ)設(shè)備＋文件系統(tǒng)＋定位邏輯＋應(yīng)用程序支持高并行性、可伸縮的數(shù)據(jù)訪問,管理性好、安全性高、適合高性能集群使用處于發(fā)展階段,相應(yīng)的硬件、軟件支持有待進(jìn)一步完善對(duì)象存儲(chǔ)與傳統(tǒng)存儲(chǔ)的對(duì)比存儲(chǔ)接口存儲(chǔ)系統(tǒng)優(yōu)點(diǎn)缺點(diǎn)塊級(jí)存儲(chǔ)如:44對(duì)象存儲(chǔ)的特性（總結(jié)）性能優(yōu)勢(shì)存儲(chǔ)設(shè)備的智能化數(shù)據(jù)的共享更容易管理更方便更好的安全性對(duì)象存儲(chǔ)的特性（總結(jié)）性能優(yōu)勢(shì)45對(duì)象存儲(chǔ)系統(tǒng)實(shí)例：LustreAsharedfilesystemforHPCclustersOpenSourcesoftware(GPL)linuxclusterVeryhighmetadataandI/Operformance5,000filecreations/secin1dir,1,000nodesSingleclientsupto290MB/sec.Aggregateupto11GB/secScalableto1,000’sofnodesInproductionnowonsuchclusters對(duì)象存儲(chǔ)系統(tǒng)實(shí)例：LustreAsharedfiles46LustreRetrospective1999Initialideas@CMUSeagate:managementaspects,prototypesMuchsurvivestoday2000NationalLabsCanLustrebenextgenerationFS?100GB/sec,trillionfiles,10,000’sclients,secure,PBs2002–2003Manypartners:Dell,HP,Cray,LNXI,DDNothersProductionuse,1.0releasedLustreRetrospective1999Initi47ALustreClusterALustreCluster48LustreSystemsClients1000’snow,10,000’sfutureObtainaccesstoLustrefilesystemTypicalrole:LinuxcomputeserverOSS100’snow,1000’sfutureObjectstorageserversLinuxservershandling(stripesof)filedataMDS10‘s,100’snodesMetadatarequesttransactionengine.LinuxserverhandlingmetadatarequestsLustreSystemsClients49KeyDesignIssue:ScalabilityI/OthroughputHowtoavoidbottlenecksMetadatascalabilityHowcan10,000’sofclientsworkonfilesinsamefolderClusterRecoveryIfsthfails,howcantransparentrecoveryhappenManagementAdding,removing,replacing,systems;datamigration&backupKeyDesignIssue:Scalability50對(duì)象存儲(chǔ)技術(shù)課件51ReferenceLustre:ASANFileSystemforLinuxhttp://www//docs/lustre/luswhite.pdfSeveralpresentationmaterialsfromDr.PeterJ.BraamReferenceLustre:ASANFileSy52TheCurrentGenerationof

ObjectStorageTheCurrentGenerationof

Ob53CloudStorage,StorageClouds,ObjectStorageCloudStorageisthestorageusedforComputeCloudinfrastructuresComputeCloudsareveryIOPSintensiveandusuallyblockstorageisusedintheseapplicationsStorageCloudsare“storageinthecloud”,whetherpublicorprivateStorageCloudsaresimplystoragecapacitythatismadeavailablethroughtheInternetMostoftoday’sstoragecloudsuseobjectstoragetechnologiesCloudStorage,StorageClouds,54ScaleoutobjectstoragewithsimpleRESTAPIScaleoutobjectstoragewith55RESTAPI’sRESTstandsforRepresentationalStateTransferItisasoftwarearchitecturethatisusedfordistributedapplicationenvironmentsRESTAPI’shavebecomethepredominantinterfaceforcloudapplicationstoconnecttothecloudForstorage-centriccloudapplications,aRESTAPIistheinterfacebetweentheapplicationandtheobjectstorageplatformPUTGETDELETE…RESTAPI’sRESTstandsforRepr56CurrentObjectStorageSummaryDataisstoredasobjectsinonelarge,scalablepoolofstorageObjectsarestoredwithmetadata–informationabouttheobjectAnObjectIDisstored,tolocatethedataRESTisthestandardinterface,simplecommandsusedbyapplicationsObjectsareimmutable;editsaresavedasanewobjectCurrentObjectStorageSummary57WhyObjectStorage?MassiveDataGrowthAlwaysOnlinedataneedstobeavailableanywhereatanytimePowertotheApplicationsApp.tostoragewithRESTAPIdirectly,withoutadditional(filesystem)layersTheBigDataExplosionWhyObjectStorage?MassiveDat58TheEvolutionofDataProcessingTheEvolutionofDataProcessi59MigrationofStorageApplicationMigrationofStorageApplicati60TheEvolutionofStorageTheEvolutionofStorage61TheVerticalConsolidationStorageandserverMigrationofdataprocessingapplicationsNoI/OisbestI/OTheVerticalConsolidationStor62主動(dòng)對(duì)象存儲(chǔ)傳統(tǒng)存儲(chǔ)系統(tǒng)被動(dòng)響應(yīng)服務(wù)請(qǐng)求對(duì)象具有智能性智能的系統(tǒng)能夠提供主動(dòng)服務(wù)主動(dòng)對(duì)象存儲(chǔ)傳統(tǒng)存儲(chǔ)系統(tǒng)被動(dòng)響應(yīng)服務(wù)請(qǐng)求智能的系統(tǒng)能夠提供主63存儲(chǔ)組織結(jié)構(gòu)對(duì)比…應(yīng)用系統(tǒng)接口主機(jī)適配器驅(qū)動(dòng)文件系統(tǒng)用戶部件扇區(qū)接口塊I/O管理器應(yīng)用系統(tǒng)接口文件系統(tǒng)存儲(chǔ)部件文件系統(tǒng)用戶部件傳統(tǒng)模式

主動(dòng)對(duì)象模式塊I/O管理器OSD接口文件系統(tǒng)用戶部件適配器驅(qū)動(dòng)文件系統(tǒng)存儲(chǔ)部件盤設(shè)備驅(qū)動(dòng)總線設(shè)備驅(qū)動(dòng)總線驅(qū)動(dòng)硬盤驅(qū)動(dòng)文件系統(tǒng)存儲(chǔ)部件

主機(jī)存儲(chǔ)系統(tǒng)…只含數(shù)據(jù)主機(jī)組織和管理被動(dòng)響應(yīng)含“數(shù)據(jù)、屬性”和“操作”自組織和自管理主動(dòng)服務(wù)性能高管理簡(jiǎn)單效率低管理復(fù)雜存儲(chǔ)組織結(jié)構(gòu)對(duì)比…應(yīng)用系統(tǒng)接口主機(jī)適配器驅(qū)動(dòng)文件系統(tǒng)用戶部件64主動(dòng)對(duì)象存儲(chǔ)服務(wù)機(jī)制負(fù)載模型/預(yù)測(cè)模型根據(jù)歷史負(fù)載預(yù)測(cè)未來趨勢(shì)存儲(chǔ)主動(dòng)服務(wù)機(jī)制存儲(chǔ)節(jié)點(diǎn)主動(dòng)對(duì)象存儲(chǔ)服務(wù)機(jī)制負(fù)載模型/預(yù)測(cè)模型根據(jù)歷史負(fù)載預(yù)測(cè)未來趨65主動(dòng)對(duì)象中的概念方法對(duì)象：一段可執(zhí)行代碼，用于對(duì)用戶對(duì)象進(jìn)行操作過濾型方法服務(wù)型方法策略對(duì)象：決定方法的執(zhí)行有兩種方式請(qǐng)求觸發(fā)策略觸發(fā)主動(dòng)對(duì)象中的概念方法對(duì)象：一段可執(zhí)行代碼，用于對(duì)用戶對(duì)象進(jìn)行66主動(dòng)對(duì)象特點(diǎn)自我學(xué)習(xí)和策略觸發(fā)機(jī)制，實(shí)現(xiàn)存儲(chǔ)主動(dòng)服務(wù)自我組織與管理，自我優(yōu)化調(diào)節(jié)，使系統(tǒng)整體性能最佳利用對(duì)象“封閉”特性，使系統(tǒng)具有安全性提高系統(tǒng)可靠性，在故障出現(xiàn)時(shí)實(shí)現(xiàn)快速恢復(fù)主動(dòng)對(duì)象特點(diǎn)自我學(xué)習(xí)和策略觸發(fā)機(jī)制，實(shí)現(xiàn)存儲(chǔ)主動(dòng)服務(wù)67IP硬盤硬盤作為通用存儲(chǔ)介質(zhì)已有超過40年的歷史硬盤接口技術(shù)已經(jīng)演進(jìn)到第四代基于SCSI協(xié)議的SAS/SATA接口IDE接口、ATA接口、SCSI接口和SAS接口PCIe推進(jìn)成為一種事實(shí)上的“硬盤接口”傳統(tǒng)的硬盤接口，如SAS和SATA基于傳統(tǒng)的LBA定長(zhǎng)尋址協(xié)議，依賴OS，擴(kuò)展困難互聯(lián)網(wǎng)公司對(duì)冷存儲(chǔ)的需求愈演愈烈，IP接口是理想的選擇IP硬盤硬盤作為通用存儲(chǔ)介質(zhì)已有超過40