軟件和技術(shù)原理-ONTAP系統(tǒng) v1

NetApp軟件和技術(shù)原理DataONTAP操作系統(tǒng)ServiceOneGretronicsDataONTAP操作系統(tǒng)

DataONTAP操作系統(tǒng)是NetApp公司研發(fā)的，具有多項獨家知識產(chǎn)權(quán)的軟件產(chǎn)品。通過結(jié)合WAFL文件系統(tǒng)和微核設(shè)計等多項專利技術(shù)，DataONTAP負責(zé)對網(wǎng)絡(luò)數(shù)據(jù)提供優(yōu)化的存儲訪問服務(wù)。DataONTAP能使網(wǎng)絡(luò)和硬盤系統(tǒng)的資料交換效率達到最佳，系統(tǒng)核心極小(microkernel)，同時具有高穩(wěn)定性、高效率、多重通訊協(xié)議的特性，主要架構(gòu)分成三大部分：

第一是接口部分，包括網(wǎng)絡(luò)接口(GbE-Fiber/Copper,TCP/IPOffloadEngine)和光纖接口(2Gb-FibreChannel)第二是通訊協(xié)議部分，包括FileProtocol(NFS,CIFS,HTTP,DAFS)和BlockProtocol(FCP,iSCSI)第三是文件系統(tǒng)WAFL和整合式RAID磁盤陣列系統(tǒng)(IntegratedRAIDManager)ServiceOneGretronicsDataONTAP操作系統(tǒng)ServiceOneGretronicsDataONTAP操作系統(tǒng)當(dāng)前DataONTAP操作系統(tǒng)在部署的是7.x.x和8.x.xServiceOneGretronicsDataONTAP操作系統(tǒng)FAS存儲操作系統(tǒng)

FAS系列/V系列/GX

核心技術(shù)

WAFL/Snapshot/Raid-dp/Flexvoletc.

開放存儲協(xié)議

FCP/NFS/CIFS/ISCSI–統(tǒng)一存儲 http/https/ftp/ndmp/snmp/smtp/telnet/rsh/sshetc.

存儲網(wǎng)絡(luò)接口

FC-SAN Ethernet-NAS,IP-SANServiceOneGretronics存儲單元劃分ServiceOneGretronicsAggr1vol0vol1vol2vol3物理磁盤Aggregate(RAID組集合)FlexvolumeLUN物理層面邏輯層面存儲單元名稱與定義Aggregate每個控制器必須有獨立的Aggregate可以包含一個或多個RAID組，每個RAID組對應(yīng)一種RAID級別（增強型RAID4或RAIDDP）一個Aggregate只有一種RAID類型，可以在線更改RAID類型物理磁盤的聚合，可以在線的添加硬盤但不能減少硬盤數(shù)量可以包含多個FlexVolumeVolumeNAS存儲單元FlexVolume，可以動態(tài)縮放（20MB－16TB）TraditionalVolume，不支持動態(tài)縮放WAFL文件系統(tǒng)結(jié)構(gòu)LUNSAN/IP-SAN存儲單元虛擬化，可以動態(tài)縮放數(shù)據(jù)格式由主機定義ServiceOneGretronicsWAFL?

顯著增強了RAID性能WAFL將許多個寫入IO聚合成少數(shù)大的磁盤IO并寫入同一個RAID條帶磁頭機械移動的減少獲得了極高的性能提升NVRAM保證數(shù)據(jù)最終寫入磁盤前不會丟失與訪問協(xié)議無關(guān)－FCP,NFS,CIFS,ISCSINetApp采用了RAID4或RAID-DPServiceOneGretronics校驗盤一個條帶數(shù)據(jù)盤FlexVol靈活卷ServiceOneGretronicsAggregateDisksDisksDisksFlexVolume:邏輯空間不需要直接對應(yīng)到物理磁盤，實現(xiàn)了虛擬化FlexibleVolumesAggregate包含物理磁盤傳統(tǒng)的存儲空間分配方式ServiceOneGretronicsERP系統(tǒng)CRM系統(tǒng)辦公自動化系統(tǒng)生產(chǎn)控制系統(tǒng)其它系統(tǒng)3TB1TB1TB2TB2TB總可分配存儲空間哎，都分光了，沒有剩余存儲空間傳統(tǒng)存儲空間分配方式導(dǎo)致的矛盾ServiceOneGretronics3TBERP系統(tǒng)1TBCRM系統(tǒng)辦公自動化系統(tǒng)2TB生產(chǎn)管理系統(tǒng)其它系統(tǒng)2TB分配空間不足需要擴容未使用空間Hi，兄弟分我一點存儲空間門都沒有，自己找管理員要已使用空間1TB圖例使用一段時間后的情景傳統(tǒng)存儲空間分配方式導(dǎo)致的低使用率Flexvol技術(shù)采用的先進的存儲空間分配方式ServiceOneGretronics嘿嘿，所有的存儲空間還在我手里ERP系統(tǒng)CRM系統(tǒng)辦公自動化系統(tǒng)生產(chǎn)控制系統(tǒng)其它系統(tǒng)最多使用3TB最多使用1TB最多使用1TB最多使用2TB最多使用2TB總可分配存儲空間規(guī)定最大能使用的空間配額，不實際占用空間Flexvol技術(shù)采用的使用多少分配多少技術(shù)ServiceOneGretronics最多使用3TBERP系統(tǒng)最多使用1TBCRM系統(tǒng)辦公自動化系統(tǒng)最多使用2TB生產(chǎn)管理系統(tǒng)其它系統(tǒng)最多使用2TB需要擴容未使用空間還剩余的空間使用配額已使用空間圖例總可分配存儲空間多給0.5TB配額最多使用1TB在使用當(dāng)中，采用使用多少分配多少的策略還有這么多空間可以分配FlexVolume技術(shù)提高了存儲空間的使用率FlexVol自動精簡配置技術(shù)ServiceOneGretronics6TBDisksDisksDisks3TB1TBCRM系統(tǒng)2TB1TB辦公自動化系統(tǒng)生產(chǎn)管理系統(tǒng)2TB其它系統(tǒng)存儲空間池ERP系統(tǒng)規(guī)定最大能使用的空間配額，不實際占用空間3TB+1TB+1TB+2TB+2TB6TB>管理Aggregateaggr－可以創(chuàng)建/刪除/管理aggregates,查看aggregates狀態(tài)aggr命令的參數(shù)有：addmirrorrestrictundestroycopyofflinescrubverifycreateonlineshow_spacedestroyoptionssplitmedia_scrubrenamestatus創(chuàng)建AggregateSystem>aggrcreate<aggrname>[-r,-t]ndisks[@disk-size]-r指定一個RAID組中最多包含的硬盤數(shù)量（包括校驗盤）-t指定RAID類型（增強型的RAID4還是DAIDDP）ndisk指定需要用幾塊硬盤創(chuàng)建aggrgate@size指定硬盤的容量例如：aggraddaggr1–r14–traid46@600g創(chuàng)建一個有6塊600GB硬盤的aggregate，名字叫aggr1。使用的RAID類型是增強型的RAID4，每個RAID組最多包含14塊硬盤，ServiceOneGretronics管理Aggregate查看aggr的空間使用狀況System>aggrshow_space[aggrname]啟用/關(guān)閉aggregateSystem>aggronline<aggrname>啟用aggregateSystem>aggroffline<aggrname>關(guān)閉aggregate刪除aggregateSystem>aggrdestroy<aggrname>（aggregate必須先offline）ServiceOneGretronics管理Aggregate更改aggregate的RAID類型System>aggroptions<aggrname>raidtype<raid4|raiddp>例如：aggroptionsaggr1raidtyperaiddp（將aggr1的RAID類型改為RAIDDP）更改aggregate的RAID組的大小System>aggroptions<aggrname>raidsize<value>例如：aggroptionsaggr1raidsize18（調(diào)整aggr1的RAID組的大小，每個組最多包

含18塊硬盤）往現(xiàn)有的aggregate中增加硬盤，增大aggregate的空間System>aggradd<aggrname>[ndisk[@disk-size]or–d[diskname1,diskname2…]例如：aggraddaggr1–d0a.17,0a.20（增加2塊硬盤到aggr1）ServiceOneGretronics管理Aggregate查看aggregate狀態(tài)，包括有哪些aggregate，每個aggregate的RAID類型，硬盤的數(shù)量，space盤的數(shù)量，數(shù)據(jù)盤有幾塊，校驗盤有幾塊System>aggrstatus-rServiceOneGretronics管理Volumevol－可以創(chuàng)建/刪除/管理Volume，查看Volme狀態(tài)vol命令的參數(shù)有：addofflineonlinescrubclonedestroysizeautosizeoptionssplitrenamestatuscopymirrorcreate創(chuàng)建VolumeSystem>volcreate<volname><existing-aggrname><size>[k|m|g|t]例如：volcreatevol1aggr1600g（在現(xiàn)有的aggr1上創(chuàng)建一個6OOGB的vol1，vol1

是一個FlexVolume靈活卷）啟用/關(guān)閉volumeSystem>volonline<volname>啟用volumeSystem>voloffline<volname>關(guān)閉volume刪除VolumeSystem>voldestroy<volname>（volume必須先offline）ServiceOneGretronics管理Volume調(diào)整volume的大小System>volsize<volname>[+|-]<size>[k|m|g|t]例如：volsizevol1+300m（vol1增大300MB的空間）查看volume的大小System>volsize<volname>例如：volsizevol2更改volume的名稱System>volrename<volname><newvolname>例如：volrenamevol1vol2（將vol1改為vol2）ServiceOneGretronics管理Volume查看volume狀態(tài)System>volstatusServiceOneGretronicsWAFL文件系統(tǒng)NetApp的文件系統(tǒng)名為WAFL，是專為Filer系統(tǒng)而設(shè)計的。WAFL是“WriteAnywhereFileLayout”，即“任意位置寫入文件布局”的縮寫。WAFL文件系統(tǒng)和Filer的整合式RAID管理采用一體化設(shè)計，以避免大多數(shù)帶有RAID管理機制的文件系統(tǒng)所固有的性能問題。網(wǎng)絡(luò)化存儲實際應(yīng)用中的三個基本要求決定了需要為NetAppFiler設(shè)計全新的文件系統(tǒng)：文件系統(tǒng)應(yīng)該更加有效地操控RAID機制增加新的硬盤時，文件系統(tǒng)應(yīng)該能夠相應(yīng)的動態(tài)增長

文件系統(tǒng)應(yīng)該不需要做消耗大量時間的一致性檢查ServiceOneGretronicsWAFL文件系統(tǒng)WAFL的主要特點及其所帶來的優(yōu)勢包括：ServiceOneGretronics特點優(yōu)勢永遠一致性的文件系統(tǒng)任何時刻文件系統(tǒng)均處于一致性的狀態(tài)，即使遇到非正常斷電或不正常關(guān)機后，也不需執(zhí)行硬盤檢查，即可在復(fù)電后2分鐘內(nèi)迅速提供服務(wù)具電池保護的NVRAM日志利用存取速度較硬盤快一千倍的內(nèi)存，擔(dān)任文件系統(tǒng)的日志，同時保護metadata及data的交易紀錄，并加速寫入的效率和反應(yīng)時間、保證文件系統(tǒng)的一致性、保證寫入的交易不會因斷電而流失。內(nèi)建智能型最佳化的RAID磁盤陣列管理系統(tǒng)配合NVRAM日志功能，藉由硬盤區(qū)塊的配置最佳化，可將大量的隨機寫入轉(zhuǎn)為少量的循序?qū)懭?，真正達到平行寫入(StripeWrite)并減少磁頭移動的次數(shù)和磁頭移動的距離的目的，加速文件存取和搜尋的速度能增長的文件系統(tǒng)不需其它軟件的協(xié)助，就可直接實時動態(tài)線上擴增文件系統(tǒng)容量且立刻能使用新增加的容量。每次可只增加一塊硬盤或多塊硬盤的方式來擴增，完全不需要停機，也不需要等待時間。另外也可在不擴增容量的前提下，動態(tài)線上提高文件數(shù)量的上限，完全不需要停機，也不需要等待時間，也不影響系統(tǒng)運作效率硬盤區(qū)塊驗證系統(tǒng)(Block-levelChecksum)保障資料讀取的正確性瞬間快照備份(Snapshot)使用不需要移動硬盤區(qū)塊的WAFL專利技術(shù)，可瞬間備份整個文件系統(tǒng)，每個volume可有255份快照，每個使用者都有自己專屬的一個快照目錄，可自行恢復(fù)只屬于自己在任一快照時間點的資料，完全不需系統(tǒng)管理人員的協(xié)助。每個快照備份皆是完整的文件系統(tǒng)備份(FullFileSystemBackup)，不論已有多少份數(shù)的備份，系統(tǒng)運作效率皆不受影響WAFL文件系統(tǒng)

WAFL作為專門為網(wǎng)絡(luò)文件訪問而優(yōu)化的UNIX兼容文件系統(tǒng)。在某些方面，其磁盤格式類似于其它UNIX文件系統(tǒng)，如伯克利快速文件系統(tǒng)（BerkeleyFastFileSystem，以下簡稱FFS）和IBMTransArcEpisode文件系統(tǒng)，相似之處包括：WAFL是基于數(shù)據(jù)塊的，使用沒有片段的4KB大小數(shù)據(jù)塊WAFL使用inodes來描述其文件WAFL文件系統(tǒng)中，目錄是格式特殊的文件WAFL使用文件來儲存元數(shù)據(jù)（MetaData），WAFL三個最重要的元數(shù)據(jù)文件是inode文件，包含文件系統(tǒng)所有的inode塊圖文件，用以識別空閑塊inode圖文件，用以識別空閑inode這里采用“圖”而不是“位圖”的稱謂，因為這些文件采用多于1位（bit）對每一個路徑加以描述ServiceOneGretronicsWAFL文件系統(tǒng)每一個WAFLinode包含16個塊指針，用以表明哪一個數(shù)據(jù)塊屬于該文件。不同于伯克利快速文件系統(tǒng)，一個WAFLinode的所有塊指針指向的是相同層次上的數(shù)據(jù)塊。這樣，對于小于64KB的文件，inode使用16個塊指針指向文件數(shù)據(jù)塊；大于64MB的文件，inode使用塊指針指向間接數(shù)據(jù)塊，間接數(shù)據(jù)塊再指向?qū)嶋H的文件數(shù)據(jù)塊。較大文件的inode指向更多的間接數(shù)據(jù)塊。對于十分小的文件，數(shù)據(jù)儲存在inode本身。簡單的，可以把WAFL理解為數(shù)據(jù)塊樹型結(jié)構(gòu)，在樹的根部是rootinode，rootinode是用以描述inode文件的特殊inode。inode文件包含描述系統(tǒng)中其它文件的inode，包括塊圖和inode圖文件。WAFL文件系統(tǒng)數(shù)據(jù)塊樹型結(jié)構(gòu)的樹葉是所有文件的數(shù)據(jù)塊。如圖所示ServiceOneGretronicsWAFL文件系統(tǒng)文件由不同的數(shù)據(jù)塊組成。較大的文件在inode和實際數(shù)據(jù)塊之間存在額外的間接層次。WAFL要啟動的話，必須要找到該樹型結(jié)構(gòu)的根部，所以對于WAFL（任意位置寫入文件布局）來講，rootinode是個例外，它必須處于硬盤上的固定位置以便WAFL定位。使用文件來保存元數(shù)據(jù)的方式帶來的好處有：允許在硬盤上任何地方寫入元數(shù)據(jù)塊。這就是WAFL名稱的起源。與FFS類似，WAFL在其寫入分配策略上有著完全的靈活性，數(shù)據(jù)塊不是被永久地分配到固定的磁盤位置上。WAFL利用了這種靈活性來優(yōu)化Filer的RAID性能。WAFL可以事先規(guī)劃對同一RAID條帶進行多重寫入的時間，這樣當(dāng)僅僅更新RAID某一硬盤條帶中某一數(shù)據(jù)塊時，就不會對整個寫入性能帶來損耗使文件系統(tǒng)的增長變得十分容易。當(dāng)增加新的硬盤時，F(xiàn)iler可以自動增加元數(shù)據(jù)文件的大小。如果系統(tǒng)的缺省值稍小，管理員也可以手動增加文件系統(tǒng)中的inode。允許元數(shù)據(jù)塊在硬盤上任何地方寫入。這種方式使得SnapShot數(shù)據(jù)快照功能成為可能。要使SnapShot可以工作，WAFL必須可以把新的數(shù)據(jù)，包括元數(shù)據(jù)寫入到新的硬盤空間上，而不是覆蓋原有數(shù)據(jù)。如果WAFL在磁盤上固定的位置存儲元數(shù)據(jù)，這項功能就不可能實現(xiàn)

ServiceOneGretronics

批次動態(tài)條帶化讀寫算法

WAFL文件系統(tǒng)中采用批次動態(tài)條帶化讀寫算法。在UNIX或者Windows文件服務(wù)器中，寫入性能尤其重要，因為它必須直接面對硬盤(或非易失性內(nèi)存)，而讀操作尚可以面對UNIX/Windows客戶端和服務(wù)器的高速緩存。這就使得UNIX或者Windows客戶端和服務(wù)器的硬盤寫操作要比讀操作多5－10倍。當(dāng)服務(wù)器端和客戶端高速緩存增大的情況下，對寫入操作的響應(yīng)主導(dǎo)了I/O子系統(tǒng)的處理過程。其影響是NFS服務(wù)器上的磁盤寫操作可能比讀操作多5倍這種需求特點，激發(fā)了WAFL在最初的設(shè)計中，即最大限度的發(fā)揮了寫入分配策略的靈活性。WAFL文件系統(tǒng)中，通過批次動態(tài)條帶化讀寫算法的三種機制，保證了這種靈活性的實現(xiàn)：WAFL能把文件系統(tǒng)的任何數(shù)據(jù)塊(除包含rootinode的數(shù)據(jù)塊外)寫到磁盤中的任何位置上，從而創(chuàng)造性的優(yōu)化了寫入性WAFL能把數(shù)據(jù)塊按任何順序?qū)懙酱疟PWAFL能在單一寫入周期內(nèi)為多個NFS操作同時分配盤空間。這種延緩分配寫入空間的機制通過從應(yīng)答處理的過程中去除磁盤分配時間，大大改進了NFS操作的等待時間。對于那些在到達磁盤前即被刪除的數(shù)據(jù)塊而言，這種方式也避免了時間的浪費ServiceOneGretronics批次動態(tài)條帶化讀寫算法這些特性賦予了WAFL文件系統(tǒng)特別靈活的寫入策略。為眾多寫入同時分配空間的能力使其更加智能化，允許將數(shù)據(jù)快以任何順序?qū)懭氲饺魏蔚胤降哪芰τ执_保了這種策略適用于多種環(huán)境。概要地講:WAFL通過將多數(shù)據(jù)塊寫入到同一條帶中的方式，大大提高了RAID的效率與性能WAFL通過將相關(guān)的塊寫入到相近的位置而大大縮短了尋道時間WAFL通過將順序的塊放置在RAID陣列中某個單一磁盤上的方式，減少了大文件讀出時的磁頭沖突ServiceOneGretronics

NVRAM

為在磁盤上保存完整的文件系統(tǒng)一致性版本，WAFL文件系統(tǒng)至少每10秒會生成一個內(nèi)部數(shù)據(jù)快照SnapShot，稱為一個一致點(consistencypoint)。當(dāng)時Filer啟動時，WAFL總是使用時間最近的一致點版本，這意味著即使發(fā)生掉電或者其它嚴重系統(tǒng)錯誤后，系統(tǒng)再次投入正常運轉(zhuǎn)也無需耗時的文件系統(tǒng)檢查工作。Filer在僅僅1到2分鐘的時間內(nèi)即可正常啟動，而這段時間也主要是花費在磁盤定位和內(nèi)存檢查上。NVRAM是帶有電池的獨特內(nèi)存，即使切斷電源，仍然可以存儲數(shù)據(jù)。在不正常停機之后，WAFL重演所有“日志”以防丟失，當(dāng)使用者的寫入要