MSPE-基礎(chǔ)類-2-RAID技術(shù)-v1.3課件

MSPE培訓(xùn)教材—RAID技術(shù)1目錄RAID基本概念RAID級別和特點(diǎn)RAID比較和選擇RAID硬盤失效處理CRAID簡述2精選課件RAID出現(xiàn)原因計(jì)算機(jī)發(fā)展初期，大容量硬盤價(jià)格非常高，而需要存儲的數(shù)據(jù)量越來越大容量性能CPU運(yùn)算速度飛速提高，數(shù)據(jù)讀寫速度不應(yīng)該成為計(jì)算機(jī)系統(tǒng)處理的瓶頸信息時(shí)代，數(shù)據(jù)對企業(yè)和個(gè)人的重要性越來越大，數(shù)據(jù)存儲安全更需要保障RAID可靠性3精選課件RAID基本概念——定義RAID（RedundantArrayofIndependentDisks）即獨(dú)立磁盤冗余陣列，RAID技術(shù)將多個(gè)單獨(dú)的物理硬盤以不同的方式組合成一個(gè)邏輯硬盤，從而提高了硬盤的讀寫性能和數(shù)據(jù)安全性。由加利福尼亞大學(xué)伯克利分校（UniversityofCalifornia-Berkeley）在1987年，發(fā)表的文章：“ACaseforRedundantArraysofInexpensiveDisks”。文章中，談到了RAID這個(gè)詞匯，而且定義了RAID的5層級。柏克萊大學(xué)研究其研究目的為，反應(yīng)當(dāng)時(shí)CPU快速的性能。CPU效能每年大約成長30～50%，而硬磁機(jī)只能成長約7%。研究小組希望能找出一種新的技術(shù)，在短期內(nèi)，立即提升效能來平衡計(jì)算機(jī)的運(yùn)算能力。在當(dāng)時(shí)，柏克萊研究小組的主要研究目的是效能與成本。另外，研究小組也設(shè)計(jì)出容錯(cuò)（fault-tolerance），邏輯數(shù)據(jù)備份（logicaldataredundancy），而產(chǎn)生了RAID理論。研究初期，便宜（Inexpensive）的磁盤也是主要的重點(diǎn)，但后來發(fā)現(xiàn)，大量便宜磁盤組合并不能適用于現(xiàn)實(shí)的生產(chǎn)環(huán)境，后來Inexpensive被改為independence，許多獨(dú)立的磁盤組。4精選課件RAID基本概念——級別根據(jù)不同的組合方式可以分為不同的RAID級別RAID0數(shù)據(jù)條帶化，無校驗(yàn)RAID1數(shù)據(jù)鏡像，無校驗(yàn)RAID2海明碼錯(cuò)誤校驗(yàn)及校正RAID3數(shù)據(jù)條帶化讀寫，校驗(yàn)信息存放于專用硬盤RAID4單次寫數(shù)據(jù)采用單個(gè)硬盤，校驗(yàn)信息存放于專用硬盤RAID5數(shù)據(jù)條帶化，校驗(yàn)信息分布式存放RAID6數(shù)據(jù)條帶化，分布式校驗(yàn)并提供兩級冗余5精選課件RAID組合方式——級別擴(kuò)展同時(shí)采用兩種不同的RAID方式還能組合成新的RAID級別RAID0+1先做RAID0，后做RAID1，同時(shí)提供數(shù)據(jù)條帶化和鏡像RAID10類似于RAID0+1，區(qū)別在于先做RAID1，后做RAID0RAID50先做RAID5，后做RAID0，能有效提高RAID5的性能6精選課件RAID基本概念——條帶條塊分條條帶

硬盤0硬盤2硬盤1硬盤37精選課件RAID基本概念——校驗(yàn)異或運(yùn)算P=A0XORA1數(shù)據(jù)A0和A1通過異或運(yùn)算進(jìn)行奇偶校驗(yàn)得到校驗(yàn)位PA0值A(chǔ)1值P值000101011110異或XOR的校驗(yàn)原理

A1A0P數(shù)據(jù)盤數(shù)據(jù)盤校驗(yàn)盤8精選課件RAID基本概念——重建（Rebuild）數(shù)據(jù)盤A1A0PA0A1PXOR故障數(shù)據(jù)盤校驗(yàn)盤A2A2XOR數(shù)據(jù)盤更換9精選課件RAID基本概念——RAID組狀態(tài)RAID組正常工作RAID組降級RAID組重建RAID組創(chuàng)建RAID組失效10精選課件RAID基本概念——物理卷和邏輯卷RAID10RAID5RAID由幾個(gè)硬盤組成，從整體上看相當(dāng)于一個(gè)物理卷在物理卷的基礎(chǔ)上可以按照指定容量創(chuàng)建一個(gè)或多個(gè)邏輯卷，通過LUN（LogicUnitNumber）來標(biāo)識物理卷物理卷邏輯卷邏輯卷單個(gè)物理卷上創(chuàng)建1個(gè)邏輯卷單個(gè)物理卷上創(chuàng)建2個(gè)邏輯卷LUN1LUN2LUN311精選課件RAID、邏輯卷的形成過程物理磁盤物理卷（RAID）12精選課件RAID、邏輯卷的形成過程物理磁盤邏輯卷物理卷（RAID）LUN1LUN2LUN3分割13精選課件RAID寫數(shù)據(jù)三種方式

……一、整條寫整條寫的實(shí)現(xiàn)方式是：第一步：直接將新寫入的數(shù)據(jù)在cache里通過校驗(yàn)運(yùn)算，計(jì)算出校驗(yàn)數(shù)據(jù)。第二步：再將需要寫入的數(shù)據(jù)和校驗(yàn)數(shù)據(jù)同時(shí)寫進(jìn)一個(gè)條帶。如圖所示：IO有效率75%14精選課件RAID寫數(shù)據(jù)三種方式

二、重構(gòu)寫一個(gè)IO寫操作,它所寫入的條帶所在的磁盤數(shù)超過RAID磁盤一半時(shí),可采用重構(gòu)寫方式。重構(gòu)寫的實(shí)現(xiàn)方式是：第一步：先將所需寫入的新數(shù)據(jù)保存到cache，同時(shí)讀取其它磁盤上的老數(shù)據(jù)到cache，再將新數(shù)據(jù)、老數(shù)據(jù)做校驗(yàn)運(yùn)算，得出新校驗(yàn)數(shù)據(jù)。第二步：再將新數(shù)據(jù)、老數(shù)據(jù)和新校驗(yàn)數(shù)據(jù)同時(shí)寫入所在的磁盤扇區(qū)。如圖所示：IO有效率40%讀一次IO，寫4次IO，有效寫數(shù)據(jù)2次IO，有效率是40%15精選課件RAID寫數(shù)據(jù)三種方式

三、讀改寫（read-modifywrite）一個(gè)IO寫操作,它所寫入的條帶所在的磁盤數(shù)不超過RAID磁盤一半時(shí),可采用讀改寫方式。讀改寫的實(shí)現(xiàn)方式是：第一步，先將所需寫入的新數(shù)據(jù)保存到cache，同時(shí)讀取所需要寫入扇區(qū)上的老數(shù)據(jù)到cache，同時(shí)讀取校驗(yàn)盤上相對應(yīng)扇區(qū)上的老校驗(yàn)數(shù)據(jù)到cache，再將新數(shù)據(jù)、老數(shù)據(jù)和老校驗(yàn)數(shù)據(jù)做校驗(yàn)運(yùn)算，得出新校驗(yàn)數(shù)據(jù)。第二步，再將新數(shù)據(jù)、新校驗(yàn)數(shù)據(jù)同時(shí)寫入所在的磁盤扇區(qū)。如圖所示：IO有效率25%讀兩次，寫兩次，有效寫IO只有1次，所以有效率是25%16精選課件RAID級別——RAID0DHLCGKBFJ定義：RAID0即沒有容錯(cuò)設(shè)計(jì)的條帶硬盤陣列（StripedDiskArraywithoutFaultTolerance），以條帶形式將RAID組的數(shù)據(jù)均勻分布在各個(gè)硬盤中ABCDEFGH數(shù)據(jù)……AEI17精選課件RAID級別——RAID0優(yōu)點(diǎn)極高的讀寫效率速度快，由于不存在校驗(yàn)，所以不占用CPU資源部署簡單缺點(diǎn)無冗余，通常和其他RAID級別混合使用不適合用于關(guān)鍵數(shù)據(jù)環(huán)境最小硬盤數(shù)2RAID0小結(jié)：18精選課件RAID級別——RAID1RAID1定義：RAID1又稱鏡像（Mirror），數(shù)據(jù)同時(shí)一致寫到主硬盤和鏡像硬盤EDCBAEDCBAABCDE……=數(shù)據(jù)19精選課件RAID級別——RAID1優(yōu)點(diǎn)提供了很高的數(shù)據(jù)安全性和可用性100％的數(shù)據(jù)冗余設(shè)計(jì)、使用簡單不作校驗(yàn)計(jì)算，CPU占用資源少缺點(diǎn)空間利用率只有1/2相對于單個(gè)硬盤，無法提高寫性能硬盤數(shù)2RAID1小結(jié)：20精選課件A0B0C0D0ECC/AxECC/BxECC/CxECC/DxECC/AyECC/ByECC/CyECC/DyRAID級別——RAID2定義：RAID2采用早期的海明碼校驗(yàn)組成硬盤陣列，RAID中第1個(gè)、第2個(gè)、第4個(gè)……第2的n次冪個(gè)硬盤都是校驗(yàn)盤。RAID2的硬盤利用率很低，目前基本不再使用A1B1C1D1A2B2C2D2A3B3C3D3ECC/AzECC/BzECC/CzECC/DzA0A1A2A3B0B1B2B3C0C1C2數(shù)據(jù)盤校驗(yàn)盤21精選課件RAID級別——RAID3定義：RAID3即帶有校驗(yàn)的并行數(shù)據(jù)傳輸陣列（Paralleledtransferwithparity），數(shù)據(jù)條帶化分布在數(shù)據(jù)盤中，同時(shí)使用專用校驗(yàn)硬盤存放校驗(yàn)數(shù)據(jù)D0C0B0A0D1C1A1B1D2C2A2B2PDPCPAPB異或運(yùn)算數(shù)據(jù)盤校驗(yàn)盤A0A1A2B0B1B2C0……22精選課件RAID級別——RAID3優(yōu)點(diǎn)數(shù)據(jù)分布式存儲在連續(xù)的硬盤上，具有較高的讀速率，適合大文件連續(xù)讀操作的應(yīng)用如果有一個(gè)硬盤損壞，數(shù)據(jù)的有效性沒有影響缺點(diǎn)校驗(yàn)盤是整個(gè)硬盤陣列系統(tǒng)的瓶頸有數(shù)據(jù)盤故障時(shí)，每次讀操作時(shí)都需要進(jìn)行校驗(yàn)計(jì)算，讀性能大幅度下降最小硬盤數(shù)3RAID3小結(jié)：23精選課件RAID級別——RAID4定義：RAID4是帶有共享校驗(yàn)硬盤的獨(dú)立數(shù)據(jù)盤（Independentdatadiskswithsharedparitydisk），與RAID3類似，不同在于對數(shù)據(jù)訪問是每次一個(gè)盤，而RAID3是每次一個(gè)條帶，RAID4的讀寫性能較差，目前較少使用（NetApp-WAFL）異或運(yùn)算A0B0C0D0A1B1C1D1A2B2C2D2A3B3C3D3P0P1P2P3A0A1A2A3B0B1B2B3C0……數(shù)據(jù)盤校驗(yàn)盤24精選課件RAID級別——RAID5定義：RAID5與RAID3機(jī)制類似，但校驗(yàn)數(shù)據(jù)均勻分布在各數(shù)據(jù)硬盤上，RAID成員硬盤上同時(shí)保存數(shù)據(jù)和校驗(yàn)信息，數(shù)據(jù)塊和對應(yīng)的校驗(yàn)信息保存在不同硬盤上。RAID5是最常用的RAID方式之一……P4A3A2A1A0B4P3B2B1B0C4C3P2C1C0D4D3D2P1D0E4E3E2E1P0異或運(yùn)算A0B0C0D0A1B1C1E1A2B2D2校驗(yàn)信息Px分布式存儲數(shù)據(jù)25精選課件RAID級別——RAID5優(yōu)點(diǎn)高讀取速率，中等寫速率提供一定程度的數(shù)據(jù)安全缺點(diǎn)RAID組里單塊硬盤的故障，會導(dǎo)致其他硬盤讀寫性能大幅度下降最小硬盤數(shù)3RAID5小結(jié)：26精選課件RAID級別——RAID6定義：RAID6是帶有兩個(gè)獨(dú)立分布式奇偶校驗(yàn)方案的獨(dú)立數(shù)據(jù)硬盤（Independentdatadiskswithtwoindependentdistributedparityschemes）。廣義上講，能夠允許兩個(gè)硬盤同時(shí)失效的RAID級別統(tǒng)稱為RAID6，狹義上講，特指Intel的RAIDP+Q技術(shù)。硬盤空間利用率為(N-2)/N，N為RAID6陣列硬盤總數(shù)RAID6技術(shù)：目前RAID6還沒有統(tǒng)一的標(biāo)準(zhǔn)，各家公司的實(shí)現(xiàn)方式都有所不同：RAIDP+Q：INTEL和HDS公司(XOR+伽羅瓦運(yùn)算(Galois)）RAIDDP：NetApp公司（橫向XOR+斜向XOR）RAIDADG：HP公司（兩層XOR）27精選課件RAID級別——RAID6原理示例A1A3A2A4A7A10A8A5A9A13A6A15A11A12A16異或運(yùn)算A1A2A3A4A5A6A7A9……橫向校驗(yàn)盤中P1—P4為各個(gè)數(shù)據(jù)盤中橫向數(shù)據(jù)的校驗(yàn)信息 例：P1=A1XORA2XORA3XORA4斜向校驗(yàn)盤中DP1—DP4為各個(gè)數(shù)據(jù)盤及橫向校驗(yàn)盤的斜向數(shù)據(jù)的校驗(yàn)信息 例：DP1=A1XORA6XORA11XORA16P1P2P3P4橫向校驗(yàn)盤斜向校驗(yàn)盤數(shù)據(jù)盤A8DP1DP2DP3DP4A14DP528精選課件RAID級別——RAID6優(yōu)點(diǎn)可以同時(shí)允許兩塊硬盤失效缺點(diǎn)磁盤利用率比RAID5更低校驗(yàn)計(jì)算復(fù)雜，對控制器性能消耗很大，增加系統(tǒng)負(fù)載出現(xiàn)硬盤失效時(shí)，RAID重建時(shí)對系統(tǒng)性能影響更大，并且重建時(shí)間長最小硬盤數(shù)4RAID6小結(jié)：29精選課件RAID組合級別——RAID10定義：RAID10是將鏡像和條帶進(jìn)行兩級組合的RAID級別，第一級是RAID1鏡像對，第二級為RAID0。RAID10也是一種應(yīng)用比較廣泛的RAID級別。ABCDEFGHAACBBCDDEEFFGGHH30精選課件RAID級別——RAID10優(yōu)點(diǎn)高讀取速率高寫速率，較校驗(yàn)RAID而言，寫開銷最小至多可以容許n個(gè)硬盤同時(shí)損壞（2N個(gè)硬盤組成的RAID10陣列）缺點(diǎn)只有1/2的硬盤利用率最小硬盤數(shù)4RAID10小結(jié)：31精選課件RAID組合級別——RAID0+1ABCDEFGH定義：RAID0+1是將條帶和鏡像進(jìn)行兩級組合的RAID級別，第一級是RAID0，第二級為RAID1。一般來說，RAID0+1的失效概率要比RAID10大，不過無硬盤故障下，RAID0+1的讀取速度要比RAID10快ABCDEFGHABCDEFGH32精選課件RAID組合級別——RAID50P13F1定義：RAID50是將RAID5和RAID0進(jìn)行兩級組合的RAID級別，最低一級是RAID5，第二級為RAID0A2P02A1A0B2B1P01B0P03C1C0P00異或運(yùn)算A0B0D0E0A1C0D1F0B1……C1D2P12D1D0E2E1P11E0F0P10硬盤0硬盤1硬盤2硬盤3硬盤4硬盤5異或運(yùn)算33精選課件RAID級別——RAID50優(yōu)點(diǎn)比單個(gè)RAID5容納更多的硬盤比單個(gè)RAID5有更好的讀性能至多可以容許N個(gè)硬盤同時(shí)損壞（N個(gè)RAID5組成的RAID50陣列）比相同容量的單個(gè)RAID5重建時(shí)間更短缺點(diǎn)比較難實(shí)現(xiàn)同一個(gè)RAID5組內(nèi)的兩個(gè)硬盤損壞會導(dǎo)致整個(gè)RAID50陣列的失效最小硬盤數(shù)6RAID50小結(jié)：34精選課件常用RAID比較RAID級別RAID0RAID1RAID3RAID5RAID10RAID0+1別名條帶鏡像專用奇偶位條帶分布奇偶位條帶鏡像陣列條帶條帶陣列鏡像容錯(cuò)性無有有有有有冗余類型無復(fù)制奇偶校驗(yàn)奇偶校驗(yàn)復(fù)制復(fù)制熱備盤選項(xiàng)無有有有有有讀性能高低高高一般高隨機(jī)寫性能高低最低低一般一般連續(xù)寫性能高低低低一般一般最小硬盤數(shù)2塊2塊3塊3塊4塊4塊可用容量N*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N/2)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N-1)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N-1)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N/2)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N/2)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16典型應(yīng)用環(huán)境迅速讀寫，安全性要求不高，如圖形工作站等隨機(jī)數(shù)據(jù)寫入，安全性要求高，如服務(wù)器、數(shù)據(jù)庫存儲領(lǐng)域連續(xù)數(shù)據(jù)傳輸，安全性要求高，如視頻編輯、大型數(shù)據(jù)庫等隨機(jī)數(shù)據(jù)傳輸，安全性要求高，如金融、數(shù)據(jù)庫、存儲等數(shù)據(jù)量大，安全性要求高，如銀行、金融等領(lǐng)域高性能和高安全性，如視頻服務(wù)器35精選課件常用RAID選擇性能可靠性成本RAID0RAID6RAID5RAID10RAID136精選課件RAID硬盤失效處理--熱備和熱插拔熱備：HotSpare定義：當(dāng)冗余的RAID組中某個(gè)硬盤失效時(shí)，在不干擾當(dāng)前RAID系統(tǒng)的正常使用的情況下，用RAID系統(tǒng)中另外一個(gè)正常的備用硬盤自動(dòng)頂替失效硬盤，及時(shí)保證RAID系統(tǒng)的冗余性全局式：備用硬盤為系統(tǒng)中所有的冗余RAID組共享專用式：備用硬盤為系統(tǒng)中某一組冗余RAID組專用熱插拔：HotSwap定義：在不影響系統(tǒng)正常運(yùn)轉(zhuǎn)的情況下，用正常的硬盤物理替換RAID系統(tǒng)中失效硬盤關(guān)鍵在于熱插拔時(shí)電子器件的保護(hù)機(jī)制37精選課件全局熱備示例該熱備盤由系統(tǒng)中兩個(gè)RAID組共享，可自動(dòng)頂替任何一個(gè)RAID中的一個(gè)失效硬盤磁盤1磁盤2磁盤3熱備盤磁盤4磁盤5磁盤6RAID5RAID5磁盤陣列38精選課件專用熱備示例該熱備盤由系統(tǒng)中指定RAID組專用，可自動(dòng)頂替該指定RAID組中的一個(gè)失效硬盤磁盤1磁盤2磁盤3磁盤4磁盤5磁盤6RAID5RAID5磁盤陣列熱備盤熱備盤39精選課件關(guān)于硬盤故障的數(shù)據(jù)統(tǒng)計(jì)圖：硬盤故障分析定位廠家年故障率08.09-09.0309.04-09.09日立1.84%0.92%0.92%西數(shù)1.88%0.89%0.99%邁拓4.52%2.79%1.73%三星4.18%2.25%1.93%希捷5.47%2.89%2.58%表：硬盤故障率統(tǒng)計(jì)來源：Google硬盤故障分析，2007.02據(jù)統(tǒng)計(jì)，存儲系統(tǒng)的硬件故障90%以上是硬盤故障！故障硬盤中，只有12%是完全的物理損壞，88%屬于部分/完全可用

相比中等壓力的硬盤，空閑硬盤的故障率更高圖：不同壓力下的硬盤故障率來源：法國硬盤網(wǎng)站Hardware.fr來源：歷史硬盤故障分析40精選課件4000GB大容量硬盤帶來的問題容量100GB300GB750GB1000GB146GB300GBSAS硬盤250GB400GB500GB750GB1TBSATA硬盤500GB

200773GB450GB

2003

2008

2010600GB

20052TB2009類型業(yè)務(wù)壓力重建時(shí)間2TBSATA(7200轉(zhuǎn))無業(yè)務(wù)壓力20小時(shí)持續(xù)寫壓力5-6天600GBSAS(15000轉(zhuǎn))無業(yè)務(wù)壓力4小時(shí)持續(xù)寫壓力22小時(shí)2000GB表：硬盤初始化/重建時(shí)間測試環(huán)境：RAID5，5+1塊硬盤：1塊2TB

SATA磁盤在無流量壓力下的重建時(shí)間！20小時(shí)4TB20123TB

20123TB1TB2TB41精選課件CRAID-基于Cell的RAID技術(shù)優(yōu)化的同步設(shè)置強(qiáng)大的重建功能按LUN同步快速重建快速同步延時(shí)同步立即同步局部重建優(yōu)化重建全盤重建CRAIDCRAID能為我們帶來什么？42什么是Cell？LUNLUN5RAIDDiskDiskLUNLUNDiskDiskDiskDisklDiskDiskCellRAIDRAID以Cell為核心以Cell為核心組織數(shù)據(jù)，破除LUN與RAID、Disk之間的捆綁關(guān)系，在存儲陣列內(nèi)部形成完全的虛擬化架構(gòu)RAIDDiSKLUN：數(shù)據(jù)邏輯載體Disk：數(shù)據(jù)物理載體LUNRAID：磁盤組織方式Cell:形象稱之為“細(xì)胞”，指帶“活性”的數(shù)據(jù)單元，存儲資源管理的基本單位以1GB或更小的顆粒度管理數(shù)據(jù)LUN、Cell、RAID之間沒有綁定關(guān)系空間資源靈活組合，按需獲取按性能需求實(shí)時(shí)調(diào)整Cell43精選課件重建方式比較數(shù)據(jù)盤1數(shù)據(jù)盤2數(shù)據(jù)盤3傳統(tǒng)RAID5熱備盤磁盤重建數(shù)據(jù)盤1CRAID5數(shù)據(jù)盤2數(shù)據(jù)盤