版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、計算機硬件和網絡要點存儲子系統(tǒng)簡介計算機硬件和網絡要點存儲子系統(tǒng)簡介RAID : Redundant Array of Independent DisksJBOD:Just a Bunch Of Disks計算機硬件和網絡要點存儲子系統(tǒng)簡介RAID的優(yōu)勢: 容量和管理上的優(yōu)勢 性能上的優(yōu)勢 可靠性和可用性優(yōu)勢計算機硬件和網絡要點存儲子系統(tǒng)簡介RAID中所使用的兩種基本分條方法:并行訪問陣列獨立訪問陣列計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-5 寫數據到并行訪問的分條陣列 T=0 T=1 T=2 T=3 T=4驅動器1緩沖接受 驅動器1寫數據 驅動器2寫數據 驅動器3寫數據 驅動器4寫數據 驅
2、動器2等就緒 驅動器2緩沖接受 驅動器3緩沖接受 驅動器4緩沖接受 驅動器1緩沖接受 1連鎖(并行)訪問陣列(通過分條提高性能)同步成員磁盤驅動器中的轉動介質,使得單個的I/O請求在每個成員驅動器上執(zhí)行相等、短時的操作。該方式,每個I/O請求都發(fā)往多個成員磁盤。它要求陣列中的驅動器必須精確工作(轉動、讀寫速度等),成本相對昂貴。計算機硬件和網絡要點存儲子系統(tǒng)簡介 圖4-6 獨立訪問的磁盤驅動器陣列存儲總線RAID控制器獨立訪問的磁盤驅動器陣列I/O操作I/O操作磁盤驅動器獨立訪問分條陣列每一個驅動器由單獨的主機I/O控制器操作,按照所建立的虛擬設備映射,I/O操作可分散到各驅動器上執(zhí)行。評價:
3、適用于事物處理應用。它可將多個I/O發(fā)送到多個驅動器,支持重疊I/O操作。效率遠高于單磁盤。適用于:事物處理、ERP系統(tǒng)、Internet服務、多用戶服務器應用、多小文件的文件服務器。計算機硬件和網絡要點存儲子系統(tǒng)簡介1校驗冗余:通過計算陣列中成員磁盤上的校驗值,并將它存在另外的磁盤上,以實現校驗冗余(常用XOR校驗)。2校驗恢復(重建) :當RAID陣列中的一個成員磁盤失敗時,對剩余磁盤上的數據進行校驗操作的逆操作(XOR),恢復失敗磁盤上的數據。 當一個成員磁盤失敗時,主機發(fā)出數據請求,陣列控制器將其余成員磁盤的數據與校驗數據讀出,用XOR操作計算出丟失的數據。然后將恢復的數據發(fā)送到主機,
4、完成I/O請求。計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-7 使用XOR功能建立校驗數據和恢復丟失的數據數據磁盤失敗磁盤校驗磁盤XORXOR使用XOR功能在校驗磁盤上建立校驗數據XOR功能使用校驗數據恢復失敗磁盤計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-8 使用校驗恢復在置換磁盤上重建數據 數據磁盤置換磁盤校驗磁盤XOR使用校驗恢復在置換磁盤上重建數據當用新的磁盤代替陣列中的失敗磁盤時,校驗恢復進程讀出其它所有磁盤上的數據,并用XOR功能在置換后的磁盤上恢復數據。計算機硬件和網絡要點存儲子系統(tǒng)簡介使用分區(qū)劃分磁盤 RAID咨詢委員會(RAB)定義分區(qū)概念為:一組地址連續(xù)的成員磁盤存儲塊,單個磁盤可
5、有一個或多個分區(qū)。一個磁盤上的多個分區(qū)可以有不同的大小。多個可能不連續(xù)的分區(qū)可以通過虛擬磁盤到成員磁盤的映射,成為同一虛擬磁盤的一部分。分區(qū)也稱為邏輯盤,對于操作環(huán)境,它們通常不是直接可見。 分區(qū)的組合可以形成RAID子系統(tǒng)的陣列、鏡像和虛擬驅動器。組織RAID陣列中的數據:分區(qū)、分塊和分條計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-17 在一個4個磁盤的陣列的成員磁盤上定義的分區(qū)DABCABCABCDABC分區(qū)1A分區(qū)1B分區(qū)1C分區(qū)2A分區(qū)2B分區(qū)2C分區(qū)2D分區(qū)3A分區(qū)3B分區(qū)3C分區(qū)4A分區(qū)4B分區(qū)4C分區(qū)4D磁盤1磁盤2磁盤3磁盤41A4A,1B4B分別組合成2個陣列。分區(qū)1C+3C、2
6、C+4C及2D+4D組合形成鏡像對。一種組合方式:計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-18 成員磁盤地址到虛擬驅動器地址的統(tǒng)一成員磁盤地址成員磁盤地址虛擬驅動器地址虛擬驅動器中的成員磁盤分區(qū)的統(tǒng)一組合在陣列中的成員磁盤分區(qū)使用虛擬驅動器統(tǒng)一地址 陣列管理軟件將分區(qū)組合成陣列,并提供給主機,實現統(tǒng)一管理的映像。資源的統(tǒng)一表示也可稱為虛擬設備。從虛擬驅動器到成員驅動器I/O操作傳送計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-19 分條、分塊及分區(qū)三者之間的關系分塊1分塊2分塊3分塊4分條1分條2分條3分條4分區(qū)1分區(qū)2分區(qū) 3分區(qū)4從分區(qū)到分塊分條 (strip)磁盤分區(qū)可以進一步細分成更小的段作
7、為單個I/O操作對象,并稱之為塊(大小相等,地址相鄰)。若分區(qū)又屬于一個陣列,分塊的長度(不同分區(qū)相應塊的組合數)成為分條的深度。在某些環(huán)境下,分塊被稱為分條的元素。組合分塊成分條分條是同陣列中的兩個或更多分區(qū)上的一組位置相關的分塊,位置相關意味著每個分區(qū)的第一分塊屬于第一分條,第二分塊屬于第二分條,以此類推。計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-20 組合分塊形成分條分條1分條2分區(qū)1分區(qū)2分區(qū)3分區(qū)4分塊1分塊2分塊1分塊2分塊1分塊2分塊1分塊2另一種分條的分塊組合表示方式計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-21 邏輯而不是物理地組合分條分區(qū)A1分區(qū)A2分區(qū)A3分區(qū)B1分區(qū)B2分區(qū)
8、B3分塊7分塊3分塊11分塊7分塊3分塊11分條7分條3分條11磁盤A磁盤B分區(qū)組合:A1+B2,A2+B3,A3+B1,形成3個陣列。分區(qū)中的塊是按它們在分區(qū)中的相對位置排列。計算機硬件和網絡要點存儲子系統(tǒng)簡介校驗分塊數據 使用XOR函數建立校驗數據 XOR函數在逐位基礎上對實際數據進行操作,建立校驗數據。(在并行(連鎖)訪問RAID和獨立訪問RAID上建立校驗數據的方法是不同的) 1校驗計算 RAID校驗數據的計算多使用布爾XOR函數。XOR函數可用于多位的組合運算,并與位的操作順序無關。 2XOR的逆操作也是XOR 例:1 XOR 1 = 0 ;其逆操作:0 XOR 1 = 1; 0 X
9、OR 1 = 1 ;其逆操作:1 XOR 1 = 0; 計算機硬件和網絡要點存儲子系統(tǒng)簡介3并行訪問陣列中的簡約模式操作 “簡約”用在RAID環(huán)境下是指:當一個磁盤失敗后,磁盤子系統(tǒng)將在少一個壞盤情況下繼續(xù)正常工作。 若失敗的是數據磁盤,對于讀操作,陣列將恢復由失敗磁盤引起的丟失數據;對于寫操作,除了數據不被寫到失敗的磁盤,并將更新校驗數據寫到校驗磁盤外,簡約環(huán)境下的寫操作與常規(guī)的寫操作相同。這樣,即使數據實際并沒有寫到失敗磁盤上,失敗磁盤上的數據也能恢復。當一個替代磁盤安裝后,校驗恢復操作將為新的磁盤重建數據。 計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-22 校驗磁盤失敗的子系統(tǒng)性能數據磁盤數
10、據磁盤數據磁盤校驗磁盤當校驗磁盤失敗時無須XOR功能RAID控制器RAID子系統(tǒng)計算機硬件和網絡要點存儲子系統(tǒng)簡介并行訪問RAID的校驗在并行訪問RAID中,寫操作將數據分條,寫入磁盤陣列中。同時也計算校驗數據,并將它寫入一個附加的同步校驗磁盤。校驗磁盤與陣列中的數據磁盤分區(qū)和分條大小相同。同樣,由于數據磁盤失敗而需要信息恢復時,從同步磁盤中讀出分條數據(包括校驗磁盤),對數據進行XOR操作,由此重建失敗磁盤的數據。計算機硬件和網絡要點存儲子系統(tǒng)簡介獨立訪問RAID的校驗 獨立訪問RAID的情況稍復雜,數據并不分塊寫入幾個轉動速度相同的同步磁盤,而是寫入單個分區(qū)中的分塊,然后再寫入下一個分區(qū)。
11、1獨立訪問陣列的寫額外開銷 在計算新數據的校驗值時,需要從陣列磁盤中讀出存在的數據。為了寫新的數據并計算其校驗值所需執(zhí)行的讀和計算操作,稱為RAID寫的額外開銷。 在更新某一個磁盤的數據時,并不讀出陣列中所有其它磁盤對應位置的數據來計算新的校驗值,僅需讀出原校驗數據和需要更新的數據。經過XOR運算,除去原數據值對校驗值的影響,再將校驗數據與新數據進行XOR運算,形成新的校驗數據,最后寫入各自的磁盤。 計算機硬件和網絡要點存儲子系統(tǒng)簡介XOR2號磁盤數據1,2,3,4號磁盤的校驗數據1,3,4號磁盤的校驗數據(去除2號磁盤的影響)例 除去2號磁盤對校驗值的影響計算機硬件和網絡要點存儲子系統(tǒng)簡介新
12、數據寫入獨立訪問陣列的過程(更新校驗數據和寫入新數據)從主機I/O控制器接收I/O請求和新數據;讀出將被替代分塊的原有數據;讀出該塊的校驗數據;對校驗數據與原有數據實施XOR操作(去除原有數據對校驗數據的影響);對該校驗數據與新數據實施XOR操作(得到新的校驗數據);將新的校驗數據寫入磁盤;將新數據寫入磁盤。計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-23 讀、修改及寫周期數據磁盤數據磁盤數據磁盤校驗磁盤XORXOR讀寫I/O請求(更新磁盤3)計算新的校驗數據從校驗數據中去除原有數據的影響RAID控制器新數據新的校驗數據原有數據原有數據原有的校驗數據123下圖顯示了一個帶有4個成員磁盤陣列(包含校
13、驗盤)的讀、修改和寫的過程,要求更新3號數據盤上的數據。計算機硬件和網絡要點存儲子系統(tǒng)簡介獨立訪問陣列的讀、寫性能 在一個讀、修改和寫周期中,一次單個驅動器的寫操作需要獨立訪問陣列做4次數據傳輸,從而導致開銷增大。所以獨立訪問陣列的讀操作比其寫操作快的多。它的寫操作慢于連鎖訪問陣列和單個磁盤。使用磁盤寫緩存減少額外開銷 計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-24 回寫緩存減少了由讀、修改和寫的回復數據磁盤數據磁盤數據磁盤校驗磁盤123XOR保存寫回寫磁盤緩存RAID控制器新數據新數據新的校驗數據計算新的校驗數據讀磁盤更新磁盤1+2下圖顯示了一個回寫緩存示例,它的作用是保存陣列寫,直到有足夠多
14、的數據,即占有分條中的多數分塊為止。計算機硬件和網絡要點存儲子系統(tǒng)簡介XOR磁盤 為了滿足一些RAID 子系統(tǒng)的要求,XOR功能可以集成到磁盤驅動器控制器中用來提高性能。其基本思想是:將多個I/O操作和XOR功能組合在一起,形成一個磁盤驅動器的請求。(原有校驗數據)XOR(原有數據)XOR(新數據)= 新的校驗數據表達式修改后(原有數據)XOR(新數據)XOR (原有校驗數據)= 新的校驗數據計算機硬件和網絡要點存儲子系統(tǒng)簡介帶有XOR功能的磁盤驅動器具有以下功能:從主機I/O控制器接受新數據;從磁盤讀出原有數據;計算新數據和原有數據的XOR值;傳送XOR值到陣列中的另一磁盤,如校驗數據存放的
15、磁盤;從另一磁盤操作接受XOR數據,并使之與其數據實行XOR操作,產生即將寫入磁盤的新校驗數據。計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-25 XOR磁盤驅動器的讀、修改和寫的流水過程數據磁盤數據磁盤數據磁盤校驗磁盤123數據磁盤4XORXOR 新數據新數據原有數據XOR原有+新數據新的校驗數據原有的校驗數據塊轉換I/O請求RAID控制器下圖顯示了5個具有XOR功能磁盤驅動器的陣列,這些XOR磁盤驅動器可以計算校驗數據。計算機硬件和網絡要點存儲子系統(tǒng)簡介各級RAID的比較八十年代,由伯克利完成最初的RAID工作,RAID分為5級,每級擁有不同的特性和算法,后又發(fā)展為6級。隨著時間的推移,另一級R
16、AID也廣泛地被工業(yè)界所接受,即RAID0。RAID 0:分條RAID 0是簡單的不帶校驗的磁盤分條。本質上它并不是真正的RAID,因為它不提供任何形式的冗余。假如RAID 0的磁盤失敗,該磁盤上的數據將丟失。典型的RAID 0使用獨立訪問的方法將數據分條,然后發(fā)送給成員磁盤。因為RAID 0不需要校驗計算,因而它是所有類型的陣列中吞吐量最快的。對于以性能為第一要求,且數據保護需要最小的應用,適合選擇RAID 0。如多媒體產品應用。第四講 存儲子系統(tǒng)-RAID (2)計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-26 RAID 0的數據映射虛擬驅動器成員磁盤1成員磁盤2成員磁盤3成員磁盤4RAID
17、0的數據映射 RAID 0具有邏輯磁盤到物理磁盤的映射功能,實現虛擬磁盤管理計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-27 RAID 1中的磁盤映射虛擬磁盤成員磁盤1成員磁盤2RAID 1:鏡像 RAID 1是非校驗的RAID級,其數據保護和傳輸性能都很優(yōu)秀。RAID 1的數據映射:對一個磁盤的操作時對另一個磁盤同樣實施。計算機硬件和網絡要點存儲子系統(tǒng)簡介RAID 2:專有的校驗碼磁盤訪問 RAID 2的定義涉及RAID控制器中的錯誤校驗電路,由RAID控制器執(zhí)行。今天,該項功能已被集成到磁盤驅動器中。RAID 2沒有形成產品,文獻中也幾乎被忽略。計算機硬件和網絡要點存儲子系統(tǒng)簡介RAID 3:
18、使用專有校驗磁盤的并行(連鎖)訪問RAID 3子系統(tǒng)將數據分條存放到陣列中的所有驅動器,將校驗數據寫到陣列中的一個另外的校驗磁盤。RAID 3被認為是校驗RAID。本講前面所討論的連鎖訪問RAID都屬于RAID 3。為了獲得高性能,RAID 3需要同步磁盤轉動。由于嚴格控制磁盤操作很困難,所以RAID 3很少在主機卷管理軟件中實現,而在帶有集成RAID控制器的RAID子系統(tǒng)中實現。RAID 3的大部分性能優(yōu)勢來自于緩存和高磁盤轉速。RAID 3技術已不多見。RAID 3適用于寫性能要求嚴格的環(huán)境中,也適合大的順序訪問應用,如數據挖掘、多媒體/電影制作等。計算機硬件和網絡要點存儲子系統(tǒng)簡介RAI
19、D 3的數據映射:如圖4-5所示圖4-5 寫數據到并行訪問的分條陣列 T=0 T=1 T=2 T=3 T=4驅動器1緩沖接受 驅動器1寫數據 驅動器2寫數據 驅動器3寫數據 驅動器4寫數據 驅 動器2等就緒 驅動器2緩沖接受 驅動器3緩沖接受 驅動器4緩沖接受 驅動器1緩沖接受 計算機硬件和網絡要點存儲子系統(tǒng)簡介RAID 4:使用專用校驗磁盤的獨立訪問RAID 4是一種獨立訪問的RAID實現,它有一個專用的校驗磁盤。與RAID 3不同的是,RAID 4有更大量的分塊,使多個I/O請求能同時處理。它具有讀性能優(yōu)勢,但寫開銷很大,因為每次讀、修改和寫周期中,校驗磁盤都被訪問2次。當RAID 4中的
20、磁盤數量增加時,它的寫瓶頸效應也會隨之增加。緩解的辦法是使用回寫緩存。RAID 4的數據映射:如下圖所示計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-28 RAID 4的數據映射虛擬驅動器XOR成員磁盤1成員磁盤4成員磁盤2成員磁盤3校驗成員磁盤RAID 4的數據映射:如下圖所示計算機硬件和網絡要點存儲子系統(tǒng)簡介RAID 5:使用分布式校驗的獨立訪問 RAID 5是一個獨立訪問的RAID陣列,校驗數據被分布在陣列中的所有磁盤。由于沒有一個專有的校驗磁盤,因而沒有像RAID 4一樣的寫瓶頸。RAID 5比RAID 4更適合支持的磁盤,可以擁有更大的容量和更多的磁盤臂,因而也具有更高的性能。RAID 5
21、的數據映射:由于沒有校驗數據分布的規(guī)范和標準,所以在RAID 5中,各廠商實現的校驗數據分布方案也不相同。RAID 5陣列的最優(yōu)負載是事物處理。多個I/O請求能在RAID子系統(tǒng)中交叉執(zhí)行。對于寫操作比例很大的應用不建議使用RAID 5?;貙懢彺婵梢跃徑庠搯栴}。計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-29 RAID 5的數據映射校驗數據分條4校驗數據分條3校驗數據分條2校驗數據分條1成員磁盤虛擬驅動器下圖中的方法:第一個分條的校驗數據方在第一個磁盤上,第二個分條的校驗數據方在第二個磁盤上,以此類推。由于本陣列中只有5個磁盤,所以第六個分條的校驗數據將回放在第一個驅動器上。計算機硬件和網絡要點存儲
22、子系統(tǒng)簡介RAID 6:使用雙校驗的獨立訪問RAID 6提供兩級冗余,使陣列中兩個驅動器失敗時,陣列仍然能夠繼續(xù)工作。一般而言,RAID 6的實現代價要比其它級的RAID高。DAID 6的校驗數據 使用多種算法,如XOR和其它函數;在不同的分條上或磁盤上使用排列的數據。RAID 6的一維冗余 使用兩個校驗磁盤支持數據磁盤。例:第一個校驗磁盤支持一種校驗算法P,而第二個校驗磁盤支持另一種校驗算法Q,使用兩種算法也稱為P+Q校驗。計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-30 一維 RAID 6的數據映射校驗數據A分條2校驗數據B分條2校驗數據A分條1校驗數據B分條1成員磁盤虛擬驅動器計算機硬件和網
23、絡要點存儲子系統(tǒng)簡介3 RAID 6的二維冗余 二維冗余基于的概念:陣列可以按邏輯安排成由行列組成的矩陣。數據的排列以行和列表示,校驗數據可作為陣列空間的正交矢量來計算。 該方法可簡單地看作MN的矩陣,M個校驗磁盤需要N個校驗計算,N個校驗磁盤需要M個校驗計算。總的需要校驗磁盤數為M+N。 二維方法的優(yōu)點之一是可以利用同樣的算法計算校驗數據,大大簡化了用于簡約功能的操作。4二維RAID 6陣列的數據映射 圖4-31所示。實際上矩陣排列沒有必要與磁盤排列一致。一般不要將幾排獨立的陣列構造成矩陣,如果這樣做的話,需要陣列具有完全相同的分區(qū)大小和分條深度。而由同一陣列的分區(qū)邏輯地構造矩陣將容易的多。
24、計算機硬件和網絡要點存儲子系統(tǒng)簡介 圖4-31 二維RAID 6陣列的數據映射虛擬驅動器成員磁盤1成員磁盤2成員磁盤3成員磁盤4校驗數據磁盤1, XOR磁盤3校驗數據磁盤2, XOR磁盤4校驗數據磁盤1, XOR磁盤2校驗數據磁盤3, XOR磁盤4計算機硬件和網絡要點存儲子系統(tǒng)簡介組合不同級的RAID 陣列管理軟件可以駐留在RAID子系統(tǒng)中,也可以駐留在主機卷管理軟件或主機I/O控制器中。因此,在邏輯上可以把RAID功能分成多層,以取得綜合優(yōu)勢。例如,將鏡像和分塊組合就可以同時獲得性能和可靠性(冗余)兩方面的優(yōu)勢。多層RAID陣列的目標 組合多個RAID級的目的是揚長避短,用一個級的優(yōu)點補償另
25、一級的缺點,產生具有綜合優(yōu)勢的混合RAID陣列。 表6-3 不同RAID級的特點比較RAID級 相對優(yōu)點 相對缺點RAID 0 性能較好 無冗余RAID 1 無校驗冗余 花費較多RAID3 寫開銷最小 無交叉操作RAID 4 少量交叉I/O操作 校驗磁盤瓶頸RAID 5 少量交叉I/O操作 寫額外開銷較小 計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-32 多個低級位置陣列表示為單 個高級位置陣列的虛擬成員驅動器磁盤磁盤磁盤磁盤磁盤磁盤磁盤磁盤磁盤最低位置陣列虛擬驅動器的最高位置 為了討論方便,我們將管理磁盤的RAID稱為最低級,最靠近CPU的RIAD稱為最高級。最高位置的陣列是虛擬化的,并不包括物
26、理硬件。計算機硬件和網絡要點存儲子系統(tǒng)簡介分塊和鏡像的組合:RAID 0+1/RAID 10 RAID 0 和RAID 1的組合稱為RAID 0+1或RAID 10。通過將RAID 0分條的速度優(yōu)勢和RAID 1鏡像的冗余進行組合,結果可以產生一個快速、沒有寫開銷、具有極好冗余性質的子系統(tǒng)。如圖4-33所示,此圖中RAID 0部分處于最高位置, RAID 1陣列處于最低位置。 RAID 0+1/RAID 10正變得越來越流行。RAID 0+1/RAID 10的特點操作量減少,性能不降低;與校驗RAID 比,它的寫開銷??;一個帶有X個虛擬成員驅動器的陣列,在所有X個驅動器失敗之前,它還能繼續(xù)工作;陣列容量的擴展并不減少MTDL(平均數據丟失時間);MTDL取決于單個磁盤,而不是多個磁盤;容易使用多個產品的實現。計算機硬件和網絡要點存儲子系統(tǒng)簡介圖4-33 RAID 0+1/RAID 10:一個分塊虛擬驅動器到鏡像磁
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 二零二四年工業(yè)用地買賣合同
- 2025年度綠色能源儲煤場建設與運營管理合作協議3篇
- 二零二四年廣告發(fā)布合同標的及發(fā)布內容
- 二零二五年度房地產項目合作開發(fā)合同6篇
- 2024銷售云服務超兔一體云CRM系統(tǒng)實施合同3篇
- 2025年園林景觀草籽草坪種植與維護合同3篇
- 2025年度房地產項目融資財產保全及監(jiān)管合同3篇
- 2025年度高速公路綠化帶建設及養(yǎng)護服務合同4篇
- 二零二五版房地產營銷推廣甲乙戰(zhàn)略合作合同
- 現代文學史自考知識點:曹禺作品考點總結
- 小學心理健康教師資格考試面試2024年下半年試題與參考答案
- (正式版)QC∕T 1206.2-2024 電動汽車動力蓄電池熱管理系統(tǒng) 第2部分:液冷系統(tǒng)
- (正式版)CB∕T 4550-2024 船舶行業(yè)企業(yè)安全設備設施管理規(guī)定
- 完整版肺癌護理查房課件
- 正規(guī)光伏屋頂租賃合同
- 敘事護理活動方案設計
- 小小科學家《物理》模擬試卷A(附答案)
- 醫(yī)療器械經銷商會議
- 完整版-九年級科學科學公式
- 2023年檢驗科室間質評年度總結
- 《±1100kV特高壓直流換流變壓器使用技術條件》
評論
0/150
提交評論