云計算基礎(chǔ)架構(gòu)與實踐- 課件 項目2 云計算存儲架構(gòu)部署

《云計算基礎(chǔ)架構(gòu)與實踐》21世紀高等院校云計算和大數(shù)據(jù)人才培養(yǎng)規(guī)劃教材項目2云計算存儲架構(gòu)部署人民郵電出版社2.2項目分析2.1項目背景2.3學習目標2.4知識準備2.6拓展任務(wù)2.5項目實施項目背景2.1

如何實現(xiàn)云環(huán)境中數(shù)據(jù)的高效存儲是云計算提供服務(wù)的基本要求。云計算和云存儲已經(jīng)成為提供信息和在線功能的首選方法。

云計算和云存儲已經(jīng)成為解決普通IT問題和挑戰(zhàn)的熱門話題，同樣帶來新的機遇。以數(shù)據(jù)中心網(wǎng)絡(luò)為基礎(chǔ)的分布式存儲是構(gòu)建云計算的物理實體。通常我們所熟知的存儲設(shè)備為與計算機主板I/O接口（如IDE、SCSI）相連接的硬盤，由本機操作系統(tǒng)負責讀寫及管理，這就是傳統(tǒng)的數(shù)據(jù)存儲技術(shù)，稱為DAS（DirectAttachedStorage，直接附加存儲）。其與NAS（Network-AttachedStorage，網(wǎng)絡(luò)附屬存儲）所采用的基于IP局域網(wǎng)的文件共享設(shè)備，能消除對多個文件服務(wù)器的需求，通過文件級的數(shù)據(jù)訪問和共享的存儲有一定的區(qū)別。然而，存儲作為云計算提供IaaS服務(wù)的一部分，如何在云計算平臺上搭建存儲架構(gòu)部署提供SAN（StorageAreaNetwork）區(qū)域存儲服務(wù)就顯得尤為重要。項目分析2.2

網(wǎng)絡(luò)技術(shù)的發(fā)展，存儲不再局限于計算機外殼的內(nèi)部，網(wǎng)絡(luò)存儲在服務(wù)器領(lǐng)域日益成為主流。在存儲設(shè)備中最重要的應(yīng)該是硬盤，對硬盤的讀寫速度、容量和質(zhì)量的追求，硬盤技術(shù)幾經(jīng)變遷。單從與主板的接口標準上分就有ATA（IDE）、SATA、SCSI、SAS、FC和Infiniband之多，它們在接口、傳輸媒介和協(xié)議上都存在一定區(qū)別。

然而，隨著網(wǎng)絡(luò)存儲的發(fā)展，區(qū)分出了DAS（DirectAttachedStorage）、NAS（Network

AttachedStorage）、SAN（StorageAreaNetwork）等存儲模式。

WindowsServer對支持存儲虛擬化的幾項重要改進。在WindowsServer中新增和改進了許多存儲特性實現(xiàn)對存儲虛擬化的支持，其中最為引人關(guān)注的是iSCSI目標服務(wù)器、SMB3.0和存儲空間。知識目標了解云計算存儲架構(gòu)部署過程；熟悉傳統(tǒng)數(shù)據(jù)DAS存儲技術(shù)；熟悉網(wǎng)絡(luò)附加NAS存儲技術(shù)；熟悉云計算存儲架構(gòu)的SAN存儲技術(shù)。能力目標能在WindowsServer中搭建SAN存儲服務(wù)（iSCSI）；能在LinuxServer中搭建NAS存儲服務(wù)（NFS）；能熟練安裝部署FreeNAS開源存儲系統(tǒng)。學習目標2.3知識準備2.401OPTION02OPTION03OPTION共享存儲模型磁盤存儲陣列存儲網(wǎng)絡(luò)04OPTION共享文件系統(tǒng)

05OPTION共享存儲架構(gòu)

06OPTIONNAS存儲系統(tǒng)擴展應(yīng)用

1共享存儲模型1）SAN與NAS共享存儲體系結(jié)構(gòu)主要可以分為SAN（StorageAreaNetwork，存儲區(qū)域網(wǎng)絡(luò)）和NAS（NetworkAttachedStorage，網(wǎng)絡(luò)附屬存儲）兩大類：主機本地存儲被稱為直連式存儲（DirectAttachedStorage，DAS），顧名思義，這時存儲設(shè)備通過電纜（通常是SCSI接口電纜）直接連到服務(wù)器。圖2-3存儲區(qū)域網(wǎng)絡(luò)SAN圖2-4網(wǎng)絡(luò)附屬存儲NAS2磁盤存儲陣列1．磁盤存儲介質(zhì)存儲介質(zhì)是指存儲數(shù)據(jù)的載體。目前最流行的存儲介質(zhì)是基于閃存（NandFlash）的。就磁盤而言，就是給盤片涂上具有記憶功能的磁性材料。常用的磁性材料為鈷鉑鉻硼（CoPtCrB）合金。磁盤上表示信息的小磁極是由數(shù)百個磁性顆粒組成，磁記錄密度越高，要求磁性材料的粒度越細。2．RAID磁盤組磁盤陣列（RedundantArraysofIndependentDisks，RAID），有“獨立磁盤構(gòu)成的具有冗余能力的陣列”之意。磁盤陣列是由很多價格較便宜的磁盤組合成一個容量巨大的磁盤組，利用個別磁盤提供數(shù)據(jù)所產(chǎn)生加成效果提升整個磁盤系統(tǒng)效能。磁盤陣列的樣式有三種：一是外接式磁盤陣列柜；二是內(nèi)接式磁盤陣列卡；三是利用軟件來仿真。2磁盤存儲陣列磁盤陣列至少已經(jīng)包含了2種類型的磁盤，即FC磁盤和SATA磁盤。FC磁盤即光纖通道磁盤，以光纖通道仲裁環(huán)（FC-AL）技術(shù)作為硬盤連接接口，能夠顯著提高I/O吞吐量，是一種高性能磁盤，在高端存儲設(shè)備上被普遍使用。SATA磁盤即串行總線接口（SerialATA）磁盤。它采用串行傳送的數(shù)據(jù)序列，在性能上，SATA磁盤略遜于FC磁盤，但SATA磁盤能夠具有更大的存儲容量，其單盤容量可以是FC磁盤容量的2倍以上，屬于高性價比磁盤。圖2-8磁盤陣列設(shè)備的邏輯視圖圖2-7磁盤存儲陣列設(shè)備的物理視圖2磁盤存儲陣列磁盤存儲介質(zhì)又有了新的發(fā)展趨勢：一是SAS磁盤正逐步代替FC磁盤，成為高性能磁盤的主流；二是新型高性能SSD硬盤的出現(xiàn)帶來存儲性能的飛躍。SAS（SerialAttachedSCSI，串行連接SCSI）磁盤被稱為新一代SCSI磁盤。而SAS在架構(gòu)上的優(yōu)勢，使其在配制大量磁盤時具有整體性能優(yōu)勢。由于采用了串行傳輸接口技術(shù)，能夠更好地兼容SATA接口。SSD固態(tài)硬盤（SolidStateDisk）是用固態(tài)電子存儲芯片陣列制成的硬盤，內(nèi)部沒有普通磁盤的機械裝置。SSD硬盤的接口規(guī)范、功能及使用方法與普通硬盤相同，其性能遠高于普通磁盤。（連續(xù)讀寫4倍，隨機讀寫140倍）RAID（RedundantArraysofInexpensiveDisks）的字面含義是“價格便宜磁盤的冗余陣列”。其原理是將磁盤組成陣列數(shù)組，將數(shù)據(jù)以某種方式排列后分散存儲在這一組磁盤陣列中。通過數(shù)據(jù)的分散排列可以使數(shù)據(jù)讀寫在多個磁盤上并行，提供總體性能；在有磁盤故障時，通過磁盤間同位檢查（ParityCheck）的方法重構(gòu)數(shù)據(jù)，維持數(shù)據(jù)的可用性。RAID存在一組標準規(guī)范。存儲邏輯單元存儲邏輯單元2磁盤存儲陣列3．磁盤存儲介質(zhì)磁盤存儲設(shè)備是如何向主機提供連續(xù)的塊存儲空間的，可以從分配給主機的最小存儲單元著手。經(jīng)共享存儲可以使用的一個“磁盤”，是一個邏輯磁盤設(shè)備，在SCSI存儲訪問協(xié)議環(huán)境下（存儲源設(shè)備和目標設(shè)備之間的數(shù)據(jù)訪問協(xié)議SCSI在共享存儲中占統(tǒng)治地位），這個邏輯設(shè)備用一個具有唯一性的數(shù)碼LUN（LogicalUnitNumber，邏輯單元號）標記，LUN的原始意義只是一個整數(shù)，但習慣上一個LUN用來指代與之唯一對應(yīng)的邏輯存儲設(shè)備圖2-15LUN置備3存儲網(wǎng)絡(luò)

以光纖信道技術(shù)建構(gòu)的存儲網(wǎng)絡(luò)稱為FibreChannelSAN（FCSAN），以以太網(wǎng)絡(luò)技術(shù)（如iSCSI）建構(gòu)的存儲網(wǎng)絡(luò)則稱為IPSAN。IPSAN：為公眾提供開放的計算、存儲等服務(wù)，如百度的搜索和各種郵箱服務(wù)等；FCSAN：部署在防火墻內(nèi)，為某個特定組織提供相應(yīng)服務(wù)。1．FC存儲網(wǎng)絡(luò)（FibreChannelSAN）

FC用于建構(gòu)具有高傳輸速度的存儲網(wǎng)絡(luò)技術(shù)。FCSAN支持三種基本的拓撲架構(gòu)：點對點、仲裁環(huán)路及交換式光纖網(wǎng)絡(luò)。圖2-20FCSAN支持的三種拓撲架構(gòu)3存儲網(wǎng)絡(luò)2．IP存儲網(wǎng)絡(luò)

IPSAN存儲技術(shù)，是在IP以太網(wǎng)上架構(gòu)一個SAN存儲網(wǎng)絡(luò)，把服務(wù)器與存儲設(shè)備連接起來的存儲技術(shù)。IPSAN是在FCSAN基礎(chǔ)上再進一步，它把SCSI協(xié)議完全封裝在IP協(xié)議之中，將SCSI的指令透過TCP的通信協(xié)議傳送到遠方，以達到控制遠程存儲設(shè)備的方式。由于傳送的封包內(nèi)含有傳輸目標的IP位置，因此是一種效率較高的點對點傳輸。IPSAN技術(shù)的優(yōu)點：節(jié)約大量成本、加快實施速度、優(yōu)化可靠性以及增強擴展能力等。iSCSI是基于IP協(xié)議的，它能容納所有IP協(xié)議網(wǎng)絡(luò)中的部件。圖2-21iSCSI網(wǎng)絡(luò)架構(gòu)3存儲網(wǎng)絡(luò)2．IP存儲網(wǎng)絡(luò)（iSCSI協(xié)議模型）

（a）iSCSI協(xié)議模型(b)iSCSI協(xié)議功能模塊圖3存儲網(wǎng)絡(luò)2．存儲虛擬化網(wǎng)關(guān)應(yīng)用于存儲區(qū)域網(wǎng)絡(luò)（SAN）環(huán)境中的存儲虛擬化（StorageVirtualization）技術(shù)，，通常是指異構(gòu)的SAN環(huán)境下的虛擬存儲服務(wù)，最直接的益處是：提高存儲利用率，降低成本，并簡化大型、復(fù)雜、異構(gòu)的存儲環(huán)境的管理工作?；诰W(wǎng)絡(luò)的虛擬存儲技術(shù)是未來的一種趨勢，將使用在數(shù)據(jù)中心建設(shè)以及異地容災(zāi)應(yīng)用中。SNIA（存儲網(wǎng)絡(luò)工業(yè)協(xié)會）存儲虛擬化含義：（1）存儲虛擬化是為了便于應(yīng)用和服務(wù)進行數(shù)據(jù)管理而采取的針對應(yīng)用、服務(wù)器以及一般網(wǎng)絡(luò)資源進行的存儲子系統(tǒng)或存儲服務(wù)的內(nèi)部功能抽象、隱藏和隔離的行為。（2）存儲虛擬化是針對存儲設(shè)備或存儲服務(wù)進行的虛擬化手段，以便對底層存儲資源實施存儲匯聚、隱藏復(fù)雜性以及添加新功能等。①一般地，虛擬存儲所虛擬的對象是一些存儲資源，如磁盤、磁帶、文件、文件系統(tǒng)、數(shù)據(jù)塊等。其虛擬的結(jié)果往往是虛擬磁盤、虛擬磁帶、虛擬文件、虛擬文件系統(tǒng)、虛擬數(shù)據(jù)塊等。②存儲虛擬化的核心工作是實現(xiàn)物理存儲設(shè)備到單一邏輯資源池的映射。通過虛擬化技術(shù)，為用戶和應(yīng)用程序提供了虛擬磁盤或虛擬卷，并且可以根據(jù)用戶需求對它進行任意分割、合并、重新組合等操作，并分配給特定的主機或應(yīng)用程序，為用戶隱藏或屏蔽了具體的物理設(shè)備的各種物理特性。3存儲網(wǎng)絡(luò)2．存儲虛擬化分類

圖2-23SNIA存儲虛擬化經(jīng)典分類按照實現(xiàn)的位置分類，存儲虛擬化技術(shù)大致可以分為3類：

（1）安裝在主機內(nèi)的純軟件。純軟件的虛擬化功能都在文件系統(tǒng)下層，管理的是塊設(shè)備，提供出來的還是塊設(shè)備。這類軟件在服務(wù)器數(shù)量不多，適合環(huán)境比較簡單的場合。（2）陣列控制器的擴展附加功能。純軟件的虛擬化產(chǎn)品已經(jīng)慢慢萎縮，帶虛擬化功能的磁盤陣列越來越多。盤陣的虛擬化功能最大問題就是很難真正實現(xiàn)跨設(shè)備間的整合。（3）獨立的存儲網(wǎng)關(guān)。眾所都知，磁盤陣列里帶的虛擬化功能，基本就是虛擬自己用的。至于跨設(shè)備間的系統(tǒng)級整合，還是要依靠獨立的存儲網(wǎng)關(guān)，而且最好是不賣盤陣專門做虛擬化網(wǎng)關(guān)的廠商。4共享文件系統(tǒng)1.集群文件系統(tǒng)

GlusterFS

圖2-24集群文件系統(tǒng)集群NAS架構(gòu)

GlusterFS后端存儲采用DAS，每個存儲服務(wù)器直連各自的存儲系統(tǒng)，通常為一組SATA磁盤，然后由集群文件系統(tǒng)統(tǒng)一管理物理分布的存儲空間而形成一個單一命名空間的文件系統(tǒng)。實際上，集群文件系統(tǒng)是將RAID、Volume、FileSystem的功能三者合一了。目前的主流集群文件系統(tǒng)一般都需要專用元數(shù)據(jù)服務(wù)或者分布式的元數(shù)據(jù)服務(wù)集群，提供元數(shù)據(jù)控制和統(tǒng)一名字空間。4共享文件系統(tǒng)1.集群文件系統(tǒng)

GlusterFS架構(gòu)

【注解：GluterFS集群文件系統(tǒng)；ClientSide客戶端；ServerSide服務(wù)端；GluterFSClient集群文件系統(tǒng)客戶端；VolManager卷管理器；I/OSchedulerI/O調(diào)度器；GigE千兆以太網(wǎng)；NFS網(wǎng)絡(luò)文件系統(tǒng)；StorageGateway存儲網(wǎng)關(guān)；RDMA遠程直接內(nèi)存訪問；InfiniBand無限帶寬；x86-64platform64位86結(jié)構(gòu)平臺；Brick所有可信共享池中共享的目錄】圖2-25GluterFS架構(gòu)集群系統(tǒng)主要分為高可用（HighAvailability）集群（簡稱HA集群）和高性能計算（HighPerfermanceComputing）集群（簡稱HPC集群）。其中，高可用集群的主要功能就是提供不間斷的服務(wù)；高性能計算集群通過將多臺機器連接起來同時處理復(fù)雜的計算問題。4共享文件系統(tǒng)2.網(wǎng)絡(luò)文件系統(tǒng)

NFS

網(wǎng)絡(luò)文件系統(tǒng)（NetworkFileSystem，NFS）是由SUN公司研制的UNIX表示層協(xié)議（PressentationLayerProtocol），能使使用者訪問網(wǎng)絡(luò)上別處的文件就像在使用自己的計算機一樣。NFS是基于UDP/IP協(xié)議的，其實現(xiàn)主要是采用遠程過程調(diào)用RPC機制，RPC提供了一組與機器、操作系統(tǒng)以及底層傳送協(xié)議無關(guān)的存取遠程文件的操作。RPC采用了XDR的支持。XDR是一種與機器無關(guān)的數(shù)據(jù)描述編碼的協(xié)議，它以獨立于任意機器體系結(jié)構(gòu)的格式對網(wǎng)上傳送的數(shù)據(jù)進行編碼和解碼，支持在異構(gòu)系統(tǒng)之間數(shù)據(jù)的傳送。當前，NFS已經(jīng)發(fā)展并演變成UNIX系統(tǒng)中最強大最廣泛使用的網(wǎng)絡(luò)文件系統(tǒng)。發(fā)展歷程如下圖：NFSv2RequestforComments（RFC）NFSv3NFSv4pNFSextensionNFSv4.14共享文件系統(tǒng)2.網(wǎng)絡(luò)文件系統(tǒng)

NFS

圖2-26pNFS/NFSv4.1集群NAS架構(gòu)pNFS采用元數(shù)據(jù)集群解決了傳統(tǒng)NAS的單點故障和性能瓶頸問題，元數(shù)據(jù)與數(shù)據(jù)的分離則解決了性能和擴展性問題。這才是真正的并行NAS，pNFS才是集群NAS的真正未來。Panasas公司的PanFS應(yīng)該是最接近于這種集群NAS架構(gòu)（圖2-27）。圖2-27PanFS架構(gòu)5共享存儲架構(gòu)網(wǎng)絡(luò)文件系統(tǒng)

NFS

從整體架構(gòu)來看，集群NAS由存儲子系統(tǒng)、NAS集群（機頭）、客戶端和網(wǎng)絡(luò)組成。存儲子系統(tǒng)可以采用SAN、DAS、OSD存儲架構(gòu)。根據(jù)所采用的后端存儲子系統(tǒng)的不同，可以把集群NAS分為三種技術(shù)架構(gòu)：SAN共享存儲架構(gòu)、集群文件系統(tǒng)架構(gòu)、pNFS/NFSv4.1架構(gòu)。圖2-28SAN共享存儲集群NAS架構(gòu)SAN架構(gòu)通常采用SAN并行文件系統(tǒng)管理并輸出POSIX接口到NAS集群。6NAS存儲系統(tǒng)擴展應(yīng)用FreeNAS簡介

1.FreeNAS是網(wǎng)絡(luò)附屬存儲（NAS）服務(wù)專用操作系統(tǒng)（FreeBSD的簡化版）。2.FreeNAS是開源的NAS服務(wù)器，它可以將一臺普通PC變成網(wǎng)絡(luò)存儲服務(wù)器。該軟件基于FreeBSD、Samba及PHP，通過瀏覽器方便的配置與管理，支持CIFS、NFS、HTTP/DAV和FTP功能，含有多種軟RAID模式供用戶選擇。用戶可通過Windows、Macs、FTP、SSH及網(wǎng)絡(luò)文件系統(tǒng)（NFS）來訪問存儲服務(wù)器；FreeNAS可被安裝于硬盤或移動介質(zhì)上，占用較小的磁盤空間。圖2-30為FreeNAS系統(tǒng)參數(shù)配置界面。圖2-30FreeNAS系統(tǒng)參數(shù)配置界面項目實施2.501OPTION02OPTION在WindowsServer中搭建SAN存儲服務(wù)（iSCSI）在LinuxServer中搭建NAS存儲服務(wù)（NFS）1搭建SAN存儲服務(wù)（Windows）1．任務(wù)目標

（1）實現(xiàn)WindowsStorageServer安裝；（2）在WindowsServer中搭建SAN存儲服務(wù)（iSCSI）

。2．任務(wù)內(nèi)容本任務(wù)要求管理員在服務(wù)器上搭建SAN存儲服務(wù)，具體內(nèi)容為：

（1）WindowsStorageServer安裝；

（2）系統(tǒng)服務(wù)配置；

（3）在iSCSI存儲服務(wù)器上創(chuàng)建目標；（4）創(chuàng)建虛擬磁盤并連接iSCSI目標；（5）在工作站上連接iSCSI磁盤；（6）在iSCSI服務(wù)器上為磁盤擴容；（7）在工作站上刷新磁盤擴展卷；（8）在服務(wù)器上創(chuàng)建快照。1搭建SAN存儲服務(wù)（Windows）3．完成任務(wù)所需設(shè)備和軟件

（1）服務(wù)器1臺，已安裝Windows7系統(tǒng)的PC機1臺；（2）聯(lián)網(wǎng)交換機1臺；（3）直通網(wǎng)線3根；（4）WindowsStorageServer2008系統(tǒng)盤、ISCSISoftwareTarget軟件。4．任務(wù)實施步驟略2在LinuxServer中搭建NAS存儲服務(wù)（NFS）1．任務(wù)目標（1