




已閱讀5頁,還剩64頁未讀, 繼續(xù)免費閱讀
版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領
文檔簡介
eng1高的設備組成的分布式V擬111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111eng1高的設備組成的分布式V擬111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111軟件定義存儲解決方案VMware VSAN2020/5/17目 錄1VMware軟件定義的存儲解決方案41.1方案概述41.2功能特性91.3主要優(yōu)勢121.4應用場景141.5體系結(jié)構(gòu)151.6基于存儲策略的管理191.6.1Virtual SAN功能191.6.2仲裁示例211.6.3虛擬機存儲策略211.7VSAN 6.1新功能241.7.1存儲雙活 (Stretched Cluster)241.7.2多核虛擬機容錯 (SMP-FT)261.7.3兩節(jié)點的VSAN集群(用于遠程或分支辦公室)271.7.4支持Oracle RAC和 WSFC集群技術281.7.5支持ULLtra DIMM SSD和NVMe SSD301.7.6針對硬件監(jiān)控和合規(guī)性的運行狀況檢查插件321.7.7vRealize Operations for VSAN管理套件341.7.8支持云環(huán)境原生應用(Cloud-native Application)371.8VSAN 6.2新功能382VMware軟件定義存儲之規(guī)劃設計與部署建議492.1解決方案設計492.1.1方案概括492.1.2應用于關鍵應用的方案框架502.1.3應用于虛擬桌面場景的方案框架512.1.4應用于2、3層應用或測試和開發(fā)的方案框架522.1.5應用于災備的方案框架532.1.6規(guī)劃設計細則552.1.7部署最佳實踐602.2Virtual SAN部署要求602.2.1vSphere要求602.2.2存儲要求602.2.3網(wǎng)絡要求613成功案例與優(yōu)勢總結(jié)633.1成功案例633.2優(yōu)勢總結(jié)664縮略語解釋681 VMware軟件定義的存儲解決方案VMware是這樣定義“軟件定義的數(shù)據(jù)中心(Software Defined Datacenter,SDDC)”的:所有的基礎設施都被虛擬化,并以服務的形式提供,對數(shù)據(jù)中心的控制完全由軟件自動化完成。軟件定義的數(shù)據(jù)中心改變了傳統(tǒng)數(shù)據(jù)中心的運行和管理模式。數(shù)據(jù)中心已經(jīng)轉(zhuǎn)由運行在基于x86服務器的虛擬化軟件所管理,這種轉(zhuǎn)變提供了極大的靈活性和控制,同時提高了效率,也大大降低了成本。軟件定義數(shù)據(jù)中心最關鍵的組成部分是計算、網(wǎng)絡和存儲,而超融合基礎架構(gòu)是適用于 SDDC 的理想體系結(jié)構(gòu),因為這種架構(gòu)模式在簡易性、成本、可擴展性和性能等方面相對于傳統(tǒng)基礎架構(gòu)有著明顯的優(yōu)勢。為了實現(xiàn)超融合基礎架構(gòu),軟件定義的計算、存儲和網(wǎng)絡至關重要。但是,軟件定義的存儲相對于軟件定義的計算和網(wǎng)絡稍顯滯后。因此,VMware在服務器級別先進的技術促成了一種新的存儲模式,也就是所謂的軟件定義的存儲(SDS)。 圖:超融合基礎架構(gòu)是適用于SDDC的理想體系結(jié)構(gòu)SDS的核心原則是同時從控制層面和數(shù)據(jù)層面進行虛擬化。通過軟件并基于x86服務器平臺的虛擬化層來交付存儲資源是SDS的另外一個核心原則。同時,外接存儲仍然在交付企業(yè)存儲資源中扮演非常重要的角色。所以,VMware認為,把服務器直連存儲和匯聚在虛擬化層的外接存儲結(jié)合起來,建立一種可擴展的,高性能且高可靠的存儲架構(gòu),可以獲得最高的性價比。1.1 方案概述如前文闡述,軟件定義的存儲是軟件定義的數(shù)據(jù)中心的重要支柱之一,它把應用于服務器的先進技術運用于存儲領域,可對異構(gòu)存儲資源進行抽象化處理,以支持存儲在邏輯上的池化、復制和按需分發(fā)。并以應用為中心進行消費和管理,并實現(xiàn)基于策略的自動化。VMware在軟件定義的存儲方面的計劃主要側(cè)重于一系列圍繞本地存儲、共享存儲和存儲/數(shù)據(jù)服務的計劃。從本質(zhì)上來說,VMware希望使vSphere成為一個存儲服務平臺。軟件定義的存儲旨在通過主機上與底層硬件集成并對其進行抽象化處理的軟件層,實現(xiàn)存儲服務和服務級別協(xié)議的自動化。軟件定義的存儲的一個關鍵因素是基于存儲策略的管理(SPBM)。SPBM可以視為新一代VMware vSphere存儲配置文件功能。SPBM是VMware實施軟件定義的存儲的一個關鍵要素。使用SPBM和VMware vSphere API,底層存儲技術會呈現(xiàn)一個抽象化的存儲空間池,為vSphere管理員提供用于虛擬機調(diào)配的各種功能。這些功能可能與性能、可用性或存儲服務有關。然后,vSphere管理員即可使用虛擬機上運行的應用所需的部分功能創(chuàng)建虛擬機存儲策略。在部署時,vSphere管理員可根據(jù)虛擬機的需要選擇恰當?shù)奶摂M機存儲策略。SPBM會將要求向下推送至存儲層。這時將啟用多種數(shù)據(jù)存儲以供選擇,這些數(shù)據(jù)存儲可提供虛擬機存儲策略中包括的各種功能。這意味著系統(tǒng)將始終根據(jù)虛擬機存儲策略中設置的要求,在恰當?shù)牡讓哟鎯ι蟿?chuàng)建虛擬機實例。如果虛擬機的工作負載隨時間推移發(fā)生變化,只需將具有能夠反映新工作負載的最新要求的策略應用于虛擬機即可。圖:軟件定義的存儲軟件定義的存儲通過純軟件實現(xiàn)了存儲相關的三個層面的功能:u 通過策略自動化消費存儲資源:以虛擬機為中心的安置、保護和性能策略u 基于虛擬化的不依賴于硬件的數(shù)據(jù)服務:以虛擬機為中心的快照、克隆、復制、備份u 通過虛擬化管理程序提取出存儲抽象層:以數(shù)據(jù)存儲和VMDK形式使用的異構(gòu)存儲貫穿這三個層面,VMware提供對應于分布式存儲DAS的解決方案Virtual SAN和基于共享存儲的解決方案Virtual Volume,本方案建議書主要介紹分布式存儲解決方案Virtual SAN。VMware Virtual SAN是專為虛擬機設計的極其簡單的存儲,它具有速度快、恢復能力強、具有動態(tài)性等優(yōu)點,并且在性能大致相當?shù)那闆r下,總體擁有成本降低達50%。它是VMware 針對超融合基礎架構(gòu)推出的一款軟件定義的存儲解決方案,同時也是一個軟件驅(qū)動的體系結(jié)構(gòu),可通過虛擬化的x86服務器交付緊密集成的計算、網(wǎng)絡連接和共享存儲。Virtual SAN 會池化與服務器連接的閃存設備和/或硬盤 (HDD),以便為 vSphere 虛擬機創(chuàng)建一個富有彈性的高性能共享數(shù)據(jù)存儲。 圖:VSAN概述Virtual SAN可為虛擬化生產(chǎn)環(huán)境提供企業(yè)級存儲服務,以及可預測的擴展能力和全閃存性能,所有這些均以遠低于專門構(gòu)建的傳統(tǒng)存儲陣列的價格提供。像vSphere一樣,Virtual SAN可為用戶提供所需的靈活性和控制力,以供他們從大量硬件選項中進行選擇,并針對各種IT工作負載和用例部署并管理這些選項。Virtual SAN可配置為全閃存存儲,也可配置為混合存儲。它可利用全閃存存儲體系結(jié)構(gòu)提供最多700萬的 IOPS;或通過混合存儲體系結(jié)構(gòu)提供250萬的IOPS。 圖:VSAN的優(yōu)良特性鑒于Virtual SAN自身諸多的優(yōu)良特性,它將超融合體系結(jié)構(gòu)提升到了新的水平,如下圖所示。圖:VSAN將超融合體系結(jié)構(gòu)提升到了新水平VSAN自面市以來取得了前所未有的發(fā)展勢頭,最初的十五個月就發(fā)展到了兩千多個客戶,如下所示。圖:VSAN客戶數(shù)增長迅速 體系結(jié)構(gòu)和性能Virtual SAN 以獨特的方式內(nèi)嵌在虛擬化管理程序的內(nèi)核中,其位置剛好在 I/O 數(shù)據(jù)路徑上。因此,相比在虛擬化管理程序上分開運行的其他存儲虛擬設備,Virtual SAN 能夠提供最高級別的性能,而不會帶來額外的 CPU 開銷,也不會消耗大量內(nèi)存資源。Virtual SAN可利用全閃存存儲體系結(jié)構(gòu)提供最多700萬的 IOPS;或通過混合存儲體系結(jié)構(gòu)提供250萬的IOPS。 可擴展性Virtual SAN 采用支持彈性、無中斷擴展的分布式體系結(jié)構(gòu),可將每個集群的主機從 2 臺增加到 64 臺。通過向集群添加新主機(橫向擴展),可以同時擴展容量并提高性能;通過僅向現(xiàn)有的主機添加新驅(qū)動器(縱向擴展),則可以分別擴展容量和提高性能。“隨增長而擴展”的模型可提供線 性和精細的擴展,并且一直以來都能保持合理投資。 管理和集成Virtual SAN 無需安裝其他軟件,只需單擊幾下即可啟用。它由 vSphere Web Client 管理,并與VMware產(chǎn)品體系集成,包括 vMotion、HA、Distributed Resource Scheduler (DRS) 和 Fault Tolerance (FT) 等功能特性以及其他 VMware 產(chǎn)品(如 VMware Site Recovery Manager、VMware vRealize Automation 和 vRealize Operations)。 自動化虛擬機存儲的調(diào)配和存儲服務級別(如容量、性能、 可用性)均可通過以虛擬機為中心的策略實現(xiàn)自動化和控制, 支持實時設置或修改這些策略。Virtual SAN 可以動態(tài)地自行調(diào)整,以適應持續(xù)變化的工作負載情況并實現(xiàn)存儲資源負載平 衡,從而確保每個虛擬機都遵守為其定義的存儲策略。這種策略驅(qū)動的方法可實現(xiàn)手動存儲任務的自動化,并簡化虛擬機存儲管理。 可用性Virtual SAN 提供“6 個 9”企業(yè)級可用性u 利用 FTT=2 Virtual SAN 提供“6 個 9”保護每年停機時間不超過 32 秒u 典型硬件組件可提供約“2 個 9”可用性級別(每年停機時間為 3.65 天)u Virtual SAN 通過跨集群鏡像使可用性呈指數(shù)級增長u 利用默認的可用性策略,Virtual SAN 可提供“5 個 9”保護每年停機時間不超過 5 分鐘u 按虛擬機分配可用性級別,并動態(tài)調(diào)整圖:VSAN“6”個“9”的企業(yè)級可用性 版本對比VSAN 6.2對應的vSphere版本是6.0 U2,它的許可方式相比以前有些變化,分成標準版、高級版和企業(yè)版三個級別,如下圖所示。在高級版里支持全閃存、去重和刪除,以及糾刪碼(Erasure Coding),在企業(yè)版本里支持雙活和QoS(IOPS限制), 每個版本包含的具體功能與許可證授權方式如下圖所示。圖:VSAN三個版本1.2 功能特性VMware Virtual SAN體現(xiàn)了VMware軟件定義存儲愿景,它在全面集成的直連磁盤解決方案中納入基于策略的控制層、以應用程序為核心的服務以及虛擬數(shù)據(jù)層。VMware Virtual SAN采用分布式架構(gòu),利用SSD實現(xiàn)高性能的讀/寫緩存,并利用硬盤實現(xiàn)高成本效益的數(shù)據(jù)長期保存。功能特性包括: 內(nèi)置在vSphere內(nèi)核中Virtual SAN在vSphere內(nèi)核內(nèi)部實施, 從而優(yōu)化數(shù)據(jù) I/O 路徑以提供最高級別的性 能以及最小化對 CPU 的影響,同時提供最佳性能和可擴展性。簡單的一鍵式部署VMware Virtual SAN易于配置和部署,如下圖所示,只需要單擊對話框就可完成。圖:vSphere內(nèi)置一鍵開啟Virtual SAN 全閃存或混合式體系結(jié)構(gòu) Virtual SAN 可用于全閃存體系結(jié)構(gòu)中,在這樣的體系結(jié)構(gòu)中服務器連接的閃存設備提供緩存和數(shù)據(jù)持久性容量,以實現(xiàn)始終如一的超高性能級別?;蛘?,Virtual SAN 可用于混合式配置中,在這樣的配置中服務器端閃存設備進行池化以提供讀/寫緩存,而服務器連接的HDD提供數(shù)據(jù)持久性。全閃存架構(gòu)支持PCI-e設備的分層:一個寫密集高持久性能層用于寫和讀密集的工作負載,一個經(jīng)濟有效的容量層用于數(shù)據(jù)持久的負載,從而減少全閃存架構(gòu)的總體的開銷。 以虛擬機為中心的基于策略的管理以存儲策略的形式將存儲需求與各個虛擬機或虛擬磁盤關聯(lián)起來。Virtual SAN 使用 這些存儲策略來自動執(zhí)行存儲資源的調(diào)配和平衡,以確保每個虛擬機獲得指定的存儲資源。 Virtual SAN 延伸集群在位于不同地理位置上的兩個站點間創(chuàng)建延伸集群并同步復制數(shù)據(jù),從而實現(xiàn)企業(yè)級可用 性,在容許整個站點故障的同時不會丟失數(shù)據(jù),幾乎能夠?qū)崿F(xiàn)零停機。 高級管理 Virtual SAN Management Pack for vRealize Operations 提供一整套可幫助管理 Virtual SAN的功能特性,包括跨多個集群的全局可見性、利用主動通知進行運行狀況監(jiān) 控、性能監(jiān)控以及容量監(jiān)控和規(guī)劃。運行狀況檢查插件可對該管理包進行補充,用于執(zhí)行包括HCL兼容性檢查和實時診斷 在內(nèi)的其他監(jiān)控。 擴展的企業(yè)級功能Virtual SAN新增了關鍵的企業(yè)級功能特性,包括對 vSphere Fault Tolerance 的支持、根據(jù)可配置的時間表在不到 5 分鐘內(nèi)跨多個站點異步復制虛擬機、利用延伸集群和主流集群技術(包括 Oracle RAC 和 Microsoft MSCS)實現(xiàn)持續(xù)可用性。 使用 vSphere 進行單一窗口管理利用 Virtual SAN,不再需 要進行有關專門存儲界面的培訓,也可省去操作這些界面的開銷?,F(xiàn)在只需兩次單擊即可輕松完成調(diào)配。 服務器端讀/寫緩存 Virtual SAN 可利用基于服務器端閃存 設備的內(nèi)置緩存來加快讀 / 寫磁盤 I/O 流量傳輸,從而最大限 度縮短存儲延遲。廣泛的硬件兼容性Virtual SAN是獨立于硬件的解決方案,可以在所有服務器OEM廠商提供的硬件上部署。 精確的無中斷縱向擴展或橫向擴展 通過向集群添加主機(橫向擴展)以擴展容量和性能,或向主機添加磁盤(縱向擴展) 以擴展容量或性能,實現(xiàn)無中斷地擴展 Virtual SAN 數(shù)據(jù)存儲的容量。 VSAN的高可用性眾所周知,VMware vSphere 是業(yè)界領先且最可靠的虛擬化平臺。VSAN一脈相承,沿襲了它的高可靠性和技術領先性。為了確保數(shù)據(jù)的可用性,VSAN采用了分布式RAID(將數(shù)據(jù)的多份副本分布在集群中的不同的vSphere 主機上),確保在發(fā)生個別磁盤、個別主機或網(wǎng)絡時絕不丟數(shù)據(jù)。管理者可透過VSAN的圖形管理界面,設定允許的故障數(shù)目 (FTT,F(xiàn)ailures to Tolerate)屬性,來決定多少臺vShpere主機或磁盤失效后,VSAN仍能維持數(shù)據(jù)完整。如果管理者不手動設定,VSAN默認的FTT=1,意味著這臺虛擬機的磁盤(VMDK) 將創(chuàng)建兩個副本,每個副本放置在不同的 ESXi 主機上,使得數(shù)據(jù)在群集出現(xiàn)單個故障時仍有一個副本可用,數(shù)據(jù)不丟失,且業(yè)務仍然正常運行。 內(nèi)置的容錯能力Virtual SAN 可利用分布式 RAID 和緩存鏡像來確保在發(fā)生磁盤、主機、網(wǎng)絡或機架故障時絕不丟失數(shù)據(jù)。VSAN支持基于硬件的校驗基于存儲控制器的校驗可發(fā)現(xiàn)故障并保證數(shù)據(jù)完整性。(關于已認證的控制器請參考VSAN HCL)。同時,機架感知(Rack-awareness)進一步提高了存儲的容錯能力。機架感知使得VSAN可以跨越機架,盡可能把數(shù)據(jù)塊的副本放到多個機架上。這將幫助應對電源故障,存儲控制器,網(wǎng)絡故障等這類突然狀況。圖: 機架感知示意 Virtual SAN 快照和克隆 全新的 Virtual SAN 磁盤格式可實現(xiàn)超高效且可擴展的以虛擬機為中心的快照和克隆,支持每個虛擬機每個克隆支持多達 32 個快照。 獨立于硬件可以在任何服務器制造商提供的硬件上部署 Virtual SAN。這使您能夠靈活地在異構(gòu)硬件環(huán)境中構(gòu)建自定義的存儲系統(tǒng)。 與 VMware 體系進行互操作Virtual SAN 可以利用 VMware vSphere Data ProtectionTM 和 vSphere ReplicationTM 來實現(xiàn)數(shù)據(jù) 保護、備份、復制和災難恢復 (DR)。Virtual SAN 與 vRealize Automation 集成,在 VDI 環(huán)境中可與 VMware Horizon View一起部署,在災難恢復環(huán)境中可 與 vCenter Site Recovery Manager 一起部署。 支持直接連接 JBOD Virtual SAN 可用于刀片環(huán)境中以便管理外部連接的磁盤存儲模塊。 磁盤服務功能提升 提供給客戶下列任何功能以識別和管理本地閃存和磁盤設備: 故障的LED燈顯示永久損壞的閃存或磁盤設備有LED燈顯示,便于發(fā)現(xiàn)故障設備。 手動開啟/關閉LED燈,用于定位和識別任何特定的閃存或磁盤。 標識為SSD標識未識別的設備為SSD??梢蕴砑踊蛞瞥龢撕?。 標識本地設備標識未識別的閃存或磁盤為本地設備??梢蕴砑踊蛞瞥龢撕?。1.3 主要優(yōu)勢VSAN的主要優(yōu)勢如下。專為虛擬機設計的極其簡單的存儲Virtual SAN可以大大簡化虛擬機的存儲調(diào)配和管理。只需要直接在vSphere Web Client中單擊幾下即可快速完成存儲調(diào)配。作為自行調(diào)節(jié)的系統(tǒng),Virtual SAN 可以根據(jù)每個虛擬機的要求進行自我優(yōu)化,以提供適當?shù)?SLA。在性能相當?shù)那闆r下,大幅降低總體擁有成本 Virtual SAN利用價格便宜的服務器磁盤和閃存、采用 vSphere標準網(wǎng)絡連接、減少電源和散熱成本并通過自動化提高運營效率,從而大幅度降低存儲資本開銷和運營開銷。憑借“隨增長而擴展”功能降低前期投資與傳統(tǒng)存儲陣列不同,Virtual SAN不需要大量初始投資。您可以創(chuàng)建只包含三個服務器的Virtual SAN數(shù)據(jù)存儲。此外,Virtual SAN還允許您更精細、更前瞻地擴展存儲性能和容量,以配合計算資源的擴展。VMware和廣泛的體系支持Virtual SAN是一種純軟件解決方案,與硬件無關,可以在所有主流服務器OEM廠商的硬件上使用,不依賴專用硬件。圖:Virtual SAN主要優(yōu)勢因此,VSAN的主要優(yōu)勢可以總結(jié)為如下幾點。 極其簡單的存儲通過簡化 vSphere 的存儲調(diào)配和管理操作,讓用戶更加輕松地完成工作 - 在 vSphere Web Client 中只需單擊幾下鼠標即可部署存儲,并可享受與 VMware 體系原生集成。以虛擬機為中心的存儲策略可按虛擬機對存儲服務級別進行自動化管理。 具備高級可用性和管理功能了解為何各行各業(yè)、各種規(guī)模的客戶全都信賴 Virtual SAN,利用 Virtual SAN 運行從關鍵業(yè)務應用到數(shù)千虛擬桌面的各類關鍵任務工作負載。Virtual SAN 6.2 中增加了更多高級可用性和管理功能,從而能夠進一步支持要求最嚴苛的存儲環(huán)境。 專為大型企業(yè)打造的存儲借助唯一一個虛擬化管理程序嵌入式存儲解決方案,為數(shù)據(jù)提供可靠保護。Virtual SAN 可提供每主機高達 90K IOPS 的全閃存配置、vSphere Fault Tolerance (FT) 支持、最多只需 5 分鐘的異步復制 RPO 以及全新的延伸集群功能,保障系統(tǒng)持續(xù)可用。 可使總體擁有成本降低 50%可在價格低廉的業(yè)界標準服務器組件上進行部署,無需在前期注入大筆投資,還可利用可預測的“隨發(fā)展增長”式擴展進行擴展。采用 Virtual SAN 后就不必再使用專門定制的獨立硬件,還可通過以虛擬機為中心的策略自動管理存儲服務級別,進而降低 OPEX。 卓越不凡的性能Virtual SAN 建立在虛擬化管理程序中經(jīng)過優(yōu)化的 I/O 數(shù)據(jù)路徑上,可提供遠遠優(yōu)于虛擬設備或外部設備的性能。借助全閃存,可體驗每臺主機最高 90K 的 IOPS,并且可擴展到每集群最多 64 臺主機,這種配置非常適合虛擬桌面、遠程 IT 和關鍵業(yè)務應用。 可線性擴展的存儲Virtual SAN 可對存儲和計算資源進行可預測、彈性且無中斷的擴展,無需進行成本高昂的徹底升級。每個 Virtual SAN 集群每次可橫向擴展一個節(jié)點,也可以通過向現(xiàn)有主機添加容量進行縱向擴展,從而能夠?qū)崿F(xiàn)超過 8 PB 的原始存儲容量。1.4 應用場景VSAN自誕生之日起,已經(jīng)被廣大用戶應用在了各種各樣的場景之中,這是因為VSAN的應用范圍非常廣泛,它可以隨時用于所有 vSphere 工作負載,包括關鍵業(yè)務應用、桌面虛擬化、備份與容災、測試和開發(fā)、DMZ/隔離區(qū)、管理集群、第2或第3層應用、遠程或分支辦公室(ROBO)等,如下圖所示。圖:VSAN可以用于所有vSphere負載在用戶的諸多應用場景中,下面是比較典型的幾個場景。u 關鍵業(yè)務應用u 虛擬桌面(VDI)u 備份與災難恢復u 開發(fā)測試云圖:VSAN典型應用場景除了上述應用場景,VSAN還被廣泛應用在IT運維和遠程與分支機構(gòu)辦公上面。目前,部署VSAN最多的場景如下圖所示。圖:部署VSAN最多的場景1.5 體系結(jié)構(gòu)VSAN的體系結(jié)構(gòu)如下圖所示。圖:VSAN體系結(jié)構(gòu)對VSAN的主機、磁盤和網(wǎng)絡等方面的配置說明如下所示。u 集群配置中至少 3 臺主機或 2 臺主機加上數(shù)據(jù)中心見證組件u 3 臺主機都必須提供存儲u 建議主機都配置類似的硬件u 主機: 最多可擴展為 64 臺u 磁盤: 本地連接的磁盤 混合式: 磁盤和閃存設備 全閃存: 僅限閃存設備u 網(wǎng)絡 1 GB 以太網(wǎng)或 10 GB 以太網(wǎng)(首選)u “見證”組件(僅限元數(shù)據(jù))在可用性決策中充當連接中斷器Virtual SAN 可以使用分層混合體系結(jié)構(gòu)或全閃存體系結(jié)構(gòu)部署,可利用全閃存存儲體系結(jié)構(gòu)提供不少于9萬IOPS/主機,或通過混合存儲體系結(jié)構(gòu)提供不少于4萬IOPS/主機,如下圖所示。圖:Virtual SAN 可以使用分層混合體系結(jié)構(gòu)或全閃存體系結(jié)構(gòu)部署Virtual SAN的上述體系結(jié)構(gòu)可實現(xiàn)富有彈性的性能和容量擴展,不再需要復雜的預測和大量的前期投入,具有如下特點。u 彈性:按需增長或縮減u 精細:添加單個節(jié)點或磁盤u 無中斷:不會導致應用停止運行如下圖所示。圖:VSAN富有彈性的性能和容量擴展接下來將介紹VSAN中的幾個重要概念。 獨立節(jié)點可靠陣列(RAIN)RAIN的含義是獨立節(jié)點可靠陣列,與獨立磁盤可靠陣列(RAID)相對。簡單地說,RAIN意味著數(shù)據(jù)中心的環(huán)境現(xiàn)在可以承受vSphere主機(或主機中的組件,例如磁盤驅(qū)動器或網(wǎng)絡接口)故障,并可繼續(xù)為所有虛擬機提供完整功能。不過,需要注意一點,即虛擬機可用性現(xiàn)在通過使用虛擬機存儲策略按具體虛擬機逐一定義?,F(xiàn)在,vSphere管理員可以使用存儲策略定義Virtual SAN集群中的虛擬機能夠容許多少個主機、網(wǎng)絡或磁盤故障。如果選擇在存儲策略中將可用性功能設置為零,則主機或磁盤故障肯定會影響您的虛擬機可用性。關于RAIN需要格外注意的另一點是,如果出現(xiàn)故障,無需將故障節(jié)點上的所有數(shù)據(jù)遷移至集群中的其他節(jié)點。憑借RAIN體系結(jié)構(gòu)以及虛擬機存儲策略的使用,虛擬機副本可保留在集群中的多個節(jié)點上。無需將故障主機上存儲的數(shù)據(jù)撤出,因為數(shù)據(jù)已存在于集群中的其他位置。圖:針對可用性的SAN數(shù)據(jù)存儲如上圖所示,虛擬機存儲對象(虛擬機主目錄、VMDK、增量、交換)可以分布在Virtual SAN集群中的多個主機和磁盤內(nèi)。虛擬機可以使用復制副本提供可用性,或使用條帶提供HDD性能。對于獨立節(jié)點僅包括虛擬機的部分數(shù)據(jù),這種分布式結(jié)構(gòu)增加了原有數(shù)據(jù)的可靠性。 仲裁和副本副本是為虛擬機指定可用性功能時創(chuàng)建的虛擬機存儲對象實例的備份??捎眯怨δ軟Q定了可創(chuàng)建的副本數(shù)量。在集群中出現(xiàn)主機、網(wǎng)絡或磁盤故障時,此機制可使虛擬機使用一組完整的對象繼續(xù)運行。仲裁是每個存儲對象的一部分。它們不包含數(shù)據(jù),而僅包含元數(shù)據(jù)。其作用是在Virtual SAN集群中做出可用性決定時用作仲裁。仲裁在Virtual SAN數(shù)據(jù)存儲上占用大約2MB的空間用于存儲元數(shù)據(jù)。注意:要使某個對象在Virtual SAN中可訪問,則其50%以上的組成部分必須可供訪問。 固態(tài)磁盤的作用固態(tài)磁盤(SSD)在Virtual SAN中做為緩存層功能時具有兩個作用:提供讀緩存和寫緩沖區(qū)。這可以顯著提高虛擬機的性能。在某些方面,Virtual SAN可以與市場上的大量“混合”存儲解決方案相媲美,后者也是使用SSD和HDD存儲組合以提高I/O性能,并具有基于低成本HDD存儲進行橫向擴展的能力。u 讀緩存的作用讀緩存可以保留經(jīng)常訪問的磁盤塊的緩存。這可減少緩存命中時的I/O讀取延遲。虛擬機中運行的應用實際讀取的塊可能并非位于運行虛擬機的同一vSphere主機上。為解決這一問題,Virtual SAN會在Virtual SAN集群中的vSphere主機之間分發(fā)緩存塊目錄。這使vSphere主機可以確定是否另一臺主機具有不在本地緩存中的緩存數(shù)據(jù)。如果確實如此,則vSphere主機會通過互連線路從另一臺主機上檢索緩存塊。如果緩存塊不在任何Virtual SAN主機中,則直接從HDD進行檢索。u 寫緩存的作用寫緩存可用作非易失性寫緩沖區(qū)。事實上,通過使用SSD存儲來執(zhí)行寫入,還可以減少寫入操作的延遲。由于寫入的數(shù)據(jù)將進入SSD存儲,因此自然需要確保在Virtual SAN集群中的其他位置有數(shù)據(jù)副本。部署到Virtual SAN的所有虛擬機都具有一項可用性策略設置,用于確保至少有一個額外的虛擬機數(shù)據(jù)副本可用,其中包括寫緩存內(nèi)容。當客戶操作系統(tǒng)(OS)中運行的應用啟動寫入之后,寫入的數(shù)據(jù)將被并行發(fā)送到當前主機上的本地寫緩存和遠程主機上的寫緩存。在確認寫入前,寫入的數(shù)據(jù)必須提交至上述兩臺主機上的SSD中。這意味著如果某臺主機出現(xiàn)故障,在Virtual SAN集群中的另一塊SSD上還有一份數(shù)據(jù)副本,因此不會發(fā)生數(shù)據(jù)丟失。虛擬機將通過Virtual SAN互連線路訪問另一個Virtual SAN主機上的數(shù)據(jù)副本。1.6 基于存儲策略的管理前文曾提到,基于存儲策略的管理(SPBM)目前在VMware的“軟件定義的存儲”愿景的策略和自動化方面發(fā)揮主要作用。使用虛擬機存儲策略,管理員可以為虛擬機指定一組必需的存儲功能,或者更具體地為虛擬機中運行的應用指定一組要求。這組必需的存儲功能將被向下推送至存儲層,存儲層則檢查可對此虛擬機的存儲對象進行實例化以滿足這組要求的位置。例如,集群中的可用條帶寬度是否足以滿足此虛擬機的要求?;蛘?,集群中是否有足夠數(shù)量的主機來滿足“允許的故障數(shù)量”要求。如果Virtual SAN數(shù)據(jù)存儲可識別虛擬機存儲策略中設置的功能,則將在調(diào)配向?qū)е凶鳛槠ヅ滟Y源而亮顯。因此,在部署虛擬機時,如果Virtual SAN數(shù)據(jù)存儲可以滿足虛擬機附帶的虛擬機存儲策略中的要求,則從其自身摘要窗口的存儲角度看,可以認為該數(shù)據(jù)存儲符合規(guī)定。如果Virtual SAN數(shù)據(jù)存儲被超額分配或無法滿足容量要求,則可能仍在部署向?qū)е酗@示為匹配資源,但調(diào)配任務卻失敗。SPBM現(xiàn)在可以提供策略驅(qū)動的自動機制,基于虛擬機存儲策略中設置的所需存儲功能,為虛擬機選擇恰當?shù)臄?shù)據(jù)存儲。1.6.1 Virtual SAN功能本節(jié)將介紹可以在虛擬機存儲策略中設置的所需存儲功能。這些功能在成功配置集群后由Virtual SAN數(shù)據(jù)存儲顯示,它們著重說明了每個虛擬機上的存儲所需的可用性、性能和大小要求。如果未正確提出要求,換言之,如果將功能置于Virtual SAN數(shù)據(jù)存儲無法檢測到的存儲級別,則Virtual SAN數(shù)據(jù)存儲在調(diào)配期間將不再顯示為匹配資源。 允許的故障數(shù)量這一屬性要求存儲對象至少允許集群中的并行主機、網(wǎng)絡或磁盤故障的“Number Of Failures To Tolerate”(允許的故障數(shù)量),并仍確保對象的可用性。如果此屬性已填充,則指定配置必須至少包含“Number Of Failures To Tolerate”(允許的故障數(shù)量)+1個副本,還可包含一個額外的仲裁對象以確保此對象的數(shù)據(jù)可用(維護定額以防裂腦),即使存在“Number Of Failures To Tolerate”(允許的故障數(shù)量)的并發(fā)主機故障,情況也不例外。因此,要容許n個故障,至少必須存在(n+1)個對象副本且至少需要(2n+1)臺主機。注意:單臺主機上的任意磁盤故障均可視為符合此標準的“故障”。因此,如果將“Number Of Failures To Tolerate”(允許的故障數(shù)量)設置為1,則當主機A上出現(xiàn)一個磁盤故障,同時主機B上出現(xiàn)另一個磁盤故障時,此對象將無法保存。 每個對象的磁盤條帶數(shù)這可定義分布有存儲對象的每個副本的物理磁盤的數(shù)量。如果讀緩存無效的話,則高于1的值可能會提高性能,但會使用更多的系統(tǒng)資源。為了解磁盤條帶的影響,我們首先從寫入操作方面對其進行了解,然后再從讀取操作方面進行了解。由于寫入的所有數(shù)據(jù)都將進入SSD寫緩沖區(qū),因此增加磁盤條帶數(shù)量可能無法提高寫入性能。這是因為無法保證新的條帶使用不同的SSD。新的條帶可能位于相同的磁盤組中并因此使用相同的SSD。磁盤條帶數(shù)量增加能夠發(fā)揮作用的唯一一種情況是在許多寫入從SSD降級到磁盤時。從讀取角度來看,磁盤條帶數(shù)量增加在您遇到許多緩存丟失時會有幫助。例如,如果虛擬機每秒處理2000個讀取操作且緩存命中率為90%,則每秒將有200個讀取操作必須通過HDD存儲處理。在這種情況下,單個HDD可能無法處理這些讀取操作,因此,磁盤條帶數(shù)量增加對此會有所幫助。通常,默認磁盤條帶數(shù)量1能滿足所有或大多數(shù)虛擬機工作負載要求。磁盤條帶是僅在少量高性能虛擬機運行時才應更改的要求。 閃存讀緩存預留這是在SSD上預留的作為存儲對象讀緩存的閃存容量大小。它被指定為虛擬機磁盤存儲對象的邏輯大小的百分比。它以百分比值(%)形式表示,具有四位小數(shù)。精細的粒度單位大小是必需的,這樣管理員可以表達(sub1)%單位。以1TB磁盤為例。如果我們將讀緩存預留限制為1%的增量,會造成緩存預留以10GB增量增加,在大多數(shù)情況下,對于單個虛擬機來說,這樣的增量過大。注意:無需設置預留以獲取緩存。預留應設置為0,除非您試圖解決真正的性能問題。如果不預留緩存空間,則Virtual SAN調(diào)度程序可管理公平緩存分配。為一個虛擬機預留的緩存不可用于其他虛擬機。未預留的緩存在所有對象之間平等共享。有關閃存讀緩存預留的最后一點涉及讀取性能。即使讀取性能已可接受,仍可使用額外緩存避免更多讀取進入HDD,從而減少緩存丟失。這可使更多寫入進入HDD。因此,通過增加閃存讀取緩存預留可以間接提高寫入性能。不過,僅當從SSD向HDD刷新數(shù)據(jù)造成瓶頸時,才應考慮設置預留。注:全閃存架構(gòu),不做讀緩存預留配置。 對象空間預留此功能可定義初始化期間在HDD上應預留的存儲對象的邏輯大小百分比。默認情況下,Virtual SAN數(shù)據(jù)存儲上的調(diào)配為“精簡”?!癘bjectSpaceReservation”(對象空間預留)是在Virtual SAN數(shù)據(jù)存儲上預留的空間量,指定為虛擬機磁盤的百分比。此值是必須預留的最小容量。此屬性用于指定精簡調(diào)配的存儲對象。如果將“ObjectSpaceReservation”(對象空間預留)設置為100%,則虛擬機的所有存儲容量均預先提供。注意:如果您調(diào)配虛擬機并選擇厚磁盤格式lazy zero或eager zero,則此設置將覆蓋虛擬機存儲策略中的“ObjectSpaceReservation”(對象空間預留)設置。目前不推薦這樣使用。 強制調(diào)配如果啟用此選項,則即使當時集群中的可用資源無法滿足虛擬機存儲策略中指定的功能,仍將調(diào)配對象。Virtual SAN將嘗試在資源可用時使對象達到合規(guī)。如果此參數(shù)設置為非零值,則即使數(shù)據(jù)存儲不符合虛擬機存儲策略中指定策略的要求,仍將調(diào)配對象。不過,如果集群中有足夠空間可滿足至少一個副本的預留要求,則即使已打開“Force Provisioning”(強制調(diào)配),調(diào)配仍將失敗。此選項默認為禁用。1.6.2 仲裁示例以下仲裁示例涉及磁盤條帶數(shù)為1且“NumberOfFailuresToTolerate”(允許的故障數(shù)量)為1的虛擬機的部署。在這種情況下,將創(chuàng)建此虛擬機的兩個副本。實際上,這是一個具有兩個副本的RAID-1虛擬機。不過,只有兩個副本,無法區(qū)分網(wǎng)絡分區(qū)和主機之間的故障。因此,稱為“仲裁”的第三個實體被添加到配置中。要使Virtual SAN上的對象可用,必須滿足以下兩個條件:u 至少一個副本必須完整,可用于數(shù)據(jù)存儲。u 所有組件中,50%以上必須可用。在上面的示例中,僅當存在對一個副本和一個仲裁或兩個副本的訪問權限時才可訪問對象。這樣,集群的一部分在網(wǎng)絡分區(qū)情況下最多可以訪問一個對象。1.6.3 虛擬機存儲策略Virtual SAN中的虛擬機存儲策略的工作方式與vSphere5.0中引入的vSphere存儲配置文件類似,因為您構(gòu)建了一個包含虛擬機調(diào)配要求的策略。與之前版本的vSphere存儲配置文件相比,Virtual SAN中的虛擬機存儲策略工作方式有一個主要區(qū)別。使用原始版本的vSphere存儲配置文件,可以在調(diào)配虛擬機時使用策略中的功能選擇恰當?shù)臄?shù)據(jù)存儲。新的虛擬機存儲策略不僅可選擇恰當?shù)臄?shù)據(jù)存儲,還能與對指定虛擬機具有特定可用性和性能要求的底層存儲層通信。因此,當使用虛擬機存儲策略調(diào)配虛擬機時,Virtual SAN數(shù)據(jù)存儲可能成為目標數(shù)據(jù)存儲,其他策略設置則規(guī)定可用性對虛擬機文件副本數(shù)量的要求,并且還可能包含性能方面的條帶寬度要求。 啟用虛擬機存儲策略啟用Virtual SAN時將自動啟用虛擬機存儲策略。要手動啟用虛擬機存儲策略,必須導航到VMware vSphere Client主頁位置,然后選擇規(guī)則和配置文件。虛擬機存儲策略部分位于此處。單擊虛擬機存儲策略將顯示大量圖標。其中一個圖標可啟用虛擬機存儲策略功能。這可以按主機或集群啟用。 創(chuàng)建虛擬機存儲策略啟用虛擬機存儲策略后,vSphere管理員可使用這一窗口中的另一個圖標創(chuàng)建各個級別。如前所述,大量與可用性和性能相關的功能將由vSphere API呈現(xiàn)。此時,管理員必須從性能和可用性的角度決定哪些功能是虛擬機內(nèi)部運行的應用所必需的。例如,管理員要求此虛擬機在繼續(xù)正常運行的情況下允許多少次組件故障(主機、網(wǎng)絡和磁盤驅(qū)動器)或者從IOPS的角度來看,此虛擬機中運行的應用是否要求嚴苛?如果是,那么閃存讀緩存預留可能是滿足性能的一項必需功能。其他注意事項可能包括決定虛擬機是進行精簡調(diào)配還是厚調(diào)配。在本示例中,虛擬機存儲策略創(chuàng)建了兩個功能。這兩個功能分別與可用性和性能有關。 “NumberOfFailuresToTolerate” (允許的故障數(shù)量)定義了可用性,而磁盤條帶則定義了性能。圖:創(chuàng)建新的虛擬機存儲策略注意:vSphere 5.5 U1及以上版本還支持對調(diào)配使用標記。因此,不會將Virtual SAN數(shù)據(jù)存儲功能用于虛擬機存儲策略創(chuàng)建,而可能會創(chuàng)建基于標記的策略?;跇擞浀牟呗缘氖褂貌辉诒景灼秶畠?nèi),但在vSphere存儲文檔中可以找到詳細信息。 在虛擬機調(diào)配期間分配虛擬機存儲策略虛擬機存儲策略的分配發(fā)生在虛擬機調(diào)配期間。當vSphere管理員必須選擇一個目標數(shù)據(jù)存儲時,他們會從可用虛擬機存儲策略下拉菜單中選擇恰當?shù)募墑e。然后,數(shù)據(jù)存儲會分為兼容的數(shù)據(jù)存儲和不兼容的數(shù)據(jù)存儲,從而使vSphere管理員可以選擇準確恰當?shù)奈恢脕戆仓锰摂M機。 虛擬機對象就Virtual SAN數(shù)據(jù)存儲上的對象布局而言,虛擬機具有大量不同的存儲對象。虛擬機磁盤文件(VMDK)、虛擬機命名空間目錄(虛擬機配置和日志文件所在的目錄)、虛擬機交換文件和快照增量文件全都是獨特的存儲對象。每個對象可能都有不同的存儲策略。vSphere UI還使管理員能夠查詢虛擬機對象布局以及查看存儲對象的每個組件(條帶、副本和仲裁)所在的位置。圖:存儲對象物理映射 匹配資源當虛擬機調(diào)配向?qū)蟾鎂irtual SAN數(shù)據(jù)存儲是虛擬機存儲策略的匹配資源時,可保證數(shù)據(jù)存儲了解了策略中定義的所有要求。這并不意味著數(shù)據(jù)存儲一定能夠滿足那些功能,而調(diào)配流程仍有可能失敗。兼容性不保證數(shù)據(jù)存儲真的符合要求。例如,如果使用Virtual SAN功能,則只有Virtual SAN數(shù)據(jù)存儲發(fā)生匹配,與其是否具有資源用于調(diào)配虛擬機無關。 合規(guī)性“Virtual Machine Summary”(虛擬機摘要)選項卡顯示了虛擬機的合規(guī)性狀態(tài)。只要Virtual SAN滿足虛擬機存儲策略中定義的功能要求,就可以說此虛擬機合規(guī)。如果集群中的組件失敗,則Virtual SAN可能無法滿足策略要求。在此情況下,則可以說此虛擬機不合規(guī)。此不合規(guī)狀態(tài)將顯示在虛擬機摘要中。圖:虛擬機摘要不合規(guī)如果故障持續(xù)超過30分鐘,則Virtual SAN將重建存儲對象并添加新組件以替代受故障影響的存儲對象組件,從而使虛擬機恢復合規(guī)狀態(tài)。這可能包括創(chuàng)建新條帶、新副本或新仲裁。如果故障在30分鐘內(nèi)排除,則不創(chuàng)建新組件。1.7 VSAN 6.1新功能VSAN自問世以來已經(jīng)被各種規(guī)模和行業(yè)的公司大量部署,主要用于簡化數(shù)據(jù)中心、加速應用程序以及降低 IT 成本。VSAN 6.1作為 VSAN 的第三代產(chǎn)品,其技術已經(jīng)非常成熟,它的新功能主要包括如下三方面。u 企業(yè)級可用性和數(shù)據(jù)保護u 高級管理與故障排除u 新硬件選項具體如下圖所示。圖:VSAN 6.1新功能下面將對上述這些新功能進行詳細介紹。1.7.1 存儲雙活 (Stretched Cluster)Virtual SAN 6.1能夠在位于不同地理位置上的兩個站點間創(chuàng)建延伸集群并同步復制數(shù)據(jù)(RPO=0),一個站點發(fā)生故障時系統(tǒng)會自動切換到另外一個站點,從而實現(xiàn)站點層面的保護,支持企業(yè)級可用性并確保即使整個站點出現(xiàn)故障也不會丟失數(shù)據(jù),幾乎能夠?qū)崿F(xiàn)零停機,延伸集群的架構(gòu)圖如下所示。圖:延伸集群VSAN的延伸集群需要Witness節(jié)點,這個節(jié)點只存放元數(shù)據(jù),不存儲業(yè)務數(shù)據(jù),它的作用是和兩個站點建立心跳機制,當其中一個站點故障或站點間發(fā)生網(wǎng)絡分區(qū)的時候,Witness可以判斷出發(fā)生了什么,并決策如何確??捎眯?。VMware已經(jīng)準備好了特殊的Witness虛擬設備 (Witness Appliance),實際上就是裝有ESXi的虛擬機,該設備可以部署在第三個站點或者vCloud Air上。延伸集群中的Witness節(jié)點與其他兩個站點之間的延時可以在100ms以內(nèi)(RTT Write bandwidth(Wb) * Data Multiplier(md) * Resynchronization Multiplier(mr)。其中,Data mutiplier指數(shù)據(jù)倍數(shù),包含了VSAN傳輸及其他相關操作的元數(shù)據(jù)開銷。VMware建議設為1.4。Resynchronization指重同步倍數(shù),將可能的重同步的事件考慮在內(nèi)。VMware建議規(guī)劃帶寬的時候,在最大帶寬基礎之上,額外預留25%,用于偶爾可能發(fā)生的重同步需求。也即,這個值建議為1.25。舉例來說:假設VSAN上工作負載為每秒10000個寫操作,寫IO大小為4KB,這就意味著寫帶寬為40MB/s,或者320Mb/s。這樣網(wǎng)絡帶寬要求為:B = 40MB/s * 1.4 * 1.25 = 70MB/s或者560 Mb/s在延伸集群上,VSAN 6.1支持跨站點的 vMotion 和 HA,進而實現(xiàn)災難規(guī)避和恢復。圖:跨站點的HA和vMotion可見,延伸集群可以幫助企業(yè)有效避免災難、進行有計劃的維護并實現(xiàn)零RPO。此外,VSAN延伸集群還可以結(jié)合vSphere Replication和SRM實現(xiàn)兩地三中心的高級容災,如下圖所示,其中RPO最低可以達到五分鐘。圖:VSAN結(jié)合VR和SRM1.7.2 多核虛擬機容錯 (SMP-FT)VSAN 6.1支持Fault Tolerance功能,并且最多可達4個CPU,提高了關鍵業(yè)務應用在硬件故障(如主機故障)下零停機的持續(xù)可用性,該特性對延遲敏感型應用的意義非常大。這一技術具有重要的意義,在一定程度上,可以彌補某些應用所缺乏的集群高可用性。也以vSphere的集群高可用結(jié)合VSAN的高可用(多副本機制),來部分替代以往成本高昂的應用高可用的方案。圖:VSAN支持多核虛擬機容錯1.7.3 兩節(jié)點的VSAN集群(用于遠程或分支辦公室)VSAN 6.1支持雙節(jié)點集群,即:每個集群由兩臺物理服務器組成。該方案非常適合遠程或分支辦公(Remote Office Branch Office, ROBO),它具有如下特點。u 每個節(jié)點獨自成為一個故障域u 每個VSAN集群有一個Witnessu Witness節(jié)點是一個ESXi的虛擬設備 (也即虛擬機)u 所有站點由一個vCenter統(tǒng)一管理u 打補丁和軟件升級都由vCenter來處理u 如果有N個分支辦公室,就需要有N個Witness(ESXi Virtual Appliance)圖:兩節(jié)點VSAN集群如上圖所示,兩節(jié)點VSAN集群具有如下技術特性。u ROBO中的兩個節(jié)點共享一個二層域(L2 domain),需要多播支持且RTT5msu ROBO和Witness之間的通信通過單播實現(xiàn)不需要多播。Witness僅通過三層可達,同時RTT500ms帶寬大于1.5 Mbpsu 每個ROBO 510臺虛擬機情況下的資源需求如下: CPU: 2vCPU 內(nèi)存: 8 GB 存儲: 15 GB的存儲容量和10GB 的緩存1.7.
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 公司文體活動月策劃方案
- 公司著裝大賽策劃方案
- 公司新年嘉年華活動方案
- 2025年職業(yè)健康安全管理師考試試卷及答案
- 2025年新能源與可再生能源知識考核考試卷及答案
- 2025年數(shù)字信號處理技術考試卷及答案
- 2025年天文學與空間科學考試題及答案
- 2025年人機交互設計師職業(yè)資格考試試題及答案
- 2025年企業(yè)管理咨詢師職業(yè)資格考試試卷及答案
- 2025年交通工程與智能交通管理的專業(yè)知識考試試卷及答案
- 國開《學前兒童語言教育活動指導》形考1-4試題及答案
- ???023綜合安防工程師認證試題答案HCA
- 濁度儀使用說明書
- GB/T 14404-2011剪板機精度
- GB/T 14294-1993組合式空調(diào)機組
- GA 1517-2018金銀珠寶營業(yè)場所安全防范要求
- 提高痰留取成功率PDCA課件
- 組合導航與融合導航解析課件
- 伊金霍洛旗事業(yè)編招聘考試《行測》歷年真題匯總及答案解析精選V
- 深基坑支護工程驗收表
- 顱腦CT影像課件
評論
0/150
提交評論