OceanStor存儲(chǔ)系統(tǒng)面向VMware的最佳實(shí)踐_第1頁
OceanStor存儲(chǔ)系統(tǒng)面向VMware的最佳實(shí)踐_第2頁
OceanStor存儲(chǔ)系統(tǒng)面向VMware的最佳實(shí)踐_第3頁
OceanStor存儲(chǔ)系統(tǒng)面向VMware的最佳實(shí)踐_第4頁
OceanStor存儲(chǔ)系統(tǒng)面向VMware的最佳實(shí)踐_第5頁
已閱讀5頁,還剩46頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

1、華為 OceanStor & OceanStor F 系列存儲(chǔ)系統(tǒng)面向 VMware 的最佳實(shí)踐(NAS 篇)華為 OceanStor V5 & OceanStor F V5 融合存儲(chǔ)是華為面向企業(yè)用戶推出的新一代存儲(chǔ)系列,融合了NAS 和 SAN 的應(yīng)用場(chǎng)景。本文檔聚焦如何高效利用 OceanStor V5 & OceanStor F V5 存儲(chǔ)的進(jìn)行VMware 業(yè)務(wù)部署。目錄 HYPERLINK l _bookmark0 概述4 HYPERLINK l _bookmark1 內(nèi)容簡介4 HYPERLINK l _bookmark2 寫作目的4 HYPERLINK l _bookmark3

2、 面向讀者4 HYPERLINK l _bookmark4 用戶收益5 HYPERLINK l _bookmark5 關(guān)鍵組件5 HYPERLINK l _bookmark6 存儲(chǔ)產(chǎn)品介紹6 HYPERLINK l _bookmark7 VMware 介紹7 HYPERLINK l _bookmark8 VAAI7 HYPERLINK l _bookmark9 VASA8 HYPERLINK l _bookmark10 NGC8 HYPERLINK l _bookmark11 vROps9 HYPERLINK l _bookmark12 vRO10 HYPERLINK l _bookmark1

3、3 華為存儲(chǔ)與 VMware VAAI 的最佳實(shí)踐11 HYPERLINK l _bookmark14 注意事項(xiàng)11 HYPERLINK l _bookmark15 參考架構(gòu)11 HYPERLINK l _bookmark16 操作配置12 HYPERLINK l _bookmark17 存儲(chǔ)側(cè)12 HYPERLINK l _bookmark18 主機(jī)側(cè)16 HYPERLINK l _bookmark19 場(chǎng)景證實(shí)18 HYPERLINK l _bookmark20 使用 NFS 共享空間作為虛擬機(jī)的存儲(chǔ)空間19 HYPERLINK l _bookmark21 File Cloning20 H

4、YPERLINK l _bookmark22 華為存儲(chǔ)與 VMware VASA 的最佳實(shí)踐23 HYPERLINK l _bookmark23 注意事項(xiàng)23 HYPERLINK l _bookmark24 參考架構(gòu)23 HYPERLINK l _bookmark25 操作配置24 HYPERLINK l _bookmark26 存儲(chǔ)側(cè)24 HYPERLINK l _bookmark27 主機(jī)側(cè)24 HYPERLINK l _bookmark28 場(chǎng)景證實(shí)26 HYPERLINK l _bookmark29 定義存儲(chǔ)配置文件,實(shí)現(xiàn)存儲(chǔ)自動(dòng)選擇27 HYPERLINK l _bookmark30

5、 華為存儲(chǔ)與 VMware NGC 的最佳實(shí)踐31 HYPERLINK l _bookmark31 注意事項(xiàng)31 HYPERLINK l _bookmark32 參考架構(gòu)31 HYPERLINK l _bookmark33 操作配置32 HYPERLINK l _bookmark34 存儲(chǔ)側(cè)32 HYPERLINK l _bookmark35 主機(jī)側(cè)32 HYPERLINK l _bookmark36 場(chǎng)景證實(shí)33 HYPERLINK l _bookmark37 vCenter 上查看存儲(chǔ)信息33 HYPERLINK l _bookmark38 一站式完成 Datastore 的創(chuàng)建35 HY

6、PERLINK l _bookmark39 華為存儲(chǔ)于 vROps 的最佳實(shí)踐42 HYPERLINK l _bookmark40 注意事項(xiàng)42 HYPERLINK l _bookmark41 參考架構(gòu)42 HYPERLINK l _bookmark42 操作配置43 HYPERLINK l _bookmark43 場(chǎng)景證實(shí)43 HYPERLINK l _bookmark44 華為存儲(chǔ)與 vRO 的最佳實(shí)踐44 HYPERLINK l _bookmark45 注意事項(xiàng)44 HYPERLINK l _bookmark46 參考架構(gòu)44 HYPERLINK l _bookmark47 操作配置45

7、 HYPERLINK l _bookmark48 存儲(chǔ)側(cè)45 HYPERLINK l _bookmark49 主機(jī)側(cè)45 HYPERLINK l _bookmark50 場(chǎng)景證實(shí)46 HYPERLINK l _bookmark51 vRO 上創(chuàng)建文件系統(tǒng)46 HYPERLINK l _bookmark52 9 總結(jié)51 1 概 述內(nèi)容簡介華為 OceanStor V5 & OceanStor F V5 一體化融合存儲(chǔ)(下文簡稱 V5 & F V5 存儲(chǔ))是面向企業(yè)級(jí)應(yīng)用的新一代融合存儲(chǔ)產(chǎn)品。本文檔針對(duì) V5 & F V5 系列存儲(chǔ) NAS 功能配套 VMware 的存儲(chǔ)插件進(jìn)行闡述。聚焦如何高

8、效利用 V5 & F V5 存儲(chǔ),進(jìn)行 VMware 的業(yè)務(wù)部署。寫作目的本文檔的寫作目的在于描述 V5 & F V5 存儲(chǔ)系統(tǒng) NAS 功能結(jié)合 VMware 的存儲(chǔ)插件的配合使用,旨在為華為合作伙伴和華為用戶提供參考,以期簡化 IT 系統(tǒng)的規(guī)劃部署,提升運(yùn)維效率。面向讀者本文檔面向華為員工、合作伙伴與客戶,閱讀本文檔,需要熟悉如下技術(shù):華為 OceanStor V5 & OceanStor F V5 系列存儲(chǔ)華為 DeviceManager 等軟件VMware ESXi 操作系統(tǒng)基礎(chǔ)知識(shí)VMware VCenter 基礎(chǔ)知識(shí)VMware vRealize Operations Manage

9、rVMware vRealize Orchestrator用戶收益本方案提供了 V5 & F V5 存儲(chǔ) NAS 功能結(jié)合 VMware 存儲(chǔ)插件的配合使用的證實(shí)解決方案,期望用戶能夠使用該證實(shí)解決方案,簡化運(yùn)維,提升存儲(chǔ)利用率,獲取最高投資回報(bào)率。關(guān)鍵組件本文中描述的內(nèi)容基于以下硬件和軟件進(jìn)行描述:華為 OceanStor 5500F V500R007C00 版本存儲(chǔ)系統(tǒng)VMware ESXi 操作系統(tǒng)VMware Vcenter 管理軟件VMware vRealize Operations ManagerVMware vRealize Orchestrator 2 存儲(chǔ)產(chǎn)品介紹華為 Oce

10、anStor V5 & OceanStor F V5 系列融合存儲(chǔ)(下文簡稱 V5 & F V5 系列存儲(chǔ)) 是面向企業(yè)級(jí)應(yīng)用的新一代融合存儲(chǔ)產(chǎn)品。憑借面向云架構(gòu)的存儲(chǔ)操作系統(tǒng)、強(qiáng)勁的 新一代硬件平臺(tái)和豐富的智能管理軟件,V5 & F V5 系列存儲(chǔ)在功能、性能、效率、可靠性和易用性上都達(dá)到業(yè)界領(lǐng)先水平,很好的滿足了大型數(shù)據(jù)庫 OLTP/OLAP、文件共享、云計(jì)算等各種應(yīng)用下的數(shù)據(jù)存儲(chǔ)需求,廣泛適用于政府、金融、電信、能源、媒 資等行業(yè)。同時(shí),V5 & F V5 系列存儲(chǔ)能夠提供高效、靈活、豐富的備份、容災(zāi)解決方案,有效保證用戶業(yè)務(wù)連續(xù)性和數(shù)據(jù)安全,為用戶提供卓越的存儲(chǔ)服務(wù)。圖2-1 華為 O

11、ceanStor V5 & F V5 融合存儲(chǔ)更多詳細(xì)信息,請(qǐng)查看下面的鏈接: HYPERLINK /cn/products/cloud-computing-dc/storage/massive-storage/5300-5500-5600-5800-v5 OceanStor 5300/5500/5600/5800 V5 混合閃存存儲(chǔ)系統(tǒng) HYPERLINK /cn/products/cloud-computing-dc/storage/massive-storage/6800-v5 OceanStor 6800 V5 高端混合閃存存儲(chǔ)系統(tǒng) HYPERLINK /cn/products/clo

12、ud-computing-dc/storage/unified-storage/5300f-5500f-5600f-5800f-v5 OceanStor 5300F/5500F/5600F/5800F V5 全閃存存儲(chǔ)系統(tǒng) HYPERLINK /cn/products/cloud-computing-dc/storage/unified-storage/6800f-v5 OceanStor 6800F V5 高端全閃存存儲(chǔ)系統(tǒng) HYPERLINK /cn/products/cloud-computing-dc/storage/unified-storage/18500f-18800f-v5 O

13、ceanStor 18500F/18800F V5 高端全閃存存儲(chǔ)系統(tǒng)華為 OceanStor V5 & OceanStor F V5 系列存儲(chǔ)系統(tǒng)面向 VMware 的最佳實(shí)踐(NAS 篇) 3 VMware 介 紹VMware ESXi 操作系統(tǒng)針對(duì)存儲(chǔ)開發(fā)了很多的 API,可以與受支持的第三方磁盤陣列解決方案進(jìn)行集成。目前,與 NAS 存儲(chǔ)相關(guān)的存儲(chǔ) API 包括以下幾種。VAAIVASANGCvROpsvRO下面我們?cè)敿?xì)介紹這些 API 的功能。VAAIVMware vSphere API for Array Integration - NAS (VAAI-NAS) 為 vSphere

14、 提供了將特定I/O 操作的負(fù)載卸載到受支持的磁盤陣列。借助 VAAI-NAS plug-in,vSphere 能夠更快地執(zhí)行關(guān)鍵操作,并減少 CPU、內(nèi)存和節(jié)約存儲(chǔ)網(wǎng)絡(luò)帶寬。目前,VAAI-NAS 支持以下功能。Space Reservation在 NFS 文件系統(tǒng)創(chuàng)建 Thick VMDK。File Cloning文件/虛擬機(jī)克隆,支持 Full Clone 和 Lazy Clone。Extended Stats報(bào)告 Thin VMDK 或虛擬機(jī)存儲(chǔ)空間消耗信息。詳細(xì)的信息,請(qǐng)參見下面的鏈接: HYPERLINK /content/dam/digitalmarketing/vmware/e

15、n/pdf/techpaper/vmware-vsphere-storage-api-array-integration-white-paper.pdf /content/dam/digitalmarketing/vmware/en/pdf/techpaper/vmware-vsphere- HYPERLINK /content/dam/digitalmarketing/vmware/en/pdf/techpaper/vmware-vsphere-storage-api-array-integration-white-paper.pdf storage-api-array-integratio

16、n-white-paper.pdfExtended Stats 功能不需要安裝插件,默認(rèn) VMware ESXi 主機(jī)即可支持。華為 OceanStor V5 & OceanStor F V5 系列存儲(chǔ)系統(tǒng)面向 VMware 的最佳實(shí)踐(NAS 篇)VASAvStorage APIs for Storage Awareness (簡稱 VASA)創(chuàng)建了一個(gè)可擴(kuò)展的架構(gòu)。存儲(chǔ)合作伙伴的產(chǎn)品可以使用該架構(gòu)將能力和當(dāng)前狀態(tài)告知 vCenter。啟用了 VASA 的產(chǎn)品使用網(wǎng)絡(luò)服務(wù)在 vCenter 上進(jìn)行注冊(cè)。具體的信息,比如陣列配置和能力、存儲(chǔ)健康狀態(tài)、事件等都可以匯聚在 API 上。VASA 主

17、要支持以下功能:Storage 拓?fù)鋱D生成存儲(chǔ)控制器 ID,LUN,網(wǎng)卡,虛擬機(jī)等相關(guān)實(shí)體拓?fù)鋱D。Storage Capabilities收集和提供存儲(chǔ)相關(guān)特性和功能信息?;?Storage policy 的虛擬機(jī)存儲(chǔ)自定義配置文件,確保虛擬機(jī)被放置到正確合規(guī)的存儲(chǔ)設(shè)備。Storage Status報(bào)告不同存儲(chǔ)實(shí)體的狀態(tài)信息,包括配置事件和警告信息。詳細(xì)的信息,請(qǐng)參見下面的鏈接: HYPERLINK /other-programs/storage/vasa /other-programs/storage/vasaVASA 功能與 VMware vSphere 的版本相關(guān)。在 5.x 版本上

18、VASA 1.0 的功能都能正常使用。從6.5 版本開始,VMware 的管理軟件切換到網(wǎng)頁版本,VASA 的版本也更新為 2.0,功能更傾向于 VVOL,原本基礎(chǔ)功能有所弱化。NGCOceanStor VMware Next Generation Client Plug-in(以下簡稱 NGC 插件)是一款針對(duì)VMware vSphere Web Client 開發(fā)的存儲(chǔ)管理插件,用于實(shí)現(xiàn)通過 vSphere Web Client 對(duì)華為存儲(chǔ)設(shè)備進(jìn)行管理。NGC 插件的主要功能如下:存儲(chǔ)陣列管理vSphere Web Client 通過插件對(duì)存儲(chǔ)陣列信息進(jìn)行查看,并可以根據(jù)需要增加或刪除陣列

19、。設(shè)備信息展示vSphere Web Client 在添加設(shè)備之后,可以查看設(shè)備的基本信息,包括:IP 地址、設(shè)備型號(hào)及版本、位置信息、容量等。查詢主機(jī)信息vSphere Web Client 可以查看某個(gè) ESXi 主機(jī)下,所包含的所有 DataStore、LUN 和目標(biāo)器以及其詳細(xì)信息,選中某個(gè) DataStore 會(huì)顯示對(duì)應(yīng)的 LUN 信息。查詢虛擬機(jī)信息vSphere Web Client 可以查看某個(gè)虛擬機(jī)下,所包含的所有虛擬機(jī)磁盤、裸機(jī)映射以及其詳細(xì)信息。創(chuàng)建 DataStore華為 OceanStor V5 & OceanStor F V5 系列存儲(chǔ)系統(tǒng)面向 VMware 的最佳

20、實(shí)踐(NAS 篇)vSphere Web Client 需要使用塊設(shè)備的存儲(chǔ)資源的時(shí)候,可以通過創(chuàng)建與 LUN 對(duì)應(yīng)的 DataStore 來獲取存儲(chǔ)資源。備份和恢復(fù)vSphere Web Client 可以對(duì)掛載到 ESXi 的 LUN 進(jìn)行備份和恢復(fù)。掛載/卸載 LUNvSphere Web Client 直接將設(shè)備的 LUN 批量掛載到主機(jī),或者直接把已掛載的LUN 從主機(jī)批量卸載,并對(duì) LUN 顯示易識(shí)別的設(shè)備名稱。詳細(xì)的信息,請(qǐng)參見下面的鏈接: HYPERLINK /vsx/solutions/huawei-storage-ngc-plug-in-for-vmware-vcenter

21、?ref=search /vsx/solutions/huawei-storage-ngc-plug-in-for-vmware-vcenter?ref=searchvROpsVMware vRealize Operations Manager(以下簡稱 vROps)插件是集成在 vROps 系統(tǒng)中的一個(gè)管理軟件。通過該插件,可以實(shí)現(xiàn)在 vROps 系統(tǒng)中對(duì)華為存儲(chǔ)進(jìn)行信息收集、監(jiān)控管理的操作。vROps 插件主要包含以下功能:儀表板存儲(chǔ)信息概覽包括存儲(chǔ)概覽,存儲(chǔ)拓?fù)?,存?chǔ)性能及存儲(chǔ) DataStores 信息。TOP-N 特性包括存儲(chǔ)池利用率,IOPS,延時(shí)和帶寬等信息。高級(jí)特性包含 Sma

22、rtQos,SmartPartition、Snapshot 及 Replication 屬性。視圖華為提供了多維度的,多對(duì)象的視圖功能,方便了管理員對(duì)對(duì)象的總體狀況和性能狀況進(jìn)行了解。告警告警管理主要用于向 vROps 管理員提供問題的告警,用于管理員參考作為進(jìn)一步?jīng)Q策的依據(jù)。在告警類中,華為存儲(chǔ)插件設(shè)計(jì)了兩種類型的告警讓管理員全面覆蓋和了解存儲(chǔ)告警情況。第一類是華為存儲(chǔ)自身內(nèi)部的告警,可以按照告警級(jí)別展現(xiàn)在 vROps 告警管理界面中,實(shí)現(xiàn)管理員直觀獲取后端存儲(chǔ)告警的需求。另一類是 vROps 根據(jù)自身收集的數(shù)據(jù)和定義的告警策略,自動(dòng)觸發(fā)的 vROps自定義告警。報(bào)告華為存儲(chǔ)提供了三種類型的

23、報(bào)告提供給用戶作為后端存儲(chǔ)報(bào)告樣板,該三種類型的樣板覆蓋了常用的性能和容量統(tǒng)計(jì)狀況,系統(tǒng)性能運(yùn)行狀況等,能夠協(xié)助管理員觀測(cè)到大部分場(chǎng)景的系統(tǒng)運(yùn)行狀況。報(bào)告分類如下:華為存儲(chǔ)容量報(bào)告華為存儲(chǔ)性能報(bào)告華為存儲(chǔ)容量和性能報(bào)告詳細(xì)的信息,請(qǐng)參見下面的鏈接: HYPERLINK /vsx/solutions/huawei-storage-management-pack-for-vmware-vrealize-operations-manager?ref=search /vsx/solutions/huawei-storage-management-pack-for-vmware-vrealize- HY

24、PERLINK /vsx/solutions/huawei-storage-management-pack-for-vmware-vrealize-operations-manager?ref=search operations-manager?ref=searchvROVMware vRealize Orchestrator 是 VMware 自動(dòng)化工作流的核心組件,華為 vRO Plugin 是按照 VMware vRealize Orchestrator API 規(guī)范要求開發(fā)的流程自動(dòng)化插件,用于管理華為存儲(chǔ)設(shè)備。插件默認(rèn)已經(jīng)打包了常用工作流,使得管理員可以啟動(dòng)插件中的工作流完成自動(dòng)化任

25、務(wù);其次 VMware vRealize Orchestrator 提供了友好的設(shè)計(jì)器,用戶可以基于業(yè)務(wù)流程和需求自定義工作流,并且可以結(jié)合插件中的工作流設(shè)計(jì)出復(fù)雜的自動(dòng)化任務(wù),實(shí)現(xiàn)對(duì)存儲(chǔ)設(shè)備的自動(dòng)化配置管理。vRO 插件主要包含以下功能:存儲(chǔ)注冊(cè)存儲(chǔ)的注冊(cè)和去注冊(cè)等功能,是后續(xù)操作的基礎(chǔ)。NAS 功能創(chuàng)建文件系統(tǒng)創(chuàng)建文件共享創(chuàng)建文件系統(tǒng)快照SAN 功能創(chuàng)建 LUN創(chuàng)建 LUN 快照創(chuàng)建 LUN 拷貝創(chuàng)建主機(jī)創(chuàng)建映射視圖詳細(xì)的信息,請(qǐng)參見下面的鏈接: HYPERLINK /vsx/solutions/huawei-vro-plugin-1-0?ref=search /vsx/solutions

26、/huawei-vro-plugin-1-0?ref=search 4 華為存儲(chǔ)與 VMware VAAI 的最佳實(shí)踐注意事項(xiàng)華為存儲(chǔ)與 VMware VAAI-NAS 功能配合使用的時(shí)候,有如下注意事項(xiàng)。當(dāng)使用 VMware NAS 的 VAAI 功能的時(shí)候,需要在 VMware ESXi 主機(jī)上安裝插件:eSDK_Storage_VAAI_NAS。該插件在使用過程中有如下注意事項(xiàng)。當(dāng)前版本不支持 LazyClone、本機(jī)快照特性。如果源數(shù)據(jù)存儲(chǔ)和目標(biāo)數(shù)據(jù)存儲(chǔ)位于不同 OceanStor 存儲(chǔ)系統(tǒng),復(fù)制操作將不會(huì)被卸載到存儲(chǔ)系統(tǒng)上。可以從下面的地址獲取華為插件 eSDK_Storage_VA

27、AI_NAS 的相關(guān)信息。 HYPERLINK /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779 /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779同時(shí)使用該功能的時(shí)候,要求存儲(chǔ)已經(jīng)獲得了對(duì)應(yīng)的認(rèn)證。目前,華為 OceanStor V5 存儲(chǔ)的 VAAI-NAS 功能已經(jīng)獲得了相關(guān)的認(rèn)證。存儲(chǔ)產(chǎn)品與 VMware 的認(rèn)證信息可以通過下面的鏈接搜索到。 HYPERLINK /resources/compatibility/search.php?de

28、viceCategory=san /resources/compatibility/search.php?deviceCategory=san參考架構(gòu)VMware VAAI-NAS 的參考架構(gòu)組網(wǎng)圖如下所示。圖4-1 VMware VAAI-NAS 參考架構(gòu)圖存儲(chǔ)系統(tǒng)與服務(wù)器通過 10GE 組網(wǎng)建立連接。存儲(chǔ)系統(tǒng)上提供 NFS 共享文件系統(tǒng)給服務(wù)器,服務(wù)器上使用該共享文件創(chuàng)建 datastore。通過 vCenter Server 來管理 VMware ESXi 服務(wù)器。操作配置存儲(chǔ)側(cè)存儲(chǔ)系統(tǒng)上的資源分配流程圖如下圖所示:圖4-2 存儲(chǔ)系統(tǒng)上的資源分配流程圖整體操作配置流程描述如下:存儲(chǔ)系統(tǒng)和

29、主機(jī)之間建立 10GE 的物理連接。存儲(chǔ)系統(tǒng)上按照規(guī)劃配置邏輯端口,包括選定物理端口和配置業(yè)務(wù) IP。存儲(chǔ)系統(tǒng)上創(chuàng)建硬盤域。存儲(chǔ)系統(tǒng)上創(chuàng)建存儲(chǔ)池。存儲(chǔ)系統(tǒng)上創(chuàng)建文件系統(tǒng)。存儲(chǔ)系統(tǒng)上為已經(jīng)創(chuàng)建的文件系統(tǒng)創(chuàng)建共享。下面對(duì)其中的關(guān)鍵步驟進(jìn)行描述。創(chuàng)建硬盤域硬盤域(Disk Domain)即多個(gè)硬盤的組合,將硬盤整合并預(yù)留熱備容量后統(tǒng)一向存儲(chǔ)池提供存儲(chǔ)資源。OceanStor V5 系列存儲(chǔ)可以配置一個(gè)或多個(gè)硬盤域。一個(gè)硬盤域上可以創(chuàng)建多個(gè)存儲(chǔ)池(Storage Pool)。一個(gè)硬盤域的硬盤可以選擇 SSD、SAS、NL-SAS 中的一種或者多種。不同硬盤域之間是完全隔離的,包括故障域、性能和存儲(chǔ)資源

30、等。硬盤域的熱備容量比例與熱備策略和硬盤的類型和數(shù)量相關(guān),該比例關(guān)系由存儲(chǔ)系統(tǒng)根據(jù)可靠性工程方法自動(dòng)維護(hù)。OceanStor V5 系列存儲(chǔ)系統(tǒng)支持 SSD、SAS、NL SAS 三種硬盤,并支持分級(jí)存儲(chǔ)。建議使用 SSD 和 SAS 硬盤部署,不建議使用性能和可靠性較低的 NL SAS 盤。OceanStor V5 系列存儲(chǔ)系統(tǒng)的硬盤域可以跨所有引擎,但基于性能考慮,不建議跨引擎創(chuàng)建硬盤域,以避免過于頻繁的內(nèi)部交換網(wǎng)絡(luò)數(shù)據(jù)傳輸。OceanStor V5 系列存儲(chǔ)系統(tǒng)的硬盤域可以包含多達(dá)上千塊硬盤,但基于性能和可靠性考慮,建議硬盤域每存儲(chǔ)層的硬盤數(shù)不超過 100 個(gè)。創(chuàng)建存儲(chǔ)池存儲(chǔ)池(Stor

31、age Pool),是存放存儲(chǔ)空間資源的容器,創(chuàng)建于硬盤域內(nèi),可以從硬盤域上動(dòng)態(tài)分配資源,并定義每個(gè)存儲(chǔ)層級(jí)的“RAID 級(jí)別”。V5 存儲(chǔ)支持 RAID6、RAID10、RAID5、RAID3、RAID50、RAID1、RAID0 七種RAID 級(jí)別,建議按如下策略為 Oracle OLTP 數(shù)據(jù)庫配置 RAID 級(jí)別。首選 RAID6,尤其是虛擬機(jī) OS,核心業(yè)務(wù)等可靠性要求高的場(chǎng)景。性能的重要性高于可靠性時(shí),建議選擇 RAID10。容量的重要性高于可靠性時(shí),建議選擇 RAID5。創(chuàng)建存儲(chǔ)池的界面如下圖所示。創(chuàng)建文件系統(tǒng)圖4-3 創(chuàng)建存儲(chǔ)池創(chuàng)建文件系統(tǒng)時(shí),為了能使存儲(chǔ)系統(tǒng)的性能達(dá)到最優(yōu)狀態(tài)

32、,需要根據(jù)實(shí)際的數(shù)據(jù)存儲(chǔ)情況,選擇合適的策略。主要參數(shù)的推薦配置策略如下。Thin:啟用 Thin 功能后,存儲(chǔ)系統(tǒng)不會(huì)一次性分配已設(shè)置的容量給文件系統(tǒng)。在文件系統(tǒng)容量范圍內(nèi),存儲(chǔ)系統(tǒng)會(huì)根據(jù)主機(jī)實(shí)際使用的容量動(dòng)態(tài)分配存儲(chǔ)資源, 實(shí)現(xiàn)按需分配。建議開啟??煺湛臻g比例:文件系統(tǒng)快照空間占文件系統(tǒng)空間的百分比。建議保持默認(rèn)值20%。應(yīng)用場(chǎng)景:文件系統(tǒng)的應(yīng)用場(chǎng)景,選擇“VM”。其他參數(shù):建議保持保持默認(rèn)。創(chuàng)建文件系統(tǒng)的界面如下圖所示。圖4-4 創(chuàng)建文件系統(tǒng)創(chuàng)建共享創(chuàng)建 NFS 共享后,操作系統(tǒng)的客戶端用戶能夠通過網(wǎng)絡(luò)訪問共享的文件系統(tǒng),建議按如下策略??蛻舳诉x擇,如果只允許少數(shù)特定的主機(jī),則可以配置

33、IP 或者網(wǎng)段;如果允許所有主機(jī)都訪問,則直接配置為“*”。客戶端權(quán)限選擇“Read-write”讀寫權(quán)限,允許數(shù)據(jù)庫對(duì)文件進(jìn)行任意操作。寫模式保持默認(rèn),選擇“Synchronous”同步模式,寫入共享的數(shù)據(jù)立即寫入硬盤。權(quán)限限制保持,選擇“no_all_squash”,保留共享文件的 UID 和 GID。Root 權(quán)限限制選擇“no_all_squash”,允許客戶端以 root 用戶訪問,root 用戶具有共享目錄的完全控制訪問權(quán)限。源端口校驗(yàn)限制保持默認(rèn),選擇“insecure”,允許客戶端使用 11023 的端口訪問 NFS 共享資源。創(chuàng)建共享的界面如下圖所示。圖4-5 共享權(quán)限配置主

34、機(jī)側(cè)VMware ESXi 服務(wù)器上的操作流程如下:安裝 eSDK_Storage_VAAI-NAS 插件創(chuàng)建 datastore確認(rèn) VAAI 功能已經(jīng)打開下面對(duì)其中的關(guān)鍵步驟進(jìn)行描述。安裝插件VMware 主機(jī)側(cè)需要安裝 eSDK_Storage_VAAI_NAS 插件,安裝包和指導(dǎo)手冊(cè)可以從下面的地址獲取。 HYPERLINK /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779 /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779創(chuàng)建 data

35、storeVMware ESXi 主機(jī)上選擇 NFS V3 協(xié)議,其他參數(shù)解釋如下:Datastore name:datastore 的名稱,可以自己定義。Folder:選擇之前存儲(chǔ)系統(tǒng)上創(chuàng)建的共享文件系統(tǒng)。Server:添加之前存儲(chǔ)系統(tǒng)上配置的邏輯 IP。創(chuàng)建 datastore 的界面如下圖所示。圖4-6 創(chuàng)建 Datastore確認(rèn) VAAI 開關(guān)已經(jīng)打開主機(jī)上先查看 nfs 文件共享所生成的卷名稱,如下所示。圖4-7 查看存儲(chǔ)卷信息rootlocalhost: esxcli storage filesystem listMount PointVolume NameUUIDMounted

36、 TypeSizeFree- - - - - - -/vmfs/volumes/0b81d9bf-db62142enfs_withreduce0b81d9bf-db62142e true NFS879609298944 879393812480/vmfs/volumes/b0de35d5-59dd2d9anfs_noreduce_104 b0de35d5-59dd2d9a true NFS879609298944 793382764544/vmfs/volumes/5a5cd103-4087e29f-637d-90e2ba6ababc Storage_2600_35a5cd103- 4087e

37、29f-637d-90e2ba6ababctrue VMFS-5 321854111744 320832798720/vmfs/volumes/5a5cd113-bac605e2-630d-90e2ba6ababc Storage_2600_45a5cd113- bac605e2-630d-90e2ba6ababctrue VMFS-5 321854111744 234931355648/vmfs/volumes/5a74b033-82b3791a-abdc-90e2ba6ababc extend_test5a74b033- 82b3791a-abdc-90e2ba6ababctrue VMF

38、S-5104689827849544138752/vmfs/volumes/5a3d502a-1c38d6e9-9433-90e2ba6ababc datastore15a3d502a- 1c38d6e9-9433-90e2ba6ababctrue VMFS-5 590826438656 589803028480/vmfs/volumes/5a5cd120-f872e4d6-d945-90e2ba6ababc Storage_2600_55a5cd120- f872e4d6-d945-90e2ba6ababctrue VMFS-5 321854111744 320832798720/vmfs/

39、volumes/5a5cd0e6-21ff1d19-3d46-90e2ba6ababc Storage_2600_15a5cd0e6- 21ff1d19-3d46-90e2ba6ababctrue VMFS-5 321854111744 208968613888/vmfs/volumes/5a5cd0f6-74cdf5ae-f388-90e2ba6ababc Storage_2600_25a5cd0f6- 74cdf5ae-f388-90e2ba6ababctrue VMFS-5 321854111744 208968613888/vmfs/volumes/5a3d502b-3f273588-

40、7111-90e2ba6ababc5a3d502b-3f273588- 7111-90e2ba6ababctrue vfat42935910404261740544/vmfs/volumes/f1263374-abda829d-c3a5-901f31406da8f1263374-abda829d- c3a5-901f31406da8true vfat26185318470705152/vmfs/volumes/b522797b-9f10300e-a26a-c1b586ba3a77b522797b-9f10300e- a26a-c1b586ba3a77true vfat2618531847082

41、3936/vmfs/volumes/5a3d5029-a4ff38d9-4eb3-90e2ba6ababc5a3d5029-a4ff38d9- 4eb3-90e2ba6ababctrue vfat29971251286228992然后使用下面的命令確認(rèn)其支持 NAS VAAI 功能。rootlocalhost: vmkfstools -P -h /vmfs/volumes/0b81d9bf-db62142eNFS-1.00 file system spanning 1 partitions. File system label (if any): nfs_withreduceMode: pub

42、licCapacity 819.2 GB, 819 GB available, file block size 4 KB, max supported file size256 TBUUID: 0b81d9bf-db62142e-0000-000000000000Partitions spanned (on notDCS): nfs:nfs_withreduceNAS VAAI Supported: YESIs Native Snapshot Capable: YES rootlocalhost:場(chǎng)景證實(shí)證實(shí)環(huán)境中,硬件信息如下表所示。表4-1 硬件信息組件類型詳細(xì)信息備注存儲(chǔ)系統(tǒng)OceanS

43、tor 5500F V5版本:V500R007C00SPC100主機(jī)VMware ESXi 6.0交換機(jī)HUAWEI CE6810vCenter ServervCenter 6.5從之前的介紹,可以看到支持 VAAI-NAS 和不支持 VAAI-NAS 的差異如下表所示。表4-2 支持 VAAI-NAS 和不支持 VAAI-NAS 的差異場(chǎng)景支持 VAAI-NAS不支持 VAAI-NAS使用 NFS 共享空間作為虛擬機(jī)的存儲(chǔ)空間同時(shí)支持下面 3 種類型:Thick provision lazy zeroedThick provision eager zeroedThin provision只支

44、持 Thin provision??寺≈鳈C(jī)的 CPU 使用率低鏈路帶寬低克隆速率快主機(jī)的 CPU 使用率高鏈路帶寬高克隆速率慢下面分別對(duì)這些場(chǎng)景進(jìn)行描述。使用 NFS 共享空間作為虛擬機(jī)的存儲(chǔ)空間當(dāng)支持 VAAI-NAS 功能時(shí),客戶可以在 NFS 文件系統(tǒng)中創(chuàng)建 Thick VMDK。當(dāng)不支持 VAAI-NAS 功能時(shí),客戶只能創(chuàng)建 Thin VMDK。操作步驟新創(chuàng)建一個(gè)虛擬機(jī)或者給已有的虛擬機(jī)添加新的磁盤,查看支持的硬盤格式。驗(yàn)證結(jié)果在已經(jīng)安裝 eSDK_Storage_VAAI_NAS 插件的 VMware ESXi 主機(jī)上,我們發(fā)現(xiàn)其支持的磁盤格式如下:圖4-8 安裝 eSDK_Sto

45、rage_VAAI_NAS 插件的服務(wù)器所支持的硬盤格式可以發(fā)現(xiàn),在安裝 eSDK_Storage_VAAI_NAS 插件的 VMware ESXi 主機(jī)上,其支持如下 3 種硬盤格式。Thick provision lazy zeroedThick provision eager zeroedThin provision在該場(chǎng)景下,NFS 共享文件并不支持存儲(chǔ)的負(fù)載卸載,如果選擇“Thick provision eager zeroed”,則可以發(fā)現(xiàn)鏈路上會(huì)有大量的 IO。這里我們給主機(jī)分配兩塊磁盤,一個(gè)類型為“Thick provision eager zeroed”,另外一個(gè)類型為“Th

46、in provision”。如果需要查看“Thin provision”磁盤已經(jīng)分配的空間,則可以在 VMware ESXi 虛擬機(jī)上執(zhí)行下面的命令進(jìn)行查看:rootlocalhost: vmkfstools -extendedstat /vmfs/volumes/b0de35d5- 59dd2d9a/VAAI_NAS_TEST1/VAAI_NAS_TEST1_1.vmdkCapacity bytes: 42949672960Used bytes: 2443132928Unshared bytes: 2443132928 rootlocalhost:在沒有安裝 eSDK_Storage_VAA

47、I_NAS 插件的 VMware ESXi 主機(jī)上,掛載相同的文件共享,發(fā)現(xiàn)其支持的硬盤格式如下:圖4-9 未安裝 eSDK_Storage_VAAI_NAS 插件的服務(wù)器所支持的硬盤格式File Cloning當(dāng)支持 VAAI-NAS 功能時(shí),克隆的操作被卸載到存儲(chǔ)系統(tǒng)上,主機(jī)上的 CPU 負(fù)載,鏈路帶寬都會(huì)偏低。當(dāng)不支持 VAAI-NAS 功能時(shí),克隆的操作完全在鏈路上完成,主機(jī)的 CPU 負(fù)載,鏈路帶寬很高。操作步驟本節(jié)介紹 File Cloning 特性的驗(yàn)證測(cè)試步驟:步驟 1 選擇 VAAI_VM 虛擬機(jī),編輯虛擬機(jī)配置并添加:80GB Thick provision eager z

48、eroed+40G Thin provision 的虛擬硬盤,存儲(chǔ)在 NFS 數(shù)據(jù)存儲(chǔ) NFS_1 中。步驟 2 選擇 VAAI_VM 虛擬機(jī),執(zhí)行 Clone 操作,從 VAAI_VM 虛擬機(jī)克隆一個(gè)新虛擬機(jī)VAAI_VM2 并存放與另外一個(gè) NFS 數(shù)據(jù)存儲(chǔ) NFS_2,記錄遷移過程中的主機(jī) CPU 負(fù)荷、鏈路帶寬及遷移時(shí)間等信息。圖4-10 Clone 虛擬機(jī)步驟 3 在 ESXi 上查看網(wǎng)絡(luò)帶寬使用情況。步驟 4 卸載 HuaweiVAAINASPlugin 的情況下,重復(fù)步驟 13。-結(jié)束驗(yàn)證結(jié)果驗(yàn)證過程中的記錄如下圖所示。表4-3 支持 VAAI-NAS 與不支持 VAAI-NAS

49、 功能對(duì)比對(duì)比項(xiàng)目支持 VAAI-NAS不支持 VAAI-NAS主機(jī) CPU 負(fù)荷10%左右與無操作時(shí)相比,基本沒有變化。40%左右,峰值 80%。網(wǎng)絡(luò)帶寬峰值 14MB,平均值 5MB 左右。離散的 IO。930MB 左右穩(wěn)定的持續(xù) IO。遷移時(shí)間83s138s從上面的記錄可以看到,通過使用 VAAI-NAS 功能,主機(jī)對(duì)存儲(chǔ)的讀寫操作被卸載到存儲(chǔ)內(nèi)部完成,可以大幅降低 VMware ESXi 服務(wù)器的負(fù)荷及鏈路帶寬。 5 華為存儲(chǔ)與 VMware VASA 的最佳實(shí)踐注意事項(xiàng)華為存儲(chǔ)與 VMware VASA 功能配合使用的時(shí)候,有如下注意事項(xiàng)。當(dāng)使用 VMware VASA 功能的時(shí)候,

50、需要在額外的虛擬機(jī)上安裝 VASA 的相關(guān)插件:eSDK_Storage_VASA??梢詮南旅娴牡刂帆@取華為插件 eSDK_Storage_VASA 的相關(guān)信息。 HYPERLINK /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779 /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779同時(shí)使用該功能的時(shí)候,要求存儲(chǔ)已經(jīng)獲得了對(duì)應(yīng)的認(rèn)證。存儲(chǔ)產(chǎn)品與 VMware 的認(rèn)證信息可以通過下面的鏈接搜索到。 HYPERLINK /resources/comp

51、atibility/search.php?deviceCategory=san /resources/compatibility/search.php?deviceCategory=san參考架構(gòu)VMware VASA 的參考架構(gòu)組網(wǎng)圖如下所示。圖5-1 VMware VASA 參考架構(gòu)圖存儲(chǔ)系統(tǒng)與服務(wù)器通過 10GE 組網(wǎng)建立連接。存儲(chǔ)系統(tǒng)上提供 NFS 共享文件系統(tǒng)給服務(wù)器,服務(wù)器上使用該共享文件創(chuàng)建 datastore。通過 vCenter Server 來管理 VMware ESXi 服務(wù)器。使用一臺(tái)獨(dú)立的虛擬機(jī),安裝 Windows Server 2008 R2 操作系統(tǒng),然后安裝

52、eSDK_Storage_VASA 插件。該虛擬機(jī)跟 vCenter 及存儲(chǔ)在同一個(gè)管理網(wǎng)絡(luò)中。操作配置存儲(chǔ)側(cè)主機(jī)側(cè)參見章節(jié) HYPERLINK l _bookmark17 4.3.1 。VMware ESXi 服務(wù)器上的操作流程如下:部署 VASA Provider 虛擬機(jī)。安裝 VASA Provider 虛擬機(jī)的操作系統(tǒng)安裝 eSDK_Storage_VASA 插件VASA Provider 虛擬機(jī)上注冊(cè)存儲(chǔ)VCenter 上注冊(cè) VASA Provider下面對(duì)其中的關(guān)鍵步驟進(jìn)行描述。部署 VASA Provider 虛擬機(jī)VASA Provider 虛擬機(jī)的詳細(xì)部署過程,請(qǐng)參見文檔e

53、SDK Storage Plugins 1.0.0 快速指引 01(VASA 1.0),可以從下面的鏈接中獲取。 HYPERLINK /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779 /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779VCenter 上注冊(cè) VASA Provider打開 vCenter Web 管理界面,單擊網(wǎng)頁上的 Home 圖標(biāo),選擇“Global Inventory Lists”, 如下圖所示。圖5-2 進(jìn)入 Global

54、 Inventory Lists在“Global Inventory Lists”界面,選擇“vCenter Servers”,如下圖所示。圖5-3 選擇 vCenter Servers在左側(cè)導(dǎo)航欄選擇需要注冊(cè)的 vCenter 服務(wù)器名稱,然后在右側(cè)的導(dǎo)航欄“Configure”,然后選擇“Storage Providers”,單擊其中的加號(hào),如下圖所示。圖5-4 注冊(cè)新的插件按照文檔eSDK Storage Plugins 1.0.0 快速指引 01(VASA 1.0)中描述的內(nèi)容,注冊(cè)VASA 插件。注冊(cè)成功后,確認(rèn)插件的狀態(tài)為“Online”。5.4 場(chǎng)景證實(shí)證實(shí)環(huán)境中,硬件信息如下表

55、所示。表5-1 硬件信息組件類型詳細(xì)信息備注存儲(chǔ)系統(tǒng)OceanStor 5500F V5版本:V500R007C00SPC100主機(jī)VMware ESXi 6.0交換機(jī)HUAWEI CE6810vCenter ServervCenter 6.5VASA ProviderVASA 1.0 版本操作系統(tǒng)為 Windows Server 2008 R2 SP1。在 vCenter 6.5 上,使用了 WEB 形式的管理界面,VASA 的功能被弱化,不少 vSphereClient 上的功能不再支持。存儲(chǔ)的資源查看功能大部分可以在 NGC 插件中獲取到,這里重點(diǎn)介紹通過 VASA 配置存儲(chǔ) Profi

56、le,實(shí)現(xiàn)存儲(chǔ)的快速自動(dòng)選擇。5.4.1 定義存儲(chǔ)配置文件,實(shí)現(xiàn)存儲(chǔ)自動(dòng)選擇基于 Storage policy 的虛擬機(jī)存儲(chǔ)自定義配置文件,確保虛擬機(jī)被放置到正確合規(guī)的存儲(chǔ)設(shè)備。操作步驟操作步驟描述如下:步驟 1 定義存儲(chǔ)的 Profile。依次選擇“Home Policies and Profiles”,然后選擇左側(cè)的“VM Storage Policies”,如下圖所示。圖5-5 選擇虛擬機(jī)存儲(chǔ)策略創(chuàng)建虛擬機(jī)存儲(chǔ)策略,如下圖所示。圖5-6 創(chuàng)建虛擬機(jī)存儲(chǔ)策略配置策略名稱。圖5-7 配置策略名稱定義存儲(chǔ)類型,這里我們使用 5500F 全閃存存儲(chǔ)系統(tǒng),定義為“Huawei.ExtremePer

57、formance”類型,如下所示。圖5-8 定義存儲(chǔ)類型選擇兼容的存儲(chǔ)。圖5-9 選擇兼容的存儲(chǔ)完成配置。步驟 2 使用策略,創(chuàng)建虛擬機(jī)。配置虛擬機(jī)的過程中,選擇之前創(chuàng)建的虛擬機(jī)存儲(chǔ)策略,如下圖所示。圖5-10 配置虛擬機(jī)此時(shí),可以發(fā)現(xiàn),vCenter 會(huì)將之前定義好的兼容的存儲(chǔ)羅列出來,簡化了存儲(chǔ)選擇的步驟。-結(jié)束驗(yàn)證結(jié)果虛擬機(jī)創(chuàng)建完成后,查看其存儲(chǔ)資源,確認(rèn)創(chuàng)建在正確的資源池中,如下圖所示。圖5-11 虛擬機(jī)的存儲(chǔ)資源相比于不支持 VASA 的存儲(chǔ),支持 VASA 后,對(duì)維護(hù)工作的簡化如下圖所示。圖5-12 支持 VASA 功能后,對(duì)維護(hù)工作的簡化以新創(chuàng)一個(gè) VM 為例,支持 VASA 與

58、不支持 VASA 的耗時(shí)分析如下:圖5-13 耗時(shí)分析可以發(fā)現(xiàn),使用 VASA 后,運(yùn)維效率提升了 400%。 6華為存儲(chǔ)與 VMwareNGC 的最佳實(shí)踐注意事項(xiàng)華為存儲(chǔ)與 VMware NGC 功能配合使用的時(shí)候,有如下注意事項(xiàng)。當(dāng)使用 VMware NGC 功能的時(shí)候,需要在額外的虛擬機(jī)上安裝 NGC 的相關(guān)插件:eSDK_Storage_NGC_Plugin??梢詮南旅娴牡刂帆@取華為插件 eSDK_Storage_NGC_Plugin 的相關(guān)信息。 HYPERLINK /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130

59、779 /enterprise/zh/cloud-storage/esdk-storage-plugins-pid-22130779同時(shí)使用該功能的時(shí)候,要求存儲(chǔ)已經(jīng)獲得了對(duì)應(yīng)的認(rèn)證。存儲(chǔ)產(chǎn)品與 VMware 的認(rèn)證信息可以通過下面的鏈接搜索到。 HYPERLINK /resources/compatibility/search.php?deviceCategory=san /resources/compatibility/search.php?deviceCategory=san參考架構(gòu)VMware NGC 的參考架構(gòu)組網(wǎng)圖如下所示。圖6-1 VMware NGC 的參考架構(gòu)存儲(chǔ)系統(tǒng)與服務(wù)器

60、通過 10GE 組網(wǎng)建立連接。存儲(chǔ)系統(tǒng)上提供 NFS 共享文件系統(tǒng)給服務(wù)器,服務(wù)器上使用該共享文件創(chuàng)建 datastore。通過 vCenter Server 來管理 VMware ESXi 服務(wù)器。使用一臺(tái)獨(dú)立的虛擬機(jī),安裝 Windows Server 2008 R2 操作系統(tǒng),然后安裝 eSDK_Storage_NGC 插件。該虛擬機(jī)跟 vCenter 及存儲(chǔ)在同一個(gè)管理網(wǎng)絡(luò)中。操作配置存儲(chǔ)側(cè)主機(jī)側(cè)參見章節(jié) HYPERLINK l _bookmark17 4.3.1 。VMware ESXi 服務(wù)器上的操作流程如下:部署 NGC Server 虛擬機(jī)。安裝 NGC Server 虛擬機(jī)的

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論