商業(yè)銀行基于VMAX3完成數(shù)據(jù)遷移及同城容災(zāi)技術(shù)手冊(cè)

1、 商業(yè)銀行基于VMAX3完成數(shù)據(jù)遷移及同城容災(zāi)技術(shù)手冊(cè) 目 錄 TOC o 1-3 h z u HYPERLINK l _Toc65358812 1 VMAX3硬件結(jié)構(gòu)與技術(shù)概述 PAGEREF _Toc65358812 h 3 HYPERLINK l _Toc65358813 2 VMAX3運(yùn)維管理 PAGEREF _Toc65358813 h 15 HYPERLINK l _Toc65358814 3 利用VMAX3及SRDF/S完成數(shù)據(jù)遷移及同城容災(zāi)搭建案例 PAGEREF _Toc65358814 h 24【摘要】本文從商業(yè)銀行運(yùn)維管理角度出發(fā)，結(jié)合VMAX3技術(shù)要點(diǎn)，以VMAX100

2、k/200k為例介紹存儲(chǔ)管理工具，邏輯配置，及利用SRDF/S進(jìn)行數(shù)據(jù)遷移及同城容災(zāi)搭建案例。從硬件架構(gòu)和軟件特點(diǎn)出發(fā)，使讀者了解與熟悉VMAX3存儲(chǔ)產(chǎn)品的運(yùn)維要點(diǎn)：如物理架構(gòu)新特性與冗余性、實(shí)施配置、SRDF及容災(zāi)架構(gòu)、SRDF/Metro技術(shù)要點(diǎn)、監(jiān)控維護(hù)等。希望讀者能通過本文熟練掌握VMAX3管理和運(yùn)維工具，能提高存儲(chǔ)采購選型、運(yùn)行維護(hù)效率，提升具體項(xiàng)目場(chǎng)景中關(guān)鍵技術(shù)的實(shí)際運(yùn)用靈活性與準(zhǔn)確性，在符合監(jiān)管部門容災(zāi)架構(gòu)要求的基礎(chǔ)上，提升商業(yè)銀行關(guān)鍵業(yè)務(wù)系統(tǒng)可靠性和連續(xù)性。1 VMAX3硬件結(jié)構(gòu)與技術(shù)概述Dell EMC VMAX3 是Dell EMC公司在2014年問世的第三代高端VMAX存

3、儲(chǔ)系統(tǒng)，型號(hào)包括VMAX100/200K/400K，積淀兩代VMAX產(chǎn)品VMAX/e和VMAX2之后，F(xiàn)irmware Code和體系結(jié)構(gòu)都表現(xiàn)得更加成熟與穩(wěn)定。在此基礎(chǔ)之上，隨著全閃和NVM/e技術(shù)成熟，Dell EMC發(fā)布了VMAX ALL FLASH和 PowerMAX產(chǎn)品系列高端存儲(chǔ)。本文將以VMAX3中VMAX100K/200K為例，著重介紹實(shí)際運(yùn)維管理中涉及到的技術(shù)，并分享利用SRDF為關(guān)鍵技術(shù)，完成數(shù)據(jù)遷移和保護(hù)的實(shí)施案例。1.1 VMAX3高可用硬件架構(gòu)VMAX100k/200k/400k的硬件結(jié)構(gòu)按部署方式分為緊湊排列、分布排列和這兩種的混合排列三種方式。分布排列和混合排列是

4、當(dāng)機(jī)房的空間有限、列頭用電到達(dá)上限或者地板集中承重能力不足時(shí)才考慮的部署方式，本文以常用的緊湊排列部署方式為例介紹VMAX3各型號(hào)的物理組成情況。圖1：VMAX100k/200k/400k 單引擎物理部署圖如圖1所示，物理架構(gòu)圖中可以看出VMAX3的物理架構(gòu)中各組件為冗余設(shè)計(jì)，每個(gè)系統(tǒng)機(jī)柜（System Bay）的引擎由兩個(gè)控制器（Director）組成，機(jī)柜的物理磁盤單元（DAE）由雙PDU供電。發(fā)生緊急掉電時(shí)，控制器由雙備用電源（SPS）保護(hù)，系統(tǒng)柜1下面的一組備用電源是為用于控制器互聯(lián)的一對(duì)MIBE和以太網(wǎng)交換機(jī)做掉電保護(hù)用的。圖2：VMAX3引擎邏輯配置圖與VMAX2（VMAX10K/

5、20K/40K）產(chǎn)品不同，二代產(chǎn)品的DAE還是需要備用電源進(jìn)行掉電保護(hù)的，而VMAX3則改將緊急掉電前CACHE中的數(shù)據(jù)，寫入引擎中的冗余的FLASH盤中（圖2中引擎slot0/1/6/7的位置），而不再寫入到DAE中。圖3：VMAX100k/200k/400k 雙引擎物理部署圖為增配更多引擎，VMAX3配置了雙引擎系統(tǒng)柜，當(dāng)然每個(gè)柜中會(huì)減少兩個(gè)物理磁盤單元的位置，增加兩個(gè)控制器，構(gòu)成雙引擎模式，最大擴(kuò)展部署分布如圖3所示。選擇雙引擎架構(gòu)來承載關(guān)鍵業(yè)務(wù)，想必是出于業(yè)務(wù)對(duì)存儲(chǔ)處理能力、緩存數(shù)量、業(yè)務(wù)端口數(shù)量有最低限制的要求，而對(duì)于容量的極限擴(kuò)展能力相對(duì)要求不高。用于采購和技術(shù)方案的詳細(xì)參數(shù)指標(biāo)詳

6、見VMAX3-系列產(chǎn)品指南，項(xiàng)目實(shí)施初期的物理安裝要求詳見VMAX3-系列站點(diǎn)規(guī)劃指南。1.2 VMAX3基本邏輯配置講起大多數(shù)VMAX3的邏輯對(duì)象配置工作，很多客戶購買了該產(chǎn)品后，實(shí)施廠商已經(jīng)按照具體使用需求，完成了大多數(shù)的配置選型、設(shè)備下單、運(yùn)輸安裝、初始化、存儲(chǔ)映射、以及操作系統(tǒng)多路徑軟件部署、邏輯卷識(shí)別和參數(shù)調(diào)整等邏輯配置工作。如果采購多臺(tái)存儲(chǔ)用于多地多中心的容災(zāi)環(huán)境，針對(duì)各地系統(tǒng)的容災(zāi)規(guī)劃，存儲(chǔ)間的邏輯部署工作也會(huì)由原廠來完成，主要包括存儲(chǔ)SRDF端口的邏輯配對(duì)，生產(chǎn)容災(zāi)主從SRDF存儲(chǔ)組配置，SRDF遠(yuǎn)端、目標(biāo)端存儲(chǔ)pair配置，以及數(shù)據(jù)同步關(guān)系的初始化、啟停和查詢的一系列邏輯操作

7、等。1.2.1 存儲(chǔ)映射配置大多用戶都是從存儲(chǔ)映射開始的，VMAX3在映射關(guān)系中的概念，大部分可以從其他存儲(chǔ)廠商的概念移植過來，了解VMAX3存儲(chǔ)系統(tǒng)實(shí)際硬件配置和初始化信息的基礎(chǔ)上，就可以整理出存儲(chǔ)映射所需要的信息了。存儲(chǔ)初始化基本配置信息： 存儲(chǔ)系統(tǒng)硬件信息：序列號(hào)、引擎及/Cache、VaultFlash，前端口數(shù)量/速率、磁盤類型/容量/數(shù)量以及熱備盤情況 初始化信息：設(shè)備微碼版本、可用引擎數(shù)、可用內(nèi)存數(shù)、是否DARE加密、是否需要大機(jī)支持、開放平臺(tái)支持、RDF模式等 主機(jī)信息：業(yè)務(wù)主機(jī)名稱、系統(tǒng)版本、集群關(guān)系、HBA卡名稱、PN號(hào)、WWN號(hào) 空間需求：空間RAID保護(hù)類型、主機(jī)卷組名

8、、所需容量、存儲(chǔ)卷名稱與數(shù)量等 端口分配：按不同的業(yè)務(wù)系統(tǒng)分配不同的前端口，存儲(chǔ)端形成對(duì)應(yīng)的端口組，并確保端口所在不同F(xiàn)abric冗余掌握上述信息，按部就班進(jìn)行主機(jī)磁盤分配與映射，確認(rèn)與配置步驟如下：查看存儲(chǔ)資源池（SRP）-查看磁盤池（Thin Pool)-根據(jù)業(yè)務(wù)IO類型選擇服務(wù)級(jí)別（自動(dòng)FAST配置）-存儲(chǔ)端口組(Port Group)-主機(jī)端口組(Initiator Group)-邏輯卷組成的存儲(chǔ)組（Storage Group）-存儲(chǔ)與主機(jī)映射關(guān)系（Masking Views)，具體的配置在后面web界面中會(huì)介紹，詳見Dell EMC Unisphere for VMAX Online

9、 Help1.2.2多路徑軟件部署路徑（Path）是指主機(jī)與存儲(chǔ)系統(tǒng)邏輯單元之間的物理鏈路，包括主機(jī)總線適配器（HBA）端口，電纜，交換機(jī)，存儲(chǔ)系統(tǒng)接口和端口，以及邏輯單元（LU）。邏輯單元指可作為單一存儲(chǔ)卷被尋址的物理或虛擬設(shè)備。對(duì)于iSCSI標(biāo)準(zhǔn)，路徑指Initiator-Target-LU。圖4：是否有PowerPath的IO分布對(duì)比圖Dell EMC的存儲(chǔ)多路徑軟件為PowerPath（這里簡(jiǎn)稱PP），PP對(duì)不同操作系統(tǒng)會(huì)有對(duì)應(yīng)版本，其作用是基于主機(jī)系統(tǒng)管理各主機(jī)至存儲(chǔ)路徑，聚合冗余路徑提高可用性，并動(dòng)態(tài)均衡路徑IO負(fù)載功能。PP可以管理Dell EMC主流存儲(chǔ)產(chǎn)品（Symmetrix

10、、Unity、VNX等）以及其他廠商設(shè)備。選擇性的安裝PP，取決于實(shí)際使用場(chǎng)景和個(gè)人習(xí)慣，由操作系統(tǒng)工具、集群管理工具或數(shù)據(jù)庫存儲(chǔ)管理工具來管理邏輯單元未嘗不可，但PP比較各操作系統(tǒng)自帶的多路徑軟件，在故障切換、負(fù)載均衡和其他特性上具備一定優(yōu)勢(shì)，具體的安裝配置方法，可以參考PP的Readme文件。1.2.3 主機(jī)邏輯卷識(shí)別如果需要PP多路徑軟件，個(gè)人習(xí)慣于安裝好多路經(jīng)軟件（包括License的導(dǎo)入）后，再進(jìn)行主機(jī)端的磁盤掃描，實(shí)際部署時(shí)會(huì)規(guī)避掉一些多路徑軟件設(shè)置和操作系統(tǒng)中路徑聚合定義管理混亂的情況發(fā)生。主機(jī)端進(jìn)行SCAN邏輯卷操作，新部署的系統(tǒng)常用重啟操作完成主機(jī)對(duì)邏輯卷掃描（Scan）動(dòng)作

11、，已有業(yè)務(wù)運(yùn)行的操作系統(tǒng)，當(dāng)存儲(chǔ)系統(tǒng)對(duì)邏輯卷或端口進(jìn)行過配置變更之后，也可以通過系統(tǒng)本身或Solution Enabler配置管理工具進(jìn)行掃描，具體的方法可以參考Host-Connectivity-Guide-for-Linux/VMware ESX SERVER等主機(jī)連接手冊(cè)。邏輯卷被識(shí)別后，由PowerPath相關(guān)命令進(jìn)行管理。相信每位存儲(chǔ)管理員都會(huì)有一份主機(jī)邏輯卷名稱（或PowerPath的偽磁盤名稱）、容量、存儲(chǔ)LUN ID的對(duì)應(yīng)關(guān)系，后續(xù)的容量變更、TimeFinder實(shí)施、容災(zāi)切換等變更維護(hù)工作和故障監(jiān)控、故障影響范圍確認(rèn)、性能監(jiān)控，都會(huì)以此信息為準(zhǔn)，即使有自動(dòng)化運(yùn)維工具的，也需要

12、將這些信息導(dǎo)出留存。1.3 SRDF技術(shù)Symmetrix Remote Data Facility (SRDF)是一種基于Symmetrix的用于保障業(yè)務(wù)連續(xù)性和遠(yuǎn)程災(zāi)備的解決方案，通過對(duì)多臺(tái) Symmetrix進(jìn)行配置，在不同地點(diǎn)實(shí)現(xiàn)多點(diǎn)、實(shí)時(shí)的數(shù)據(jù)備份。Symmetrix從最早的DMX系列，到配置Enginuity VMAX10k、20k、40k陣列，再到運(yùn)行HYPERMAX VMAX100k、200k、400k、全閃250F/450F/850F/950F，發(fā)展到運(yùn)行PowerMaxOS的PowerMAX2000、8000系列，SRDF也在不斷迭代，適應(yīng)硬件架構(gòu)的改進(jìn)。但典型的拓?fù)浣Y(jié)構(gòu)和

13、操作模式變化不大，只是結(jié)合TimeFinder等技術(shù)，與集群軟件的配合，衍生出眾多應(yīng)用不同場(chǎng)景的方案。自HYPERMAX以來，SRDF/Metro的雙活技術(shù)出現(xiàn)，使存儲(chǔ)陣列本身脫離了存儲(chǔ)虛擬化網(wǎng)關(guān)制約，為雙活數(shù)據(jù)中心提供了新的技術(shù)手段。1.3.1 SRDF典型拓?fù)溷y行業(yè)根據(jù)人民銀行對(duì)數(shù)據(jù)中心要求，以及自身實(shí)際的建設(shè)需求，可以采用同一數(shù)據(jù)中心的兩站點(diǎn)保護(hù)拓?fù)?，和?shù)據(jù)中心間的多站點(diǎn)SRDF拓?fù)浣Y(jié)構(gòu)。根據(jù)業(yè)務(wù)級(jí)別以及容災(zāi)容錯(cuò)具體要求，選擇恰當(dāng)?shù)耐負(fù)浣Y(jié)構(gòu)，配合SRDF操作模式完成數(shù)據(jù)保護(hù)與容災(zāi)切換等應(yīng)用場(chǎng)景。表1：SRDF適用場(chǎng)景雙站點(diǎn)拓?fù)浔?：SRDF適用場(chǎng)景多站點(diǎn)拓?fù)?.3.2 SRDF/Metr

14、o在傳統(tǒng)SRDF配置中，雙站點(diǎn)SRDF架構(gòu)中業(yè)務(wù)主機(jī)應(yīng)用程序主機(jī)只能對(duì) R1 設(shè)備進(jìn)行讀/寫訪問。R2設(shè)備為只讀，禁止寫入。但是在SRDF/Metro配置中，應(yīng)用程序主機(jī)對(duì)R1和R2設(shè)備均可進(jìn)行讀/寫訪問，可以同時(shí)寫入到設(shè)備對(duì)的R1和R2端，R2設(shè)備使用與R1設(shè)備相同的外部設(shè)備標(biāo)識(shí)。標(biāo)識(shí)包括設(shè)備結(jié)構(gòu)和設(shè)備WWN。這一共享標(biāo)識(shí)意味著R1和R2設(shè)備跨越兩個(gè)陣列對(duì)應(yīng)用程序主機(jī)顯示為一個(gè)虛擬設(shè)備。SRDF/Metro可以部署在單個(gè)多路徑主機(jī)環(huán)境中，也可以部署在群集式主機(jī)環(huán)境中。圖5：SRDF/Metro部署環(huán)境每個(gè)群集節(jié)點(diǎn)都有專用途徑來訪問單獨(dú)的存儲(chǔ)陣列。在這兩種配置中，對(duì)R1和R2設(shè)備的寫入都將同步

15、拷貝到另一個(gè)陣列中的配對(duì)設(shè)備，磁盤鎖和寫時(shí)序邏輯由SRDF/Metro 軟件協(xié)調(diào)處理，使SRDF兩端設(shè)備保持一致的鏡像。SRDF/Metro配置中發(fā)生單側(cè)設(shè)備不可用或設(shè)備間連接中斷，SRDF/Metro 通過可靠穩(wěn)定的第三方陣列或虛機(jī)見證者（vWitness）確認(rèn)故障點(diǎn)，參考PowerMaxOS code版本、RDF連接架構(gòu)（是否具有SRDF/A DR分支）及端口使用情況、bias設(shè)置作為判斷依據(jù)，選擇出提供服務(wù)的一端存儲(chǔ)，避免單側(cè)主機(jī)不可訪問或“裂腦”情況發(fā)生。陣列和虛機(jī)兩種witness可以并行使用，但生效的僅有一個(gè)，當(dāng)所有witness均失效時(shí)，SRDF/Metro會(huì)變由active/a

16、ctive模式變?yōu)閍ctive/bias模式，按照預(yù)設(shè)，保護(hù)性地使一端變?yōu)閎ias可讀寫而非bias的另一端不可訪問。在同城異地三中心或四中心的災(zāi)備架構(gòu)中，可以將按下圖中方法將Metro的任意一端或者兩端復(fù)制到不同的第三、第四中心或者共同的第三中心。圖6：SRDF/Metro多站點(diǎn)部署2 VMAX3運(yùn)維管理2.1 VMAX3支持的典型管理工具及版本這些組件為HYPERMAX提供的管理工具，選擇典型介紹：Unisphere for VMAX V8.4Unisphere for VMAX是一款基于Web的應(yīng)用程序，便于快速調(diào)配、管理和監(jiān)視陣列，具備存儲(chǔ)性能與配置的REST API接口。Soluti

17、ons Enabler V8.4Solutions Enabler 提供管理存儲(chǔ)的綜合命令行界面 (SYMCLI)，SYMCLI命令可以在主機(jī)上交互運(yùn)行或者在腳本中調(diào)用，可配置TimeFinder、SRDF等存儲(chǔ)軟件，監(jiān)控設(shè)備配置與狀態(tài)，執(zhí)行部分設(shè)備控制操作，具備REST API接口。Mainframe Enablers V8.1以大型機(jī)為主要支持對(duì)象的存儲(chǔ)命令行監(jiān)視、管理軟件組件。GDDR V5.0地理位置分散的災(zāi)難重啟軟件本身不提供復(fù)制和恢復(fù)業(yè)務(wù)，而是在計(jì)劃性與災(zāi)難性宕機(jī)發(fā)生時(shí)，或者容災(zāi)切換演練情況，監(jiān)視執(zhí)行管理配置好的事件定制步驟，快速且無人為干預(yù)的完成業(yè)務(wù)切換。SMI-S V8.4支持

18、SNIA存儲(chǔ)管理計(jì)劃（SMI）的ANSI存儲(chǔ)管理標(biāo)準(zhǔn)，使不同廠商存儲(chǔ)管理技術(shù)可以相互操作，便于監(jiān)控異構(gòu)存儲(chǔ)資源。VASA 提供程序 V8.4支持vCenter更好的管理VMFS存儲(chǔ)（包括VVol）的配置與保護(hù)情況，給vSphere管理員提供更多存儲(chǔ)信息，補(bǔ)充插件和工具的使用，滿足虛擬化的性能和可用性需求。其他軟件eNAS, SRDF/CE Migrator等針對(duì)VMAX FILE、SRDF和數(shù)據(jù)遷移工具的管理軟件如果有興趣也可以單獨(dú)了解2.1.1 WEB界面WEB界面可以通過存儲(chǔ)自身的虛擬控制臺(tái)進(jìn)行登錄，也可以連接到安裝了Unisphere for VMAX的主機(jī)上進(jìn)行管理。存儲(chǔ)自身虛擬控制臺(tái)

19、管理IP需要在設(shè)備初始化時(shí)，由工程師配置進(jìn)存儲(chǔ)；而管理主機(jī)進(jìn)行Web管理前，需要與存儲(chǔ)在SAN網(wǎng)絡(luò)通訊，識(shí)別到管理GK盤，部署過SE和Unisphere for VMAX軟件，開通8443端口等，當(dāng)然管理機(jī)視圖和可執(zhí)行的操作會(huì)比存儲(chǔ)自身控制臺(tái)豐富和全面。訪問地址：https:/:8443/univmax/，訪問后可針對(duì)存儲(chǔ)邏輯卷，存儲(chǔ)端口、主機(jī)端口、映射關(guān)系、數(shù)據(jù)保護(hù)等進(jìn)行管理，管理界面如下：圖7：Unisphere for VMAX Web管理界面2.1.2 SYMCLI命令命令行管理工具常部署在管理機(jī)上作為日常管理的使用場(chǎng)景，也常部署在TimeFinder或者SRDF執(zhí)行的業(yè)務(wù)系統(tǒng)中，配合

20、業(yè)務(wù)需求，將配合查詢或備份的場(chǎng)景命令腳本化。Solutions-Enabler的安裝配置、存儲(chǔ)控制管理、TimeFinder操作和SRDF用戶手冊(cè)，均有詳細(xì)的使用手冊(cè)。2.1.3集成存儲(chǔ)監(jiān)控工具集成存儲(chǔ)監(jiān)控管理工具通過存儲(chǔ)的REST API接口，有針對(duì)性地進(jìn)行性能數(shù)據(jù)收集分析、事件監(jiān)控處理、容災(zāi)切換等場(chǎng)景的集成統(tǒng)一管理。用戶常采用成熟軟件產(chǎn)品或者定制化開發(fā)，實(shí)現(xiàn)存儲(chǔ)設(shè)備自動(dòng)化運(yùn)維、統(tǒng)計(jì)報(bào)告生成和前瞻性分析等。此類軟件有IBM Spectrum Control，DELL EMC ViPR，開源軟件XoruX STOR2RRD以及利用開源Zabbix監(jiān)控?cái)?shù)據(jù)采集和Grafana監(jiān)控界面展示實(shí)現(xiàn)針對(duì)

21、自身存儲(chǔ)定制開發(fā)產(chǎn)品。圖8：STOR2RRD監(jiān)控管理工具2.2 性能與監(jiān)控2.2.1 性能分析與報(bào)表Web中Performance-EMC View中可查看存儲(chǔ)整體、存儲(chǔ)組及熱點(diǎn)情況，選擇觀察統(tǒng)計(jì)時(shí)間之內(nèi)的前、后端口IO、吞吐量、存儲(chǔ)緩存落盤延遲情況以及主機(jī)讀寫請(qǐng)求。圖15：性能與監(jiān)控整體視圖整體觀察性能數(shù)據(jù)后，可針對(duì)存儲(chǔ)進(jìn)行實(shí)時(shí)分析、本源分析和趨勢(shì)分析：圖16：性能分析視圖需要生成性能報(bào)告時(shí)，選擇Chart，時(shí)間段、均值峰值和相關(guān)參數(shù)指標(biāo)，在右側(cè)形成圖表。圖17：性能報(bào)告視圖2.2.2 日常故障監(jiān)控自動(dòng)遠(yuǎn)程監(jiān)控如果用戶的網(wǎng)絡(luò)條件允許存儲(chǔ)設(shè)備通過加密互聯(lián)網(wǎng)配置Dell EMC遠(yuǎn)程監(jiān)控及支持系統(tǒng)

22、，（包括call home，Webex、ESRS等多種模式），會(huì)自動(dòng)報(bào)修設(shè)備異常并由遠(yuǎn)程工程師處理解決，需要現(xiàn)場(chǎng)維護(hù)的時(shí)候，自動(dòng)通知現(xiàn)場(chǎng)工程師進(jìn)行現(xiàn)場(chǎng)維護(hù)。但出于行業(yè)監(jiān)管和安全的要求，金融行業(yè)普遍需要采用本地監(jiān)控方式自行監(jiān)控處理故障。WEB查看存儲(chǔ)狀態(tài)及告警在Unisphere for VMAX中System-System Dashboard中查看存儲(chǔ)各硬件部件狀態(tài)及健康檢查，運(yùn)行健康檢查HealthCheck之后刷新檢查當(dāng)前Status系統(tǒng)狀態(tài)：圖18：存儲(chǔ)系統(tǒng)健康檢查結(jié)果在Unisphere for VMAX中System-Alerts中查看故障事件圖19：存儲(chǔ)系統(tǒng)告警列表SYMCLI命令

23、行及集成監(jiān)控環(huán)境登錄到安裝有Solutions Enabler的主機(jī)，執(zhí)行以下命令查看主機(jī)狀態(tài)：列出該主機(jī)所連接的存儲(chǔ)信息symcfg list圖20：symcfg結(jié)果示例查看存儲(chǔ)設(shè)備的日志信息：symevent -sid -v list -start -end 圖21：symevent結(jié)果示例事件信息需要關(guān)注告警控制器（Reporting Director）、告警類別（Category）、等級(jí)（Severity）以及故障代碼和描述信息，便于定位故障與保修描述。再列舉一些常用設(shè)備狀態(tài)查看命令：查看系統(tǒng)設(shè)備狀態(tài)，正常狀態(tài)為Normalsymcfg -sid list -env_data圖22：s

24、ymcfg env_data結(jié)果示例查看系統(tǒng)故障磁盤，正常狀態(tài)沒有找到故障設(shè)備symdisk -sid list -failed上述命令可以寫在定時(shí)任務(wù)中，便于每天查看執(zhí)行結(jié)果，或者推送到集中監(jiān)控平臺(tái)觸發(fā)事件告警、分析與處理流程。3 利用VMAX3及SRDF/S完成數(shù)據(jù)遷移及同城容災(zāi)搭建案例3.1 案例背景介紹案例通過在線方式將數(shù)據(jù)遷移到新數(shù)據(jù)中心進(jìn)行多批次的新業(yè)務(wù)驗(yàn)證和遷移演練，保證在不改變現(xiàn)有生產(chǎn)架構(gòu)、不影響現(xiàn)有業(yè)務(wù)的前提下，最小化業(yè)務(wù)切換窗口，完成業(yè)務(wù)系統(tǒng)數(shù)據(jù)遷移和生產(chǎn)數(shù)據(jù)中心平滑切換。原有業(yè)務(wù)在A、B每個(gè)數(shù)據(jù)中心均由主、備小型機(jī)主機(jī)與IBM V7000存儲(chǔ)運(yùn)行數(shù)據(jù)庫，兩數(shù)據(jù)中心之間的兩

25、臺(tái)V7000通過MetroMirror進(jìn)行同步復(fù)制。新建數(shù)據(jù)中心C將作為遷移后主中心，原有主中心A將作為遷移后的備數(shù)據(jù)中心，原B中心將不再使用。兩臺(tái)VMAX100k存儲(chǔ)分別在A和C兩中心部署、通過配置和SRDF/S的操作，實(shí)現(xiàn)數(shù)據(jù)遷移演練、業(yè)務(wù)驗(yàn)證和數(shù)據(jù)中心切換的工作。圖23：數(shù)據(jù)遷移三中心示意圖3.2 兼容性考量遷移的關(guān)鍵是需要確認(rèn)A中心主機(jī)集群兩種多路徑軟件共存的兼容性。在共用HBA adapter前提下， 兩款多路徑軟件在系統(tǒng)中兼容共存，而且可以管理各自的邏輯磁盤而不干涉管理其他磁盤路徑正常IO操作，是該方案可通過系統(tǒng)LVM實(shí)現(xiàn)遷移的重要前提，系統(tǒng)環(huán)境和兼容性確認(rèn)和安裝要點(diǎn)如下供參考。3

26、.2.1 系統(tǒng)環(huán)境與軟件相關(guān)信息操作系統(tǒng)：AIX，版本：6100-06-02-1044源端存儲(chǔ)型號(hào)：V7000存儲(chǔ)FirmWare：對(duì)應(yīng)多路徑軟件SDDPCM：目標(biāo)存儲(chǔ)型號(hào)：VMAX100K存儲(chǔ)FirmWare：5977.1131.1131對(duì)應(yīng)多路徑軟件PowerPath：3.2.2 兼容性確認(rèn)兼容性確認(rèn)參考了SDDPCM和POWERPATH的相關(guān)手冊(cè)，理論上確認(rèn)了同時(shí)在AIX系統(tǒng)中安裝這兩款成熟的多路徑軟件的可兼容性。如下圖，解讀Multipath Subsystem Device Driver Users Guide的意思，LVM等主機(jī)IO都是調(diào)用AIX中多路徑磁盤的驅(qū)動(dòng)實(shí)現(xiàn)讀寫和路徑冗余

27、的，而兩種廠商多路徑軟件均在遵循系統(tǒng)磁盤多路徑驅(qū)動(dòng)的基礎(chǔ)上，結(jié)合自身存儲(chǔ)特點(diǎn)優(yōu)化而成的驅(qū)動(dòng)子集，互不沖突互不干擾共同調(diào)用共享HBA驅(qū)動(dòng)，完成對(duì)各自邏輯磁盤的管理。圖24：SDDPCM與其他廠商存儲(chǔ)共存另外，在PowerPath for AIX6.1的手冊(cè)中，明確列出可與日立、IBM、惠普等廠商存儲(chǔ)多路徑兼容的列表。而且如果上述軟件已在系統(tǒng)中安裝，則PowerPath將不再對(duì)下列存儲(chǔ)邏輯卷類型進(jìn)行支持，也就是僅支持自家存儲(chǔ)。圖25：PowerPath對(duì)其他廠商存儲(chǔ)多路徑軟件兼容列表如果系統(tǒng)中最早安裝了PowerPath，需要為系統(tǒng)增加上述存儲(chǔ)及多路徑軟件，需要首先設(shè)置PowerPath不要去管理

28、其他廠商存儲(chǔ)，再進(jìn)行軟件安裝。以增加IBM存儲(chǔ)為例，則運(yùn)行：powermt unmanage class=ess兼容性理論上確認(rèn)之后，基礎(chǔ)環(huán)境搭建之前，我們測(cè)試了在上述系統(tǒng)環(huán)境中已存在SDDPCM的環(huán)境，安裝PowerPath的實(shí)際效果，軟件安裝后并不影響原磁盤管理，同時(shí)對(duì)目標(biāo)存儲(chǔ)磁盤識(shí)別和管理也正常，并未重啟系統(tǒng)，理論和實(shí)踐的兼容性測(cè)試，為后續(xù)遷移的成功奠定了關(guān)鍵技術(shù)基礎(chǔ)。3.3 基本環(huán)境搭建階段數(shù)據(jù)中心A和C按照雙站點(diǎn)SRDF/S模式進(jìn)行搭建，與新數(shù)據(jù)中心站點(diǎn)C的完全新建不同，原主中心A在切換之前的所有操作，需要在原有生產(chǎn)環(huán)境不受任何影響，在線完成下列配置：A中心SAN交換機(jī)配置：生產(chǎn)主機(jī)

29、與VMAX100k存儲(chǔ)zone配置、與C中心SAN交換機(jī)級(jí)聯(lián)配置，A中心主機(jī)安裝PowerPath多路徑軟件、識(shí)別存儲(chǔ)邏輯卷、在HACMP環(huán)境中通過LVM完成V7000存儲(chǔ)與VMAX100k邏輯卷的鏡像（VMAX100k邏輯卷數(shù)量與容量與V7000一致，容量不小于V7000卷）數(shù)據(jù)中心A和C存儲(chǔ)間完成SRDF/S配置：RDF端口、兩中心邏輯卷配對(duì)、以及由A至C中心的SRDF/S同步方向。其中關(guān)鍵步驟為：在A中心存儲(chǔ)管理機(jī)上建立動(dòng)態(tài)SRDF組，并添加多組A_dev_id:C_dev_id的設(shè)備對(duì)文件dev_pair.txt#symrdf addgrp -label dyngrp4 -rdfg -

30、sid -dir -remote_rdfg -remote_sid -remote_dir #symrdf createpair -f dev_pair.txt -sid -rdfg -type r1 -invalidate r23.4 數(shù)據(jù)遷移演練與業(yè)務(wù)驗(yàn)證階段該階段需要發(fā)起A中心至C中心的數(shù)據(jù)同步，數(shù)據(jù)同步后，C中心利用遷移來的生產(chǎn)數(shù)據(jù)進(jìn)行參數(shù)修改、業(yè)務(wù)驗(yàn)證、新業(yè)務(wù)間聯(lián)調(diào)等工作，同時(shí)為遷移演練提供準(zhǔn)確的數(shù)據(jù)同步與業(yè)務(wù)啟動(dòng)、驗(yàn)證時(shí)間，經(jīng)過多批次的驗(yàn)證和遷移演練時(shí)間壓縮后，業(yè)務(wù)部門內(nèi)外報(bào)備，申請(qǐng)最小停機(jī)窗口進(jìn)行真實(shí)數(shù)據(jù)遷移與數(shù)據(jù)中心切換。其中關(guān)鍵步驟：在A中心存儲(chǔ)管理機(jī)上執(zhí)行查詢、發(fā)起同步和斷

31、開SRDF數(shù)據(jù)通訊的命令查詢并確認(rèn)SRDF同步方向，由local的A中心存儲(chǔ)ID至remote的C中心存儲(chǔ)ID。（-i 參數(shù)為自動(dòng)查詢間隔時(shí)間，time為秒數(shù)，可用此命令估算同步數(shù)據(jù)時(shí)間）#symrdf -g dyngrp4 query -i time首次發(fā)起由A向C中心全量同步：#symrdf -g dyngrp4 est full增量發(fā)起由A向C中心同步：#symrdf -g dyngrp4 est查詢確認(rèn)同步速度和同步狀態(tài)為sync之后，斷開SRDF使C端存儲(chǔ)可讀寫#symrdf -g dyngrp4 split3.5 數(shù)據(jù)中心真實(shí)切換數(shù)據(jù)中心真實(shí)切換時(shí)，將有序停止原A中心業(yè)務(wù)，數(shù)據(jù)同步

32、至C中心后，斷開存儲(chǔ)復(fù)制，在C中心有序啟動(dòng)業(yè)務(wù)并驗(yàn)證業(yè)務(wù)。關(guān)鍵決策時(shí)間點(diǎn)內(nèi)，小概率業(yè)務(wù)驗(yàn)證不成功，則有序停C中心業(yè)務(wù)并啟動(dòng)A中心業(yè)務(wù)，確定原因后再申請(qǐng)遷移窗口；若業(yè)務(wù)驗(yàn)證成功，則更改SRDF/S同步方向，由新主中心C向新備中心A同步數(shù)據(jù)，同時(shí)拆除A中心主機(jī)LVM鏡像，保留VMAX100k邏輯卷，完成主中心至容災(zāi)中心的快速切換。其中關(guān)鍵步驟為：在確認(rèn)C端為主中心后，狀態(tài)為split的SRDF可以執(zhí)行存儲(chǔ)復(fù)制方向互換，下面命令仍在A中心存儲(chǔ)管理機(jī)上操作，執(zhí)行確認(rèn)后查詢，R1和R2位置存儲(chǔ)已對(duì)調(diào)#symrdf -g dyngrp4 swap對(duì)調(diào)后發(fā)起establish動(dòng)作，就會(huì)由C中心的新R1同步數(shù)據(jù)到A中心的R2端，使A中心作為C中心的同城容災(zāi)中心。3.6 遷移驗(yàn)證由于遷移數(shù)據(jù)