存儲(chǔ)-storage課件_第1頁(yè)
存儲(chǔ)-storage課件_第2頁(yè)
存儲(chǔ)-storage課件_第3頁(yè)
存儲(chǔ)-storage課件_第4頁(yè)
存儲(chǔ)-storage課件_第5頁(yè)
已閱讀5頁(yè),還剩91頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、1 存儲(chǔ)產(chǎn)品類型介紹服務(wù)器:本地磁盤(pán) 存儲(chǔ)設(shè)備NFS: 安裝oracle :軟件位置,數(shù)據(jù)文件的位置 如何規(guī)劃?1.1 第一部分 EMC產(chǎn)品介紹1.1.1 EMC CLARiiON AX4RAID 級(jí)別RAID 1/0、RAID 3、RAID 5、RAID 6前端(主機(jī))連接每個(gè) AX4 具有一個(gè)或兩個(gè)存儲(chǔ)處理器 (SP)每個(gè)存儲(chǔ)處理器具有 1 GB 內(nèi)存光纖通道:二或四個(gè) 4 Gb/s光纖口iSCSI:兩個(gè) 1 Gb/s 以太網(wǎng)端口支持iSCSI協(xié)議后端(磁盤(pán))連接能力每個(gè)存儲(chǔ)處理器都有一個(gè) 4x3 Gb/s SAS 擴(kuò)展端口支持硬盤(pán)類型SATA、SASEMC 日立銀行: 日立mirror

2、g copy 3一塊硬盤(pán)上的磁頭是有限的, 內(nèi)存中找不到數(shù)據(jù),到磁盤(pán)中查找,引起磁盤(pán)爭(zhēng)用多塊盤(pán)一起使用,解決性能問(wèn)題但是占用本地硬件資源如CPU,內(nèi)存資源,性能下降虛擬機(jī):加硬盤(pán)實(shí)驗(yàn)存儲(chǔ): 使用存儲(chǔ)CPU 內(nèi)存來(lái)處理數(shù)據(jù) 降低服務(wù)器資源的占用CPU發(fā)出指令,真正讀寫(xiě)數(shù)據(jù)不占用CPU不同的總線橋接:連接不同設(shè)備 南橋 北橋 現(xiàn)在南橋取消,直接走北橋,塊靠近CPU越近,處理越高緩存:協(xié)調(diào)不同步:內(nèi)存: 比硬盤(pán)速度快 CPU內(nèi)部緩存 當(dāng)前正在處理的數(shù)據(jù)寫(xiě)數(shù)據(jù):硬盤(pán)有緩沖區(qū), 先接數(shù)據(jù),后寫(xiě)磁盤(pán)oracle在寫(xiě)大量數(shù)據(jù)的時(shí)候,不夠用存儲(chǔ): 大緩沖區(qū) ,Cpu ,每個(gè)硬盤(pán)上有緩存 ,提高性能分組:rai

3、d ,比本地磁盤(pán)高了多少倍 存儲(chǔ):一般達(dá)到2-3百/每秒raid有不同級(jí)別HAD卡: 兩根線連接存儲(chǔ) ,讀,寫(xiě)多口連接不同的服務(wù)器,分配不同的塊給不同的服務(wù)器使用有小操作系統(tǒng) : 控制器磁盤(pán)擴(kuò)展柜:加箱,用lisence控制支持硬盤(pán)類型SATA 3-4T 30MB/S 容量大 -馬拉松 *SAS 側(cè)重 容量小 速度快 跑百米 一起跑 總線有限制1.1.2 EMC CLARiiON CX 系列高端 低端1.1.3 EMC CLARiiON AX4和CX4 系列參數(shù)對(duì)比LUN: 存儲(chǔ)邏輯單元主機(jī)與存儲(chǔ)存儲(chǔ)交換機(jī)連接iSCSI:tcpip網(wǎng)絡(luò)協(xié)議網(wǎng)絡(luò)交換機(jī)百兆:10M/S 千兆:100MS 走IP網(wǎng)

4、路連接存儲(chǔ)FC:光線1.1.4 EMC存儲(chǔ)產(chǎn)品常用軟件快照:還原記錄改變的數(shù)據(jù)塊克隆:完全一樣 ,使用時(shí)要注意 刪除新盤(pán)盤(pán)vg案例:公安部數(shù)據(jù)庫(kù)量大,低端存儲(chǔ),后換較好存儲(chǔ)數(shù)據(jù)遷移1 操作系統(tǒng) ,拷貝 慢2 克隆,不經(jīng)外部設(shè)備 ,速度快,與原盤(pán)一樣3 一端時(shí)間,數(shù)據(jù)暴漲,磁盤(pán)空間不足4 加磁盤(pán), 但到庫(kù)房找硬盤(pán) ,磁盤(pán)頭不變5 新的數(shù)據(jù)全部干掉,oracle崩潰6 oracle數(shù)據(jù)庫(kù)修復(fù) 40多天 24小時(shí) (oracle 1千多萬(wàn))鏡像:容災(zāi)技術(shù),一模一樣,同時(shí)寫(xiě),誤操作也會(huì)記錄同步:同時(shí)寫(xiě)完成返回異步:本地寫(xiě)完成 不等遠(yuǎn)端寫(xiě)完成 提高oracle寫(xiě)性能SAN Copy存儲(chǔ)帶系統(tǒng)之間可復(fù)制1

5、.1.5 EMC EMC Celerra 統(tǒng)一存儲(chǔ)平臺(tái)1.2 第二部分IBM產(chǎn)品介紹1.2.1 IBM 銷售的三個(gè)核心產(chǎn)品 DS8000,XIV,DS5000光線:系列3000 5000 6000(高端) 8000(高端) 每種又有不同型號(hào)iops :每秒能產(chǎn)生多少I(mǎi)OIBM: DS8000 變態(tài)測(cè)試出業(yè)界最高的IOPS值1.2.2 IBM DS SAN磁盤(pán)系統(tǒng)產(chǎn)品線DS4700 DS6000 MINI 80001.2.3 IBM N 系列網(wǎng)絡(luò)磁盤(pán)系統(tǒng)產(chǎn)品線NAS 網(wǎng)絡(luò)文件系統(tǒng)tcpip : 不穩(wěn)定便宜,直接接入現(xiàn)有的tcpip網(wǎng)絡(luò),針對(duì)性能要求不高的客戶1.3 第三部分HP產(chǎn)品介紹1.3.1

6、 HP SAN 光纖通道存儲(chǔ)產(chǎn)品線2.3.2 HP NAS存儲(chǔ)產(chǎn)品線入門(mén)級(jí)X500、X1000、X3000、中高端級(jí)4400、X5000、X90001.4 第四部分日立 HDS產(chǎn)品介紹1.4.1 應(yīng)用領(lǐng)域國(guó)稅總局: 三期 5天上40套o(hù)racle影響:IBM操作系統(tǒng) ,日立的存儲(chǔ)AIX操作系統(tǒng)安裝軟件支持存儲(chǔ) ,多路徑軟件 導(dǎo)致rac上 ,oracle自己的磁盤(pán)管理機(jī)制asmdisk DG 磁盤(pán)組 在使用時(shí)出問(wèn)題,HDML 7.3B版本 解決方案 降低多路徑軟件的版本,日立-由存儲(chǔ)廠商寫(xiě)的軟件oracle使用磁盤(pán)的機(jī)制跟其他廠商是不一樣的,磁盤(pán)不能有pvid 劃磁盤(pán)組1.4.2 系列低端EMC

7、 AX4 CX4-120、IBM DS3000、HP MSA2000 中端EMC CX4-240 480、IBM DS5000、HP EVA高端 還是不錯(cuò)的EMC CX4-960、IBM DS8000、HP XP其他 :DELL:PC server 廠商: oem收購(gòu)康貝鏈家地產(chǎn):微碼升級(jí)出問(wèn)題補(bǔ)丁oracle 次設(shè)備不用上2 存儲(chǔ)類型對(duì)比2.1 第一部分 網(wǎng)絡(luò)存儲(chǔ)技術(shù)看到的是磁盤(pán)2.1.1 傳統(tǒng)存儲(chǔ)技術(shù)2.1.2 網(wǎng)絡(luò)附加存儲(chǔ)技術(shù) -什么是NAS NAS網(wǎng)絡(luò)附加存儲(chǔ),即將存儲(chǔ)設(shè)備連接到現(xiàn)有的網(wǎng)絡(luò)上,提供數(shù)據(jù)和文件服務(wù)。NAS服務(wù)器一般由存儲(chǔ)硬件、操作系統(tǒng)以及其上的文件系統(tǒng)等幾個(gè)部分組成。它基

8、于TCP/IP協(xié)議實(shí)現(xiàn)文件級(jí)數(shù)據(jù)的存取服務(wù)。 NAS將存儲(chǔ)設(shè)備通過(guò)標(biāo)準(zhǔn)的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)連接,可以無(wú)需服務(wù)器直接上網(wǎng),不依賴通用的操作系統(tǒng),而是采用一個(gè)面向用戶設(shè)計(jì)的、專門(mén)用于數(shù)據(jù)存儲(chǔ)的簡(jiǎn)化操作系統(tǒng),內(nèi)置了與網(wǎng)絡(luò)連接所需的協(xié)議,因此使整個(gè)系統(tǒng)的管理和設(shè)置較為簡(jiǎn)單。NFSNAS網(wǎng)絡(luò)架構(gòu)客戶: 能看到存儲(chǔ)空間,但不能使用原因: 共享IP,寫(xiě)了自己的IP不建議使用NAS應(yīng)用場(chǎng)合 主要面向高效的文件共享任務(wù),適用于那些需要網(wǎng)絡(luò)進(jìn)行大容量文件數(shù)據(jù)傳輸?shù)膱?chǎng)合。 以IBM為代表的業(yè)界各大存儲(chǔ)廠商紛紛推出NAS解決方案 性能高與本地磁盤(pán)比raid :保護(hù)數(shù)據(jù)NAS的缺點(diǎn) 在擁有以上優(yōu)點(diǎn)的同時(shí) ,有些致命的弱點(diǎn):

9、1)只適用于較小網(wǎng)絡(luò)規(guī)?;蛘咻^低數(shù)據(jù)流量的網(wǎng)絡(luò)數(shù)據(jù)備份。因?yàn)镹AS仍使用應(yīng)用網(wǎng)絡(luò)進(jìn)行備份和恢復(fù),LAN除了處理正常的最終用戶傳輸流外,還必須處理包括備份的存儲(chǔ)磁盤(pán)請(qǐng)求。 2)投資成本較高(后期擴(kuò)容成本高)而可靠度不高, 一般文件服務(wù)器沒(méi)有高可用配置,存在歸檔就是備份,不建議放歸檔數(shù)據(jù)庫(kù):數(shù)據(jù)文件,改寫(xiě)數(shù)據(jù)塊時(shí)在內(nèi)存中操作,寫(xiě)磁盤(pán)時(shí),網(wǎng)絡(luò)中斷,不能使用數(shù)據(jù)不一致:redo記錄數(shù)據(jù)塊的所有改變,實(shí)例啟動(dòng),自動(dòng)找redo,是數(shù)據(jù)一致.redo 循環(huán)復(fù)用 也就是說(shuō)只能找到最近的三個(gè)redo -非歸檔模式歸檔模式: 寫(xiě)歸檔 比如缸 ,只要開(kāi)歸檔,數(shù)據(jù)不能丟失,redo滿如出現(xiàn)中斷,自動(dòng)關(guān)閉,導(dǎo)致數(shù)據(jù)庫(kù)掛

10、死redo默認(rèn)多大?: 2.1.3 存儲(chǔ)區(qū)域網(wǎng)絡(luò)技術(shù)-什么是SAN ? SAN是英文Storage Area Network的縮寫(xiě),通常譯為“存儲(chǔ)區(qū)域網(wǎng)絡(luò)”,它是一種在服務(wù)器和外部存儲(chǔ)資源或獨(dú)立的存儲(chǔ)資源之間實(shí)現(xiàn)高速可靠訪問(wèn)的專用網(wǎng)絡(luò)。 SAN 采用可擴(kuò)展的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)連接服務(wù)器和存儲(chǔ)設(shè)備,每個(gè)存儲(chǔ)設(shè)備不隸屬于任何一臺(tái)服務(wù)器,所有的存儲(chǔ)設(shè)備都可以在全部的網(wǎng)絡(luò)服務(wù)器之間作為對(duì)等資源共享。存儲(chǔ)交換機(jī)網(wǎng)絡(luò)交換機(jī)SAN網(wǎng)絡(luò)架構(gòu)SAN存儲(chǔ)系統(tǒng)五大組成Server (服務(wù)器) Storage(存儲(chǔ)設(shè)備) SAN fabric(連接設(shè)備) 光線Software(管理軟件) 配置Service(服務(wù))SAN的

11、特性 SAN更適合網(wǎng)絡(luò)關(guān)鍵任務(wù)的數(shù)據(jù)存儲(chǔ),與其他存儲(chǔ)技術(shù)相比,SAN具有以下特性: (1)高可用性 (2)高性能 (3)便于擴(kuò)展 (4)可實(shí)現(xiàn)高效備份 ( 5 ) 適合于海量數(shù)據(jù)、關(guān)鍵數(shù)據(jù)的存儲(chǔ)備份 /不需要走tcpip網(wǎng)絡(luò)(7)支持服務(wù)器的異構(gòu)平臺(tái) /windows linux aix注意事項(xiàng):數(shù)據(jù)偏移量(8)支持集中管理和遠(yuǎn)程管理(9)方案實(shí)施成本相對(duì)較高基本都在使用這種架構(gòu)2.1.4 存儲(chǔ)區(qū)域網(wǎng)的應(yīng)用領(lǐng)域1)數(shù)據(jù)共享: 由于存儲(chǔ)設(shè)備的中心化,大量的文 件服務(wù)器可以低成本的存取和共享信息,而同時(shí)也不會(huì)使系統(tǒng)性能有明顯的下降;2)存儲(chǔ)共享: 兩個(gè)或多個(gè)服務(wù)器可以共享一個(gè)存儲(chǔ)單元,這個(gè)存儲(chǔ)單元

12、在邏輯上可以被分成多個(gè)部分,而每個(gè)部分又連接在特定的服務(wù)器上;3)數(shù)據(jù)備份: 使用SAN,數(shù)據(jù)備份操作可以獨(dú)立于原來(lái)的網(wǎng)絡(luò),對(duì)異構(gòu)平臺(tái)服務(wù)器和多數(shù)據(jù)形式進(jìn)行集中備份,從而能夠提高操作的性能和管理的集中;4)災(zāi)難恢復(fù): 使用SAN,可以采用多種手段實(shí)現(xiàn)數(shù)據(jù)的自動(dòng)備份,而且這種備份是熱備份形式,也就是說(shuō),一旦數(shù)據(jù)出錯(cuò),立即可以獲得該數(shù)據(jù)的鏡像內(nèi)容。中旅客戶: 硬盤(pán) 3塊壞 數(shù)據(jù)文件與備份文件都在硬盤(pán)中數(shù)據(jù)庫(kù)文件備份不要放在同一個(gè)存儲(chǔ)當(dāng)中.就一個(gè)存儲(chǔ)怎么辦?2.1.5 SAN的應(yīng)用場(chǎng)合 SAN作為網(wǎng)絡(luò)存儲(chǔ)設(shè)施,旨在提供靈活、高性能和擴(kuò)展的存儲(chǔ)環(huán)境,擅長(zhǎng)在服務(wù)器和存儲(chǔ)設(shè)備之間傳輸大塊數(shù)據(jù)。特別適于以下

13、應(yīng)用場(chǎng)合(1)對(duì)響應(yīng)時(shí)間、可用性和可擴(kuò)展性要求高的關(guān)鍵任務(wù)數(shù)據(jù)庫(kù)應(yīng)用。 (2)對(duì)性能、數(shù)據(jù)完整性和可靠性要求高的集中存儲(chǔ)備份,以保證關(guān)鍵數(shù)據(jù)的安全,可極大地提高企業(yè)數(shù)據(jù)備份和恢復(fù)操作可靠性和可擴(kuò)展性(3)海量存儲(chǔ)的應(yīng)用環(huán)境。例如,圖書(shū)館、銀行、證券、中大型企業(yè)或組織的數(shù)據(jù)中心。 (4)支持服務(wù)器及其連接設(shè)備之間提供光纖通道高性能和擴(kuò)展的距離。 硬盤(pán)壞保證數(shù)據(jù)不丟失:管理員:注意告警信息,如硬盤(pán)亮黃燈裝rac2.1.6 什么是iSCSI ? 在Internet協(xié)議(IP)統(tǒng)治著局域網(wǎng)和廣域網(wǎng)的今天,數(shù)據(jù)存儲(chǔ)的需要也在日益增長(zhǎng)。這兩股力量似乎不可避免地要匯聚在一點(diǎn)。Internet小型機(jī)系統(tǒng)接口(

14、iSCSI)協(xié)議整合了存儲(chǔ)和IP網(wǎng)絡(luò),使通過(guò)IP網(wǎng)絡(luò)完成存儲(chǔ)數(shù)據(jù)塊的傳輸成為現(xiàn)實(shí)。它建立在兩個(gè)已被廣泛應(yīng)用的技術(shù)之上 -為存儲(chǔ)而建立的SCSI命令和為網(wǎng)絡(luò)化而建立的IP協(xié)議。 iSCSI是一種端到端的協(xié)議,用于在IP網(wǎng)絡(luò)中傳輸存儲(chǔ)I/O數(shù)據(jù)塊。該協(xié)議被使用于服務(wù)器(initiator)、存儲(chǔ)設(shè)備(target)和協(xié)議傳輸網(wǎng)關(guān)設(shè)備。ISCSI使用標(biāo)準(zhǔn)的以太網(wǎng)交換機(jī)和路由器,將數(shù)據(jù)從服務(wù)器轉(zhuǎn)移到存儲(chǔ)設(shè)備。它還使得IP和以太網(wǎng)基礎(chǔ)設(shè)施可以被用于對(duì)SAN存儲(chǔ)系統(tǒng)的擴(kuò)展訪問(wèn),跨過(guò)任意距離完成對(duì)SAN的擴(kuò)展接入。存儲(chǔ)上不能創(chuàng)建文件系統(tǒng)應(yīng)用方便靈活走IP網(wǎng)絡(luò),性能差,不穩(wěn)定中冶: 國(guó)產(chǎn)路由交換2.1.7 i

15、SCSI產(chǎn)品從功能上可以分為3個(gè)類別: 起始端產(chǎn)品、連接件產(chǎn)品和目標(biāo)端產(chǎn)品當(dāng)本地磁盤(pán)使用不穩(wěn)定2.1.8 ISCSI 技術(shù)的優(yōu)缺點(diǎn)優(yōu)勢(shì) 1)連接距離更長(zhǎng),突破FC SAN目前10公里的局限 2)利用現(xiàn)有的TCP/IP基礎(chǔ)設(shè)施來(lái)構(gòu)筑SAN,網(wǎng)絡(luò)部署成本相對(duì)較低 3)相對(duì)其他大多數(shù)協(xié)議而言:帶寬高,功能強(qiáng)(特別是遠(yuǎn)程復(fù)制和災(zāi)難恢復(fù)),可用性強(qiáng)不足 1)與其他存儲(chǔ)協(xié)議兼容性不好,例如FC SAN 融合不能解決 2)從廣域網(wǎng)角度說(shuō),速度仍不理想 3) 相關(guān)技術(shù)和產(chǎn)品正處于發(fā)展階段,用戶可以選擇的余地較小 容災(zāi):企業(yè)專線,獨(dú)享:DAS、NAS、SAN與ISCSI的性能特點(diǎn)比較3 硬盤(pán)2-7張盤(pán)片碟片越多

16、,故障越大每個(gè)品牌頭一個(gè)批次不能買(mǎi)MTBF:MeanTimeBetweenFailure,平均無(wú)故障時(shí)間 優(yōu)先考慮scsi :電信號(hào)與數(shù)據(jù)在一起并行: 總線發(fā)出信號(hào),所有的都能收到綠盤(pán):不建議購(gòu)買(mǎi)企業(yè):硬盤(pán)成本多少錢(qián)1M4 RAID4.1 RAID基本概念4.2 RAID組合方式-4.3 raid出現(xiàn)原因4.4 條帶校驗(yàn)每塊盤(pán)的大小要一致4.6 RAID基本概念-重建(rebiuld)RAID組狀態(tài)4.7 物理卷和邏輯卷4.8 RAID級(jí)別4.8.1 RAID 0讀寫(xiě)速度快快小結(jié):生產(chǎn)數(shù)據(jù)絕對(duì)不能使用raid 0,測(cè)試環(huán)境也不建議使用4.8.2 RAID 1小結(jié):讀4.8.3 RAID 2磁盤(pán)

17、利用率太差4.8.4 RAID 3定義:橫向?qū)懸坏┯斜P(pán)塊,發(fā)生計(jì)算即寫(xiě)又讀 校驗(yàn)盤(pán)始終繁忙使用數(shù)據(jù)空間n-1/n小結(jié):4.8.5 RAID 4定義:縱向?qū)?.8.6 RAID 5數(shù)據(jù)與校驗(yàn)平均分配小結(jié):磁盤(pán)利用率n-1/n4.8.7 RAID 6做兩次校驗(yàn)原理示例容忍兩塊硬盤(pán)損壞不能用: 計(jì)算兩次校驗(yàn),影響寫(xiě)速度 一塊硬盤(pán)損壞,比raid5恢復(fù)更慢4.8.8 RAID 10定義:4.8.9 RAID 01n-2/n4.8.10 RAID級(jí)別比較oracle不建議使用熱備盤(pán)4.8.11 RAID 選擇RAID硬盤(pán)失效處理-熱備和熱插拔必須是相同類型的硬盤(pán)才能替補(bǔ)oracle最優(yōu)使用級(jí)別:RAID

18、 10 但是存儲(chǔ)中沒(méi)有存儲(chǔ)中選:RAID 1 次之raid 55 IBM存儲(chǔ)產(chǎn)品介紹5.1 IBM存儲(chǔ)業(yè)務(wù)概況5.1.2 業(yè)務(wù)概況 IBM在全球存儲(chǔ)市場(chǎng)一直比較穩(wěn)定地排在前3位 整體解決方案供應(yīng)商 擁有完整的產(chǎn)品線,包括服務(wù)器、存儲(chǔ)、備份以及軟件等,并能提供較完善的服務(wù) Tivoli是系統(tǒng)管理領(lǐng)域的領(lǐng)先者,軟件功能豐富 銷售體系 中低端的應(yīng)用一般采用服務(wù)器與存儲(chǔ)的捆綁方案 高端復(fù)雜的應(yīng)用,比如大銀行等專業(yè)用戶,具體問(wèn)題具體分析為何么講?1 低端產(chǎn)品不控制,自己配置,如V7000,原廠沒(méi)有售后2 國(guó)內(nèi): 清華同方 北大方正被清華同方搞死3 運(yùn)營(yíng)商去IOE很漫長(zhǎng),短期不肯能4 oracle 一體機(jī)

19、 測(cè)出業(yè)界最靠的值 rac 真正實(shí)時(shí)高可用 ,并發(fā),也可以部署其他應(yīng)用 11g grid5 IBM 的都有自己的集群軟件,但差異大,掌握IBM + oracle6 首選IBM,其他不考慮5.1.3 七大組成部分5.1.4 IBM主要存儲(chǔ)產(chǎn)品系列1 DS3000已經(jīng)停產(chǎn),但還有在使用的,性能與現(xiàn)在比差距大2 磁盤(pán)容量小,只能支持146的硬盤(pán),3 能接觸到DS3400,可構(gòu)建光線存儲(chǔ)網(wǎng)絡(luò),最適合oracle4 DS4700 性價(jià)比高,構(gòu)建sun架構(gòu),已停產(chǎn)被DS5020替代 企業(yè)使用較多5 DS4800 高端產(chǎn)品DS5100 53006 DS6000 miniDS48008 DS8000 不差錢(qián)企

20、業(yè)使用9 XIV 收購(gòu)以色列 ,大容量10 NAS系列11 中冶數(shù)據(jù)庫(kù),備份導(dǎo)致數(shù)據(jù)庫(kù)宕機(jī),原因,不備份 ,但開(kāi)歸檔,數(shù)據(jù)庫(kù)重啟,數(shù)據(jù)庫(kù)起不來(lái) 磁盤(pán)空間滿,歸檔都放在磁盤(pán)上 , oracle裝在獨(dú)立的文件系統(tǒng)上 化工大學(xué),把oracle裝在根 解決方案: 磁盤(pán)空間滿,歸檔不能隨便刪除,除非之前做了一次全備,才能刪除歸檔 找可用空間,把歸檔移走 改歸檔目錄(磁盤(pán)空間滿的情況不可行) 到客戶現(xiàn)場(chǎng):查有空間,沒(méi)有mount 先做一份全備 刪除歸檔 做備份策略 備份腳本12 磁盤(pán)庫(kù): 多個(gè)磁帶機(jī) ,驅(qū)動(dòng)器 機(jī)械手 , 容易出現(xiàn)機(jī)械故障;解決大容量5.1.5 IBM存儲(chǔ)系統(tǒng)架構(gòu)5.1.5 OEM合作關(guān)系

21、1 IBM DSXXX是LSI2 中國(guó)質(zhì)量認(rèn)證中心 power 7 750 7.1 操作系統(tǒng) netapp oracle 9i裝不上 2.1 改操作系統(tǒng)版本 2.2 打tar包綠色版2.3 存儲(chǔ): 多路徑軟件3 中免: 備份文件與數(shù)據(jù)文件放在同一存儲(chǔ), 本地磁盤(pán)此否有空間? 空間不足,勉強(qiáng)能放一份 考慮其他存儲(chǔ) 中關(guān)村小NAS?找不到NFS,可共享 ,最后用的ftp 備份之后上傳到ftp ,刪除本地磁盤(pán)5.1.6 IBM存儲(chǔ)主要優(yōu)劣勢(shì)分析 1 DS8000 上千萬(wàn) 可做為贈(zèng)品 ,中國(guó)銀行 ,大機(jī), 上億5.2 IBM磁盤(pán)陣列產(chǎn)品介紹5.2.1 IBM存儲(chǔ)產(chǎn)品選擇5.2.2 IBM DS系列磁盤(pán)

22、陣列家族圖5.2.3 DS3000系列介紹1 12塊硬盤(pán) 最大146 2 編號(hào)亂,不是自己的產(chǎn)品5.2.4 DS3000系列型號(hào)1 DS3400 推薦使用 與oracle結(jié)合5.2.5 DS3000系列擴(kuò)展方式1 后控制器,機(jī)斗 A控 B控2 存儲(chǔ)都有電池,有大有小,避免內(nèi)存中數(shù)據(jù)丟失 ,主板芯片 ,小電容,存部分電3 3000 1個(gè)網(wǎng)口: 管理存儲(chǔ),比如raid ,lun,有IP地址,存儲(chǔ)有管理軟件管理,cs架構(gòu);v7000沒(méi)有客戶端如那件 (ds4000 ,兩個(gè)) 有瀏覽器,bs架構(gòu)4 圓: 攢口5 HP1 光線兩個(gè) 連主機(jī) 交換機(jī)6 擴(kuò)展口,連接擴(kuò)展柜 兩種: 從上至下 ,從下至上5.2

23、.6 DS3000系列高級(jí)特性及License5.2.7 管理軟件DS3000 Storage Manager支持10 但是找不到 基本RAID功能動(dòng)態(tài)卷擴(kuò)展(Dynamic Volume Expansion ,DVE)增加可用的容量到現(xiàn)有的邏輯硬盤(pán)(獨(dú)立于OS)/沒(méi)人用動(dòng)態(tài)RAID級(jí)別遷移(Dynamic RAID Level Migration,DRM)改變陣列的RAID配置動(dòng)態(tài)區(qū)塊尺寸遷移(Dynamic Segment Size Migration ,DSS)改變數(shù)據(jù)條帶的尺寸大小高級(jí)軟件功能 軟件功能包軟件功能包License(Software Feature Pac

24、k)(需另外配置)使DS3300/DS3400支持4個(gè)分區(qū)規(guī)格支持4個(gè)FlashCopy的規(guī)格在配置1GB內(nèi)存升級(jí)及其它所有軟件功能前,必須先配置軟件特性包允許使用EXP3000進(jìn)行擴(kuò)展lisence高級(jí)軟件功能 存儲(chǔ)分區(qū)1 不控制,所有的都能看到2 控制: 只能看到自己的lun ,分區(qū),指定哪臺(tái)服務(wù)器可以看到,3 多臺(tái)主機(jī)夠成主機(jī)組,訪問(wèn)共同存儲(chǔ)空間3 案例:國(guó)防大學(xué)sun emc 4 rac 沒(méi)有買(mǎi)足夠的lisence 所有服務(wù)器看都所有的盤(pán),識(shí)別盤(pán)會(huì)出問(wèn)題4 建議購(gòu)買(mǎi)lisence高級(jí)軟件功能 FlashCopy案例: 江蘇 刪除數(shù)據(jù)文件 服務(wù)器沒(méi)做備份 關(guān)機(jī)別動(dòng),保留現(xiàn)場(chǎng) 把每個(gè)盤(pán)dd

25、 出來(lái),再做操作內(nèi)蒙 : 數(shù)據(jù)庫(kù)啟動(dòng)不起來(lái),檢查一致性 ,抽數(shù)據(jù)高級(jí)軟件功能 VolumeCopy1 license,才能實(shí)現(xiàn)此功能5.2.8 DS4000系列介紹 發(fā)布時(shí)間 2005.6:DS4800(業(yè)界第一款4Gb FC控制器) 2006.2:EXP810擴(kuò)展柜 2006.5:DS4700 Express 2006.8:DS4200 Express和EXP420擴(kuò)展柜 產(chǎn)品來(lái)源 DS4800(OEM LSI 6998) DS4700(Model 70 OEM LSI 3992,Model 72 OEM LSI 3994) DS4200(同樣OEM自LSI):2008年12月31日起停產(chǎn),

26、替代產(chǎn)品為DS34005.2.9 DS4000產(chǎn)品型號(hào)5.2.10 DS4000系列詳細(xì)規(guī)格5.2.11 DS4700-72與DS4700-70的區(qū)別5.2.12 DS4800-82與DS4800-80的區(qū)別5.2.13 DS4200控制器模塊5.2.14 DS4700擴(kuò)展方式打標(biāo)簽5.2.15 DS4800擴(kuò)展方式5.2.16 管理軟件DS4000 Storage Manager5.2.17 DS4000系列拷貝功能5.2.17 DS5000系列推理機(jī)頭5.2.18 DS5300控制器模塊后視圖5.2.19 DS5020 Express5.2.20 DS6000/DS8000系列基于IBM服

27、務(wù)器架構(gòu)5.2.21 DS8000系列介紹業(yè)績(jī)?cè)u(píng)價(jià)并不高,不是專業(yè)的存儲(chǔ)控制器 ,老牛拉破車(chē) 570A B 集群 有鏡像 秒級(jí)切換IBM利用兩個(gè)強(qiáng)大的控制器實(shí)現(xiàn)了高端5.2.22 管理軟件 DS Storage Manager主要軟件功能5.3 IBM NAS產(chǎn)品介紹5.4 IBM虛擬磁帶庫(kù)產(chǎn)品介紹5.5 IBM SVC介紹5.5.1 SAN Volume Controller虛擬化管理平臺(tái)1 可讓所有存儲(chǔ)兼容2 pcserver 散熱差 溫度高 容易導(dǎo)致oracle崩潰6 IBM DS4700 磁盤(pán)陣列基礎(chǔ)培訓(xùn)1 保證在規(guī)定時(shí)間內(nèi)換上電池2 如果沒(méi)有,馬上把控制器插回去3 DBA不要輕易去動(dòng)

28、IP溫度過(guò)高紅色: logctrol 選磁盤(pán)右鍵 2 raid14塊盤(pán) raid10lun的序號(hào)順序 操作系統(tǒng)從小到大識(shí)別電信: DS5020跳號(hào)掃盤(pán)掃不到總后: linux rac v7000 加盤(pán)錯(cuò) 號(hào)不連續(xù)cfgmgr v掃描查看磁盤(pán)與lun的對(duì)應(yīng)關(guān)系fget_config Avmpio_get_config -AV共享ASM: hiskx none nonemknod : 解決盤(pán)符改變的問(wèn)題 sun用7 HACMP5.x 培訓(xùn)文檔7.1 什么是高可用?最大的系統(tǒng)的可用性(正常工作時(shí)間)減少或者消除系統(tǒng)停機(jī)時(shí)間減少系統(tǒng)的計(jì)劃和非計(jì)劃停機(jī)時(shí)間消除系統(tǒng)的單點(diǎn)失敗高可用性是結(jié)合體 軟件、硬件、

29、設(shè)計(jì)、應(yīng)用、管理。7.2 可用性比較7.3 為什么要選擇高可用性 越來(lái)越多的應(yīng)用需要724 許多應(yīng)用是關(guān)鍵的核心 客戶忠誠(chéng)度是最難獲得,并且容易失去 高可用性可以減少計(jì)劃的和非計(jì)劃的系統(tǒng)停機(jī)時(shí)間7.4 單點(diǎn)失敗7.5 計(jì)劃和非計(jì)劃停機(jī) 90的系統(tǒng)停機(jī)是計(jì)劃的。 備份、維護(hù)、升級(jí)、測(cè)試、業(yè)務(wù)擴(kuò)展 10的系統(tǒng)停機(jī)是非計(jì)劃的。 用戶錯(cuò)誤占90 應(yīng)用錯(cuò)誤 部件失敗 操作系統(tǒng)失敗 環(huán)境因素POWER架構(gòu)7.6 成功的高可用性系統(tǒng)需求 正確的計(jì)劃和設(shè)計(jì) 選擇合適的硬件設(shè)備 鏡像核心的數(shù)據(jù) 好的自動(dòng)機(jī)制腳本 修訂合適的管理策略 建立文檔操作記錄 教育和培訓(xùn)7.7 是與非 高可用系統(tǒng)提供所有硬件設(shè)備的容錯(cuò) 系

30、統(tǒng)大部分的停機(jī)時(shí)間跟硬件失敗相關(guān) 高可用系統(tǒng)無(wú)任何停機(jī)時(shí)間 高可用系統(tǒng)不需要很特殊的硬件設(shè)備 高可用系統(tǒng)只保護(hù)系統(tǒng)的非計(jì)劃停機(jī)HACMP是一個(gè)安裝即可使用的高可用性解決電信: rac 中間件Hacmp介紹必須升級(jí)不安裝必須有裝包失敗:rac 檢測(cè)集群如那件,不讓裝oracle集群目錄結(jié)構(gòu)升級(jí)cd patch cd ha5.4smitty installsmitty update_all升級(jí)完必須重啟服務(wù)器7.8 安裝hacmp5.4必須安裝:# lslpp -l | grep clvm bos.clvm.enh 6 COMMITTED Enhanced Concurrent Lo

31、gical bos.clvm.enh COMMITTED Enhanced Concurrent Logical7.8.1 卸載hacmp5.4 smitty install - Software Maintenance and Utilities-Remove Installed Software7.8.2 創(chuàng)建目錄mkdir /patch7.8.3 上傳軟件/patchcd /patchls說(shuō)明:ha5.4.tar 安裝包HA009.05.22 升級(jí)包7.8.4 解壓安裝包tar xvf ha5.4.tar/patch/ha5.4/installp/ppc查看

32、是否有.toc 文件,如果沒(méi)有,生成inutoc .7.8.5 安裝smitty install -Install and Update Software - Install Software- INPUT device / directory for software . /當(dāng)前目錄SOFTWARE to install 選擇 cluster開(kāi)頭的以下兩個(gè)不安裝:7.8.6 解壓升級(jí)包c(diǎn)d /patchunzip HA009.05.22.zipcd HA009.05.22查看是否有.toc 文件,如果沒(méi)有,生成inutoc .7.8.7 安裝升級(jí)包smitty u

33、pdaate_all- INPUT device / directory for software . * SOFTWARE to update _update_allACCEPT new license agreements? yes 7.8.8 升級(jí)完成后必須重新啟動(dòng)服務(wù)器7.9 hacmp5.4配置2015年3月25日 星期三powerha6.17.1 幾乎沒(méi)人用7.10 hacmp概念 Cluster 連接到一個(gè)公共ip網(wǎng)絡(luò)的2-16臺(tái)運(yùn)行Hacmp的RS/6000主機(jī)的集合 Node 在cluster中的每一個(gè)RS/6000主機(jī) Topology node、network、netwo

34、rk adapter在ODM數(shù)據(jù)庫(kù)中的邏輯表達(dá) Resource 受Hacmp保護(hù)的邏輯實(shí)體,包括ip地址,文件系統(tǒng),卷組,應(yīng)用等 Resource group 用于系統(tǒng)保護(hù)的一組資源的集合 Application server 受Hacmp控制的一組應(yīng)用的啟動(dòng)和停止腳本 Reintegration 一個(gè)發(fā)生失敗的節(jié)點(diǎn),網(wǎng)絡(luò),網(wǎng)卡,重新加入cluster Global ODM 通過(guò)網(wǎng)絡(luò),同步到cluster中的所有node的配置信息 Synchronization 從cluster中單點(diǎn)升級(jí)global odm到所有節(jié)點(diǎn)的進(jìn)程 Event cluster中導(dǎo)致一個(gè)或者多個(gè)node的腳本執(zhí)行的某

35、個(gè)狀態(tài)的改變1 資源:server proces 監(jiān)聽(tīng)實(shí)例:內(nèi)存后臺(tái)進(jìn)程*文件系統(tǒng)護(hù)國(guó)使醫(yī)院9-11客戶端用老版本兼容性出問(wèn)題指定IP ,客戶端不知道醫(yī)院軟件: 分發(fā)必開(kāi)機(jī)狀態(tài)不可行周一: 所有工程師升級(jí)客戶端資源組:車(chē)釋放,啟停腳本集群重構(gòu)任意節(jié)點(diǎn)配置,地位平等同步7.11 Hacmp的軟件構(gòu)成 Clstrmgr 檢測(cè)節(jié)點(diǎn)、網(wǎng)絡(luò)、網(wǎng)卡狀態(tài)并且在cluster狀態(tài)發(fā)生變化時(shí)初始化事件 Clsmuxpd cluster的網(wǎng)絡(luò)狀態(tài)管理工具 Clinfo cluster狀態(tài)信息接口 Cllockd cluster并發(fā)訪問(wèn)應(yīng)用接口 Event scripts cluster狀態(tài)發(fā)生改變時(shí)執(zhí)行的重新配置

36、資源的命令。 可以手工為每個(gè)事件執(zhí)行進(jìn)程重新定義前事件和后事件。7.12 工具 C-SPOC cluster single point of control 單點(diǎn)控制工具 DARE dynamic reconfiguration 動(dòng)態(tài)配置(拓?fù)?、資源) TaskGuides 輔助建立共享卷組的圖形工具 HaView netview的遠(yuǎn)程cluster 監(jiān)控 Clverify The cluster verification utility 軟件和配置檢測(cè) Clstat The cluster status utility 圖形化顯示cluster工具7.13 Hacmp處理的錯(cuò)誤 Hacmp僅

37、處理三種類型的錯(cuò)誤 1、節(jié)點(diǎn)失敗 2、網(wǎng)絡(luò)失敗 3、網(wǎng)卡失敗 其他的錯(cuò)誤由AIX處理 1、硬盤(pán)失敗 2、硬盤(pán)控制器失敗 3、硬盤(pán)總線失敗 4、TCP/IP失敗 5、Hacmp失敗7.14 節(jié)點(diǎn)失敗接管 節(jié)點(diǎn)失敗時(shí),資源組的接管有三種方式 Cascading方式 資源的移動(dòng)按照優(yōu)先級(jí)順序從高到低順序移動(dòng)。重集成后資源會(huì)返回優(yōu)先級(jí)高的節(jié)點(diǎn)。資源默認(rèn)在優(yōu)先級(jí)最高的節(jié)點(diǎn)執(zhí)行。 Rotating方式 資源的移動(dòng)按照節(jié)點(diǎn)序列的順序循環(huán)進(jìn)行。如果沒(méi)有節(jié)點(diǎn)失敗或者是管理員資源遷移情況下,資源會(huì)保持在一個(gè)節(jié)點(diǎn) Concurrent方式 所有的節(jié)點(diǎn)并發(fā)訪問(wèn)數(shù)據(jù),應(yīng)用在所有節(jié)點(diǎn)上執(zhí)行,節(jié)點(diǎn)失敗不發(fā)生資源移動(dòng),但性能

38、相對(duì)會(huì)下降。要求有l(wèi)ock manager鎖塊內(nèi)存間上數(shù)據(jù)塊傳輸7.15 Cascading 資源組自動(dòng)回切: 人為回切調(diào)試期間不能自動(dòng)回切,等確認(rèn)完成后熱為回切7.16 資源組概念理解 一個(gè)cluster可以有20個(gè)以上的資源組。 每一個(gè)節(jié)點(diǎn)可以擁有一個(gè)或者多個(gè)資源組 你可以同時(shí)擁有三種不同種類的資源組 每一個(gè)資源組可以被一個(gè)或者多個(gè)節(jié)點(diǎn)共享 一個(gè)cluster的資源只能屬于一個(gè)資源組 配置多個(gè)資源組時(shí)應(yīng)注意負(fù)載均衡問(wèn)題與不一樣,pv沒(méi)有,vg也就不純?cè)诹速Y源組可以是空的不同的資源組,定義不同的優(yōu)先級(jí)順序7.17 不適合使用Hacmp方案的情況 你的系統(tǒng)不能忍受任何時(shí)間的停頓 724小時(shí)不停

39、 性命危機(jī)相關(guān)的系統(tǒng) 適合容錯(cuò)需求的 你沒(méi)有一個(gè)安全的環(huán)境 許多用戶都要求以ROOT權(quán)利登錄 網(wǎng)絡(luò)安全毫無(wú)保障 你的環(huán)境會(huì)經(jīng)常發(fā)生變化 沒(méi)有好的管理變更制 缺少一個(gè)熟練的系統(tǒng)管理員 你的系統(tǒng)環(huán)境極其混亂HA:root維護(hù)不檢測(cè)oracl是否正常,保證運(yùn)行環(huán)境,可以添加應(yīng)用腳本,檢測(cè)oracle實(shí)例第三章 Hacmp需要考慮的問(wèn)題存儲(chǔ)和網(wǎng)絡(luò) Hacmp對(duì)他控制的網(wǎng)絡(luò)功能使用專用名詞 Public網(wǎng)絡(luò):支持hacmp和client網(wǎng)絡(luò)信息傳輸?shù)膖cp/ip網(wǎng)絡(luò) Private網(wǎng)絡(luò):只傳輸hacmp信息的專用tcp/ip網(wǎng)絡(luò) /集群內(nèi)部通信 Serial網(wǎng)絡(luò):用于傳輸hacmp信息drs232/tm

40、scsi/tmssa網(wǎng)絡(luò) /集群內(nèi)部信息 Adapter:在Hacmp的odm定義中的tcp/ip和serial網(wǎng)絡(luò)接口 Adapter ip label:在/etc/hosts中映射ip地址的名字解析 /主機(jī)名 別名 必須有 Node name:cluster node名字,不要跟hostname混淆 /節(jié)點(diǎn)名 Network type:定義hacmp網(wǎng)絡(luò)物理介質(zhì)類型(FDDI,ether) /tcpip Adapter功能:service, ip 沒(méi)有網(wǎng)卡,不跟網(wǎng)卡綁定,可以飄,standby 備用網(wǎng)卡,boot 主網(wǎng)卡 /集群各節(jié)點(diǎn)通信有IP, Adapter硬件地址:局域網(wǎng)卡的本地管理

41、地址1 service, ip 沒(méi)有網(wǎng)卡,不跟網(wǎng)卡綁定,可以飄, mac ,集群管理維護(hù),也可人為指定,但不允許沖突standby 備用網(wǎng)卡,設(shè)置靜態(tài)IPboot 主網(wǎng)卡設(shè)置靜態(tài)IP2 網(wǎng)卡信息1 支持DNS解析: 總出問(wèn)題,不穩(wěn)定,不建議使用2 利用本機(jī)hosts文件,非常穩(wěn)定3 主service ip address標(biāo)識(shí)為主機(jī)的hostname /說(shuō)法有問(wèn)題4 oracle識(shí)別 主機(jī)名不用 - , _ ,不支持大寫(xiě),包無(wú)效段名,有可能裝上 但會(huì)出問(wèn)題Adapter swapping1 IP替換網(wǎng)絡(luò)失敗 對(duì)于網(wǎng)絡(luò)失敗,hacmp會(huì)發(fā)現(xiàn)一個(gè)network_down事件,并且執(zhí)行一個(gè)腳本 網(wǎng)絡(luò)失

42、敗會(huì)記錄到hacmp日志文件,通常不做更多的處理 可以通過(guò)hacmp客戶化工具制定一個(gè)客戶化的網(wǎng)絡(luò)失敗動(dòng)作 網(wǎng)絡(luò)失敗信息會(huì)被所有的cluster中node收到1 3-6分鐘servce ip1 9i rac 使用2 現(xiàn)在已經(jīng)不使用,采用別名方式,不是去替換7.18 集群配置總體步驟:1 安裝操作系統(tǒng)(設(shè)置主機(jī)名,ip地址)2 app-dev cde server openssh3 clvm4 update_all5 hosts iplable-ip地址規(guī)劃6 創(chuàng)建集群7 add cluster 添加集群8 add node 添加節(jié)點(diǎn)9 discover 抓取信息10 add network 添

43、加網(wǎng)絡(luò)11 add interface 添加網(wǎng)絡(luò)接口12 resource 添加資源 (service ip)13 add resource group 添加資源組14 resource resource group 把資源加到資源組15 veryfy 檢測(cè)配置是否有問(wèn)題16 sync 將配置同步集群個(gè)節(jié)點(diǎn)17 start service 啟動(dòng)集群服務(wù)18 test 測(cè)試19. 停止服務(wù)smitty hacmp20. 刪除集群*7.18.1 安裝操作系統(tǒng)(設(shè)置主機(jī)名,ip地址)7.18.2 app-dev cde server openssh /安裝bundle7.18.3 clvm7.18.

44、4 update_all /升級(jí)系統(tǒng)7.18.5 hosts iplable-ip地址規(guī)劃06 aix206_boot1 aix20606 aix206_boot208 aix208_boot1 aix20808 aix208_boot2 8 srvipaix201 aix202規(guī)劃hosts:用什么樣的IP主流: 別名service ip orale 訪問(wèn)aix201 /202測(cè)試201/2027.18.6 創(chuàng)建集群add cluster 添加集群#smitty hacmp Extende

45、d ConfigurationExtended Topology Configuration Configure an HACMP Cluster Add/Change/Show an HACMP ClusterF37.18.7 add node 添加節(jié)點(diǎn)smitty hacmp Extended Configuration Extended Topology Configuration Configure HACMP Nodes Add a Node to the HACMP Cluster7.18.8 discover 抓取信息smitty hacmp Extended Configura

46、tion Discover HACMP-related Information from Configured Nodes瞬間的返回,有問(wèn)題查找 / node1 node27.18.9 add network 添加網(wǎng)絡(luò)smitty hacmp Extended Configuration Extended Topology Configuration Configure HACMP Networks Add a Network to the HACMP Cluster改為NO 古老 替換IPYes 別名7.18.10 add interface 添加網(wǎng)絡(luò)接口smitty hacmp Extended Configuration Extended Topology Configuration Configure HACMP Communication Interfaces/Devices Add Communication Interfaces/Devices Add Discovered Communication Interface and Devices Communication Inte

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論