




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、版權所有 2015 華為技術有限公司存儲虛擬化技術第1頁版權所有 2015 華為技術有限公司前言l本節(jié)介紹FusionCompute存儲虛擬化涉及的特性。學員需充分把握特性內涵以助于后續(xù)實際環(huán)境中進行功能的合理引用與優(yōu)化第2頁版權所有 2015 華為技術有限公司目標l學完本課程后,您將能夠:l了解華為存儲模型和概念l熟悉華為存儲虛擬化功能特性,適用場景等第3頁版權所有 2015 華為技術有限公司目錄1.存儲基礎存儲基礎2.存儲虛擬化特性,適用場景存儲虛擬化特性,適用場景第4頁版權所有 2015 華為技術有限公司華為云計算存儲模型(一)l存儲資源存儲資源l存儲資源表示物理存儲設備,例如存儲資源表
2、示物理存儲設備,例如IPSANIPSAN、Advanced SANAdvanced SAN、NASNAS等等l存儲設備存儲設備l存儲設備表示存儲資源中的管理單元,類似存儲設備表示存儲資源中的管理單元,類似LUNLUN、 Advanced Advanced SANSAN存儲池、存儲池、NASNAS共享目錄等共享目錄等l一個存儲資源可以有多個存儲設備一個存儲資源可以有多個存儲設備l數據存儲數據存儲l數據存儲表示系統中可管理、操作的存儲邏輯單元數據存儲表示系統中可管理、操作的存儲邏輯單元l一個數據存儲和一個存儲設備對應一個數據存儲和一個存儲設備對應l數據存儲承載了具體的虛擬機業(yè)務,例如創(chuàng)建磁盤等數據
3、存儲承載了具體的虛擬機業(yè)務,例如創(chuàng)建磁盤等第5頁版權所有 2015 華為技術有限公司華為云計算存儲模型(二)存儲資源存儲設備存儲設備存儲池LUN數據存儲數據存儲卷卷邏輯對象邏輯對象物理實體物理實體FusionStorageSAN本地磁盤NAS共享目錄第6頁版權所有 2015 華為技術有限公司存儲資源lFusionSphere的存儲資源包括:的存儲資源包括:IPSAN、FCSAN、Advanced SAN、FusionStorage和和NASlIPSAN是通過是通過iscsi鏈路和主機建立連接鏈路和主機建立連接lFCSAN是通過光纖通道和主機連接的,主機連接是通過光纖通道和主機連接的,主機連接S
4、AN設備后可以掃描存儲設備設備后可以掃描存儲設備(LUN)lAdvanced SAN是通過是通過SMI-S接口掃描、管理磁盤的接口掃描、管理磁盤的lFusionStorage是通過其管理結點提供的接口管理存儲的是通過其管理結點提供的接口管理存儲的lNAS通過通過NFS協議掃描和掛載共享目錄協議掃描和掛載共享目錄l主機訪問存儲資源:主機訪問存儲資源:l先需要添加存儲資源,由存儲工程師從存儲側配置完成先需要添加存儲資源,由存儲工程師從存儲側配置完成l再選定主機并關聯存儲資源,有虛擬化工程師在計算主機再選定主機并關聯存儲資源,有虛擬化工程師在計算主機/集群上完成集群上完成第7頁版權所有 2015 華
5、為技術有限公司存儲資源使用對比存儲資源類型存儲資源類型底層協議底層協議存儲設備類型存儲設備類型是否支持虛擬化是否支持虛擬化是否支持存儲卸載是否支持存儲卸載IPSANTCP/IPLUN是否FCSAN光纖LUN是否NASTCP/IP共享目錄是否本地磁盤本地磁盤本地連接本地磁盤是否AdvancedSANTCP/IP存儲池否是FusionStorageTCP/IP存儲池是是存儲卸載:指將部分存儲操作(模板部署、刪除清零等操作)下移到存儲側進行,這樣做可以不浪存儲卸載:指將部分存儲操作(模板部署、刪除清零等操作)下移到存儲側進行,這樣做可以不浪費主機側資源,同時也可以提升操作效率費主機側資源,同時也可以
6、提升操作效率虛擬化:對于虛擬化:對于LUNLUN或者本地磁盤,在不支持虛擬化的場景不能支持快照,鏈接克隆等高級功能,但或者本地磁盤,在不支持虛擬化的場景不能支持快照,鏈接克隆等高級功能,但是所創(chuàng)建的卷具有很好的性能。虛擬化后的數據存儲,支持各種高級功能,卷格式也支持多種,但是所創(chuàng)建的卷具有很好的性能。虛擬化后的數據存儲,支持各種高級功能,卷格式也支持多種,但是性能低于非虛擬化的存儲設備是性能低于非虛擬化的存儲設備第8頁版權所有 2015 華為技術有限公司存儲設備lFusionCompute的存儲設備有五種: LUN 、本地磁盤、Advanced SAN存儲池、FusionStorage存儲池和
7、NAS共享目錄lLUN在使用前需要在存儲側或者交換機側進行配置。該配置根據不同的廠家會不一樣,具體需要參照存儲或交換機配置l存儲設備需要通過主機探測的方式進行掃描來發(fā)現l主機需要鏈接存儲資源后才能掃描存儲資源所包含的存儲設備l每個主機都能發(fā)現各自的存儲設備,也能發(fā)現共享的存儲設備第9頁版權所有 2015 華為技術有限公司數據存儲l數據存儲是在存儲設備上創(chuàng)建的邏輯管理單元:l數據存儲需要創(chuàng)建在指定的存儲設備上,且一個存儲設備只能創(chuàng)建一個數據存儲l數據存儲和主機關聯,為主機提供資源,數據存儲可以關聯到多個主機,一個主機也可以使用多個數據存儲l數據存儲的使用l存儲設備必須被添加為數據存儲才能被使用l
8、數據存儲可用于存放虛擬機磁盤、快照文件l數據存儲的大小依賴于存儲設備的大小第10頁版權所有 2015 華為技術有限公司虛擬化的存儲棧用戶虛擬機用戶虛擬機用戶虛擬機用戶虛擬機后端卷掛載驅動后端卷掛載驅動前端驅動前端驅動前端驅動前端驅動虛擬磁盤文件虛擬磁盤文件通用塊層通用塊層驅動層驅動層SANNAS主機內核空間本地磁盤文件系統文件系統主機用戶空間用戶態(tài)掛載驅動用戶態(tài)掛載驅動l存儲虛擬化技術可以將不同存儲設備進行格式化,屏蔽存儲設備的能力、接口協議等差異性,將各種存儲資源轉化為統一管理的數據存儲資源,可以用來存儲虛擬機磁盤、虛擬機配置信息、快照等信息,使得用戶對存儲的管理更加同質化第11頁版權所有
9、2015 華為技術有限公司文件系統l文件系統作用在于提供文件操作接口,屏蔽存儲設備的差異,為虛擬化卷文件提供存放空間l當前FusionCompute所使用的文件系統為:VIMS、EXT4、NFS所需存儲所需存儲設備設備是否創(chuàng)建是否創(chuàng)建文件系統文件系統是否支持是否支持共享共享是否支持是否支持延遲置零卷延遲置零卷VIMSLUN是是是EXT4本地磁盤是否是NFS共享目錄否是否第12頁版權所有 2015 華為技術有限公司VIMS(Virtual Image Manage System)lVIMSVIMSl高性能集群文件系統,是高性能集群文件系統,是Thin Thin ProvisioningProvi
10、sioning、快照、存儲遷、快照、存儲遷移等高級特性的技術基礎移等高級特性的技術基礎l兼容兼容FC SANFC SAN、IPSANIPSAN、NASNAS、本地磁盤本地磁盤l支持固定空間磁盤、動態(tài)空間支持固定空間磁盤、動態(tài)空間磁盤、差分磁盤等磁盤、差分磁盤等l應用場景應用場景l(fā)需要存儲遷移、快照、鏈接克需要存儲遷移、快照、鏈接克隆等高級存儲特性虛擬機隆等高級存儲特性虛擬機FC SAN文件系統NAS文件系統IP 網絡ISCSI SANFC 交換機物理機物理機本地磁盤第13頁版權所有 2015 華為技術有限公司VIMS部署方案l為為FusionCompute計算集群提供共享存儲計算集群提供共享存
11、儲l一個計算集群可以根據需要,有多個一個計算集群可以根據需要,有多個VIMS共享存儲共享存儲l添加添加VIMS共享存儲,需要配置存儲心跳網絡共享存儲,需要配置存儲心跳網絡Storage Area NetworkCNA1VIMS_1VMVMVMCNA2VMVMVMCNA3VMVMVMVIMS_2VIMS_1VIMS_1VIMS_2VIMS_2心跳第14頁版權所有 2015 華為技術有限公司虛擬磁盤文件l虛擬磁盤文件的類型l一個虛擬磁盤對應一個VHD文件l虛擬磁盤文件的格式:固態(tài)磁盤文件,動態(tài)磁盤文件,差分磁盤文件磁盤磁盤文件文件類型類型應用場景應用場景寫性能寫性能(首次寫首次寫)寫性能寫性能(非
12、首次非首次)讀性能讀性能(未寫入未寫入空間空間)讀性能讀性能(已寫入已寫入空間空間)創(chuàng)建時間創(chuàng)建時間固態(tài)固態(tài)磁盤磁盤普通卷性能接近存儲設備性能接近存儲設備性能接近存儲設備性能接近存儲設備慢,需要全盤寫零動態(tài)動態(tài)磁盤磁盤精簡卷、普通延遲置零卷低, 需要先寫零,然后再寫數據性能接近存儲設備直接返回性能接近存儲設備快,只需寫元數據差分差分磁盤磁盤非持久化卷、快照、鏈接克隆卷等低, 需要先寫零,然后再寫數據性能接近存儲設備性能取決于父鏡像性能接近存儲設備快,只需寫元數據第15頁版權所有 2015 華為技術有限公司固態(tài)磁盤文件l創(chuàng)建時需要將磁盤文件對應的存儲塊空間全部進行初始化成“0”,創(chuàng)建速度慢,IO
13、性能最佳;用于對IOPS要求較高的場景l(fā)磁盤大小恒定,創(chuàng)建后使用空間和預留空間相等l未寫滿的時候內部空間包含大量0,數據冗余度很高l應用在系統中的普通卷0扇區(qū) 最后一個扇區(qū)數據區(qū)磁盤屬性信息第16頁版權所有 2015 華為技術有限公司動態(tài)磁盤文件l創(chuàng)建時只需寫頭和結束塊,創(chuàng)建速度塊,IO性能較差;應用于精簡磁盤和普通延遲置零磁盤l磁盤大小會隨著用戶寫入數據而增長,但不隨著用戶刪除數據而縮減,只能通過磁盤空間回收來手動縮減應用在系統中的精簡磁盤空間l通過工具可以和靜態(tài)磁盤互相轉換;例如,可以從一個精簡磁盤的模板部署一個普通磁盤的虛擬機0扇區(qū)12m扇區(qū)n0n1最后一個扇區(qū)屬性信息位表0數據區(qū)0位表
14、1數據區(qū)1屬性信息第17頁版權所有 2015 華為技術有限公司差分磁盤文件l差分磁盤的結構和動態(tài)磁盤一模一樣,只是文件頭中會記錄它的父文件路徑l差分卷不能獨立存在,必須能夠訪問到父文件才能正常工作l差分卷也可以成為父文件l差分磁盤的特性和動態(tài)盤類似,但是很多業(yè)務有限制l差分磁盤以塊為單位記錄相對于父文件的修改l配合快照、非持久化磁盤、鏈接克隆等功能被使用,起到保護源盤不被修改,并可以跟蹤虛擬機磁盤差異數據的作用0扇區(qū)12m扇區(qū)1 2K扇區(qū)n0n1最后一個扇區(qū)屬性信息父文件信息位表0 數據區(qū)0 位表1 數據區(qū)1 屬性信息第18頁版權所有 2015 華為技術有限公司目錄1.存儲基礎2.存儲虛擬化特
15、性,適用場景第19頁版權所有 2015 華為技術有限公司精簡磁盤和空間回收l功能特性l支持創(chuàng)建精簡磁盤,可以隨著用戶使用而自動分配空間l膨脹的精簡磁盤不會隨著用戶刪除數據而縮小,使用空間回收工具可以將用戶刪除的數據空間釋放到數據存儲l適用場景l(fā)精簡磁盤可應用于局點運行初期,用戶磁盤使用率低的情況。能夠降低初始存儲投資及維護成本。存儲設備只保存有效數據,不保存預留空間,可以提高存儲資源利用率l空間回收可以提高精簡磁盤的使用/分配比,提高存儲利用率分配但未使用未使用精簡配置在主機上占用的容量 :21TB2TB2TB2TB6TB5TB4TB分配且已使用在主機上占用的容量 :15TB4TB6TB5TB
16、使用精簡配置未分配分配已使用第20頁版權所有 2015 華為技術有限公司非持久化磁盤l非持久化磁盤功能特性l虛擬機啟動時,對虛擬機卷創(chuàng)建一個差異化文件,用戶對磁盤的所有更改都被重定向保存在這個文件中l(wèi)用戶虛擬機關閉時,刪除該差異化文件,用戶在創(chuàng)建差異化磁盤后的所有修改都會被丟棄l用戶重新啟動虛擬機時,將會還原到上次開機的磁盤內容l適用場景l(fā)實現公共計算機的內容保護和快速還原l通過修改磁盤的非持久化選項,l 可以進行內容更新,重新設置還原點讀寫操作磁盤文件未啟用寫重定向讀操作差分磁盤文件啟用寫時重定向寫操作父磁盤文件AppApp第21頁版權所有 2015 華為技術有限公司快照原理和應用l快照功能
17、特性l快照記錄了虛擬機在某一時間點的內容和狀態(tài)l通過恢復虛擬機快照使虛擬機多次快速恢復到這一時間點l快照包含磁盤內容、虛擬機配置信息、內存數據l多次快照之間保存差量數據,節(jié)約存儲空間l適用場景l(fā)虛擬機用戶在執(zhí)行一些重大、高危操作前,例如系統補丁,升級,破壞性測試前執(zhí)行快照,可以用于故障時的快速還原l用戶觸發(fā)的創(chuàng)建快照和恢復快照操作第22頁版權所有 2015 華為技術有限公司存儲虛擬化的快照l創(chuàng)建快照時會生成一個新的差分卷,虛擬機會掛載這個差分卷作為磁盤文件,虛擬機的讀請求會重定向到源卷中l(wèi)創(chuàng)建快照采用了ROW(Redirect on write)技術,快照后的寫操作會進行重定向,所有的寫IO都
18、被重定向到新卷中。所有舊數據均保留在只讀的源卷中磁盤文件磁盤文件快照文件快照文件磁盤文件磁盤文件讀寫操作讀寫操作讀操作讀操作寫操作寫操作VMVMVMVM快照前快照前快照后快照后第23頁版權所有 2015 華為技術有限公司快照鏈VOLVOLSNAP1SNAP1VOLVOLSNAP1SNAP1SNAP2SNAP2VOLVOL快照前快照前第一次快照第一次快照第二次快照第二次快照l磁盤做多個快照后,會產生一個快照鏈l虛擬機卷始終掛載在快照鏈的最末端VMVMVM第24頁版權所有 2015 華為技術有限公司鏈接克隆l鏈接克隆功能特性l鏈接克隆技術是一種通過將源卷和差分卷組合映射為一個鏈接克隆卷,提供給虛擬
19、機使用的技術l一個鏈接克隆模板可以創(chuàng)建多個鏈接克隆差分卷,對應創(chuàng)建多個鏈接克隆虛擬機l新創(chuàng)建的差分卷占用空間很小,隨著虛擬機的使用,空間會逐漸膨脹l適用場景l(fā)能夠快速、批量部署虛擬機l對于類似的虛擬機,公用的數據可以放在模板中,提高存儲利用率第25頁版權所有 2015 華為技術有限公司鏈接克隆圖解10101101011010110101101010110101001011010110101101111011110110100101111010110101VM1差分卷VM2差分卷VM1鏈接克隆卷VM2鏈接克隆卷第26頁版權所有 2015 華為技術有限公司虛擬機虛擬磁盤文件遷移l虛擬機虛擬磁盤文件
20、遷移功能特性虛擬機虛擬磁盤文件遷移功能特性l存儲虛擬化支持將虛擬機的磁盤從一存儲虛擬化支持將虛擬機的磁盤從一個數據存儲遷移到另一個數據存儲個數據存儲遷移到另一個數據存儲l可以將虛擬機的所有磁盤整體遷移,可以將虛擬機的所有磁盤整體遷移,也可以單個磁盤分別遷移也可以單個磁盤分別遷移l虛擬機的快照可以一起遷移虛擬機的快照可以一起遷移l虛擬機開啟或者關閉時都可以遷移虛擬機開啟或者關閉時都可以遷移l適用場景適用場景l(fā)將數據存儲的所有卷遷移后,可以對將數據存儲的所有卷遷移后,可以對數據存儲進行減容數據存儲進行減容l可以調整數據存儲之間的負荷可以調整數據存儲之間的負荷 CNA數據存儲1數據存儲2VMVMVM
21、VMVMVM第27頁版權所有 2015 華為技術有限公司存儲熱遷移原理l在目的存儲上創(chuàng)建一個與源相同的空鏡像文件l將目的存儲的鏡像文件設置為源鏡像文件的mirror,使虛擬機的IO寫也能落盤在目的存儲上,保證了臟塊數據的同步l通過迭代遷移的技術,將源鏡像的數據遷移到目的鏡像中,保證了基線數據的同步;l在基線數據同步完成后,短暫的時間內暫停虛擬機的IO請求,將虛擬機的存儲文件從源鏡像切換到目的鏡像上,這樣就完成了存儲的遷移l存儲熱遷移同時遷移虛擬機磁盤鏡像和系統內存狀態(tài)存儲虛擬化文件系統通用塊層SCSISATANFS協議VHDVHD存儲虛擬化Vol ManagerSCSIVolumeVolume
22、XVELUNSANlocaldisk存儲熱遷移存儲熱遷移+ +流控流控第28頁版權所有 2015 華為技術有限公司虛擬機虛擬磁盤文件在數據存儲間熱遷移源存儲類型(源配置模式)源存儲類型(源配置模式)目的存儲類型目的存儲類型配置模式配置模式是否變化是否變化遷移后模式遷移后模式塊存儲虛擬化存儲是遷移時可以選擇為普通延遲置零(NAS不支持)或者精簡虛擬化存儲(普通卷)虛擬化存儲 是遷移時可以選擇為普通延遲置零(NAS不支持)或者精簡虛擬化存儲(延遲置零卷)虛擬化存儲(非NAS) 否保持不變虛擬化存儲(延遲置零卷)虛擬化存儲(NAS)是精簡虛擬化存儲(精簡卷)虛擬化存儲否保持不變l虛擬磁盤熱遷移不能支
23、持帶快照的遷移虛擬磁盤熱遷移不能支持帶快照的遷移l通過界面設置,可設置通過界面設置,可設置3 3種遷移速率【另可以規(guī)劃業(yè)務管理網絡平面完成本遷移】種遷移速率【另可以規(guī)劃業(yè)務管理網絡平面完成本遷移】l適中適中 (遷移速率不高于(遷移速率不高于20M/s20M/s,用于存儲,用于存儲IOIO壓力較大場景,緩解遷移操作對用戶虛擬機的影壓力較大場景,緩解遷移操作對用戶虛擬機的影響)響)l快速快速 (遷移速率不高于(遷移速率不高于30M/s30M/s,用于存儲,用于存儲IOIO壓力正常場景,在保證遷移速度的同時可以適當壓力正常場景,在保證遷移速度的同時可以適當減少對用戶虛擬機的影響)減少對用戶虛擬機的影
24、響)l不限不限 (遷移速率不高于(遷移速率不高于1024M/s1024M/s,用于用戶虛擬機業(yè)務優(yōu)先級很低的場景),用于用戶虛擬機業(yè)務優(yōu)先級很低的場景)第29頁版權所有 2015 華為技術有限公司虛擬機虛擬磁盤文件在數據存儲間冷遷移源存儲類型(源配置模式)源存儲類型(源配置模式)目的存儲類型目的存儲類型配置模式是否變配置模式是否變化化遷移后模式遷移后模式是否支持帶是否支持帶快照遷移快照遷移虛擬化存儲(普通,延遲置零,精簡)虛擬化存儲(非NAS)否保持不變是虛擬化存儲(延遲置零)虛擬化存儲(NAS)是精簡是虛擬化存儲(延遲置零,精簡)塊存儲是普通否虛擬化存儲(普通)塊存儲否普通否塊存儲虛擬化存儲
25、否保持不變否塊存儲塊存儲否保持不變否l存儲冷遷移速率控制:冷遷移速率只能通過配置文件設置第30頁版權所有 2015 華為技術有限公司虛擬機虛擬磁盤文件在數據存儲遷移限制l不支持遷移已掛載為“共享”類型的磁盤和鏈接克隆虛擬機的磁盤l虛擬機為“運行中”時,不支持非持久化磁盤、帶快照虛擬機磁盤和開啟iCache功能虛擬機磁盤的遷移,可將虛擬機關閉后遷移l虛擬機為“已停止”時,如果目的數據存儲為塊存儲,不支持非持久化磁盤、帶快照虛擬機磁盤的遷移第31頁版權所有 2015 華為技術有限公司虛擬機磁盤擴容l虛擬機磁盤擴容功能特性l可以在不影響虛擬機磁盤現有數據的情況下,將虛擬機磁盤容量擴大。l支持系統磁盤
26、和用戶磁盤的擴容,但分區(qū)合并需要操作系統支持(XP和WIN7支持用戶分區(qū)擴容)或第三方工具l部分操作系統支持進行在線磁盤擴容l適用場景l(fā)初始磁盤分配空間時,可以按需分配,后續(xù)不夠了可以進行擴容,提高存儲設備利用率l注意點l虛擬化存儲支持以磁盤擴容的方式,增加虛擬機存儲空間l非虛擬化存儲場景下,只能通過增加獨立的磁盤來實現第32頁版權所有 2015 華為技術有限公司磁盤裸設備映射FusionComputeLUNSCSISCSISAN存儲設備LUNLUNLUNAppAppAppAppSCSISCSIl存儲直通技術l(又稱裸設備映射,RDM)為虛擬機提供了一種機制來直接訪問物理存儲子系統(IPSAN
27、或FCSAN)上的LUN,VM的業(yè)務能夠直接訪問存儲設備或直接對存儲設備下發(fā)控制命令l技術特點l虛擬機直接通過SCSI命令操作裸存儲設備l兼容FC光纖存儲和IP SAN存儲l通過使用裸設備映射,可以讓虛擬機識別SCSI磁盤,實現在虛擬機內部下發(fā)SCSI命令,交給主機然后透傳給存儲設備進行處理,最后將應答返回l適用場景l(fā)集群系統軟件,降低大量使用物理服務器的成本比如Oracle RAC或MSCS 第33頁版權所有 2015 華為技術有限公司虛擬機外部SAN直通l特性功能:l將物理裸設備直接映射給虛擬機l直通的虛擬機磁盤能夠處理SCSI命令l適用場景:l支撐Oracle RAC群集業(yè)務在虛擬機上的
28、正常運行第34頁版權所有 2015 華為技術有限公司設置虛擬機磁盤IO上限l特性功能:l支持查詢虛擬機各磁盤實時的IO數據l支持設置磁盤的最大BPS(每秒讀寫字節(jié)數)和最大IOPS(每秒處理IO個數)l所有存儲類型的虛擬機,都能設置IO上限值,該設置在pvdriver運行時生效l適用場景:l設置非重要虛擬機磁盤的IO上限,保證在這些虛擬機業(yè)務量大時,不會影響到重要的虛擬機業(yè)務業(yè)務IOBlock fronteddriverGuset OSGuest 1業(yè)務IOBlock fronteddriverGuset OSGuest 2Block backdriverTask controlBlock backdriverTask controlBlock backdriverTask control虛擬化
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 鄭州商學院《器官系統模塊四》2023-2024學年第一學期期末試卷
- 廣西南寧市馬山縣2024-2025學年九上化學期末教學質量檢測模擬試題含解析
- 撤資合同范本:投資退出
- 公共場所緊急疏散預案制定合同
- 人力資源外包項目合作誠意金支付及服務保障協議
- 軌道交通設備抵押貸款及維護服務合同
- 車輛內飾定制維修與改造合同
- 茶藝表演團體與景區(qū)合作合同
- 成品油運輸與市場拓展合作協議
- 出租車車輛租賃與品牌推廣合同
- 2025泉州市洛江區(qū)事業(yè)單位考試歷年真題
- 商場夏季餐飲活動方案
- 高溫施工人員防暑指南
- 上海市重點建設項目社會穩(wěn)定風險評估報告編制指南2025
- 2025央國企AI+數智化轉型研究報告
- 倉儲部標簽管理制度
- 數字化情報資源管理-洞察闡釋
- 電氣自動化 霓虹燈廣告屏的PLC控制設計
- 穿透式管理模式在建設項目中的應用與探索
- 車庫門維修合同范本
- 2025年度事業(yè)單位公開招聘考試《綜合應用能力(E類)公共衛(wèi)生管理》試卷真題及解析
評論
0/150
提交評論