版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、KVM 虛擬機(jī)在 IBM System x 上應(yīng)用如何使用 SLES11 自帶的 KVM 虛擬軟件在 IBM Ssystem x 上創(chuàng)建虛擬機(jī)級(jí)別: 初級(jí)郭 晉兵 軟件工程師 , IBM 叢 彬彬 軟件工程師 , IBM 2009 年 7 月 30 日虛擬化技術(shù)已經(jīng)成功的被用于基于 POWER 構(gòu)架的 IBM Power 服務(wù)器。如何在基于 x86 處理器 IBM System x 系列服務(wù)器應(yīng)用虛擬化技術(shù)呢?最新的 Intel VT(Virtualization Technology和 AMD SVM(安全虛擬機(jī) , Secure VirtualMachine ,也叫 AMD-V 從硬件上支
2、持了虛擬技術(shù)。 KVM 正是利用了 x86 硬件虛 擬化特性,實(shí)現(xiàn)了虛擬機(jī)性能的最優(yōu)化。本文詳細(xì)介紹了在 IBM System x3500 上使 用 SLES11 和 KVM 虛擬化技術(shù),如何安裝配置了多臺(tái)虛擬機(jī),并對(duì)虛擬機(jī)的性能做 了初步的優(yōu)化。IBM System x 系列服務(wù)器基于 Intel 和 AMD 的 x86 構(gòu)架,支持 Windows 和 Linux 平臺(tái)。 SLES (Suse Linux Enterprise Linux是 Novell 公司開發(fā)的針對(duì)企 業(yè) 級(jí)應(yīng)用的 操作 系 統(tǒng) 。 可以運(yùn) 行 在 IBM x, p ,z 系列服務(wù)器上。 Novell 于 2009 年
3、4 月發(fā) 布 了 SUSE Linux Enterprise 11,基 于 Linux kernel 2.6.27,已經(jīng)支持了 KVM ,并 且還收錄 了 KVM 的用 戶管 理程 序 kvm-qemu 。什么是 KVM ?KVM 是 指 基于 Linux 內(nèi)核 的虛擬機(jī)(Kernel-based Virtual Machine。 2006 年 10 月, 由以色 列的 Qumranet 組織 開發(fā)的 一種 新的 “ 虛擬機(jī) ” 實(shí)現(xiàn) 方案 。 2007 年 2 月發(fā) 布 的 Linux 2.6.20 內(nèi) 核第一次包含 了 KVM 。 增加 KVM 到 Linux 內(nèi)核 是 Linux 發(fā) 展
4、 的 一個(gè)重要里 程 碑 , 這 也是 第一 個(gè)整合到 Linux 主線內(nèi)核 的虛擬化技術(shù)。KVM 在 標(biāo)準(zhǔn) 的 Linux 內(nèi)核中增加 了虛擬技術(shù),從 而我們可以通過 優(yōu)化的 內(nèi)核來(lái) 使用虛擬技術(shù)。在 KVM 模型中 , 每一個(gè) 虛擬機(jī) 都 是 一個(gè)由 Linux 調(diào)度 程 序管 理的 標(biāo)準(zhǔn)進(jìn) 程, 你可以 在用 戶空間啟動(dòng) 客戶 機(jī) 操作 系 統(tǒng) 。 一個(gè)普通 的 Linux 進(jìn) 程 有兩種運(yùn)行模式 :內(nèi)核 和用 戶 。 KVM 增加 了 第三種模 式 :客戶模式 (有自己 的 內(nèi)核 和用 戶模式 。 圖 1 展示 了 KVM 虛擬化的 原 理 圖 。圖 1. KVM 原理圖 一個(gè)典型 的
5、 KVM 安裝 包括以下部 件:l一個(gè)管 理虛擬硬件的 設(shè)備驅(qū)動(dòng) , 這個(gè)驅(qū)動(dòng)通過一個(gè)字符設(shè)備 /dev/kvm 導(dǎo)出它 的功能。 通 過 /dev/kvm 每一個(gè)客戶 機(jī) 擁有其自身 的 地址空間 , 這個(gè)地址空間 與 內(nèi)核 的 地址空間 相分離 或與任 何 一個(gè) 正 運(yùn)行 著 的 客戶 機(jī) 相分離 。l一個(gè)模 擬硬件的用 戶空間部 件, 它 是 一個(gè) 稍微改 動(dòng)過 的 QEMU 進(jìn) 程。從 客戶 機(jī) 操作 系 統(tǒng) 執(zhí) 行 I/O 會(huì) 擁有 QEMU 。 QEMU 是 一個(gè) 平臺(tái)虛擬化 方案 , 它 允許 整個(gè) PC 環(huán)境 (包括 磁 盤、顯 示 卡 (圖 形卡 、網(wǎng)絡(luò) 設(shè)備 的虛擬化。 任
6、 何 客戶 機(jī) 操作 系 統(tǒng) 所 發(fā) 出 的 I/O 請(qǐng)求 都被攔截 ,并被 路 由到 用 戶模式 用 以 被 QEMU 過 程 模 擬 仿真 。KVM 在 IBM System x 上的安裝運(yùn)行 KVM , 你 需 要一 臺(tái) 運(yùn)行 2.6.20 以上 Linux 內(nèi)核 的 Intel 處 理器(含 VT 虛擬化技術(shù) 或 AMD 處理器(含 SVM 安全虛擬 機(jī)技術(shù)的 AMD 處理器。 下 面將 詳細(xì)介紹如何在裝 有 SLES11(kernel-2.6.27.19的 IBMSystem x3550 上安裝和配置基于 KVM 的虛擬機(jī)。硬件環(huán)境本文的實(shí) 例 中 ,硬件 選 用了 IBM Syst
7、em x3500,處理器是 Intel 至 強(qiáng) 4 核 X5160,最 高 主 頻3.00GHz , 內(nèi) 存 16GB , 存儲(chǔ)為 8 塊 73GB 高速 硬 盤 , 集 成 雙千兆 以 太網(wǎng)卡 。虛擬化 可以 使 這 些資源得 到 充分 的利用。清單 1. 硬件配置軟件環(huán)境Novell 于 2009 年 4 月發(fā) 布 了 SUSE Linux Enterprise 11, 它可運(yùn)行 于 各 種 領(lǐng)先 的硬件平臺(tái), 包 括 x86-32、 x86-64、 IBM POWER 和 IBM System z 。 SUSE Linux Enterprise 11 基于 Linux kernel 2.
8、6.27,已經(jīng)支持了 KVM ,并 且還收錄 了 KVM 的用 戶管 理程 序 kvm-qemu 。如何確認(rèn)處理器含有 Intel VT 或 AMD-V 技術(shù)基于 Intel 處理器的系 統(tǒng) , 運(yùn)行 grep vmx /proc/cpuinfo 查 找 CPU flags 是 否 包括 vmx 關(guān)鍵詞基于 AMD 處理器的系 統(tǒng) , 運(yùn)行 grep svm /proc/cpuinfo 查找 CPU flags 是 否 包括 svm 關(guān)鍵詞注 : 一 些廠商禁止 了機(jī)器 BIOS 中 的 VT 選項(xiàng) , 這 種方式下 VT 不 能被 重 新 打 開。 /proc/cpuinfo 僅 從 Lin
9、ux 2.6.15(Intel 和 Linux 2.6.16(AMD 開 始顯 示 虛擬化 方 面 的 信息 . 請(qǐng) 使用 uname -r 命 令查詢您 的 內(nèi)核 版 本。如 有 疑問 , 請(qǐng)聯(lián) 系硬件 廠商 。linux-gwsa: # grep vmx /proc/cpuinfoflags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmxfxsr sse sse2 ss ht tm pbe syscall nx lm constant_tsc arc
10、h_perfmon pebs bts rep_good pni monitor ds_cpl vmx est tm2 ssse3 cx16 xtpr lahf_lm idaflags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmxfxsr sse sse2 ss ht tm pbe syscall nx lm constant_tsc arch_perfmon pebs bts rep_good pni monitor ds_cpl vmx est tm
11、2 ssse3 cx16 xtpr lahf_lm idalinux-gwsa: # grep svm /proc/cpuinfomachine type: 7977-99B4314Memory: 16GBHard disk: 73GB x8 Network: eth0 (dhcp 配置客戶機(jī)的參數(shù)設(shè)置使用 qemu-kvm 安裝 客戶 機(jī) 之前 , 需 要 配置 客戶 機(jī)的虛擬硬件 參數(shù) : 把 上 面 的 參數(shù)串 在 一 起就 是安裝 KVM 虛擬機(jī)的 命令 , 見 清單 2 。清單 3. 安裝客戶機(jī)的命令使用文件作為客戶機(jī)存儲(chǔ),從光盤啟動(dòng),使用默認(rèn)的網(wǎng)絡(luò)配置:linux-gwsa: #
12、qemu-kvm -m 4096 -smp 4 -hda /home/kvm.img n-cdrom /mnt/SLES10SP2.iso -boot d使用硬盤分區(qū)作為客戶機(jī)存儲(chǔ),從光盤啟動(dòng),設(shè)置 TAP 網(wǎng)絡(luò),通過 VNC 遠(yuǎn)程安裝:linux-gwsa: # qemu-kvm -m 4096 -smp 4 -hda /dev/sdb1 -net nic, model=e1000, nmacaddr=00:16:3e:51:fb:ce -net tap -cdrom /mnt/SLES10SP2.iso -boot d -vnc 9.123.99.34:3 安裝第一臺(tái)客戶機(jī)在 xWindo
13、w 中 輸入清單 3 中 的 命令 , 或 者 通過 VNC 遠(yuǎn) 程 連接 , 顯 示圖 2 中 的 客戶 機(jī)安裝 界 面 :圖 2. 客戶機(jī)啟動(dòng)界面 選 擇 3 從 光 盤 啟動(dòng) , 進(jìn) 入大家熟悉 的 Linux 安裝步 驟 。本 例 中 添 加 了 網(wǎng)絡(luò) 安裝的 參數(shù) , 這 樣 將 從 網(wǎng)絡(luò) 安裝 客戶 機(jī)。圖 3. 引導(dǎo)安裝 Linux 系統(tǒng) 圖 4. 網(wǎng)絡(luò)下載安裝文件 從 網(wǎng)絡(luò) 下 載 了安裝程 序 后 進(jìn) 入 YAST 安裝 界 面 , 余 下 的步 驟 和在 物 理機(jī)上安裝 SLES 一 樣 。 第 二 臺(tái) 客戶 機(jī)的安裝 以第一 臺(tái) 稍 有 不 同 , 主要 是 網(wǎng)絡(luò) 上的
14、設(shè) 置和 資源 的 分 配。 下 節(jié) 中 將詳細(xì)介紹客戶 機(jī)的 網(wǎng)絡(luò) 設(shè) 置。啟動(dòng) KVM 虛擬機(jī)客戶 機(jī)安裝 完 成 后 , 需 要 為 其設(shè) 置 網(wǎng)絡(luò) 接口 , 以 便 和 主 機(jī) 網(wǎng)絡(luò) , 客戶 機(jī) 之 間 的 網(wǎng)絡(luò) 通 信 。 事 實(shí) 上,如 果 要 在安裝 時(shí) 使用 網(wǎng)絡(luò) 通 信 , 需 要 提 前 設(shè) 置 客戶 機(jī)的 網(wǎng)絡(luò) 連接 。 KVM 客戶 機(jī) 網(wǎng)絡(luò) 連接 有兩種方式 :l 用 戶 網(wǎng)絡(luò) (User Networking:讓 虛擬機(jī) 訪 問 主 機(jī) 、 互 聯(lián)網(wǎng)或 本 地 網(wǎng)絡(luò) 上的 資源 的 簡(jiǎn)單 方 法 , 但 是 不 能從 網(wǎng)絡(luò)或 其 他 的 客戶 機(jī) 訪 問 客戶 機(jī)
15、,性能上也 需 要 大 的 調(diào)整 。l虛擬 網(wǎng) 橋 (Virtual Bridge:這種方式要 比 用 戶 網(wǎng)絡(luò) 復(fù)雜 一 些 , 但 是 設(shè) 置 好后 客戶 機(jī) 與 互 聯(lián) 網(wǎng) , 客戶 機(jī) 與 主 機(jī) 之 間 的 通 信 都 很容易 。本文 選 用了虛擬 網(wǎng) 橋 的 網(wǎng)絡(luò) 連接 方式 ,是 客戶 機(jī)和 子 網(wǎng) 里 面 的機(jī)器能 夠互 相 通 信 。本例中的客戶機(jī)網(wǎng)絡(luò)設(shè)置本 例 中 IBM System x3500 有兩 塊千兆 以 太網(wǎng)卡 , 一 塊網(wǎng)卡 連接外 網(wǎng) 的 9.123.99.x 網(wǎng) 段 , 一 塊網(wǎng) 卡 連接 內(nèi) 網(wǎng) 192.168.0.x 網(wǎng) 段 。本 例 采 用虛擬 網(wǎng)
16、橋 的 連接 方式 使 客戶 機(jī)能 夠同時(shí) 自由 訪 問 兩個(gè) 網(wǎng) 段 。圖 5. IBM System x3500 的網(wǎng)絡(luò)結(jié)構(gòu) 清單 4. 配置 eth0 設(shè)備清單 5. 配置網(wǎng)橋 br0網(wǎng) 橋 br0 應(yīng) 該獲 得 IP 地址 (靜態(tài) 或 DHCP , 同時(shí)物 理的 eth0 必須 不 配置 IP 地址 。 重 新 啟動(dòng) 網(wǎng)絡(luò) 后 , 主 機(jī)的 網(wǎng)絡(luò) 設(shè)備 列 表 如 清單 6 所 示 :編輯 /etc/sysconfig/network-scripts/ifcfg-eth0 文件 注釋 BOOTPROTO 增加 BRIDGE=switch創(chuàng)建 /etc/sysconfig/network
17、-scripts/ifcfg-br0 文件,內(nèi)容如下: linux-gwsa: # cat /etc/sysconfig/network/ifcfg-br0 DEVICE=br0 TYPE=Bridge BOOTPROTO=dhcp ONBOOT=yes重新啟動(dòng)網(wǎng)絡(luò),激活網(wǎng)橋:清單 6. 主機(jī)的網(wǎng)絡(luò)設(shè)備列表linux-gwsa: # ifconfigbr0 Link encap:Ethernet HWaddr 00:1A:64:48:87:B6inet6 addr: fe80:21a:64ff:fe48:87b6/64 Scope:LinkUP BROADCAST RUNNING MULTIC
18、AST MTU:1500 Metric:1RX packets:669843 errors:0 dropped:0 overruns:0 frame:0TX packets:344910 errors:0 dropped:0 overruns:0 carrier:0collisions:0 txqueuelen:0RX bytes:113618306 (108.3 Mb TX bytes:495318687 (472.3 Mbeth0 Link encap:Ethernet HWaddr 00:1A:64:48:87:B6inet6 addr: fe80:21a:64ff:fe48:87b6/
19、64 Scope:LinkUP BROADCAST RUNNING PROMISC MULTICAST MTU:1500 Metric:1RX packets:11681269 errors:0 dropped:0 overruns:0 frame:0TX packets:5505473 errors:0 dropped:0 overruns:0 carrier:0collisions:0 txqueuelen:1000Interrupt:16eth1 Link encap:Ethernet HWaddr 00:1A:64:48:87:B7inet6 addr: fe80:21a:64ff:f
20、e48:87b7/64 Scope:LinkUP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1RX packets:5481826 errors:0 dropped:0 overruns:0 frame:0TX packets:5453113 errors:0 dropped:0 overruns:0 carrier:0collisions:0 txqueuelen:1000RX bytes:5100133488 (4863.8 Mb TX bytes:4753271194 (4533.0 MbInterrupt:17lo Link encap:L
21、ocal Loopbackinet6 addr: :1/128 Scope:HostUP LOOPBACK RUNNING MTU:16436 Metric:1RX packets:187412 errors:0 dropped:0 overruns:0 frame:0TX packets:187412 errors:0 dropped:0 overruns:0 carrier:0collisions:0 txqueuelen:0RX bytes:801868898 (764.7 Mb TX bytes:801868898 (764.7 Mblinux-gwsa: # brctl showbr
22、idge name bridge id STP enabled interfacesbr0 8000.001a644887b6 no eth0此外 , 需 要一個(gè)包含 如 下內(nèi) 容 的 qemu-ifup 腳 本, 作 為 客戶 機(jī)的 網(wǎng)絡(luò) 配置 腳 本。 /etc/qemu-ifup是 默認(rèn) 的 客戶 機(jī) 網(wǎng)絡(luò) 配置文件,如 果 使用 其 他名 字 或 拷貝 到其 他位 置, 請(qǐng) 用 script=file參數(shù) 指 定 。 主 機(jī)上如 果 有 多臺(tái) 客戶 機(jī)使用 網(wǎng)絡(luò) , 每個(gè)客戶 機(jī) 必須 有 不 同 的 MAC 地址 , 所 以 需 要 在 網(wǎng)絡(luò)參數(shù) 中 為 每個(gè)客戶 機(jī) 指 定 不 同
23、 的 MAC 地址 。 以下 腳 本 可以自動(dòng) 生 成 MAC 地址 (執(zhí) 行 python 腳 本 需 要 系 統(tǒng) 安裝了 python 解釋 器。清單 8. 生成 MAC 地址的代碼#!/usr/bin/python# macgen.py script to generate a MAC address for Red Hat Virtualization guests#import random#def randomMAC(:mac = 0x00, 0x16, 0x3e,random.randint(0x00, 0x7f,random.randint(0x00, 0xff,random.
24、randint(0x00, 0xff return ':'.join(map(lambda x: "%02x" % x, mac#print randomMAC(生成 MAC 地址的示例:00:16:3e:51:fb:ce清單 9. 啟動(dòng)客戶機(jī)的命令linux-gwsa: # qemu-kvm -m 8192 -smp 4 -hda /dev/sdb1 -net nnic,model=e1000,macaddr=00:16:3e:51:fb:ce -net tap參數(shù)說明-net nic,model=e1000,macaddr=00:16:3e:51:fb:
25、ce 設(shè)置虛擬網(wǎng)卡類型為 e1000,設(shè)置 MAC 地址。-net tap 使用 tap 網(wǎng)絡(luò)模式,默認(rèn)的配置腳本是 /etc/etc/qemu-ifup ( 見 qemu-kvm 的 manpage 。 在 xWindow 中運(yùn)行啟動(dòng)客戶 機(jī)的 命令 后 , 選 擇 從硬 盤 啟動(dòng) 。 看 到 如 圖 6 的 grub 選項(xiàng) 。圖 6. 啟動(dòng)已安裝的客戶機(jī)登陸 客戶 機(jī)的 xWindow , 測(cè)試 網(wǎng)絡(luò) 連接狀況 。從 圖 7 看 出 , 客戶 機(jī) 獲 得 了 IP 地址192.168.0.158, 識(shí) 別了 qemu-kvm 虛擬的 千兆網(wǎng)卡 Intel e1000 網(wǎng)絡(luò) 模 塊 。 為
26、了 測(cè)試 網(wǎng)絡(luò)速 度 , 從 外 網(wǎng) 的 一 臺(tái)機(jī)器上用 scp 下 載 文件, 下 載 速 度 平 均 為 5.1 MB/s 。圖 7. 客戶機(jī)的網(wǎng)絡(luò)狀態(tài)啟動(dòng)一 臺(tái) 客戶 機(jī) 后 , 主 機(jī)上多 出 了 一個(gè) tap0 虛擬 網(wǎng)絡(luò) 設(shè)備 , 這 就 是 qemu-kvm 為 客戶 機(jī)虛擬的 TAP 網(wǎng)絡(luò) 設(shè)備 。 查 看 網(wǎng) 橋 可以 看 出 tap0 加 入 了 網(wǎng) 橋 br0 。 客戶 機(jī) 就 是 通過 網(wǎng) 橋訪 問 的 外 網(wǎng) 。 頁(yè)碼 , 8/12KVM 虛擬機(jī)在 IBM System x 上應(yīng)用 第二臺(tái)客戶機(jī)的安裝和使用有 了 第一 臺(tái) 客戶 機(jī)的安裝經(jīng) 驗(yàn) , 我們 很容易 安裝
27、 更 多的 客戶 機(jī)在 同 一主 機(jī)上, 當(dāng)然 要 在硬件 資源 足 夠 的 情 況 下 。安裝多臺(tái) 客戶 機(jī) 時(shí) , 需 要 注 意 以下 幾點(diǎn) :l使用 不 同 的 存儲(chǔ) 鏡像 。 就 是 為 -hda 的 設(shè) 定 不 同 的文件 或分 區(qū) 。 l 使用 不 同 的 MAC 地址 。 為 了 避免 網(wǎng)絡(luò) 沖突 , 客戶 機(jī)的 MAC 地址要 唯 一 。實(shí)例:在第二臺(tái)客戶機(jī)上安裝 SLES11由 于 我們 在安裝 第一 臺(tái) 客戶 機(jī) 時(shí) ,使用了虛擬 網(wǎng) 橋 , 而且 在 客戶 機(jī)的 網(wǎng)絡(luò) 配置 腳 本 /etc/qemu-ifup 具 有可 擴(kuò) 展 性, 所 以 安裝 第 二 臺(tái) 客戶 機(jī)
28、 時(shí) 不 用 改 動(dòng) 任 何 腳 本, 只 需 要 配置 不 同 的 存儲(chǔ) 鏡像 和 MAC 地址 。清單 11. 安裝 SLES11安裝 完 成并 啟動(dòng)第 二 臺(tái) 客戶 機(jī), 我們可以 查 看 它 的 網(wǎng)絡(luò) 狀況 ,如 圖 8 。圖 8. 安裝了 virto 網(wǎng)絡(luò)模塊客戶機(jī)使用硬盤分區(qū)作為客戶機(jī)存儲(chǔ),從光盤啟動(dòng),設(shè)置 TAP 網(wǎng)絡(luò),通過 VNC 遠(yuǎn)程安裝:linux-gwsa: # qemu-kvm -m 4096 -smp 4 -hda /dev/sdc1 -net nic,model=virtio, nmacaddr=00:16:3e:55:83:c3 -net tap -cdrom /mnt/SLES11.iso -boot d -vnc 9.123.99.34:5啟動(dòng)第 二臺(tái) 客戶機(jī)linux-gwsa: # qemu-kvm -m 8192 -smp 4 -hda /dev/sdc1 -net nic,model=virtio, n macaddr=00:16:3e:55:83:c3 -net tap -vnc 9.123.99.34:5頁(yè)碼 , 9/12KVM 虛擬機(jī)在 IBM System x 上應(yīng)用可
溫馨提示
- 1. 本站所有資源如無(wú)特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 社會(huì)調(diào)查報(bào)告范文
- 《計(jì)算機(jī)技術(shù)知識(shí)》課件
- 公文申請(qǐng)報(bào)告格式范文
- 心理培訓(xùn)報(bào)告范文模板
- 2025年西寧貨運(yùn)從業(yè)資格考試題目大全答案
- 2025年宿遷從業(yè)資格證貨運(yùn)考試答案
- 機(jī)電施工安全規(guī)范
- 學(xué)習(xí)小學(xué)語(yǔ)文中的閱讀速度和流利度
- 2025年佛山道路運(yùn)輸貨運(yùn)從業(yè)資格證模擬考試題庫(kù)
- 2025年安慶從業(yè)資格證模擬考試題貨運(yùn)考題
- 高等數(shù)學(xué)課件第一章函數(shù)與極限
- 黃石市黃石港區(qū)2023-2024學(xué)年八年級(jí)上學(xué)期期末數(shù)學(xué)測(cè)評(píng)卷(含答案)
- 國(guó)家開放大學(xué)電大《小學(xué)語(yǔ)文教學(xué)研究》形考任務(wù)3-4試題及答案
- 朗格罕斯細(xì)胞組織細(xì)胞增生癥課件
- 孤獨(dú)癥abc量表孤獨(dú)癥兒童行為量表ABC量表
- 國(guó)企紀(jì)檢監(jiān)察培訓(xùn)課件
- 納米技術(shù)在光電領(lǐng)域的應(yīng)用
- 人工智能與區(qū)塊鏈的融合之路
- 船舶與海洋工程導(dǎo)論(船舶設(shè)計(jì)與建造)期末單元測(cè)試與答案
- 宮腔鏡可行性報(bào)告
- 預(yù)付式消費(fèi)監(jiān)管服務(wù)平臺(tái)建設(shè)方案
評(píng)論
0/150
提交評(píng)論