




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認(rèn)領(lǐng)
文檔簡介
1、教育行業(yè)“慧眼云”平臺技術(shù)白皮書華南理工大學(xué)電子與信息學(xué)院覃健誠2013.5.141. 云計算平臺概述y1.慧眼云簡介“慧眼云”是由華南理工大學(xué)電子與信息學(xué)院進行基礎(chǔ)原型研制,由廣州市 橡樹電子信息有限公司完成核心技術(shù)研發(fā)和產(chǎn)品化的云計算平臺,具有三大主要 特點:1、掌握核心技術(shù):平臺基于開源軟件,并結(jié)合了自主研發(fā)的核心程序?!盎垩墼啤币詌inux. virtualbox等開源軟件為基礎(chǔ),以降低成本和縮短研 發(fā)周期。對于目前開源軟件尚未實現(xiàn)的功能,則采用自主研發(fā)的核心程序。因此, 研發(fā)和技術(shù)支持團隊掌握著整個云平臺的核心技術(shù)。2>兼容多種軟硬件:平臺同時支持商業(yè)軟件和開源軟件,同時支持多
2、種硬 件、多種操作系統(tǒng)及其應(yīng)用程序?!盎垩墼啤本哂袕V泛的兼容性,能夠支持windows、linux、mac os、android> solaris等多種系統(tǒng)的虛擬機系統(tǒng),其中既有商業(yè)軟件,乂有開源軟件?!盎垩墼啤?支持的智能終端硬件包括iphone、ipad、android和windows智能手機及平板電 腦、上網(wǎng)本、筆記本電腦、臺式機等。3. 安全可靠,擴展性強:平臺采用軟件自修復(fù)、加密防護等安全技術(shù),并 支持軟硬件系統(tǒng)的平滑升級?!盎垩墼啤蹦莒`活部署在臺式、機架式、刀片式服務(wù)器上,釆用iscsi等通 用接口,軟硬件系統(tǒng)可以平滑升級擴展。aes存儲加密、ssh傳輸加密能夠保 障信息安全
3、,軟件自修復(fù)功能可以在病毒感染、系統(tǒng)崩潰等情況下迅速還原。¥2.現(xiàn)有的主要云技術(shù)云計算不是某種特定的信息技術(shù),而是一系列相關(guān)技術(shù)整合在一起的總稱。 當(dāng)前的云計算綜合使用了網(wǎng)格計算、效用計算、分布式并行計算、可靠計算、可 信計算、虛擬化技術(shù)、web服務(wù)技術(shù)等各種先進信息技術(shù),未來述可能包括現(xiàn) 在尚未出現(xiàn)的技術(shù)。云計算能夠取代傳統(tǒng)的數(shù)據(jù)中心方案而成為信息化平臺的新趨勢,是由于其 具有的技術(shù)優(yōu)勢:能夠集中資源,按需動態(tài)分配,在滿足突發(fā)性資源需求高峰的 同時,可以減少資源浪費,節(jié)省成本?,F(xiàn)有技術(shù)主要從三個層面(簡稱spi)實 現(xiàn)云計算的服務(wù):1、saas (software as a ser
4、vice,軟件即服務(wù)):提供各種應(yīng)用軟件給客戶使 用,這些軟件基于虛擬化的云計算。2> paas (platform as a service,平臺即服務(wù)):提供應(yīng)用平臺給客戶使用, 可以運行各種虛擬機。3、iaas (infrastructure as a service,基礎(chǔ)設(shè)施即服務(wù)):提供信息化的基礎(chǔ) 設(shè)施給客戶使用,可以動態(tài)利用云計算的資源。y3.教育行業(yè)的重要特點現(xiàn)有的通用型云計算平臺并不能完全適合教育行業(yè)的個性化需求。如果能夠 掌握云計算的核心科技,自主研發(fā)幽來的教育云實現(xiàn)技術(shù)會更有針對性。下文簡 單介紹教育行業(yè)的重耍特點。教育是一種圉繞知識而展開的傳道、授業(yè)、解惑的活動,
5、教育信息化的一個 重要任務(wù)就是以信息手段提升學(xué)習(xí)者掌握知識的能力和效率。學(xué)習(xí)分為不同層 次,由低到高依次是:1、知道:能夠高效率地獲取、篩選、存儲各種信息。這一層次的創(chuàng)新性體 現(xiàn)在需要吸收未知領(lǐng)域的信息吋,高效率方法的靈活運用能力上。2、知識:能夠把信息融會貫通,用來解決各種問題。這一層次的創(chuàng)新性體 現(xiàn)在遇到前所未見的難題時,巧妙地解決問題的能力上。3、求知:能夠提出白己的問題,從而引導(dǎo)對未知領(lǐng)域的探索。這一層次的 創(chuàng)新新體現(xiàn)在別人想不到的地方,能夠發(fā)現(xiàn)有意義、有價值問題的思索能力上。 每個學(xué)習(xí)者都有自身的特點和成長的過程,同一項教育資源對不同的人有不同的 效果,即使是對同一人,在不同時期(例
6、如屮學(xué)和大學(xué))的效果也不同。因材施 教就成為教育云的一個關(guān)鍵要求。y4.教育云的特殊要求根據(jù)教育行業(yè)的特點,教育云在技術(shù)上應(yīng)支持:1、快速地把大量資源與每個學(xué)習(xí)者進行匹配,實時估算出每項資源對于個 體學(xué)習(xí)的效果。2、根據(jù)每人的學(xué)習(xí)進程和實際成效,計算出學(xué)習(xí)者的特征曲線并對未來作 岀預(yù)測。3、通過概率分布模型評估每項教育資源的優(yōu)劣,并與實際學(xué)習(xí)效果數(shù)據(jù)作 對比驗證。4、實時預(yù)測出每個學(xué)習(xí)者最有可能訪問的教育資源,并作出動態(tài)資源調(diào)度, 以提高教育云的性能?;谏鲜鲆?,教育云應(yīng)該在大數(shù)據(jù)統(tǒng)計分析、分布式并行計算、動態(tài)概率 預(yù)測、資源智能調(diào)度等方面具備足夠的能力。針對教育云需求的“慧眼云”技術(shù)在ia
7、as和paas層面提供了相應(yīng)的計算能 力支持,從而為saas層面的個性化應(yīng)用功能實現(xiàn)準(zhǔn)備了充足的條件。¥5.慧眼云的研發(fā)策略不同丁直接采用現(xiàn)成的云計算商業(yè)解決方案或整套開源方案的方式,“慧眼 云”技術(shù)是開源軟件與自主研發(fā)相結(jié)合的成果,研發(fā)策略是:1、根據(jù)云計算的理論基礎(chǔ)和教育云的特殊要求,自主設(shè)計云平臺整體架構(gòu) 與局部功能細(xì)節(jié)。2、根據(jù)設(shè)計方案,選擇合適的開源軟件,以便節(jié)約開發(fā)時間和成本,提高 系統(tǒng)兼容性。3、對于開源軟件無法滿足要求的部分核心程序,集中攻關(guān)力量,自主研發(fā) 出來。例如,“慧眼云”中自主研發(fā)的核心程序就包括軟件自修復(fù)、軟件自動生產(chǎn) 線、大數(shù)據(jù)統(tǒng)計分析與概率預(yù)測、p2p資
8、源調(diào)度、資源壓縮及混沌加密編碼、無 線分布式認(rèn)證等。y6.慧眼云的技術(shù)優(yōu)勢“慧眼云”技術(shù)的主要優(yōu)勢有:1、業(yè)務(wù)層與支撐層分離的架構(gòu)設(shè)計,保持了兩層z間的相對獨立性,業(yè)務(wù) 層的虛擬機出現(xiàn)問題不會影響到支撐層,從而保障云平臺的安全性。2、業(yè)務(wù)層的軟件自修復(fù)功能,可以在虛擬機出現(xiàn)故障甚至崩潰的情況下快 速自動還原,保持業(yè)務(wù)連續(xù)性的同時也節(jié)省了人工維護的成本。3、支撐層的硬件差異被虛擬化計算掩蓋屏蔽,硬件設(shè)備的故障處理、升級 擴容不會影響業(yè)務(wù)層虛擬機的運行,保持了云平臺的兼容性和可擴展性。4、分布式存儲和虛擬結(jié)點的并行計算能夠充分利用云平臺的資源,提高性 能的同吋也降低了整體運行成本。5、支撐層真實資
9、源與業(yè)務(wù)層虛擬資源的分塊分配、過度分配的設(shè)計可充分 發(fā)揮云計算的靈活性,并且使云平臺的管理更加方便。6、支持資源透支和虛擬結(jié)點信用度擔(dān)保的機制能夠提升云平臺的潛在能力, 同吋又能有效控制安全風(fēng)險。7、大數(shù)據(jù)統(tǒng)計分析和概率預(yù)測的能力,使教育云能夠針對不同學(xué)習(xí)者,有 效提升信息轉(zhuǎn)化為知識的效率。8、gb級大數(shù)據(jù)壓縮、加密編碼技術(shù)可有效節(jié)省云平臺的存儲空間和網(wǎng)絡(luò) 帶寬,并保障數(shù)據(jù)安全。2. 慧眼云平臺設(shè)計a1總體架構(gòu)設(shè)計本平臺是分布式虛擬化計算平臺,總體架構(gòu)如下圖所示??傮w架構(gòu)的特點如下:1、采用雙層虛擬網(wǎng)絡(luò)(業(yè)務(wù)層/支撐層),業(yè)務(wù)層由虛擬機組成,支撐層主 要由真實設(shè)備組成。2、支撐層只為業(yè)務(wù)層提供
10、虛擬機運行的計算資源,不直接對外提供云計算 服務(wù)。支撐層與外部網(wǎng)絡(luò)在邏輯上隔離。3、業(yè)務(wù)層與外部網(wǎng)絡(luò)連接,外部網(wǎng)絡(luò)的智能終端能夠訪問到業(yè)務(wù)層的虛擬 機集群提供的云計算服務(wù)。4、業(yè)務(wù)層通過虛擬機提供外部接口與各種外部系統(tǒng)相連,能夠?qū)崿F(xiàn)本平臺 與外部系統(tǒng)z間的數(shù)據(jù)交換。例:外部系統(tǒng)能夠通過訪問外部接口的mysql數(shù)據(jù)庫,實現(xiàn)數(shù)據(jù)的輸入輸 出。5、支撐層能夠支持業(yè)務(wù)層虛擬機的計算資源分配、虛擬機復(fù)制與遷移,業(yè) 務(wù)層通過虛擬機集群的形式進行計算資源的重新組合。例:業(yè)務(wù)層的虛擬機web服務(wù)器能夠分布在支撐層的多個不同地點的硬件 設(shè)備上,能夠從一個設(shè)備遷移到另一設(shè)備,并且多個虛擬機web服務(wù)器可以組 成負(fù)
11、載均衡集群。a2.虛擬網(wǎng)絡(luò)分層架構(gòu)設(shè)計本平臺沿用虛擬化網(wǎng)絡(luò)雙層架構(gòu)(業(yè)務(wù)層/支撐層),如下圖所示。這種雙層架構(gòu)是使用了多年的虛擬化計算通用架構(gòu),優(yōu)點是提供服務(wù)的虛擬 機成為獨立一層,與底層的真實設(shè)備相分離,兼容性強,可以沿用已有的設(shè)備, 乂可以無縫升級到新的硬件,而虛擬機層的業(yè)務(wù)不受影響。業(yè)務(wù)層的虛擬機集群有較大的自由度,可采用virtualbox/lamp/hadoop 源方案(兼容商業(yè)性方案:vmware/windows/openstack),同時支持其他地區(qū)的 現(xiàn)有系統(tǒng)移槓到這一層的虛擬機上。對于外部網(wǎng)絡(luò)而言,各種具體技術(shù)方案沒有 區(qū)別,是作為一個整體的教育云平臺在提供服務(wù)。這個虛擬的業(yè)
12、務(wù)層對各地區(qū)現(xiàn) 有的系統(tǒng)有較強的兼容性和包容性,有利于系統(tǒng)的移植和日后的平滑升級。支撐層的硬件設(shè)備群組同樣具有伸縮性和靈活性。試驗用的pc機、獨立服 務(wù)器、刀片服務(wù)器、raid磁盤陣列、nas網(wǎng)絡(luò)存儲設(shè)備等,均可用于支撐層。 由于支撐層純?yōu)闃I(yè)務(wù)層的虛擬機提供計算資源,不參與具體的業(yè)務(wù)運行,所以從 外部網(wǎng)絡(luò)看不到支撐層。支撐層的設(shè)備升級也不會影響到業(yè)務(wù)層的虛擬機運行。a3.外部接口方案為了采集各地區(qū)系統(tǒng)的數(shù)據(jù)進行匯總、分析、統(tǒng)計,進而形成教育資源推送 和調(diào)度的參數(shù)指標(biāo),本平臺在業(yè)務(wù)層采用中央數(shù)據(jù)庫(核心)加上分布式接口數(shù) 據(jù)庫(外圍)的方案,如下圖所示。為盡量減少接口實現(xiàn)難度,本方案不使用復(fù)雜的
13、、自己定制的接口,而是采 用簡單、通用的數(shù)據(jù)庫接口,女口: mysql數(shù)據(jù)庫接口、odbc通用接口、jdbc 通用接口。中央數(shù)據(jù)庫是本平臺真正用來運作的數(shù)據(jù)庫,用途包括數(shù)學(xué)模型分析計算、 內(nèi)容推送、業(yè)務(wù)運行、統(tǒng)計報表等。各接口數(shù)據(jù)庫的交換數(shù)據(jù)經(jīng)過統(tǒng)計分析服務(wù) 器組的加工整理,以統(tǒng)一的格式進入中央數(shù)據(jù)庫。平臺運行過程中得到的數(shù)據(jù), 又會有選擇性地從中央數(shù)據(jù)庫輸岀到接口數(shù)據(jù)庫中,供外部系統(tǒng)使用。a4.支撐層架構(gòu)設(shè)計方案支撐層通過平臺內(nèi)部接口(虛擬機接口/網(wǎng)絡(luò)存儲接口),為業(yè)務(wù)層的虛擬機 運行提供各種存儲資源、計算資源和網(wǎng)絡(luò)傳輸資源。支撐層架構(gòu)如下圖所示。支撐層的主耍特點如下:1、與外部網(wǎng)絡(luò)在邏輯上
14、隔離,不直接對外提供服務(wù),只為業(yè)務(wù)層的虛擬機 運行提供各種硬件資源。2、具備硬件界構(gòu)系統(tǒng)的兼容性,能夠支持各種不同的破件設(shè)備,通過統(tǒng)一 的平臺內(nèi)部接口,向業(yè)務(wù)層的虛擬機提供硬件資源。3、通過硬件冗余備份提供容錯運行的能力,當(dāng)硬件設(shè)備發(fā)生故障時,業(yè)務(wù) 層的虛擬機能夠繼續(xù)正常運行。硬件的替換、擴容、升級不會影響業(yè)務(wù)層的正常 服務(wù)。4、支持業(yè)務(wù)層的虛擬機對硬件資源的分割、分吋使用和資源過度預(yù)分配。 資源過度預(yù)分配可以使業(yè)務(wù)層的虛擬資源總和,超過支撐層實際提供的硬件資源 之和(包括存儲空間、內(nèi)存空間、計算資源等),而本平臺仍然能夠正常運行。 而支撐層只有在必要的情況下,才需要對硬件設(shè)備進行擴容升級。例
15、:業(yè)務(wù)層虛擬機的總存儲容量為100tb,而支撐層的碩件設(shè)備實際只提供 t 50tb的存儲量。只要虛擬機實際已使用的存儲容量不超過50tb,本平臺都 能夠正常運行。當(dāng)實際己使用存儲容量達到40tb時,需要對硬件設(shè)備的存儲空 間進行擴容。a4-1.網(wǎng)絡(luò)存儲接口支撐層通常不直接向業(yè)務(wù)層的虛擬機提供數(shù)據(jù)接口,而是為虛擬機軟件本身 (例如virtualbox)提供網(wǎng)絡(luò)存儲接口,通過虛擬機軟件來存取各種虛擬機磁盤 映像(例如vdi/vmdk文件)。從而業(yè)務(wù)層的虛擬機在訪問自身磁盤的過程中, 實質(zhì)上間接使用了支撐層的網(wǎng)絡(luò)存儲功能。支撐層網(wǎng)絡(luò)存儲接口的特點如下:1、訪問接口的虛擬化。2、存儲接口的統(tǒng)一化。3、
16、分布式存儲本身的虛擬化。a4-2.虛擬機磁盤映像池支撐層的虛擬機磁盤映像池通過分布式存儲的方式,保存業(yè)務(wù)層各虛擬機的 虛擬磁盤映像。磁盤映像池提供2大類共4種磁盤映像,性能特征各不相同。4種磁盤映像包括:1、系統(tǒng)盤映像之一:只讀映像。2、系統(tǒng)盤映像之二:差分映像。3、數(shù)據(jù)盤映像之一:動態(tài)映像。4、數(shù)據(jù)盤映像之二:準(zhǔn)靜態(tài)映像。a4-3.數(shù)據(jù)存儲池業(yè)務(wù)層的虛擬機由支撐層的虛擬機磁盤映像池提供系統(tǒng)盤和數(shù)據(jù)盤,而當(dāng)多 個虛擬機需要組成集群時,就需要有各虛擬機共享數(shù)據(jù)的存儲區(qū)域,此區(qū)域由支 撐層的數(shù)據(jù)存儲池提供。數(shù)據(jù)存儲池通過網(wǎng)絡(luò)存儲接口來訪問,表現(xiàn)為虛擬機形式的nas、hadoop 分布式存儲等。數(shù)據(jù)
17、存儲池與網(wǎng)絡(luò)存儲接口都是由支撐層的硬件設(shè)備提供資源,但是都表現(xiàn) 為虛擬機的形式。此種設(shè)計可以視為:數(shù)據(jù)存儲池和網(wǎng)絡(luò)存儲接口都既處于支撐層(對于虛擬機軟件而言),又處于業(yè)務(wù)層(對于虛擬機集群而言)。a4-4.虛擬機接口虛擬機軟件是實現(xiàn)本平臺的雙層虛擬網(wǎng)絡(luò)架構(gòu)的關(guān)鍵所在。支撐層的各種碩 件設(shè)備資源(包括存儲容量、內(nèi)存空間、cpu/gpu計算資源、網(wǎng)絡(luò)帶寬等)通 過虛擬機接口統(tǒng)一分配、統(tǒng)一調(diào)度,劃分給多個虛擬機(包括業(yè)務(wù)層和支撐層) 動態(tài)使用。由于需要支持虛擬機對硬件資源的過度分配,因此會出現(xiàn)兩種層次的資源容 量:業(yè)務(wù)層的虛擬資源容量、支撐層的真實資源容量。虛擬資源容量可以大于真 實資源容量(即過度
18、分配),只要虛擬機實際使用的資源總量沒有超過真實資源 容量,雙層架構(gòu)平臺就能夠正常運行。支撐層的真實設(shè)備資源以一塊塊的形式提供給業(yè)務(wù)層,業(yè)務(wù)層的虛擬機同樣 一塊塊地分配使用虛擬資源。但虛擬資源塊并不等同于真實資源塊,而是重新打 包組裝的,從而能夠支持過度分配。例:真實設(shè)備提供虛擬的iscsi設(shè)備,每個存儲分區(qū)即1個真實資源塊是 18gbo而1臺虛擬機即1套虛擬資源塊可能包括2個cpu核、256mb內(nèi)存和 72gb的系統(tǒng)磁盤空間。a4-5.計算資源池計算資源池整合了支撐層的cpu、gpu等硬件計算資源,為業(yè)務(wù)層的虛擬 機提供分布式并行計算的能力。通過各種開放的標(biāo)準(zhǔn)接口,虛擬機能夠獲取所需 要的資
19、源進行計算(特別是高密集度的統(tǒng)計分析計算)。例:使用mapreduce分布式并行計算方式,對教育研究的數(shù)學(xué)模型進行大 數(shù)據(jù)量的統(tǒng)計分析計算,并且利用gpu硬件并行計算加速來縮短運算時間。a4-6.虛擬網(wǎng)絡(luò)拓?fù)浣M織支撐層的虛擬網(wǎng)絡(luò)拓?fù)浣M織,為業(yè)務(wù)層的虛擬機提供網(wǎng)絡(luò)拓?fù)渎酚?、帶寬資 源分配、線路冗余備份、網(wǎng)絡(luò)安全防護等功能。根據(jù)實際需要,可以虛擬出防火 墻、路由器、交換機、代理服務(wù)器、堡壘機、蜜罐等設(shè)備。虛擬機監(jiān)控管理平臺 可以對虛擬網(wǎng)絡(luò)拓?fù)浣M織進行實時監(jiān)控和調(diào)整。a5.業(yè)務(wù)層架構(gòu)設(shè)計方案本平臺的總體架構(gòu)中,虛擬化網(wǎng)絡(luò)分成了業(yè)務(wù)層、支撐層兩個層次。業(yè)務(wù)層 用虛擬機集群來實現(xiàn),可以做到硬件資源的靈活
20、配置和調(diào)整。具體的業(yè)務(wù)層應(yīng)用 可根據(jù)各地區(qū)的實際情況來制訂個性化方案,保障平臺的兼容性、包容性。而屮 央數(shù)據(jù)庫則可以避免各系統(tǒng)的數(shù)據(jù)分割,使整個平臺的信息數(shù)據(jù)能夠統(tǒng)一起來。本平臺的一種典型虛擬化應(yīng)用方案如下圖所示。a5業(yè)務(wù)層(虛擬機層)群53數(shù)據(jù)庫服務(wù)器集a54>.虛擬機監(jiān)控管理平臺a5-5存儲服務(wù)磚集群例:danvin分布式流媒體例:mysol份布式妳庫例:hadoop分布式存儲例:openstack云平臺管理web服務(wù)器集群:采用apache負(fù)載均衡方式; 應(yīng)用服務(wù)器集群:采用mapreduce并行計算方式; 數(shù)據(jù)庫服務(wù)器集群:采用mysql分布式數(shù)據(jù)庫方式; 流媒體服務(wù)器集群:采用
21、darwin分布式流媒體方式; 虛擬機監(jiān)控管理平臺:采用opensuick云平臺管理方式; 存儲服務(wù)器集群:采用hadoop分布存儲方式。以上設(shè)計可以全部基于開源軟件的方案,虛擬機軟件采用oracle的開源軟 件virtualboxo在此平臺設(shè)計的基礎(chǔ)上,采用自主開發(fā)的軟件。目前正在開發(fā)和 使用的軟件包括:用c語言編寫的虛擬機自動監(jiān)護和軟件自修復(fù)系統(tǒng);用php腳本、c語言編寫的信息管理系統(tǒng)和內(nèi)容發(fā)布系統(tǒng);用c語言編寫的軟件自動生產(chǎn)線系統(tǒng);用java語言編寫的mapreduce并行計算系統(tǒng)(可用于統(tǒng)計分析);用c語言編寫的大數(shù)據(jù)統(tǒng)計分析與概率預(yù)測軟件(可用于資源質(zhì)量評估); 用c語言編寫的資源壓
22、縮及混沌加密軟件;用c語言編寫的p2p網(wǎng)絡(luò)資源緩存和調(diào)度軟件; 用c語言編寫的無線分布式安全認(rèn)證系統(tǒng),等等。此外,本平臺還支持各地區(qū)現(xiàn)有不同系統(tǒng)的升級移植,把各種應(yīng)用整合到統(tǒng) 一的平臺。最簡單的應(yīng)用移植方案:直接把各地區(qū)的現(xiàn)有系統(tǒng)安裝、遷移到業(yè)務(wù)層的虛 擬機中,使系統(tǒng)繼續(xù)運行。也就是將原來的各種外部系統(tǒng)虛擬化,在本平臺中運 行。升級改造方案:1、建設(shè)統(tǒng)一的門戶入口,把各種虛擬系統(tǒng)整合起來。2、采用分布式存儲方式,把各種教育資源逐步整合到木平臺中,達到局部 的數(shù)據(jù)兀余備份、負(fù)載均衡的效果。3、進一步開發(fā)部署教育資源緩存和調(diào)度系統(tǒng),實現(xiàn)全局性的分散存儲和性 能優(yōu)化的目標(biāo)。a5-1. web服務(wù)器集
23、群業(yè)務(wù)層的虛擬機web服務(wù)器集群可采用apache的負(fù)載均衡集群,使來自外 部網(wǎng)絡(luò)的web服務(wù)任務(wù)能夠均勻分散到各個apache web服務(wù)辭上,從而達到整 個平臺的高負(fù)荷能力。此虛擬機集群的主耍設(shè)計特點如下:1、整個平臺可以有多個web服務(wù)器集群,集群中可以動態(tài)地添加、減少、 遷移虛擬機服務(wù)器。2、每個web集群以盡量平均的方式把web請求轉(zhuǎn)發(fā)給服務(wù)器,從而達到負(fù) 載均衡的目的。3某臺服務(wù)器出現(xiàn)故障,另一臺就會自動頂上,而出現(xiàn)故障的虛擬機會自動 重啟,恢復(fù)正常。4、虛擬機集群中的各web服務(wù)器通過支撐層的網(wǎng)絡(luò)存儲接口訪問共享的 web資源數(shù)據(jù),而各種web資源則分散存儲在hadoop之類的分
24、布式存儲集群中。a5-2.應(yīng)用服務(wù)器集群業(yè)務(wù)層的虛擬機應(yīng)用服務(wù)器集群根據(jù)實際業(yè)務(wù)的需要,可以采用-般的通用 型服務(wù)器,也可以是有特定功能的服務(wù)器集群,例如mapreduce分布式并行計 算集群、opencl/openmp硬件加速運算集群等。mapreduce是一種分布式的并行計算模型,通過map和reduce操作進行計 算任務(wù)的分發(fā)和結(jié)果整合,適用于大規(guī)模數(shù)據(jù)集的并行計算任務(wù)。支撐層通過 hdfs接口向mapreduce集群提供hadoop分布式數(shù)據(jù)存儲。進行教育研究的數(shù) 學(xué)模型統(tǒng)計分析時,合理設(shè)計的mapreduce算法可以大幅提高平臺的運算性能。同樣處于業(yè)務(wù)層的web服務(wù)器集群、數(shù)據(jù)庫服務(wù)
25、器集群都與應(yīng)用服務(wù)器集 群有關(guān)聯(lián),并且作用不同:web服務(wù)器集群負(fù)責(zé)發(fā)布內(nèi)容、展示界面、接受反饋 信息,數(shù)據(jù)庫服務(wù)器集群負(fù)責(zé)提供數(shù)據(jù)記錄存儲和檢索,應(yīng)用服務(wù)器則提供必要 的運算資源。a5-3.數(shù)據(jù)庫服務(wù)器集群業(yè)務(wù)層的虛擬機數(shù)據(jù)庫集群可采用mysql數(shù)據(jù)庫負(fù)載均衡集群,由多個虛 擬機充當(dāng)數(shù)據(jù)庫服務(wù)器,而數(shù)據(jù)庫記錄則通過支撐層提供的網(wǎng)絡(luò)存儲接口,保存 在分布式存儲集群中。用于數(shù)據(jù)庫的存儲性能要求隨機數(shù)據(jù)訪問的加速,以及大量小塊數(shù)據(jù)存取的 低延遲,因此需要用虛擬服務(wù)器自身緩存來降低hadoop分布式存儲的訪問延吋, 或者直接使用raid類型的iscsi真實設(shè)備。a5-4.流媒體服務(wù)器集群業(yè)務(wù)層的虛擬
26、機流媒體服務(wù)器集群可采用darwin流媒體服務(wù)器,再通過支 持bittorrent協(xié)議的p2p數(shù)據(jù)共享軟件構(gòu)建成分布式流媒體服務(wù)器集群。由于咅頻、視頻等流媒體數(shù)據(jù)在網(wǎng)絡(luò)的傳輸量大,因此不能完全依賴支撐層 提供的分布式存儲來保障業(yè)務(wù)層的性能,而需要把流媒體服務(wù)器在各地區(qū)分散部 署,按照就近原則向外部網(wǎng)絡(luò)的終端提供多媒體信息。同時,用p2p數(shù)據(jù)共享軟 件實現(xiàn)服務(wù)器z間的多媒體資源調(diào)度。a5-5.存儲服務(wù)器集群業(yè)務(wù)層的存儲服務(wù)器集群也是由虛擬機組成,并且向同處于業(yè)務(wù)層的其他虛 擬機服務(wù)器集群提供共享存儲服務(wù)。但是存儲服務(wù)器相比其他虛擬機與支撐層的 硬件設(shè)備的聯(lián)系更為緊密,可以說本平臺的存儲部分是業(yè)務(wù)
27、層與支撐層共有的部 分。在業(yè)務(wù)層,存儲服務(wù)器的虛擬機集群可以采用hadoop分布式存儲集群,而 在支撐層則可以采用各種真實存儲設(shè)備,包扌舌raid磁盤陣列、nas、iscsi設(shè) 備、普通x86計算機等。hadoop分布式存儲的冗余備份機制能夠避免真實設(shè)備 的硬件故障影響到業(yè)務(wù)層的數(shù)據(jù)可靠性。虛擬化的分布式存儲有如下特點:1、虛擬存儲結(jié)點與真實存儲設(shè)備之間,可以同時存在多種映射關(guān)系,包括 一對一、一對多、多對一映射。2、支持業(yè)務(wù)層的存儲空間過度分配,即已經(jīng)分配出去的虛擬存儲總空間超 過支撐層真實存儲設(shè)備空間的總和。3、本平臺存儲資源管理的特點:支持存儲空間透支、償還。4、通過統(tǒng)一的網(wǎng)絡(luò)存儲接口,
28、同時提供存儲空間給業(yè)務(wù)層的虛擬機集群和 支撐層的虛擬機軟件本身。a5-6.虛擬機監(jiān)控管理平臺虛擬機監(jiān)控管理平臺主要在業(yè)務(wù)層運作,作用包括監(jiān)控和管理各虛擬機的性 能、運行狀況、資源分配,以及在發(fā)現(xiàn)故障時自動進行系統(tǒng)還原、重啟。對于無 法進行軟件自修復(fù)的硬件故障發(fā)出告警,以及在硬件資源差不多用盡之前自動發(fā) 岀提示,要求升級擴容。虛擬機監(jiān)控管理平臺可以采用openstack云平臺,配合開源的虛擬機軟件, 還可以加入自主開發(fā)的自動監(jiān)控和軟件自修復(fù)工具。本平臺的虛擬機監(jiān)控管理特 點如下:1、能夠?qū)崟r監(jiān)控管理業(yè)務(wù)層的虛擬機運行狀況和資源占用情況。2、支持虛擬機的快速還原。3、支持業(yè)務(wù)層的軟件自修復(fù)。3.
29、無線智慧校園應(yīng)用方案w1.方案概述本方案主要針對中小學(xué)基礎(chǔ)教育的信息化建設(shè)而設(shè)計,類似于olpc (one laptop per child,每個孩子一臺筆記本電腦)組織在2005年提出的100美元廉 價便攜式電腦開發(fā)計劃。相比而言,本方案更有優(yōu)勢之處在于采用了現(xiàn)有的新技 術(shù),支持平板電腦觸摸屏、wifi無線組網(wǎng)、虛擬機云計算、遠程桌而等功能, 以此建立普及型無線電子課堂,提高中小學(xué)的信息化教育水平。同吋,順應(yīng)移動 互聯(lián)網(wǎng)的發(fā)展趨勢,支持大屏幕智能手機通過wifi、3g等多種網(wǎng)絡(luò)登錄無線電 子課堂,也支持普通計算機通過互聯(lián)網(wǎng)登錄,從而使電子課堂的范圍得到更大的 延伸。經(jīng)濟適用,使盡量多的中小學(xué)
30、校、青少年學(xué)生家庭和有學(xué)習(xí)需求的普通民眾 能夠負(fù)擔(dān)得起,是本方案的基本要求。與此同時,方案在質(zhì)量保障方面也有相當(dāng) 的要求,要保證無線電子課堂的可用性。本方案在建設(shè)實施完成之后,預(yù)期能夠達到的理想效果包括:1、建設(shè)成木:包括無線網(wǎng)絡(luò)、云服務(wù)器的軟硬件投入應(yīng)顯著低于當(dāng)前國外 的商業(yè)化云計算系統(tǒng),成本控制到大部分的普通中小學(xué)校能夠建設(shè)至少一個30 人的無線電子教室。2、維護人員水平:盡可能降低維護人員的技術(shù)水平要求,接近于零維護, 即:用戶無須維護,開機即用,出現(xiàn)碩件故障時直接替換設(shè)備即可,所有維護工 作(除了日常環(huán)境清潔)均由本方案供應(yīng)商客服人員提供。盡量使不具備技術(shù)力 量的學(xué)校也可以正常使用無線
31、電子課堂。3、系統(tǒng)運行的安全可靠性:盡量降低故障率,尤其是服務(wù)器和網(wǎng)絡(luò)設(shè)備的 可用率應(yīng)該不低于一般公司日常辦公自動化系統(tǒng)的水平;盡量提高系統(tǒng)安全性, 有安全防護措施阻止入侵攻擊和病毒感染,當(dāng)系統(tǒng)崩潰或感染病毒吋能夠迅速還 原系統(tǒng);服務(wù)器數(shù)據(jù)能夠自動定期備份,可以方便地恢復(fù)或復(fù)制到另一服務(wù)器上; 碩件設(shè)備耍有良好的兼容性和可替換性,發(fā)生故障時能夠方便、快速、低成本地 獲得備件。4、系統(tǒng)運行性能和帶寬保障:服務(wù)器性能應(yīng)保障30人的正常訪問可以基本 上流暢。而無線網(wǎng)絡(luò)中,需要考慮到多人共享的網(wǎng)絡(luò)帶寬、信道干擾問題,避免 網(wǎng)絡(luò)成為系統(tǒng)應(yīng)用的瓶頸。這同時取決于底層系統(tǒng)設(shè)計和上層應(yīng)用系統(tǒng)(包括流 媒體)的
32、數(shù)據(jù)傳輸方式。5、應(yīng)用系統(tǒng)的跨平臺兼容性:智能終端包括臺式機、筆記本、平板電腦、 智能手機等,采用的系統(tǒng)包括linuxx android微軟windows蘋果ios等,本 方案需要同時支持多種不同系統(tǒng)對資源的訪問,避免類似于windows系統(tǒng)能訪 問,而android系統(tǒng)不能訪問的情況。6、軟件升級的復(fù)雜度:系統(tǒng)補丁、應(yīng)用系統(tǒng)升級要盡量簡單,降低對用戶 的技術(shù)水平耍求。尤其是其中無線終端的學(xué)生用戶,在本方案的應(yīng)用系統(tǒng)升級時 候無須更改無線終端的軟件和數(shù)據(jù)。w2.方案設(shè)計w2-1.網(wǎng)絡(luò)架構(gòu)設(shè)計本方案采用智能終端訪問遠程桌面的方式,通過wifi局域網(wǎng)或外部網(wǎng)絡(luò)登 錄內(nèi)部云平臺上的虛擬機。無線智慧校
33、園的網(wǎng)絡(luò)架構(gòu)如下圖所示。無線智慧校園由多個無線路由器組建wifi局域網(wǎng),至少1臺內(nèi)部云服務(wù)器 通過千兆網(wǎng)卡進行局域網(wǎng)的有線連接。每臺云服務(wù)器可同時支持:1、web瀏覽器訪問b/s架構(gòu)的web信息應(yīng)用系統(tǒng);2、學(xué)生平板電腦使用云平臺系統(tǒng)屮的虛擬機遠程桌面;3、智能終端媒體播放器訪問音視頻流媒體,其流暢程度取決于網(wǎng)絡(luò)帶寬。電子教室之外,通過防火墻接入外部網(wǎng)絡(luò),允許平板電腦、大屏幕智能手機、 上網(wǎng)本、筆記本、臺式機等各種有線、無線智能終端遠程登錄到內(nèi)部云平臺。容 許遠程登錄的連接數(shù)量取決于內(nèi)部云平臺的性能。遠程桌面支持的典型分辨率:640x480x16位彩色,或720x480x16位彩 色,此設(shè)置在
34、800x480的大屏幕智能手機上也能止常顯示。如果是平板電腦pad 或者筆記本電腦,可以使用1024x768x16位彩色或更高的分辨率。w2-2.基礎(chǔ)平臺設(shè)計本方案的基礎(chǔ)平臺采用云計算的虛擬化雙層網(wǎng)絡(luò)架構(gòu),分為上下兩層:下層 是支撐層(真實設(shè)備層),上層是業(yè)務(wù)層(虛擬機層)。支撐層采用至少1臺服務(wù)器來為業(yè)務(wù)層提供運行支持,并且能夠通過增加服 務(wù)器設(shè)備,實現(xiàn)平臺的平滑升級。軟件方面,采用開源虛擬機軟件,可兼容 windows和linux操作系統(tǒng)。智能手機、平板電腦、筆記木等無線終端的遠程桌 面、流媒體播放及web信息系統(tǒng)可兼容android> ios、windows和linux系統(tǒng)。業(yè)務(wù)層
35、的虛擬機安裝window或linux系統(tǒng)及相關(guān)軟件,為電子課堂的學(xué)生 平板電腦等智能終端提供各種教學(xué)資源服務(wù)。基礎(chǔ)平臺架構(gòu)的特點如下:1、采用雙層虛擬網(wǎng)絡(luò)(業(yè)務(wù)層/支撐層),業(yè)務(wù)層由虛擬機組成,支撐層主 要由真實設(shè)備組成。2、支撐層只為業(yè)務(wù)層提供虛擬機運行的計算資源,不直接對外提供云計算 服務(wù)。支撐層與外部網(wǎng)絡(luò)在邏輯上隔離。3、業(yè)務(wù)層與外部網(wǎng)絡(luò)連接,外部網(wǎng)絡(luò)的智能終端能夠訪問到業(yè)務(wù)層的虛擬 機提供的云計算服務(wù)。4、支撐層能夠支持業(yè)務(wù)層虛擬機的計算資源分配、虛擬機復(fù)制與遷移?;A(chǔ)平臺的虛擬化雙層網(wǎng)絡(luò)架構(gòu)設(shè)計如下圖所示。智能終端遠程桌而客戶端w2-3.應(yīng)用系統(tǒng)設(shè)計無線智慧校園的應(yīng)用系統(tǒng)采用遠程桌面
36、訪問模式。應(yīng)用系統(tǒng)包括服務(wù)器部分 和智能終端部分。服務(wù)器部分的應(yīng)用系統(tǒng)主要部署在業(yè)務(wù)層的多個虛擬機上。虛擬服務(wù)器安裝 linux系統(tǒng),并根據(jù)服務(wù)角色選擇安裝開源軟件web服務(wù)器、數(shù)據(jù)庫服務(wù)器、流 媒體服務(wù)器等,為智能終端提供網(wǎng)頁、圖片、音頻、視頻等各種教學(xué)資源服務(wù)。為了使云平臺的資源能夠支持windows> android> ios等各種不同的智能 終端系統(tǒng)的訪問,本方案的web服務(wù)器避免釆用.net等專屬框架,而采用兼容性 更好的開源系統(tǒng)框架;流媒體服務(wù)器也避免采用real. flash等專用格式,而采 用h.264標(biāo)準(zhǔn)的新一代通用格式。同時,為了兼容現(xiàn)有的專用格式資源,例如 w
37、ord、ppt、flash、real等,使用遠程桌面虛擬機來訪問。智能終端部分則是利用臺式機、筆記木、學(xué)牛平板電腦、智能手機及其他終 端上自帶的web瀏覽器和媒體播放器,直接訪問云平臺上的web頁面、視頻、 音頻等通用型資源。如果是格式無法訪問的專用型資源,則在智能終端上安裝遠 程桌面客戶端,從而可通過智能終端遠程登錄到業(yè)務(wù)層的虛擬客戶機遠程桌面, 進而操縱虛擬客戶機來訪問專用資源,解決兼容性問題。如果智能終端安裝的是 windows類操作系統(tǒng),則本身自帶windows遠程桌面客戶端;如果是android或ios操作系統(tǒng),則可以下載安裝windows遠程桌面客戶端的android版。 應(yīng)用系統(tǒng)
38、的遠程桌面訪問模式設(shè)計如下圖所示。w2-4.系統(tǒng)安全設(shè)計本方案的無線智慧校園需要保障系統(tǒng)的信息安全,主要包括三個方面的設(shè) 計:數(shù)據(jù)的可靠存儲、數(shù)據(jù)存儲和傳輸?shù)陌踩C?、系統(tǒng)防崩潰和防入侵保護。1、數(shù)據(jù)的可靠存儲在支撐層的云平臺服務(wù)器采用raid 1鏡像磁盤陣列保障數(shù)據(jù)不會丟失。當(dāng) 平臺升級到雙機備份服務(wù)器時,在兩個服務(wù)器分別安裝部署iscsi接口,充當(dāng)網(wǎng) 絡(luò)鏡像備份存儲設(shè)備。當(dāng)升級到3臺以上服務(wù)器時,可采用分布式存儲,對業(yè)務(wù) 層提供的iscsi網(wǎng)絡(luò)接口保持不變,因此上層的虛擬機無須變化,從而實現(xiàn)平滑 升級??梢杂羞x擇性地釆用usb接口移動硬盤充當(dāng)云平臺服務(wù)器的數(shù)據(jù)備份設(shè) 備,在服務(wù)器的中設(shè)立計
39、劃任務(wù),對各個虛擬機磁盤映像文件進行定期自動備份。即使服務(wù)器的磁盤陣列岀現(xiàn)嚴(yán)重故障導(dǎo)致數(shù)據(jù)丟失,仍然可以從移動碩盤恢復(fù)數(shù) 據(jù)。同吋,移動硬盤也可用于業(yè)務(wù)層的虛擬機大規(guī)模遷移。2、數(shù)據(jù)存儲和傳輸?shù)陌踩C軘?shù)據(jù)存儲的安全保密方面,在業(yè)務(wù)層的虛擬機中采用linux aes加密文件系 統(tǒng),對所有存放到虛擬機數(shù)據(jù)盤映像的信息進行透明加密。即使黑客能夠拷貝到 數(shù)據(jù)盤映像,沒有密碼也無法破解里面的內(nèi)容。數(shù)據(jù)傳輸安全方面,淘汰ftp、telnet等不安全的傳輸方式,改用ssh加密 傳輸方式。在各虛擬客戶機安裝部署ssh客戶端,在虛擬服務(wù)器安裝部署 openssh軟件。本方案提供定制開發(fā)的ssh服務(wù)器端和客戶端
40、安裝軟件,能夠 方便地在各虛擬機上進行ssh安裝部署。3、系統(tǒng)防崩潰和防入侵保護本方案采用虛擬化雙層網(wǎng)絡(luò)架構(gòu)之后,支撐層與業(yè)務(wù)層的故障被分離開來。 支撐層的硬件設(shè)備發(fā)生故障吋,由于有數(shù)據(jù)存儲的安全保障而不會影響到業(yè)務(wù)層 的虛擬機;而業(yè)務(wù)層的虛擬機發(fā)生故障時,又不會影響到支撐層的破件系統(tǒng)。在業(yè)務(wù)層系統(tǒng)的防崩潰和防入侵方面,采用軟件自我還原技術(shù),當(dāng)業(yè)務(wù)層的 虛擬機發(fā)生系統(tǒng)崩潰、病毒木馬入侵等嚴(yán)重情況時,只須簡單地重啟系統(tǒng),就能 夠瞬間還原系統(tǒng),猶如安裝了硬盤保護卡。而且系統(tǒng)還原不會導(dǎo)致用戶數(shù)據(jù)丟失。在軟件自我還原技術(shù)的基礎(chǔ)上,本方案還可以升級為軟件自修復(fù)技術(shù):通過 部署自主開發(fā)的虛擬機自動監(jiān)護軟件
41、,可以及時檢測到虛擬機故障,并瞬間還原 系統(tǒng),從而使業(yè)務(wù)層虛擬機系統(tǒng)具備無人值守環(huán)境下的軟件自修復(fù)能力。無人值守的業(yè)務(wù)層虛擬機軟件自修復(fù)功能如下圖所示。實時監(jiān)控!/”/i.發(fā)現(xiàn)無法訪問虛擬機白動監(jiān)護軟件/ a業(yè)務(wù)層(虛擬機層w3.方案優(yōu)勢分析本方案的技術(shù)優(yōu)勢來源于針對無線智慧校園各項耍求的設(shè)計策略,包括如下 要點:1、建設(shè)成木:硬件方面,采用成熟、通用性強的計算機硬件設(shè)備,在云平 臺服務(wù)器關(guān)鍵性能滿足耍求的前提下,有效控制硬件成本。軟件方面,以開源軟 件為基礎(chǔ),以降低軟件成本;部分功能開源軟件實現(xiàn)不了的,采用自主研發(fā)的核 心程序。2、維護人員水平:本方案的虛擬化雙層網(wǎng)絡(luò)架構(gòu)設(shè)計,把支撐層與業(yè)務(wù)
42、層 的故障隔離開,互不影響,故障點易于更新替換;業(yè)務(wù)層的軟件自我還原、軟件 自修復(fù)技術(shù),使虛擬機故障能夠自動恢復(fù),無須人工干預(yù);定期自動備份的功能, 可保障用戶數(shù)據(jù)的安全。這些設(shè)計使整個系統(tǒng)平臺對日常維護人員的技術(shù)要求, 降至只需耍懂得重啟系統(tǒng)的程度,有利于無線智慧校園在廣大中小學(xué)校的普及。3、系統(tǒng)安全可靠性:本方案的虛擬機aes加密文件系統(tǒng)、ssh加密傳輸設(shè) 計,可以確保數(shù)據(jù)的安全保密;云平臺服務(wù)器的raid磁盤陣列、iscsi接口分 布式存儲、usb移動硬盤備份等設(shè)計,使系統(tǒng)的可靠性向企業(yè)信息化系統(tǒng)看齊。4、系統(tǒng)性能保障:云計算平臺的設(shè)計,使計算資源可以動態(tài)分配,并可平 滑升級,保障虛擬機
43、系統(tǒng)的性能。5、系統(tǒng)升級的復(fù)雜度:本方案采用虛擬化雙層網(wǎng)絡(luò)架構(gòu)設(shè)計,支撐層與業(yè) 務(wù)層相對獨立,能夠做到各自的升級擴容互不影響,降低了系統(tǒng)升級的復(fù)雜度。 而虛擬機磁盤映像具備的備份、還原能力,使升級失敗的情況下能夠快速還原, 升級成功之后乂可迅速復(fù)制到其他電子教室,提高了升級的安全性和方便性。虛 擬機遠程桌面的設(shè)計,使軟件升級只需要在云平臺服務(wù)器上進行,無須下載安裝 到平板電腦等智能終端,大大降低了升級的工作量和帶寬、時間消耗。6、故障處理的難度:發(fā)生軟件故障時,通過軟件自修復(fù)功能或者簡單的人 工重啟操作即可恢復(fù);發(fā)生碩件故障時,本方案選擇的通用硬件設(shè)備保障了設(shè)備 的可替換性,使備件能夠方便、低成本地獲得,大大降低了故障處理的難度。4. 云計算平臺配置vi.云平臺分布式節(jié)點機vl-1. oakcloudnode 基礎(chǔ)
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 培訓(xùn)班開講介紹
- 電話銷售個人工作總結(jié)模版
- 第三課時《認(rèn)識銳角和鈍角》教學(xué)設(shè)計
- 脈管炎的臨床護理
- 非性病性梅毒的臨床護理
- 采購員試用期工作總結(jié)
- 消防安全培訓(xùn)動態(tài)
- 浴室消防安全試題及答案
- 幼兒園教師基本功考試試題及答案
- 英語b和計算機考試試題及答案
- 《健康評估技術(shù)》課件-糖尿病評估
- 安全負(fù)責(zé)人崗位競聘
- 《消防安全操作規(guī)程》
- 冰敷在臨床工作應(yīng)用
- T-GXAS 689-2024 重大基礎(chǔ)設(shè)施項目涉及風(fēng)景名勝區(qū)選址論證報告編制技術(shù)規(guī)范
- 【MOOC】全新版大學(xué)進階英語綜合教程I-內(nèi)蒙古大學(xué) 中國大學(xué)慕課MOOC答案
- 2024下半年四川省中江縣事業(yè)單位招聘30人歷年管理單位遴選500模擬題附帶答案詳解
- 信貸準(zhǔn)入資格考試練習(xí)測試題附答案
- 中國農(nóng)業(yè)發(fā)展史
- 2024年山東省德州市中考地理試題卷
- T∕CACE 0118-2024 改性磷石膏混合料道路穩(wěn)定基層應(yīng)用技術(shù)規(guī)程
評論
0/150
提交評論