詳解新型云計算服務器的設計與實現(xiàn)1

1、詳解新型云計算服務器的設計與實現(xiàn)(1)新型云計算服務器關注的是高性能吞吐量計算能力，關注在一段時間內(nèi)的工作最總和。因此，新型云計算服務器在架構(gòu)上和傳統(tǒng)的服務器有著很大的區(qū)別。在傳統(tǒng)服務器中，均包含處理器摸塊、存儲模塊、網(wǎng)絡模塊、電源、風扇等設備。AD： 1、概述云計算是一種全新的計算模式，其核心驅(qū)動力是:企業(yè)或個人不再需要在電腦中安裝大量應用軟件，而是通過Web瀏覽器接入到一種大范圍的、按需定制的服務中，即“云服務”。它將使用戶體驗發(fā)生根本性的變化。傳統(tǒng)的服務器主要面向科學計算，通過提高CPU的時鐘頻率、指令集并行度、核數(shù)等來提高服務器的性能。Intel/AMD/IBM等公司的服務器產(chǎn)品均過分

2、迫求性能，忽視了產(chǎn)品的功耗、體積、成本等能效因素，結(jié)果導致服務器能效較低，同時造成了服務器體積大、功耗高等問題。云計算則以商業(yè)計算為主，它并不注重數(shù)學運算的性能，而需要解決大量邏輯運算和多用戶同時請求的問題。因此，必須采用全新的思路來設計云服務器系統(tǒng)結(jié)構(gòu)。本文分析了新型云計算服務器的系統(tǒng)結(jié)構(gòu)，設計并實理了一個ICCS-PW新型云計算服務器。2、新型云計算服務器系統(tǒng)結(jié)構(gòu)新型云計算服務器關注的是高性能吞吐量計算能力，關注在一段時間內(nèi)的工作最總和。因此，新型云計算服務器在架構(gòu)上和傳統(tǒng)的服務器有著很大的區(qū)別。在傳統(tǒng)服務器中，均包含處理器摸塊、存儲模塊、網(wǎng)絡模塊、電源、風扇等設備。新型云服務器體系架構(gòu)按

3、照功能校塊劃分成云處理器模塊、網(wǎng)絡處理模塊、存儲處理模塊與系統(tǒng)件理模塊等，它們通過引入緊耦合高速互連網(wǎng)絡來提供完成網(wǎng)絡模塊和存儲模塊的硬件虛擬化。新型云計算服務器模型如圖1所示。相比傳統(tǒng)服務器架構(gòu)，新型云計算服務器大大提高了其利用率，同時也在系統(tǒng)中省去了很多重復的硬件很據(jù)云計算服務的特點，采用多個云處理器完成系統(tǒng)設計，并引入低功耗管理理念完成對系統(tǒng)的集中冗余管理。新型云服務器將計算、存儲、交換、管理等集成到個標準系統(tǒng)中，與外界的網(wǎng)絡設備、存儲設備間的接口和通用架構(gòu)保待一致，操作系統(tǒng)主要支持Linux，以便用戶應用軟件的移植。3、新型云計算服務器關鍵技術(shù) 3.1云處理器本文設計的新型云處理器關注

4、的是高性能吞吐量計算。高性能吞吐量計算是指把高端的單線程性能與多核多線程聯(lián)系起來，關注一段時間工作量總和，而不是看單個核或單線程在某個Benchmark上運行后的性能指數(shù)和結(jié)果。云服務器一般包括線程、核、處理器、網(wǎng)絡、加速器等功能單元全部計算的總和。因此，云計算一般都有著龐大的數(shù)據(jù)輸入量或海量的工作集，導致占用很多內(nèi)存，但訪問方式卻缺乏空間局部性，從而使現(xiàn)有的多級cache內(nèi)存架構(gòu)失效率大大提高。由于在實際情況下，很多服務器通過數(shù)以百計的雙面內(nèi)置的內(nèi)存模型來驅(qū)動大量數(shù)據(jù)，使得內(nèi)存不可避免地遠離處理器，令處理器有可能很多時間花在等待遠處內(nèi)存的數(shù)據(jù)或指令的獲取。同時，云處理的中斷比較多，必須要處理

5、好CPU計算和數(shù)據(jù)存取之間的關系。本文的云處理器采用以下技術(shù):(1)硬件多線程技術(shù)硬件多線程技術(shù)即在一個核中實現(xiàn)了多個硬件線程，通過多組寄存器存取各個線程的狀態(tài)，來達到硬件線程之間的正確與零消耗地切換。這些線程對于上層操作系統(tǒng)或者軟件是透明，可以直接認為底層是具有多個核的架構(gòu)，然后完全按照多核處理器那般調(diào)度和分配。(2)硬件探測技術(shù)高性能吞吐量計算主要還得克服“內(nèi)存墻問題”，即如何讓L1 cache訪問失效時，讀取L2 cache或者主存所致的延遲控制在可容忍的范圍內(nèi)。在傳統(tǒng)處理器中，大多數(shù)程序都是最大程度地利用cache空間和時間來容忍主存的延遲。云處理器設計了新型的非阻塞cache，這種c

6、ache能夠在失效的情況下不全部鎖定cahce，讓加載數(shù)據(jù)可以繼續(xù)運行。(3)網(wǎng)絡處理技術(shù)云處理器內(nèi)嵌了網(wǎng)絡協(xié)處理器。它實現(xiàn)智能路由轉(zhuǎn)發(fā)器功能，將最常見也是最耗費時間的TCP包剪切與URL地址解析進行硬件處理，大幅度提高云服務器性能與速度。云處理器經(jīng)過了特別設計與優(yōu)化，針對網(wǎng)絡應用程序逐位處理的特性，加入如柱式移位器等專用于網(wǎng)絡處理的硬件單元。協(xié)處理器與內(nèi)存單元之間一般使用支持資料組交互作用的總線，并連接雙端口的RAM，緩沖來自總線的網(wǎng)絡數(shù)據(jù)包。3.2網(wǎng)絡拓撲結(jié)構(gòu)為了提高新型云計算服務器中多處理器之間數(shù)據(jù)交換的效率，提升性能，本文采用多維互聯(lián)網(wǎng)絡。多維互聯(lián)網(wǎng)絡具有大容量、易擴展以及高可靠性等特

7、點。為了達到這些特點，需要在交換核心部件交換結(jié)構(gòu)方面有所突破。多維互聯(lián)網(wǎng)絡最先應用于并行計算和多處理器技術(shù)，相對于多處理器系統(tǒng)的應用，數(shù)據(jù)交換中對吞吐量的要求更高，需要有業(yè)務質(zhì)量保證，但對分組時延要求不高，多維互聯(lián)結(jié)構(gòu)具有巨大的交換容量以及高度的可擴展性和魯棒性，這些特點恰好滿足了大容量交換網(wǎng)絡對容量、可擴展性和可靠性方面的要求，多維互聯(lián)結(jié)構(gòu)具有很高的并行處理特性和很好的可擴展性。新型云計算服務器采用3D-torus結(jié)構(gòu)網(wǎng)絡拓撲、蟲孔路由并結(jié)合虛通道技術(shù)的交換網(wǎng)絡的節(jié)點結(jié)構(gòu)，它可以實現(xiàn)維序路由算法和對節(jié)點資源進行合理的調(diào)度。3D-torus網(wǎng)絡拓撲示意圖如圖2所示。在該結(jié)構(gòu)框架下，節(jié)點被劃分成

8、數(shù)據(jù)平面和控制平面2個部分，分別處理數(shù)據(jù)信號和控制信號，這使節(jié)點的結(jié)構(gòu)更加清晰，功能更加明確。本文利用3D-tons實現(xiàn)的云服務器具有高帶寬、低時延的特點，能很好地滿足云計算多用戶高吞吐量訪問的特點。3.3負載均衡由于云計算需求的不斷增長，需要具備提供大量并發(fā)訪問服務的能力。如果簡單的提高單機系統(tǒng)的硬件性能并不能真正解決這個問題，因為在把單機系統(tǒng)的性能提高到一定的程度時，其性價比會急劇下降，而且單機系統(tǒng)的性能總是有限的。因此，必須采用多個處理器提供網(wǎng)絡服務，并將網(wǎng)絡請求分配給這些處理器分擔，才能提供處理大量并發(fā)服務的能力，而如何把網(wǎng)絡請求合理地分配到多個處理器上，使之不出現(xiàn)一個處理器過忙、而別

9、的處理器卻未充分發(fā)揮處理能力的情況。本文在云計算服務器中采用負載均衡機制，負載均衡技術(shù)可以解決成本、性能、可擴展能力等各方面的矛盾，通過相對總體成本較低的計算機群集，可以實現(xiàn)單機系統(tǒng)無法提供的強大性能。負載均衡的實現(xiàn)方式有軟件和硬件2種基于軟件的負載均衡，具有針對小規(guī)模系統(tǒng)性價比高，和能夠更好地根據(jù)系統(tǒng)與應用的狀況來分配負載等特點，但負載能力卻受服務器本身性能的影響，性能越好，負載能力越大。而采用硬件實現(xiàn)方式一般直接通過智能交換機實現(xiàn)處理能力更強，并與系統(tǒng)無關、負載性能強的負載均衡設備，其更加適用于一大堆設備、大訪問量與簡單應用模式。因此，非常符合目前數(shù)據(jù)中心中占主流的Web服務。調(diào)度算法決定

10、了負載均衡的好壞。好的調(diào)度算法不僅可以使服務器集群內(nèi)的每個服務器都充分發(fā)揮各自的性能，使整個服務器集群的負載均勻分布，也不會使集群內(nèi)的服務器負載過重。本文在云服務器設計中植入硬件負載均衡單元，同時配備多種供選擇的均衡算法。在實際應用中可以根據(jù)規(guī)模綜合考慮采用何種均衡方式本文根據(jù)云服務器的應用場合，同時采用了軟件和硬件負載均衡策略。3.4硬件虛擬化傳統(tǒng)的服務器一般配備有自己的主板、電源、網(wǎng)絡模塊和存儲模塊等，能夠獨立成系統(tǒng)。但根據(jù)目前數(shù)據(jù)中心的部署的情況來看，更多地采用集中式存儲結(jié)構(gòu)。就網(wǎng)絡訪問而言，目前主要采用千兆網(wǎng)卡，如果其能滿負荷工作，能夠同時支持數(shù)十萬個TCP并發(fā)請求，但后端的處理速度無

11、法跟上，所以目前高性能雙至強4核處理器也只能支持最多2萬個并發(fā)請求。新型云計算服務器針對存儲模塊進行硬件虛擬化，去掉主板上不常使用，但十分耗電相關硬件，可根據(jù)需要集中訪問存儲設備，將使得服務器結(jié)構(gòu)更加精簡，大大降低系統(tǒng)功耗。針對網(wǎng)絡模塊進行硬件虛擬化，讓一定數(shù)量的處理器去共享網(wǎng)絡通信外沒，即提高了網(wǎng)絡換塊的利川率，同時也降低進一步降低了功耗。3.5服務管理新型云計算服務器將通過為管理層提供管理接口的形式，支持云計算服務管理。在資源接口層，提供服務器硬件平臺服務接口，以便資源接口采用面向資源管理服務的方式進一步封裝。在通用資源層，提供服務器通用資探管理服務接口，以便通用資源層進一步封裝后體現(xiàn)出與

12、硬件平臺無關的特點。在服務管理層，提供高級的資源和計算服務，如流程服務、動態(tài)分配計算資源、資源監(jiān)控、系統(tǒng)的健康管理、自動優(yōu)化的調(diào)用接口。4、新型云計算服務器的實現(xiàn) 本文針對云計算服務的特點，采用了低功率處理器、3D-torus網(wǎng)絡、硬件盤擬化、負載均衡、服務管理等技術(shù)，研制的ICCS-PW新型云服務器系統(tǒng)結(jié)構(gòu)如圖3所示。它采用并行計算機技術(shù)將多處理器、存儲、I/O通過高速網(wǎng)絡實現(xiàn)整機，大大降低了云服務器的體積和功耗。ICCS-PW新型云計算服務器的內(nèi)部實物照片如圖4所示，外部實物照片如圖5所示。   需要說明的是，由于目前還沒有專門針對云計算的云處理器產(chǎn)品，本文在設計新型云計算服務器時采用低功耗處理器。由于它在芯片上簡化了流水線、cache等微結(jié)構(gòu)，因此大大地降低了功耗。ICCS-PW新型云計算服務器支持并發(fā)連接數(shù)45000個150000個。與傳統(tǒng)服務器相比，新型云服務器在處理性能相同的情況下，體積和功耗可降低到傳統(tǒng)服務器的1/4。傳統(tǒng)服務器與云計算服務器運行成本對比如表1所示，其中，假定傳統(tǒng)服務器與云計算服