大型網(wǎng)站架構(gòu)一覽從底層到前端技術(shù)框架分析

大型網(wǎng)站的挑戰(zhàn)主要來(lái)自龐大的用戶，高并發(fā)的訪問(wèn)和海量數(shù)據(jù)，任何簡(jiǎn)單的業(yè)務(wù)一旦需要處理數(shù)以計(jì)的數(shù)據(jù)和面對(duì)數(shù)以億計(jì)的用戶，問(wèn)題就會(huì)變得棘手。大型網(wǎng)站架構(gòu)主要就是

解

決

這

類

問(wèn)

題。網(wǎng)站系架構(gòu)層次如圖所示1、前端架構(gòu)前端指用戶請(qǐng)求到達(dá)網(wǎng)站應(yīng)用服務(wù)器之前經(jīng)歷的環(huán)節(jié)，通常不包含網(wǎng)站業(yè)務(wù)邏輯，不處理動(dòng)態(tài)內(nèi)容。瀏覽器化技術(shù)并不是優(yōu)化瀏覽器，而是通過(guò)優(yōu)化響應(yīng)頁(yè)面，加快瀏覽器頁(yè)面的加載和顯示，常用的有頁(yè)面緩存、合并HTTP減少請(qǐng)求次數(shù)、使用頁(yè)面壓縮等。CDN內(nèi)容分發(fā)網(wǎng)絡(luò)部署在網(wǎng)絡(luò)運(yùn)營(yíng)商機(jī)房通過(guò)將靜態(tài)頁(yè)面內(nèi)容分發(fā)到離用戶最近最近的服務(wù)器，使用戶可以通過(guò)最短路徑獲取內(nèi)容。動(dòng)靜分，靜態(tài)資源立部署靜態(tài)資源如JSCSS等文件署在專門的服務(wù)器集群上和應(yīng)用動(dòng)態(tài)內(nèi)容服務(wù)分離，并使用專門的（二級(jí)）域名。圖片服圖片不是指網(wǎng)站Logo、按鈕圖標(biāo)等，這些文件屬于上面提到的靜態(tài)資源，應(yīng)該和、CSS部署在一起。這里的圖片指用戶上傳的圖片，如產(chǎn)品圖片、用戶頭像等，圖片服務(wù)同樣適用獨(dú)立部署的圖片服務(wù)器集群，并使用獨(dú)立（二級(jí)）域名。反向代

部署在網(wǎng)站機(jī)房在應(yīng)用服務(wù)器靜態(tài)資源服務(wù)器圖片服務(wù)器之前提供頁(yè)面緩存服務(wù)。DNS域名服務(wù)，將域名解析成IP地，利用DNS可以實(shí)現(xiàn)DNS負(fù)載均衡，配CDN也需要修改DNS，使域名解析后指向服務(wù)器。2、應(yīng)用層架構(gòu)應(yīng)用層是處理網(wǎng)站主要業(yè)務(wù)邏輯的地方。開發(fā)框網(wǎng)站業(yè)務(wù)是多變的，網(wǎng)站的大部分軟件工程師都是在加班加點(diǎn)開發(fā)網(wǎng)站業(yè)務(wù)，一個(gè)好的開發(fā)框架至關(guān)重要。一個(gè)號(hào)的開發(fā)框架應(yīng)該能夠分離關(guān)注面，使美工、開發(fā)工程師可以各司其事，易于協(xié)作。同時(shí)還應(yīng)該內(nèi)置一些安全策略，防護(hù)用攻擊。頁(yè)面渲將分別開發(fā)維護(hù)的動(dòng)態(tài)內(nèi)容和靜態(tài)頁(yè)面模板集成起來(lái)合成最終顯示給用戶的完整頁(yè)面。負(fù)載均將多臺(tái)應(yīng)用服務(wù)器組成一個(gè)集群，通過(guò)負(fù)載均衡技術(shù)將用戶請(qǐng)求分發(fā)到不同的服務(wù)器上，以應(yīng)對(duì)大量用戶同時(shí)訪問(wèn)時(shí)產(chǎn)生的高并發(fā)負(fù)載壓力。Session管理為了實(shí)現(xiàn)高可用的應(yīng)用服務(wù)器集群，應(yīng)用服務(wù)器通常設(shè)計(jì)為無(wú)狀態(tài)，不保存用戶請(qǐng)求上下文信息，但是網(wǎng)站業(yè)務(wù)通常需要保持用戶會(huì)話信息，需要專門的機(jī)制管理，使集群內(nèi)甚至跨集群的應(yīng)用服務(wù)器可以共享。動(dòng)態(tài)頁(yè)靜態(tài)化

對(duì)于訪問(wèn)量特別大而更新又不很頻繁的動(dòng)態(tài)頁(yè)面以將其靜態(tài)化生成一個(gè)靜態(tài)頁(yè)面，利用靜態(tài)頁(yè)面的優(yōu)化手段加速用戶訪問(wèn)，如反向代理、、瀏覽器緩存等。業(yè)務(wù)拆將復(fù)雜而龐大的業(yè)務(wù)拆分開來(lái)，形成多個(gè)規(guī)模較小的產(chǎn)品，獨(dú)立開發(fā)、部署、維護(hù)，除了降低系統(tǒng)耦合度，也便于數(shù)據(jù)庫(kù)業(yè)務(wù)分庫(kù)。按業(yè)務(wù)對(duì)關(guān)系數(shù)據(jù)庫(kù)進(jìn)行拆分，技術(shù)難度相對(duì)較小，而效果又相對(duì)較好。虛擬化務(wù)器將一臺(tái)物理服務(wù)器虛擬化成多態(tài)虛擬服務(wù)器，對(duì)于并發(fā)訪問(wèn)較低的業(yè)務(wù)，更容易用較少的資源構(gòu)架高可用的應(yīng)用服務(wù)器集群。3、服務(wù)層架構(gòu)提供基礎(chǔ)服務(wù)，供應(yīng)用層調(diào)用，完成網(wǎng)站業(yè)務(wù)。分布式息利用消息隊(duì)列機(jī)制，實(shí)現(xiàn)業(yè)務(wù)和業(yè)務(wù)、業(yè)務(wù)和服務(wù)之間的異步消息發(fā)送及低耦合的業(yè)務(wù)關(guān)系。分布式務(wù)提供高性能、低耦合、易復(fù)用、易管理的分布式服務(wù)，在網(wǎng)站實(shí)現(xiàn)面向服務(wù)架構(gòu)SOA）。分布式存通過(guò)可伸縮的服務(wù)器集群提供大規(guī)模熱點(diǎn)數(shù)據(jù)的緩存服務(wù)，是網(wǎng)站性能優(yōu)化的重要手段。分布式置系統(tǒng)運(yùn)行需要配置許多參數(shù)，如果這些參數(shù)需要修改，比如分布式緩存集群加入新的緩存服務(wù)器，需要修改應(yīng)用程序客戶端的緩存服務(wù)器列表配置，并重啟應(yīng)用程序服務(wù)器。分布

式配置在系統(tǒng)運(yùn)行期提供配置動(dòng)態(tài)推送服務(wù)，將配置修改實(shí)時(shí)推送到應(yīng)用系統(tǒng)，無(wú)需重啟服務(wù)器。4、存儲(chǔ)層架構(gòu)提供數(shù)據(jù)、文件的持久化存儲(chǔ)訪問(wèn)與管理服務(wù)。分布式件網(wǎng)站在線業(yè)務(wù)需要存儲(chǔ)的文件大部分都是圖片、網(wǎng)頁(yè)、視頻等比較小的文件，但是這些文件的數(shù)量非常龐大，而且通常都在持續(xù)增加，需要伸縮性設(shè)計(jì)比較好的分布式文件系統(tǒng)。關(guān)系數(shù)庫(kù)大部分萬(wàn)丈的主要業(yè)務(wù)是基于關(guān)系數(shù)據(jù)庫(kù)開發(fā)的，但是關(guān)系數(shù)據(jù)庫(kù)對(duì)集群伸縮性的支持表較差。通過(guò)在應(yīng)用程序的數(shù)據(jù)訪問(wèn)層增加數(shù)據(jù)庫(kù)訪問(wèn)的路由功能，根據(jù)業(yè)務(wù)配置將數(shù)據(jù)庫(kù)訪問(wèn)路由到不同的物理數(shù)據(jù)庫(kù)上，可實(shí)現(xiàn)關(guān)系數(shù)據(jù)庫(kù)的分布式訪問(wèn)。NoSQL據(jù)庫(kù)目前各種NoSQL數(shù)據(jù)庫(kù)層出不窮，在內(nèi)存管理、數(shù)據(jù)模型、集群分布式管理等方面各有優(yōu)勢(shì)，不過(guò)從社區(qū)活動(dòng)性角度看，無(wú)疑是目前最好的。數(shù)據(jù)同在支持全球范圍內(nèi)數(shù)據(jù)共享的分布式數(shù)據(jù)庫(kù)技術(shù)成熟之前，擁有多個(gè)數(shù)據(jù)中心的網(wǎng)站必須在多個(gè)數(shù)據(jù)中心之間進(jìn)行數(shù)據(jù)同步，以保證每個(gè)數(shù)據(jù)中心都擁有完整的數(shù)據(jù)。在實(shí)踐中，為了減輕數(shù)據(jù)庫(kù)壓力，將數(shù)據(jù)庫(kù)的事物日志（或者的寫操作Log）同步到其他數(shù)據(jù)中心，根據(jù)Log進(jìn)行數(shù)據(jù)重演，實(shí)現(xiàn)數(shù)據(jù)同步。5、后臺(tái)架構(gòu)網(wǎng)站應(yīng)用中，除了要處理用戶的實(shí)時(shí)訪問(wèn)請(qǐng)求外，還有一些后臺(tái)非實(shí)時(shí)數(shù)據(jù)分析要處理。

搜索引即使是網(wǎng)站內(nèi)部的搜索引擎，也需要進(jìn)行數(shù)據(jù)增量更新及全量更新、構(gòu)建索引等。這些操作通過(guò)后臺(tái)系統(tǒng)定時(shí)執(zhí)行。數(shù)據(jù)倉(cāng)根據(jù)離線數(shù)據(jù)，提供數(shù)據(jù)分析與數(shù)據(jù)挖掘服務(wù)。推薦系社交網(wǎng)站及購(gòu)物網(wǎng)站通過(guò)挖掘人與人之間的關(guān)系，人和商品之間的關(guān)系，發(fā)展?jié)撛诘娜穗H關(guān)系和購(gòu)物興趣，為用戶提供個(gè)性化推薦服務(wù)。6、數(shù)據(jù)采集與控監(jiān)控網(wǎng)站訪問(wèn)情況與系統(tǒng)運(yùn)行情況，為網(wǎng)站運(yùn)營(yíng)決策和運(yùn)維管理提供支持保障。瀏覽器據(jù)采集通過(guò)在網(wǎng)站頁(yè)面中嵌入JS本采集用戶瀏覽器環(huán)境與操作記錄，分析用戶行為。服務(wù)器務(wù)數(shù)據(jù)采集服務(wù)器業(yè)務(wù)數(shù)據(jù)包括兩種，一種是采集在服務(wù)器端記錄的用戶請(qǐng)求操作日志；一種是采集應(yīng)用程序運(yùn)行期業(yè)務(wù)數(shù)據(jù)，比如待處理消息數(shù)目等。服務(wù)器能數(shù)據(jù)采集采集服務(wù)器性能數(shù)據(jù)，如系統(tǒng)負(fù)載、內(nèi)存使用率、網(wǎng)卡流量等。系統(tǒng)監(jiān)將前述采集的數(shù)據(jù)以圖表的方式展示，以便運(yùn)營(yíng)和運(yùn)維人員監(jiān)控網(wǎng)站運(yùn)行狀況，做到這一步僅僅是系統(tǒng)監(jiān)視。更先進(jìn)的做法是根據(jù)采集的數(shù)據(jù)進(jìn)行自動(dòng)化運(yùn)維，自動(dòng)處理系統(tǒng)異常狀況，是吸納自動(dòng)化控制。

系統(tǒng)報(bào)如果采集來(lái)的數(shù)據(jù)超過(guò)預(yù)設(shè)的正常情況的閥值，比如系統(tǒng)負(fù)載過(guò)高，就通過(guò)郵件、短信、語(yǔ)音電話等方式發(fā)出警報(bào)信號(hào)，等待工程師干預(yù)。7、安全架構(gòu)保護(hù)網(wǎng)站免遭攻擊及敏感信息泄露。Web擊以HTTP請(qǐng)求的方式發(fā)起的攻擊最大的就和SQL注入攻擊只要措施得當(dāng)，這兩種攻擊都是比較容易防范的。數(shù)據(jù)保敏感信息加密傳輸與存儲(chǔ)，保護(hù)網(wǎng)站和用戶資產(chǎn)。8、數(shù)據(jù)中心機(jī)架構(gòu)大型網(wǎng)站需要的服務(wù)器規(guī)模數(shù)以十萬(wàn)計(jì)，機(jī)房物理架構(gòu)也需要關(guān)注。機(jī)房架對(duì)于一個(gè)擁有十萬(wàn)臺(tái)服務(wù)器的大型網(wǎng)站，每臺(tái)服務(wù)器耗電（包括服務(wù)器本身耗電及空調(diào)耗電）每年大約需要人民幣2000元，那么網(wǎng)站每年機(jī)房電費(fèi)就需要兩億人民幣。數(shù)據(jù)中心能耗問(wèn)題日趨嚴(yán)重，Google、Facebook選數(shù)據(jù)中心地理位置的時(shí)候趨向選擇散熱良好，供電充裕的地方。機(jī)柜架包括機(jī)柜大小，網(wǎng)線布局、指示燈規(guī)格、不間