借我一雙慧眼――Web20的運(yùn)營(yíng)監(jiān)控及數(shù)據(jù)統(tǒng)計(jì)

1、借我一雙慧眼借我一雙慧眼WWEBEB2.02.0的運(yùn)營(yíng)監(jiān)控及數(shù)據(jù)統(tǒng)計(jì)的運(yùn)營(yíng)監(jiān)控及數(shù)據(jù)統(tǒng)計(jì)51.COM51.COM 研發(fā)經(jīng)理研發(fā)經(jīng)理林泰君林泰君2009.12.262009.12.26WEB2.0的挑戰(zhàn)51應(yīng)對(duì)挑戰(zhàn)案例分享51數(shù)據(jù)統(tǒng)計(jì)系統(tǒng)架構(gòu)51.COMWEB2.0WEB2.0的挑戰(zhàn)的挑戰(zhàn)51.COM大型大型WEB2.0WEB2.0網(wǎng)站的運(yùn)營(yíng)現(xiàn)狀網(wǎng)站的運(yùn)營(yíng)現(xiàn)狀復(fù)雜復(fù)雜巨大巨大眾多眾多51.COM用戶產(chǎn)生內(nèi)容用戶與網(wǎng)站的交互線上運(yùn)行的代碼量業(yè)務(wù)邏輯網(wǎng)站架構(gòu)網(wǎng)絡(luò)環(huán)境機(jī)房網(wǎng)站功能運(yùn)營(yíng)監(jiān)控的巨大挑戰(zhàn)運(yùn)營(yíng)監(jiān)控的巨大挑戰(zhàn)如何 監(jiān)控監(jiān)控 數(shù)以千計(jì)的功能數(shù)以千計(jì)的功能 在巨大的用戶交互背景巨大的用戶交互背景下,

2、 在復(fù)雜的網(wǎng)絡(luò)環(huán)境復(fù)雜的網(wǎng)絡(luò)環(huán)境中, 在眾多的機(jī)房里眾多的機(jī)房里 是可靠可用的?監(jiān)控什么?怎么監(jiān)控?51.COM業(yè)務(wù)層業(yè)務(wù)層網(wǎng)絡(luò)層網(wǎng)絡(luò)層目前的監(jiān)控方式目前的監(jiān)控方式廣域網(wǎng)絡(luò)監(jiān)控商業(yè)產(chǎn)品內(nèi)部網(wǎng)絡(luò)監(jiān)控Cacti服務(wù)器監(jiān)控NagiosGanglia51.COM已有監(jiān)控方式的優(yōu)點(diǎn)及不足已有監(jiān)控方式的優(yōu)點(diǎn)及不足優(yōu)點(diǎn)廣域網(wǎng)監(jiān)控能發(fā)現(xiàn)定位廣域網(wǎng)層面的一些問題Cacti 能很快發(fā)現(xiàn)內(nèi)部網(wǎng)絡(luò)問題.Nagios, Ganglia能很快發(fā)現(xiàn)并定位服務(wù)器層面的問題不足不足廣域網(wǎng)監(jiān)控:監(jiān)控點(diǎn)少, 有時(shí)不準(zhǔn)確價(jià)格昂貴無法 發(fā)現(xiàn)發(fā)現(xiàn) 定位定位 業(yè)務(wù)層業(yè)務(wù)層 問題51.COM5151應(yīng)對(duì)挑戰(zhàn)應(yīng)對(duì)挑戰(zhàn)51.COM應(yīng)對(duì)方法應(yīng)對(duì)方

3、法 - - 缺啥補(bǔ)啥缺啥補(bǔ)啥廣域網(wǎng)監(jiān)控業(yè)務(wù)層監(jiān)控51.COM廣域網(wǎng)監(jiān)控廣域網(wǎng)監(jiān)控做法: 在網(wǎng)站頁面上嵌入腳本, 測(cè)試用戶端抓取不同服務(wù)器上的圖片的速度, 將數(shù)據(jù)匯總, 根據(jù)不同的測(cè)速曲線及歷史曲線判定廣域網(wǎng)事件功效:發(fā)現(xiàn)廣域網(wǎng)異常, 并定位出異常是發(fā)生在用戶端,廣域網(wǎng),還是企業(yè)機(jī)房特點(diǎn): 成本低廉, 準(zhǔn)確度高51.COM業(yè)務(wù)層監(jiān)控業(yè)務(wù)層監(jiān)控做法:通過嵌入在業(yè)務(wù)邏輯代碼中的數(shù)據(jù)采集程序, 匯聚業(yè)務(wù)數(shù)據(jù)到數(shù)據(jù)中心, 異常發(fā)現(xiàn)系統(tǒng)抓取數(shù)據(jù)中心的數(shù)據(jù)進(jìn)行曲線模式匹配, 發(fā)現(xiàn)異常,上報(bào)數(shù)據(jù)到告警服務(wù)器, 監(jiān)控中心收到告警, 并做檢查,最終確定是否有事故發(fā)生.功效能發(fā)現(xiàn)大量以往不能發(fā)現(xiàn)的問題用戶不再是測(cè)試

4、員, 是真正的上帝!特點(diǎn)能快速發(fā)現(xiàn)業(yè)務(wù)層異常,并準(zhǔn)確定位異常點(diǎn)51.COM51.51.COMCOM慧眼慧眼10000多個(gè)廣域網(wǎng)絡(luò)采集點(diǎn)5000多個(gè)業(yè)務(wù)監(jiān)控點(diǎn),涵蓋的所有重要功能可定制上報(bào)時(shí)間的自動(dòng)監(jiān)控監(jiān)控點(diǎn)可任意添加, 甚至監(jiān)控網(wǎng)頁Flash,Js可定位到異常發(fā)生在哪個(gè)頻道,服務(wù)器,頁面,程序段,甚至是哪行代碼.51.COM案例分享案例分享51.COM 故事: 一個(gè)陽光明媚的早上 半仙,焦工,黃大俠,薄海在踢皮球 陳總是火警 一個(gè)陽光明媚的早上 半仙,焦工,黃大俠,薄海在開心的工作 陳總讀書看報(bào) 聊技術(shù)人生 51.COM發(fā)現(xiàn)問題某頻道用戶訪問曲線下降51.COM分析現(xiàn)象廣域網(wǎng)測(cè)速情況51.CO

5、M分析現(xiàn)象- 交換機(jī)流量情況51.COM分析現(xiàn)象-服務(wù)器監(jiān)控51.COM分析現(xiàn)象-總在線及各地在線情況51.COM定位問題 - 問題發(fā)生在哪個(gè)功能邏輯中51.COM定位問題- 問題發(fā)生在哪臺(tái)服務(wù)器的哪個(gè)頁面上51.COM事故記錄51.COM 當(dāng)其他公司的運(yùn)營(yíng)總監(jiān)在為運(yùn)營(yíng)質(zhì)量頭痛腦裂時(shí), 我們陳總卻能胸有成竹,運(yùn)籌帷幄,很重要的原因就是有一套完備的監(jiān)控系統(tǒng), 用一雙雙自動(dòng)化的眼睛檢查運(yùn)營(yíng)質(zhì)量.51.COM5151數(shù)據(jù)統(tǒng)計(jì)數(shù)據(jù)統(tǒng)計(jì)51.COM數(shù)據(jù)統(tǒng)計(jì)的前世今生數(shù)據(jù)統(tǒng)計(jì)的前世今生數(shù)據(jù)統(tǒng)計(jì)和運(yùn)營(yíng)監(jiān)控有什么關(guān)系?為什么系統(tǒng)提供的數(shù)據(jù)能做財(cái)務(wù)審計(jì)使用?51.COM高層為何每天登入系統(tǒng)3次,他們?cè)陉P(guān)注什么?

6、51.COM前世前世- -監(jiān)控統(tǒng)計(jì)系統(tǒng)的背景監(jiān)控統(tǒng)計(jì)系統(tǒng)的背景龐總問:我們的PV有多少?一天后,三天后,三十天后:一封來至Google的郵件.我們自己開發(fā).業(yè)務(wù)監(jiān)控系統(tǒng) -意外的收獲深刻的認(rèn)識(shí): 業(yè)務(wù)監(jiān)控和業(yè)務(wù)統(tǒng)計(jì)實(shí)際上是一個(gè)銅板的兩面.51.COM今生-統(tǒng)計(jì)系統(tǒng)的現(xiàn)狀實(shí)時(shí)統(tǒng)計(jì)800臺(tái)WEB服務(wù)器每天十幾億次請(qǐng)求采集分析400多個(gè)用戶信息3000多個(gè)統(tǒng)計(jì)點(diǎn)3年積累了12T的用戶行為數(shù)據(jù)和Google分析的不同關(guān)注用戶行為 可以采集到觸發(fā)某種業(yè)務(wù)邏輯的用戶信息數(shù)據(jù)實(shí)時(shí) 產(chǎn)品人員可以立即看到新上線產(chǎn)品的變化情況51.COM部分統(tǒng)計(jì)功能展示51.COM業(yè)務(wù)行業(yè)務(wù)行為統(tǒng)計(jì)為統(tǒng)計(jì)用戶行用戶行為統(tǒng)計(jì)為統(tǒng)計(jì)PVPV統(tǒng)計(jì)統(tǒng)計(jì)產(chǎn)品產(chǎn)品分析分析核心數(shù)核心數(shù)據(jù)分析據(jù)分析用戶成用戶成分分析分分析反作弊反作弊分析分析頁面行頁面行為統(tǒng)計(jì)為統(tǒng)計(jì)用戶分用戶分布分析布分析系統(tǒng)架構(gòu)系統(tǒng)架構(gòu)51.COM監(jiān)監(jiān)控控統(tǒng)統(tǒng)計(jì)計(jì)系系統(tǒng)統(tǒng)架架構(gòu)構(gòu)51.COM業(yè)務(wù)層業(yè)務(wù)層數(shù)據(jù)數(shù)據(jù)中心中心異常異常發(fā)現(xiàn)發(fā)現(xiàn)主數(shù)主數(shù)據(jù)庫據(jù)庫報(bào)表報(bào)表告警告警用戶用戶分析分析監(jiān)控監(jiān)控?cái)?shù)據(jù)分析數(shù)據(jù)分析廣域網(wǎng) 監(jiān)控 戰(zhàn)略數(shù)據(jù)采集 第三方數(shù)據(jù)采集 用戶輿論采集接入層 監(jiān)控服務(wù)器 監(jiān)控業(yè)務(wù)數(shù)據(jù)采集業(yè)務(wù)監(jiān)控業(yè)務(wù)監(jiān)控?cái)?shù)據(jù)總線數(shù)據(jù)總線數(shù)據(jù)總線業(yè)