高并發(fā)系統(tǒng)架構(gòu)設(shè)計(jì)經(jīng)驗(yàn)分享

1、高并發(fā)系統(tǒng)架構(gòu)設(shè)計(jì)經(jīng)驗(yàn)分享2021-06-29鄒春剛目 錄VMS系統(tǒng)架構(gòu)概述123Web系統(tǒng)高并發(fā)技術(shù)VMS系統(tǒng)高并發(fā)設(shè)計(jì) 優(yōu)化遐想透過12306五大焦點(diǎn)看高性能高并發(fā)系統(tǒng)12306系統(tǒng)高性能高并發(fā)架構(gòu)設(shè)計(jì)遐想初稿.pptx性能評(píng)價(jià)指標(biāo)響應(yīng)時(shí)間并發(fā)用戶數(shù)吞吐量性能計(jì)數(shù)器TPSHPS高性能網(wǎng)站建設(shè)的14個(gè)原那么原那么1: 減少HTTP請(qǐng)求數(shù)1. Image Map2. CSS SpriteCSS貼圖整合/貼圖拼合/貼圖定位3. Inline Image內(nèi)聯(lián)圖片原那么2: 利用多線路CDN原那么3: 利用HTTP Cache原那么4: 使用Gzip壓縮原那么5: 將樣式表置于頁(yè)面前部原那么6: 將

2、腳本置于頁(yè)面尾部原那么7: 防止使用CSS表達(dá)式原那么8: 將JavaScript與CSS作為外聯(lián)資源高性能網(wǎng)站建設(shè)的14個(gè)原那么原那么9: 減少DNS查找1. 使用Keep-Alive保持連接2. 減少域名原那么10: 壓縮你的JavaScript原那么11: 盡量防止重定向1. 防止URL失效2. URL美化原那么12: 移除重復(fù)的腳本原那么13: 小心處理EtagETag是除Last-Modified之外的另一種HTTP Cache手段原那么14: 在Ajax中利用HTTP Cache目 錄VMS系統(tǒng)架構(gòu)概述123Web系統(tǒng)高并發(fā)技術(shù)VMS系統(tǒng)高并發(fā)設(shè)計(jì)VMS架構(gòu)簡(jiǎn)介產(chǎn)品架構(gòu)圖VMS架構(gòu)

3、簡(jiǎn)介邏輯組網(wǎng)圖VMS架構(gòu)簡(jiǎn)介網(wǎng)元視圖VMS架構(gòu)簡(jiǎn)介模塊進(jìn)程視圖VMS架構(gòu)簡(jiǎn)介典型場(chǎng)景分析留言場(chǎng)景VMS架構(gòu)簡(jiǎn)介典型場(chǎng)景分析提取留言場(chǎng)景VMS架構(gòu)簡(jiǎn)介典型場(chǎng)景分析MCN通知場(chǎng)景VMS架構(gòu)簡(jiǎn)介典型場(chǎng)景分析探測(cè)MCN通知場(chǎng)景目 錄VMS系統(tǒng)架構(gòu)概述123Web系統(tǒng)高并發(fā)技術(shù)VMS系統(tǒng)高并發(fā)設(shè)計(jì)性能優(yōu)化方面JVM數(shù)據(jù)庫(kù)通信應(yīng)用JVM目前常用的商用JVM主要有：Sun HotSpot，BEA JRocket以及IBM J9。其中由于BEA和Sun已經(jīng)被Oracle收購(gòu)，所以O(shè)racle擁有當(dāng)今世界上最流行的兩個(gè)JVM，并有傳言說(shuō)Oracle將在Java8時(shí)將兩個(gè)虛擬機(jī)合并，各取所需，取長(zhǎng)補(bǔ)短，打造一個(gè)更

4、加精湛的JVM。VMS軟件配置軟件版本JVMSun JDK 1.6.0_32Tomcatapache-tomcat-7.0.23JVM的性能評(píng)測(cè)VOLANO BenchmarkThe VOLANO Benchmark, also known asVolanoMark, is a testing program that lets you determine the performance and connection limitations of your hardware, operating system, and Java platform when running the VOLANO

5、 chat server. The VOLANO Benchmark consists of the VOLANO chat server along with a test driver that simulates thousands of chat clients.測(cè)試分類Loopback測(cè)試不進(jìn)行網(wǎng)絡(luò)傳輸測(cè)試，因此可以測(cè)試出來(lái)JVM的performanceNetwork測(cè)試通過網(wǎng)絡(luò)進(jìn)行測(cè)試，模擬真實(shí)環(huán)境的JVM處理能力。測(cè)試報(bào)告JVM-network評(píng)測(cè)之吞吐量連接數(shù)Sun 1.6.0_32Jrockit 1.6.0_26IBM J9JIT24100014057840363118062

6、00012602078686580930001162453477138054000108798246912314JVM-network評(píng)測(cè)之響應(yīng)時(shí)間連接數(shù)Sun 1.6.0_32Jrockit 1.6.0_26IBM J9JIT24100014.22749.55169.41200031.74150.835688.586300051.615172.5561576.691400073.531324.013457.203SPECjbb2005SPECjbb2005 is an industry-standard benchmark designed to measure the server-sid

7、e performance of Java runtime environments. JVM-體系結(jié)構(gòu)JVM-內(nèi)存結(jié)構(gòu)內(nèi)存結(jié)構(gòu)JVM-自動(dòng)內(nèi)存管理標(biāo)記存活對(duì)象算法引用計(jì)數(shù)根搜索回收內(nèi)存的算法復(fù)制算法標(biāo)記清掃標(biāo)記整理按代收集經(jīng)IBM研究，通常運(yùn)行的程序有98%的對(duì)象是臨時(shí)對(duì)象，因此Sun Hotspot對(duì)JVM堆采用了分代的方式來(lái)管理，以提升GC的效率JVM-內(nèi)存監(jiān)控VisualVM內(nèi)存監(jiān)控JVM-GC策略JVM-性能調(diào)優(yōu)設(shè)置jvm啟動(dòng)參數(shù)使用 -server 編譯開關(guān)使用-XX:+UseParallelGC 并行垃圾回收吞吐量設(shè)置 -Xms 初始化堆大小為物理內(nèi)存的1/64設(shè)置 -Xmx 最

8、大堆內(nèi)存為物理內(nèi)存的1/4設(shè)置 -Xss 最大線程棧的大小垃圾回收策略-XX:+UseParallelGC，提升吞吐量-XX:+UseConcMarkSweepGC(CMS)，縮短延遲時(shí)間-XX:+UseSerialGC，適用于小型系統(tǒng)更多JVM 參數(shù)Java HotSpot虛擬機(jī)內(nèi)存管理JVM-性能調(diào)優(yōu)案例，大吞吐量java-Xmx3800m -Xms3800m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20-Xmx3800m -Xms3800m-Xmn2g-Xss128k-XX:+UseParallelGC-XX:Pa

9、rallelGCThreads=20JVM-性能調(diào)優(yōu)案例,大吞吐量&低延遲java-Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:ParallelGCThreads=20 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:SurvivorRatio=8 -XX:TargetSurvivorRatio=90 -XX:MaxTenuringThreshold=31-XX:+UseConcMarkSweepGC -XX:+UseParNewGC-XX:SurvivorRatio=8-XX:TargetSurvivorRatio=

10、90-XX:MaxTenuringThreshold=31JVM-性能監(jiān)控?cái)?shù)據(jù)庫(kù)-RAC方案數(shù)據(jù)庫(kù)-優(yōu)化方面數(shù)據(jù)庫(kù)將數(shù)據(jù)文件與日志文件分開減少與效勞器無(wú)關(guān)的磁盤IO評(píng)估裸設(shè)備的使用分割表數(shù)據(jù)，表分區(qū)編程方面使用JDBC連接池，物理連接建立對(duì)性能影響很大，對(duì)于并發(fā)很高的應(yīng)用，可調(diào)高JDBC連接池的大小盡量降低對(duì)數(shù)據(jù)庫(kù)的訪問次數(shù)，否那么性能影響很大使用prepare statement，防止DBMS對(duì)SQL重復(fù)的解析與編譯SQL不要太復(fù)雜，尤其是連表查詢的表最好不要超過3個(gè)編程方面?vms工程rac優(yōu)化.doc?應(yīng)用優(yōu)化-緩存技術(shù)資源緩存VxmlJavascript會(huì)話緩存郵箱信息全局緩存用戶路由

11、信息系統(tǒng)參數(shù)業(yè)務(wù)參數(shù)CoS參數(shù)通知模板系統(tǒng)黑名單號(hào)碼號(hào)段規(guī)那么.應(yīng)用優(yōu)化-緩存技術(shù)緩存的更新應(yīng)用優(yōu)化-緩存技術(shù)簡(jiǎn)單緩存實(shí)現(xiàn)應(yīng)用優(yōu)化-緩存技術(shù)其他實(shí)現(xiàn)HashMap多級(jí)緩存開源產(chǎn)品EhcacheOSCacheMemcached總結(jié)減少HTTP訪問減少Database訪問應(yīng)用優(yōu)化-ActiveMQActiveMQ 是Apache出品，最流行的，能力強(qiáng)勁的開源消息總線。ActiveMQ 是一個(gè)完全支持和標(biāo)準(zhǔn)的 JMS Provider實(shí)現(xiàn)應(yīng)用優(yōu)化-ActiveMQ點(diǎn)對(duì)點(diǎn) Point-to-Point (PTP) built around the concept of message queuesea

12、ch message has only one consumerClient1Client2QueuesendsacknowledgesconsumesMsgMsg應(yīng)用優(yōu)化-ActiveMQ發(fā)布/訂閱 Publish-Subscribe systemsuses a “topic to send and receive messageseach message has multiple consumersClient1Client2publishessubscribessubscribesMsgTopicClient3deliversdelivers應(yīng)用優(yōu)化-ActiveMQJMS API Pr

13、ogramming ModelConnectioncreatescreatescreatesMsgDestinationreceives fromsends toConnectionFactoryDestinationMessageConsumerSessionMessageProducercreates應(yīng)用優(yōu)化-ActiveMQAMQ Message Store應(yīng)用優(yōu)化-ActiveMQVMS系統(tǒng)中應(yīng)用-Notifyserver應(yīng)用優(yōu)化-ActiveMQActiveMQ的優(yōu)化內(nèi)部使用vm:/協(xié)議設(shè)置Broker的VMPendingQueueMessageStoragePolicy設(shè)置Sess

14、ion.AUTO_ACKNOWLEDGE設(shè)置生產(chǎn)者connectionFactory.setUseAsyncSend(true)消費(fèi)者consumer.dispatchAsync=trueconsumer.prefetchSize=5000應(yīng)用優(yōu)化-RPC(Hessian)RPCRPCRemote Procedure Call Protocol遠(yuǎn)程過程調(diào)用協(xié)議，它是一種通過網(wǎng)絡(luò)從遠(yuǎn)程計(jì)算機(jī)程序上請(qǐng)求效勞，而不需要了解底層網(wǎng)絡(luò)技術(shù)的協(xié)議。RPC協(xié)議假定某些傳輸協(xié)議的存在，如TCP或UDP，為通信程序之間攜帶信息數(shù)據(jù)。具體實(shí)現(xiàn)RMIEJBWebServiceHessianDubbo應(yīng)用優(yōu)化-RPC(Hessian)Hessian基于HTTP，簡(jiǎn)單易用傳輸二進(jìn)制數(shù)據(jù)，平安、高效應(yīng)