性能測試指標

淺談軟件性能測試中關(guān)鍵指標的監(jiān)控與分析一、軟件性能測試需要監(jiān)控哪些關(guān)鍵指標？軟件性能測試的目的主要有以下三點：評價系統(tǒng)當前性能，判斷系統(tǒng)是否滿足預(yù)期的性能需求。尋找軟件系統(tǒng)可能存在的性能問題，定位性能瓶頸并解決問題。判定軟件系統(tǒng)的性能表現(xiàn)，預(yù)見系統(tǒng)負載壓力承受力，在應(yīng)用部署之前，評估系統(tǒng)性能。而對于用戶來說，則最關(guān)注的是當前系統(tǒng)：是否滿足上線性能要求？系統(tǒng)極限承載如何？系統(tǒng)穩(wěn)定性如何？因此，針對以上性能測試的目的以及用戶的關(guān)注點，要達到以上目的并回答用戶的關(guān)注點，就必須首先執(zhí)行性能測試并明確需要收集、監(jiān)控哪些關(guān)鍵指標，通常情況下，性能測試監(jiān)控指標主要分為：資源指標和系統(tǒng)指標，如下圖所示，資源指標與硬件資源消耗直接相關(guān)，而系統(tǒng)指標則與用戶場景及需求直接相關(guān)。性能測試監(jiān)控關(guān)鍵指標說明：資源指標CPU使用率：指用戶進程與系統(tǒng)進程消耗的CPU時間百分比，長時間情況下，一般可接受上限不超過85%。內(nèi)存利用率：內(nèi)存利用率=（1-空閑內(nèi)存/總內(nèi)存大?。?100%,—般至少有10%可用內(nèi)存,內(nèi)存使用率可接受上限為85%。磁盤I/O:磁盤主要用于存取數(shù)據(jù)，因此當說到10操作的時候，就會存在兩種相對應(yīng)的操作，存數(shù)據(jù)的時候?qū)?yīng)的是寫10操作，取數(shù)據(jù)的時候?qū)?yīng)的是是讀10操作，一般使用％DiskTime（磁盤用于讀寫操作所占用的時間百分比）度量磁盤讀寫性能。網(wǎng)絡(luò)帶寬：一般使用計數(shù)器BytesTotal/sec來度量，BytesTotal/sec表示為發(fā)送和接收字節(jié)的速率，包括幀字符在內(nèi)。判斷網(wǎng)絡(luò)連接速度是否是瓶頸，可以用該計數(shù)器的值和目前網(wǎng)絡(luò)的帶寬比較。系統(tǒng)指標：并發(fā)用戶數(shù)：某一物理時刻同時向系統(tǒng)提交請求的用戶數(shù)。在線用戶數(shù)：某段時間內(nèi)訪問系統(tǒng)的用戶數(shù)，這些用戶并不一定同時向系統(tǒng)提交請求。平均響應(yīng)時間：系統(tǒng)處理事務(wù)的響應(yīng)時間的平均值。事務(wù)的響應(yīng)時間是從客戶端提交訪問請求到客戶端接收到服務(wù)器響應(yīng)所消耗的時間。對于系統(tǒng)快速響應(yīng)類頁面，一般響應(yīng)時間為3秒左右。事務(wù)成功率：性能測試中，定義事務(wù)用于度量一個或者多個業(yè)務(wù)流程的性能指標，如用戶登錄、保存訂單、提交訂單操作均可定義為事務(wù)，如下圖所示：單位時間內(nèi)系統(tǒng)可以成功完成多少個定義的事務(wù)，在一定程度上反應(yīng)了系統(tǒng)的處理能力，一般以事務(wù)成功率來度量，計算公式如下所示：超時錯誤率：主要指事務(wù)由于超時或系統(tǒng)內(nèi)部其它錯誤導(dǎo)致失敗占總事務(wù)的比率。二、如何監(jiān)控關(guān)鍵指標？資源指標監(jiān)控主要針對各服務(wù)器系統(tǒng)平臺（Windows、Linux、Unix等）資源使用進行監(jiān)控?？梢允褂孟到y(tǒng)自帶的性能監(jiān)控工具或者第三方工具進行監(jiān)控，如Windows系統(tǒng)自帶的“系統(tǒng)性能監(jiān)視器”，如下圖所示：Linux系統(tǒng)下，free、vmstat、sar、iostat等命令監(jiān)控內(nèi)存、CPU、磁盤10等的使用情況,如下圖所示：第三方監(jiān)控工具，如spotlight，spotlight是quest公司開發(fā)的一款可以針對多種系統(tǒng)平臺及數(shù)據(jù)庫進行監(jiān)控的可視化工具，如下圖所示：Nmon是IBM提供的監(jiān)控AIX和Linux系統(tǒng)資源的免費工具，可以對收集的資源信息通過Excel進行統(tǒng)計分析形成直觀的統(tǒng)計圖，如下圖所示：系統(tǒng)指標監(jiān)控系統(tǒng)指標監(jiān)控一般通過性能測試工具（如LoadRunner、Jmeter等）以圖形化方式監(jiān)控，如下圖所示，并發(fā)用戶數(shù)與平均響應(yīng)時間關(guān)系圖。三、如何分析監(jiān)控的關(guān)鍵指標？通過第二部分監(jiān)控收集到性能度量關(guān)鍵指標，如何進行分析，并判斷是否存在性能瓶頸呢？以下主要從資源指標與系統(tǒng)指標兩方面進行闡述。資源指標分析判斷CPU是否是瓶頸的方法：一般情況下CPU滿負荷工作，有時候并不能判定為CPU出現(xiàn)瓶頸，比如Linux總是試圖要CPU盡可能的繁忙，使得任務(wù)的吞吐量最大化，即CPU盡可能最大化使用。因此，一般判斷CPU為瓶頸，主要從兩方面：一是CPU空閑持續(xù)為0,二是運行隊列大于CPU核數(shù)（經(jīng)驗值3-4倍），即可判定存在瓶頸，對于CPU高消耗主要由什么引起的，可能是應(yīng)用程序不合理造成，也可能是硬件資源不足，需要具體問題具體分析，比如問題SQL語句引起，貝懦要跟蹤并優(yōu)化引起CPU使用過高的SQL語句。判斷內(nèi)存是否是瓶頸的方法：一般至少有10%可用內(nèi)存，內(nèi)存使用率可接受上限為85%。當空閑內(nèi)存變小時，系統(tǒng)開始頻繁地調(diào)動磁盤頁面文件，空閑內(nèi)存過小可能是內(nèi)存不足或內(nèi)存泄漏引起，需要根據(jù)系統(tǒng)實際情況監(jiān)控分析。判斷磁盤I/O是否是瓶頸的方法：磁盤I/O對于數(shù)據(jù)庫服務(wù)器、文件服務(wù)器、流媒體服務(wù)器系統(tǒng)來說，更容易成為瓶頸，一般從以下幾個方面對磁盤I/O進行分析判斷：①計算每磁盤I/O數(shù)每磁盤I/O數(shù)可用來與磁盤的I/O能力進行對比，如果經(jīng)過計算得到的每磁盤I/O數(shù)超過了磁盤標稱的I/O能力，則說明確實存在磁盤的性能瓶頸，每磁盤I/O計算方法如下表：RAID類型計算方法RAID0(Reads+Writes)/NumbersofDisksRAID1(Reads+2*Writes)/2RAID5[Reads+(4*Writes)]/NumbersofDisksRAID10[Reads+(2*Writes)]/NumbersofDisks②監(jiān)控磁盤讀寫，如果磁盤長時間進行大數(shù)據(jù)量讀寫操作，且cpu等待超過20%,則說明磁盤I/O存在問題，考慮提高磁盤I/O讀寫性能。判斷網(wǎng)絡(luò)帶寬是否是瓶頸的方法：判斷網(wǎng)絡(luò)帶寬是否是系統(tǒng)運行性能瓶頸的首要條件是網(wǎng)絡(luò)帶寬是否會影響系統(tǒng)交易執(zhí)行性能。例如：減小網(wǎng)絡(luò)帶寬，并發(fā)用戶數(shù)、響應(yīng)時間與事務(wù)通過率等性能指標是否不能接受；或者增加網(wǎng)絡(luò)帶寬，并發(fā)用戶數(shù)、響應(yīng)時間與事務(wù)通過率等性能指標會得到明顯提高。在實際性能測試中，如果發(fā)現(xiàn)始終報連接超時，而實際手工訪問可以正常訪問，可以通過ping應(yīng)用服務(wù)器IP或網(wǎng)關(guān)IP,如果出現(xiàn)網(wǎng)絡(luò)嚴重延遲或丟包，則說明網(wǎng)絡(luò)不穩(wěn)定，需要檢查網(wǎng)絡(luò)。通過對資源指標四個指標的分析，實際上各個方面都是互相依賴的，不能孤立的單從某個方面進行排查。當一個方面出現(xiàn)性能問題時，往往會引發(fā)其他方面的性能問題，例如，大量的磁盤讀寫勢必消耗CPU和IO資源，而內(nèi)存的不足會導(dǎo)致頻繁地進行內(nèi)存頁寫入磁盤、磁盤寫到內(nèi)存的操作，造成磁盤IO瓶頸，同時，大量的網(wǎng)絡(luò)流量也會造成CPU過載，所以，在分析性能問題時，需要從各個方面進行考慮。系統(tǒng)指標分析并發(fā)用戶數(shù)：系統(tǒng)能夠支持的用戶數(shù)是系統(tǒng)容量的重要標志，并發(fā)用戶數(shù)用于度量系統(tǒng)在高并發(fā)量訪問下，系統(tǒng)的并行處理能力，一般如果系統(tǒng)中存在死鎖、資源爭用，在并發(fā)訪問下，由于請求處于隊列等待中，系統(tǒng)響應(yīng)就會隨著時間變慢。一般情況下，選用高吞吐量、高數(shù)據(jù)庫I/O、高商業(yè)風險的業(yè)務(wù)功能進行并發(fā)用戶訪問測試。判斷系統(tǒng)能夠承受的最大并發(fā)用戶數(shù)，通常以滿足以下條件為準：1、業(yè)務(wù)功能操作平均響應(yīng)時間在合理范圍之內(nèi)2、事務(wù)成功率在合理范圍之內(nèi)3、系統(tǒng)運行無故障（無異常宕機）4、系統(tǒng)資源指標使用在合理范圍內(nèi)平均響應(yīng)時間：對于客戶端用戶來說，最直觀的體驗就是訪問該頁面快或者慢，即響應(yīng)時間的長短。比如在持續(xù)并發(fā)性能測試過程中，客戶感知訪問應(yīng)用很慢，監(jiān)控到的平均響應(yīng)時間也逐漸變長，這時就需要先借助于監(jiān)控到的資源指標，首先排除資源方面的限制因素，再從應(yīng)用本身進行定位，如可以采用頁面細分工具（如httpwatch、LoadrunnerAnaysis中的頁面組件細分）分析響應(yīng)比較慢的頁面。事務(wù)成功率、超時出錯率：事務(wù)成功率越高，則表明系統(tǒng)處理能力越大；而失敗事務(wù)主要由于系統(tǒng)響應(yīng)慢，導(dǎo)致訪問業(yè)務(wù)功能超時，或者系統(tǒng)業(yè)務(wù)功能異常，不能正常訪問等，需要根據(jù)事務(wù)錯誤提示信息，具體分析。綜上所述，軟件性能測試是執(zhí)行、監(jiān)控一〉分析一〉調(diào)優(yōu)不斷進行的過程，即監(jiān)控是為分析提