談項目管理和軟件測試過程_第1頁
談項目管理和軟件測試過程_第2頁
談項目管理和軟件測試過程_第3頁
談項目管理和軟件測試過程_第4頁
談項目管理和軟件測試過程_第5頁
已閱讀5頁,還剩11頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領

文檔簡介

1、談項目管理和軟件測試過程1 軟件測試在公司的組織保障是基礎1.1 研發(fā)部組織結(jié)構(gòu)介紹 以華友公司研發(fā)部的組織結(jié)構(gòu)為例,測試部門屬于研發(fā)部副總裁直接管理,見如下結(jié)構(gòu)圖公司研發(fā)部的組織結(jié)構(gòu)圖對于從事軟件研發(fā)的組織來說,工作類型至少包括項目管理、產(chǎn)品設計、編碼、測試、質(zhì)量確保和軟件設置管理,及其他人員,如文件編制人員和美工人員/系統(tǒng)硬件管理人員等。根據(jù)職能需要,能以半獨立方式進行部門和項目的矩陣管理,即職員要對項目經(jīng)理/組長負責,也要對部門經(jīng)理/總監(jiān)負責,工作考核由雙方一起完成,標準的組織應包括技術研發(fā)部/組(主要是編碼和設計人員),產(chǎn)品研發(fā)部/組(產(chǎn)品需求和項目管理),測試部/組,設置管理部/組(

2、因為設置管理人員基本上是按20個技術人員配一個設置管理人員,所以一般部門規(guī)模較小,或只是設置管理組),軟件質(zhì)量保障部/組,其他部/組(如系統(tǒng)/文件/美工等)。華友公司組織結(jié)構(gòu)中,研發(fā)部是公司軟件研發(fā)的核心部門產(chǎn)品研發(fā)部、部、和應用研發(fā)部主要負責:和軟件產(chǎn)品部或內(nèi)容產(chǎn)品部配合,協(xié)助完成內(nèi)容產(chǎn)品的可行性、合理性分析;平臺、網(wǎng)關、應用產(chǎn)品的研發(fā)項目的立項和方案評審;研發(fā)項目的概要設計、周詳設計工作;研發(fā)項目的編碼、單元測試工作;組織公司相關部門進行研發(fā)產(chǎn)品的培訓;協(xié)助相關部門做好產(chǎn)品的售前技術支持工作;協(xié)助相關部門進行軟件的安裝和調(diào)試;根據(jù)相關部門的需求做好產(chǎn)品的售后服務工作,保障軟件的運行正常。測

3、試部隸屬研發(fā)部,主要職責如下:和內(nèi)容產(chǎn)品部和軟件產(chǎn)品部配合完成軟件需求分析討論,并根據(jù)需求說明書制訂項目測試方案,編寫測試用例,建立測試環(huán)境;負責完成研發(fā)部各研發(fā)組研發(fā)的軟件產(chǎn)品研發(fā)過程和投入運營之前的新增軟件和修改升級軟件的模塊測試和系統(tǒng)測試;建立、推廣并維護實施軟件版本管理系統(tǒng)CVS和VSS;使用并維護軟件缺陷管理系統(tǒng)Bugzilla,負責軟件問題解決過程跟蹤記錄;負責推廣實施軟件研發(fā)文件規(guī)范化工作,管理研發(fā)產(chǎn)品相關文件;負責配合軟件運維部門等對于新業(yè)務軟件或修改升級業(yè)務軟件的上線測試工作,并提供上線測試報告;負責監(jiān)督軟件研發(fā)流程的執(zhí)行,并負責提出軟件研發(fā)過程改進建議,提高軟件產(chǎn)品質(zhì)量。

4、1.2 軟件產(chǎn)品研發(fā)各部門的組織結(jié)構(gòu)分解1)華友公司從2003年10月開始,對項目組制訂明確指標的獨立考核,各研發(fā)部門是技術總監(jiān)帶隊,再細分各項目經(jīng)理具體負責項目計劃和執(zhí)行,對項目具體研發(fā)成員進行分工。對于測試部門制訂年度測試部門任務計劃/考核表,如SMS業(yè)務銷售額指標完成:目標1:9900萬(獎金提取比例為0.01);目標2:16800萬(獎金提取比例為0.02);目標3:23200萬(獎金提取比例為0.03)周詳給出財務目標和業(yè)務運營目標。在每周的研發(fā)經(jīng)理工作會議上交流報告任務進展情況,并提出最近測試需求,測試部門經(jīng)理負責制訂測試計劃、測試用例和測試實施方案,安排測試工程師和對應的研發(fā)人員

5、交流完成測試執(zhí)行工作。測試部經(jīng)理負責研發(fā)流程管理和人力資源、測試用軟硬件資源調(diào)配,需要和研發(fā)之外的部門定期交流掌控下周或近期可能測試任務,所有其他外部接口都由測試部經(jīng)理負責完成,和其他項目組和產(chǎn)品部門協(xié)調(diào)項目進度。2) 工作匯報關系為:研發(fā)部門:Team Member->Team Leader->研發(fā)總監(jiān)->研發(fā)部副總裁->總裁。測試部門:測試工程師->測試小組經(jīng)理->測試部經(jīng)理/總監(jiān)->研發(fā)部副總裁->總裁。3)項目成員結(jié)構(gòu):公司通常的研發(fā)項目組為6到8個研發(fā)人員,最多不超過10人。華友公司的經(jīng)過三次改造后的組織結(jié)構(gòu)和項目組結(jié)構(gòu),各個業(yè)務部門分

6、類非常細,任務明確,軟件研發(fā)的每一個步驟都有專門的部門、專門的人員負責,從最基礎的研發(fā)人員到負責統(tǒng)領全局的總監(jiān)和副總裁,層層管理,溝通渠道暢通。而在軟件測試上,由于有限的測試資源,首先體目前公司的組織結(jié)構(gòu)上,集中表現(xiàn)為測試部門不得不面對公司級管理部門的缺失和管理的交叉上,沒有質(zhì)量管理部門,部門質(zhì)量管理工作測試部門兼做。公司從成本角度考慮,測試部門規(guī)模較小,測試人員總數(shù)不超過10人,幾乎每個測試人員接收處理10個研發(fā)人員的測試任務需求。從實際情況出發(fā),首先明確測試部門和軟件研發(fā)部門相對獨立的組織關系,確保測試人員的工作不受研發(fā)小組的控制,實現(xiàn)測試客觀、公證。華友公司要想有效地保障產(chǎn)品質(zhì)量,首先就

7、要在構(gòu)架合理的組織結(jié)構(gòu)和測試流程上下功夫,這就如同蓋高樓首先要打好地基相同,地基不打牢,結(jié)構(gòu)和流程不合理,其他方面再下功夫也是徒勞。從實踐經(jīng)驗看,一年前首先成立測試部,把屬于研發(fā)部門的測試工程師歸口到獨立的測試部門管理,其次建立規(guī)范的測試流程,和研發(fā)部門交流,需求每周提出測試需求,再根據(jù)現(xiàn)有的資源制訂每周測試計劃,同時向人力資源部門提出招聘計劃,隨著測試工作的成績不斷被研發(fā)部門和上級領導認可,再推廣實施軟件研發(fā)過程規(guī)范化的管理,通過測試實踐的優(yōu)良成績來確立測試部門在公司的地位和作用,經(jīng)過一年的奮斗測試部門從無到有,從最初兩人到目前十人,軟件設置管理和缺陷跟蹤系統(tǒng)已被60%的研發(fā)人員自愿使用和接

8、收。 總結(jié)本人在華友一年多測試工作經(jīng)驗,深深體會到在國內(nèi)從事軟件項目研發(fā)難、從事軟件測試和質(zhì)量確保工作更難,需要具有扎實的技術功底同時,不斷提高測試項目管理能力,尋找工作的突破口。世上無難事,只怕有心人,不過只要你努力獻身于軟件測試工作,打出一片天地是有可能的。(待續(xù))2 設置管理系統(tǒng)是項目經(jīng)理的"眼睛",是軟件測試有效實施的前提 在軟件質(zhì)量體系的諸多支持活動中,設置管理系統(tǒng)處在支持活動的中心位置,他有機地把其他支持活動結(jié)合起來,形成一個整體,相互促 進,相互影響,有力地確保了質(zhì)量體系的實施。建立公司設置管理系統(tǒng)非常容易得到公司領導層的支持,幾乎沒人反對。更重要的是建立設置

9、管理系統(tǒng)后測試人員的工作有了系統(tǒng)確保,測試工作的"礦藏資源"有了明確的位置,能主動積極開展測試工作。2.1 項目管理存在的主要問題華友公司測試部門去年剛成立時,以建立、規(guī)范和推廣使用設置管理系統(tǒng)CVS為突破口,同時建立缺陷跟蹤系統(tǒng)Bugzilla提高測試流程的管理水平。我做為測試負責人首先分析華友公司幾個軟件項目在研發(fā)管理上的現(xiàn)狀,。存在問題一、公司幾個核心項目仍然過分分依賴少數(shù)個人的作用,沒有建立起協(xié)同作戰(zhàn)的氛圍,沒有科學的軟件設置管理流程; 技術上只重視系統(tǒng)和數(shù)據(jù)庫、研發(fā)工具的選擇,而忽視設置管理工具的選擇,導致即使有些項目有設置管理的規(guī)程,也由于可操作性差而擱淺。以上

10、種種原因?qū)е卵邪l(fā)過程中普遍存在如下一些問題: 調(diào)查說明華友研發(fā)成員的變動的比率達到30%,幾乎每周都有新加入的員工或辭職人員, 一個新成員熟悉項目的最佳途徑就是通過設置管理系統(tǒng)閱讀項目文件,甚至閱讀同行代碼,達到快速學習、一起提高的目的。一個辭職人員能利用設置管理系統(tǒng)保留部分一段時間工作,最大程度減少對項目研發(fā)造成的損失。 存在問題二、研發(fā)管理松散。領導了解工作完成情況重視口頭交流,忽視書面文件。有些部門主管無法確切得知項目的進展情況,項目經(jīng)理也不知道各研發(fā)人員的具體工作,項目進展隨意性非常大,可"左"可"右"。"左"時按領導下達的&

11、quot;期限"進行,到期時,似乎一切已順利完成,大家一陣胡弄,交差完成,反正領導看的是界面,至于里面是什么,留到施工時再說。施工時的工作因此變成了無法匯報、無法理清的無休止的維護。"右"時則項目工期無休止地延期。對我們軟件工程來說,總的特點是先"左"后"右"。在領導面前表現(xiàn)"左",在用戶面前表現(xiàn)"右"。有個測試人員經(jīng)常利用上班時間學習英語,過了一個多月,看她依然如此,我做為項目領導進行批評教育,這名員工并不認為自己錯了,她爭辯,公司采取彈性工作時間,考核員工是分配的任務是否完成等理由

12、。同時、我對她批評結(jié)果遭到她的惡意報復,她給有關領導報告新來的經(jīng)理怎么不懂公司業(yè)務,采取不適合公司的管理方式等,由于領導無法了解真相,使得我的工作在一段時間開展非常困難,直到過去半年,這名員工辭職出國學習領導才明白發(fā)生了什么。 存在問題三、項目之間溝通不夠。各個研發(fā)人員各自為政,每個項目經(jīng)理都像個"地主",編寫的代碼不僅風格各異,而且編碼和設計脫節(jié)。每個項目組的人力資源和硬件資源成了"私有財產(chǎn)",自己人員即使暫時空閑,讓他從事所謂的新技術研究,也不考慮友鄰項目需要他們幫助的現(xiàn)狀。本來研發(fā)中錯誤在所難免, 進展早一點的項目組或人力資源強的項目組已積累類似問

13、題的解決經(jīng)驗,也不愿意分享給其他項目組。 研發(fā)大量重復, 留下大量難維護的代碼。典型案例是有個短信項目D兩年來在這個研發(fā)人員Y 的研發(fā)支持下運轉(zhuǎn)效益非常好,不過三個月之前,研發(fā)人員 Y因為待遇問題和公司領導談判失敗,提出辭職。項目D仍然在運行,不過最近移動公司規(guī)范修改、系統(tǒng)升級,需要修改程式,沒人能看到及時更新的文件,盡管有一堆代碼庫,不過后來的程式員都沒辦法分析明白程式結(jié)構(gòu)。公司領導出面請研發(fā)人員Y來協(xié)助,因為沒有文件記錄,Y忙于新公司的工作也不能解決修改。 存在問題四、文件和程式嚴重脫節(jié)。軟件產(chǎn)品是公司的寶貴財富,代碼的重用率是相當高的,怎么建好知識庫,用好知識庫對公司優(yōu)質(zhì)高效研發(fā)產(chǎn)品,具

14、有重大的影響。但研發(fā)人員的一句名口號是:"叫我干什么都能,但別叫我看別人的程式"。當然,研發(fā)人員的工作態(tài)度要轉(zhuǎn)變,但客觀上有一個非常重要的原因是:前人留下的程式既無像樣的文件(即使留下了文件 ,其和源程式也嚴重脫節(jié)),研發(fā)風格又不統(tǒng)一,就像一堆垃圾,要研發(fā)人員到垃圾中去撿破爛,從這個角度上看,研發(fā)人員的需求是合理的。 存在問題五、測試工作不規(guī)范。仍然停留在"小姑娘做測試"的底水平上,傳統(tǒng)的研發(fā)方式中,測試工作只是人們的一種主觀愿望,根本無法提出具體的測試需求,加之研發(fā)人員的遮丑,測試工作往往是走一走過場,測試結(jié)果既無法考核又無法量化,當然就無法對以后的研

15、發(fā)工作起指導作用。 存在問題六、雖然項目施工時間不長,但軟件版本更新周期過短,幾乎每天都修改在線運行系統(tǒng),且研發(fā)人員必須親自現(xiàn)場或遠程登陸操作,全國十幾個地點軟件內(nèi)容多少都有點差別,這些差別都記錄在幾個骨干人物的腦袋里。 由于應用軟件的特點,各個不同的施工點有不同的需求,研發(fā)人員要手工地保持多份不同的拷貝,即使是相同的問題,但由于在不同地方提出,由不同人解決,其做法也不同,程式的可維護性越來越差。久而久之,最后連自已都分不清晰了,代碼的相互覆蓋現(xiàn)象時有發(fā)生,且這苦水還無法傾訴,因為怕別人笑話,甚至別人問起,還得想法搪塞,可謂費盡苦心。 2.2 建立設置管理系統(tǒng),規(guī)范項目管理流程,建立知識庫的同

16、時節(jié)約項目費用針對以上問題, 利用自己在Beijing Precom Inc, 普天潤匯等公司積累的經(jīng)驗,建立設置管理系統(tǒng)CVS, CVS 的全稱是Current Version Control. CVS是一種GNU 軟件包.由Intersolv公司研發(fā),他明確的將源文件的存儲和用戶的工作空間獨立開來, 并使其有利和并行研發(fā).這個工具屬于Open Source, ,CVS能在intenet 上非常方便的得到. 他的源碼在/pub1/unix/cvs 他的說明文件在/doc/cvs.所有人能非常方便的下載.目前他的最新版本是2.

17、10.8。 不必花錢,非??旖ⅲ攸c在于使用和推廣。配合項目經(jīng)理一起制定相應的設置管理策略,取得了非常好的成效。 2.2.1 節(jié)約費用 (1) 縮短研發(fā)周期 利用CVS對程式資源進行版本管理和跟蹤,建立公司的代碼知識庫,保存研發(fā)過程中每一過程版本,這樣大大提高了代碼的重用率,還便于同時維護多個版本和進行新版本的研發(fā),防止系統(tǒng)崩潰,最大限度地共享代碼。同時項目管理人員能通過Version 系統(tǒng)查看項目研發(fā)日志,測試人員能根據(jù)研發(fā)日志和不同版本對軟件進行測試,工程人員能從版本控制系統(tǒng)上得到不同的運行版本,并且能安裝在Web Server或在Unix操作系統(tǒng)上命令行方式存取供外地施工人員存取最新版

18、本,無需研發(fā)人員親臨現(xiàn)場。 利用CVS系統(tǒng),能大大提高研發(fā)效率,避免了代碼覆蓋、溝通不夠、研發(fā)無序的混亂局面,如果利用了公司原有的知識庫,則更能提高工作效率,縮短研發(fā)周期。 (2) 減少施工費用 利用CVS進行軟件設置管理后,建立研發(fā)管理規(guī)范,把版本管理檔案掛接在公司內(nèi)部的Web服務器上,工程人員能通過遠程進入內(nèi)部網(wǎng),獲取所需的最新版本。研發(fā)人員無需下現(xiàn)場,現(xiàn)場工程人員通過對方系統(tǒng)管理員收集反饋意見,書面提交到公司內(nèi)部研發(fā)組項目經(jīng)理,研發(fā)組內(nèi)部討論決定是否修改,并作出書面答復。這樣做,能同時響應多個項目點,防止研發(fā)人員分配到各個項目點、分散力量、人員不夠的毛病,同時節(jié)約大量的旅差費用。 2.2

19、.2 有利于知識庫的建立 (1) 代碼對象庫 軟件代碼是軟件研發(fā)人員腦力勞動的結(jié)晶,也是軟件公司的寶貴財富,長期研發(fā)過程中形成的各種代碼對象就像一個個零件坯相同,是快速生成系統(tǒng)的組成部分。長期的一個事實是:一旦某個研發(fā)人員離開工作崗位,其原來所作的代碼便基本成為垃圾,無人過問。究其原因,就是沒有專門對各人的有用對象進行管理,把其使用范圍擴大到公司一級,進行規(guī)范化,加以說明和普及。CVS系統(tǒng)為研發(fā)管理提供了一個平臺和倉庫,有利于建立公司級的代碼對象庫。 (2) 業(yè)務及經(jīng)驗庫 通過CVS的注釋,可形成完整的研發(fā)日志及問題集合,以文字方式伴隨研發(fā)的整個過程,不依某個人的轉(zhuǎn)移而消失,有利于公司積累業(yè)務

20、經(jīng)驗,無論對版本整改或版本升級,都具有重要的指導作用。 2.2.3 規(guī)范管理 (1) 量化工作量考核 傳統(tǒng)的研發(fā)管理中,工作量一直是難以估量的指標,靠研發(fā)人員自已把握,隨意性相當大;靠管理人員把握,主觀性又太強。采用CVS管理后,研發(fā)人員每天下班前對修改的文件 Check In,其中記述當天修改細節(jié)描述,這些描述能作為工作量的衡量指標。 (2) 規(guī)范測試 采用CVS以后,測試有了實實在在的工作,測試工作人員根據(jù)每天的修改細節(jié)描述對每一天的工作做具體的測試,對測試人員也具有可考核性,這樣環(huán)環(huán)相扣,大大減少了其工作的隨意性。 (3) 加強協(xié)調(diào)和溝通 采用CVS后,通過VSS文件共享系統(tǒng)和 Bugz

21、illa缺陷跟蹤系統(tǒng),大大加強了項目成員之間的溝通,做到有問題及時發(fā)現(xiàn)、及時修改、及時通知,但又不額外增加非常多的工作量。3 性能測試是軟件測試專業(yè)化的核心所在 從華友實踐看,軟件測試對于產(chǎn)品經(jīng)理、研發(fā)經(jīng)理和市場經(jīng)理都有所認識,他們大部分人會認為功能測試工作他們能夠非常好的完成,產(chǎn)品經(jīng)理是公司對于業(yè)務最熟悉的 一批人,他們對于測試工程師最急切的需求是你幫我實施產(chǎn)品的性能測試工作,他們聽說過性能測試,我們的產(chǎn)品投入在線運行后碰到的最大故障是大用戶量訪問業(yè)務是機器凼機,或停止正常的服務,每次故障,幾乎給公司的收入都造成非常大損失。如果測試部門能有一套有效的性能測試手段,就確立了測試部門在項目研發(fā)過

22、程中關鍵地位。性能測試在華友軟件的質(zhì)量確保中起著非常重要的作用,將性能測試概括為四個方面:Wap無線應用服務在手機用戶端性能測試、 Web/Wap應用服務在客戶端性能的測試、應用在網(wǎng)絡上性能的測試和應用在服務器端性能的測試。通常情況下, 四方面有效、合理的結(jié)合,能達到對系統(tǒng)性能全方面的分析和瓶頸的預測。3.1 Wap無線應用服務在手機用戶端性能測試如今人人用手機都追求時尚,時尚體目前款式, 品牌和功能。手機產(chǎn)品功能的日新月異,移動增值業(yè)務功能層出不窮,從最初的短信、彩信、鈴聲到GPRS,CDMA,K-Java, Brew手機,功能的多樣性帶來手機用戶端軟件系統(tǒng)測試的復雜性。眾所周知, Java

23、手機吸引人之處是能提供智能的, 個人化的互動服務, 例如: 動態(tài)產(chǎn)生個人化的股市服務, 顯示圖像, 動畫, 實時路況, 氣象報告, 數(shù)字照像, 玩游戲等, 部分服務能直接于用戶端執(zhí)行。為了提供如此生動的服務, 移動通信系統(tǒng)要能給終端用戶在無線裝置上提供接入互連網(wǎng)的功能, 要能儲存、提取、管理、計算、結(jié)帳、下載軟件服務, 并使內(nèi)容提供商能提供豐富的聲像多媒體內(nèi)容, 形成廣大的個人化交互式服務環(huán)境。 而作為移動用戶, 可將手機視作虛擬機, 能隨時、隨地在適當?shù)难b置上存取應用, 享受服務。 這確是一種時尚。當前, 對于不同品牌的手機, 他們所用的平臺(指CPU和操作系統(tǒng))各不相同, 由于采用不同的設

24、計方案, 各設計之間缺乏兼容性, 操作系統(tǒng)和二進制代碼都不兼容。 當手機運行需要大量內(nèi)存時, 特別是隨著接入互連網(wǎng), 手機用戶需求能使用個性化的 交互式應用軟件, 應用程式運行在虛擬運行環(huán)境下時, 問題顯得尤為突出。 所以, 有必要建立一種標準的通用運行平臺, 達到在合適的成本下提供統(tǒng)一的交互式應用軟件運行環(huán)境。 不過, 除非該平臺是基于完全標準的器件, 否則是難以達到需求的。 標準的通用的運行平臺是滿足運營商, 軟件研發(fā)商, 和終端用戶三者綜合需求的解決辦法。 最佳的環(huán)境必須具有以下性質(zhì):(1)、平臺應提供二進制兼容性。 可執(zhí)行軟件是二進制目標碼, 需要在處理器和應用軟件目標碼之間建立溝通;

25、(2)、平臺必須包括微處理器,或一個和微處理器機器代碼相離的通用機器碼仿真器; (3)、平臺應包括帶有應用程式接口API及支持一致性圖像用戶界面GUI相應功能的操作系統(tǒng)。 API 是執(zhí)行典型操作功能的軟件功能庫, 例如打開文件, 讀寫數(shù)據(jù), 設置和管理內(nèi)存, 處理事件, 顯示文件和圖像等。 為使應用軟件真正做到可移植, 裝置上必須有公共功能集, 并讓軟件研發(fā)者能通過一致性API 擴展功能;(4)、平臺不應需求過多的系統(tǒng)資源, 可移植性設備不應使成本上升太多;(5)、平臺應對功率有高效率, 尤其考慮用電池供電的設備;(6)、由于要在互連網(wǎng)上應用, 安全性也是重要因素。以Java手機軟件測試為例潛

26、在的測試問題和解決辦法Java有移植性好和其他非常多優(yōu)勢, 但用在手機上, 速率和功耗仍是個瓶頸。 Java帶來的新問題是執(zhí)行速度慢, 消耗功率大。 和PC不同的是, 手機資源有限, 一般流行的手機中CPU的速率為26MHz, 或52MHz,帶128M閃存, 8Mb, 16M 或64Mb內(nèi)存, 沒有硬盤, 由電池供電, 體積小, 空間窄。 系統(tǒng)慢的原因是: (1) 系統(tǒng)必須同時運行兩套軟件: Java應用和虛擬機JVM; (2) Java軟件需要被翻譯成自然CPU指令; (3) Java平臺是基于棧(相對于寄存器)結(jié)構(gòu)的, 導致更多的內(nèi)存存取。因而, 怎么對執(zhí)行 Java加速成為關鍵。 加速處

27、理數(shù)據(jù)和圖像, 這對手機上互連網(wǎng)和多媒體的應用具有重要意義。 要克服這些問題, 提高Java軟件性能, 可能的方法有四種:(1) 提高微處理器速率。 然而Java軟件性能和時鐘頻率并不成線性關系, 微處理器運行一般比內(nèi)存存取時間高2-10倍, 增加時鐘頻率只會增加等待周期。(2) 對JVM軟件進行優(yōu)化。 這可能涉及到要用匯編語言對字節(jié)碼翻譯環(huán)路進行編程, 而這會導致JRE變得和微處理器類別有關。 而和可移植相抵觸;(3) 編譯。 將軟件直接編譯到微處理器的自然機器語言。 不過這會增加內(nèi)存的開銷, 也不節(jié)省能量的消耗。(4) 采用基于硬件的加速器。 這能做到提高性能, 保障能量和成本的有效性。

28、被手機設計廠商認為是較最佳的措施。 通用型Java加速芯片于今年年初問世。3.2 分析Web/Wap應用服務在客戶端性能的測試 Web/Wap應用服務在客戶端性能測試的目的是考察客戶端應用的性能,測試的入口是客戶端。他主要包括并發(fā)性能測試、大數(shù)據(jù)量測試和速度測試等,其中并發(fā)性能測試是重點。 并發(fā)性能測試的過程是個負載測試和壓力測試的過程,即逐漸增加負載,直到系統(tǒng)的瓶頸或不能接收的性能點,通過綜合分析交易執(zhí)行指標和資源監(jiān)視指標來確定系統(tǒng)并發(fā)性能的過程。負載測試(Load Testing)是確定在各種工作負載下系統(tǒng)的性能,目標是測試當負載逐漸增加時,系統(tǒng)組成部分的相應輸出項,例如通過量、響應時間、

29、CPU負載、內(nèi)存使用等來決定系統(tǒng)的性能。負載測試是個分析軟件應用程式和支撐架構(gòu)、模擬真實環(huán)境的使用,從而來確定能夠接收的性能過程。壓力測試(Stress Testing)是通過確定一個系統(tǒng)的瓶頸或不能接收的性能點,來獲得系統(tǒng)能提供的最大服務級別的測試。 并發(fā)性能測試的目的主要體目前三個方面:以真實的業(yè)務為依據(jù),選擇有代表性的、關鍵的業(yè)務操作設計測試案例,以評價系統(tǒng)的當前性能;當擴展應用程式的功能或新的應用程式將要被部署時,負載測試會幫助確定系統(tǒng)是否還能夠處理期望的用戶負載,以預測系統(tǒng)的未來性能;通過模擬成百上千個用戶,重復執(zhí)行和運行測試,能確認性能瓶頸并優(yōu)化和調(diào)整應用,目的在于尋找到瓶頸問題。

30、 我們公司自己組織力量同時委托第三方軟件HG公司研發(fā)Hawa網(wǎng)站的一套應用Avatar形象系統(tǒng)的時候, Avatar形象在網(wǎng)站業(yè)務中占有著重要的位置,網(wǎng)站上的非常多業(yè)務都是圍繞Avatar開展。 這套系統(tǒng)能不能承受大量的并發(fā)用戶同時訪問? 成為這個網(wǎng)站能否成功的關鍵,也是這次兩個公司合做研發(fā)能否順利完成的關鍵。這類問題最常見于采用聯(lián)機事務處理(OLTP)方式數(shù)據(jù)庫應用、Web瀏覽和視頻點播等系統(tǒng)。這種問題的解決要借助于科學的軟件測試手段和先進的測試工具。 Web軟件測試實例說明:哈哇網(wǎng)站Avatar形象系統(tǒng)軟件。Avatar形象系統(tǒng)在上線試運行三個月后,所有的功能測試順利完成,軟件功能缺陷也修

31、改完畢。不過,性能問題越來越成為項目經(jīng)理關心的焦點,我們測試部門借助比較熟悉的壓力測試工具Web Stress 實施客戶端性能測試進行100,500,1000等并發(fā)用戶訪問。每次測試主要在基于URL:這個性能問題經(jīng)過HG公司研發(fā)人員近三個月改進,/index.jsp頁面的1000個用戶并發(fā)響應時間10秒左右。對于我方采用的Web Stress性能測試工具HG公司也認同其測試結(jié)果的客觀性,公司因為該軟件性能問題推遲支付對方經(jīng)費200萬圓三個月,更重要的是軟件的性能問題得到非常好解決,并和HG公司的關系非常好保持。另外一個更大的收獲是測試部門在Web 產(chǎn)品部門有個非常好的形象,他們每次新軟件產(chǎn)品需

32、求提出、產(chǎn)品上線都主動需求測試部門參和并實施嚴格測試。怎么模擬實際情況呢? 找若干臺計算機和同樣數(shù)目的操作人員在同一時刻進行操作,然后拿秒表記錄下反應時間? 這樣的手工作坊式的測試方法不切實際,且無法捕捉程式內(nèi)部變化情況,這樣就需要壓力測試工具的輔助。 測試的基本策略是自動負載測試,通過在一臺或幾臺PC機上模擬成百或上千的虛擬用戶同時執(zhí)行業(yè)務的情景,對應用程式進行測試,同時記錄下每一事務處理的時間、中間件服務器峰值數(shù)據(jù)、數(shù)據(jù)庫狀態(tài)等。通過可重復的、真實的測試能夠完全地度量應用的可擴展性和性能,確定問題所在及優(yōu)化系統(tǒng)性能。預先知道了系統(tǒng)的承受力,就為最終用戶規(guī)劃整個運行環(huán)境的設置提供了有力的依據(jù)

33、。 并發(fā)性能測試前的準備工作 測試環(huán)境:設置測試環(huán)境是測試實施的一個重要階段,測試環(huán)境的適合和否會嚴重影響測試結(jié)果的真實性和正確性。測試環(huán)境包括硬件環(huán)境和軟件環(huán)境,硬件環(huán)境指測試必需的服務器、客戶端、網(wǎng)絡連接設備及打印機/掃描儀等輔助硬件設備所構(gòu)成的環(huán)境;軟件環(huán)境指被測軟件運行時的操作系統(tǒng)、數(shù)據(jù)庫及其他應用軟件構(gòu)成的環(huán)境。 一個充分準備好的測試環(huán)境有三個好處:一個穩(wěn)定、可重復的測試環(huán)境,能夠確保測試結(jié)果的正確;確保達到測試執(zhí)行的技術需求;確保得到正確的、可重復的及易理解的測試結(jié)果。 測試工具:成熟的并發(fā)性能測試工具有非常多,選擇的依據(jù)主要是測試需求和性能價格比。著名的并發(fā)性能測試工具有QALo

34、ad、LoadRunner、Benchmark Factory、 Webstress和AB-Apache等。這些測試工具都是自動化負載測試工具,通過可重復的、真實的測試,能夠完全地度量應用的可擴展性和性能,能在整個研發(fā)生命周期、跨越多種平臺、自動執(zhí)行測試任務,能模擬成百上千的用戶并發(fā)執(zhí)行關鍵業(yè)務而完成對應用程式的測試。 測試數(shù)據(jù):在初始的測試環(huán)境中需要輸入一些適當?shù)臏y試數(shù)據(jù),目的是識別數(shù)據(jù)狀態(tài)并且驗證用于測試的測試案例,在正式的測試開始以前對測試案例進行調(diào)試,將正式測試開始時的錯誤降到最低。在測試進行到關鍵過程環(huán)節(jié)時,非常有必要進行數(shù)據(jù)狀態(tài)的備份。制造初始數(shù)據(jù)意味著將合適的數(shù)據(jù)存儲下來,需要的

35、時候恢復他,初始數(shù)據(jù)提供了一個基線用來評估測試執(zhí)行的結(jié)果。 在測試正式執(zhí)行時,還需要準備業(yè)務測試數(shù)據(jù),比如測試并發(fā)查詢業(yè)務,那么需求對應的數(shù)據(jù)庫和表中有相當?shù)臄?shù)據(jù)量及數(shù)據(jù)的種類應能覆蓋全部業(yè)務。 模擬真實環(huán)境測試,有些軟件,特別是面向大眾的商品化軟件,在測試時常常需要考察在真實環(huán)境中的表現(xiàn)。如測試殺毒軟件的掃描速度時,硬盤上布置的不同類型文件的比例要盡量接近真實環(huán)境,這樣測試出來的數(shù)據(jù)才有實際意義。 并發(fā)性能測試的關鍵的是測試過程中對監(jiān)視對象的靈活應用,例如目前三層結(jié)構(gòu)的運行模式廣泛使用,對中間件的并發(fā)性能測試作為問題被提到議事日程上來,許多系統(tǒng)都采用了國產(chǎn)中間件,選擇Java Script監(jiān)

36、視對象,手工編寫腳本,能達到測試目的。 采用自動化負載測試工具執(zhí)行的并發(fā)性能測試,基本遵循的測試過程有:測試需求和測試內(nèi)容,測試案例制定,測試環(huán)境準備,測試腳本錄制、編寫和調(diào)試,腳本分配、回放設置和加載策略,測試執(zhí)行跟蹤,結(jié)果分析和定位問題所在,測試報告和測試評估。 3.3 應用在網(wǎng)絡上性能的測試 應用在網(wǎng)絡上性能的測試重點是利用成熟先進的自動化技術進行網(wǎng)絡應用性能監(jiān)視、網(wǎng)絡應用性能分析和網(wǎng)絡預測。 網(wǎng)絡應用性能分析 網(wǎng)絡應用性能分析的目的是準確展示網(wǎng)絡帶寬、延遲、負載和TCP端口的變化是怎么影響用戶的響應時間的。利用網(wǎng)絡應用性能分析工具,例如Application Expert,能夠發(fā)現(xiàn)應用

37、的瓶頸,我們可知應用在網(wǎng)絡上運行時在每個階段發(fā)生的應用行為,在應用線程級分析應用的問題。能解決多種問題:客戶端是否對數(shù)據(jù)庫服務器運行了不必要的請求?當服務器從客戶端接受了一個查詢,應用服務器是否花費了不可接受的時間聯(lián)系數(shù)據(jù)庫服務器?在投產(chǎn)前預測應用的響應時間;利用Application Expert調(diào)整應用在廣域網(wǎng)上的性能;Application Expert能夠讓你快速、容易地仿真應用性能,根據(jù)最終用戶在不同網(wǎng)絡設置環(huán)境下的響應時間,用戶能根據(jù)自己的條件決定應用投產(chǎn)的網(wǎng)絡環(huán)境。 網(wǎng)絡應用性能監(jiān)視 在系統(tǒng)試運行之后,需要及時準確地了解網(wǎng)絡上正在發(fā)生什么事情;什么應用在運行,怎么運行;多少PC正

38、在訪問LAN或WAN;哪些應用程式導致系統(tǒng)瓶頸或資源競爭,這時網(wǎng)絡應用性能監(jiān)視及網(wǎng)絡資源管理對系統(tǒng)的正常穩(wěn)定運行是非常關鍵的。利用網(wǎng)絡應用性能監(jiān)視工具,能達到事半功倍的效果,在這方面我們能提供的工具是Network Vantage。通俗地講,他主要用來分析關鍵應用程式的性能,定位問題的根源是在客戶端、服務器、應用程式還是網(wǎng)絡。在大多數(shù)情況下用戶較關心的問題更有哪些應用程式占用大量帶寬,哪些用戶產(chǎn)生了最大的網(wǎng)絡流量,這個工具同樣能滿足需求。 網(wǎng)絡預測 考慮到系統(tǒng)未來發(fā)展的擴展性,預測網(wǎng)絡流量的變化、網(wǎng)絡結(jié)構(gòu)的變化對用戶系統(tǒng)的影響非常重要。根據(jù)規(guī)劃數(shù)據(jù)進行預測并及時提供網(wǎng)絡性能預測數(shù)據(jù)。我們利用網(wǎng)

39、絡預測分析容量規(guī)劃工具PREDICTOR能作到:設置服務水平、完成日網(wǎng)絡容量規(guī)劃、離線測試網(wǎng)絡、網(wǎng)絡失效和容量極限分析、完成日常故障診斷、預測網(wǎng)絡設備遷移和網(wǎng)絡設備升級對整個網(wǎng)絡的影響。 從網(wǎng)絡管理軟件獲取網(wǎng)絡拓撲結(jié)構(gòu)、從現(xiàn)有的流量監(jiān)視軟件獲取流量信息(若沒有這類軟件可人工生成流量數(shù)據(jù)),這樣能得到現(xiàn)有網(wǎng)絡的基本結(jié)構(gòu)。在基本結(jié)構(gòu)的基礎上,可根據(jù)網(wǎng)絡結(jié)構(gòu)的變化、網(wǎng)絡流量的變化生成報告和圖表,說明這些變化是怎么影響網(wǎng)絡性能的。 PREDICTOR提供如下信息:根據(jù)預測的結(jié)果幫助用戶及時升級網(wǎng)絡,避免因關鍵設備超過利用閥值導致系統(tǒng)性能下降;哪個網(wǎng)絡設備需要升級,這樣可減少網(wǎng)絡延遲、避免網(wǎng)絡瓶頸;根據(jù)

40、預測的結(jié)果避免不必要的網(wǎng)絡升級。3.4 應用在服務器上性能的測試 首先分析服務器的類型,服務器的劃分起碼能依據(jù)四大部分進行。一是根據(jù)整個架構(gòu),可分為IA服務器和RISC服務器;二是按照硬件設置的差別可分為工作組級、部門級、企業(yè)級;三是按照具體安裝的應用軟件可分為Web服務器、文件服務器、FTP服務器、E-mail服務器、數(shù)據(jù)庫服務器等等;四是根據(jù)操作系統(tǒng)分為WINDOWS陣營、UNIX陣營。這四大分類有所關聯(lián),但其中按應用分類是最能給用戶清晰概念的。因為用戶在采購選型時,總是先想好了拿他做什么用的。Intel最近所提出的前端(用于接入等)、中端(用于各種應用和中間件)和后端(用于數(shù)據(jù)庫、在線分

41、析等)的分類辦法,這也是從應用角度考慮的。分析服務器性能指標莫不聚焦于三大指標:CPU、I/O及Web。如果大家還記得圖靈機的話,應該對計算單元和輸入輸出的重要不會抱什么懷疑的態(tài)度。至于選擇Web作為衡量服務器性能的要點,只能說是網(wǎng)絡的力量。Internet的大行其道讓我們非常難想象有服務器孤島出現(xiàn)。工程師往往通過給和被測服務器不斷增加的并發(fā)式文件讀寫、數(shù)據(jù)庫操作及HTTP訪問來取得其最大的潛值。以Web測試為例,衡量Web性能一般有下列幾個重要指標:HTTP 每秒交易數(shù)(Transaction Per Second);每秒會話數(shù)(Sessions Per Second);當前用戶數(shù)(Conc

42、urrent users);吞吐量(Throughput)。HTTP TPS通常也叫做每秒的點擊數(shù);每秒會話數(shù)是每秒到達Web服務器的用戶數(shù);當前用戶數(shù)是特定時間在Web 站點上的用戶數(shù);吞吐量是在特定時間由Web站點發(fā)出的數(shù)據(jù)流量帶寬,他和服務器提供服務的內(nèi)容和交易數(shù)相關。以上將是我們對測試結(jié)果進行評述和點評的重要技術基礎。4 項目管理研發(fā)環(huán)節(jié)的測試任務 當公司構(gòu)架了合理的組織結(jié)構(gòu)并制定了縝密的計劃后,就進入了產(chǎn)品的研發(fā)階段。 下面以已實施完成的CYB項目一期為例,分析華友公司在項目管理上的正在推廣的具體 項目管理細節(jié)的優(yōu)缺點和測試工作改進探討:CYB項目一期需求:由于華友各類業(yè)務(SMS和

43、WAP等)在不同運營商(中國聯(lián)通、中國移動、中國電信等)的不同平臺和在網(wǎng)站 的WEB門戶中向用戶提供服務,各類業(yè)務的相互獨立,為了統(tǒng)一管理用戶信息、業(yè)務和計費等信息,并匯總進行統(tǒng)計分析處理,同時也為了整合各類業(yè)務系統(tǒng)的資源,建立公司的業(yè)務運營支撐系統(tǒng)。4.1 研發(fā)階段和項目周期研發(fā)階段比較明顯,注重各階段應完成的功能,對本階段應完成的工作不能留到下一階段。明確項目經(jīng)理為D,項目組研發(fā)程式員六人,項目第一階段周期3個月,項目需要完成的功能:1)實現(xiàn)用戶信息的統(tǒng)一管理,包括:用戶基本信息,用戶使用業(yè)務的積分,用戶的制定/退定信息的管理2)實現(xiàn)各類業(yè)務信息的集中管理,包括:短信業(yè)務、WAP1.2、W

44、AP2.0、JAVA、彩鈴等各種業(yè)務3)實現(xiàn)計費信息的統(tǒng)一管理4)提供客服功能5)提供統(tǒng)計分析功能6)提供統(tǒng)一的標準接口,分別和各業(yè)務子系統(tǒng)及運營商的系統(tǒng)相連接7)提供網(wǎng)絡管理、監(jiān)視等功能在這個階段,測試經(jīng)理需要負責周詳了解項目研發(fā)需要的需求、設計文件等,制訂初步的測試方案,根據(jù)測試任務的特點決定測試研發(fā)任務。實際結(jié)果表明研發(fā)階段的最大兩個問題:重視設計、不重視測試和軟件質(zhì)量,設計會議開了至少五次,參加會議有公司非常有經(jīng)驗的設計人員,測試有關人員沒有被邀請參加,忽視產(chǎn)品的性能需求,更多的關注基本功能實現(xiàn);忽視需求是客服和運維人員,自以為非常理解市場部提出的需求,忽視程式研發(fā)人員實現(xiàn)的難度和研發(fā)

45、人員之間理解需求的差別,項目組成員之間重視口頭交流,忽視文件價值。問題解決方法:開始階段請測試和質(zhì)量確保工程師參加討論,就會提出軟件實現(xiàn)的性能需求;重視文件交流的價值,建立軟件文件模版和版本控制機制,每次交流落實在成員理解和書面文件。4.2 軟件研發(fā)流程華友公司原來是重視項目管理,忽視流程,一味夸大個別人努力在項目成功中的作用。經(jīng)過一年痛苦的實踐,開始探討流程管理,已啟動公司的SW-CMM質(zhì)量體系認證工作,希望建立非常規(guī)范化和系統(tǒng)化的軟件研發(fā)流程,其流程的有非常高的可執(zhí)行性,并且能在實踐過程中不斷改進。華友公司的流程管理改進從一個項目研發(fā)的所有方面開始摸索,包括從最開始的意向、市場策劃到最后軟

46、件的版本發(fā)布(release)上線投入商業(yè)運營,都設計有相應的流程規(guī)定,基本上已由測試部門負責推廣一種能夠達到規(guī)范、高效的軟件研發(fā)流程。CYB項目經(jīng)理D重視口頭交流溝通,忽視文件交流,同時缺少和項目組成員知識共享意識;經(jīng)理D重視和領導的交流,忽視和研發(fā)人員交流,項目實施中研發(fā)人員碰到具體問題沒人協(xié)助解決,研發(fā)效率降低。雖然流程沒錯,不過流程涉及到研發(fā)人員出現(xiàn)問題也是需要重視的。流程管理的關鍵,以"人"為本。目前的組織框架下,經(jīng)過一年多的工作實踐,深深體會到人和流程是確保項目成功的兩個最關鍵因素。由具有項目實施基本素質(zhì)的人按規(guī)范的合理化流程進行項目研發(fā),才能最大限度地確保項目

47、的成功。一個好的流程能確保差一點的人做出來的東西不至于太差,但不能確保做出精品。通過流程能實現(xiàn)一種規(guī)范化、流水線化、工業(yè)化的軟件研發(fā)。通過流程我們部門間的配合才節(jié)省寶貴時間,為項目早期完成,贏得市場主動權(quán)。4.3 項目計劃的階段性1) 努力做到項目計劃周詳、周到。CYB項目計劃從開始有三個月計劃,到修改三次以上,計劃完成時間從三個月、延長到六個月、直到目前的八個月。計劃已形同虛設。實踐證實不合理的計劃不如沒有計劃,不合理的計劃給領導造成錯誤的認識。合理的計劃應該是先明確本周工作計劃,對于難以預測的任務或困難給出一個近期工作的方向,然后根據(jù)實際進展情況進行細化調(diào)整。2) 流程中明確定義研發(fā)階段、

48、測試階段。研發(fā)階段任務沒有完成,占用測試階段計劃時間,測試工作效率降低。正確的處理方式建議不要減少測試工作時間,項目研發(fā)完成時間根據(jù)實際需要順延。3) 每個階段都列出了該階段的各項活動,并周詳描述每項活動的屬性:進入條件,輸入;驗證方法;結(jié)束條件,輸出。4) 每個階段結(jié)束都要召開階段結(jié)束會議。前一個階段結(jié)束(以本階段研發(fā)任務測試完成為標志)才能進入下一階段。項目經(jīng)理需要在每個階段測試任務完成情況進行分析,存在的問題要充分暴露出來,以便于早點解決。 CYB項目經(jīng)理D采取報喜不報優(yōu)的做法,在會議上常得到領導的表揚,其他項目經(jīng)理常愁眉苦臉擺出人員問題、可能的技術問題、測試人員和時間問題等。實際結(jié)果最

49、后笑的項目經(jīng)理也是項目完成比較順利。5) 最佳計劃中每個活動都比較具體,每個活動的時間以天為單位。計劃包括了開展質(zhì)量控制活動的時間,推廣說明版本控制系統(tǒng)和缺陷跟蹤系統(tǒng)的使用的時間。典型案例是公司研發(fā)用于用戶信息管理的代號CYB項目,CYB項目開始時副總裁牽頭,由于測試人員少沒有參和,研發(fā)經(jīng)理們討論設計實施方案后幾乎大家一片贊美。隨后項目經(jīng)理D負責研發(fā),他認為時間緊,省去了許多必須的文件工作。經(jīng)理D采取報喜不報優(yōu)的做法,項目文件差,過分強調(diào)計劃,而忽視計劃任務達到的質(zhì)量,大部分項目測試沒有完成就宣布研發(fā)完成,結(jié)果前三個月每次經(jīng)理會上總裁都會表揚他們?nèi)〉玫碾A段成果,我做為測試經(jīng)理沒有說話的機會,有

50、一次剛講幾句,總裁馬上提醒希望大家克服困難,每個組的任務都可能需要加班等。結(jié)果原計劃三個月完成項目,已過了半年發(fā)現(xiàn)要實現(xiàn)商用還需要做非常多工作,具體完成時間也不確定, 可是目前每天總是強調(diào)專人測試,問文件沒有,只能通過問了一次又一次的溝通方式實施測試工作, 有個不錯的測試人員實在無法忍耐,辭職了,我只好安排新的測試人員應對完成任務。這個CYB項目遭到了整個公司的一片噓聲,雖然沒有放棄,但沒有商業(yè)價值了???個月的研發(fā)成本老本最清晰去那兒了??偨Y(jié)教訓,項目經(jīng)理對計劃和測試工作的高度重視、周密制定、嚴格執(zhí)行是能夠?qū)崿F(xiàn)項目有效商業(yè)價值的基本保障。4.4 重視Review的作用按軟件工程規(guī)范化流程,一般把Review和測試作為確保軟件質(zhì)量兩個主要手段。測試的重要性已成為各項目經(jīng)理認識,并貫穿于研發(fā)的全過程,形成了項目組成員人人重視測試工作的氛圍。Review則是個非常簡單有效并能盡早發(fā)現(xiàn)軟件中錯誤的有效方法,項目經(jīng)理在每周必須根據(jù)進展情況制訂Review計劃,能說,所有交付物都要經(jīng)技術總監(jiān)參加的Review后才能進行基線化。目前華友公司正在建立比較周詳全方面、可執(zhí)行性高的由Review流程和各種交付物的Review Checklist。我們正在彌補這方面的工作流程缺陷,提出:凡事有計劃,凡事必review。首先在研發(fā)組內(nèi)部推廣代碼規(guī)范化工作,定期進行員工

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論