一種改進的AdaBoost算法_ADAdaBoost_圖文

1、第30卷第1期2007年1月計算機學報C HIN ESE J OU RNAL OF COM PU TERSJan.2007一種改進的Ada Boost 算法AD Ada Boost李闖丁曉青吳佑壽(清華大學電子工程系北京100084A R evised Ada Boost Algorithm AD Ada BoostL I Chuang DIN G Xiao 2Qing WU Y ou 2Shou(Depart ment of Elect ronic Engineering ,Tsinghua Universit y ,Bei j ing 100084Abstract Object detec

2、tion is one of t he mo st pop ular and important issues in t he domain of com 2p uter vision.AdaBoo st algorit hm based on cascade st ruct ure can solve t he p roblem effectively ,however it has it s own shortcoming.This paper p ropo ses a revised type of AdaBoost algorit hm ,AD AdaBoo st.AD AdaBoo

3、st adopt s a new met hod to acquire parameters.The weighted parame 2ters of weak classifiers are determined not o nly by t he error rates ,but also by t heir abilities to recognize t he positive samples.The algorit hm can decrease t he classifiers false alarm rates in t he low false rejection rate e

4、nd ,so it is more adaptive to t he object detection based on cascade struc 2t ure.The experiment result s p rove t he imp rovement achieved by t he new algorit hm.K eyw ords AD AdaBoost ;object detection ;cascade structure ;weak classifier ;weighted parameter1引言目標檢測問題是計算機視覺領(lǐng)域最普遍和關(guān)鍵的問題之一.在很多情況下,人們往往只

5、關(guān)心觀測信號中某些特定的目標,比如雷達信號中敵方飛機的信號;觀測圖像中的文字或者人臉等等.因此尋找準確快速的目標檢測算法一直受到研究者們的廣泛關(guān)注.在目標檢測問題中,代表目標信號的正樣本和代表背景信號的負樣本在概率分布上是極度不均衡的,兩者在重要性上也存在差異,這使得目標檢測問題可以被看作是一個非對稱的兩類分類問題.由于問題的非對稱性,在設計分類器時,整體的分類錯誤率不再是決定性的指標,必須對正負樣本的分類錯誤率分別加以考慮.另外,在對分類器進行學習的過程中,容易得到足夠的代表檢測目標的正訓練樣本,但卻難以得到能代表各種背景信號的足夠的負樣本集合,負樣本的匱乏增加了分類器學習和訓練的困難.針對

6、目標檢測問題的特點,研究者們采用了多種學習算法進行了嘗試.Papageorgiou采用基于冗余小波特征的支持向量機(SVM來構(gòu)建檢測算法1.Schneiderman提出了一個基于多尺度小波變換的貝葉斯分類器來進行檢測2.Rowley在人臉檢測系統(tǒng)中使用的是神經(jīng)網(wǎng)絡的方法3.Viola和Jones則提出了一個基于級聯(lián)結(jié)構(gòu)的AdaBoost分類器4,級聯(lián)結(jié)構(gòu)由多級分類器組成,每一級的分類器都采用AdaBoo st算法進行訓練.對比其它的算法,Viola和Jones所提出的基于級聯(lián)結(jié)構(gòu)的AdaBoo st算法在解決實際應用問題時更為有效.該算法在人臉檢測的研究中被廣泛地加以采用,取得了很好的結(jié)果.該

7、算法通過AdaBoost學習算法將多個弱分類器集成得到一個強分類器,具備很強的泛化能力,保證了算法的穩(wěn)定性.同時,由于采取了級聯(lián)結(jié)構(gòu),大多數(shù)的負樣本都在前面比較簡單的級次中被濾除,提高了檢測的速度.級聯(lián)結(jié)構(gòu)還提供了方便的采集負訓練樣本的方法,將前面級次中誤識的負樣本作為下一個級次分類器的負訓練樣本.正因為基于級聯(lián)結(jié)構(gòu)的AdaBoo st算法的這些特點符合目標檢測問題的要求,所以在實踐中取得了成功.Viola等在人臉檢測中采用了傳統(tǒng)的AdaBoo st 算法,其訓練過程中參數(shù)的選擇準則是訓練集錯誤率上界的最小化.但是,錯誤率上界的最小化并不能保證錯誤率的最小化.因而,AdaBoo st分類器實際

8、上并不是最小錯誤率的分類器.因此,仍然有可能對其進行改進,以獲得更好的錯誤率性能.更重要的是,傳統(tǒng)的AdaBoost算法是基于對稱的兩類分類問題的,正樣本的錯誤率FR R和負樣本的錯誤率FA R在訓練過程中處于平等的地位,而在目標檢測問題通常采用的級聯(lián)結(jié)構(gòu)中,這樣的假設不再成立.對于一個具有5個級次的級聯(lián)結(jié)構(gòu)分類器來說,如果每一級的FR R和FA R均為10%,那么最后整體級聯(lián)結(jié)構(gòu)的FR R和FA R分別為41%(1-01950141和01001%(0115= 0100001.顯然,FR R這么高的分類器是無法滿足檢測要求的.在級聯(lián)結(jié)構(gòu)中,要達到整體分類器對FR R的要求,每一級的分類器必須具

9、有很低的FR R,而FA R的目標則通過增加級數(shù)來實現(xiàn).為了在保證FR R的前提下使用較少的級數(shù)獲得理想的FA R,就要使得每級的分類器在低FR R的條件下,FA R 盡可能地小,而不再是像傳統(tǒng)的AdaBoost算法那樣追求錯誤率上界的最小化.優(yōu)化目標的變化使得傳統(tǒng)AdaBoo st的參數(shù)選擇方案不再那么有效.為此,本文在AdaBoost的基礎(chǔ)上提出了一種新的算法AD(Adaptive to DetectionAdaBoo st.這種算法比傳統(tǒng)的AdaBoo st算法更適合于目標檢測問題中所使用的級聯(lián)結(jié)構(gòu).AD AdaBoo st采用了新的弱分類器加權(quán)參數(shù)的求解算法,使得分類器在給定的低FR

10、R前提下對應的FA R有明顯降低,從而改進目標檢測算法的性能.本文首先在第2節(jié)中對傳統(tǒng)的基于級聯(lián)結(jié)構(gòu)的AdaBoost分類器進行簡單的介紹;然后,在第3節(jié)介紹新的算法AD AdaBoo st,并且對它所取得的性能改善加以分析;最后是算法的實驗結(jié)果和結(jié)論.2基于級聯(lián)結(jié)構(gòu)的Ada Boost分類器Viola提出的級聯(lián)結(jié)構(gòu)的分類器是指一組串行的分類器.在對待識樣本進行分類時,只有被前面一級的分類器判決為正的樣本才被送入后面的分類器繼續(xù)處理,反之則被認為是負樣本直接輸出.最后,只有那些被每一級的分類器都判決為正的樣本才作為正樣本輸出.級聯(lián)結(jié)構(gòu)的示意圖如圖1所示 .圖1級聯(lián)結(jié)構(gòu)的示意圖在級聯(lián)結(jié)構(gòu)中,前面

11、幾級的分類器相對來說結(jié)構(gòu)比較簡單,使用的特征數(shù)也較少,但具有很高的檢測率,同時能夠盡可能地濾除那些與目標差異較大的負樣本.后面級次的分類器則使用更多的特征和更復雜的結(jié)構(gòu),從而可以區(qū)分那些與目標相似的負樣本.在實際的目標檢測問題中,由于待檢測的正樣本通常在整體樣本中只占很小的比例,大部分的樣本在級聯(lián)結(jié)構(gòu)前端的分類器就會被濾除,只有少量的樣本需要通過所有級的分類器,因而級聯(lián)結(jié)構(gòu)大大地降低了運算復雜度.在級聯(lián)結(jié)構(gòu)的分類器中,Viola和Jones采用AdaBoost算法來對每一級的分類器進行訓練.Ada2401計算機學報2007年Boo st算法的基本思想是將多個弱分類器集成成為一個強分類器.在訓練

12、過程中,每個訓練樣本被賦予一個初始權(quán)值,當一個弱分類器訓練完成后,根據(jù)其在訓練集上的分類結(jié)果對所有的樣本權(quán)值進行調(diào)整,使得下一次訓練的弱分類器更關(guān)注那些被識別錯誤的樣本.最后的強分類器的判決結(jié)果是所有弱分類器的判決結(jié)果的加權(quán)和.Viola4和Tu5分別在人臉檢測和文字檢測中采用基于級聯(lián)結(jié)構(gòu)的AdaBoost分類器,取得了較好的結(jié)果,證明了基于級聯(lián)結(jié)構(gòu)的AdaBoo st分類器在解決目標檢測問題時是有效的.但是該算法仍然具有改進的空間,后來的研究者也在其基礎(chǔ)上提出了很多新的修正.當采用級聯(lián)結(jié)構(gòu)的AdaBoo st分類器解決目標檢測問題時,要滿足最后整個系統(tǒng)對FR R的要求,每級的分類器都要具有很

13、低的FR R.一般來說,在前面幾級的分類器中,要達到接近于0的FR R(即接近100%的檢測率,在后面級次的分類器中,由于正負樣本較難區(qū)分,所以對FR R的要求相應地下降.此時,級聯(lián)結(jié)構(gòu)中每級分類器判決閾值的選取不再是像傳統(tǒng)的兩類分類問題那樣選取對應最小錯誤率處的閾值,而是要調(diào)整到與符合要求的FR R 相對應.在這種情況下,基于最小錯誤率上界的傳統(tǒng)AdaBoo st算法以及求解的加權(quán)參數(shù),在低FR R端并不一定能夠獲得好的性能.為了解決這個問題,研究者們提出了一些改進的算法.AdaCo st6和Cost2Sensitive AdaBoost7采取類似的思路對樣本權(quán)值的更新過程進行改進.在分類器

14、進行訓練時,每次權(quán)值更新的過程中都偏重于提高正樣本的權(quán)值,這樣使得每個弱分類器對正樣本更加重視,從而改善低FR R端的性能.但是,這類算法的參數(shù)訓練過程仍然是基于最小錯誤率上界的,所以得到的改進相對有限.3一種新的Ada Boost算法AD Ada Boost本文提出了一種新的AdaBoost算法AD AdaBoo st,它在判決閾值調(diào)整到對應低FR R一端時能夠獲得比傳統(tǒng)AdaBoo st算法更好的性能,因而更加適用于目標檢測問題中通常采用的級聯(lián)結(jié)構(gòu)分類器.下文首先對算法的流程進行介紹,然后對它取得的改進進行分析.311AD Ada Boost算法流程新算法的流程為:1.給定標定的訓練樣本集

15、:(x1,y1,(x2,y2, (x m,y m,其中,x iX,y iY=-1,+1.2.對樣本權(quán)值進行初始化:D1(i=1/m;3.循環(huán)t=1,2,T:t=h t(x iy iD t(i以及識別正確的正樣本的權(quán)值和p t=y i=1,h t(x i=1D t(i.t=12ln1-tt+ke p t,k為一個常數(shù),其取值滿足在本次循環(huán)中,令最小錯誤率的上界下降.D t+1(i=D t(iZ te-t,h t(x i=y iet,h t(x iy i=D t(ie(-t y i h t(x iZ t,其中,Z t是歸一化因子,即Z t=iD t(ie(-t y i h t(x i.4.最后的強

16、分類器為H(x=signTt=1t h t(x-T h,其中,T h是滿足FR R要求的判決閾值.新的算法采用了與傳統(tǒng)AdaBoost算法不同的加權(quán)參數(shù)的求解公式:t=12ln1-tt+ke p t(1其中,k為常數(shù),p t=y i=1,h t(x i=1D t(i.顯然,p t是第t次循環(huán)的弱分類器中所有被識別正確的正樣本的權(quán)值和,它能夠代表弱分類器h t 對正樣本的識別能力.而ke p t是p t的增函數(shù),這樣求得的新的加權(quán)參數(shù),在錯誤率t相同的情況下,那些對正樣本識別能力更強的弱分類器具有更大的權(quán)值.下文的理論分析和實驗結(jié)果可以證明,采用上述參數(shù)求解方法的AD AdaBoost,應用到目

17、標檢測問題中能夠得到性能上的改進.5011期李闖等:一種改進的AdaBoost算法AD AdaBoost312對AD Ada Boost 的分析AdaCo st 6,Asymmet ric AdaBoo st 8等算法通過改變樣本權(quán)值的更新過程來使訓練算法更適應目標檢測問題的要求,而本文提出的新算法則通過改變?nèi)醴诸惼骷訖?quán)參數(shù)的求解方式來實現(xiàn)這一點.本節(jié)對AD AdaBoo st 在性能上得到改進的原因加以分析.前文已經(jīng)指出,在目標檢測所采用的級聯(lián)結(jié)構(gòu)中,為了滿足FR R 的要求,要對判決閾值進行調(diào)整.如圖2所示,閾值不再是對應最小錯誤率處的A 點,而是要調(diào)整到B 點,即min H (x i (

18、y i 滿足y i =1附近.分布在B 點附近的正樣本,其H (x i 值較小的原因是早期選取的加權(quán)參數(shù)較大的弱分類器對它們的識別能力比較差,雖然它們的樣本權(quán)值因此得到提升,后面的弱分類器對它們的識別能力比較強,但是由于后面的弱分類器對應的加權(quán)參數(shù)通常都很小,所以最后的加權(quán)和H (x i 比較小 .圖2閾值調(diào)整的示意圖而采用了AD AdaBoo st 后,從式(1可以看出,弱分類器的加權(quán)參數(shù)不但與錯誤率有關(guān),還與其對正樣本的識別能力有關(guān).在實際訓練過程中,雖然后面循環(huán)中的弱分類器通常錯誤率都很高,接近50%,但是其中有的弱分類器仍然具有很強的對正樣本的識別能力.這樣,這些弱分類器的權(quán)值就比傳統(tǒng)

19、AdaBoost 算法中的權(quán)值有很大的提高.此時再考察H (x i 值較小的那些正樣本,上文已經(jīng)提到,循環(huán)早期權(quán)值較高的弱分類器對它們的識別能力較差.而采用新的算法后,后期對正樣本識別能力強的弱分類器由于權(quán)值上升比較大,并且對此類樣本更容易識別正確,因而能夠有效地彌補前面的弱分類器的不足,提高最后的加權(quán)和H (x i .如果與此同時,負樣本的加權(quán)和H (x i 并不上升,或者上升的幅度較小,那么AD AdaBoost 就可以在相同的FR R 要求下獲得更小的FA R.下文證明AD AdaBoost 確實能夠通過改善樣本H (x i 值的分布來改進分類器在訓練集上的性能.令f (p t =k e

20、 pt .則新算法中樣本x i 對應的加權(quán)和H (x i 為H (x i =tt h t(x i =t12ln 1-tt+f (p t h t (x i =t12ln 1-tth t (x i +tf (p th t(x i(2式(2最右端的前一項仍然保持了傳統(tǒng)Ada 2Boo st 算法的形式,因而主要考察后一項.令H (x i =tf (p th t(x i,對于那些正樣本:y i =1H(x i =y i =1tf (p th t(x i=ty i =1f (p th t(x i=tf (p ty i =1h t(x i(3令N p 為訓練集中正樣本的數(shù)量,N n 為訓練集中負樣本的數(shù)量

21、,C t 為第t 次循環(huán)中正樣本的權(quán)值和.即C t =y i =1D t(i .那么可以得到在第t 次循環(huán)中,識別正確的正樣本數(shù)量約為N pp tC t,則y i =1h t (x i =N p p tC t1+N p -N pp tC t(-1=N p 2p tC t-1(4將式(4代入式(3可以得到y(tǒng) i =1H(x i =tf (p ty i =1h t(x i=2N ptf (p t p tC t-015(5對于那些負樣本,同公式(3類似,可以求得y i =-1H(x i =tf (p ty i =-1h t(x i(6已知第t 個弱分類器的錯誤率為t =h t (x i y iDt(

22、i ,即第t 個弱分類器識別錯誤的樣本總數(shù)約為(N p +N n t ,其中識別錯誤的正樣本數(shù)前文已經(jīng)給出,為N p -N pp tC t,則識別錯誤的負樣本數(shù)為601計算機學報2007年(N p +N n t -N p -N p p tC t,因此,識別正確的負樣本數(shù)為 N n -(N p +N n t -N p -N pp tC t.則y i =-1h t (x i =N n -(N p +N n t -N p - N p p tC t (-1+(N p +N n t -N p -N pp t C t1=2(N p +N n t -N p -N pp tC t-N n .在弱分類器的訓練過

23、程中,能夠保證每個弱分類器的錯誤率是小于015的,即t 015,那么根據(jù)上式可以得出y i =-1h t(x i2(N p +N n 015-N p -N p p tC t-N n =2N pp tC t-015(7綜合式(5,(6和式(7,所以有y i =-1H(x i =tf (p ty i =-1h t(x i2N p tf (p t p tC t -015=y i =1H(x i (8通過上述分析以及式(8可以看出 ,AD Ada 2Boo st 對比傳統(tǒng)的AdaBoost 算法,正樣本和負樣本的H (x i 分布向兩側(cè)拉伸.這樣,在固定FR R 的要求下,就能夠獲得更低的FA R .

24、圖3給出了圖像中的文字檢測問題中分別采用傳統(tǒng)的AdaBoost 算法和新算法時H (x i 分布的對比.可以看到用實線表示的新算法的H (x i 分布對比傳統(tǒng)的AdaBoost 算法(用虛線表示有明顯的改善,因而在符合FR R 要求的閾值T h 處具有更低的FA R .圖3新舊算法H (x i 分布的對比313常數(shù)k 值的選取本小節(jié)將對新的參數(shù)求解公式(1中常數(shù)k 值的選取加以討論.從312節(jié)中的分析來看,較大的k 值對應的H (x i 分布的拉伸效果更明顯,但是這并不說明k 值越大對性能的改進越有利.k 值過大會使得參數(shù)求解公式(1中的前一項重要性下降,從而使得分類器喪失對負樣本的識別能力.

25、Freund 和Schapire 在文獻9中已經(jīng)證明,AdaBoost 算法最小錯誤率的上邊界為Tt =1Z t .新的算法沒有改變樣本權(quán)值的更新過程,所以最小錯誤率的上邊界仍然是T t =1Z t.那么在考慮新算法中k 的取值時,仍然要保證此時每個弱分類器對應的Z t 1,即在AD Ada 2Boo st 中,循環(huán)中每加入一個新的弱分類器還能保持最小錯誤率上邊界Tt =1Z t 的下降.參考訓練過程,能夠得到Z t =(1-t e -t +t e t=(1-t e -12ln1-tt+f (p t +t e12ln1-tt+f (p t =(1-t t (e-f (p t +e f(p t1

26、,即e -f (p t +e f(p t1(1-t t(9當f (p t =k e pt 時,k 的取值要滿足在所有弱分類器中不等式(9成立.一般的,在訓練完成某級弱分類器h t 后,對其對應的Z t 進行驗證,滿足Z t 1的弱分類器才會被加入.當取k =1/120時,對應的錯誤率t 01494的弱分類器都可以滿足Z t 1.4實驗結(jié)果自然景物圖像中的文字檢測問題是一個典型的目標檢測問題,基于該問題對本文所提出的AD AdaBoost 算法進行了實驗.在檢測過程中,采用1616的移動窗口在不同尺度上對圖像進行掃描,以確定文字的位置.對每個掃描窗口,使用AdaBoo st 分類器來對其是否是文

27、字進行判決,分類器的訓練算法分別是本文提出的新算法AD AdaBoost 和傳統(tǒng)的AdaBoo st 算法.因為文字不像人臉那樣具有相似的內(nèi)部結(jié)構(gòu),所以分類所使用的特征是與人臉檢測不同的直方圖特征.實驗分別在訓練集和測試集上進行.正樣本是從自然景物圖像中的文字區(qū)域截取的,負樣本則是7011期李闖等:一種改進的AdaBoost 算法AD AdaBoost108 計 算 機 學 報 2007 年 從非文字區(qū)域中隨機獲取的 . 訓練集包括 10000 個 正樣本和 10000 個負樣本 , 測試集則包括 10000 個 正樣本和 20000 個負樣本 . 訓練采用的特征是從 8784 維直方圖特征庫

28、中 選取的 . 對于級聯(lián)結(jié)構(gòu)的第一級 ,選用 100 維特征各 自在 AD AdaBoo st 和傳統(tǒng)的 AdaBoo st 算法下訓練 分類器 . 圖 4 給出了分別采用兩種算法在訓練集和 測試集上對應的 ROC 曲線 ,可以看出 , 在高檢測率 端 ,即 FR R 較低的一端 , 新算法的 FA R 性能得到 了改善 . 為了體現(xiàn) AD AdaBoo st 在低 FR R 端 FA R 的下降 ,圖中的 ROC 曲線截取的是對應高檢測率 即 FR R 較小的部分 . 圖 4 ROC 曲線 ,為級聯(lián)結(jié)構(gòu)的第一級分類器確定閾值 , 使其滿足在訓練集上的 FR R 為 01 1 %. 此時 ,

29、表 1 給出 了 分 類 器 在 訓 練 集 和 測 試 集 上 的 FR R 和 FA R . 可以看出 , 與傳統(tǒng)的 AdaBoo st 算法對比 ,AD AdaBoo st 在訓練集上具有更低的 FA R , 其在測試 集上的 FR R 和 FA R 也有不同程度的改善 . 要 32 級才能夠滿足同樣的要求. 基于 AD AdaBoo st 的級聯(lián)結(jié)構(gòu)分類器由于具有較少的級數(shù) , 其運算速 度更快 ,泛化能力也更強 . 在對自然景物圖像中的文字進行檢測的應用系 統(tǒng)中 ,首先采用基于 AD AdaBoo st 的級聯(lián)結(jié)構(gòu)分類 器對掃描窗口進行判決 , 然后對判決結(jié)果進行合并 等操作以實現(xiàn)對

30、文字區(qū)域的檢測定位 . 圖 5 給出了 檢測的過程和結(jié)果 . 表1 新舊算法在訓練集 FRR = 01 1 %時的實驗結(jié)果對比 算法 訓練集 測試集 FR R ( % FA R ( % FR R ( % FA R ( % 出的 AD AdaBoo st 算法對比傳統(tǒng)的 AdaBoo st 算法 具有更好的性能 . 當采用 AD AdaBoo st 對圖像中文 字檢測所使用的級聯(lián)結(jié)構(gòu)分類器進行訓練時 ,22 級 的分類器即可滿足檢測問題對 FR R 和 FA R 的要 求 . 而若采用傳統(tǒng)的 AdaBoo st 算法進行訓練 ,則需 根據(jù)本文 31 2 節(jié)中對閾值調(diào)整的闡述和圖 4 的 AD A

31、daBoost AdaBoost 上述的實驗結(jié)果說明了 , 在低 FR R 端 , 本文提 01 10 01 10 461 51 521 38 01 82 01 90 651 20 701 45 圖 5 5 結(jié) 論 基于級聯(lián)結(jié)構(gòu)的 AdaBoo st 分類器是解決目標 1期 李 闖等 : 一種改進的 AdaBoo st 算法 AD AdaBoo st 2 109 檢測問題的有效途徑之一 . 但是 , 傳統(tǒng)的 AdaBoo st 算法是針對對稱的兩類分類問題的 , 其優(yōu)化目標是 錯誤率上界的最小化 ; 而目標檢測是一個非對稱的 兩類分類問題 ,在采用級聯(lián)結(jié)構(gòu)時 ,其對分類器的要 求是在低 FR

32、R 端 FA R 盡可能地小 . 因此 , 傳統(tǒng)的 AdaBoo st 算法仍需進一步改進才能更適應目標檢 測問題 . 本文提出了一種新的 AdaBoo st 算法 AD AdaBoo st . 該算法采用了更為有效的參數(shù)求解方 法 ,即弱分類器的加權(quán)參數(shù)不但與錯誤率有關(guān) ,還與 其對正樣本的識別能力有關(guān) . AD AdaBoo st 能夠通 過改善樣本 H ( x i 值的分布有效地降低低 FR R 端 的 FA R ,使其更適用于目標檢測問題的要求 . 實驗結(jié)果證明了新算法對比傳統(tǒng)算法所取得的 性能改進 . 本文采用新算法訓練基于級聯(lián)結(jié)構(gòu)的分 類器并將其應用到自然景物圖像中的文字檢測 ,

33、取 得了較好的結(jié)果 . 參 考 1 ject detection applied to faces and cars/ / Proceedings of t he tion. U SA , 2000 : 7462751 Press , 2002 : 131121318 3 4 5 6 7 8 文 獻 9 Papageorgiou C P , Oren M , Poggio T. A general f ramework ference on Co mp uter Vision. Bombay , India , 1998 : 5552562 for object detection/ / Pr

34、oceedings of t he 6t h International Con2 L I Chuang , born in 1975 , Ph. D. candidate. His research interest s include pattern recognition and comp uter vision. Background This wo rk is suppo rted by t he National Nat ural Science Fo undation of China under grant No1 60472002 ( research on statisti

35、cal based comp uter vision t heories , met hods and appli2 cations . This o bjective of t his wo rk is to imp rove t he well2known machine learning algo rit hm , AdaBoo st , which is widely used in comp uter visio n applicatio ns. AdaBoo st has low comp uta2 tio n complexity , simple st ruct ure as

36、well as st ro ng generali2 zatio n ability. However , t here is still a lot of works need to be done to imp rove t he AdaBoo st algo rit hm , especially in some special applicatio ns. AdaBoo st algo rit hm is pop ular in t he research of object detectio n and has got many p romising result s. But so

37、 me fea2 t ures of Na ve AdaBoo st are not adaptive to t he object detec2 tio n p ro blems. The reason is t hat Na ve AdaBoo st interest in t he minimal error rate , but not t he false alarm rate at low false rejectio n rate end , which is much more impo rtant in t he object detetion. There are very

38、 few effort s to solve t he p rob2 lem in mo st current research works. This app roach p ropo ses a revised type of AdaBoo st algo2 rit hm , AD AdaBoo st . Compared wit h t he Na ve AdaBoo st , AD AdaBoo st adopt s a different met hod to co mp ute t he weighted parameters of t he weak classifiers. T

39、hus t he algo2 rit hm can get lower false alarm rates at t he low false rejectio n rate end , so it has st ro nger classification abilities t han t he Na ve AdaBoo st facing t he o bject detection p roblems. The experiment result s of text detection in images p rove t he im2 p rovement achieved by t

40、 he given algorit hm. This algorit hm can be used in many o bject detectio n ap 2 plications , such as face detectio n , text detectio n , vehicle de2 tection , etc. It will imp rove t he performance of many co m2 p uter vision systems. DING Xiao2 Qing , born in 1939 , p rofesso r , Ph. D. su2 pervi

41、so r. Her research interests include intelligent information p rocessing of images and documents , pattern recognition , im2 age processing and optical character recognition , etc. WU You2Shou , born in 1925 , p rofessor , Ph. D. super2 visor , member of Chinese Academy of Engineering. His re2 search interest s include digital communication , digital signal p rocessing and pattern recognitio n , etc. detection. IEEE Transactions on Pattern Analysis and Ma2 chine Intelligence , 1998 , 20 (1 : 22238