人臉檢測的繼承式集成學習方法＊

文佳寶，熊岳山

（1.國防科學技術(shù)大學計算機學院，湖南 長沙410073；2.湖南大學信息科學與工程學院，湖南 長沙410000）

1 引言

以能夠快速計算的類Haar特征為起點，以極為簡單的決策樹樁（Decision Stump）弱分類器為基礎，以善于解決高維樣本分類問題的集成學習算法AdaBoost為核心，以能夠極大地加快檢測速度的層疊結(jié)構(gòu)（Cascade Structure）為翅膀，維爾納（Viola P）和瓊斯（Jones M）［1］在2001年提出的人臉檢測器取得了該研究領域中的飛躍性進展。他們用AdaBoost算法在多個不同的訓練集上訓練出多個強分類器，再用層疊結(jié)構(gòu)將它們組織成層疊分類器，大大地加快了人臉檢測的速度。在這樣的基本層疊分類器BCC（Basic Cascade Classifier）中，前后層次的強分類器沒有任何直接聯(lián)系，可以認為是一種“完全變異”的繼承模式?；诨緦盈B分類器的人臉檢測器檢測率高（95%以上），誤檢率極低（10－6以下），檢測速度非常快（15fps）［1］，基本上達到了實時人臉檢測的要求。

其后，許多研究者對這個人臉檢測器的設計方法進行了深入細致的研究，從多個方面作出了改進，其中最重要的改進之一就是進一步提高檢測速度。這方面的典型工作之一就是鏈接式集成學習CBL（Chained Boosting Learning）方法［2］。該方法采用“全部遺傳”的繼承模式，把在前面層次學習到的知識（包括特征、弱分類器及其信度）直接應用于后續(xù)層次中，經(jīng)過簡單的公式推導，就得到了前后層次依次連接、連續(xù)不斷的鏈接式（也稱嵌套式或嵌入式）層疊分類器CCC/NCC/ECC（Chained/Nested/Embedded Cascade Classifiers），進一步加快了人臉檢測速度，并應用于實時多視角人臉檢測中［3］，獲得了很好的檢測性能。后來，許多研究者基于CBL 方法做出了許多優(yōu)秀的人臉檢測器［4～8］。到目前為止，該方法已經(jīng)成為人臉檢測器的經(jīng)典設計方法之一。最近，有研究者進一步討論了基于CBL方法的嵌入式層疊分類器的最優(yōu)設計方法［9］。

具體地說，在嵌入式層疊分類器中，后面層次的強分類器完全繼承了在前面層次中學習到的所有特征、弱分類器及其信度。因為訓練不同的強分類器的訓練集各不相同（主要是負樣本不同），訓練目標的難度差別較大，所以通過CBL 方法繼承的特征、弱分類器及其信度對后面層次來說就不再是最優(yōu)的。這就有可能導致用CBL方法訓練的嵌入式層疊分類器的整體檢測性能有所下降。當然，這是完全遺傳的必然結(jié)果，其好處是檢測速度大大加快了。

本文基于“遺傳＋變異”繼承模式，提出繼承式集成學習方法的一般框架GF－IBL（General Framework of Inherited Boosting Learning），簡稱IBL，可用于訓練多種形式的繼承式層疊分類器ICC（Inherited Cascade Classifiers）。具 體 說 來，IBL方法有四種形態(tài)，可以訓練出四種不同形式的層疊分類器：

（1）全變異、無遺傳方法，用于訓練基本層疊分類器［1］。

（2）全遺傳、無變異方法：即CBL 方法。用于訓練嵌入式層疊分類器［2，3］。

（3）少遺傳、多變異方法：只繼承特征的繼承式集 成 學 習IBL－FI（Feature Inherited Boosting Learning）方法。用于訓練特征繼承層疊分類器ICC－FI（Feature Inherited Cascade Classifiers）。這種層疊分類器在文獻［10］中稱為“Fea－Accu Cascade”。

（4）多遺傳、少變異方法：繼承弱分類器（含特征）的繼承式集成學習IBL－WCI（Weak Classifier Inherited Boosting Learning）方法。用于訓練弱分類器繼承層疊分類器ICC－WCI（Weak Classifier Inherited Cascade Classifiers）。這是本文新提出的方法。

顯然，這四種方法各有利弊：

（1）基本層疊分類器：速度最慢，但檢測性能最好。

（2）嵌入式層疊分類器：繼承最多，不存在任何額外的計算代價，因而其檢測速度可能最快，但檢測性能可能最差。

（3）特征繼承層疊分類器：繼承的信息較少，只有特征，因而其額外的計算代價最大，其檢測速度可能最慢，但其檢測性能可能僅次于基本層疊分類器。

（4）弱分類器繼承層疊分類器：繼承的信息較多，包括特征和弱分類器，其額外的計算代價相當小，因而其檢測速度接近嵌入式層疊分類器，而其檢測性能可能接近基本層疊分類器。

對于后兩種方法來說，因為未繼承的“變異信息”在后續(xù)層次中需要重新計算，所以或多或少存在一些額外的計算代價。當然，因重新計算的“變異信息”對后續(xù)層次的訓練集的擬合性更好，故新的繼承式層疊分類器可能具有更好的收斂性和可擴展性，可以減少需要新增的弱分類器的數(shù)量。因此，從總體性能上說，新的繼承式層疊分類器與嵌套式層疊分類器在檢測速度上相差不大，但有可能具有更好的擴展性，因而無需使用復雜的模型調(diào)整方法［4，5］。

一般說來，弱分類器繼承層疊分類器的性能可能最好，因為其額外的計算代價很小，且性能提高的可能性很大?；赗AB、GAB 算法、查找表LUT 弱分類器與類Haar矩形特征的正面直立人臉檢測實驗結(jié)果表明了新的繼承式集成學習方法的有效性。

2 集成學習算法與LUT弱分類器

繼承式集成學習方法適用于任意的集成學習算法與弱學習算法。下面考慮實值集成學習算法，包括 實 值RAB（Real AdaBoost）與 溫 和GAB（Gentle AdaBoost）自適應集成學習［9］算法。進一步，考慮使用的弱分類器為查找表（LUT）分類器，特征為類Haar矩形特征。

對于兩分類問題，訓練集由N個樣本（x1，y1），… ，（xN，yN）組成，其中樣本xi∈χ（樣本空間），樣本類別標記yi∈｛＋1，－1｝。每個LUT 分類器h（x）：χ→R 都是用LUT 弱學習器L基于某個特征f∈Sf（特征集）學習得到的。因此，h（x）也可一般地書寫成h（f（x），θ），其中θ是參數(shù)，特征f（x）為類Haar矩形特征。假設LUT 分類器的分區(qū)個數(shù)為B個，每個分區(qū)的特征值范圍分別表示為［Li，Ui），則LUT 分類器可以表示為：

學習含T個LUT 弱分類器的強分類器的RAB算法如下：

步驟1 設置初始樣本分布：ω0（xi）＝1/N，i＝1，2，…，N。

步驟2 對當前的樣本分布ωt－1（xi），t＝1，2，… ，T，基于每個特征f∈Sf，學習一個LUT分類器h（x）。其計算過程如下：

其中，ε是一個微小正數(shù)（如10－10），用于規(guī)避過擬合與數(shù)值計算錯誤。

步驟3 選取最優(yōu)LUT 分類器h＊（x）作為強分類器的第t個弱分類器，改記為ht（x）：

更新與歸一化樣本分布：

步驟4 輸出強分類器：H（x）＝sign［（h（x）－b］，其中，b為可調(diào)整的閾值，默認值為0；sign（）表示符號函數(shù)：若x≥0，則sign（x）為1；否則為－1。

GAB算法與此類似。只需要把以上的（3）、（4）兩式改成以下的兩式即可。

3 層次結(jié)構(gòu)與鏈接式集成學習——CBL方法

維爾納和瓊斯于2001年提出的人臉檢測器［1］的層次結(jié)構(gòu)如圖1所示。它由若干個層次（Layer，也稱為階段Stage）疊加而成，每個層次都是用AdaBoost算法訓練出來的強分類器。我們稱之為基本層疊分類器BCC。

Figure 1 A face detector of cascade structure with Tlayers圖1 一個包含T 個層次的層疊結(jié)構(gòu)的人臉檢測器

在圖1 中，Hi（x）代表第i個強分類器。其中，前面層次的強分類器較為簡單，由少量弱分類器組成，確保整個人臉檢測器的速度足夠快；后面層次的強分類器較為復雜，由相對較多的弱分類器組成，可以區(qū)分與人臉較為相似的非人臉圖塊，對整個人臉檢測器的檢測性能與擴展性能提供了必要的保障?；镜膶盈B分類器可表示為：

其中的強分類器Hi（x）是用集成學習方法訓練出來的，它由若干個弱分類器組成：

進一步研究發(fā)現(xiàn)，用于檢測人臉的弱分類器hi，t（x），如決策樹樁（Decision Stump），大多相對較為簡單，其區(qū)分性只是略好于隨機猜測。這樣，在訓練第i個強分類器Hi（x）時，在前面已經(jīng)訓練好的i－1個強分類器Hj（x）［j＝0，…，i－1］中的所有弱分類器hj，t（x）［j＝0，…，i－1；t＝0，…，mj］可以直接移植到當前的強分類器中，其中mj表示第j個強分類器所包含的弱分類器的個數(shù)。這樣，既可以大大降低當前強分類器的復雜度，又不會顯著降低其檢測性能。這就是采用“完全遺傳”繼承模式的鏈接式集成學習CBL方法。這樣得到的人臉檢測器被稱為嵌套式層疊分類器NCC［3］或嵌入式層疊分類器ECC［9］，如圖2所示。

Figure 2 A face detector of chained cascade structure with Tlayers圖2 一個包含T 個層次的嵌套式層疊結(jié)構(gòu)的人臉檢測器

圖2中，在第i個強分類器中植入了其前面所有的i－1 個強分類器的所有歷史信息。具體地說，第i個強分類器Hi（x）繼承了其前面所有的i－1個強分類器Hj（x）［j＝0，…，i－1］中的所有弱分類器hj，t（x）及其信度αj，t［j＝0，…，i－1；t＝mj－1，…，mj］。當然，它也還需要增加一些新的弱分類器hi，t（x）［t＝mi－1，…，mi］以滿足本層次的訓練要求。

從最后一個層次往前看，整個嵌入式層疊分類器中其實只有一個強分類器，即最后層次的強分類器HT（x），前面層次的強分類器只是它的一部分。具體地說，只是它的不同前綴。因此，嵌入式層疊分類器可以表示為：

其中，Prei（H（x））表示分類器H（x）的第i個前綴，滿足前綴遞增的條件：

按式（10），將前面的強分類器H1（x），…，Hi－1（x）代入到第i個強分類器Hi（x）中，可得到如下的計算公式［2］：

以上兩式分別表示未閾值化和已閾值化的強分類器，其中符號x、f（x）、h（x）、θ、α、H（x）、m和b分別表示訓練樣本、樣本的特征、基于特征和有關參數(shù)的弱分類器、弱分類器的參數(shù)、弱分類器的信度、由若干弱分類器組成的強分類器、強分類器中的弱分類器的個數(shù)和二值化強分類器~H（x）的閾值。由此可知：第i個強分類器從其前面的i－1個強分類器中繼承了幾乎所有的歷史信息，包括：所有特征、所有弱分類器及其參數(shù)、所有弱分類器的信度。唯一未被繼承的只有強分類器的閾值，因為無法繼承。因此，對第i個強分類器Hi（x）來說，其前面的mi－1個弱分類器及其信度均源自繼承，新訓練的弱分類器只有（mj－mj－1）個。后者通常遠小于前者，這說明CBL方法是非常有效的。

這種“完全遺傳”的繼承模式產(chǎn)生“近乎完美”的繼承結(jié)果：所有前面層次的強分類器一個接一個地被完全嵌入到后續(xù)的強分類器當中。后續(xù)的強分類器有了這些“遺傳”信息，就無需從零開始，只需訓練少量的新弱分類器就可滿足本層次的訓練要求。因此，CBL 方法大大地加速了層疊分類器的訓練過程，大大地簡化了層疊分類器的規(guī)模，提高了層疊分類器的檢測速度。

當然，CBL方法也有其不足之處，主要是“完全遺傳”的繼承模式只有遺傳，沒有變異。它忽視了后續(xù)層次所面臨的訓練集已經(jīng)不同于前面層次的訓練集（主要是負樣本不同），其分類任務不同于前面層次，分類難度也會逐漸加大。這樣，繼承的弱分類器一般不再是最優(yōu)的，因而其區(qū)分能力和擴展能力均會有顯著下降，從而影響了最終的層疊分類器的檢測性能。一般說來，嵌入式層疊分類器的檢測率與“非遺傳”的基本層疊分類器相比有所下降。

設想一下，如果只是進行部分的遺傳，保留必要的變異，也就是說采用“部分遺傳＋部分變異”的繼承模式，那么就有可能提高最終的層疊分類器的檢測性能，縮小與基本層疊分類器的差距。同時，一方面由于“遺傳”了部分信息，減少了后續(xù)層次的弱分類器數(shù)量，檢測速度較基本層疊分類器要快得多；另一方面由于存在部分“變異”，使得繼承的弱分類器雖也非最優(yōu)的，但其區(qū)分能力與擴展能力都比“完全遺傳”的CBL 方法會有所提高。這樣，就有可能取得比CBL方法更好的綜合性能。

4 繼承式集成學習的一般框架——IBL方法

在基本層疊分類器中的各個強分類器之間并無任何“遺傳”信息，因此可以認為是“完全變異”的繼承模式，其結(jié)果是擴展性能最好，但收斂速度相對較差。CBL方法采用的是“完全遺傳”的繼承模式。也就是說，在后續(xù)層次中完全遺傳了前面層次中的所有信息，并無任何“變異”。這樣做的最大好處是不會給訓練階段與檢測階段帶來任何的額外計算代價，從而大大地提高了檢測速度，雖然擴展性有可能略有下降。從均衡收斂性與擴展性的角度來考慮，這兩種方法都是重點強調(diào)某一個方面，都不是最佳選擇。

為此，本文提出的繼承式集成學習方法的一般框架GF－IBL，用于訓練多種形式的繼承式層疊分類器ICC。它采用一般的“遺傳＋變異”的繼承模式，也就是說，在后續(xù)層次中遺傳前面層次中的部分信息，而另一部分信息則需要在被繼承層次中重新計算（這就是所謂變異的含義）。顯然，前面兩種方法——基本層疊分類與嵌入式層疊分類器——都只是繼承式層疊分類器的特例，它們分別對應于“零遺傳”和“零變異”的情況。若遺傳與變異信息都不為零，則可以得到新的繼承式集成學習方法。由于新的繼承式集成學習方法存在“變異信息”，這就會給訓練階段與檢測階段都帶來一定的額外計算代價，有可能會影響其檢測速度。所獲得的補償是由于重新計算的“變異信息”很可能導致相應的分類器具有更好的區(qū)分能力與擴展能力。這樣，收斂速度與擴展性能都會變得更好。綜合起來，新的繼承式集成學習方法產(chǎn)生的繼承式層疊分類器的收斂性可能與嵌入式層疊分類器相差不多，而擴展性與基本層疊分類器相差不多，從而能取得收斂速度與擴展性能更好的均衡效果。

由第2節(jié)可知，用集成學習方法訓練一個強分類器的一般步驟如下：

步驟1 準備若干訓練樣本組成的訓練集S＝〈x1，…，xN〉。

步驟2 尋找合適特征f，計算每個訓練樣本x的特征值f（x）。

步驟3 基于特征f學習弱分類器h，計算每個訓練樣本x的弱分類器響應值h（f（x））。

步驟4 計算弱分類器h的信度α，計算每個訓練樣本x的信度加權(quán)弱分類器響應值αh（f（x））。

步驟5 組合若干個弱分類器，形成強分類器H，計算每個訓練樣本x的強分類器響應值H（x）＝∑αh（f（x））。

步驟6 尋找合適的閾值b，當訓練樣本x的強分類器響應值H（x）＞b時，判決為目標，否則判為非目標。

因此，一般說來，繼承式集成學習方法有四種繼承策略：

（1）不繼承：無遺傳，全變異，可訓練基本層疊分類器。

（2）繼承特征f（x）：未繼承弱分類器h（x）及其信度α，可訓練特征繼承層疊分類器。

（3）繼承弱分類器h（x）（含特征f（x））：未繼承信度α，可訓練弱分類器繼承層疊分類器。

（4）全部繼承：包括特征f（x）、弱分類器h（x）及其信度α，相當于鏈接式集成學習，可訓練嵌入式層疊分類器。

兩種新IBL方法分別稱為特征繼承集成學習IBL－FI方法和弱分類器繼承集成學習IBL－WCI方法。用它們訓練的特征繼承層疊分類器ICC－FI和弱分類器繼承層疊分類器ICC－WCI的計算公式如下：

其中下標不帶i者表示“遺傳信息”，帶i者表示“變異信息”，需要在被繼承層次的訓練集上重新計算相應的值。

下面來考慮新IBL 方法帶來的額外計算開銷問題。對訓練階段來說，多一些計算開銷對檢測階段沒有影響，因為通常情況下檢測過程與訓練過程是分開進行的。事實上，由于新IBL 方法至少都繼承了前面層次所用到的所有特征。對這些繼承的特征無需進行最費時間和空間的特征選擇過程，而只需要做一些不費力氣的信度計算或弱分類器參數(shù)計算，因此新IBL 方法給訓練階段帶來的影響是微不足道的。具體說來，下面的實驗表明，用以訓練一個新的LUT 弱分類器需要幾秒鐘，而繼承一個LUT 弱分類器的時間不到1ms，所以后者可以忽略不計。

對檢測階段來說，新IBL 方法由于“變異信息”所需的計算會對檢測速度帶來或多或少的影響。下面以最簡單的由兩個矩形組成的類Haar矩形特征和LUT 弱分類器為例，估計新IBL 方法的繼承代價?；镜挠嬎愦鷥r為：

（1）計算Haar特征：8次計算，8次查積分表；

（2）光照歸一化：1次計算，1次查方差；

（3）計算所屬分區(qū)：2次計算，2次分別查最小特征值與分區(qū)長度；

（4）計算累計信度：1次計算，1次查累計信度。

從而1個非繼承的LUT 弱分類器（含信度累計）的計算代價為12個單位，其中1次浮點計算加上1次查表稱為1個代價單位。用IBL－FI方法繼承1個弱分類器，可節(jié)省9個單位，還有3個單位需要重新計算。此時，一個繼承的弱分類器相當于新增加了0.25個非繼承的弱分類器。而用IBLWCI方法繼承1個弱分類器，可節(jié)省11個單位，還有1個單位需要重新計算。此時，一個繼承的弱分類器相當于新增加了0.083個非繼承的弱分類器。

顯然，IBL－WCI的繼承代價相對較?。ㄖ皇荌BL－FI的繼承代價的1/3）。人臉檢測中所使用的弱分類器功能相對較弱，因此繼承的弱分類器雖然已不再是最優(yōu)的，甚至可能連次優(yōu)都算不上，但是它們的區(qū)分能力相差卻并不太大。而且，自適應集成學習算法的精髓就在于基于最優(yōu)化模型來集成多個弱分類器，單個弱分類器的區(qū)分能力弱一點并無關緊要。所以，繼承弱分類器是完全可行的。最重要的是，針對被繼承層次的不同的訓練集，IBLWCI方法修正了信度。新的信度對新層次的強分類器應該是最為重要的。所以，IBL－WCI方法完全可能獲得超出其它方法的最好的性能權(quán)衡。

單純從繼承代價上來看，新IBL 方法當然不如CBL方法。但是，新IBL方法還是有所補償?shù)摹Ｒ蛟诒焕^承的層次上重新計算“變異信息”，故繼承的弱分類器可以更好地擬合被繼承層次上的新訓練集，因而可能減少在該層次上需要新增加的弱分類器的數(shù)量，而且還有可能提高最終的層疊分類器的區(qū)分性和擴展能力。這就有可能在不影響收斂性的前提下提高最終的層疊分類器的擴展性，可以解決軟層疊結(jié)構(gòu)［4］與動態(tài)層疊結(jié)構(gòu)［5］帶來的復雜訓練問題。

對于一個包含T個層次的層疊分類器，可以用收斂性指數(shù)CI（Convergent Index）來衡量其在檢測人臉時的收斂速度。用CBL方法構(gòu)造的層疊分類器的CI計算公式如下：

其中，ni是各層次新增加的弱分類器數(shù)量，f是各層次的檢出誤檢率（為簡化討論，假定它們都相同）。假設每個非繼承的弱分類器的基本計算代價為1。容易得到上式的上界為：

用新IBL方法構(gòu)造的繼承式層疊分類器的CI計算公式如下：

為了比較嵌入式層疊分類器與繼承式層疊分類器的收斂速度，比較式（17）與式（19）可知，后者優(yōu)于前者的充分條件如下：

其中第一個顯然成立，因為在相同條件下，第一層不涉及繼承，所以弱分類器個數(shù)相同。前面的幾個不等式也是必要的，但后面的不等式并非必要，因為前面層次對收斂速度影響較大，而后面層次對收斂速度則幾乎沒有影響。考慮到IBL－WCI方法的相對代價較小，故它比IBL－FI方法更有可能獲得比CBL方法更快速的繼承式層疊分類器。

5 實驗及其結(jié)果分析

下面用正面直立人臉檢測為例來驗證新IBL方法的有效性。這里采用的集成學習方法是RAB算法和GAB算法，弱分類器是LUT 弱分類器，特征是類Haar矩形特征。因為LUT 弱分類器用局部信度代替全局信度（（或者說全局信度為1），所以IBL－WCI方法解釋為在繼承弱分類器時只保留分區(qū)狀況不變，改變所有分區(qū)的局部信度值，而CBL方法保留整個LUT 弱分類器。為了確保實驗結(jié)果的高效性，這里使用MSL 算法［11］訓練每個層疊分類器。

5.1 實驗配置

為完成以下實驗，總共收集了22 856 個直立人臉樣本。其中9 832個從網(wǎng)絡下載（稱為基本人臉集，主要作為訓練集），1 376個來自BioID 人臉庫，3 391個來自Feret人臉表情庫，其余的8 260個也是從互聯(lián)網(wǎng)上收集來的。為了生成MSL 算法所需要的龐大人臉樣本集，對所有人臉樣本進行了進一步的處理，包括：鏡面反射、平面旋轉(zhuǎn)±6°和±12°等。然后還將所得到的人臉樣本用另一個人臉檢測器進行過濾。最后得到了146 458個人臉樣本供MSL算法使用，稱為擴展人臉集。

非人臉樣本從15 000個不包含人臉的圖像中取得。為了獲得更多非人臉樣本，對以上圖像進行逆時鐘旋轉(zhuǎn)45°或鏡面反射操作，總共得到60 000個這樣的非人臉圖像。每個訓練集中總是包含10 000個非人臉樣本。不同層次的訓練集中的非人臉樣本通過“自舉法”（Bootstrapping）從以上非人臉圖像中取得。所有訓練樣本全部用24×24像素的圖塊表示。特征集采用擴展的類Haar矩形特征［12］。這樣的特征共有238 356個。

5.2 用CBL與IBL方法訓練二層分類器

為了比較CBL 與IBL 方法的性能，本實驗訓練了若干個二層分類器。具體地說，針對IBL－FI、IBL－WCI和CBL三種繼承方法和RAB、GB 兩種增強算法總共訓練了六個二層分類器。訓練集的設置如上所述，但只選取了特征集中的1/5，共47 671個特征。測試集中的人臉樣本從擴展人臉集中選取約1/3，共48 629個人臉；非人臉樣本從以上非人臉圖像中隨機選取，也是48 629個。最小檢出率DR（Detection Rate）設為100%。最大誤檢率FAR（False Alarming Rate）為40%。訓練結(jié)果如表1和圖3所示。

Table 1 Comparison of convergent speed of two－layer cascade classifiers trained with IBL表1 用IBL方法訓練的二層分類器收斂速度比較表

從表1可以得出如下結(jié)論：

（1）IBL方法在后續(xù)層次中需要新增的弱分類器比CBL方法要明顯少許多，其中RAB算法減少61% ～65%，GAB算法減少33%。

（2）一般情況下，IBL 方法的收斂性指數(shù)比CBL 方法小或相當，因而前者的收斂速度與后者相當或更快。

（3）對GB 算法，三種方法的收斂性指數(shù)相差很小，說明其收斂速度差別不大。

（4）對RAB 算 法，IBL 方 法 明 顯 優(yōu) 于CBL 方法，且IBL－WCI方法最好。

Figure 3 Comparison of detection performance of two－layer cascade classifiers trained with IBL圖3 用IBL方法訓練的二層分類器檢測性能比較圖

從圖3可知：

（1）對GB算法，在訓練集與測試集上CBL 方法都稍微優(yōu)于兩種IBL 方法?？紤]到它們之間在收斂速度上的差別也是細微的，故而它們在整體上差別不大。

（2）對RAB 算法，在訓練集與測試集上兩種IBL方法都明顯優(yōu)于CBL方法?？紤]到它們之間在收斂速度上的差別也是如此，故而在整體上IBL方法好于CBL方法。但是，兩種IBL方法之間差別不大。綜合收斂性與擴展性，IBL－WCI性能最好。

（3）GB 算 法 在 整 體 性 能 上 明 顯 優(yōu) 于RAB 算法。

5.3 用IBL方法訓練高性能正面直立人臉檢測器

下面使用IBL方法訓練若干高性能正面直立人臉檢測器。

訓練集如上所述。將所有特征劃分成2～4組，在各個層次中輪流使用，以盡可能地保證不同層次間特征的差異性。各個層次的DR與FAR分別設置成100%與40%。為了進一步提高檢測性能，自適應平滑LUT 分類器（AWSLUT）［13］取代一般的LUT 分類器。測試集為標準的MIT＋CMU 正面直立人臉庫，其中有130 張灰度圖像，包含508個標記好的人臉［14］。圖4只給出其中基于IBL－WCI方法的兩個人臉檢測器的ROC曲線。

在圖4中，第一個分類器由19層787個AWSLUT 分類器組成，第二個分類器由18層508個AWSLUT 分類器組成。在檢測過程時，檢測窗口總是保持24×24不變，檢測窗口和移動步長為1，待檢測圖像以0.833 3 的比例依次縮小。基于RAB的檢測器末端（誤檢數(shù)＜7）稍差，但其后性能很好?；贕B 的人臉檢測器末端好，但其后較差?；赗AB的人臉檢測器末端較差，但其后較好。注意到后者使用的弱分類器更多。ROC曲線數(shù)據(jù)取得方式同文獻［1］。在每個圖塊上使用的平均特征數(shù)（不含繼承的）分別為15.2和14.5，分別比文獻［15］、文獻［14］和文獻［13］中的類似人臉檢測器少75%、58%和32%。

Figure 4 Comparison of detection performance of upright frontal face detector trained with IBL圖4 用IBL方法訓練的正面直立人臉檢測器的檢測性能比較圖

6 結(jié)束語

本文針對通過一般集成學習方法產(chǎn)生的基本層疊分類器與通過鏈接式集成學習產(chǎn)生的嵌入式層疊分類器的簡要分析，指出其分別使用“全部變異”與“全部遺傳”的繼承模式。前者無遺傳，后者無變異，且都沒有額外的計算代價。在此基礎上，本文基于“遺傳＋變異”的繼承模式，提出繼承式集成學習方法的一般框架。前兩種方法只是該框架下的兩個特例：前者強調(diào)擴展性能，收斂速度較差；后者則剛好相反。為了更好地均衡收斂速度與檢測性能，本文提出兩種新的繼承式集成學習方法，即繼承特征與繼承弱分類器（含特征），分別用于訓練特征繼承層疊分類器與弱分類器繼承層疊分類器，并給出了其計算公式。新的繼承模式只繼承部分遺傳信息，另外的變異信息需要重新計算，因而存在或多或少的額外計算量。但是，因為變異信息的擬合性更好，在收斂速度上有所補償?；赗AB和GB兩種集成學習算法和LUT弱分類器的實現(xiàn)表明新繼承方法在多數(shù)情況下優(yōu)于原方法。當然，還需要更多的實驗來驗證新繼承方法的有效性，如針對離散Ada－Boost算法與決策樹樁組合的實驗、針對CART 樹的實驗、針對非人臉對象檢測的實驗等等。

［1］ Viola P，Jones M.Rapid object detection using a boosted cascade of simple features［C］∥Proc of the 2001IEEE Conference on Computer Vision and Pattern Recognition，2001：511－518.

［2］ Xiao R，Zhu L，Zhang H J.Boosting chain learning for object detection［C］∥Proc of ICCV，2003：709－715.

［3］ Huang C，Ai H，Wu B，et al.Boosting nested cascade detector for multi－view face detection［C］∥Proc of the 17th International Conference on Pattern Recognition，2004：415－418.

［4］ Bourdev L，Brandt J.Robust object detection via soft cascade［C］∥Proc of the International IEEE Conference on Computer Vision and Pattern Recognition，2005：236－243.

［5］ Xiao R，Zhu H，Sun H，et al.Dynamic cascades for face detection［C］∥Proc of the 11th IEEE International Conference Computer Vision，2007：1－8.

［6］ Pham M T，Hoang V D D，Cham T J.Detection with multiexit asymmetric boosting［C］∥Proc of the 2008IEEE Conference on Computer Vision and Pattern Recognition，2008：1－8.

［7］ Sochman J，Matas J.WaldBoost－learning for time constrained sequential detection［C］∥Proc of the 2005IEEE Conference on Computer Vision and Pattern Recognition，2005：150－157.

［8］ Masnadi－Shirazi H，Vasconcelos N.High detection－rate cascades for real－time object detection［C］∥Proc of ICCV，2007：1－6.

［9］ Saberian M J，Vasconcelos N.Learning optimal embedded cascades［J］.IEEE Transactions on PAMI，2012，34（10）：2005－2018.

［10］ Yan S Y，Shan S G，Chen X L，et al.Fea－Accu cascade for face detection［C］∥Proc of the 2009International Conference on Image Processing，2009：1217－1220.

［11］ Yan S Y，Shan S G，Chen X L，et al.Matrix－structural learning（MSL）of cascaded classifier from enormous training set［C］∥Proc of CVPR，2007：1－7.

［12］ Lienhart R，Maydt J.An extended set of haar－like features for rapid object detection［C］∥Proc of the 2002IEEE International Conference on Image Processing，2002：900－903.

［13］ Wen J B.Empirical study of smoothed LUT classifiers for fast and robust face detection［C］∥Proc of ICIIP，2013：1.

［14］ Wen J B，Xiong Y S.Smoothing LUT classifiers for robust face detection［C］∥Proc of the 2013International Conference on Information and Technology，2013：930－936.

［15］ Wen J B，Xiong Y S，Wang S L.A novel two－stage weak classifier selection approach for adaptive boosting for cascade face detector［C］∥Proc of the 7th International Conference on Intelligent Computing，2013：122－135.