一種新的基于Gabor特征的零空間人臉識別算法

陳　思，趙歡喜，朱順痣

(廈門理工學院計算機與信息工程學院，福建省數(shù)據(jù)挖掘與智能推薦高校重點實驗室，福建廈門361024)

?

一種新的基于Gabor特征的零空間人臉識別算法

陳思，趙歡喜，朱順痣*

(廈門理工學院計算機與信息工程學院，福建省數(shù)據(jù)挖掘與智能推薦高校重點實驗室，福建廈門361024)

摘要:為了克服人臉識別中的小樣本集( small sample size，3S)問題，本文首先利用人臉圖像距離模型揭示了線性鑒別分析的物理過程，指出了零空間鑒別分析相對于主元空間鑒別分析可以提取出更有利于人臉識別的鑒別信息．在此基礎上，提出了一種有效的基于Gabor特征的零空間人臉識別算法，該算法采用一種新的基于鄰域保持的鑒別嵌入準則( neighbor－preserving based discriminant embedding，NDE)，并利用Gabor小波變換減輕人臉圖像中光照和表情變化等因素的影響．在ORL，F(xiàn)ERET和AR等人臉數(shù)據(jù)庫上的實驗結果表明本文算法具有較優(yōu)的人臉識別性能．

關鍵詞:人工智能;人臉識別;零空間方法;基于鄰域保持的鑒別嵌入; Gabor小波變換

人臉識別的研究［1－5］對于圖象處理、模式識別、計算機視覺和計算機圖形學等領域的發(fā)展具有巨大的推動作用，同時在生物特征認證、視頻監(jiān)控和安全等各個領域有著廣泛的應用．過去的幾十年中發(fā)展出眾多的人臉識別算法［1－5］，其中子空間的方法，如主成分分析( principal component analysis，PCA)［6］、鑒別成分分析( linear discriminant analysis，LDA)［7－8］等受到廣泛的研究．

目前已有學者提出了若干解決3S問題的LDA方法［5－15］，例如: Zhao等［9］首先利用PCA去除總樣本離散度矩陣的零空間，然后通過對SW的特征值增加一個小的擾動使得SW變成非奇異矩陣進行降維; Belhumeur等［7］利用PCA首先對高維的數(shù)據(jù)進行降維，使得SW變成非奇異矩陣，再求得投影矩陣; Parrish等［10］提出利用局部鑒別的高斯模型來求取投影矩陣．

另外一種思路是利用SW的零空間或者SB的主元空間進行降維．Chen等［11］指出LDA中類內離散度矩陣SW的零空間中包含了用于模式分類的最佳鑒別信息，通過在SW的零空間中最大化類間離散度矩陣的跡(或行列式)得到最佳的投影矩陣．此外，Yu等［12］提出了直接LDA的方法:首先去除類間離散度矩陣SB的零空間，認為SB的零空間中沒有包含任何鑒別信息，再通過在SB的主元空間中最小化類內離散度矩陣的跡(或行列式)求得投影軸．Wang等［13］提出了雙子空間的方法，雙子空間結合PCA+LDA和零空間LDA方法，同時利用了SW的主元空間和零空間信息．

本文首先解釋了LDA的物理過程，利用人臉圖像距離模型揭示了線性鑒別分析的物理含義，并指出了零空間LDA相對于主元空間LDA可以提取更有利于人臉識別的鑒別信息．接著提出了一種新的準則，稱為基于鄰域保持的鑒別嵌入準則( neighbor－preserving based discriminant embedding，NDE)．為了減輕人臉圖像中的光照變化和表情等因素對鑒別信息的提取，本文進一步結合了Gabor小波變換．實驗表明本文提出的算法在不同的人臉數(shù)據(jù)庫上都取得了很好的效果．

1 LDA人臉識別的物理含義

本節(jié)從最近鄰法分類角度出發(fā)解釋LDA的物理過程，并分別闡述了主元空間LDA( PCA+LDA)方法和零空間LDA方法提取投影子空間的過程．

在人臉識別過程中，由于噪聲、光照、表情等因素的影響，可能導致人臉的類內距離大于類間距離，從而導致錯誤的識別，因此直接的距離比對方法的識別效果并不好．對于人臉識別而言，本質的特征［16］是身份的不同(身份差分量)，而光照、姿態(tài)、表情等變化因素(變換差分量和噪聲分量)都會影響識別或者分類的結果，在識別中應該盡量減少這些因素的影響．上面的模型通常稱為人臉圖像距離模型［16］．

PCA+LDA可以分步地實現(xiàn)，即先最小化類內離散度矩陣的跡(或行列式)，然后對變換后的數(shù)據(jù)進一步最大化類間離散度矩陣的跡(或行列式)．PCA尋找噪聲分量降低的子空間，記為P( ST)．而最小化類內離散度矩陣的跡(或行列式)可以在P( ST)子空間中尋找降低類內和類間變換差分量的子空間．最大化類間離散度矩陣的跡(或行列式)進一步得到增強身份差分量的子空間．而零空間LDA方法首先通過計算SW的零空間，然后在零空間中通過最大化類間離散度矩陣的跡(或行列式)得到增強身份差分量的子空間．SW的零空間中可以使得類內離散度矩陣的跡(或者行列式)為零，而PCA+LDA的方法中并不能使類內離散度矩陣的跡(或者行列式)為零．因此，零空間鑒別分析相對于主元空間鑒別分析可以提取更有利于人臉識別的鑒別信息．

2基于Gabor特征的零空間NDE人臉識別算法

針對線性鑒別分析中采用Fisher準則的缺點，本文提出了一種新的人臉識別準則，稱為NDE．

2. 1類內離散度

為了保證投影后的向量之間保持原始高維空間中數(shù)據(jù)的相對位置關系，局部線性嵌入算法( locally linear embedding，LLE)［17］相應的優(yōu)化準則［18－19］可以轉變?yōu)?/p>

其中P是線性投影矩陣，X=［x1，x2，…，xn］是原始的數(shù)據(jù)矩陣，y是投影后的數(shù)據(jù)，A是權重矩陣，W=X( I－A)T( IA) XT是類內度量矩陣，tr(·)表示求跡運算．

2. 2類間離散度

傳統(tǒng)的類間離散度矩陣可以表示成任意兩類間均值差的協(xié)方差矩陣之和:

然而，采用傳統(tǒng)的類間離散度矩陣可能出現(xiàn)的問題是距離大的類間距離可能會影響最終投影軸的計算．采用加權的SB，即對小的類間距離賦予更多的權重，從而得到的投影軸更加關注小的類間距離．

加權的SB可以定義為

其中d( ij)=‖μi－μj‖代表第i類和第j類的均值距離，w(·)是一個單調遞減函數(shù)，即兩類均值距離越近w (·)的權重越大．通常的取值為d－3或者d－4．

通過上面的分析，本文提出新的鑒別分析準則如下:

由于結合了鄰域保持嵌入和改進的LDA方法，本文稱之為NDE．

2. 3零空間NDE方法

由公式( 4)，基于零空間的NDE準則可以轉化為

其中，Q是W的零特征值對應的特征向量．

基于零空間的NDE人臉識別算法的具體步驟如下:

1)去除總樣本離散度矩陣ST的零空間

通過PCA對訓練的人臉數(shù)據(jù)降維，降維的維數(shù)通常等于總的訓練樣本數(shù)－1;

2)計算W的零空間

通過對W進行奇異值分解，得到的零特征值對應的特征向量組成W的零空間，記為Q=［q1，…，qk］;

3)計算t個投影向量

通過求QQTS^BQQT前t個最大的特征值對應的特征向量，即為所求的投影向量．

2. 4 Gabor小波變換

Gabor小波變換由Daugman［20］引入，由于其優(yōu)良的空間局部性和方向選擇性，能夠獲得圖像局部區(qū)域內多個方向的空間頻率(尺度)和局部性結構特征，在人臉識別中得到了廣泛的應用［21］．事實上，Gabor特征在人臉圖像距離模型中所起的作用是降低變換差分量和噪聲分量，使得NDE能夠更好地提取身份差分量．本文提出的NDE準則由于更好地保留了類內的幾何位置信息，同時考慮了類間的鑒別結構信息，因此可以更有效地提取有利分類結果的鑒別信息．

3實驗結果與分析

本文在3個公共人臉數(shù)據(jù)庫上進行了一系列的實驗，包括ORL數(shù)據(jù)庫［22］、FERET數(shù)據(jù)庫［23］和AR數(shù)據(jù)庫［24］．并且對比了各種典型的監(jiān)督降維方法，包括了PCA［6］、NDP［25］、NDA［26］、LDA［8］和LDE［27］等方法．

3. 1人臉數(shù)據(jù)庫介紹和實驗參數(shù)設置

ORL庫上共有40個人組成，每個人10幅圖像．FERET人臉數(shù)據(jù)庫是由美國軍方發(fā)起的人臉評測數(shù)據(jù)庫．本文的算法在FERET的子庫上進行，該子庫一共包含了200個人的1 400幅人臉圖像，每個人有7幅圖像，圖像中包含了光照、姿態(tài)(±25°變化)和表情等各種因素的變化．AR數(shù)據(jù)庫包含了120個人的26幅圖像，包括了表情、光照和遮擋等．對每個人選取了14張，共1 680幅圖像．

本文對ORL庫中每一類人臉隨機選取m張( m= 3，4)作為訓練數(shù)據(jù)，剩下的圖像作為測試數(shù)據(jù)．對FERET庫中每一類人臉隨機選取m張( m= 2，3)作為訓練數(shù)據(jù)，剩下的圖像作為測試數(shù)據(jù)．對AR庫中每一類人臉隨機選取m張( m=3，4)作為訓練數(shù)據(jù)，剩下的圖像作為測試數(shù)據(jù)．對于每個給定的m，分別獨立地運行20次實驗，每一次的訓練人臉均隨機選取，最終的結果是20次運行結果的平均值．

圖1主元空間方法和零空間方法的比較( 20次運行)Fig．1 Comparisons between principal space based methods and null space based methods ( 20 runs)

3. 2實驗結果

首先，比較了利用原始灰度特征的主元空間降維方法與零空間降維方法的識別率．圖1中給出了鑒別維數(shù)不同時的各種對比算法在ORL( m=3，4)，F(xiàn)ERET ( m=3)，AR( m=3)上人臉識別率變化情況．從圖中可以看出:零空間的監(jiān)督降維方法要明顯優(yōu)于主元空間的監(jiān)督降維方法:當采用原始灰度特征時，基于零空間的NDE方法優(yōu)于其他對比方法．

為了進一步地提高人臉識別率，本文進一步利用Gabor變換提取特征，得到的結果如圖2所示．利用Gabor變換的零空間NDE方法相對于使用原始灰度特征的零空間NDE方法，在識別率上有顯著的提高，同時優(yōu)于利用Gabor變換的零空間LDA方法和沒有利用Gabor變換的零空間LDA．

表1列出了13種不同對比方法的最佳識別率和其對應的鑒別向量的個數(shù)，其中最高的識別率用粗體表示．由表1可知，本文提出的Gabor+Null NDE方法在FERET( m= 2，3)和AR( m= 3，4)數(shù)據(jù)集上都取得了最高的識別率，并且對應的鑒別向量個數(shù)也是相對較少的．可見，通過Gabor變換可以非常有效地減輕光照、姿態(tài)和表情等因素對鑒別信息提取的影響，得到對人臉類內的光照和表情變化具有一定魯棒性且更能區(qū)分類間的特征．

3. 3討論

無論是小樣本的數(shù)據(jù)庫(如ORL庫)或者是大樣本的數(shù)據(jù)(如FERET和AR庫)，零空間的NDE方法都要優(yōu)于其他降維方法，這表明NDE具有很好的推廣性．NDE方法利用了類內的局部結構信息和類間的全局信息，能夠很好地提取對分類和識別最有利的鑒別信息．而PCA和LDA方法卻保持全局的歐式結構信息( global euclidean structure)．NDA方法則提取了最近鄰之間信息，但是沒有考慮類內樣本的局部位置信息．與NDP和LDE方法不同，本文采用的NDE方法考慮了各類之間的距離關系，更關注可能對分類造成影響的相近的人臉類別．

圖2 Gabor特征變換前后的零空間LDA和NDE方法的比較( 20次運行)Fig．2 Comparisons of null LDA and null NDE methods before and after Gabor wavelet transform ( 20 runs)

表1各種方法的最佳識別率和對應的鑒別向量的個數(shù)(運行20次)Tab．1 Best recognition rates of different methods and the corresponding numbers of discriminative vectors ( 20 runs)

在實際應用中，我們應該根據(jù)數(shù)據(jù)集的特點選擇合適的人臉識別方法．本文采用的NDE方法主要解決人臉圖像訓練樣本不足的問題，并獲得了令人滿意的實驗結果．因此，本文方法更適用于解決3S問題，即訓練的樣本數(shù)少于樣本的維數(shù)的情況．

4結論

針對Fisher準則的缺點，本文提出了一種新的準則NDE．NDE可以很好地保持類內的局部結構信息和考慮類間的全局鑒別信息，在不同的人臉數(shù)據(jù)庫上表現(xiàn)出優(yōu)異的性能．為了減輕人臉圖像中的光照變化和表情等因素對鑒別信息提取的影響，本文進一步結合了Gabor小波變換．在未來的工作中，我們將結合核( kernel)形式和張量( tensor)形式的方法來進一步提高本文方法的性能．

參考文獻:

［1］楊曄，HUGO DE G，潘偉，等．基于選擇性注意和部分連接神經(jīng)網(wǎng)絡的人臉識別［J］．廈門大學學報(自然科學版)，2009，48( 4) : 499－503．

［2］YAN Y，WANG H，SUTER D．Multi－subregion based correlation filter bank for robust face recognition［J］．Pattern Recognition，2014，47( 11) : 3487－3501．

［3］嚴嚴，章毓晉．基于視頻的人臉識別研究進展［J］．計算機學報，2009，32( 5) : 878－886．

［4］YAN Y，ZHANG Y J．1－D correlation filter based class－dependence feature analysis for face recognition［J］．Pattern Recognition，2008，41( 12) : 3834－3841．

［5］LU H P，PLATANIOTIS K N，VENETSANOPOULOS A N．A survey of multilinear subspace learning for tensor data［J］．Pattern Recognition，2011，44( 7) : 1540－1551．

［6］TZIMIROPOULOS G，ZAFEIRIOU S，PANTIC M．Subspace learning from image gradient orientations［J］．IEEE Transactions Pattern Analysis and Machine Intelligence，2012，34 ( 12) : 2454－2466．

［7］BELHUMEUR P N，HEPANHA J P，KRIEGMAN D J．Eigenfaces vs Fisherfaces: recognition using class specific linear projection［J］．IEEE Transactions on Pattern Analysis and Machine Intelligence，1997，19( 7) : 711－720．

［8］WANG X G，TANG X O．A unified framework for face recognition［J］．IEEE Transactions on Pattern Analysis and Machine Intelligence，2004，26( 9) : 1222－1228．

［9］ZHAO W Y，CHELLAPPA R，PHILLIPS P J．Subspace linear discriminant analysis for face recognition［R］．MD: U－niversity of Maryland，1999．

［10］PARRISH N，GUPTA M．Dimensionality reduction by local discriminative Gaussians［C］∥Proceedings of the 29th International Conference on Machine Learning．Edinburgh，Scotland，UK: Omnipress，2012: 1－8．

［11］CHEN L，LIAO H，KO M，et al．A new LDA－based face recognition system which can solve the small sample size problem［J］．Pattern Recognition，2000，33( 10) : 1713－1726．

［12］YU H，YANG J．A direct LDA algorithm for highdimensional data with application to face recognition［J］．Pattern Recognition，2001，34: 2067－2070．

［13］WANG X，TANG X．Dual－space linear discriminant analysis for face recognition［C］∥Proceedings of the 2004 IEEE Computer Society Conference on Computer Vision and Pattern Recognition．Washington D C: IEEE Computer Society Press，2004: 564－569．

［14］YANG J，F(xiàn)RANGI A F，YANG J Y．KPCA plus LDA: a complete kernel fisher discriminant framework for feature extraction and recognition［J］．IEEE Transactions on Pattern Analysis and Machine Intelligence，2005，27( 2) : 230－244．

［15］JIANG X．Linear subspace learning－based dimensionality reduction［J］．IEEE Signal Processing Magazine，2011，28 ( 2) : 16－26．

［16］YAN Y，ZHANG Y J．Discriminant projection embedding for face and palmprint recognition［J］．Neurocomputing，2008，71( 16) : 3534－3543．

［17］ROWEIS S，SAUL L K．Nonlinear dimensionality reduction by locally linear embedding［J］．Science，2000，290 ( 5500) : 2323－2326．

［18］HE X，CAI D，YAN S，et al．Neighborhood preserving embedding［C］∥Proceedings of the 10th IEEE International Conference on Computer Vision．Washington D C: IEEE Computer Society Press，2005: 1208－1213．

［19］ZHANG Z，WANG J，ZHA H．Adaptive manifold learning ［J］．IEEE Transactions on Pattern Analysis and Machine Intelligence，2012，34( 2) : 253－265．

［20］DAUGMAN J G．Two－dimensional spectral analysis of cortical receptive field profiles［J］．Visual Research，1980，20: 847－856．

［21］程雪峰，李順，龍飛，等．基于Log－Gabor濾波和LBP算子的光照不變人臉識別方法［J］．廈門大學學報(自然科學版)，2014，53( 3) : 359－363．

［22］SAMARIA F，HARTER A．Parameterization of a stochastic model for human face identification［C］∥Proceedings of the 2nd IEEE Workshop on Applications of Computer Vision．Washington D C: IEEE，1994: 138－142．

［23］PHILLIPS P J，MOON H，RIZVI S，et al．The FERET evaluation methodology for face recognition algorithms［J］．IEEE Transactions on Pattern Analysis and Machine Intelligence，2000，22( 10) : 1090－1104．

［24］MARTINEZ A R，BENAVENTE R．The AR face database ［R］．Barcelona: Computer Vision Center ( CVC)，1998．

［25］YOU Q，ZHEN N，DU S，et al．Neighborhood discriminant analysis for face recognition［J］．Pattern Recognition Letters，2007，40( 8) : 2283－2291．

［26］BRESSAN M，VITRIA J．Nonparametric discriminant analysis and nearest neighbor classification［J］．Pattern Recognition Letters，2003，24: 2743－2749．

［27］CHEN H T，CHANG H W，LIU T L．Local discriminant embedding and its variant［C］∥Proceedings of IEEE Computer Society Conference on Computer Vision and Pattern Recognition．Washington D C: IEEE Computer Society Press，2005: 846－853．

A Novel Gabor Feature Based Null Space Algorithm for Face Recognition

CHEN Si，ZHAO Huanxi，ZHU Shunzhi*

( Key Lab of Data Mining and Information Recommendation of Fujian Province，School of Computer and Information Engineering，Xiamen University of Technology，Xiamen 361024，China)

Abstract:Recently，linear discriminant analysis ( LDA) has been widely used in the field of face recognition．However，in many real applications，LDA suffers from the small sample size ( 3S) problem，where training samples are limited so that LDA cannot be directly used．To overcome the 3S problem，in this paper we first reveal the mechanism of LDA to show how it extracts the most discriminative features according to an image distance model，and then identify that the null space based LDA is much more efficient than the principal space based LDA for the extraction of discriminative features．Based on this identification，we propose an effective Gabor feature based null space algorithm for face recognition，which exploits a new neighborhood－preserving based discriminant embedding ( NDE) criterion to overcome the drawbacks of the traditional Fisher criterion，and during the process of the extraction of discriminative features，the Gabor wavelet transform is incorporated to further reduce the influences of illumination and expression changes in the face images．Experimental results on several public face databases，such as ORL，F(xiàn)ERET and AR，show that the proposed null space based NDE algorithm outperforms the state－of－theart algorithms，such as LDA，NDP，NDA，and LDE，and it can achieve the encouraging face recognition performance．

Key words:artificial intelligence; face recognition; null space method; neighbor－preserving based discriminant embedding( NDE) ; Gabor wavelet transform

*通信作者:szzhu@ xmut．edu．cn

基金項目:國家自然科學基金( 61373147，61503315) ;福建省自然科學基金( 2012J01293) ;廈門市科技計劃項目( 3502Z20103037) ;廈門理工學院高層次人才項目( YKJ14020R)

收稿日期:2015－01－25錄用日期: 2015－08－19

doi:10．6043/j．issn．0438－0479．2016．01．021

中圖分類號:TP 391

文獻標志碼:A

文章編號:0438－0479( 2016) 01－0108－06

引文格式:陳思，趙歡喜，朱順痣．一種新的基于Gabor特征的零空間人臉識別算法［J］．廈門大學學報(自然科學版)，2016，55 ( 1) : 108－113．

Citation: CHEN S，ZHAO H X，ZHU S Z．A novel gabor feature based null space algorithm for face recognition［J］．Journal of Xiamen U－niversity( Natural Science)，2016，55( 1) : 108－113．( in Chinese)