基于奇異值分解和小波神經(jīng)網(wǎng)絡的人臉識別

王艷花 楊靜

摘 ?要： 針對人臉識別在有遮擋、表情變化和光照變化引起的魯棒性變差問題，以及傳統(tǒng)人工神經(jīng)網(wǎng)絡用于人臉識別時存在的維數(shù)災難問題，提出一種分塊奇異值分解和小波神經(jīng)網(wǎng)絡結合的人臉識別算法。首先，將人臉圖像進行分塊，獲得圖片局部的奇異值，并將其按一定順序排列得到人臉的特征向量;然后，運用加入動量項的改進小波神經(jīng)網(wǎng)絡進行人臉圖像分類識別;最后，在Matlab環(huán)境下利用ORL和YALE人臉圖像數(shù)據(jù)庫進行仿真實驗，并且在GUI圖形用戶界面上進行驗證。實驗結果表明，該算法實現(xiàn)簡單，識別率高，對光照、遮擋、表情等變化有很好的魯棒性，具有很大的使用價值。

關鍵詞： 人臉識別; 人工神經(jīng)網(wǎng)絡; 奇異值分解; 小波神經(jīng)網(wǎng)絡; 仿真實驗; 算法驗證

中圖分類號： TN911.73?34; TP391 ? ? ? ? ? ? ?文獻標識碼： A ? ? ? ? ? ? ? ? ? ?文章編號： 1004?373X（2019）12?0040?05

Abstract： In allusion to the poor robustness problem caused by shielding and variations of face expression and illumination during face recognition， and the dimension disaster problem existing in the traditional artificial neural network used for human face recognition， a human face recognition algorithm combining blocked singular value decomposition with wavelet neural network is proposed. The human face images are blocked to obtain local singular values of images， which are ranked in a certain order to obtain feature vectors of human faces. The human face image classification and recognition are conducted by using the improved wavelet neural network with momentum flux added. The simulation experiment was carried out with the ORL and YALE human face image databases in the Matlab environment. The algorithm was verified on the GUI graphical user interface. The experimental results show that the algorithm is simple to be implemented， and has a high recognition rate and good robustness to variations of illumination， shielding and face expression， which is of great use value.

Keywords： human face recognition; artificial neural network; singular value decomposition; wavelet neural network; simulation experiment; algorithm verification

0 ?引 ?言

人臉識別是一個跨學科的、富有挑戰(zhàn)性的前沿課題，跨越了生理學、心理學、圖像處理、計算機視覺、模式和數(shù)學等多個學科。與其他生物特征相比，人臉是一種最自然的特征，因此可廣泛應用于安全驗證、出入口控制、電子商務等諸多領域。人臉識別已經(jīng)成為計算機視覺和人工智能研究領域的熱點[1]。然而，現(xiàn)有人臉識別方法受環(huán)境光照、人臉表情與姿態(tài)、遮擋的影響較大，使得人臉識別在客觀上存在很大難度[2]。神經(jīng)網(wǎng)絡具有很強的自適應、自學習的特性，國內外學者提出了許多基于神經(jīng)網(wǎng)絡的人臉識別方法，小波神經(jīng)網(wǎng)絡就是其中的一種。

在人臉識別中，算法核心部分就是特征提取和分類器的設計。奇異值分解（Singular Value Decomposition，SVD）是一種提取圖像特征的方法[3]，對轉置、平移、旋轉和鏡像變換都有很好的穩(wěn)定性，而且對于噪聲變化和光強度變換具有很好的魯棒性[4?5]，因此大量學者開始研究將奇異值分解用于提取人臉特征，以發(fā)揮其優(yōu)勢。小波變換具有時頻局部特性、多尺度分析特性，而神經(jīng)網(wǎng)絡具有自學習、自適應、魯棒性、容錯性和推廣能力。1992年法國著名的信息科學研究機構IRLSA的Zhang qinghu等人將小波理論和神經(jīng)網(wǎng)絡結合起來，提出了小波神經(jīng)網(wǎng)絡（Wavelet Neural Network，WNN），或稱小波網(wǎng)絡（Wavelet Network，WN）[6]。小波神經(jīng)網(wǎng)絡以小波理論為依據(jù)，可以避免BP網(wǎng)絡結構[7]設計上的盲目性，在網(wǎng)絡訓練過程中從根本上避免了局部最優(yōu)等非線性優(yōu)化問題，有較強的函數(shù)學習能力和推廣能力。

傳統(tǒng)的小波神經(jīng)網(wǎng)絡應用于人臉識別時，都是將待識別圖像的每個像素點直接對應于神經(jīng)網(wǎng)絡的輸入，這樣會導致神經(jīng)元個數(shù)增多，計算量大，訓練時間延長。本文基于小波神經(jīng)網(wǎng)絡，提出一種利用分塊奇異值分解提取人臉的特征信息，并運用加入動量項的改進小波神經(jīng)網(wǎng)絡進行人臉圖像分類識別的方法，把ORL和YALE人臉圖像數(shù)據(jù)庫分為不同的訓練數(shù)據(jù)和測試數(shù)據(jù)，利用Matlab對小波神經(jīng)網(wǎng)絡進行訓練并測試，并且將其與本文相關的算法進行比較，實驗表明，該方法有較高的人臉識別率。

1 ?基于SVD的人臉特征提取

SVD把圖像看成是一個矩陣，是一種代數(shù)特征提取方法，對于圖像內容分析來說是一種非常有效的處理工具，它善于捕捉圖像結構信息，可以將任何種類的陣列分解為較低維的矩陣。人臉圖像是一個高維向量，直接用其進行計算比較困難，通過SVD可對其進行降維處理，并且能保留其圖片的主要特征[8]。近年來，圖像的奇異值已經(jīng)作為特征向量被成功地應用于人臉識別領域。奇異值分解定理如下：

式（1）中， [p=minm，n]，式（2）為矩陣[A]的奇異值分解公式，其中[σ1≥σ2≥…≥σp≥0]，[σii=0，1，2，…，p]為[A矩陣]的奇異值，它是[AAT]和[ATA]的特征值[λi]的平方根，即[σi=λi]。將奇異值從大到小的順序排列得到的向量[σ1，σ2…，σp]就是矩陣[A]的奇異值向量。對于任意一個是實矩陣[A]，它的奇異值分解是唯一的，因此每一個人臉圖像也對應一個唯一的奇異值向量。而且奇異值特征向量具有良好的穩(wěn)定性，對圖像因噪聲和光照條件引起的灰度變化有很好的魯棒性。

傳統(tǒng)的奇異值算法在特征提取階段把人臉圖像的奇異值向量作為識別特征，文獻[9]證明圖像的大量信息體現(xiàn)在奇異值分解后的前K個最大的奇異值中。由于取整幅人臉圖像的奇異值不能很好地表達人臉的細節(jié)信息，本文將圖片進行分塊，對每一塊圖片進行奇異值分解，選取得到的前3個最大的奇異值，并按從左到右，從上到下的順序將每塊圖片得到的前3個奇異值進行排列，得到新的奇異值向量，即為人臉特征向量。本文將人臉圖形分為4塊、8塊、12塊、16塊、20塊，對應的特征向量維數(shù)為12維、24維、36維、48維、60維。分塊的多少按照實際情況可進行調整，如圖1所示，本文最后將人臉圖像分為12塊。

圖1 ?圖像分塊

2 ?小波神經(jīng)網(wǎng)絡

2.1 ?小波神經(jīng)網(wǎng)絡理論

在一個神經(jīng)網(wǎng)絡中，如果網(wǎng)絡的傳遞函數(shù)是由一個小波函數(shù)系構成，則該神經(jīng)網(wǎng)絡稱為小波神經(jīng)網(wǎng)絡。其綜合了小波分析良好的時頻分析能力和神經(jīng)網(wǎng)絡強大的自學習能力，擁有強大的非線性擬合能力和模式識別能力[10]。小波神經(jīng)網(wǎng)絡由輸入層、隱含層、輸出層組成，相應的小波函數(shù)的伸縮系數(shù)以及平移系數(shù)分別對應著小波神經(jīng)網(wǎng)絡中從輸入層到隱含層的權值系數(shù)和隱含層的閾值，其結構如圖2所示。

圖2 ?小波神經(jīng)網(wǎng)絡結構圖

圖3 ?Morlet小波基函數(shù)時域圖

本文中小波神經(jīng)網(wǎng)絡的輸入節(jié)點[M]取決于SVD特征提取的維數(shù)。輸出層的節(jié)點數(shù)就是人臉的類別數(shù)，由訓練的人臉數(shù)據(jù)庫決定。隱含層的節(jié)點數(shù)目至今沒有明確的公式，本文采用試湊法，計算方法如下：

式中：M為輸入層的節(jié)點數(shù);N為輸出層節(jié)點數(shù);[a]為1～10的數(shù);k為隱含層的節(jié)點數(shù)。在實際訓練過程中，具體的數(shù)目還需要根據(jù)網(wǎng)絡的訓練次數(shù)和誤差進行調整，選擇在誤差最小的情況下的隱含層節(jié)點數(shù)為最終結果。

2.2 ?小波神經(jīng)網(wǎng)絡訓練方法

文中小波神經(jīng)網(wǎng)絡的學習算法選用隨機梯度法，不斷調整網(wǎng)絡的權值參數(shù)和小波基函數(shù)的參數(shù)，使其接近網(wǎng)絡的期望輸出。在訓練過程中引入動量項，可以使權值產生平滑的變化，減少小波神經(jīng)網(wǎng)絡的收斂時間，改進小波神經(jīng)網(wǎng)絡的動態(tài)特性。小波神經(jīng)網(wǎng)絡修正過程如下：

1） 計算網(wǎng)絡預測誤差

如果有[L]個訓練樣本，期望有[N]個分類，[tnl]為期望輸出，[ynl]為實際輸出，利用LMS能量函數(shù)[11]，則訓練過程的總誤差為：

2） 權值修正

3 ?實驗結果和分析

本文使用ORL（Oliver Research Laboratory）和YALE兩個常用的人臉數(shù)據(jù)庫，其中ORL人臉數(shù)據(jù)庫，共40個人，每人10幅，分辨率大小為112×92，灰度級為256，主要包括不同光照條件下人臉角度、人臉姿態(tài)、人臉面部表情和人臉面部細節(jié)的變化，部分人臉圖片如圖4所示。YALE人臉庫包括15個人的165幅人臉圖像，分辨率大小為[100×100]，人臉庫主要包含姿態(tài)、光照、表情以及遮擋（戴不戴眼鏡）等變化，部分人臉圖片如圖5所示。

圖4 ?ORL人臉庫部分圖片

圖5 ?YALE人臉庫部分圖片

本文按照SVD分塊的不同，即提取特征維數(shù)的不同和訓練集的大小不同對算法進行分組實驗，提取特征維數(shù)分別為12維，24維，36維，48維，60維，隨機選取ORL和YALE人臉庫的每人3幅、5幅、7幅圖像作為訓練集，剩余部分作為測試集，訓練集和測試集圖片互不重合，利用Matlab軟件編制相應的程序，對算法識別率進行分析，重復試驗20次取平均識別率為最終識別率。實驗結果如表1和表2所示。

根據(jù)表1和表2，可以看出在ORL人臉庫和YALE人臉庫中，對于相同的訓練樣本數(shù)，識別率隨著特征向量維數(shù)的增加而增加，當向量維數(shù)大于36維之后識別率又開始下降，可見對于本文算法，識別率的大小和特征向量維數(shù)并不成正比，當人臉圖像分塊數(shù)過多時，反而會破壞人臉細節(jié)信息，因此當圖片取36維特征向量最為合適，也就是將人臉圖像分成12塊再進行奇異值分解時，該算法識別率最高。對于相同的特征維數(shù)，隨著每個人訓練樣本數(shù)目的增多，人臉識別的準確率也會越來越高。綜上所述，本文中將人臉圖像分為12塊，訓練樣本數(shù)為7時，該算法的識別率最高，并且對光照、姿態(tài)、表情等變化有很好的魯棒性。

表1 ?本文算法在ORL人臉庫的識別率

表2 ?本文算法在YALE人臉庫的識別率

為了驗證本文算法的性能，將其與相關算法進行比較，其中，文獻[10]是基于小波神經(jīng)網(wǎng)絡的算法，文獻[5，9，12]是基于SVD的算法，這4種方法只利用了臉部的全局信息，而本文方法很好地利用了人臉的局部信息，可以避免表情和光照變化帶來的干擾。比較結果如表3所示，可以看到本文方法的識別率明顯高于其他4種方法。

表3 ?本文算法與相關算法比較

4 ?GUI界面設計

為了使操作更加方便直觀，將用Matlab圖形用戶界面GUI對本文方法進行了驗證試驗。其中GUI界面包括兩個模塊：一個是輸入人臉圖像模塊;另一個是識別模塊。輸入人臉圖像模塊主要是選擇人臉庫中的任意一張照片，以便于識別;而識別模塊是當輸入圖像后，可以根據(jù)本文算法，匹配相應的人臉，并顯示人臉對應的相關身份信息，以便于之后用于人臉簽到等場所。GUI圖形用戶界面如圖 6所示，輸入人臉圖像是第4個人的第10張圖片，未戴眼鏡，并且頭部有很明顯的旋轉角度，利用本文算法仍然能很好地識別出來，并且能顯示出人臉的身份信息。

圖6 ?GUI圖形用戶界面

5 ?結 ?語

本文提出一種基于分塊SVD和小波神經(jīng)網(wǎng)絡結合的人臉識別算法。首先分析了該算法的實現(xiàn)過程，然后用Matlab對此算法在ORL和YALE人臉數(shù)據(jù)庫中進行了驗證，并用GUI界面實現(xiàn)。通過實驗表明，本文算法在光照、背景、姿態(tài)、遮擋等綜合因素影響下依然能取得較高的識別率，并且避免了維數(shù)災難問題，降低了計算量，具有很好的魯棒性和實用價值。但本文算法并沒有很好地利用人臉的局部信息，下一步的研究內容就是在人臉圖像分塊時將人臉的眼睛、嘴巴、鼻子等部位單獨分開并進行特征提取，再進行人臉識別和分類。

參考文獻

[1] BECKER B C， ORTIZ E G. Evaluating open?universe face identification on the Web [C]// Proceedings of IEEE Conference on Computer Vision and Pattern Recognition Workshops. Portland： IEEE， 2013： 904?911.

[2] 孔令美，湯庸.基于小波變換和小波神經(jīng)網(wǎng)絡的3D遮擋人臉識別方法[J].湘潭大學自然科學學報，2015，37（4）：82?86.

KONG Lingmei， TANG Yong. A method for 3D occlusion face recognition based on wavelet transform and wavelet neural network [J]. Natural science journal of Xiangtan University， 2015， 37（4）： 82?86.

[3] CAO D， YANG B. An improved face recognition algorithm based on SVD [C]// Proceedings of 2nd International Conference on Computer and Automation Engineering. Singapore： IEEE， 2010： 109?112.

[4] 馬園園，張登銀.基于SVD的兩步人臉識別方法[J].計算機技術與發(fā)展，2018，28（1）：95?99.

MA Yuanyuan， ZHANG Dengyin. A two?step face recognition method based on SVD [J]. Computer technology and development， 2018， 28（1）： 95?99.

[5] 董超，徐寧，Kim Batselier，等.基于TTr1SVD的張量奇異值分解及其在人臉識別上的應用[J].計算機應用研究，2018，35（1）：287?291.

DONG Chao， XU Ning， BATSELIER K， et al. Tensor singular value decompositions based on TTr1SVD and their applications to face recognition problem [J]. Application research of computers， 2018， 35（1）： 287?291.

[6] ZHANG Q， BENVENISTE A. Wavelet networks [J]. IEEE transactions on neural networks， 1992， 3（6）： 889?898.

[7] YU M， WANG H， LAN Ting. The BP neural network for improvement of classification accuracy in remote sensing image [J]. International journal of environmental protection and policy， 2016， 4（3）： 93?97.

[8] ZHANG Guiying， ZOU Wenbin， ZHANG Xianjie， et al. Singular value decomposition based sample diversity and adaptive weighted fusion for face recognition [J]. Digital signal processing， 2017， 62： 150?156.

[9] 張慈祥，劉輝，強振平.基于稀疏表示和奇異值分解的人臉識別[J].計算機應用，2013，33（z1）：233?235.

ZHANG Cixiang， LIU Hui， QIANG Zhenping. Face recognition based on image sparse representation and singular value decomposition [J]. Journal of computer applications， 2013， 33（S1）： 233?235.

[10] 姜友誼.小波神經(jīng)網(wǎng)絡在人臉識別中的應用[J].西安科技大學學報，2012，32（5）：652?657.

JIANG Youyi. Face recognition based on wavelet neural network [J]. Journal of Xian University of Science and Technology， 2012， 32（5）： 652?657.

[11] GUI G， MEHBODNIYA A， ADACHI F. Sparse LMS/F algorithms with application to adaptive system identification [J]. Wireless communications & mobile computing， 2015， 15（12）： 1649?1658.

[12] 何正風，孫亞民.基于奇異值分解和徑向基函數(shù)神經(jīng)網(wǎng)絡的人臉識別算法研究[J].計算機科學，2012，39（z1）：566?569.

HE Zhengfeng， SUN Yamin. Research on face recognition algorithm based on SVD and RBF neural network [J]. Computer science， 2012， 39（S1）： 566?569.