基于KPCA和LDA融合改進(jìn)的人臉識別算法研究

基于KPCA和LDA融合改進(jìn)的人臉識別算法研究

張震，張學(xué)忠，李龍

(鄭州大學(xué) 電氣工程學(xué)院，河南 鄭州 450001)

摘要：針對人臉識別算法運(yùn)行速度與識別率的矛盾，提出了一種將KPCA和LDA相結(jié)合的算法.首先對人臉圖像進(jìn)行白化、低通濾波預(yù)處理，去除干擾、噪聲的同時(shí)平衡圖像的能量譜；然后利用KPCA和LDA的改進(jìn)方法，有效降低樣本空間維數(shù)的同時(shí)又解決了“小樣本”和邊緣數(shù)據(jù)的分類問題；最后利用最近鄰分類器進(jìn)行分類識別.通過大量的實(shí)驗(yàn)證明此方法是可行的.

關(guān)鍵詞：白化；低通濾波；預(yù)處理；KPCA；LDA

收稿日期:2015-04-21；

修訂日期：2015-07-10

基金項(xiàng)目:河南省教育廳重點(diǎn)科技攻關(guān)計(jì)劃項(xiàng)目(13A510684)

作者簡介:張震(1966—)，男，河南鄭州人，鄭州大學(xué)教授，博士，主要從事信號處理，圖像處理與模式識別研究，E-mail：zhangzhen66@126.com.

文章編號:1671-6833(2015)05-0116-05

中圖分類號：TQ0352.7；TQ0352.9

文獻(xiàn)標(biāo)志碼：A

doi:10.3969/j.issn.1671-6833.2015.05.025

Abstract:In view of the contradiction between running speed and recognition rate of face recognition algorithm, a new algorithm has been proposed that combines KPCA and LDA .Firstly, the face images is conducted pretreatment of whitening and low pass filtering to remove the interference and noise, and at the same time it also can balance the energy spectrum of the image. Then, combining with the improved of KPCA and LDA method, we effectively reduce the sample space dimensionality and solve the “small sample” and edge data classification problems. Finally, the nearest neighbor classifier is used for classification and recognition. The experimental results verify that the method is feasible.

0引言

人臉識別一直是生物識別領(lǐng)域的研究熱點(diǎn)，基于統(tǒng)計(jì)和基于幾何的方法是比較常用的兩種人臉識別方法[1].現(xiàn)在最受歡迎的是基于子空間的方法，它具有較高的計(jì)算效率和表征能力.最基本的線性子空間方法有主成分分析法(PCA)、線性鑒別分析法(LDA)；非線性子空間方法主要有拉普拉斯特征映射法、核主成分分析法(KPCA)等.其中PCA和LDA方法在人臉識別中容易受姿態(tài)、光照、表情等因素的影響，又加上PCA方法不能解決人臉樣本的非線性問題和LDA方法使用時(shí)容易產(chǎn)生“小樣本”和邊緣數(shù)據(jù)的分類問題；而KPCA雖然能解決PCA不能解決的非線性問題，但同時(shí)它會(huì)提取到過多的不相關(guān)特征，從而影響到人臉識別的速度和識別率，因此筆者提出了KPCA和LDA融合改進(jìn)的方法.首先對人臉圖像進(jìn)行預(yù)處理，然后利用KPCA最佳樣本均值估計(jì)向量代替原始樣本向量，降低樣本維數(shù)，進(jìn)而提高了算法運(yùn)算速率；最后對降維后的樣本使用改進(jìn)的LDA方法.

1白化和低通濾波的預(yù)處理

獲得的每一幅人臉圖像，不能保證它是正規(guī)的，它或多或少受外界環(huán)境影響，進(jìn)而影響人臉的識別.人臉識別的預(yù)處理可以減少這些外界環(huán)境影響，提高識別率.筆者擬采用白化和低通濾波預(yù)處理.

人臉圖像就像一個(gè)平靜的水面上投去一顆石子，周圍產(chǎn)生不平衡的能量譜，根據(jù)這一系列能量譜進(jìn)行提取信息.根據(jù)這個(gè)原理，Liao Ling-zhi等提出用一個(gè)白化濾波器分離低頻和高頻信息，優(yōu)化人臉能量譜，然后用一個(gè)低通濾波來濾除用白化預(yù)處理分離開的高頻部分的噪聲[2].

白化處理的具體過程就是選取一個(gè)白化矩陣W，將原始圖像X經(jīng)過一個(gè)矩陣變換Y=WX，利用此式求取其特征值.W的具體表達(dá)式如下

(1)

式中：αw為白化參數(shù).

用指數(shù)低通濾波器濾除白化過程分離開的高頻噪聲，設(shè)計(jì)如下

(2)

2雙樹復(fù)小波和Gabor小波分解

雙樹復(fù)小波變換(Dual-Tree Complex Wavelet Transform，DT-CWT)[3]和Gabor小波[4]是人臉識別中常用的特征提取方法.DT-CWT可以解決很多小波變換不能解決的問題，它具有很多優(yōu)點(diǎn)，如多方向選擇性、良好的平移性、計(jì)算復(fù)雜度低等，又因?yàn)镈T-CWT由可分離小波變換演變而來，計(jì)算復(fù)雜度比Gabor小波低得多，這使得它在人臉識別中迅速流行開來.但DT-CWT的方向選擇也是有局限的，它僅能提取特定的幾個(gè)方向，就連比較重要的水平和豎直這2個(gè)方向都不能提取，Gabor小波可根據(jù)應(yīng)用進(jìn)行參數(shù)設(shè)定，進(jìn)而提取任何方向的信息，因此選擇二者結(jié)合的方法.

3KPCA和LDA融合改進(jìn)算法

3.1核主成分分析法(KPCA)

從選取的人臉庫中任意選取一個(gè)樣本集，選取其中的n個(gè)作為訓(xùn)練樣本集，其余為測試樣本集，將每個(gè)樣本按從上到下，再從左到右的順序排列成一個(gè)N維列向量，從而訓(xùn)練樣本集的矩陣為X=[x1,x2,…,xn].φ:x→φ(x)∈F是對其實(shí)施的非線性映射，稱φ為核映射，F(xiàn)為核空間，已知在特征空間中作子空間降維變換有[5-6]

Y=WTφ(x).

(3)

對φ(x)進(jìn)行求解，對求得的特征值進(jìn)行排列，然后選取d個(gè)最大的特征值λi及其對應(yīng)的特征向量ui，根據(jù)公式(3)即可求出降維后的投影矩陣W=(γ1，γ2,…,γd).

3.2KPCA的改進(jìn)算法

傳統(tǒng)的KPCA算法雖然將人臉的非線性信息包括在了核矩陣中，但這樣將原來就很高的樣本維數(shù)，變得更高,因此，傳統(tǒng)的KPCA算法有計(jì)算難度大、時(shí)間長等問題.為了能夠解決上述問題，提出了改進(jìn)的KPCA算法.它的具體操作就是用最佳均值向量代替原始樣本向量，這樣以來投影到核空間的樣本維數(shù)也跟著降低了.具體描述如下[7-8].

從選取的人臉庫中任意選取一個(gè)樣本集，從樣本集中選取m個(gè)人，每個(gè)人c張圖片，總共n個(gè)樣本作為訓(xùn)練樣本集，將每個(gè)樣本按從上到下，再從左到右的順序排列成一個(gè)N維列向量，從而訓(xùn)練樣本集的矩陣為X=[x1,x2,...,xn].

(1)假設(shè)第i類的樣本向量為

(4)

(5)

(6)

(7)

選擇合適的均值向量系數(shù)對樣本均值向量進(jìn)行估計(jì)，使映射到核空間的維數(shù)降低，這相當(dāng)于進(jìn)行了一次降維，減小了計(jì)算量，設(shè)均值估計(jì)系數(shù)矩陣為u(c×c).

用公式(7)乘以均值向量系數(shù)求得最佳均值向量，則

(8)

(9)

為了求得最佳均值估計(jì)系數(shù)，筆者首先構(gòu)造一個(gè)αi函數(shù)，其中ui為函數(shù)αi的自變量.

3.3線性鑒別分析法(LDA)

傳統(tǒng)的LDA方法定義類內(nèi)離散度矩陣SW和類間離散度矩陣SB如下[9-10]：

(10)

(11)

(12)

式中：W滿足SBW=λSWW.

3.4改進(jìn)的LDA算法

眾所周知，傳統(tǒng)LDA有兩個(gè)突出缺點(diǎn)：一是處理高維圖像時(shí)容易產(chǎn)生“小樣本問題”，二是由此引發(fā)的邊緣數(shù)據(jù)分類的問題.為了解決這兩個(gè)問題，筆者對傳統(tǒng)算法做如下兩點(diǎn)改進(jìn).

(a)對SB作如下變化

為了更好地區(qū)分樣本類內(nèi)、類間的關(guān)系，使難以區(qū)分的樣本區(qū)分開，相同的樣本緊密聯(lián)系在一起，筆者在求取類間散度矩陣時(shí)，進(jìn)行了一定的加權(quán)值處理,使得類間信息區(qū)分更加明顯，同時(shí)類內(nèi)信息更加緊湊.

(14)

dij=(μi-μj)T(μi-μj)，

(15)

(16)

由準(zhǔn)則可知最具有辨別力的特征就是SB的非零空間和SW的零空間的交集空間.

(1)提取SW的零空間U

UTSWU=0,(UTU=I).

(17)

(18)

(19)

3.5KPCA和LDA的融合改進(jìn)方法

4實(shí)驗(yàn)及結(jié)果分析

以上算法用ORL人臉庫在MATLAB 2010a上進(jìn)行仿真實(shí)現(xiàn).首先對人臉圖像進(jìn)行預(yù)處理，這個(gè)過程就是用一個(gè)白化濾波器分離低頻和高頻信息，給人臉圖像進(jìn)行優(yōu)化能量譜，然后用一個(gè)低通濾波來濾除用白化處理分離開的高頻部分的噪聲.預(yù)處理之后，對人臉圖像運(yùn)用DT-CWT與0°和90°Gabor小波進(jìn)行特征提取共同構(gòu)成人臉圖

像的特征向量,預(yù)處理前后的圖像如圖1.

圖1　ORL人臉庫部分原圖像和預(yù)處理后的圖像

4.1樣本個(gè)數(shù)對各算法識別率和耗時(shí)的影響

本次實(shí)驗(yàn)采用的ORL人臉庫，共40個(gè)人，每人10幅圖像，從每類樣本中任意選取x=2，3，4，5，6張圖片作為訓(xùn)練樣本，其余的作為測試樣本，特征維數(shù)為40，具體實(shí)驗(yàn)結(jié)果如表1所示.

根據(jù)表1可知，這幾種算法隨著訓(xùn)練樣本數(shù)的增加，識別率都隨之提高，同時(shí)運(yùn)算時(shí)間也顯著增加.隨著訓(xùn)練樣本數(shù)的增加，PCA、LDA和改進(jìn)LDA(GLDA)的訓(xùn)練時(shí)間明顯高于改進(jìn)KPCA(GKPCA)和改進(jìn)KPCA+LDA(GKL)；GKPCA和GKL在處理小樣本時(shí)，與KPCA相比并無很大優(yōu)勢，但是隨著樣本數(shù)量逐漸增加，訓(xùn)練時(shí)間明顯減少，識別率也有所提高；相同樣本數(shù)的情況下GKPCA+LDA僅比KPCA多耗一點(diǎn)時(shí)間，但識別率也得到提高，這是值得的.

表1　不同算法的人臉識別速度和識別率

4.2樣本維數(shù)對各算法識別率的影響

本實(shí)驗(yàn)選取ORL人臉庫的前5幅人臉圖像作為訓(xùn)練集，其它圖像作為測試集，在特征維數(shù)分別為20～60時(shí)通過以下6種方法進(jìn)行對比實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果如表2.

通過實(shí)驗(yàn)可以看出，各個(gè)算法隨著特征維數(shù)的變化，識別率也隨之改變，特征維數(shù)在40左右時(shí)，識別率達(dá)到最佳.實(shí)驗(yàn)說明了特征維數(shù)過小或過大都影響識別率，過小不能包含圖像的全部信息，過大影響識別速度和包含過多的冗余信息.

4.3特征向量數(shù)對各算法識別率的影響

本實(shí)驗(yàn)選取ORL人臉庫的前5幅人臉圖像作為訓(xùn)練集，其它圖像作為測試集，特征維數(shù)為40，通過以下6種方法進(jìn)行對比實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果如表3.

根據(jù)表3可知，隨著特征向量數(shù)的增加，各個(gè)算法的總體趨勢是一致的，識別率都在提高.當(dāng)特征向量數(shù)趨于90左右時(shí)，識別率趨于穩(wěn)定.這說明特征向量數(shù)為90時(shí)基本上達(dá)到最佳，隨著特征向量數(shù)的增加，測試的時(shí)間也會(huì)越來越長，并且變化很大。幾種算法的對比比較，充分體現(xiàn)了筆者提出的人臉識別算法的優(yōu)勢.

5結(jié)論

對人臉圖像進(jìn)行白化和低通濾波預(yù)處理后，運(yùn)用DT-CWT與Gabor小波進(jìn)行8個(gè)方向的特征提??；然后利用改進(jìn)KPCA的最佳樣本均值估計(jì)向量代替原始的樣本向量和對LDA的類間散度矩陣和類內(nèi)散度矩陣進(jìn)行改進(jìn)，降低樣本維數(shù)

的同時(shí)還保留了最具有辨別力的信息，進(jìn)而提高了算法的識別率.

表2　不同算法的識別率隨維數(shù)的變化情況

表3　樣本向量數(shù)對各算法識別率的影響

參考文獻(xiàn)：

[1]CHELLAPPA R，WILSON C L，Sirohey human S machine recognition of faces:a survey[J].Proceedings of IEEE，1995,83(5) ：705-741.

[2]LIAO Ling-zhi，LUO Si-wei，TIAN Mei. Whitened faces recognition with PCA and ICA [J] . IEEE Signal Processing Letters，2007，14(12)：1008-1011.

[3]SELESNICK IW， BARANIUK R G， KINGSBURY N C. The dual-tree complex wavelet and 2-D Gabor transform [J] . IEEE Signal Processing Magazine，2000， 22(6) ：123-151.

[4]LIU C， WECHSLER H. Independent component analysis of Gabor features for face recognition [J] . IEEE Transactions on Neural Net-works，2003， 14(4) ：919-928.

[5]SEBASTIAN M, GUNNAR R, JASON W, et al. Fisher discriminant analysis with kernels [A]. Proceeding of the IEEE Workshop on Networks for Signal Processing[C]. Pis-cataway, 1999:41-48.

[6]鄧貌，陳旭，陳天翔，等.采用核聚類分析的KPCA改進(jìn)算法[J].智能系統(tǒng)學(xué)報(bào),2010，5(3) ：221 -226.

[7]韓爭勝，李映，張艷寧.基于LDA算法的人臉識別算法的研究[J].微電子學(xué)與計(jì)算機(jī)，2005,22(7)：131-138.

[8]王永茂，徐正光，吳金霞. 基于類別多核局部判別嵌入的人臉識別[J] . 鄭州大學(xué)學(xué)報(bào)：工學(xué)版，2012，33(3)：125-128.

[9]SHERMINA J. Illumination invariant face recognition using discrete cosine transform and principal component analysis[C]// Proceedings IEEE Conference on Electrical and Computer Technology. Tamil Nadu: Institute of Electrical and Electronics Engineers Computer Society，2011：826-830.

[10]謝永林.LDA算法及其在人臉識別中的應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用,2010，46(19):189-192.

Study of Face Recognition Algorithm Based on Improved KPCA and LDA

ZHANG Zhen1, ZHANG Xue-zhong2, LI Long3

(School of Electrical Engineering, Zhengzhou University, Zhengzhou 450001, China)

Key words: whitening; low pass filter; preprocessing; KPCA; LDA