一種新的模糊稀疏表示人臉識(shí)別算法

李 懿， 劉 曉 東

( 1.大連理工大學(xué) 電子信息與電氣工程學(xué)部 控制科學(xué)與工程學(xué)院, 遼寧 大連 116024；2.黑龍江科技大學(xué) 計(jì)算機(jī)與信息工程學(xué)院， 黑龍江 哈爾濱 150022 )

一種新的模糊稀疏表示人臉識(shí)別算法

李 懿1,2， 劉 曉 東*1

( 1.大連理工大學(xué) 電子信息與電氣工程學(xué)部 控制科學(xué)與工程學(xué)院, 遼寧 大連 116024；2.黑龍江科技大學(xué) 計(jì)算機(jī)與信息工程學(xué)院， 黑龍江 哈爾濱 150022 )

稀疏表示人臉識(shí)別算法的主要思想是：一個(gè)未知的測(cè)試圖像可以近似表示為所有與其隸屬同類的訓(xùn)練樣本的一個(gè)線性組合．然而，人臉之間存在著極大的相似性，同時(shí)易受到外部環(huán)境的影響，人臉分類的本身存在著一定的不確定性．針對(duì)這種不確定性，結(jié)合模糊集合理論，提出了一種新的模糊稀疏表示人臉識(shí)別算法．首先，引入一個(gè)非線性函數(shù)描述人臉的相似性程度．然后，基于該相似性度量以及最近鄰分類器思想，定義一個(gè)自適應(yīng)的模糊隸屬度函數(shù)來分配人臉對(duì)類的隸屬程度．而這一過程恰使得這些隸屬度是稀疏化的．最后，將稀疏化的模糊隸屬度作為訓(xùn)練樣本表示測(cè)試樣本的權(quán)值系數(shù)，進(jìn)而重構(gòu)測(cè)試圖像．采用MATLAB在ORL和Yale人臉數(shù)據(jù)庫上進(jìn)行仿真實(shí)驗(yàn)，驗(yàn)證了該算法的有效性和穩(wěn)定性．

人臉識(shí)別；模式識(shí)別；相似度；模糊隸屬度；稀疏表示；最近鄰分類器

0 引 言

人臉識(shí)別是一個(gè)熱門的研究課題，近幾十年來，被廣泛應(yīng)用于娛樂、信息安全以及司法等各個(gè)領(lǐng)域[1-2]．線性子空間分析算法是其中廣受關(guān)注的特征提取與人臉識(shí)別算法之一．最著名的算法包括基于主成分分析(PCA)的特征臉?biāo)惴╗3]、Fisherface[4]、線性判別分析(LDA)[5]以及基于這些經(jīng)典算法延伸出來的若干種改進(jìn)算法．

另外一類新興的人臉識(shí)別算法被稱為稀疏化表示算法．該算法的基本思想是：用訓(xùn)練樣本的一個(gè)稀疏化線性組合近似估計(jì)一個(gè)測(cè)試圖像[6]．其中，稀疏即是在線性組合表示時(shí)，部分訓(xùn)練樣本對(duì)應(yīng)的系數(shù)為0．這類算法試圖尋找不同類訓(xùn)練樣本對(duì)測(cè)試圖像潛在的貢獻(xiàn)率．稀疏化表示算法不斷涌現(xiàn)，例如：Gao等[7]提出的核稀疏表示的人臉識(shí)別算法以及Yang等[8]利用Gabor特征提出的稀疏表示分類器(SRC)等，驗(yàn)證了稀疏算法的識(shí)別精度高于非稀疏算法[9]．特別是基于l0-范數(shù)的凸規(guī)劃算法進(jìn)行的稀疏表示得到了較好的識(shí)別結(jié)果[10]．它將人臉識(shí)別問題看作一個(gè)多元線性規(guī)劃模型的分類問題．首先，將一個(gè)測(cè)試圖像用所有的訓(xùn)練樣本稀疏化線性表示；然后，尋找最小表示誤差的類記為該測(cè)試圖像的類．然而，最小化l0-范數(shù)問題是一個(gè)NP難題，Wright等提出的魯棒稀疏表示算法用l1-范數(shù)作為最近似于l0-范數(shù)的凸優(yōu)化函數(shù)來解決這類稀疏化問題[11]．該算法指出稀疏信號(hào)表示的新理論可以為這類稀疏表示人臉識(shí)別算法提供關(guān)鍵的解決方案，并取得較好的實(shí)驗(yàn)結(jié)果[12-13]．盡管最小化l1-范數(shù)比最小化l0-范數(shù)更有效，但它仍然是一個(gè)非線性算法，算法復(fù)雜，時(shí)間代價(jià)較高．Xu等在文獻(xiàn)[14]中提出了一個(gè)新的更為簡(jiǎn)單快速的稀疏表示人臉識(shí)別算法．該算法首先在每一類中選擇與測(cè)試樣本最近鄰的訓(xùn)練樣本；然后，用所有被選中的訓(xùn)練樣本的一個(gè)線性組合近似估計(jì)測(cè)試圖像．該算法證明了一個(gè)簡(jiǎn)單的稀疏表示人臉識(shí)別算法亦可得到較好的識(shí)別結(jié)果．

現(xiàn)有的這類算法中對(duì)類分配問題多停留在二分類基礎(chǔ)上，即樣本完全隸屬于某一個(gè)類．換句話說，在確定模式類隸屬度的過程中，每一個(gè)已標(biāo)號(hào)的人臉在其中的重要性是均等的．然而，人臉數(shù)據(jù)在獲取的過程中，樣本往往會(huì)受到各種環(huán)境條件(如光照、姿勢(shì)、年齡等)的影響，使得原始樣本分布較為復(fù)雜．這種復(fù)雜性連同人臉本身具有的相似性和可變性等各種因素導(dǎo)致的不確定性都直接影響著人臉識(shí)別算法的識(shí)別精度．顯然，在人臉分類時(shí)，這些影響因素應(yīng)該被考慮進(jìn)去．從本質(zhì)上講，考慮這些因素的人臉類分配問題應(yīng)該是軟分類，即模糊分類問題．換言之，一個(gè)給定標(biāo)號(hào)的人臉可能部分地隸屬于多個(gè)類[15]，而模糊集恰好可以處理這類近似推理、不確定性、模糊性和不精確性等問題[16]．

鑒于上述分析，結(jié)合模糊集合理論，本文提出一個(gè)新的模糊稀疏表示人臉識(shí)別算法(FSR)．首先，引入一個(gè)新的非線性函數(shù)描述人臉之間以及人臉與類之間的局部相似性程度．然后，基于相似性度量，定義一個(gè)自適應(yīng)模糊集．該模糊集依據(jù)訓(xùn)練樣本及最近鄰思想確定人臉對(duì)類的一個(gè)稀疏化的模糊隸屬度．這樣的隸屬度表示人臉與類之間的隸屬程度，也表示訓(xùn)練樣本對(duì)某一類人臉的表示能力．因此，以這些隸屬度作為權(quán)值并近似地表示一個(gè)未知的測(cè)試圖像是合理的，據(jù)此將測(cè)試圖像辨識(shí)為重構(gòu)誤差最小的一類．與傳統(tǒng)的最近鄰概念不同，本算法中采用的是最大相似近鄰．

1 算法思想

1.1 相似度函數(shù)的定義

為了定義一個(gè)恰當(dāng)?shù)哪：`屬度函數(shù)，首先定義相似性作為判別訓(xùn)練人臉之間以及人臉與類之間相似關(guān)系的度量．由于訓(xùn)練樣本數(shù)量有限，聯(lián)合概率密度函數(shù)通常是未知的．因此，類似于文獻(xiàn)[17]，一個(gè)新的人臉局部相似性度量函數(shù)定義如下：

定義1(人臉相似度) 第i個(gè)人臉Xi和第j個(gè)人臉Xj之間的相似度定義為

(1)

顯然，該相似度函數(shù)是關(guān)于樣本對(duì)的灰度值差值的減函數(shù)，兩個(gè)人臉相對(duì)應(yīng)的灰度值越接近，相似度值越大，進(jìn)而表示人臉越相似．與傳統(tǒng)的核函數(shù)不同，它是在樣本對(duì)之間獨(dú)立計(jì)算的，因此，它是表示兩個(gè)隨機(jī)變量之間的一個(gè)局部相似性的度量．

(2)

1.2 自適應(yīng)模糊集

一般地，模糊集合理論可以處理模式與類之間不確定的隸屬關(guān)系問題．假設(shè)給定一個(gè)訓(xùn)練樣本X，它的一個(gè)s劃分可以給訓(xùn)練樣本對(duì)s個(gè)類分別分配一個(gè)隸屬度，這種隸屬度在0～1變化，而同一個(gè)模式隸屬于各類的程度之和應(yīng)該為1．因此，模糊隸屬度矩陣U=(μl1l2)應(yīng)該滿足如下性質(zhì)：

(3)

(4)

其中μl1l2∈[0,1]．

對(duì)于人臉模式的軟分類問題可以追溯到Keller等發(fā)表的公開結(jié)果[18]，其理論基礎(chǔ)是模糊k-近鄰分類算法，即對(duì)于給定的模式Xj，隸屬于c類的近鄰越多，隸屬于c類的程度越大．因此，基于相似性度量及k-近鄰分類思想，本文定義了一個(gè)自適應(yīng)模糊集．

(5)

其中l(wèi)abel(j)=c表示Xj給定的類標(biāo)號(hào)為c．

事實(shí)上，上述隸屬度分配算法試圖模糊化或改善已標(biāo)號(hào)模式的隸屬度，而模式的主隸屬度并沒有受到影響，即已標(biāo)號(hào)的人臉模式?jīng)]有被完全地劃分為其他類．該定義只是對(duì)隸屬度進(jìn)行了某些細(xì)化或改善，并且保證了所得隸屬度是稀疏化的．由于模糊隸屬度可以指代樣本對(duì)類的貢獻(xiàn)程度，用這樣的隸屬度作為表示測(cè)試樣本的權(quán)值系數(shù)是合理的．本文算法正是在這種軟分類的基礎(chǔ)上實(shí)現(xiàn)了人臉的識(shí)別．

1.3 分類器

本文試圖采用訓(xùn)練樣本集合的一個(gè)稀疏的線性組合盡可能好地近似表示一個(gè)未知的樣本y．從理論上看，與y同類的訓(xùn)練樣本才可能對(duì)y給出一個(gè)最佳的重構(gòu)估計(jì)．因此，根據(jù)相似性及模糊隸屬度，對(duì)一個(gè)測(cè)試樣本y的分類過程如下：

對(duì)每一個(gè)c類，令δc(β)為隸屬度向量，即δc(β)=(μ(c,j))(j=1,2,…,N，c=1,2,…,s)，則給定的樣本y相對(duì)于c類的近似估計(jì)為

y^=Xδc(β)=∑Nj=1μ(c,j)Xj∑Nj=1μ(c,j)

(6)

y被認(rèn)為是所有類對(duì)應(yīng)的重構(gòu)中，估計(jì)誤差最小的那個(gè)類中的樣本，即

(7)

綜上所述，新的模糊稀疏化表示的人臉識(shí)別算法(FSR)的具體步驟歸納如下：

步驟3 按照式(5)計(jì)算模糊隸屬度μ(c,j)．

步驟4 將模糊隸屬度μ(c,j)作為稀疏化權(quán)值系數(shù)．在新的分類基礎(chǔ)上，按式(6)將測(cè)試圖像y重構(gòu)為

=Xδc(β)；c=1,2,…,s

步驟5 計(jì)算估計(jì)誤差：

步驟6 識(shí)別y為估計(jì)誤差最小的一類，即

2 實(shí) 驗(yàn)

為了驗(yàn)證本文算法的有效性和穩(wěn)定性，針對(duì)人臉公開數(shù)據(jù)庫ORL(由英國(guó)劍橋大學(xué)AT&T實(shí)驗(yàn)室提供)和Yale(由美國(guó)耶魯大學(xué)計(jì)算視覺與控制中心創(chuàng)建)進(jìn)行MATLAB仿真．將FSR算法與經(jīng)典的稀疏表示算法(SRC)、經(jīng)典的模糊人臉識(shí)別算法(FLDA)的實(shí)驗(yàn)結(jié)果進(jìn)行對(duì)比．在實(shí)驗(yàn)中，訓(xùn)練樣本都是隨機(jī)選取的，并選擇除訓(xùn)練樣本外的其余樣本作為測(cè)試樣本．記錄10次隨機(jī)實(shí)驗(yàn)的平均識(shí)別結(jié)果進(jìn)行比較．另外，所有的度量函數(shù)均在人臉矩陣基礎(chǔ)上計(jì)算，不需要將人臉數(shù)據(jù)轉(zhuǎn)換為向量，一定程度上減少了算法的復(fù)雜性．

2.1 ORL人臉數(shù)據(jù)庫實(shí)驗(yàn)結(jié)果

ORL人臉數(shù)據(jù)庫包含了40個(gè)人的400張人臉圖像，這些圖像伴隨著位置、方向、人臉表情(睜眼或閉眼、笑或不笑)以及人臉細(xì)節(jié)(戴眼鏡或不戴眼鏡)等方面的變化．?dāng)?shù)據(jù)中所有灰度圖像首先被標(biāo)準(zhǔn)化為92 pixels×112 pixels．在對(duì)ORL人臉數(shù)據(jù)庫進(jìn)行的實(shí)驗(yàn)中，訓(xùn)練樣本的個(gè)數(shù)在3～7變化，且參數(shù)k等于相應(yīng)的訓(xùn)練樣本個(gè)數(shù)．10次隨機(jī)實(shí)驗(yàn)的平均識(shí)別精度R如圖1所示．

圖1 FSR算法與SRC、FLDA算法對(duì)ORL人臉數(shù)據(jù)庫的識(shí)別精度

Fig.1 Recognition accuracy on ORL face database for FSR, SRC and FLDA algorithms

2.2Yale人臉數(shù)據(jù)庫實(shí)驗(yàn)結(jié)果

Yale人臉數(shù)據(jù)庫由15個(gè)人的165張人臉圖像組成．其中，每個(gè)個(gè)體的圖像個(gè)數(shù)為11．所有圖像在不同的光照環(huán)境下采集，并且包含了一系列表情變化，如悲傷、喜悅等．本文算法中使用的圖像均是標(biāo)準(zhǔn)化為231pixels×192pixels的灰度圖像．實(shí)驗(yàn)中，訓(xùn)練樣本個(gè)數(shù)在3～7變化，參數(shù)k等于訓(xùn)練樣本個(gè)數(shù)．10次隨機(jī)實(shí)驗(yàn)的平均識(shí)別精度R如圖2所示．

圖1和圖2表明，本文算法的識(shí)別精度始終優(yōu)于其他經(jīng)典的人臉識(shí)別算法(包括FLDA、SRC等)，識(shí)別精度提高2%以上．隨著樣本個(gè)數(shù)的增加，F(xiàn)SR算法的識(shí)別精度提高速度加快，并趨于穩(wěn)定．

圖2FSR算法與SRC、FLDA算法對(duì)Yale人臉數(shù)據(jù)庫的識(shí)別精度

Fig.2 Recognition accuracy on Yale face database for FSR, SRC and FLDA algorithms

2.3 算法時(shí)間復(fù)雜性對(duì)比結(jié)果

針對(duì)ORL和Yale人臉數(shù)據(jù)庫，本文對(duì)算法的時(shí)間復(fù)雜性進(jìn)行了對(duì)比分析．各算法的時(shí)間消耗對(duì)比如表1、2所示．其中，F(xiàn)SR算法運(yùn)行消耗的時(shí)間不及SRC算法的1/10．可見，本文算法不僅有效地改善了人臉識(shí)別的精度，而且大大提高了時(shí)間運(yùn)行效率．

表1 基于ORL人臉數(shù)據(jù)庫的時(shí)間消耗

表2 基于Yale人臉數(shù)據(jù)庫的時(shí)間消耗

3 結(jié) 語

本文主要研究一個(gè)模糊的稀疏表示人臉識(shí)別算法(FSR)．該算法基于一個(gè)新的相似性度量以及k-近鄰分類思想，定義了一個(gè)新的自適應(yīng)模糊隸屬度函數(shù)．該模糊隸屬度函數(shù)使訓(xùn)練樣本對(duì)應(yīng)的類隸屬度是模糊的且稀疏化的．以這種稀疏的模糊隸屬度表示訓(xùn)練樣本對(duì)類的貢獻(xiàn)率，對(duì)測(cè)試樣本進(jìn)行近似估計(jì)，并將估計(jì)誤差最小的類辨識(shí)為測(cè)試圖像所屬類．

FSR算法是一種新的且有效的模糊稀疏表示人臉識(shí)別算法．利用新提出的相似性度量，并結(jié)合最相似k-近鄰分類思想來確定重構(gòu)測(cè)試圖像的權(quán)值系數(shù)，簡(jiǎn)化了稀疏表示算法過程，同時(shí)，避免了凸規(guī)劃模型的求解問題，大大提高了算法的時(shí)間效率．最相似k-近鄰分類思想的引入，可以有效地利用人臉相似性等客觀因素對(duì)于人臉數(shù)據(jù)的影響，提高識(shí)別精度．該算法是一種模糊算法，有效地避免了以往算法中人臉二分類的弊端．

采用MATLAB進(jìn)行仿真實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明FSR算法與經(jīng)典人臉識(shí)別算法相比，識(shí)別精度始終較高，而且時(shí)間復(fù)雜性相對(duì)較小．可見，這種新的稀疏模糊隸屬度可以較好地修正對(duì)測(cè)試圖像線性估計(jì)的結(jié)果，同時(shí)極大地減少了算法的時(shí)間代價(jià)．

[1] KWAK K C, PEDRYCZ W. Face recognition using a Fuzzy Fisherface classifier [J]. Pattern Recognition, 2005, 38(10):1717-1732.

[2] ZHU Ningbo, LI Shengtao. A kernel-based sparse representation method for face recognition [J]. Neural Computing and Applications, 2014, 24(3-4):845-852.

[3] TURK M, PENTLAND A. Eigenfaces for recognition [J]. Journal of Cognitive Neuroscience, 1991, 3(1):71-86.

[4] BELHUMEUR P N, HESPANHA J P, KRIEGMAN D J. Eigenfaces vs. Fisherfaces: recognition using class specific linear projection [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 1997, 19(7):711-720.

[5] MITCHELL H B. Image sub-space techniques [M] // Image Fusion. Berlin: Springer Berlin Heidelberg, 2010:107-124.

[6] ELHAMIFAR E, VIDAL R. Sparse subspace clustering [C] // 2009 IEEE Computer Society Conference on Computer Vision and Pattern Recognition Workshops, CVPR Workshops 2009. Piscataway: IEEE Computer Society, 2009:5206547.

[7] GAO Shenghua, TSANG I W H, CHIA L T. Kernel sparse representation for image classification and face recognition [C] // Computer Vision, ECCV 2010 — 11th European Conference on Computer Vision, Proceedings. Heidelberg: Springer Verlag, 2010:1-14.

[8] YANG Meng, ZHANG Lei. Gabor feature based sparse representation for face recognition with Gabor occlusion dictionary [C] // Computer Vision, ECCV 2010 — 11th European Conference on Computer Vision, Proceedings. Heidelberg: Springer Verlag, 2010:448-461.

[9] WAGNER A, WRIGHT J, GANESH A,etal. Towards a practical face recognition system:robust registration and illumination by sparse representation [C] // 2009 IEEE Computer Society Conference on Computer Vision and Pattern Recognition Workshops, CVPR Workshops 2009. Piscataway: IEEE Computer Society, 2009:5206654.

[10] TROPP J A, WRIGHT S J. Computational methods for sparse solution of linear inverse problems [J]. Proceedings of the IEEE, 2010, 98(6):948-958.

[11] WRIGHT J, YANG A Y, GANESH A,etal. Robust face recognition via sparse representation [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2009, 31(2):210-227.

[12] DEBRUYNE M, VERDONCK T. Robust kernel principal component analysis and classification [J]. Advances in Data Analysis and Classification, 2010, 4(2):151-167.

[13] XU Yong, ZHANG D, JIN Zhong,etal. A fast kernel-based nonlinear discriminant analysis for multi-class problems [J]. Pattern Recognition, 2006, 39(6):1026-1033.

[14] XU Yong, ZHU Qi. A simple and fast representation based face recognition method [J]. Neural Computing and Applications, 2013, 22(7-8):1543-1549.

[15] WANG Jianguo, YANG Wankou, YANG Jingyu. Face recognition using fuzzy maximum scatter discriminant analysis [J]. Neural Computing and Applications, 2013, 23(3-4):957-964.

[16] ZADEH L A. Fuzzy sets [J]. Information and Control, 1965, 8(3):338-353.

[17] HE Ran, ZHENG Weishi, HU Baogang. Maximum correntropy criterion for robust face recognition [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2011, 33(8):1561-1576.

[18] KELLER J M, GRAY M R, GIVENS J A. Fuzzyk-nearest neighbor algorithm [J]. IEEE Transactions on Systems, Man, and Cybernetics, 1985, SMC-15(4):580-585.

A new fuzzy sparse representation algorithm for face recognition

LI Yi1,2, LIU Xiaodong*1

( 1.School of Control Science and Engineering, Faculty of Electronic Information and Electrical Engineering,Dalian University of Technology, Dalian 116024, China；2.School of Computer and Information Engineering, Heilongjiang University of Science and Technology,Harbin 150022, China )

The main idea of a sparse representation-based face recognition algorithm is that an unknown test sample is approximately represented as a linear combination of all the training samples corresponding to the same class with it. However, the classification of faces may possess some uncertainty, because there is a great similarity among faces and they are easy to be affected by environmental conditions. Based on this uncertainty and fuzzy theory, a new fuzzy sparse representation (FSR) algorithm for face recognition is proposed. Firstly, a new nonlinear function is introduced to represent the similarity among faces. Then, based on the similarity measurement and the nearest neighbors classifier, an adaptive fuzzy membership function is defined, which produces the corresponding membership degree to the class. During this process, the membership degree is sparsity. Finally, the sparse fuzzy membership degree is taken as the weight coefficients of training samples to express test samples to restructure the test image. Utilizing MATLAB, the experiments conducted on the ORL and Yale face databases have demonstrated the effectiveness and robustness of the proposed algorithm.

face recognition; pattern recognition; similarity; fuzzy membership degree; sparse representation; the nearest neighbors classifier

2016-05-23；

2017-01-12．

國(guó)家自然科學(xué)基金資助項(xiàng)目(61175041).

李 懿(1980-)，女，博士生，E-mail:liyi_80s@163.com；劉曉東*(1963-)，男，教授，博士生導(dǎo)師，E-mail:xdliuros@hotmail.com.

1000-8608(2017)02-0189-06

TP391.41

A

10.7511/dllgxb201702012