特征維數和分類器參數統(tǒng)一優(yōu)化選擇的掌紋識別

張 愉，童敏明，尚 麗

1.蘇州市職業(yè)大學 電子信息工程學院，江蘇 蘇州 215104

2.中國礦業(yè)大學 信電學院，江蘇 徐州 221008

特征維數和分類器參數統(tǒng)一優(yōu)化選擇的掌紋識別

張 愉1，童敏明2，尚 麗1

1.蘇州市職業(yè)大學 電子信息工程學院，江蘇 蘇州 215104

2.中國礦業(yè)大學 信電學院，江蘇 徐州 221008

1 引言

掌紋具有易采集、識別區(qū)域大、可靠性和精度高等優(yōu)點，在自動門衛(wèi)系統(tǒng)、身份識別系統(tǒng)、公共場所監(jiān)控系統(tǒng)等領域具有廣泛的應用前景，因此掌紋識別成為生物識別領域中的研究熱點[1]。

針對掌紋識別問題，學者們進行了大量研究，取得了不錯的進展，涌現(xiàn)了許多掌紋識別模型，但仍然有許多難題沒有得到解決。掌紋識別包括掌紋特征提取和分類器設計等兩個關鍵問題[2]。當前特征提取方法主要有：統(tǒng)計特征、變換域特征、子空間特征等[3]。結構信息特征對相近或相似的掌紋鑒別力不夠強[4]；變換域特征忽略了掌紋圖像豐富的紋理信息，易受光照影響[5]；子空間特征提取方法包括Fisher判別（FDA）、主分分分析（PCA）等[6-7]，其中PCA具有描述性強、易實現(xiàn)和可分性好等特點，成為最為經典和廣泛實用的掌紋特征提取方法。由于特征維數不同，掌紋識別率則不同，掌紋特征維數具體為多少才能既有利于掌紋識別性能，又能提高掌紋識別速度，是PCA在提取特征過程中需要解決的難題[8]。當前掌紋分類器采用距離法、K近鄰法、神經網絡和機器學習算法[9-10]。支持向量機（SVM）在解決小樣本、非線性及高維模式識別問題中表現(xiàn)出許多特有的優(yōu)勢，因此，本研究采用SVM用于掌紋分類器構建?；赟VM的掌紋分類器性能與參數選取密切相關，當前主要采用遺傳算法、蛙跳算法、模擬退火算法、粒子群算法對SVM參數進行優(yōu)化[11]。由于掌紋特征維數不同，最佳識別性能的SVM參數肯定不同，因此掌紋特征維數與SVM參數相互關聯(lián)，互相影響，共同作用于掌紋識別結果，然而當前兩者卻常分開、單獨優(yōu)化，完全割裂了兩者間的內在聯(lián)系，出現(xiàn)掌紋特征選擇與分類器不匹配問題，難以建立整體性能最優(yōu)的掌紋識別模型。

針對掌紋識別過程特征維數和分類器參數單獨、分開優(yōu)化選擇存在的不足，提了一種特征維數和分類器參數統(tǒng)一優(yōu)化的掌紋識別模型（Features-Classifier），并通過仿真實驗驗證該模型的有效性。

2PCA和SVM概述

2.1 PCA降維

主成分分析（PCA），也叫K-L變換，其目的是在數據空間中找到一組向量以盡可能地解釋數據的方差，通過一個特殊的向量矩陣，將數據從原來的高維空間投影到一個低維的向量空間中，降維后保存了數據的主要信息，從而降低向量維數的目的[12]。

設訓練集共有N幅掌紋的特征圖像，每一幅特征圖像的大小為w×h。PCA降維處理步驟為：

（1）將每幅特征圖像的像素按列從左到右依次取出，最后轉換成一個個 r維的列向量：x1，x2，…，xi，…，xN，r=w×h，xi代表第i個掌紋的特征圖像展開以后得到的列向量形式的訓練樣本。

（2）計算所有訓練樣本的平均值向量：

（3）每個訓練樣本都減去上述均值：

（4）計算協(xié)方差矩陣：

（5）計算協(xié)方差矩陣C的特征向量和特征值，取出最大的k個（k遠遠小于掌紋ROI圖像對應列向量的維數 r）特征值對應的特征向量：u1，u2，…，ui，…，uk，1≤i≤k，及對應的特征值：λ1，λ2，…，λi，…，λk。

（6）對特征向量ui進行歸一化處理，得到正交歸一化的特征向量wi。

式中，‖·‖表示在特征空間中的歐氏距離，W=[w1，w2，…，wk]即為代表這些掌紋ROI圖像的特征子空間的基。

當輸入待識別掌紋特征xs時，進行降維的步驟為：

（1）將待識別掌紋減去平均值向量。

（2）將Φs投影到訓練得到的特征子空間，則待測掌紋特征降維輸出為Ys。

對PCA降維過程進行分析可知，特征空間基向量的維數大小k值選取是PCA變換中的一個關鍵環(huán)節(jié)，其值的優(yōu)劣影響掌紋識別結果。

2.2 SVM分類原理

假設樣本集為 {xi，yi}，i=1，2，…，n，xi∈ Rd，d 是訓練樣本的維數，n是訓練樣本規(guī)模，yi∈{-1，+1}為類別標志，那么SVM使得對線性可分的樣本集滿足：

引入Lagrange乘子將上述最優(yōu)分類平面問題轉化為對偶問題，相應的約束條件為：

對αi求解下列函數的最大值：

式中，αi為Lagrange乘子。

若αi為最優(yōu)解，那么有：

對于在線性不可分的情況下，為了減少泛化誤差，引入非負的松弛變量ξi來對式（7）的條件進行放寬，約束條件變?yōu)椋?/p>

引入錯誤懲罰分量，目標函數為：

求解上述問題后得到的最優(yōu)分類函數為：

式中，C為懲罰參數。

不同的核函數會生成不同形式的SVM[13]，由于徑向基核函數（RBF）只需確定一個參數（即核函數寬度參數σ），有利于參數優(yōu)化，因此，本研究選擇RBF核函數構造SVM。

根據SVM分類原理可知，參數C和σ的取值影響基于SVM的掌紋圖像分類結果，要獲得最優(yōu)掌紋識別效果，首先要獲得最優(yōu)C、σ值。

3 Features-Classifier的掌紋識別

3.1 特征維數和分類器參數統(tǒng)一選擇數學模型

在掌紋識別過程中，由于PCA特征空間基向量的維數大小選擇和SVM參數選擇的目的都是提高掌紋識別率，盡可能使得掌紋識別率最大化。為了挖掘掌紋特征子集和分類器參數之間的聯(lián)系，本研究對PCA特征空間基向量的維數大小和SVM參數進行統(tǒng)一優(yōu)化選擇，其數學模型為：

式中，k表示PCA特征空間基向量的維數大??；C、σ表示SVM參數；rate表示掌紋識別率。

3.2 粒子群優(yōu)化算法

粒子群優(yōu)化算法（PSO）通過粒子追隨自己歷史最優(yōu)解Pbest和整個粒子群的歷史最優(yōu)解gbest找到最優(yōu)解，PSO算法具有收斂速度快，沒有許多參數的調節(jié)，受問題維數變化影響小等優(yōu)點，容易實現(xiàn)。在每一次迭代中，粒子速度和位置的更新公式為：

式中，vid(i)和vid(i+1)分別為當前和更新后的粒子速度；xid(i)和xid(i+1)分別為當前和更新后的粒子位置；w為慣性權重；c1、c2表示加速因子；rand()表示隨機函數。

3.3 特征和分類器參數的統(tǒng)一選擇設計

3.3.1 粒子編碼方式

粒子個體位置包括三部分，第一部分為PCA特征維數大??；第二部分為SVM的懲罰參數C；第三部分為SVM核函數寬度參數σ，具體如圖1所示。

圖1 粒子群的編碼方式

3.3.2 適應度函數設計

掌紋特征提取和分類器參數選擇目標是提高掌紋識別率，而適應度函數用于評價粒子優(yōu)劣，并指引粒子的飛行方向，那么第i個粒子的適應度函數定義為：

式中，rate 表示第 i個粒子對應的參數 ki，Ci，σi的掌紋識別率。

3.3.3 多類掌紋分類器設計

SVM是針對2分類問題，然而掌紋圖像包括多種類型，因此掌紋識別是一種多分類問題，必須通過組合策略構建多類掌紋分類器，本研究采用有向無環(huán)圖（DAG）將兩分類的SVM組合在一起，構造多類掌紋分類器。假設共4類掌紋圖像，那么多類掌紋分類器構建如圖2所示。

圖2 多類掌紋分類器的構建示意圖

3.3.4 Features-Classifier的掌紋識別步驟

（1）采集掌紋圖像，并對其進行預處理，如直方圖均衡和能量歸一化處理等消除掌紋圖像中的噪聲信息。

（2）設置SVM參數C、σ、PCA特征空間基向量的維數大小k的取值范圍。

（3）初始化粒子群。采用隨機方式產生m個粒子，組成初始粒子群，每一個粒子由k、C、σ組成。

（4）將粒子進行反編碼，PCA根據k值選擇掌紋特征向量，根據C、σ訓練SVM，并根據式（17）計算粒子的適應度值。

（5）更新當前粒子的最優(yōu)位置Pbest和粒子群的最優(yōu)位置gbest。

（6）根據式（15）和（16）對粒子的速度和位置進行更新，并調整慣性權重。

（7）如果連續(xù)5代最優(yōu)粒子適應度值間差的絕對值沒有超過0.001，太大變化，則停止優(yōu)化，表示獲得最優(yōu)的 k、C、σ ；否則轉至步驟（4），繼續(xù)優(yōu)化。

（8）對于未知掌紋圖像，PCA根據最優(yōu)k值提取特征，并用C、σ測試SVM，得到最優(yōu)掌紋識別結果。

4 仿真實驗

4.1 數據集

為了驗證Features-Classifier掌紋識別模型的有效性，采用香港理工大學的Po1yU掌紋數據庫作為仿真對象。Po1yU的掌紋圖像在不同的光照條件下、采用不同設備采集的，共包括100個人的600幅掌紋圖像，每人6幅，其中前3幅圖像是第一次采集的，另外3幅圖像是第二次采集的，兩次采集的平均時間間隔為兩個月，圖像的大小為384像素×284像素，256灰度級，如圖3所示[14]。一個人的6幅掌紋圖像如圖3所示。仿真的計算機配置為：CPU為Intel Core i5 3350p+3.1 GHz、RAM 2 GB，在Windows XP下的Matlab 2012進行編程實現(xiàn)算法。

圖3 Po1yU圖像庫的掌紋圖像

4.2 掌紋圖像的預處理

選擇每人的前4幅圖像共400幅圖像作為訓練集，其余200幅圖像作為測試集。首先利用文獻[15]中的方法對掌紋圖像進行預處理。經過預見處理后，每個掌紋塊具有相同大小，基本上消除了掌紋的偏移和旋轉，得到一個128像素×128像素的區(qū)域作為掌紋感興趣區(qū)域（ROI）具體如圖4所示。

圖4 截取的掌紋ROI

然后對掌紋ROI每隔8行進行行抽樣，每隔8列進行列抽樣，抽樣后掌紋圖像大小為16像素×16像素，轉換成一維向量為1×256維，用PCA進行特征提取。

4.3 SVM參數和特征維數對掌紋識別率的影響

為了分析SVM參數、PCA特征空間基向量的維數對掌紋識別率的影響，采用手動的方式調整SVM參數并記錄結果：固定核參數C=100，σ=1.25，PCA特征空間基向量的維數、掌紋類別數與掌紋識別率的關系如圖5所示。從圖5可知，不同類別的掌紋圖像，對應的最佳識別性能的PCA特征空間基向量維數不同，例如：當分類的掌紋圖像類別數是20，PCA特征空間基向量的維數大小k=60，而類別數為80，PCA特征空間基向量的維數k=120，需分類的掌紋類別數少，需要的區(qū)分特征就少；需要分類的掌紋類別數越高，特征向量維數越多，而且識別時間也隨著維數的增加而增加。

圖5 不同特征維數的掌紋識別率（C=100，σ=l.25）

固定PCA特征空間基向量的維數k=100，掌紋類別數為100，SVM參數(C，σ)與掌紋識別率的關系如圖6所示。從圖6可知，參數C和σ發(fā)生變化時，掌紋識別率發(fā)生相應變化，這說明對特征維數和SVM參數的優(yōu)化是必要的。

圖6 不同的SVM參數所對應的掌紋識率（掌紋類別數為100，特征維數為100）

4.4 對比模型及評價標準

為了使Features-Classifier掌紋識別模型的結果具有可比性，采用PSO優(yōu)化PCA的特征維數，固定SVM參數(C=50和σ=1.25)的掌紋識別模型（PCA-SVM）；采用固定PCA的特征維數k=100，采用PSO算法優(yōu)化SVM參數的掌紋識別模型（PSO-SVM）；采用PSO優(yōu)化PCA的特征維數，PSO優(yōu)化SVM參數，與單獨、分開進行的掌紋識別模型（PCA-PSO-SVM）進行對比實驗。方法評價標準為掌紋識別率和平均識別時間。

4.5 結果分析

4.5.1 掌紋識別率比較

根據相應的特征維數和SVM參數，對于不同類的掌紋圖像，PCA-SVM、PSO-SVM、PCA-PSO-SVM、Features-Classifier對測試集的掌紋識別結果見表1。從表1可知，相對于PCA-SVM，PSO-SVM，PCA-PSO-SVM，F(xiàn)eatures-Classifier的平均識別率分別提高了大約8.52%，8.52%和2.23%，對比結果表明，單獨、分開選擇特征維數或者分類器參數，割裂了兩者的內在聯(lián)系，很難保證特征維數或者分類器同時達到最優(yōu)，F(xiàn)eatures-Classifier方法在統(tǒng)一的目標函數下，通過PSO算法對特征維數和SVM參數進行同時選擇，可以使兩者同時達到最優(yōu)，挖掘掌紋特征子集和分類器參數的內在聯(lián)系，更加準確地描述了掌紋類別信息，提高了掌紋識別率。

表1 不同方法的掌紋識別率比較

表2 不同方法的掌紋識別速度比較

4.5.2 識別速度比較

在Matlab 2012平臺下，識別一幅掌紋所需CPU時間見表2。從表2可知，F(xiàn)eatures-Classifier方法的平均識別最短為0.176 s，較對比模型的識別速度要快，這表明采用Features-Classifier方法對特征維數和分類器參數進行統(tǒng)一選擇，獲得的最優(yōu)PCA特征空間基向量維數大大減少，同時獲得了最優(yōu)的SVM參數C和σ，減少了SVM支持向量數，縮短了掌紋識別的時間，可以較好地滿足掌紋識別的實時性要求。

5 結束語

針對掌紋識別過程特征維數和分類器參數優(yōu)化問題，綜合考慮PCA特征維數大小與SVM參數之間的內在聯(lián)系，提出一種特征維數和分類器參數統(tǒng)一選擇的掌紋識別模型。仿真結果表明，相對于單獨、分開優(yōu)化選擇的掌紋識別模型，F(xiàn)eatures-Classifier模型不僅提高了掌紋識別率，同時提高了掌紋識別速度，較好地解決了掌紋識別過程特征維數和分類器參數的不匹配難題。

致謝感謝香港理工大學的Po1yU提供的掌紋數據庫，使本研究得以順利完成。

[1]吳介，裘正定.掌紋識別中的特征提取算法綜述[J].北京電子科技學院學報，2005，13（2）：86-92.

[2]袁國武，魏驍勇，徐丹.基于掌紋的身份鑒別[J].計算機輔助設計與圖形學學報，2005，17（12）：2590-2595.

[3]Zhang D，Guo Zhenhua，Lu Guangming，et al.An online system ofmulti-spectralpalmprintverification[J].IEEE Transactions on Instrumentation and Measurement，2010，59（2）：480-490.

[4]周新虹，彭玉華，薛玉利，等.應用小波變換和支持向量機的掌紋識別[J].計算機工程與應用，2007，43（22）：38-41.

[5]徐鳳，何玉琳，章海軍.一種基于傅里葉變換的雙級匹配掌紋識別系統(tǒng)[J].光學儀器，2007，29（3）：64-68.

[6]潘新，阮秋琦.基于二維局部保留映射的小樣本掌紋識別[J].計算機工程與應用，2008，44（30）：30-33.

[7]苑瑋琦，黃靜，桑海峰.小波分解與PCA方法的掌紋特征提取方法[J].計算機應用研究，2008，25（12）：3671-3674.

[8]陶俊偉，姜威，田沖.一種改進的基于PCA和FLD的掌紋識別[J].計算機應用與軟件，2008，25（1）：204-206.

[9]王艷春，李靜輝，夏穎.基于小波神經網絡的掌紋識別[J].齊齊哈爾大學學報，2010，26（3）：5-8.

[10]王恒，王蜂，粱荷巖.基于Contourlet變換與SVM的掌紋識別[J].計算機工程，2012，38（6）：196-198.

[11]張建華，冀榮華，袁雪，等.基于徑向基支持向量機的棉花蟲害識別[J].農業(yè)機械學報，2011，42（8）：178-183.

[12]郭金玉，苑瑋琦.基于核主元分析和Fisher線性判別的掌紋識別[J].光電子·激光，2008，19（12）：1698-1702.

[13]李明昊，李燕華，潘新，等.基于Gabor小波和支持向量機的掌紋識別算法的研究[J].內蒙古農業(yè)大學學報，2011，32（3）：270-275.

[14]香港理工大學生物特征研究中心.Po1yU掌紋數據庫[EB/OL].（1998-04-11）.http：//www.comp.polyu.edu.hk/～biometrics/.

[15]Lin C L，Chuang T C，F(xiàn)an K C.Palmprint verification using hierarchical decomposition[J].Pattern Recognition，2005，38（4）：2639-2652.

ZHANG Yu1,TONG Minming2,SHANG Li1

1.School of Electronic&Information Engineering,Suzhou Vocational University,Suzhou,Jiangsu 215104,China
2.School of Information&Electric Engineering,China University of Mining,Xuzhou,Jiangsu 221008,China

In order to enhance the palmprint recognition performance,it proposes a novel palmprint recognition model based on simultaneously selecting features and classifier parameters according to relation between the dimensions of the Principal Component Analysis（PCA）and parameters of Support Vector Machines（SVM）.The palmprint image is preprocessed,and then the dimensions of PCA and parameters of SVM are taken as a particle,the optimal palmprint features and parameters of SVM are obtained simultaneously by information exchange and cooperation of particle swarms,the optimal palmprint recognition model is established based on the selected dimensions and parameters,the performance of model is tested by Po1yU palmprint data.The results show that the proposed model can obtain recognition rates of the palmprint 94%,the prediction results are significantly better than reference models which features and classifier parameters are selected separately.

palmprint recognition;support vector machine;principal component analysis;simultaneously selection;particle swarm optimization algorithm

為了進一步提高掌紋識別系統(tǒng)性能，充分利用主成分分析特征維數和支持向量機參數之間的聯(lián)系，提出了一種特征維數和分類器參數統(tǒng)一選擇的掌紋識別模型（Features-Classifier）。對掌紋圖像進行預處理，將主成分分析圖像特征維數和支持向量機參數作為一個粒子，在統(tǒng)一的目標函數下通過粒子之間的信息交流和相互協(xié)作，找到最優(yōu)掌紋特征和分類器參數，根據最優(yōu)掌紋特征和分類器參數建立掌紋圖像識別模型，并采用Po1yU掌紋數據庫對模型性能進行仿真實驗。結果表明，F(xiàn)eatures-Classifier的掌紋平均識別率達到94%以上，識別結果明顯優(yōu)于獨立、分開選擇特征維數和分類器參數的掌紋識別模型。

掌紋識別；支持向量機；主成分分析；統(tǒng)一選擇；粒子群優(yōu)化算法

A

TP391

10.3778/j.issn.1002-8331.1307-0374

ZHANG Yu,TONG Minming,SHANG Li.Palmprint recognition based on simultaneously selecting features and classifier parameters.Computer Engineering and Applications,2014,50（23）：167-171.

國家自然科學基金（No.60970058）；江蘇省自然科學基金（No.BK2009131）；江蘇省“青藍工程”資助項目；2010蘇州市職業(yè)大學創(chuàng)新團隊基金資助項目（No.3100125）。

張愉（1979—），女，講師，主要研究領域為人工神經網絡、圖像處理、模式識別和智能傳感器研究；童敏明（1956—），男，博士，教授，博士生導師，主要研究領域為瓦斯及安全監(jiān)測技術、傳感器及檢測技術；尚麗（1972—），女，博士，副教授，主要研究領域為人工神經網絡、模式識別、數字圖像處理研究。

2013-07-29

2013-09-26

1002-8331（2014）23-0167-05

CNKI網絡優(yōu)先出版：2013-12-19,http://www.cnki.net/kcms/doi/10.3778/j.issn.1002-8331.1307-0374.html