基于小波變換和CPN網(wǎng)絡(luò)的手寫簽名鑒別

賈建忠

(烏魯木齊職業(yè)大學(xué)信息工程學(xué)院，新疆 烏魯木齊 830001)

0 引 言

手寫簽名真?zhèn)舞b別是司法鑒定方面的一個(gè)重要應(yīng)用。自1965年A. J. Manceri提出通過計(jì)算機(jī)算法識(shí)別手寫簽名并進(jìn)行身份鑒別的可行性報(bào)告后，手寫簽名鑒別伴隨著人工智能、機(jī)器學(xué)習(xí)等技術(shù)的發(fā)展，不斷取得進(jìn)展。但時(shí)至今日，手寫簽名鑒別仍然主要以相關(guān)專家人工鑒別為主。中文筆跡學(xué)專家韓進(jìn)將漢字筆跡特征分為篇、字、偏旁、筆畫、局部等5個(gè)方面。計(jì)算機(jī)離線簽名鑒別技術(shù)特征提取方法主要有2類：

1)基于文字全局特征的傅里葉變換、投影變換、小波變換和筆畫密度特征等，特點(diǎn)是直接對(duì)簽名圖像進(jìn)行無分割的、基于像素的全面特征提取分析[1]。近期的研究方面，使用小波分析方法是一個(gè)熱點(diǎn)。文獻(xiàn)[1]中采用離散小波高頻部分系數(shù)矩陣作為筆跡特征進(jìn)行提取，其結(jié)果證實(shí)了小波分析對(duì)于文字特征提取的有效性和可行性。網(wǎng)格特征提取也是當(dāng)前手寫文字全局特征提取的一個(gè)典型方法，文獻(xiàn)[2]中采用6×6彈性網(wǎng)格劃分文字字符，計(jì)算每個(gè)網(wǎng)格筆劃像素密度特征，實(shí)驗(yàn)結(jié)果表明此特征提取方法十分適合印刷體和書寫較為規(guī)范的手寫體文字識(shí)別，但不利于文字筆劃的細(xì)節(jié)特征提取。卷積神經(jīng)網(wǎng)絡(luò)作為近年來圖像識(shí)別領(lǐng)域的重要技術(shù)手段，其優(yōu)勢(shì)是既可以用于特征提取也可用于分類器設(shè)計(jì)，且圖像特征提取細(xì)致全面,圖像分割準(zhǔn)確性高，缺點(diǎn)是特征提取算法復(fù)雜，用于文字識(shí)別時(shí)因特征點(diǎn)過多常需要簡化處理，網(wǎng)絡(luò)訓(xùn)練量大。文獻(xiàn)[3]先使用滑動(dòng)窗口進(jìn)行文字行分割，后采用深度卷積神經(jīng)網(wǎng)絡(luò)提取筆跡特征并使用fisher vectors算法進(jìn)行特征編碼，最后使用卷積神經(jīng)網(wǎng)絡(luò)分類器進(jìn)行訓(xùn)練并識(shí)別，取得了漢語手寫筆跡識(shí)別正確率90%的實(shí)驗(yàn)結(jié)果。

2)對(duì)手寫簽名圖像的局部筆畫、結(jié)構(gòu)、梯度、紋理、輪廓、幾何等特征進(jìn)行提取，特點(diǎn)是首先對(duì)待識(shí)別文字進(jìn)行字符級(jí)、字母級(jí)或部首級(jí)的分割，化繁為簡，提取能夠體現(xiàn)書寫習(xí)慣的筆畫方向、紋理、外形輪廓、連通性等局部特征。文獻(xiàn)[4]采用的文字4個(gè)方向的筆畫曲率特征為一種典型的局部特征提取方法，適用于筆跡原始材料豐富且書寫較為規(guī)范的情況。文獻(xiàn)[2]使用的是中心矩特征提取方法，文獻(xiàn)[6]采用的漢子偏旁特征提取方法都是典型局部特征提取方法，適合和其它特征提取方法綜合使用，組成混合特征向量，單獨(dú)使用效果不佳。

同其他離線筆跡鑒別技術(shù)相比，手寫簽名鑒別具有2個(gè)特點(diǎn)：1)要面對(duì)有意或無意的筆跡模仿、偽造。模仿的簽名有些具有很高的相似度，對(duì)計(jì)算機(jī)鑒別帶來了額外的難度。2)使用計(jì)算機(jī)進(jìn)行自動(dòng)化簽名鑒別不存在文字識(shí)別方面的問題，即在鑒別前已確定了待鑒別樣本的文字含義，鑒別的目的在于判斷真?zhèn)?。基于以?點(diǎn)及當(dāng)前筆跡鑒別領(lǐng)域的技術(shù)發(fā)展情況，本文采用三級(jí)小波變換提取手寫簽名特征，因?yàn)樾〔ㄗ儞Q技術(shù)特征提取全面細(xì)致且算法成熟，計(jì)算量相對(duì)于卷積神經(jīng)網(wǎng)絡(luò)特征提取方法少且效果類似。采用CPN神經(jīng)網(wǎng)絡(luò)分類器進(jìn)行訓(xùn)練及識(shí)別，因?yàn)橄鄬?duì)于其他神經(jīng)網(wǎng)絡(luò)模型來說CPN網(wǎng)絡(luò)訓(xùn)練量小且效果佳，十分適合于筆跡鑒別這種樣本類別復(fù)雜繁多的情況。

1 預(yù)處理及特征提取

1.1 預(yù)處理

手寫簽名樣本需要進(jìn)行預(yù)處理以適應(yīng)后續(xù)識(shí)別步驟[7]。首先，原始圖像樣本需要進(jìn)行濾波處理。本文采用中值濾波算法抑制噪聲，調(diào)用MATLAB中的medfilt2函數(shù)即可實(shí)現(xiàn)，此函數(shù)有2個(gè)參數(shù)，第一個(gè)參數(shù)表示樣本像素矩陣，第二個(gè)參數(shù)用于返回濾波后的圖像。第二步是對(duì)圖像進(jìn)行二值化處理。本文采用經(jīng)驗(yàn)值法，計(jì)算背景圖像背景的平均灰度值Hb，計(jì)算筆畫像素的灰度平均值Hz，閾值Y=(Hb+Hz)/2。此方法考慮到不同樣本紙張背景的情況，適應(yīng)性較好，見圖1。筆的類型和筆尖情況會(huì)影響到簽名的紋理特性，為降低用筆不同帶來的識(shí)別偏差，細(xì)化處理十分必要。故第三步采用Hilditch串行細(xì)化算法實(shí)現(xiàn)筆跡細(xì)化處理，處理步驟是：首先設(shè)置L={1}集合為筆畫像素，B={0}為背景像素集合。檢索每一個(gè)筆畫像素8鄰域像素網(wǎng)格，設(shè)置條件進(jìn)行減薄處理，滿足減薄條件的筆畫像素歸0，納入背景像素，實(shí)現(xiàn)有序細(xì)化。為提高手寫簽名特征提取的準(zhǔn)確度，本文對(duì)簽名文字實(shí)現(xiàn)字符級(jí)分割。因?yàn)楹灻b別事實(shí)上是已經(jīng)知道了簽名漢字的含義及字符個(gè)數(shù)，也不存在行分割的問題，故先對(duì)已知類別簽名樣本采用垂直像素投影方法記錄筆畫像素密度波形曲線并標(biāo)注分割點(diǎn)作為參考，然后將待測(cè)樣本進(jìn)行垂直投影，自左至右匹配已知樣本分割點(diǎn)的波形特性即可準(zhǔn)確進(jìn)行字符分隔。分割完成后采用“定界法”對(duì)每個(gè)字符圖像進(jìn)行上、下、左、右4個(gè)方向直線逼近，逼近至筆畫像素點(diǎn)后進(jìn)行矩形提取以完成對(duì)單個(gè)字符圖像多余空白區(qū)的剔除。最后一步是字符圖像的歸一化處理。處理方法是采用齊次坐標(biāo)方式對(duì)字符圖像進(jìn)行縮放或膨脹操作，將字符圖像映射到歸一化點(diǎn)陣[m,n]中。MATLAB的imresize(A,M[mrows,ncols],method)函數(shù)可實(shí)現(xiàn)縮放，其中A表示原始圖像，M為縮放倍數(shù)，[mrows,ncols]為歸一化像素點(diǎn)陣，方法(method)設(shè)置為雙線性插值法(bilinear)。

1.2 特征提取

鑒別成功的關(guān)鍵在于如何全面且注重細(xì)節(jié)地提取簽名文字的特征。離散小波變換(DWT)是對(duì)文字圖像進(jìn)行多分辨率特征提取的有效工具。設(shè)單個(gè)字符圖像f(x1,x2)∈L2(R2)，(x1,x2)為坐標(biāo)。圖像大小為M×N,此處可取M=N=32，字符圖像分辨率不宜過大，以降低數(shù)據(jù)壓縮量。對(duì)字符圖像進(jìn)行二維小波分解，設(shè)ψ(x1,x2)為二維基本小波，二維圖像連續(xù)小波定義見公式(1)，其中ψa,b1,b2(x1,x2)為對(duì)基本小波的尺度伸縮和位移[8]。

(1)

為了降低二維分解的復(fù)雜性，本文把圖像信號(hào)按照行和列進(jìn)行一維分解，還要將一維小波分解繼續(xù)推廣到二維[8]。設(shè)φ(x1,x2)=φ(x1)φ(x2)為圖像的二維尺度函數(shù)，φ(x1)、φ(x2)為一維尺度函數(shù)，ψ(x1,x2)為二維小波，ψ(x)為一維小波，則二維小波和一維小波的可分性關(guān)系可表示為：

ψH(x1,x2)=ψ(x1)φ(x2)

(2)

ψV(x1,x2)=φ(x1)ψ(x2)

(3)

ψD(x1,x2)=ψ(x1)ψ(x2)

(4)

公式(2)～公式(4)中的二維小波分別為水平、垂直、對(duì)角小波。二維字符圖像的每一層小波變換，圖像都將被分為4個(gè)1/4大小的子圖像，如圖2所示[6]。在此每一步分解都是在以上3個(gè)方向上采用高通濾波的方法實(shí)現(xiàn)多分辨率的分解并得到3幅字圖像HL、LH、HH。第4幅字圖像LL則是使用低通濾波卷積算法得到的近似圖像，如圖2所示。由于高頻濾波可以提取字符圖像的水平、垂直、對(duì)角方向細(xì)節(jié)特征，故本文提取這3幅分解圖像的小波系數(shù)作為待提取特征。使用MATLAB中的wavedec2函數(shù)進(jìn)行多分辨率二維小波分解，分解結(jié)構(gòu)工具det coef2可以提取高頻分解系數(shù)向量[9]。調(diào)用命令如下：

[C,S]=wavedec2(X,N,′wname′)

(5)

其中，X代表圖像信號(hào)，N為分解層數(shù)，C是一個(gè)各層分解系數(shù)行向量，S為分解系數(shù)長度。wname為待選小波基，本文小波基采用Daubechies小波,其尺度函數(shù)見公式(6)，小波函數(shù)也可用尺度函數(shù)的線性組合表示為公式(7)。

(6)

(7)

其中，(a0,a1,…,aN-1)為調(diào)整系數(shù)，(c0,c1,…,cM-1)為小波系數(shù)，且滿足ci=(-1)iaN-1-i。在公式(5)中，設(shè)置N=3,wname=db3進(jìn)行三級(jí)小波分解，每次分解得到3個(gè)高頻系數(shù)矩陣，分別表示橫向、縱向、對(duì)角方向的變換[10]。三級(jí)分解共得到9個(gè)詳細(xì)系數(shù)矩陣，因?yàn)楦鲗臃纸獾脑敿?xì)系數(shù)矩陣大小不一，難以以統(tǒng)一尺度提取字符特征，故提取系數(shù)矩陣的均值和標(biāo)準(zhǔn)差作為字符特征進(jìn)行提取。在MATLAB中標(biāo)準(zhǔn)差B=stb2(A),均值V=mean2(A),A為系數(shù)矩陣。這樣9個(gè)系數(shù)矩陣提取共18個(gè)特征值。在手寫簽名中每個(gè)可分字符18個(gè)特征值，漢語簽名一般為2到4個(gè)字符，特征空間長度為36～72。

圖2 多分辨率三級(jí)分解示意圖

2 CPN神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)

通過小波分解提取特征向量的簽名識(shí)別并非是一個(gè)線性問題[11]，故非線性分類器的使用就是一個(gè)必然。神經(jīng)網(wǎng)絡(luò)分類器可以對(duì)非線性問題的特征空間進(jìn)行復(fù)雜和準(zhǔn)確的劃分，十分適合作為文字識(shí)別類應(yīng)用的分類器[12]。當(dāng)然，識(shí)別效果和訓(xùn)練樣本的數(shù)量及學(xué)習(xí)次數(shù)有很大關(guān)系[13]。對(duì)向傳播神經(jīng)網(wǎng)絡(luò)(CPN)分類器結(jié)合了無導(dǎo)師分類和有導(dǎo)師分類的優(yōu)點(diǎn)且訓(xùn)練時(shí)間較短，適合特征向量維數(shù)較大的識(shí)別情況，也是本文采用此分類器的原因。CPN網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示[14]。

圖3 CPN網(wǎng)絡(luò)示意圖

2.1 CPN神經(jīng)網(wǎng)絡(luò)分類器的實(shí)現(xiàn)思想

輸入層到競(jìng)爭層構(gòu)成無導(dǎo)師的競(jìng)爭型網(wǎng)絡(luò)，按照SOM競(jìng)爭學(xué)習(xí)規(guī)則，產(chǎn)生競(jìng)爭層獲勝神經(jīng)元，并調(diào)整輸入層到競(jìng)爭層的內(nèi)連接權(quán)向量[15]。完成內(nèi)連接權(quán)向量調(diào)整后，按照基本競(jìng)爭型網(wǎng)絡(luò)學(xué)習(xí)規(guī)則及有導(dǎo)師誤差校正方法，修正競(jìng)爭層到輸出層的外連接權(quán)向量，并得到各輸出神經(jīng)元的輸出值。按照預(yù)先設(shè)定的學(xué)習(xí)速率和訓(xùn)練次數(shù)進(jìn)行反復(fù)訓(xùn)練。

2.2 訓(xùn)練目標(biāo)

采集k個(gè)人書寫的手寫簽名樣本，每個(gè)人書寫本人的姓名和其他k-1個(gè)人的姓名若干，組成待訓(xùn)練樣本集合M。對(duì)每個(gè)樣本進(jìn)行7500次訓(xùn)練，完成所有訓(xùn)練，達(dá)到CPN網(wǎng)絡(luò)簽名識(shí)別正確率90%以上的目標(biāo)。如所有訓(xùn)練結(jié)束未達(dá)到識(shí)別目標(biāo)則增加訓(xùn)練次數(shù)直至每個(gè)樣本訓(xùn)練達(dá)到10000次。

2.3 訓(xùn)練過程和參數(shù)設(shè)定

CPN網(wǎng)絡(luò)分類器的訓(xùn)練過程分為如下步驟：

Step1確定訓(xùn)練樣本總數(shù)M。初始化學(xué)習(xí)總次數(shù)t=1。

Step2按照前述小波特征提取結(jié)果，確定輸入樣本X=[x1,x2,…,xn]T的維數(shù)n=36。將X進(jìn)行歸一化處理。公式如下[16]：

(8)

Step3設(shè)競(jìng)爭層有p個(gè)神經(jīng)元。參照輸入層有36個(gè)神經(jīng)元，此處p設(shè)置為72。輸入層到競(jìng)爭層的連接權(quán)向量wj=[wj1,wj2,…,wjn]T，j=1,2,…,p。競(jìng)爭層到輸出層連接權(quán)值向量為vk=[vk1,vk2,…,vkp]T,k=1,2,…,q。此處q為輸出層神經(jīng)元個(gè)數(shù)，設(shè)為36。初始化wj每個(gè)元素為0.55，初始化vk每個(gè)元素為0.45。按照公式(9)將wj進(jìn)行歸一化處理[17]。

(9)

Step4按照公式(10)求競(jìng)爭層神經(jīng)元的加權(quán)輸入和，其中p=72。

(10)

Step5按照公式(11)求wj和X距離最近的向量wg，其中p=72。

wg=max (sj),j=1,2,…,p

(11)

Step6將競(jìng)爭層神經(jīng)元g的輸出設(shè)為1，其它神經(jīng)元輸出設(shè)為0。

Step7按照公式(12)修正連接權(quán)向量wg，設(shè)置學(xué)習(xí)速率α=0.55。

wgi(t+1)=wgi(t)+α(xi-wgi(t)),i=1,2,…,n

(12)

Step8按照公式(13)歸一化處理wg。

(13)

Step9按照公式(14)求輸出層神經(jīng)元的實(shí)際輸出，其中p=72、q=36。

(14)

Step10按照公式(15)修正競(jìng)爭層獲勝的神經(jīng)元g到輸出層神經(jīng)元的連接權(quán)向量vg。設(shè)置學(xué)習(xí)速度β=0.6。

vkg(t+1)=vkg(t)+βbj(yk-ok),k=1,2,…,q

(15)

Step11回到Step2，在M個(gè)訓(xùn)練樣本中取出下一個(gè)樣本，設(shè)為X′，完成上述九步的訓(xùn)練，直到所有的M個(gè)樣本均進(jìn)行一次訓(xùn)練。

Step12令學(xué)習(xí)次數(shù)t=t+1,回到Step2重新訓(xùn)練M個(gè)樣本，直到t=7500時(shí)結(jié)束所有訓(xùn)練。

2.4 待檢測(cè)樣本的分類識(shí)別

設(shè)待鑒定樣本為X″,再：1)對(duì)其進(jìn)行歸一化處理；2)計(jì)算每一個(gè)競(jìng)爭層神經(jīng)元的加權(quán)輸出S；3)找到加權(quán)輸出最大的競(jìng)爭層神經(jīng)元，將其輸出設(shè)置為1，其他神經(jīng)元輸出設(shè)置為0；4)按照公式(14)方法計(jì)算輸出神經(jīng)元的實(shí)際輸出數(shù)值，并將輸出模式轉(zhuǎn)換為十進(jìn)制類型，得到最終分類結(jié)果[18]。

3 實(shí)驗(yàn)結(jié)果及分析

3.1 實(shí)驗(yàn)1

采用本文方法進(jìn)行鑒別試驗(yàn)，分為6個(gè)步驟：

Step1訓(xùn)練樣本采集。抽選36人作為訓(xùn)練樣本采集者，每人書寫自己的姓名樣本30個(gè)，其中25個(gè)樣本作為訓(xùn)練樣本。另外，每人參考以上采集的“真跡”訓(xùn)練樣本模仿書寫其他35人的姓名樣本5個(gè)，其中3個(gè)作為待訓(xùn)練的疑似樣本。綜合上述，共采集訓(xùn)練樣本4680個(gè)。

Step2待鑒別樣本采集。將以上36人書寫的樣本，除去訓(xùn)練樣本后，每人尚有書寫自己姓名的樣本5個(gè)，總共180個(gè)組成待檢測(cè)“真跡”樣本集合。另外，每人尚有書寫別人姓名的樣本2個(gè)，總共70個(gè)組成待檢測(cè)“疑似”樣本集合。

Step3以每個(gè)書寫者為中心組成36個(gè)訓(xùn)練及鑒別實(shí)驗(yàn)組。每個(gè)鑒別實(shí)驗(yàn)組的樣本均為該書寫者的姓名樣本組成，共130個(gè)訓(xùn)練樣本，75個(gè)待識(shí)別樣本。

Step4完成每個(gè)訓(xùn)練及鑒別實(shí)驗(yàn)組130個(gè)樣本共975000次訓(xùn)練，每個(gè)樣本7500次。

Step5對(duì)75個(gè)待識(shí)別樣本進(jìn)行分類鑒別。因?yàn)闀鴮懻邽?6人，書寫的是同一個(gè)姓名，故類別數(shù)為36。鑒別正確規(guī)則如下：不論“真跡”還是“疑似”樣本，如待檢測(cè)樣本和同一書寫人的訓(xùn)練樣本歸為同一類別則判定為鑒別正確，否則為鑒別錯(cuò)誤。計(jì)算75個(gè)樣本的鑒別正確率。

Step6調(diào)用下一個(gè)訓(xùn)練及鑒別實(shí)驗(yàn)組樣本。返回Step1，進(jìn)行下一個(gè)書寫者為中心的訓(xùn)練及鑒別實(shí)驗(yàn)組實(shí)驗(yàn)。直到36個(gè)實(shí)驗(yàn)組均完成訓(xùn)練及鑒別。

36個(gè)組的鑒別實(shí)驗(yàn)結(jié)果表明本文方法的手寫簽名鑒別總體正確率為93.48%。具體結(jié)果如表1所示。

表1 鑒別結(jié)果表

3.2 實(shí)驗(yàn)2

本實(shí)驗(yàn)為特征提取方法及分類器使用對(duì)比實(shí)驗(yàn)。采用不同的3種方法進(jìn)行對(duì)比以驗(yàn)證本文方法的效果。方法1為本文方法；方法2在手寫簽名經(jīng)過預(yù)處理與字符分割后，每個(gè)漢字使用網(wǎng)格法，將字符區(qū)域橫向、縱向均分6等分，分為36個(gè)網(wǎng)格，每個(gè)網(wǎng)格提取文字筆畫像素(黑像素)和總像素的比作為特征進(jìn)行提取，即像素密度特征[19]，共36個(gè)特征值，特征向量元素?cái)?shù)等同于方法1，便于后續(xù)分類識(shí)別。方法3的特征提取方法同于方法1，分類器使用馬氏距離測(cè)度法，計(jì)算各待鑒別樣本到各“真跡”樣本類中心的距離，距離最小者被識(shí)別為該類成員[20]。3種方法的訓(xùn)練樣本、待鑒別樣本、樣本分組方法及實(shí)驗(yàn)步驟同于實(shí)驗(yàn)1。鑒別結(jié)果對(duì)照情況如表2所示。

表2 鑒別結(jié)果對(duì)照表

3.3 結(jié)果分析

以上實(shí)驗(yàn)結(jié)果表明：多尺度小波變換可以有效提取簽名字符的整體和局部特征，在使用同樣分類器的情況下，鑒別效果顯著優(yōu)于網(wǎng)格像素特征法。原因在于像素密度特征對(duì)局部筆畫像素的細(xì)節(jié)提取方面遠(yuǎn)不如小波系數(shù)特征。如增加網(wǎng)格劃分?jǐn)?shù)量則又會(huì)帶來容錯(cuò)性差，魯棒性降低的結(jié)果[21]。在使用同樣特征提取方法的情況下，CPN神經(jīng)網(wǎng)絡(luò)分類器在對(duì)樣本進(jìn)行充分訓(xùn)練(每樣本500次以上)的前提下分類準(zhǔn)確率優(yōu)于馬氏距離這類線性分類器，付出的代價(jià)是對(duì)已知樣本的訓(xùn)練相對(duì)復(fù)雜和耗時(shí)。DB3小波變換特征和CPN設(shè)計(jì)網(wǎng)絡(luò)分類器的使用可有效應(yīng)用于簽名鑒別。

4 結(jié)束語

簽名真?zhèn)舞b別不同于一般筆跡鑒別的獨(dú)特之處在于并不存在文字意義識(shí)別的問題。鑒別的重點(diǎn)是應(yīng)對(duì)偽造簽名的情況。目前簽名鑒別主要是由專門的鑒定機(jī)構(gòu)依靠專家人工鑒別為主?；谀Ｊ阶R(shí)別和機(jī)器學(xué)習(xí)技術(shù)的計(jì)算機(jī)筆跡鑒別可以對(duì)人工鑒別起到很好的補(bǔ)充作用[22]。簽名鑒別的關(guān)鍵點(diǎn)在于特征提取。小波變換這種多分辨率信號(hào)分析的工具可將信號(hào)逐步進(jìn)行多尺度細(xì)化提取，十分適合提取文字字符的全面及局部特征，可以很好地應(yīng)對(duì)偽造、模仿簽名的情況。通過小波變換在不同尺度下提取的特征值數(shù)量相對(duì)較大，采用線性分類器效果不佳[23]。采用CPN神經(jīng)網(wǎng)絡(luò)分類器對(duì)“真跡”筆跡特征進(jìn)行大量的訓(xùn)練后，可以有效提高鑒別的正確率。對(duì)比實(shí)驗(yàn)結(jié)果也表明了離散多尺度小波特征和CPN網(wǎng)絡(luò)分類器用于簽名鑒別的優(yōu)勢(shì)和可行性。