基于稀疏約束神經(jīng)網(wǎng)絡(luò)的紅外弱小目標(biāo)檢測技術(shù)

聶青鳳， 劉應(yīng)杰， 梁 赟

(1．光電控制技術(shù)重點(diǎn)實(shí)驗(yàn)室，河南 洛陽 471000； 2.中國航空工業(yè)集團(tuán)公司洛陽電光設(shè)備研究所，河南 洛陽 471000)

0 引言

弱小目標(biāo)檢測技術(shù)在紅外預(yù)警、紅外制導(dǎo)和航空搜潛等軍事領(lǐng)域中均有著廣泛的應(yīng)用。為了掌握戰(zhàn)場的主動權(quán)，需盡早發(fā)現(xiàn)敵方來襲目標(biāo)，因此，在更遠(yuǎn)距離下準(zhǔn)確檢測目標(biāo)至關(guān)重要。而遠(yuǎn)距條件下，目標(biāo)成像在紅外焦平面上呈現(xiàn)的尺寸往往較小，造成目標(biāo)特征較弱，導(dǎo)致弱小目標(biāo)的信息量較少，并受復(fù)雜背景的影響，給紅外弱小目標(biāo)檢測帶來巨大的困難。

目前國內(nèi)外紅外弱小目標(biāo)檢測方法[1]主要分為基于單幀圖像處理[2]和基于序列圖像處理的目標(biāo)檢測方法。其中，基于單幀圖像處理方法可分為兩類：第一，通過分析圖像內(nèi)在特征將目標(biāo)從背景中提取出來，該類方法屬于廣義的基于內(nèi)在線索的顯著性目標(biāo)檢測方法[3-5]；第二，利用外在數(shù)據(jù)，即在數(shù)據(jù)集上建立機(jī)器學(xué)習(xí)模型從而實(shí)現(xiàn)對單幀圖像的目標(biāo)檢測[6-7]。

基于序列圖像的目標(biāo)檢測方法[8-9]主要通過時域信息獲得候選目標(biāo)的運(yùn)動軌跡，從而將干擾點(diǎn)剔除，實(shí)現(xiàn)更高精度的目標(biāo)檢測。本文主要研究基于機(jī)器學(xué)習(xí)的單幀圖像處理方法，原因如下：第一，目前光電系統(tǒng)一般都具有掃描模式，在快速掃描情況下前后幀圖像的場景往往變化劇烈，難以利用幀間差信息獲得目標(biāo)軌跡；第二，顯著性目標(biāo)檢測算法中的超參在實(shí)際應(yīng)用中難以適應(yīng)所有復(fù)雜場景，而機(jī)器學(xué)習(xí)方法在實(shí)際應(yīng)用中具有積極的意義，因?yàn)槠淠軌螂S著數(shù)據(jù)的積累更新迭代模型，逐漸提高泛化能力。

目前基于機(jī)器學(xué)習(xí)的紅外弱小目標(biāo)檢測方法大多嘗試建立高性能分類器以達(dá)到高準(zhǔn)確率的目的。而在機(jī)載環(huán)境中，有限資源的嵌入式硬件平臺難以適應(yīng)復(fù)雜的分類器。本文致力于構(gòu)建低復(fù)雜度高精度分類器，采用稀疏約束來降低計算復(fù)雜度，并通過AdaBoost方法[10]建立魯棒的前向逐步回歸的神經(jīng)網(wǎng)絡(luò)模型，從而有效地提高分類器性能。

1 總體設(shè)計

本文利用顯著性目標(biāo)檢測和機(jī)器學(xué)習(xí)模型相結(jié)合的方法，首先通過簡單的空域?yàn)V波方法[11]得到目標(biāo)的候選位置，然后通過分類模型剔除候選目標(biāo)中的虛警，得到目標(biāo)。

本文采用計算量較小的高通濾波[12]和二值分割[13]方法實(shí)現(xiàn)對圖像的預(yù)處理，得到包括候選目標(biāo)的位置，如圖1所示。

圖1 預(yù)處理結(jié)果Fig.1 Preprocessing results

高通濾波首先對圖像進(jìn)行傅里葉變換，然后保持高頻成分相對不變同時減少低頻成分，從而達(dá)到增強(qiáng)圖像邊緣、細(xì)節(jié)和突出目標(biāo)的目的。一般目標(biāo)和背景應(yīng)該集中在兩個不同的灰度分布區(qū)域，因此，將高通濾波后的圖像構(gòu)造灰度直方圖，從中選取雙峰谷底的數(shù)值作為閾值，將大于閾值的置為0，否則置為1，形成二值分割圖像。

得到候選目標(biāo)位置之后，以候選目標(biāo)為中心取19像素×19像素的圖像塊，對其進(jìn)行特征提取，并分類識別。紅外小目標(biāo)像素尺寸較小，甚至很多弱目標(biāo)不到9個像素點(diǎn)，難以從中提取形體、輪廓等高語義的深度特征，反而簡單的紋理、對比度等底層特征更有效。因此，本文并不采用深度網(wǎng)絡(luò)模型，而是設(shè)計完備的矩特征用于描述目標(biāo)的特性。

設(shè)二維圖像的灰度分布為f(x′,y′)，定義(p,q)階矩為

(1)

定義中心矩為

(2)

其中，(x′c，y′c)為目標(biāo)質(zhì)心坐標(biāo)，

(3)

定義歸一化的中心矩

(4)

和中間變量

a=(h30-3h12)(h30+h12)

(5)

b=(h03-3h21)(h21+h03)

(6)

從而可以得到6個矩不變量

φ1=h20+h02

(7)

(8)

φ3=(h30-3h12)2+(h03-3h21)2

(9)

φ4=(h30+h12)2+(h03+h21)2

(10)

φ5=a[(h30+h12)2-3(h03+h21)2]+
b[(h03+h21)2-3(h30+h12)2]

(11)

φ6=(h20-h02)[(h30+h12)2-(h03+h21)2]+
4h11(h30+h12)(h03+h21)。

(12)

為構(gòu)造完備的特征集，需要提取目標(biāo)在圖像各個位置和各個尺度的矩特征。因此從19像素×19像素的圖像中，通過對k×k窗口步長為1的滑框方式，提取的特征維數(shù)為

(13)

式中，K為k的取值集合。為降低計算復(fù)雜度，設(shè)定Κ={7，9,11,13,15,17,19}，得到2730維特征。

2 基于稀疏約束的神經(jīng)網(wǎng)絡(luò)分類模型

2.1 模型結(jié)構(gòu)

分類模型在基于復(fù)合樹樁的前向神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)基礎(chǔ)上進(jìn)行修改[14]，如圖2所示，它包含輸入層、1個隱含層和輸出層。

圖2 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Structure of neural network

輸入特征向量x、隱含層變量u，則

u(x)=f1(WTx+b1)

(14)

s(x)=f2(VTu+b2)

(15)

式中：x=(x1，x2，…，xn);W為參數(shù)矩陣;V為參數(shù)向量,V=(V1，V2，…，Vm)；b1,b2為偏置參數(shù)。設(shè)置激活函數(shù)

f1(x)=sgnx

(16)

f2(x)=x。

(17)

本文設(shè)置激活函數(shù)形式與常見神經(jīng)網(wǎng)絡(luò)模型所采用的激活函數(shù)不同，相對于正切函數(shù)和S型函數(shù)，它具有計算復(fù)雜度低、易于實(shí)現(xiàn)的優(yōu)勢。通過這樣的設(shè)置，可以推導(dǎo)出神經(jīng)網(wǎng)絡(luò)輸出和輸入之間的關(guān)系

s(x)=VTf1(WTx+b1)+b2

(18)

將矩陣拆解轉(zhuǎn)化為

(19)

從式(19)可以看出，輸出和輸入之間是可以通過擬合一系列函數(shù)ht來得到分類器參數(shù)的，這與集成學(xué)習(xí)的表示形式是一致的。因此，可通過對樣本抽樣的迭代方式學(xué)習(xí)得到弱分類器h從而得到參數(shù)V和b2。為了使前向回歸模型更穩(wěn)定，采用集成學(xué)習(xí)方式對樣本進(jìn)行采樣。最后，問題轉(zhuǎn)化為如何求解W和b1，為得到這2組參數(shù)，本文通過基于稀疏約束和權(quán)重的回歸方法來求解。

2.2 參數(shù)求解

通過以上分析可知，采用集成學(xué)習(xí)方式，可以逐步學(xué)習(xí)到V和b2，而對于W和b1的第t個分量(即神經(jīng)網(wǎng)絡(luò)中的節(jié)點(diǎn)t),通過以下回歸方法計算得到

(20)

式中，L函數(shù)表示損失函數(shù)，并對參數(shù)加入了范數(shù)約束，可以控制超參λ1和λ2使目標(biāo)函數(shù)在參數(shù)約束上有一定程度偏向。

為了使模型復(fù)雜度降低，本文采用損失函數(shù)為平方誤差。假設(shè)集成學(xué)習(xí)對每個樣本采樣的權(quán)重為w，則目標(biāo)函數(shù)將轉(zhuǎn)化為

(21)

式中，N為樣本總量，且目標(biāo)函數(shù)是帶樣本權(quán)重的Elastic Net模型[15-16]

(22)

2.3 算法流程

從參數(shù)求解過程可知，與普通的回歸模型相比，引入了樣本的權(quán)重。與Gentle AdaBoost算法[17]相比，本文提出的模型不同之處在于特征是通過稀疏約束的回歸模型學(xué)習(xí)產(chǎn)生的，而不是通過分類誤差的方式挑選的。基于稀疏約束的神經(jīng)網(wǎng)絡(luò)二分類識別算法流程如下所述。

輸入：訓(xùn)練集和隱含層節(jié)點(diǎn)數(shù)m。

1) 對每個樣本初始化權(quán)重

w0,i=1/N。

(23)

2) 按照節(jié)點(diǎn)t從1～N，迭代

① 歸一化權(quán)重

(24)

② 通過優(yōu)化

(25)

得到相關(guān)參數(shù)，并計算

(26)

③ 通過擬合ht求解參數(shù)

(27)

ht(x)=Vtsgnz

;

(28)

④ 對每個訓(xùn)練樣本計算相應(yīng)的得分

(29)

⑤ 更新權(quán)重

wt,i=wt,ie-yist,i

。

(30)

輸出：W，V和b1。

通過上述算法流程，得到神經(jīng)網(wǎng)絡(luò)模型的W,V和b1，同時設(shè)定b2為

b2=lnr

(31)

式中，r為負(fù)樣本數(shù)量與正樣本數(shù)量的比值。b2參數(shù)是為了調(diào)節(jié)樣本不均衡帶來的分類器偏向問題。最后，根據(jù)s(x)的正負(fù)對樣本x進(jìn)行分類，如果為正，則為目標(biāo)，否則為非目標(biāo)。

3 試驗(yàn)分析

3.1 數(shù)據(jù)集

先通過預(yù)處理算法對3萬多幅紅外圖像進(jìn)行處理，得到所有的候選目標(biāo)位置，并對應(yīng)抽取19像素×19像素的候選目標(biāo)圖像，然后通過人工標(biāo)記，形成數(shù)據(jù)集，最后得到4015個目標(biāo)，12 452個非目標(biāo)，圖3所示為正樣本示例，圖4為負(fù)樣本示例。

圖3 正樣本Fig.3 Positive samples

圖4 負(fù)樣本Fig.4 Negative samples

圖3中所列紅外目標(biāo)大小不一，形態(tài)有呈圓點(diǎn)形和條紋形的，其中，條紋形的目標(biāo)是傳感器距離目標(biāo)較近時，或帶有尾煙的目標(biāo)。圖4所列的負(fù)樣本集中，有形似目標(biāo)的點(diǎn)狀或條紋狀的非目標(biāo)，這給分類帶來了困難。

本文通過完備的矩特征，一定程度上對目標(biāo)的發(fā)散特性進(jìn)行了描述。比如，目標(biāo)和有的非目標(biāo)雖然都呈點(diǎn)狀，但中心和周圍明暗對比度差異不一樣，由中心向周圍發(fā)散的亮度特性也不一樣，這些都可以通過不同位置的矩特征進(jìn)行描述。

3.2 仿真試驗(yàn)

按照數(shù)據(jù)采集日期將數(shù)據(jù)集分為14批次，交叉進(jìn)行驗(yàn)證測試：即將其中一個批次作為測試集，其他數(shù)據(jù)作為訓(xùn)練集，逐一測試每份數(shù)據(jù)的虛警數(shù)和漏檢數(shù)。

本文選擇淺層機(jī)器學(xué)習(xí)方法中分類性能相對較好的SVM[18]和AdaBoost[19]分類器，與本文的分類方法做對比。其中,SVM超參通過交叉驗(yàn)證選擇，本文采用的神經(jīng)網(wǎng)絡(luò)模型設(shè)定隱含層節(jié)點(diǎn)數(shù)為500。測試結(jié)果如表1所示。

表1 測試結(jié)果

通過對比，本文采用的分類器模型精度較高，無論是漏檢還是虛警數(shù)量都比較少。表2為虛警率和檢測率的對比情況。其中：虛警率定義為虛警個數(shù)占非目標(biāo)總數(shù)的百分比；檢測率定義為正確檢出的目標(biāo)個數(shù)占標(biāo)記的目標(biāo)總數(shù)的百分比。

表2 不同方法的檢測性能

交叉驗(yàn)證的每次試驗(yàn)收斂速度大同小異，因此，本文在圖5中只列出前3次收斂曲線作為示例，可見當(dāng)隱含層節(jié)點(diǎn)數(shù)增加到200，模型已達(dá)到穩(wěn)定，即前向回歸200輪就已收斂。

圖5 收斂曲線Fig.5 Convergence curve

此外，本文采用的方法可以通過矩陣W進(jìn)行特征選擇。通過范數(shù)約束得到的參數(shù)矩陣W是稀疏的，而對于某些維特征，對應(yīng)的W參數(shù)都是0，這些特征在實(shí)際應(yīng)用中是不用計算的，從而降低了計算量，達(dá)到了特征選擇的目的。如圖6所示，稀疏矩陣W對應(yīng)的特征參數(shù)只有少部分是非零的。實(shí)際上，通過對整個數(shù)據(jù)集進(jìn)行訓(xùn)練，選擇得到的特征只有374維。

圖6 部分參數(shù)數(shù)值Fig.6 Partial parameter values

為提高模型在嵌入式平臺的運(yùn)算效率，進(jìn)行如下優(yōu)化：特征提取時僅對選擇到的特征進(jìn)行計算；減少神經(jīng)網(wǎng)絡(luò)的節(jié)點(diǎn)數(shù)，由圖5可知，200個節(jié)點(diǎn)已能夠使得模型收斂并達(dá)到穩(wěn)定，更多的節(jié)點(diǎn)并不能提升精度；減少參數(shù)的字節(jié)數(shù)，并采用參數(shù)代入的方式替代矩陣賦值以降低內(nèi)存占比。

通過優(yōu)化，本文方法在DSP6455嵌入式平臺上對640像素×512像素的原始圖像進(jìn)行處理，整個目標(biāo)檢測流程耗時小于20 ms，達(dá)到了實(shí)時處理要求。

4 結(jié)論

本文通過顯著性目標(biāo)檢測方法得到目標(biāo)候選位置，并利用完備的矩特征和基于稀疏約束的前向神經(jīng)網(wǎng)絡(luò)模型實(shí)現(xiàn)對候選目標(biāo)的篩選，從而實(shí)現(xiàn)更準(zhǔn)確的目標(biāo)檢測。試驗(yàn)結(jié)果顯示，相比其他典型的淺層機(jī)器學(xué)習(xí)方法，本文提出的方法檢測精度更高。此外，可對稀疏矩陣進(jìn)行處理，從而實(shí)現(xiàn)對特征的選擇。通過優(yōu)化，本文方法在嵌入式硬件平臺上達(dá)到了實(shí)時處理要求。本文正是因?yàn)榧せ詈瘮?shù)采用了與以往不同的符號函數(shù)才能使網(wǎng)絡(luò)更簡單，然而其難以用于梯度下降方法優(yōu)化參數(shù)，因此采用了前向逐步回歸的方式求解參數(shù)，接下來的工作將改進(jìn)激活函數(shù)使其能夠連續(xù)可導(dǎo)，進(jìn)而用于梯度下降。