一種改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)SAR目標(biāo)識(shí)別算法

許 強(qiáng)，李 偉，占榮輝，鄒 鯤

(1. 空軍工程大學(xué) 信息與導(dǎo)航學(xué)院，陜西 西安 710077；2. 國(guó)防科技大學(xué) 自動(dòng)目標(biāo)識(shí)別重點(diǎn)實(shí)驗(yàn)室，湖南 長(zhǎng)沙 410073)

合成孔徑雷達(dá)(Synthetic-Aperture Radar， SAR)具有全天時(shí)、全天候、高分辨、大幅寬的特點(diǎn)，在軍事領(lǐng)域極具價(jià)值．合成孔徑雷達(dá)圖像目標(biāo)識(shí)別是合成孔徑雷達(dá)圖像解譯領(lǐng)域的研究熱點(diǎn)．隨著機(jī)器學(xué)習(xí)技術(shù)的發(fā)展，支持向量機(jī)(Support Vector Machine， SVM)[1]、AdaBoost (Adaptive Boosting)[2]等算法被應(yīng)用于合成孔徑雷達(dá)目標(biāo)識(shí)別中，但上述方法均基于人工進(jìn)行特征提取，效率低，泛化能力較差．卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network， CNN)是一種特殊的前饋神經(jīng)網(wǎng)絡(luò)，具有局部連接、權(quán)值共享的特點(diǎn)．在卷積神經(jīng)網(wǎng)絡(luò)中，不同卷積核作為不同特征的提取器，高層特征可由低層特征組合得到，這與許多自然信號(hào)具有相似的復(fù)合結(jié)構(gòu)，使得卷積神經(jīng)網(wǎng)絡(luò)較傳統(tǒng)方法更具優(yōu)勢(shì)．目前，國(guó)內(nèi)外學(xué)者提出了許多基于卷積神經(jīng)網(wǎng)絡(luò)的目標(biāo)識(shí)別算法．多尺度卷積神經(jīng)網(wǎng)絡(luò)[3]可學(xué)習(xí)目標(biāo)多尺度特征，從而更好地表征目標(biāo)，較單尺度卷積神經(jīng)網(wǎng)絡(luò)具有更優(yōu)的識(shí)別性能．全卷積網(wǎng)絡(luò)[4]中所有層均采用稀疏連接，可在減小訓(xùn)練集數(shù)據(jù)規(guī)模的同時(shí)達(dá)到較好的識(shí)別準(zhǔn)確率．對(duì)稱卷積耦合網(wǎng)絡(luò)[5]可同時(shí)學(xué)習(xí)目標(biāo)在合成孔徑雷達(dá)圖像與光學(xué)圖像上的特征，在變化檢測(cè)任務(wù)中表現(xiàn)較好．卷積神經(jīng)網(wǎng)絡(luò)是一種有監(jiān)督網(wǎng)絡(luò)模型，網(wǎng)絡(luò)訓(xùn)練需要大量正確標(biāo)記的數(shù)據(jù)，而合成孔徑雷達(dá)圖像數(shù)據(jù)集規(guī)模較小，直接應(yīng)用于網(wǎng)絡(luò)訓(xùn)練易產(chǎn)生過(guò)擬合現(xiàn)象．針對(duì)此類問(wèn)題，文獻(xiàn)[6]提出利用數(shù)據(jù)增強(qiáng)技術(shù)對(duì)訓(xùn)練集進(jìn)行數(shù)據(jù)擴(kuò)增，提高了網(wǎng)絡(luò)的泛化能力．文獻(xiàn)[7]利用獨(dú)立成分分析(Independent Component Analysis， ICA)非監(jiān)督預(yù)訓(xùn)練算法對(duì)網(wǎng)絡(luò)進(jìn)行參數(shù)初始化，但對(duì)算法性能提升效果一般．文獻(xiàn)[8]在此基礎(chǔ)上，利用主成分分析(Principle Component Analysis， PCA)非監(jiān)督預(yù)訓(xùn)練初始化神經(jīng)網(wǎng)絡(luò)，提高了識(shí)別的準(zhǔn)確率．但主成分分析法將原圖像轉(zhuǎn)換為一維向量，丟失了原有圖像的結(jié)構(gòu)信息，并未充分利用圖像信息對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練[9]．

合成孔徑雷達(dá)特殊的成像機(jī)制導(dǎo)致圖像中存在嚴(yán)重的相干斑噪聲．在合成孔徑雷達(dá)圖像中，像素位置由距離向特性決定，當(dāng)目標(biāo)存在起伏變化時(shí)，在圖像上會(huì)呈現(xiàn)出復(fù)雜的失真與幾何畸變．目前，對(duì)噪聲條件下的合成孔徑雷達(dá)目標(biāo)識(shí)別研究較少．針對(duì)合成孔徑雷達(dá)標(biāo)簽數(shù)據(jù)不足與噪聲標(biāo)記條件下的目標(biāo)識(shí)別問(wèn)題，筆者提出了一種基于零相位成分分析(Zero-phase Component Analysis， ZCA)預(yù)訓(xùn)練與含噪數(shù)據(jù)增強(qiáng)的卷積神經(jīng)網(wǎng)絡(luò)模型．首先，利用含噪數(shù)據(jù)增強(qiáng)技術(shù)對(duì)原始訓(xùn)練集進(jìn)行數(shù)據(jù)增強(qiáng)，以提高網(wǎng)絡(luò)對(duì)噪聲的魯棒性; 然后，利用零相位成分分析提取目標(biāo)特征并對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練; 最后，通過(guò)設(shè)計(jì)線性修正單元(Rectified Linear Units， ReLU)、Dropout、單位卷積核、正則化等網(wǎng)絡(luò)稀疏性方法，降低了網(wǎng)絡(luò)的計(jì)算復(fù)雜度并提高了網(wǎng)絡(luò)的識(shí)別性能與泛化能力．

1 零相位成分分析預(yù)訓(xùn)練

主成分分析法是一種基于原樣本點(diǎn)與投影重構(gòu)樣本點(diǎn)之間的最近重構(gòu)性與最大可分性，實(shí)現(xiàn)對(duì)數(shù)據(jù)樣本進(jìn)行降維重構(gòu)的特征學(xué)習(xí)方法．零相位成分分析法在主成分分析法的基礎(chǔ)上，采用奇異值分解實(shí)現(xiàn)兩個(gè)維度空間上的成分特征提取與降維重構(gòu)，并將重構(gòu)樣本集由特征空間變換回原樣本空間．零相位成分分析法可去除合成孔徑雷達(dá)圖像中相鄰像素點(diǎn)間的相關(guān)性，得到對(duì)原始圖像低冗余的表示，從而在最大程度上表示目標(biāo)的局部特征．

Mn=USVH,

(1)

其中，w×w階酉矩陣U為Mn的左奇異向量矩陣，半正定w×h階對(duì)角矩陣S為Mn的奇異值矩陣，h×h階酉矩陣VH為Mn的右奇異向量矩陣．將左奇異值λk(k=1，2，…，w)按大小降序排列，對(duì)應(yīng)左奇異向量ηk(k=1，2，…，w)．最小化重構(gòu)誤差求左投影矩陣:

(2)

左投影矩陣E=(η1，η1，…，ηL)，由前L個(gè)左奇異向量構(gòu)成．L的取值可根據(jù)累計(jì)貢獻(xiàn)率確定:

(3)

(4)

其中，ε為正則化因子．從而可對(duì)圖像In進(jìn)行特征映射:

Fn，k=EZLETXn．

(5)

同理，可對(duì)右奇異向量矩陣進(jìn)行相同步驟，以實(shí)現(xiàn)另一維度的降維重構(gòu)．主成分分析法需要將原數(shù)據(jù)投影(旋轉(zhuǎn))到主成分軸上，而零相位成分分析可在主成分分析的基礎(chǔ)上將數(shù)據(jù)由主成分空間再變換回原空間，使數(shù)據(jù)更接近原數(shù)據(jù)．如圖1所示，數(shù)據(jù)通過(guò)利用零相位成分分析進(jìn)行特征提取與去相關(guān)性之后，所得到的特征圖相對(duì)于原數(shù)據(jù)空間不發(fā)生變換．因此，零相位成分分析可在不改變數(shù)據(jù)結(jié)構(gòu)與特征空間的前提下，提取出目標(biāo)的重要特征．

圖1 零相位成分分析特征圖與主成分分析特征圖對(duì)比

2 零相位成分分析預(yù)訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò)目標(biāo)識(shí)別算法

基于零相位成分分析預(yù)訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò)目標(biāo)識(shí)別算法的流程如圖2所示．首先，對(duì)訓(xùn)練集圖像進(jìn)行數(shù)據(jù)增強(qiáng)，利用零相位成分分析法提取數(shù)據(jù)特征，并對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練; 然后，利用增強(qiáng)后的訓(xùn)練集圖像對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練; 最后，利用訓(xùn)練得到的卷積神經(jīng)網(wǎng)絡(luò)對(duì)測(cè)試集圖像進(jìn)行目標(biāo)識(shí)別．

圖2 合成孔徑雷達(dá)目標(biāo)識(shí)別流程示意圖

在原始圖像上，以大小為90像素×90像素，步長(zhǎng)為1像素的滑動(dòng)窗口對(duì)圖像進(jìn)行裁剪，可使每一類目標(biāo)的訓(xùn)練集大小增強(qiáng)為原始訓(xùn)練集大小的 (128- 90+1)× (128- 90+1)= 1 521 倍．隨機(jī)選擇每類 1 200 張圖像作為訓(xùn)練集，通過(guò)向訓(xùn)練集添加噪聲，以提高網(wǎng)絡(luò)在噪聲標(biāo)記條件下的識(shí)別性能．合成孔徑雷達(dá)中的相干斑噪聲在圖像中表現(xiàn)為信號(hào)在空間上相關(guān)的小斑點(diǎn)．斑點(diǎn)噪聲是一種散斑狀乘性噪聲:

G=f+n*f,

(6)

其中，G為加噪后的圖像，f為原始圖像，n為服從均值為零、方差為σ2的均勻分布的隨機(jī)噪聲．

卷積神經(jīng)網(wǎng)絡(luò)共包括5個(gè)卷積層與4個(gè)最大池化層．Conv.1、Conv.2 分別由32、64個(gè) 7×7 卷積核構(gòu)成，Conv.3 由128個(gè) 3×3 卷積核構(gòu)成，Conv.4 由128個(gè) 1×1 卷積核構(gòu)成．1×1 單位卷積核可減少輸出至下一卷積層的通道數(shù)，降低計(jì)算的復(fù)雜度．前4個(gè)卷積層后均連接 2×2 的最大池化層．Conv.5 由10個(gè) 4×4 卷積核構(gòu)成．

卷積神經(jīng)網(wǎng)絡(luò)對(duì)圖像進(jìn)行層次特征提取是一個(gè)前向傳播過(guò)程．輸入圖像與卷積核進(jìn)行卷積后通過(guò)非線性激活函數(shù)，得到卷積后的特征圖．公式為

(7)

線性修正單元非線性激活函數(shù)可減少反向傳播算法的計(jì)算量，降低參數(shù)相互依存關(guān)系，從而增加網(wǎng)絡(luò)的稀疏性．Dropout指在一次訓(xùn)練過(guò)程中，隨機(jī)地讓網(wǎng)絡(luò)中的某些隱層節(jié)點(diǎn)的權(quán)重暫時(shí)失效．通過(guò)Dropout，可減輕網(wǎng)絡(luò)節(jié)點(diǎn)之間的聯(lián)合適應(yīng)性，防止網(wǎng)絡(luò)發(fā)生過(guò)擬合現(xiàn)象．池化過(guò)程降低了卷積神經(jīng)網(wǎng)絡(luò)對(duì)位移與形變的靈敏度，增加了對(duì)特征的魯棒性，也可以在一定程度上將圖像的低級(jí)紋理特征聚集為高級(jí)語(yǔ)義特征．池化窗口G(u，v)以步長(zhǎng)s對(duì)特征圖進(jìn)行最大池化的公式為

(8)

在Softmax分類器中，樣本假設(shè)函數(shù)為

(9)

每一個(gè)樣本估計(jì)其所屬類別的概率為

(10)

引入示性函數(shù)I(·)，則Softmax的交叉熵?fù)p失函數(shù)為

(11)

在反向傳播中，通常采用隨機(jī)梯度下降算法，沿著目標(biāo)函數(shù)的梯度相反方向不斷地更新網(wǎng)絡(luò)參數(shù)，以使目標(biāo)函數(shù)收斂．但隨機(jī)梯度下降算法在局部極值點(diǎn)附近易產(chǎn)生振蕩，導(dǎo)致收斂速度較慢．采用基于動(dòng)量的梯度下降算法(Stochastic Gradient Descent based on Momentum， SGDM)可以較好地解決這一問(wèn)題:

(12)

其中，ρ為Momentum，η為學(xué)習(xí)率，θ為參數(shù)集合．

3 實(shí)驗(yàn)與分析

實(shí)驗(yàn)數(shù)據(jù)采用美國(guó)國(guó)防高級(jí)研究計(jì)劃局與美國(guó)空軍研究實(shí)驗(yàn)室聯(lián)合資助的MSTAR項(xiàng)目公開的部分?jǐn)?shù)據(jù)集．MSTAR數(shù)據(jù)集包含分辨率為 0.3 m× 0.3 m，大小為 128像素× 128像素的X波段聚束式合成孔徑雷達(dá)圖像．其中包括BMP-2(SN-9563、SN-9566、SN-C21)、BRDM-2、BTR-60、BTR-70、D7、T-62、T-72(SN-132、SN-812、SN-S7)、ZIL-131、ZSU-234、2S1等10類目標(biāo)．括號(hào)中為同一類目標(biāo)的變形目標(biāo)，其相互之間的差異為目標(biāo)的軍事配置不同，如裝甲車天線是否展開等．在實(shí)驗(yàn)中，以17°俯仰角圖像為訓(xùn)練集，15°俯仰角圖像為測(cè)試集．實(shí)驗(yàn)在MATLAB(2017a)環(huán)境下采用GPU (4 GB) 加速運(yùn)算完成．Momentum為0.9，MiniBatchSize為64，MaxEpochs為50，初始學(xué)習(xí)率為 0.000 6．學(xué)習(xí)率更新采用步進(jìn)式策略，每迭代15個(gè)Epoch，學(xué)習(xí)率更新為原來(lái)的0.5．訓(xùn)練過(guò)程中采用L2正則化方法對(duì)網(wǎng)絡(luò)參數(shù)設(shè)定先驗(yàn)，以防止過(guò)擬合．

3.1 合成孔徑雷達(dá)圖像目標(biāo)識(shí)別實(shí)驗(yàn)

在3類目標(biāo)識(shí)別實(shí)驗(yàn)中，測(cè)試集為15°俯仰角的BMP-2-SN-9563、BMP-2-SN-9566、BMP-2-SN-C21、BTR70、T-72-SN-132、T-72-SN-812、T-72-SN-S7目標(biāo)圖像．表1給出了文中模型與其他方法的識(shí)別性能對(duì)比．可以看出，筆者提出的算法的識(shí)別率為98.75%，能有效地識(shí)別3類目標(biāo)及其變形子類目標(biāo)，識(shí)別性能優(yōu)于其他合成孔徑雷達(dá)目標(biāo)識(shí)別算法．

表1 不同算法的性能對(duì)比

10類目標(biāo)識(shí)別實(shí)驗(yàn)結(jié)果的混淆矩陣如表2所示．可以看出，算法對(duì)T-62的識(shí)別率最低，為94.14%；對(duì)D7、T-72(SN-132)、ZSU-234的識(shí)別率均達(dá)到100%．10類目標(biāo)的整體識(shí)別率可達(dá)到約98.52%．

表2 10類目標(biāo)識(shí)別結(jié)果的混淆矩陣

3.2 算法評(píng)價(jià)與噪聲魯棒性實(shí)驗(yàn)

圖3 噪聲條件下不同算法的識(shí)別率對(duì)比圖

如圖3所示，通過(guò)算法對(duì)比，可評(píng)價(jià)算法對(duì)網(wǎng)絡(luò)識(shí)別性能的提升程度以及算法的噪聲魯棒性．對(duì)比的算法為:A0．網(wǎng)絡(luò)未采用Dropout與 1×1 卷積層，由未增強(qiáng)的訓(xùn)練集訓(xùn)練得到．B1．采用Dropout與 1×1 卷積層，由未增強(qiáng)的訓(xùn)練集訓(xùn)練得到．B2．由增強(qiáng)后的訓(xùn)練集訓(xùn)練B1得到．B3．采用零相位成分分析預(yù)訓(xùn)練，由未增強(qiáng)的訓(xùn)練集訓(xùn)練B1得到．Ours．采用零相位成分分析預(yù)訓(xùn)練，并由增強(qiáng)后的訓(xùn)練集訓(xùn)練B1得到．AN．利用增強(qiáng)后的訓(xùn)練集對(duì)AlexNet進(jìn)行fine-tune得到．通過(guò)對(duì)比A0、B1可以看出，稀疏性技術(shù)減少了網(wǎng)絡(luò)參數(shù)，降低了訓(xùn)練時(shí)間與計(jì)算復(fù)雜度，但不會(huì)降低網(wǎng)絡(luò)的識(shí)別率．事實(shí)上，當(dāng)網(wǎng)絡(luò)具有足夠多的參數(shù)，足以表征所有數(shù)據(jù)的特征時(shí)，僅通過(guò)增加網(wǎng)絡(luò)層數(shù)與結(jié)構(gòu)復(fù)雜度，并不能提升識(shí)別性能，反而會(huì)浪費(fèi)大量的訓(xùn)練成本，并產(chǎn)生過(guò)擬合現(xiàn)象．因此，網(wǎng)絡(luò)越深，越有必要增加網(wǎng)絡(luò)的稀疏性; 對(duì)比B1、B2可以看出，含噪數(shù)據(jù)增強(qiáng)可同時(shí)提升網(wǎng)絡(luò)的識(shí)別性能與噪聲魯棒性，這是由于數(shù)據(jù)增強(qiáng)擴(kuò)增了訓(xùn)練集的樣本數(shù)量與樣本多樣性，使網(wǎng)絡(luò)學(xué)習(xí)到噪聲標(biāo)記條件下的數(shù)據(jù)特征，從而具有更高的噪聲魯棒性; 對(duì)比B1、B3可以看出，通過(guò)零相位成分分析法對(duì)數(shù)據(jù)進(jìn)行特征提取，并利用所提取的特征對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行初始化，可提升網(wǎng)絡(luò)的識(shí)別率; Ours利用預(yù)訓(xùn)練、數(shù)據(jù)增強(qiáng)以及網(wǎng)絡(luò)稀疏性技術(shù)，大幅提升了卷積神經(jīng)網(wǎng)絡(luò)的識(shí)別性能與噪聲魯棒性，當(dāng)噪聲方差達(dá)到0.3時(shí)，識(shí)別率仍能達(dá)到92%，識(shí)別率相較A0提升了近35%．

圖像在卷積層上的激活區(qū)域是卷積神經(jīng)網(wǎng)絡(luò)對(duì)目標(biāo)進(jìn)行特征提取的關(guān)鍵范圍．圖4給出了目標(biāo)圖像在卷積神經(jīng)網(wǎng)絡(luò)的第1層卷積層上的最大正負(fù)激活，圖中白色為正激活區(qū)域，黑色為負(fù)激活區(qū)域．可以看出，筆者提出的算法降低了環(huán)境及噪聲干擾，而加深了目標(biāo)的正負(fù)激活程度，從而提升了網(wǎng)絡(luò)的識(shí)別性能．

圖4 卷積核激活示意圖

4 結(jié) 束 語(yǔ)

筆者研究了采用卷積神經(jīng)網(wǎng)絡(luò)的合成孔徑雷達(dá)目標(biāo)識(shí)別算法．首先利用數(shù)據(jù)增強(qiáng)技術(shù)增加訓(xùn)練集，再利用零相位成分分析法對(duì)圖像進(jìn)行特征提取與降維重構(gòu)，提取出數(shù)據(jù)中的重要特征；然后建立稀疏的卷積神經(jīng)網(wǎng)絡(luò)，利用所提取的重要特征對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練，再利用預(yù)訓(xùn)練后的網(wǎng)絡(luò)對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行特征學(xué)習(xí)，以提取出目標(biāo)的層次化特征，并用于目標(biāo)識(shí)別．實(shí)驗(yàn)表明，筆者提出的算法提升了卷積神經(jīng)網(wǎng)絡(luò)的識(shí)別性能，能準(zhǔn)確地識(shí)別各類目標(biāo)及其變形子目標(biāo)，對(duì)噪聲也有較強(qiáng)的魯棒性，是一種有效的合成孔徑雷達(dá)目標(biāo)識(shí)別算法．