基于一維堆疊池化融合卷積自編碼器的HRRP目標(biāo)識(shí)別方法

張國(guó)令, 吳崇明, 李 睿, 來(lái) 杰, 向 前

(1. 空軍工程大學(xué)防空反導(dǎo)學(xué)院, 陜西 西安 710051; 2. 西京學(xué)院, 陜西 西安 710123)

0 引 言

雷達(dá)高分辨率距離像(high resolution range profile,HRRP)不僅能夠反映目標(biāo)散射點(diǎn)沿雷達(dá)視線方向的分布情況,而且包含目標(biāo)的結(jié)構(gòu)特征,為目標(biāo)識(shí)別提供了重要的目標(biāo)結(jié)構(gòu)特征信息。且相較于二維距離像,一維HRRP更易獲取、處理以及存儲(chǔ),因此HRRP目標(biāo)識(shí)別成為雷達(dá)自動(dòng)目標(biāo)識(shí)別研究領(lǐng)域的熱點(diǎn)[1-3]。如何提取有效特征是HRRP目標(biāo)識(shí)別的關(guān)鍵,現(xiàn)已有不少相關(guān)研究[4-6]。如基于核主分量相關(guān)判別分析的特征提取法[4]、基于字典學(xué)習(xí)的魯棒性特征提取法[5]、基于特權(quán)信息的特征提取法[6]等。由于這些方法基于淺層線性結(jié)構(gòu),所以提取的特征表達(dá)能力受限,而且特征需要人為設(shè)計(jì),限制了識(shí)別性能的提升。因此,如何自動(dòng)提取目標(biāo)的深層特征成為雷達(dá)目標(biāo)識(shí)別的研究熱點(diǎn)。

深度學(xué)習(xí)本質(zhì)上是利用深度神經(jīng)網(wǎng)絡(luò)自動(dòng)提取目標(biāo)的深層特征,目前已經(jīng)在HRRP識(shí)別領(lǐng)域取得一些研究成果[7-10]。Pan等[7]提出了一種基于t分布隨機(jī)鄰域嵌入(t-distributed stochastic neighbor embedding, t-SNE)和判別深度置信網(wǎng)絡(luò)(discriminant deep belief network,DDBN)的HRRP識(shí)別模型,該模型利用了HRRP的深層特征進(jìn)行識(shí)別。楊予昊等[8]提出一種基于卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network, CNN)的HRRP識(shí)別方法,充分發(fā)掘HRRP所包含的深層屬性特征,并實(shí)現(xiàn)了自動(dòng)特征提取。Feng等[9]提出一種用于HRRP識(shí)別的堆疊校正自編碼器(stacked corrective auto encoder,SCAE),實(shí)驗(yàn)表明該方法具有較強(qiáng)的特征提取能力。Zhao等[10]利用堆疊自編碼器(stacked autoencoder,SAE)提取HRRP高層次特征,利用極限學(xué)習(xí)機(jī)(extreme learning machine,ELM)代替反向傳播(back propagation, BP)網(wǎng)絡(luò),實(shí)現(xiàn)了對(duì)小樣本HRRP數(shù)據(jù)集的快速準(zhǔn)確識(shí)別。

作為一種深度神經(jīng)網(wǎng)絡(luò),卷積自編碼器(convolutional autoencoder,CAE)因其提取數(shù)據(jù)深層特征的能力受到了廣泛關(guān)注[11-14]。Chen等[11]利用CAE通過(guò)無(wú)監(jiān)督學(xué)習(xí)提取CT圖像特征,成功地應(yīng)用于醫(yī)療領(lǐng)域。Huang等[12]采用卷積核為自編碼器的基本單元,提出深度CAE(deep CAE, DCAE),利用CNN的層次特征提取的優(yōu)勢(shì)來(lái)提取腦功能核磁共振數(shù)據(jù)中的特征,取得了較好的效果。Luo等[13]提出一種卷積稀疏自編碼器(convolutional sparse autoencoder, CSAE),利用CSAE提取到的圖像局部特征初始化CNN進(jìn)行分類(lèi)。Du等[14]提出一種堆疊卷積去噪自編碼器(stacked convolutional denoising autoencoder, SCDAE),該網(wǎng)絡(luò)以卷積方式疊加多層去噪自編碼器來(lái)實(shí)現(xiàn)分層訓(xùn)練優(yōu)化,每層利用去噪自編碼器學(xué)習(xí)的核函數(shù)對(duì)下層的特征進(jìn)行卷積,生成高維特征映射。CAE采用了自編碼器的思想進(jìn)行無(wú)監(jiān)督特征學(xué)習(xí),通過(guò)卷積和池化操作來(lái)提取數(shù)據(jù)的深層結(jié)構(gòu)特征。

從HRRP目標(biāo)識(shí)別的研究現(xiàn)狀來(lái)看,利用CAE進(jìn)行HRRP識(shí)別的研究很少,本研究旨在設(shè)計(jì)出性能良好的CAE網(wǎng)絡(luò),提取HRRP有效深層特征,實(shí)現(xiàn)目標(biāo)識(shí)別。為了充分利用HRRP數(shù)據(jù)的內(nèi)部結(jié)構(gòu)信息,進(jìn)一步提高雷達(dá)HRRP目標(biāo)的識(shí)別準(zhǔn)確率,本文提出了一種一維池化融合CAE(one-dimensional pooling fusion CAE, 1D PF-CAE)。在編碼階段,利用最大池化和平均池化提取特征并融合,兩者提取到的特征互相補(bǔ)充豐富,然后將1D PF-CAE堆疊形成一維堆疊池化融合CAE(one-dimension stacked pooling fusion CAE, 1D SPF-CAE),從而增強(qiáng)其深層特征提取能力,進(jìn)一步提出了基于1D SPF-CAE的HRRP目標(biāo)識(shí)別方法。同時(shí),考慮到深層網(wǎng)絡(luò)固有的訓(xùn)練困難問(wèn)題,使用Ada-Bound[15]優(yōu)化算法優(yōu)化網(wǎng)絡(luò)訓(xùn)練,以提高網(wǎng)絡(luò)的整體性能。實(shí)驗(yàn)結(jié)果表明,本文提出的基于1D SPF-CAE的HRRP目標(biāo)識(shí)別方法取得了良好的效果。

1 CAE原理

1.1 CAE

自動(dòng)編碼器由兩部分組成:編碼器和解碼器,如圖1所示。

圖1 自編碼器架構(gòu)Fig.1 Architecture of autoencoder

編碼器使用確定性的映射函數(shù)將輸入x映射到隱層表示y,通常映射函數(shù)f是非線性的,y可表示為

y=f(Wx+b)

(1)

式中:W表示輸入和隱層表示之間的權(quán)重;b表示偏置。

解碼器通過(guò)隱層表示y重構(gòu)輸出z,公式為

z=f′(W′y+b′)

(2)

式中:W′是隱層表示與輸出之間的權(quán)重；b′是偏置。

(3)

CAE將卷積連接和自編碼器結(jié)合在一起,由卷積編碼器和卷積解碼器組成[16]。卷積編碼器實(shí)現(xiàn)輸入到特征的卷積轉(zhuǎn)換,卷積解碼器實(shí)現(xiàn)特征到輸出的卷積轉(zhuǎn)換。在CAE中,通過(guò)CNN計(jì)算提取的特征和重構(gòu)輸出。因此,式(1)和式(2)可改寫(xiě)為

y=ReLU(wx+b)

(4)

z=ReLU(w′y+b′)

(5)

式中:w為x和y之間的卷積核;w′為y和z之間的卷積核。

一維堆疊卷積自編碼器(one-dimensional stacked CAE，1D -SCAE)是一種特殊的卷積自編碼器,其原理如下節(jié)所述。

1.2 1D -SCAE

1D -SCAE由多個(gè)一維CAE(one-dimension CAE, 1D -CAE)分層堆疊而成,前一個(gè)1D -CAE編碼器的輸出為后一個(gè)1D -CAE的輸入[17]。1D -SCAE能夠?qū)W習(xí)到魯棒性強(qiáng)、抽象度高的特征,主要有兩大原因:一是與單層自動(dòng)編碼器相比,1D -SCAE堆疊起來(lái)的深層網(wǎng)絡(luò)結(jié)構(gòu)具有更強(qiáng)的特征表征能力[17];二是與全連接網(wǎng)絡(luò)相比,1D -SCAE網(wǎng)絡(luò)采用卷積和池化操作,能夠在提取局部特征的同時(shí),從全局上把握整體的變化特征,使得提取到的特征更具魯棒性[18]。圖2是由兩個(gè)1D -CAE堆疊而成的1D -SCAE。

圖2 1D -SCAEFig.2 1D -SCAE

每層1D -CAE在編碼階段通過(guò)一維卷積和池化提取數(shù)據(jù)的特征,在解碼階段通過(guò)上采樣和一維反卷積運(yùn)算重建輸入。

(1) 編碼過(guò)程由一維卷積和池化組成。其公式為

hi,1=ReLU(ωi*xi+bi)

(6)

hi,2=pool(hi,1)

(7)

式中：xi=hi-1(i=1,2,…,n),i=1時(shí),xi=x;hi,1為第i個(gè)編碼器的一維卷積輸出;hi,2為第i個(gè)編碼器輸出的特征;ωi和bi分別為第i個(gè)編碼器的卷積核和偏置;*表示卷積操作;pool表示池化操作。

(2) 解碼過(guò)程由上采樣和一維反卷積組成。其公式為

(8)

(9)

(10)

各層1D -CAE通過(guò)最小化重構(gòu)誤差進(jìn)行訓(xùn)練,第i個(gè)1D -CAE的損失函數(shù)為

(11)

為進(jìn)一步提高1D -CAE的特征提取能力,在上述經(jīng)典1D -CAE的基礎(chǔ)上,本文在1D -CAE編碼階段采用最大池化和平均池化同時(shí)提取特征,并將提取到的特征進(jìn)行融合,設(shè)計(jì)了一種1D PF-CAE,進(jìn)一步將堆疊的1D PF-CAE用于HRRP特征的自動(dòng)提取,從而提出一種基于1D SPF-CAE的HRRP識(shí)別方法。

2 基于1D SPF-CAE的HRRP識(shí)別方法

2.1 1D SPF-CAE

傳統(tǒng)的1D -CAE因其網(wǎng)絡(luò)模型采用了CNN,具有局部連接、參數(shù)共享、池化、多卷積核等優(yōu)勢(shì);而且經(jīng)過(guò)池化操作得到的特征對(duì)于小范圍內(nèi)的旋轉(zhuǎn)和平移具有較好的魯棒性,因此具有較強(qiáng)的特征表達(dá)能力[19]。為進(jìn)一步提高網(wǎng)絡(luò)的表達(dá)能力,本文設(shè)計(jì)了一種1D PF-CAE,在編碼階段,同時(shí)采用最大池化和平均池化提取不同的編碼特征,并將兩者提取到的特征進(jìn)行串聯(lián)連接為最終的池化輸出。在此基礎(chǔ)上,將1D PF-CAE形成1D SPF-CAE,其網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3 1D SPF-CAE的網(wǎng)絡(luò)結(jié)構(gòu)Fig.3 Network structure of 1D SPF-CAE

其中,堆疊的三層1D PF-CAE主要用于特征提取,后面的網(wǎng)絡(luò)主要用于分類(lèi)。

1D SPF-CAE的每層1D PF-CAE都通過(guò)無(wú)監(jiān)督學(xué)習(xí)來(lái)提取特征,其無(wú)監(jiān)督學(xué)習(xí)分為卷積編碼和卷積解碼兩個(gè)階段。編碼階段,首先進(jìn)行兩次一維卷積操作,目的在于充分提取數(shù)據(jù)的局部結(jié)構(gòu)特征;然后同時(shí)進(jìn)行最大池化和平均池化操作,并將兩部分不同特征進(jìn)行融合作為池化輸出。編碼的具體過(guò)程如下所示：

hi,1=ReLU(ωi,1*xi+bi,1)

(12)

hi,2=ReLU(ωi,2*hi,1+bi,2)

(13)

hi,3_max=maxpool(hi,2)

(14)

hi,3_avg=avgpool(hi,2)

(15)

hi,3=hi,3_max⊕hi,3_avg

(16)

式中：xi=hi-1(i=1,2,3),i=1時(shí),xi=x;hi,1為第i個(gè)編碼器的第1個(gè)一維卷積輸出；hi,2為第i個(gè)編碼器的第2個(gè)一維卷積輸出；hi,3_max為第i個(gè)編碼器的最大池化輸出；hi,3_avg為第i個(gè)編碼器的平均池化輸出；hi,3為第i個(gè)編碼器輸出的特征;maxpool表示最大池化操作,avgpool表示平均池化操作；⊕代表串聯(lián)連接。

解碼的過(guò)程與第1.2節(jié)中的解碼過(guò)程等同,即式(8)～式(10)。

網(wǎng)絡(luò)含有大量可訓(xùn)練的參數(shù)θ,容易導(dǎo)致過(guò)擬合,因此在全連接層加入Dropout技術(shù)[20],以概率隨機(jī)舍棄部分節(jié)點(diǎn),減少了冗余特征,緩解了過(guò)擬合現(xiàn)象。

2.2 訓(xùn)練優(yōu)化

1D PF-CAE網(wǎng)絡(luò)的訓(xùn)練采用小批量訓(xùn)練模式。隨機(jī)梯度下降(stochastic gradient descent, SGD)法分批次隨機(jī)抽取m個(gè)訓(xùn)練樣本作為輸入,第t次迭代時(shí),參數(shù)更新為

θt+1=θt-αgt

(17)

式中：gt為損失函數(shù)的梯度;α為學(xué)習(xí)率。

SGD使用固定的學(xué)習(xí)率進(jìn)行參數(shù)更新,存在學(xué)習(xí)率選擇困難的問(wèn)題,因此1D PF-CAE采用AdaBound算法對(duì)參數(shù)更新過(guò)程進(jìn)行優(yōu)化。每次參數(shù)更新時(shí),AdaBound利用梯度一階矩和二階矩估計(jì)分別更新gt和α,同時(shí)施加動(dòng)態(tài)邊界限制了α的變化范圍,使得參數(shù)更新過(guò)程更平穩(wěn)?；贏daBound的1D PF-CAE訓(xùn)練優(yōu)化算法見(jiàn)算法1。

算法 1 基于AdaBound的1D PF-CAE訓(xùn)練優(yōu)化算法輸入: 訓(xùn)練集、測(cè)試集輸出: 最優(yōu)模型1參數(shù)配置:設(shè)置epochs為100,batchsize為200,學(xué)習(xí)率α0=0.001,αf=0.1,β1=0.9,β2=0.999,以及小常數(shù)γ=10-3,ε=10-7。2模型初始化:設(shè)置模型參數(shù)θ為近似0的隨機(jī)值。3參數(shù)更新。4初始化梯度一階矩估計(jì):m0←05初始化梯度二階矩估計(jì):v0←06for t=1 to T do7根據(jù)式(11)計(jì)算前向傳播誤差:L(θt-1)8計(jì)算損失函數(shù)的梯度:gt←Δθt-1L(θt-1)9更新α:αt←α01-βt21-βt110計(jì)算α的下界:αl←αf(1-1γt+1)11計(jì)算α的上界:αμ←αf(1+1γt)12更新梯度一階矩估計(jì):mt←βtmt-1+(1-β1)gt13更新梯度二階矩估計(jì):vt←β2vt-1+(1-β2)g2t14更新θ:θt←θt-1-mt·min{max{αtvt+ε,αl},αμ}15end for

訓(xùn)練好每個(gè)1D PF-CAE之后將其堆疊構(gòu)造1D SPF-CAE,然后再使用AdaBound算法對(duì)整個(gè)網(wǎng)絡(luò)進(jìn)行微調(diào),最終采用Softmax分類(lèi)器實(shí)現(xiàn)分類(lèi)。

2.3 基于1D SPF-CAE的HRRP目標(biāo)識(shí)別方法

本節(jié)利用提出的1D SPF-CAE對(duì)雷達(dá)HRRP目標(biāo)進(jìn)行識(shí)別,憑借1D PF-CAE提取特征能力強(qiáng)的優(yōu)勢(shì),提取HRRP的深層結(jié)構(gòu)特征;然后堆疊多個(gè)1D PF-CAE形成1D SPF-CAE;最后使用標(biāo)簽數(shù)據(jù)對(duì)網(wǎng)絡(luò)進(jìn)行微調(diào),實(shí)現(xiàn)HRRP目標(biāo)識(shí)別。

基于1D SPF-CAE的HRRP目標(biāo)識(shí)別方法主要包括3個(gè)階段:預(yù)處理階段、訓(xùn)練階段和測(cè)試階段。

(1) 預(yù)處理階段:對(duì)原始的HRRP數(shù)據(jù)進(jìn)行去噪處理和歸一化處理。

(2) 訓(xùn)練階段:訓(xùn)練階段分為預(yù)訓(xùn)練和微調(diào)。首先對(duì)3個(gè)1D PF-CAE單獨(dú)訓(xùn)練,然后將訓(xùn)練好的3個(gè)1D PF-CAE按照?qǐng)D3進(jìn)行堆疊,再對(duì)Softmax預(yù)訓(xùn)練。在微調(diào)階段,對(duì)整個(gè)網(wǎng)絡(luò)進(jìn)行微調(diào),優(yōu)化1D SPF-CAE中的每個(gè)1D PF-CAE和Softmax分類(lèi)器的參數(shù),得到最終的訓(xùn)練模型。

(3) 測(cè)試階段:利用訓(xùn)練好的網(wǎng)絡(luò)對(duì)測(cè)試集HRRP數(shù)據(jù)進(jìn)行分類(lèi)得到目標(biāo)類(lèi)型。

3 實(shí)驗(yàn)與結(jié)果分析

3.1 實(shí)驗(yàn)設(shè)置

為了測(cè)試本文提出方法的性能,在此設(shè)計(jì)了以下實(shí)驗(yàn)。

實(shí)驗(yàn) 1模型的訓(xùn)練實(shí)驗(yàn)。

實(shí)驗(yàn) 2不同池化方式對(duì)方法性能的影響分析。

實(shí)驗(yàn) 3特征可視化分析實(shí)驗(yàn)。

實(shí)驗(yàn) 4參數(shù)影響分析實(shí)驗(yàn),分析了不同堆疊層數(shù)、不同優(yōu)化算法以及不同Dropout取值對(duì)方法性能的影響。

實(shí)驗(yàn) 5與其他算法在加噪和未加噪數(shù)據(jù)集上的性能對(duì)比分析。

3.1.1 實(shí)驗(yàn)環(huán)境及實(shí)驗(yàn)數(shù)據(jù)

本文試驗(yàn)環(huán)境為T(mén)ensorflow,計(jì)算機(jī)配置為Intel(R) Core(TM) i7-4790 CPU 3.60 GHz,16 GB RAM。

本文使用FEKO和Matlab聯(lián)合仿真得到5類(lèi)彈道中段目標(biāo)的HRRP仿真數(shù)據(jù)。其中,雷達(dá)參數(shù)設(shè)置如下:中心頻率10 GHz、帶寬1 GHz、方位角范圍0°～180°、方位角間隔0.05°。5類(lèi)仿真目標(biāo)及其物理參數(shù)如圖4所示。

圖4 5類(lèi)彈道中段目標(biāo)Fig.4 Five types of the target in the middle part of the trajectory

仿真得到18 005個(gè)256維的一維HRRP樣本數(shù)據(jù),每類(lèi)目標(biāo)HRRP數(shù)量為3 601。按照66%、33%的比例隨機(jī)劃分訓(xùn)練集和測(cè)試集,構(gòu)造數(shù)據(jù)集A;按照50%、50%的比例隨機(jī)劃分訓(xùn)練集和測(cè)試集,構(gòu)造數(shù)據(jù)集B;按照33%、66%的比例隨機(jī)劃分訓(xùn)練集和測(cè)試集,得到數(shù)據(jù)集C。在不加說(shuō)明的情況下,以下均將數(shù)據(jù)集A作為實(shí)驗(yàn)數(shù)據(jù)集。

3.1.2 模型參數(shù)設(shè)置

1D SPF-CAE訓(xùn)練參數(shù)設(shè)置如下:學(xué)習(xí)率為0.001,批量大小為200,Dropout率為0.2。網(wǎng)絡(luò)結(jié)構(gòu)設(shè)置如表1所示。

表1 網(wǎng)絡(luò)參數(shù)設(shè)置

3.2 模型訓(xùn)練

在預(yù)訓(xùn)練階段,1D SPF-CAE中的每一層1D PF-CAE進(jìn)行無(wú)監(jiān)督式學(xué)習(xí),通過(guò)對(duì)輸入數(shù)據(jù)重構(gòu)提取數(shù)據(jù)的特征。在微調(diào)階段,將各層1D PF-CAE和Softmax分類(lèi)器看作一個(gè)整體去調(diào)整自由參數(shù),參數(shù)調(diào)優(yōu)的過(guò)程直觀表現(xiàn)為損失不斷降低,當(dāng)損失收斂時(shí)得到的參數(shù)是最優(yōu)的。實(shí)驗(yàn)進(jìn)行100次迭代,訓(xùn)練集和測(cè)試集的損失變化如圖5所示。

圖5 損失變化Fig.5 Loss variation

由圖5看出,在訓(xùn)練初期,損失隨著迭代次數(shù)的增加而快速下降,訓(xùn)練后期趨于穩(wěn)定且訓(xùn)練誤差較低。說(shuō)明1D SPF-CAE網(wǎng)絡(luò)具有良好的訓(xùn)練效果,收斂速度快,并且收斂后訓(xùn)練誤差小。

基于1D SPF-CAE的HRRP目標(biāo)識(shí)別的混淆矩陣如圖6所示。由圖6可以看出,1D SPF-CAE對(duì)5類(lèi)HRRP目標(biāo)均具有較好的識(shí)別效果,能夠很好地識(shí)別彈頭和假目標(biāo)。

圖6 1D -SCAE的識(shí)別混淆矩陣Fig.6 Recognition confusion matrix of 1D -SCAE

3.3 不同池化方式的影響分析

為了驗(yàn)證本文提出的池化融合方法的有效性,本節(jié)設(shè)置對(duì)比試驗(yàn):1D SPF-CAE分別采用平均池化、最大池化、平均池化+最大池化3種不同的方案,3種方案情況下的HRRP識(shí)別準(zhǔn)確率如表2所示。通過(guò)表2看出,與其他兩種池化方案相比,同時(shí)采用平均池化和最大池化的方案取得了較高的識(shí)別準(zhǔn)確率。原因在于,最大池化能夠提取到帶有局部結(jié)構(gòu)意義的特征,而平均池化提取到的特征包含一定的全局意義,兩者提取到的特征是有區(qū)別的,通過(guò)池化融合將兩者提取的特征相結(jié)合,互為補(bǔ)充,能夠更好地反映HRRP數(shù)據(jù)的本質(zhì),因此取得了更高的識(shí)別準(zhǔn)確率。本實(shí)驗(yàn)證明了本文對(duì)一維堆疊卷積自編碼器的改進(jìn)是有效的。

表2 不同池化方式下的識(shí)別準(zhǔn)確率

3.4 特征可視化分析

為了驗(yàn)證1D SPF-CAE的逐層特征能力,用t-SNE[7]算法將輸入數(shù)據(jù)、第1層1D PF-CAE輸出特征、第2層1D PF-CAE輸出特征、全連接層輸出特征可視化到二維空間,結(jié)果如圖7所示。圖7(a)是對(duì)輸入數(shù)據(jù)可視化,可以看出5類(lèi)樣本混合在一塊(球形誘餌除外),圖7(d)是對(duì)全連接層輸出特征可視化,5類(lèi)彈道中段目標(biāo)呈現(xiàn)出很好的分類(lèi)效果。而且隨著網(wǎng)絡(luò)層數(shù)加深,同類(lèi)別的特征數(shù)據(jù)越來(lái)越具有相似性,不同類(lèi)別的特征數(shù)據(jù)呈現(xiàn)出的可辨識(shí)分離性更加明顯。說(shuō)明1D SPF-CAE具有較強(qiáng)的逐層特征提取能力,而且隨著網(wǎng)絡(luò)層數(shù)增加,提取到的特征更抽象、更具有代表性。

圖7 t-SNE降維可視化Fig.7 t-SNE reduced-dimension visualization

3.5 參數(shù)影響分析

3.5.1 堆疊層數(shù)影響分析

為了分析不同堆疊層數(shù)對(duì)網(wǎng)絡(luò)性能的影響,本節(jié)分別將堆疊層數(shù)設(shè)為1～6層,不同堆疊層數(shù)對(duì)應(yīng)的識(shí)別準(zhǔn)確率如表3所示。

表3 不同堆疊層數(shù)下的識(shí)別準(zhǔn)確率

從表3中可以看出,堆疊層數(shù)從1層增加到4層時(shí),HRRP識(shí)別準(zhǔn)確率不斷增長(zhǎng),說(shuō)明隨著堆疊層數(shù)增加,網(wǎng)絡(luò)對(duì)HRRP數(shù)據(jù)進(jìn)行多級(jí)抽象表達(dá)和有效特征提取,使得深層學(xué)到的特征更具有本質(zhì)代表性,提高了識(shí)別性能。4層的網(wǎng)絡(luò)識(shí)別準(zhǔn)確率達(dá)到最高。堆疊層數(shù)再增加時(shí),識(shí)別率不再增長(zhǎng)反而下降。原因在于隨著堆疊層數(shù)增加,產(chǎn)生了過(guò)擬合?？梢缘贸鼋Y(jié)論:適當(dāng)?shù)脑黾泳W(wǎng)絡(luò)深度可以增強(qiáng)特征提取性能,提高HRRP識(shí)別準(zhǔn)確率。綜合識(shí)別準(zhǔn)確率和網(wǎng)絡(luò)訓(xùn)練難度考慮,本文1D SPF-CAE由3層1D PF-CAE堆疊而成。

3.5.2 優(yōu)化算法影響分析

為了驗(yàn)證本文選用的AdaBound算法對(duì)網(wǎng)絡(luò)訓(xùn)練具有較好的優(yōu)化作用,將其與SGD、Adadelta、Adam優(yōu)化算法進(jìn)行對(duì)比實(shí)驗(yàn),選用不同優(yōu)化算法時(shí),測(cè)試集上識(shí)別準(zhǔn)確率變化如圖8所示。

圖8 不同優(yōu)化算法下1D -SCAE的訓(xùn)練效果Fig.8 Training effect of 1D -SCAE under different optimization algorithms

由圖8可得,相比于Adadelta算法、Adam算法,選用AdaBound算法對(duì)1D SPF-CAE進(jìn)行訓(xùn)練具有更快的收斂速度;與SGD算法相比,選用AdaBound算法對(duì)1D SPF-CAE進(jìn)行訓(xùn)練具有更高的識(shí)別準(zhǔn)確率。實(shí)驗(yàn)結(jié)果表明,選用AdaBound算法對(duì)網(wǎng)絡(luò)訓(xùn)練進(jìn)行優(yōu)化具有一定的促進(jìn)作用。

3.5.3 Dropout影響分析

Dropout是解決過(guò)擬合問(wèn)題的常用方法,本實(shí)驗(yàn)比較了1D SPF-CAE在不同Dropout率下的識(shí)別準(zhǔn)確率,如圖9所示。

圖9 Dropout率對(duì)模型的影響Fig.9 Impact of Dropout rate on the model

從圖9看出,隨著Dropout率的增加，1D SPF-CAE的識(shí)別性能先上升后下降,并且在p=0.2時(shí)性能達(dá)到最優(yōu),表明適當(dāng)?shù)奶蕹W(wǎng)絡(luò)參數(shù)能夠緩解過(guò)擬合問(wèn)題,提升網(wǎng)絡(luò)性能;而過(guò)多的剔除網(wǎng)絡(luò)參數(shù)反而會(huì)降低算法性能。

3.6 不同算法性能對(duì)比

為了驗(yàn)證基于1D SPF-CAE算法的HRRP目標(biāo)識(shí)別方法的綜合性能,將1D SPF-CAE與多種算法進(jìn)行性能對(duì)比實(shí)驗(yàn)。在A、B、C這3個(gè)數(shù)據(jù)集上分別添加5 dB、10 dB、15 dB、20 dB噪聲,共得到15個(gè)數(shù)據(jù)集。

對(duì)比算法網(wǎng)絡(luò)設(shè)置如下:SAE[21]、堆疊去噪自編碼器(stacked denoising autoencoders,SDAE)[22]、堆疊稀疏自編碼器(stacked sparse autoencoders, SPAE)[23]、基于棧式降噪稀疏自編碼器的極限學(xué)習(xí)機(jī)(stacked denoising SAE based ELM,SDSAE-ELM)[24]均設(shè)置3層隱含層,網(wǎng)絡(luò)結(jié)構(gòu)均設(shè)置為256-512-356-128-5;1D -CNN包含3層卷積層、3層池化層交叉連接,最后連一個(gè)全連接層,所有池化層的窗口大小和步長(zhǎng)均設(shè)置為2;卷積核大小為3×1,卷積核數(shù)分別為32、48、64,全連接層含有400個(gè)節(jié)點(diǎn)。ELM隱含層節(jié)點(diǎn)數(shù)設(shè)為2 000;RF的最大深度設(shè)置為50,包含600棵樹(shù)。不同算法的識(shí)別準(zhǔn)確率結(jié)果如圖10所示。實(shí)驗(yàn)結(jié)果為10次重復(fù)試驗(yàn)取平均值。

觀察圖10,基于1D SPF-CAE的HRRP識(shí)別準(zhǔn)確率明普遍高于SAE、SDAE、SPAE、SDSAE-ELM,原因在于1D SPF-CAE采用了卷積神經(jīng)網(wǎng)絡(luò)提取特征,相比全連接網(wǎng)絡(luò),CNN提取到的特征更抽象、更能反映數(shù)據(jù)本質(zhì),對(duì)于一維HRRP數(shù)據(jù)表達(dá)能力更強(qiáng),提高了HRRP目標(biāo)識(shí)別準(zhǔn)確率。且1D SPF-CAE的識(shí)別準(zhǔn)確率明顯高于RF、ELM淺層機(jī)器學(xué)習(xí)算法,表明1D SPF-CAE作為深度學(xué)習(xí)算法,能夠提取HRRP數(shù)據(jù)的內(nèi)部結(jié)構(gòu)特征,故而能夠較大地提高HRRP目標(biāo)識(shí)別準(zhǔn)確率。相比于1D -CNN,1D SPF-CAE其采用自編碼器的思想,首先對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練,取得了更好的識(shí)別準(zhǔn)確率。對(duì)比添加噪聲和未添加噪聲的情況,在添加噪聲的數(shù)據(jù)集上,1D SPF-CAE的識(shí)別準(zhǔn)確率提升更為明顯,說(shuō)明1D SPF-CAE算法具有較好的魯棒性。

圖10 不同算法在測(cè)試集上的識(shí)別準(zhǔn)確率Fig.10 Recognition accuracy rate of different algorithms on test set

4 結(jié) 論

為了能夠自動(dòng)提取到HRRP自身的結(jié)構(gòu)特征,本文提出了一種基于1D SPE-CAE的HRRP目標(biāo)識(shí)別方法。該方法采用1D SPF-CAE自動(dòng)提取目標(biāo)HRRP的結(jié)構(gòu)特征,使用Softmax分類(lèi)器對(duì)學(xué)習(xí)到的特征進(jìn)行分類(lèi)。1D SPF-CAE由1D PF-CAE堆疊構(gòu)成,在1D PF-CAE的編碼階段采用最大池化和平均池化同時(shí)提取不同性質(zhì)的特征,并通過(guò)池化融合增強(qiáng)了池化層輸出特征的豐富性,實(shí)驗(yàn)表明本文提出的方法是有效的。1D SPF-CAE通過(guò)堆疊進(jìn)行多層次特征提取,有效地提高了網(wǎng)絡(luò)提取特征的能力;同時(shí),采用AdaBound算法優(yōu)化網(wǎng)絡(luò)增強(qiáng)了網(wǎng)絡(luò)的整體性能。最終實(shí)驗(yàn)表明,本文提出的識(shí)別方法具有較高的識(shí)別準(zhǔn)確率和較強(qiáng)的魯棒性。