基于融合Attention機制的殘差神經(jīng)網(wǎng)絡雷達干擾感知方法

郎 彬， 宮 健， 陳 賡

(空軍工程大學，西安 710000)

0 引言

雷達作為電子戰(zhàn)中目標偵察、作戰(zhàn)支援的重要裝備，其應對復雜電磁環(huán)境的能力是戰(zhàn)爭勝利的重要保障。為保證雷達系統(tǒng)的生存和效能，作為雷達智能化抗干擾體系核心的雷達干擾感知技術[1]需要隨著電磁環(huán)境和干擾技術的變化而不斷發(fā)展，因此,雷達干擾感知研究具有重要的軍事價值和意義。

根據(jù)干擾作用機理的不同，干擾可分為壓制性干擾、欺騙性干擾[2]以及復合干擾。對各類干擾的感知需提取有區(qū)分度的特征，傳統(tǒng)識別研究在多信號域中人工設計或發(fā)現(xiàn)有效的特征。文獻[3]在時頻域上建模分析合成孔徑雷達回波與欺騙干擾的差異，利用直方圖匹配距離對特征進行增強，有效地識別出虛假目標；文獻[4]將頻域上的多尺度相像系數(shù)作為區(qū)分各干擾信號的本質特征，使用改進的支持向量機(Support Vector Machines,SVM)模型針對3類干擾實現(xiàn)了87.5%的識別準確率；文獻[5]針對箔條干擾識別問題，引入極化散射參數(shù)研究箔條云的散射特性，將極化散射參數(shù)作為SVM識別箔條干擾的特征向量；文獻[6]基于熵理論，提取干擾信號的信息熵、范數(shù)熵與指數(shù)熵用于有源干擾區(qū)分。這些依賴人工設計的方式除存在特征區(qū)分度隨干擾技術發(fā)展逐漸下降的不足之外，還面臨對于抽象的關鍵特征難以提取的問題。近年來，深度學習以自動學習輸入數(shù)據(jù)特征的能力被廣泛應用于圖像、文本、語音識別等領域。有學者用其對雷達干擾進行感知識別并表現(xiàn)出良好的性能。文獻[7]采用經(jīng)典的AlexNet神經(jīng)網(wǎng)絡對5類單一的雷達干擾進行感知識別，實現(xiàn)了較高的準確率，但其并未考慮復合干擾場景；文獻[8]對干擾信號做時頻變換后輸入卷積神經(jīng)網(wǎng)絡(CNN)，能夠適應各種干擾及其參數(shù)，但網(wǎng)絡結構相對簡單，限制了模型的特征提取能力；文獻[9]將原始雷達干擾信號與時頻變換后的數(shù)據(jù)作為3個子網(wǎng)絡的輸入，通過融合各網(wǎng)絡提取的特征實現(xiàn)了簡單雷達干擾信號的分類。盡管深度學習可自動感知干擾數(shù)據(jù)，但仍存在如下不足：第一，普通的神經(jīng)網(wǎng)絡深度有限，限制了特征提取能力，網(wǎng)絡加深會出現(xiàn)網(wǎng)絡退化問題；第二，神經(jīng)網(wǎng)絡自動提取到的輸入數(shù)據(jù)特征，其中存在大量的冗余特征甚至負面特征；第三，神經(jīng)網(wǎng)絡的訓練需要大量的訓練數(shù)據(jù)支撐，雷達干擾信號往往來自非合作輻射源，樣本獲取與標準難度較高，小樣本條件下的訓練問題難以避免。

本文針對上述不足做出改進，提出一種基于融合Attention機制的殘差神經(jīng)網(wǎng)絡的雷達干擾感知識別方法，并采用遷移學習進行模型訓練。利用跳躍式連接的殘差(Residual)結構[10]改善網(wǎng)絡退化問題，引入Attention機制實現(xiàn)通道注意力，將注意力集中于最具區(qū)分度的特征通道上。最后，基于遷移學習(Transfer Learning,TL)[11]進行模型訓練，將其他領域數(shù)據(jù)訓練出的模型參數(shù)[12]遷移至雷達干擾識別任務中，在提升模型性能與魯棒性的基礎上，增強了模型應對小樣本訓練的能力。

1 構建干擾信號數(shù)據(jù)集

1.1 干擾信號生成

依據(jù)壓制和欺騙類型干擾的數(shù)學模型[2]生成典型干擾信號的數(shù)據(jù)集，信號主要仿真參數(shù)設置如表1所示,其中，JNR取值范圍為-2～16 dB，間隔2 dB。

表1 干擾信號仿真參數(shù)設置Table 1 Setting of jamming signal simulation parameters

仿真9種信號，除正常回波(Echo)外，設置8種雷達干擾信號，分別為噪聲調幅干擾(Noise AM Jamming,AMJ)、噪聲調頻干擾(Noise FM Jamming,FMJ)及射頻噪聲干擾(Radio Frequency Noise Jamming,RFNJ)3種壓制性干擾;距離欺騙干擾(Range Deception Jamming,RDJ)與速度欺騙干擾(Velocity Deception Jamming,VDJ)2種欺騙類干擾[2];距離欺騙干擾分別與3種壓制性干擾并用的復合干擾(RDJ+AMJ,RDJ+FMJ,RDJ+RFNJ)。

每種干擾信號生成425組樣本，為研究訓練樣本數(shù)量對模型性能的影響，將訓練樣本數(shù)量分為125和300。測試數(shù)據(jù)在-2～16 dB之間，間隔2 dB，生成100組樣本。數(shù)據(jù)集共計12 825組樣本。設Pjam為干擾信號功率，Pnoise為添加到干擾信號中的噪聲功率，JNR定義為

(1)

1.2 干擾信號預處理

首先，利用短時傅里葉變換(Short-Time Fourier Transform，STFT)對生成的干擾信號做時頻分析，得到反映瞬時頻率隨時間變化的時頻分布圖像。對于干擾信號j(t)，窗函數(shù)g(t)的共軛g*(t)，STFT算式為

(2)

式中：τ為t的微分，τ在t范圍內移動；j(t)為干擾信號；j(τ)為τ時刻的干擾信號；g(t)為窗函數(shù)；g(τ-t)為以t=τ為中心的窗函數(shù)。對于給定時間t，TSTFT(t,f)是t時間段內的時頻分布。

為加快訓練速度，需要在保留時頻圖像特征信息的前提下做進一步預處理，首先將圖像尺寸壓縮至224×224像素大小，隨后做灰度化處理，相較于三通道RGB圖像，將單通道圖像作為模型輸入時，可節(jié)省計算時間，進一步加快模型訓練收斂速度及識別速度。隨機選取雷達回波與各類干擾信號的時頻分布圖像如圖1所示。

圖1 雷達回波與各類干擾信號的時頻分布圖像Fig.1 Time-frequency distribution images of radar echo and various jamming signals

2 基于Attention機制的殘差神經(jīng)網(wǎng)絡雷達干擾識別

2.1 Attention機制與殘差模塊

注意力機制廣義上指將處理資源重點分配于信息量最大的部分，如人類視覺系統(tǒng)在面對現(xiàn)實場景時，往往聚焦在某些重點區(qū)域，忽視非重點信息[13-14]?；贏ttention機制實現(xiàn)通道注意力，通過映射加權和學習參數(shù)賦予各通道(Channel)不同權重，使模型自動學習到不同Channel的重要程度，加強重要特征的影響。

殘差模塊結構如圖2所示。

圖2 殘差模塊結構Fig.2 Structure of residual module

對于殘差模塊輸入x通過主干F(x)實現(xiàn)殘差映射(Residual Mapping)，通過右側支路的短路連接(Shortcut Connection)實現(xiàn)恒等映射(Identity Mapping)。圖中，兩層權重Weight Layer用W1,W2表示，ReLU激活函數(shù)用σ表示，經(jīng)兩層權重Weight Layer映射后的殘差映射結果為

F(x)=W2σ(W1x)

(3)

與短路連接傳入的x求和得到輸出y，完整的映射過程為

H(x)=F(x)+x。

(4)

殘差模塊的學習目標是學習殘差映射F(x)中的各項權值參數(shù)，尋找輸出減輸入，即H(x)-x。通過殘差映射學習到輸入x的新特征，可獲得更好的性能，即使殘差F(x)為0沒有學習到任何新特征，由于恒等映射的存在，在堆疊加深網(wǎng)絡過程中網(wǎng)絡性能也不會發(fā)生退化。

2.2 基于Attention機制改進的殘差模塊

為增強關鍵特征通道，削弱冗余和負面特征的影響，以SE模塊(Squeeze-and-Excitation Module)實現(xiàn)通道注意力[15]的原理改進殘差層，SE模塊結構如圖3所示。

圖3 SE模塊結構Fig.3 Structure of SE module

圖中：SE模塊輸入X尺寸為C1×H×W，C1,H,W分別為Channel數(shù)、高度和寬度；X經(jīng)標準的卷積操作Ftr映射為特征圖U，U的Channel數(shù)變?yōu)镃2;Fsq與Fex分別表示SE模塊中的Squeeze和Excitation操作，Squeeze將U中每個Channel的特征圖做全局平均池化(Global Average Pooling，GAP)運算，GAP表達式為

(5)

式中：zc為第c個Channel特征圖的全局特征;uc為第c個Channel的特征圖。經(jīng)Squeeze后，U變?yōu)?×1×C1的全局特征向量。隨后，通過Excitation操作重新標定該向量，Excitation的實現(xiàn)是利用多層全連接層自動學習調整，利用Sigmod激活函數(shù)得到向量和為1的通道權重向量。最后,將該向量乘以U得到最終的輸出特征圖，此時,各通道特征圖已區(qū)分每個Channel的重要程度，從而實現(xiàn)通道注意力。

基于以上SE模塊的實現(xiàn)原理，在殘差層中融合通道注意力成為新的層結構，再堆疊為完整的網(wǎng)絡結構。圖4所示為殘差層與融合Attention機制后的殘差層，其中，F(xiàn)C1,FC2代表2組全連接層。

圖4 殘差層與融合Attention機制后的殘差層Fig.4 Residual layer and the residual layer afterfusion with Attention mechanism

殘差層中的Wight Layer設置為卷積核大小為3×3的卷積層，SE模塊參照圖3結構，經(jīng)過GAP,Squeeze,Excitation操作后得到通道權重向量，該向量與兩層Weight Layer映射輸出相乘后再與恒等映射相加得到最終輸出。將該融合Attention機制后的殘差模塊命名為SE-Res Block。

2.3 SE-ResNet網(wǎng)絡模型

融合Attention機制后的殘差網(wǎng)絡SE-ResNet完整架構如圖5所示。全網(wǎng)絡堆疊了16組SE-Res Block，將16組SE-Res Block分為4部分，分別為Layer1,Layer2,Layer3,Layer4,各自具有3,4,6,3組SE-Res Block，Channel數(shù)隨著Layer的增加，分別為64,128,256,512。

圖5 融合Attention機制的殘差網(wǎng)絡整體模型Fig.5 The overall model of residual network fused with Attention mechanism

本網(wǎng)絡模型主要參數(shù)如表2所示。

表2 網(wǎng)絡模型主要參數(shù)Table 2 Main parameters of the network model

針對小樣本訓練數(shù)據(jù)問題，在網(wǎng)絡模型權重初始化階段應用遷移學習，載入已有的ResNet34在ImageNet數(shù)據(jù)集上訓練后的權重，由于本文對RseNet34嵌入SE模塊，使得模型結構發(fā)生變化，因此在導入權重時需跳過不匹配的操作層。利用其他領域的數(shù)據(jù)，提取有用的先驗知識再將其遷移到雷達干擾識別任務中，使模型獲得更好的初始化權重參數(shù)，提高小樣本訓練條件下的識別精度。

3 實驗與分析

3.1 實驗過程

實驗硬件環(huán)境為Intel?Xeon?Gold 6246 CPU,NVI-DIA Quadro GV100顯卡；軟件平臺為Python3.6，Pytorch 1.8.1，CUDA 11.1。評價指標為網(wǎng)絡總體準確率(Overall Accuracy，OA)與Kappa系數(shù)[16]，OA可直接反映分類正確的比例。Kappa系數(shù)給予模型偏向性評價，偏向性越強的Kappa值越低，定義如下

KKappa=(po-pe)/(1-pe)

(6)

pe=(t1×p1+t2×p2+…+tm×pm)/(n×n)

(7)

式中：po即為OA;樣本共有s類，每一類真實樣本數(shù)分別為t1,t2,…,ts，識別出的每一類樣本數(shù)分別為p1,p2,…,ps。在兩種訓練樣本數(shù)量條件下，設置5種對比實驗，分別為SVM,RF,未融合Attention機制但使用遷移學習的ResNet34,Attention機制與遷移學習都未使用的ResNet34以及未使用遷移學習下的本文模型。

3.2 實驗結果分析

各模型在兩種訓練樣本數(shù)量下的OA值如圖6所示，小樣本訓練下的4種深度學習方法在不同JNR下的OA和Kappa值分別如表3、表4所示。

表3 小樣本訓練下的4類神經(jīng)網(wǎng)絡在不同JNR下的OA值Table 3 OA of four types of neural networks trained with small samples under different JNR %

表4 小樣本訓練下的4類神經(jīng)網(wǎng)絡在不同JNR下的Kappa值Table 4 Kappa of four types of neural networks trained with small samples under different JNR

圖6 訓練樣本數(shù)分別為100和300時不同JNR下的OA值Fig.6 OA under different JNR when the number of training samples is 100 and 300

由圖6可知，訓練樣本數(shù)為100時，JNR低至0 dB時OA也能保持在90%以上，表明在低JNR的條件下，遷移學習下的SE-ResNet有著較好的識別能力，并明顯優(yōu)于對比方法。繪制JNR分別為0 dB與4 dB時的混淆矩陣如圖7所示。

圖7 JNR分別為0 dB與4 dB時的混淆矩陣Fig.7 Confusion matrix when JNR is 0 dB and 4 dB

由圖6可知，小樣本訓練對OA影響明顯，但4種深度學習方法都優(yōu)于SVM，RF傳統(tǒng)機器學習方法。表3、表4表明，遷移學習下的SE-ResNet在不同JNR下的OA值與一致性均優(yōu)于其他模型，尤其低JNR、小樣本時，SE-ResNet識別準確率保持最優(yōu)。Attention機制對OA值提升明顯，SE-ResNet相比ResNet提升3%～7%。遷移學習在小樣本訓練時對模型OA值提升明顯，對于本文模型，遷移學習將小樣本訓練的OA值最高提升5.4%。可見,本文模型不僅能夠對典型雷達干擾實現(xiàn)不同JNR下的有效識別，而且在小樣本訓練條件下同樣具備較好的識別效果。

分析圖7中0 dB與4 dB時的混淆矩陣可知，干擾誤判主要發(fā)生在RFNJ以及RFNJ+RDJ中，其他干擾可以實現(xiàn)接近或達到100%識別率。干擾誤判主要因素是在低JNR下，RFNJ淹沒在噪聲背景，在時頻分析中難以體現(xiàn)RFNJ的時頻特征，使得無干擾的雷達回波與RFNJ、RFNJ+RDJ與RDJ難以區(qū)分。

4 結論

本文為實現(xiàn)雷達干擾信號在低干噪比、小樣本訓練條件下的精確與穩(wěn)定識別，提出融合Attention機制的殘差神經(jīng)網(wǎng)絡，并基于遷移學習訓練的感知識別模型，與傳統(tǒng)機器學習方法和未經(jīng)改造過的神經(jīng)網(wǎng)絡模型進行典型干擾信號的感知識別實驗。實驗結果表明，即使在低JNR、小樣本訓練條件下，本文模型仍實現(xiàn)了魯棒性更強且更加精確的雷達干擾感知效果，有助于實現(xiàn)智能化、自動化的雷達干擾感知，為抗干擾手段提供有效引導。