基于GRU-CNN并聯(lián)神經(jīng)網(wǎng)絡(luò)的自動(dòng)調(diào)制識別

向 建,高 勇

(四川大學(xué) 電子信息學(xué)院，成都 610065)

0 引 言

自動(dòng)調(diào)制識別是頻譜感知、電子對抗和防御等領(lǐng)域中的重要技術(shù)之一[1-2]。傳統(tǒng)的基于人工提取特征的調(diào)制識別算法分類精度不如預(yù)期。近年來，研究人員采用基于深度學(xué)習(xí)(Deep Learning,DL)的自動(dòng)調(diào)制識別(Automatic Modulation Recognition，AMR)算法極大地提高了對輸入數(shù)據(jù)提取高維特征的能力，從而使通信系統(tǒng)能夠以更高的精度識別復(fù)雜多樣的調(diào)制方式[3]。

業(yè)界學(xué)者已經(jīng)提出了許多基于DL的AMR方法。文獻(xiàn)[4]對調(diào)制信號的同相和正交分量(IQ)數(shù)據(jù)進(jìn)行仿真實(shí)驗(yàn)，展示了卷積神經(jīng)網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)(ResNet)等網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行調(diào)制分類的性能，得出分類精度不受網(wǎng)絡(luò)深度的限制的結(jié)論。隨著基于深度學(xué)習(xí)的AMR方法的發(fā)展，研究人員開始從數(shù)據(jù)預(yù)處理和深度學(xué)習(xí)模型改進(jìn)兩方面來提高分類性能。文獻(xiàn)[5]提出將IQ數(shù)據(jù)轉(zhuǎn)換為振幅和相位信息，在使用長短期記憶網(wǎng)絡(luò)(Long Short-Term Memory，LSTM)模型的試驗(yàn)中取得了相對于IQ數(shù)據(jù)更好的效果，突出了數(shù)據(jù)預(yù)處理和適當(dāng)?shù)臄?shù)據(jù)表示的重要性。文獻(xiàn)[6]提出用二值星座圖表示調(diào)制信號，并用灰度圖像和三通道圖像優(yōu)化星座的表示。文獻(xiàn)[7]采用星座圖對難以區(qū)分的調(diào)制方式如16QAM和64QAM進(jìn)行分類，提出用密度窗來捕獲這兩種調(diào)制模式的數(shù)據(jù)分布差異。實(shí)踐中僅使用單一網(wǎng)絡(luò)進(jìn)行調(diào)制分類對提高分類精度有一定限制，文獻(xiàn)[8]提出了卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)和LSTM神經(jīng)網(wǎng)絡(luò)并聯(lián)的網(wǎng)絡(luò)結(jié)構(gòu)，將原始IQ數(shù)據(jù)直接送入，可在較低信噪比下取得較好的識別率。

本文提出一種新的基于并聯(lián)GRU-CNN神經(jīng)網(wǎng)絡(luò)的AMR方法。首先，對IQ數(shù)據(jù)進(jìn)行極坐標(biāo)轉(zhuǎn)換，同時(shí)對IQ數(shù)據(jù)做自相關(guān)處理；然后，將極坐標(biāo)下的數(shù)據(jù)送入GRU網(wǎng)絡(luò)，自相關(guān)序列送入CNN網(wǎng)絡(luò)；而后將兩個(gè)網(wǎng)絡(luò)的輸出拼接起來，最后進(jìn)行調(diào)制方式分類。經(jīng)實(shí)測信號測試，本文所提方法在低信噪比下對8種相位調(diào)制或正交振幅調(diào)制信號都能取得較高的識別率。

1 系統(tǒng)模型

1.1 調(diào)制信號模型

本文主要討論目前通信過程中常見的相位調(diào)制和正交振幅調(diào)制信號，包括BPSK、QPSK、8PSK、π/4-DQPSK、16QAM、32QAM、64QAM和128QAM。信號的基帶波形可以表示為

(1)

式中：sn表示發(fā)送端所發(fā)送的第n個(gè)符號，g(t)表示等效濾波器，w(t)表示零均值的加性高斯白噪聲。不同的調(diào)制方式，符號序列呈現(xiàn)的樣式也不同。

對于PSK類信號，有

(2)

對于QAM類信號，有

sn=an+jbn。

(3)

本文在接收端得到的符號序列表示為

X(n)=I(n)+jQ(n) ，

(4)

因此，

(5)

(6)

那么IQ采樣信號就可以表示成一個(gè)2行L列的實(shí)值矩陣：

(7)

1.2 GRU神經(jīng)網(wǎng)絡(luò)

門控循環(huán)單元(Gated Cycle Unit，GRU)是循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)的一種，能使每個(gè)循環(huán)單元適應(yīng)性地捕獲不同時(shí)間范圍的依存關(guān)系。與LSTM一樣，GRU也是為了解決RNN長期記憶和反向傳播中的梯度消失與梯度爆炸問題而提出的。如圖1所示，類似于LSTM，GRU也具有門控單元，用來調(diào)節(jié)單元內(nèi)部的信息流，但是它比LSTM少了單獨(dú)的存儲單元。

圖1 門控循環(huán)單元

(8)

(9)

式中：σ是Sigmoid函數(shù)。在現(xiàn)有狀態(tài)和新計(jì)算的狀態(tài)之間進(jìn)行線性求和的操作類似于LSTM，但是GRU不采用任何機(jī)制來控制其狀態(tài)暴露的程度，而是每次都會暴露整個(gè)狀態(tài)。在傳統(tǒng)循環(huán)單元中，其隱層單元可用如下公式計(jì)算：

ht=g(Wxt+Uht-1) 。

(10)

(11)

(12)

這些單元之間共享的最顯著特征是它們從t更新到t+ 1的加性成分，這是傳統(tǒng)循環(huán)單元所缺乏的。傳統(tǒng)的循環(huán)單元始終使用根據(jù)當(dāng)前輸入和先前的隱藏狀態(tài)計(jì)算出的新值來替換激活的數(shù)值或單元的內(nèi)容。

另一方面，GRU保留現(xiàn)有內(nèi)容并在其之上添加新內(nèi)容(見式(8))。這種加性具有兩個(gè)優(yōu)點(diǎn)：首先，很長一段時(shí)間，每個(gè)單元很容易記住輸入流中存在的特定特征，由GRU的更新門決定的任何重要功能都不會被覆蓋，而是保持原樣;第二，也更重要的是，這樣的操作只取本時(shí)刻和前一時(shí)刻的值就可將單元更新，使誤差容易反向傳播，而不會由于通過多個(gè)有界非線性單元而過快地消失，從而降低了由于梯度消失造成的困難[9-10]。

GRU神經(jīng)網(wǎng)絡(luò)在調(diào)制識別中面臨的問題在于其只考慮到信號的時(shí)序關(guān)系而沒有考慮到星座點(diǎn)的空間結(jié)構(gòu)。

1.3 CNN神經(jīng)網(wǎng)絡(luò)

基于CNN的AMR是近年來發(fā)展起來的一種新的調(diào)制分類算法[11-13]。一個(gè)簡單的CNN模型由輸入層、池化層、完全連接層和輸出層組成。卷積層主要用于提取輸入數(shù)據(jù)的特征，并在下一步進(jìn)行處理。池化層可以在一定程度上降低特征維數(shù)，避免過擬合。完全連接層在整個(gè)CNN模型中充當(dāng)分類器，它利用前幾層的結(jié)果對輸入數(shù)據(jù)進(jìn)行分類，實(shí)現(xiàn)CNN模型的功能。CNN中除輸入層外的每一層都需要一個(gè)合適的激活函數(shù)。本文中激活函數(shù)一律采用Mish：

f(x)=x×tanh(ln(1+ex)) 。

(13)

Mish上無邊界(即正值可以達(dá)到任何高度)的特點(diǎn)避免了由于封頂而導(dǎo)致的飽和，其理論上允許輕微負(fù)值梯度流的存在。同時(shí)，平滑的激活函數(shù)允許信息更好地深入神經(jīng)網(wǎng)絡(luò)，從而得到更高的識別準(zhǔn)確率和泛化能力。

CNN神經(jīng)網(wǎng)絡(luò)在調(diào)制識別中面臨的問題在于只考慮了星座點(diǎn)的空間結(jié)構(gòu)而沒有考慮到信號最主要的時(shí)序特點(diǎn)。

1.4 GRU-CNN并聯(lián)神經(jīng)網(wǎng)絡(luò)

不同的神經(jīng)網(wǎng)絡(luò)有著各自獨(dú)特的提取特征能力。CNN使用卷積核提取表示空間局部的特征，GRU更適合于處理時(shí)間序列數(shù)據(jù)。受文獻(xiàn)[5]、[8]和[14]啟發(fā)，結(jié)合GRU和CNN各自的優(yōu)勢，具體而言，CNN用于提取空間局部相關(guān)特征，而GRU用于提取時(shí)間特征，本文將GRU與CNN并聯(lián)，應(yīng)用于調(diào)制識別的研究中，如圖2所示。

圖2 GRU-CNN并聯(lián)網(wǎng)絡(luò)結(jié)構(gòu)

2 調(diào)制識別方法模型

2.1 信號的自相關(guān)預(yù)處理

在CNN網(wǎng)絡(luò)模型中，我們使用了基于序列自相關(guān)的方法進(jìn)行輸入信號預(yù)處理。

自相關(guān)描述的是一個(gè)信號在不同時(shí)刻的相似程度，所以是一個(gè)序列的前后樣值相關(guān)。對信號求其自相關(guān)序列，其局部也含有了整體的信息，這可以用來彌補(bǔ)以往認(rèn)知中的CNN感受野(Receptive Field)不足，只針對局部信息而不包含總體信息的問題。自相關(guān)函數(shù)的定義如下：

(14)

將式(4)代入式(14)中得

[I(n+m)+jQ(n+m)]=

j[I(n)Q(n+m)-Q(n)I(n+m)],

(15)

則自相關(guān)序列的實(shí)部和虛部分別為

I(n)I(n+m)+Q(n)Q(n+m)′，

(16)

I(n)Q(n+m)-Q(n)I(n+m)。

(17)

容易證明

(18)

(19)

由式(14)～(19)可以得出，經(jīng)過自相關(guān)函數(shù)，序列長度增加一倍，對于復(fù)數(shù)來說，其自相關(guān)函數(shù)是厄爾米特(Hermite)函數(shù)，即實(shí)部是偶對稱序列，虛部是奇對稱序列。所以IQ數(shù)據(jù)經(jīng)過自相關(guān)函數(shù)后得到的序列中有一半是重復(fù)的信息，在本文中我們只取后半段。

2.2 信號的極坐標(biāo)轉(zhuǎn)換預(yù)處理

將原始笛卡爾坐標(biāo)系下的IQ數(shù)據(jù)轉(zhuǎn)換到極坐標(biāo)下，作為GRU的輸入。極坐標(biāo)下的極徑和極角[5]分別為

(20)

(21)

式中：R(n)和P(n)分別代表調(diào)制信號的幅度和相位。轉(zhuǎn)換坐標(biāo)系的原因在于注意到時(shí)間記憶網(wǎng)絡(luò)的特點(diǎn)，其能夠在極坐標(biāo)下更敏銳地察覺到PSK和QAM信號關(guān)于相位和振幅的變化規(guī)律。

2.3 GRU-CNN并聯(lián)網(wǎng)絡(luò)結(jié)構(gòu)

網(wǎng)絡(luò)結(jié)構(gòu)見圖2，其中GRU的輸入為2×200的原始IQ數(shù)據(jù)轉(zhuǎn)換到極坐標(biāo)下的數(shù)據(jù)，極徑采用L2范數(shù)歸一化，極角歸一化到-1～1之間，采用的是兩層均為128 unit的GRU，后接一Dense層。輸入CNN的數(shù)據(jù)為IQ數(shù)據(jù)的自相關(guān)序列X′，格式為2×200的矩陣。采用兩層CNN，卷積核個(gè)數(shù)均為64，kernel size分別為2×7和1×7，步長都為4。兩個(gè)網(wǎng)絡(luò)的權(quán)值均采用Xavier初始化方法[15]，其保證了各層的激活值和狀態(tài)梯度的方差在傳播過程保持一致，使得信息在網(wǎng)絡(luò)中更好地流動(dòng)。

3 算法仿真及性能分析

3.1 仿真數(shù)據(jù)集及環(huán)境

待識別信號集包括BPSK、QPSK、8PSK、π/4-DQPSK、16QAM、32QAM、64QAM和128QAM，實(shí)驗(yàn)數(shù)據(jù)采集自一發(fā)一收的兩臺NI USRP-2930軟件無線電設(shè)備。如不作特殊說明，本文試驗(yàn)中的訓(xùn)練集為以上提到的8種調(diào)制信號，載頻915 MHz，成形濾波器采用滾降系數(shù)為0.35的根升余弦濾波器，碼速率500 ksymbol/s，IQ采樣率2 MHz，每種調(diào)制信號均含35 000個(gè)長度為200的樣本，信噪比為-10～20 dB范圍內(nèi)的隨機(jī)帶內(nèi)功率信噪比。測試信號集是與訓(xùn)練信號集相獨(dú)立采集的，每種調(diào)制信號在-10～20 dB、間隔為2 dB的每個(gè)信噪比下采集1 000個(gè)長度為200的樣本，碼速率為500 ksymbol/s。

3.2 評價(jià)指標(biāo)

識別準(zhǔn)確率(Pc)作為本文所提出方法分類識別性能的指標(biāo)，定義為

(22)

式中:Tc為正確識別樣本量,TA為總測試樣本量。

3.3 實(shí)驗(yàn)結(jié)果及分析

3.3.1 預(yù)處理對GRU-CNN并聯(lián)網(wǎng)絡(luò)識別性能的影響

圖3是有預(yù)處理和使用原始IQ數(shù)據(jù)的GRU-CNN并聯(lián)網(wǎng)絡(luò)識別率曲線，可以看出經(jīng)過本文采用的預(yù)處理方法，低信噪比下識別率有很高的提升，在-2 dB和0 dB時(shí)8種信號的統(tǒng)計(jì)平均識別率提升了25%以上。

圖3 GRU-CNN在原始IQ和預(yù)處理下的識別率

8種調(diào)制信號在不同信噪比下碼速率為500 ksymbol/s時(shí)的詳細(xì)的識別率如圖4所示。訓(xùn)練好的網(wǎng)絡(luò)具有一定的泛化能力，可以適應(yīng)碼速率為150 ksymbol/s、250 ksymbol/s、600 ksymbol/s的測試數(shù)據(jù)。測試結(jié)果表明，識別率與碼速率為500 ksymbol/s時(shí)相當(dāng)，限于篇幅，此處不再列出結(jié)果。

圖4 GRU-CNN并聯(lián)網(wǎng)絡(luò)識別率

3.3.2 GRU-CNN并聯(lián)網(wǎng)絡(luò)與單個(gè)網(wǎng)絡(luò)的識別性能對比

圖5給出了GRU-CNN并聯(lián)網(wǎng)絡(luò)與GRU、CNN網(wǎng)絡(luò)各自單獨(dú)應(yīng)用時(shí)的識別率曲線，三種網(wǎng)絡(luò)中的輸入數(shù)據(jù)都經(jīng)過了自相關(guān)或極坐標(biāo)轉(zhuǎn)換的預(yù)處理步驟。GRU用于提取時(shí)序特征，而CNN用于提取空間特征，并聯(lián)網(wǎng)絡(luò)結(jié)合兩個(gè)單獨(dú)網(wǎng)絡(luò)的優(yōu)勢，進(jìn)一步提高了統(tǒng)計(jì)平均識別率。

圖5 并聯(lián)網(wǎng)絡(luò)與單種網(wǎng)絡(luò)的識別率

3.3.3 不同算法性能分析對比

圖6是本文提出的GRU-CNN并聯(lián)網(wǎng)絡(luò)與文獻(xiàn)[5]采用的LSTM和文獻(xiàn)[8]采用的CNN-LSTM并聯(lián)網(wǎng)絡(luò)的平均識別率對比。本文提出方法測試所用信號集大于文獻(xiàn)[5]采用的，總體上仍有一定提高。而文獻(xiàn)[8]使用仿真信號，將其所提方法應(yīng)用于本文所用數(shù)據(jù)集時(shí)識別效果不佳。

圖6 GRU-CNN并聯(lián)網(wǎng)絡(luò)識別率

表1列出了不同算法所需的訓(xùn)練時(shí)間。

表1 算法所需訓(xùn)練時(shí)間

結(jié)合圖5、圖6和表1可知，本文提出的GRU-CNN并聯(lián)網(wǎng)絡(luò)訓(xùn)練時(shí)間遠(yuǎn)低于文獻(xiàn)[5]和文獻(xiàn)[8]算法。與經(jīng)過預(yù)處理步驟的CNN對比，相對于其他算法，本文算法總體上只增加了少量訓(xùn)練時(shí)間。

4 結(jié) 論

針對非合作通信中低信噪比下的信號調(diào)制類型難以識別的問題，本文提出了一種基于GRU-CNN并聯(lián)神經(jīng)網(wǎng)絡(luò)的調(diào)制識別方法。實(shí)驗(yàn)結(jié)果一方面驗(yàn)證了預(yù)處理的有效性，另一方面驗(yàn)證了并聯(lián)網(wǎng)絡(luò)對識別率進(jìn)一步提高的可能性。算法經(jīng)過了實(shí)測數(shù)據(jù)驗(yàn)證，具有實(shí)際應(yīng)用價(jià)值。