基于深度卷積神經(jīng)網(wǎng)絡(luò)的數(shù)字調(diào)制方式識別

，，

(中國空間技術(shù)研究院 載人航天總體部，北京 100094)

0 引言

調(diào)制方式識別是指在未知調(diào)制信息內(nèi)容的情況下對給定接收信號的調(diào)制方式進(jìn)行判斷的一種技術(shù)，在無線電信號監(jiān)測、電子對抗、智能通信等領(lǐng)域有著廣泛的應(yīng)用。真實環(huán)境下，由于非協(xié)作通信以及背景噪聲的干擾，會使接收信號的某些特征產(chǎn)生模糊，從而影響識別結(jié)果，怎樣在低信噪比情況下獲得更高的調(diào)制方式識別正確率是一項重要的研究課題。星座圖是數(shù)字調(diào)制信號分析的常用方法，其形狀反映了調(diào)制信號幅值和相位的分布情況，由于任何一種數(shù)字幅相調(diào)制信號都可以用星座圖唯一表示，因此可以利用星座圖將調(diào)制方式識別問題轉(zhuǎn)換為模式識別問題，避免了復(fù)雜的信號處理過程。Mobasseri[1]等最先提出了利用信號星座圖形狀來進(jìn)行調(diào)制方式識別。當(dāng)前大多數(shù)基于星座圖的調(diào)制方式識別研究都是利用聚類算法對星座圖進(jìn)行恢復(fù)，再基于最大似然準(zhǔn)則進(jìn)行分類判別[2-3]。星座圖恢復(fù)中的常用算法有模糊C-均值(Fuzzy C-Means，F(xiàn)CM)聚類算法[4]和減法聚類方法[5]等，其中模糊C-均值聚類算法需要預(yù)先給定聚類數(shù)目，這在實際中是不可能預(yù)先得到的，減法聚類方法在高階QAM調(diào)制時難以達(dá)到理想的效果，最大似然準(zhǔn)則在信噪比低的情況下分類判別的準(zhǔn)確度也大大降低。

隨著人工智能技術(shù)的發(fā)展和硬件平臺計算能力的提升，神經(jīng)網(wǎng)絡(luò)迎來了新的發(fā)展階段，特別是2006年Hinton[6]等提出了逐層貪婪預(yù)訓(xùn)練的方法來高效訓(xùn)練神經(jīng)網(wǎng)絡(luò)，有效地解決了一直以來多層深度網(wǎng)絡(luò)難以訓(xùn)練的問題。當(dāng)前深度學(xué)習(xí)已廣泛應(yīng)用在各個行業(yè)，其中卷積神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的特征提取能力，其分類模型在模式識別領(lǐng)域取得了很好的效果[7-9]，在通信領(lǐng)域也逐漸受到重視，陳敏華等[10]對卷積神經(jīng)網(wǎng)絡(luò)在信道均衡中的應(yīng)用開展了深入研究，歐陽星辰等[11]提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的解調(diào)器，來解調(diào)擴(kuò)展的二進(jìn)制相移鍵控調(diào)制信號，消除碼間干擾。本文引入卷積神經(jīng)網(wǎng)絡(luò)用于解決信號調(diào)制方式識別問題，利用經(jīng)過訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò)模型，同時實現(xiàn)特征提取和分類功能，可直接對星座圖進(jìn)行分類識別，簡化了處理流程，避免了需要根據(jù)不同星座圖特征設(shè)計聚類算法的缺點，并具有相位偏移不敏感性和良好的抗噪聲性能。

本文首先分析了幅相數(shù)字調(diào)制信號模型，根據(jù)信號模型列出了影響星座圖生成的各種因素，給出基于星座圖進(jìn)行調(diào)制方式識別的基本步驟，然后提出一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的星座圖分類方法，并詳細(xì)描述了網(wǎng)絡(luò)結(jié)構(gòu)和模型訓(xùn)練方法，最后利用Matlab產(chǎn)生不同信噪比下的3中典型M-QAM調(diào)制信號星座圖進(jìn)行仿真和卷積神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練，并對識別結(jié)果進(jìn)行分析。

1 信號模型

幅相數(shù)字調(diào)制發(fā)射端信號可表示為：

(1)

其中:Tb為符號周期，Rn和θn分別為第n個符號的幅度和相位，fc和φc分別為載波頻率和初始相位，g(t)為基帶脈沖，θn∈{2πi/M,i=0,1,...,M-1}，M為相位數(shù)。

調(diào)制信號通過加性高斯白噪聲(AWGN)信道后，接收端對信號進(jìn)行正交采樣得到采樣信號，此時接收信號可表示為：

exp[j(2π(fc+Δfc)kTs+θn+Δφc)]+w(kTs)

(2)

其中:Ts為采樣周期，εTb為采樣定時誤差，-0.5≤ε≤0.5，Δfc和Δφc分別為載波頻偏和相偏，w(kTs)為加性高斯白噪聲。

由公式(2)可知，為了獲得接收信號星座圖，首先需要確定載波頻率和符號周期。對于非協(xié)作通信系統(tǒng)，由于存在采樣定時誤差，導(dǎo)致碼間干擾，使得星座圖產(chǎn)生擴(kuò)散難以識別，因此需要對定時誤差進(jìn)行估計，獲得最佳采樣時刻。此外，接收端恢復(fù)出的載波與發(fā)射端載波往往存在一定的頻率偏移和相位偏移，載波頻偏和相偏也對星座圖的形狀存在影響。當(dāng)存在載波頻偏時，k和k+1時刻接收序列的絕對相位分別為：

ψk=2πΔfckTs+θk+φ

(3)

ψk+1=2πΔfc(k+1)Ts+θk+1+φ

(4)

由公式(3)和公式(4)可知，相鄰時刻采樣點除了正常的符號相位變化外，還存在一個相位偏移2πΔfcTs，相位偏移隨采樣點累加導(dǎo)致星座圖呈現(xiàn)環(huán)狀，影響星座圖識別。當(dāng)存在載波相偏時，固定相位偏移Δφc將使得星座圖整體旋轉(zhuǎn)一個角度。通信信號通過信道傳輸，還會引入噪聲，加性高斯白噪聲將導(dǎo)致星座圖擴(kuò)散，信噪比低于一定程度時將導(dǎo)致星座圖無法識別。

2 信號預(yù)處理

為了利用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行調(diào)制方式識別，需要先獲得星座圖。對于非協(xié)作通信系統(tǒng)，公式(2)中的參數(shù)均未知，為了在接收端生成星座圖，需要先進(jìn)行信號預(yù)處理，獲得未知的調(diào)制參數(shù)，包括載波頻率、符號速率和帶寬等，并消除定時誤差和載波頻率偏移對星座圖的影響，提高星座圖識別正確率。根據(jù)幅相調(diào)制信號模型以及卷積神經(jīng)網(wǎng)絡(luò)分類的特性，設(shè)計基于星座圖的調(diào)制方式識別預(yù)處理流程如圖1所示。

圖1 信號預(yù)處理流程

步驟1:對接收信號進(jìn)行A/D采樣，通過快速傅里葉變換(FFT)將信號從時域變換到頻域，在頻域?qū)Σ蓸有盘栠M(jìn)行載波頻率估計及帶寬估計；

步驟2:按照估計得到的載波頻率和帶寬，對信號進(jìn)行下變頻處理，得到基帶信號并進(jìn)行匹配濾波；

步驟3:按照載波速率類似的方法進(jìn)行符號速率估計，并重新調(diào)整采樣速率為符號速率的整數(shù)倍，得到重采樣信號；

步驟4:進(jìn)行定時誤差估計，并按符號速率對重采樣信號進(jìn)行抽樣，根據(jù)定時誤差，獲得最佳抽樣時刻，消除定時誤差；

步驟5:進(jìn)行載波頻率偏移校正，消除載波頻偏對星座圖的影響；

步驟6:對信號預(yù)處理后得到的星座圖送入卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行分類識別。

載波頻率估計時，對采樣后的信號進(jìn)行四次方運算，然后作快速傅里葉變換(FFT)得到其四次方譜，由于四次方譜中含有4倍載波頻率的譜線，在頻譜中搜索幅度最大值，其對應(yīng)頻率的四分之一即為載波頻率。由于信號包絡(luò)的平方譜中含有符號速率的譜線分量，可以按照載波頻率類似的方法進(jìn)行符號速率估計。

帶寬估計用來對信號進(jìn)行帶通濾波，因此對帶寬的精度可以適當(dāng)放寬要求，可以直接在FFT變換后的頻譜中粗略估計得到。

為了獲得基帶數(shù)據(jù)的最佳采樣時刻，防止星座圖擴(kuò)散，需要對定時誤差進(jìn)行估計。可以通過包絡(luò)平方算法獲得定時誤差的估計值，如公式(5)所示，其中N為采樣點數(shù)，fb為符號速率。

(5)

為了防止載波頻率偏移導(dǎo)致采樣點在星座圖上的角度旋轉(zhuǎn)累加，影響調(diào)制方式識別正確率，需要對載波頻率偏移進(jìn)行校正。在實際使用中，可以通過相位差分的方法進(jìn)行校正。對每一個采樣點根據(jù)公式(3)和公式(4)進(jìn)行差分運算，重新構(gòu)建接收信號序列r(k)=R(k)exp(2πΔfcTs)，重構(gòu)后的序列相鄰采樣點相位變化固定，消除了載波頻率偏移對星座圖的影響。

3 分類識別

3.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)(Convolution Neural Network，CNN)是一種帶有前向反饋的多層神經(jīng)網(wǎng)絡(luò)，屬于深度學(xué)習(xí)框架的一種，能夠通過多層非線性變換，從數(shù)據(jù)中自動學(xué)習(xí)提取特征，具有很強(qiáng)的學(xué)習(xí)能力和表達(dá)能力，并降低了數(shù)據(jù)預(yù)處理的要求，非常適合用于模式識別領(lǐng)域。卷積神經(jīng)網(wǎng)絡(luò)一般由卷積層、下采樣層、全連接層等組成。

卷積層使用卷積核對輸入數(shù)據(jù)進(jìn)行濾波后輸出特征圖，特征圖的每個神經(jīng)元與前一層的局部感受野相連，獲得前一層的局部連接特征。卷積核是一個權(quán)值矩陣，多個卷積核可以提取多個不同的特征。卷積神經(jīng)網(wǎng)絡(luò)具有局部連接、權(quán)值共享的特點，可以極大地減少網(wǎng)絡(luò)的訓(xùn)練參數(shù)，簡化神經(jīng)網(wǎng)絡(luò)。

下采樣層也稱為池化層，實現(xiàn)對輸入的采樣，可縮減數(shù)據(jù)規(guī)模，避免過擬合，并保證新的特征層表示不敏感于前一層元素在位置和表現(xiàn)上的變化，對平移、縮放、傾斜或其他形式的變形具有高度不變性，特別適用于本文中因載波相位偏移等導(dǎo)致星座圖形變的場景。采樣方式一般有最大值采樣、平均值采樣和隨機(jī)采樣等。

最后一個下采樣層或卷積層連到一個或多個全連接層，全連接層的每個神經(jīng)元與上一層的每個神經(jīng)元相連，全連接層在整個卷積神經(jīng)網(wǎng)絡(luò)中起到分類器的作用，將學(xué)到的特征映射到樣本標(biāo)記空間。

1)若第l層為卷積層，則第j個特征圖為：

(6)

2)若第l層為下采樣層，則第j個特征圖為：

(7)

3)若第l層為全連接層，則輸出特征圖為：

(8)

其中:v為l-1層的下采樣層或卷積層的特征圖轉(zhuǎn)換成的向量或全連接層輸出的向量；βl為權(quán)值，bl為偏置量。

網(wǎng)絡(luò)中的卷積層和全連接層的權(quán)值和偏置量等參數(shù)需要通過訓(xùn)練來確定，通過反向傳播算法，不斷迭代更新網(wǎng)絡(luò)參數(shù)，使得損失函數(shù)收斂于全局最小值。訓(xùn)練時使用梯度下降法更新參數(shù)：

(9)

3.2 VGG-19網(wǎng)絡(luò)模型

一般網(wǎng)絡(luò)結(jié)構(gòu)越深，提取特征的能力越強(qiáng)，且在時間復(fù)雜度大致相同時，網(wǎng)絡(luò)深度比卷積核大小更重要。VGG網(wǎng)絡(luò)是一種在LeNet以及AlexNet的基礎(chǔ)上提出來的卷積神經(jīng)網(wǎng)絡(luò)，選用小型卷積核串聯(lián)卷積層來構(gòu)建更深的網(wǎng)絡(luò)結(jié)構(gòu)，以此提升網(wǎng)絡(luò)性能。和大卷積核相比，VGG網(wǎng)絡(luò)擁有同樣的感受野，卻有著更少的參數(shù)，更強(qiáng)的非線性能力，因此有著更強(qiáng)的特征提取能力。此外，VGG網(wǎng)絡(luò)只需要很少的迭代次數(shù)就能收斂。

本文使用VGG-19網(wǎng)絡(luò)進(jìn)行星座圖識別，其結(jié)構(gòu)如圖2所示，包含16個卷積層(conv)，5個下采樣層(maxpool)和3個全連接層(FC)。卷積層均使用33的卷積核。下采樣層使用最大值采樣，窗口大小為22，步長固定為2。為了防止梯度消失現(xiàn)象，非線性激活函數(shù)使用ReLU，與Sigmoid和Tanh等傳統(tǒng)非線性激活函數(shù)相比，ReLU具有更快的收斂速度，且只需要一個閾值就可以得到激活值，避免了復(fù)雜的運算。最后一個全連接層的結(jié)果送到一個輸出層，采用Softmax邏輯回歸進(jìn)行分類。同時輸出層定義一個損失函數(shù)來訓(xùn)練整個網(wǎng)絡(luò)模型，損失函數(shù)用于衡量在訓(xùn)練集上訓(xùn)練結(jié)果的好壞程度。損失函數(shù)通過前向傳播計算，同時也是反向傳播的起點。VGG-19網(wǎng)絡(luò)的損失函數(shù)使用Softmax計算交叉熵得到。此外為了防止過擬合，在訓(xùn)練時，使用Dropout技術(shù)讓每個神經(jīng)元以p=0.5的概率隨機(jī)保持其原來的狀態(tài)(激活或者抑制)，當(dāng)神經(jīng)元被抑制時，這些節(jié)點不參加前向傳播，也不參加反向傳播，降低了神經(jīng)元之間相互適應(yīng)的復(fù)雜性，使學(xué)習(xí)得到的特征更具魯棒性。

圖2 VGG-19網(wǎng)絡(luò)結(jié)構(gòu)

4 仿真結(jié)果與分析

4.1 數(shù)據(jù)集準(zhǔn)備

為了獲得卷積神經(jīng)網(wǎng)絡(luò)模型，需要大量訓(xùn)練樣本進(jìn)行有監(jiān)督的訓(xùn)練，為了驗證網(wǎng)絡(luò)模型的準(zhǔn)確性，需要用測試樣本進(jìn)行測試驗證。星座圖識別模型中，訓(xùn)練樣本和測試樣本為不同調(diào)制方式不同信噪比環(huán)境下經(jīng)過標(biāo)注的星座圖。本文利用Matlab生成隨機(jī)二進(jìn)制序列，進(jìn)行3中典型的幅相數(shù)字方式調(diào)制：4 QAM、16 QAM和64 QAM，并將信號疊加加性高斯白噪聲，模擬信號預(yù)處理后的星座圖，得到訓(xùn)練集和測試集。生成的歸一化后的星座圖如圖3中(a)、(b)、(C)所示。仿真時模擬了各種噪聲環(huán)境下的信號，選擇信噪比的變化范圍為2～20 dB，每1 dB步進(jìn)生成100個星座圖，每種調(diào)制方式共1900個星座圖作為訓(xùn)練集，并通過旋轉(zhuǎn)、縮放、平移等方式增廣訓(xùn)練集，其中模擬相偏下的星座圖如圖4所示。在各個調(diào)制方式的訓(xùn)練集中每1 dB步進(jìn)選擇50個星座圖作為測試集。

圖3 星座圖仿真，信噪比為10

圖4 存在相位偏移的16QAM星座圖

4.2 模型訓(xùn)練與識別

卷積神經(jīng)網(wǎng)絡(luò)的具體實現(xiàn)上，本文使用Caffe來構(gòu)建VGG-19網(wǎng)絡(luò)。Caffe是一種C++編寫的深度學(xué)習(xí)框架，具有簡單、高效、開源等優(yōu)點和較強(qiáng)的可擴(kuò)展性及可移植性，支持CPU和GPU運算，支持Matlab和Python接口。Caffe提供了一個完整的工具包，用于訓(xùn)練、測試、微調(diào)和部署模型，允許用戶對新的數(shù)據(jù)格式、網(wǎng)絡(luò)層和損失函數(shù)進(jìn)行拓展。VGG-19網(wǎng)絡(luò)的具體結(jié)構(gòu)在Caffe中的prototxt文件中定義。

使用準(zhǔn)備好的星座圖訓(xùn)練集對VGG-19網(wǎng)絡(luò)進(jìn)行訓(xùn)練，初始學(xué)習(xí)率α設(shè)為0.01，梯度下降優(yōu)化算法選用RMSprop，訓(xùn)練結(jié)果如圖5所示，可以看到隨著訓(xùn)練次數(shù)的增加，訓(xùn)練損失快速下降，正確率迅速上升，經(jīng)過約20次訓(xùn)練迭代，可以實現(xiàn)訓(xùn)練曲線的收斂。

圖5 網(wǎng)絡(luò)模型訓(xùn)練曲線

對訓(xùn)練好的VGG-19網(wǎng)絡(luò)模型使用測試集進(jìn)行驗證，不同信噪比下調(diào)制信號分類識別的結(jié)果如圖6所示。

圖6 不同信噪比下的識別正確率

分析識別結(jié)果可以發(fā)現(xiàn)：同等低信噪比條件下，隨著QAM調(diào)制階數(shù)的增加，識別準(zhǔn)確率下將。隨著信噪比的升高，3中調(diào)制方式的識別正確率均顯著提高。在信噪比大于4的情況下，3中調(diào)制方式的識別正確率都在95%以上，且對于存在載波相位偏移的接收信號星座圖，依然具有很高的分類識別正確率。

5 結(jié)束語

本文研究了基于星座圖的幅相調(diào)制方式識別方法，給出了在信號接收端生成星座圖的基本處理流程，根據(jù)調(diào)制方式與星座圖一一對應(yīng)的關(guān)系，將調(diào)制方式識別問題轉(zhuǎn)換成星座圖模式匹配問題。通過信號模型分析了影響星座圖識別準(zhǔn)確度的主要因素和處理方法，并利用卷積神經(jīng)網(wǎng)絡(luò)的特性，將VGG-19深度卷積神經(jīng)網(wǎng)絡(luò)用于星座圖識別，并給出了VGG-19網(wǎng)絡(luò)模型和訓(xùn)練方法。卷積神經(jīng)網(wǎng)絡(luò)通過訓(xùn)練可以自動學(xué)習(xí)各種調(diào)制方式下的星座圖特征，避免了在低信噪比環(huán)境下人工分析和提取特征的復(fù)雜性，此外，由于卷積神經(jīng)網(wǎng)絡(luò)對平移、縮放、傾斜或其他形式的變形具有高度不敏感性，簡化了信號預(yù)處理中對載波相位偏移的處理過程。通過仿真實驗，證明了基于深度卷積神經(jīng)網(wǎng)絡(luò)的數(shù)字調(diào)制識別方法的有效性。