基于雙階段網絡策略對信號的分類

摘要：本文對神經網絡在調制識別算法中的應用進行了深入研究。首先，對現(xiàn)有的調制識別方法進行了全面梳理，分析了基于特征提取和基于神經網絡的調制識別算法的優(yōu)缺點。在此基礎上，本文提出了一種改進的神經網絡調制識別算法，以提高識別性能和適應性。在研究過程中，發(fā)現(xiàn)基于殘差網絡的調制識別算法的識別精準度在高速信噪比和低采樣率的情況下表現(xiàn)很差。為解決這一問題，本文提出了一種雙階段神經網絡調制識別算法，該算法充分利用了神經網絡在特征提取和分類方面的優(yōu)勢，實現(xiàn)了對不同調制方式的高效識別。通過對比實驗，驗證了本文所提出的雙階段神經網絡調制識別算法的有效性。實驗結果表明，與傳統(tǒng)的基于特征提取的調制識別算法和單一神經網絡調制識別算法相比，本文所提出的雙階段神經網絡調制識別算法在識別性能和適應性方面均表現(xiàn)出較大的優(yōu)勢。

關鍵詞：神經網絡；調制識別；預處理；殘差網絡

一、引言

隨著5G技術、衛(wèi)星物聯(lián)網技術的研究與發(fā)展，以及無人機和軟件無線電設備的商業(yè)化應用，越來越多的商業(yè)、個人無線電設備接入無線網絡。為了保證這些頻譜資源不被亂用，需要對接入某段頻譜的無線電設備進行監(jiān)測，進而判斷其是否為合法接入設備。因此，對數(shù)字頻譜監(jiān)測系統(tǒng)的關鍵技術研究具有十分重要的意義。然而，當前的主流頻譜監(jiān)測系統(tǒng)只能針對一套預定義的調制方式組合進行調制識別，當增加新的調制識別方式時，無法快速適應新的組合。再加上頻譜監(jiān)測系統(tǒng)的軟件架構設計和軟件部署相對復雜，影響系統(tǒng)的可擴展性。為此，本文設計了一套數(shù)字頻譜監(jiān)測系統(tǒng)，對基于神經網絡的調制識別算法進行了重點研究，并設計了數(shù)字頻譜監(jiān)測系統(tǒng)的總體架構，實現(xiàn)了多種參數(shù)估計的功能模塊，同時優(yōu)化了系統(tǒng)的軟件部署工作。

二、基于殘差網絡的調制識別算法的網絡設計

殘差網絡（ResNet）的核心是表示殘差學習的殘差塊。根據殘差塊和網絡層數(shù)的不同，目前存在的殘差網絡有18層、34層、50層、101層等。本文僅選取18層、34層、50層、101層做分析對比。根據其模塊類型，可以將這四種殘差網絡分為兩類。其中，第一類主要是基于基礎模塊?；A模塊主要由兩個連續(xù)的卷積層構成，即conv3x3 - conv3x3以及激活函數(shù)（ReLU）構成。淺層網絡ResNet18、ResNet34都在基礎模塊的基礎上搭建而成。另外一種是基于瓶頸模塊，主要由一個兩個升維降維卷積圍繞，即conv1x1-conv3x3-conv1x1和ReLU構成。深層網絡ResNet50、ResNet101都是由瓶頸模塊搭建而成。每一層都是由若干個模塊搭建而成，然后再由每層來組成整個網絡。對于ResNet來說，其共同點在于拋開初始前兩層和最后的池化層，全連接層，均由四層組成，稱為四個主要層。

因為殘差神經網絡的殘差學習模塊解決了深度神經網絡中隨著網絡深度的增加而導致的網絡退化問題，所以在ResNet中增加層數(shù)后，性能有了一定的提升。且其提升主要集中在-5dB到5dB之間，因此，后續(xù)使用ResNet網絡層均為101層，下文不再詳細說明。

根據上文介紹不難發(fā)現(xiàn)，不論何種類型的殘差網絡，始終存在類型為conv3x3的卷積層。網絡寬度主要依賴k，網絡深度則主要依賴N。根據卷積網絡（CNN）基本理論可知，一共有三種方法增強卷積層的能力，分別是改變卷積核的大小、增加卷積核的維度，以及增加卷積核的數(shù)目。根據文獻可知，卷積核大小3x3是十分有效的參數(shù)，故后續(xù)不再詳細討論。

三、神經網絡超參數(shù)設計

（一）基帶信號符號序列長度對識別率的影響

訓練集主要涉及11種調制方式，16種信噪比。對于每種信噪比，需要生成8000個樣本，用來保證訓練數(shù)據的充足性。每種信噪比下，每種調制方式下的無線信號共分為IQ兩路數(shù)據，每路數(shù)據均需要生成符號序列長度分別為16、128、512、1024個符號分別進行仿真。

使用的訓練集符號序列長度越長，神經網絡的識別性能越好。當訓練集符號序列長度沒有達到一定數(shù)量，神經網絡的識別性能非常差，這是因為無線信道本身按照概率分布，當訓練集的符號序列長度嚴重不足時，即使在高信噪比的情況下，也依然無法訓練好神經網絡，從而無法得到較好的性能。當訓練集的符號序列長度達到一定數(shù)量之后，即使再增加符號序列長度，也依然無法顯著提高網絡性能。

（二）不同采樣點數(shù)對識別率的影響

對于生成的數(shù)據集來說，數(shù)字調制方式的根升余弦濾波器滾降系數(shù)為0.35。每秒采樣次數(shù)（Sample Per Second， SPS）分別設置為4、8、16、32。因為只有部分數(shù)字調制方式受到此參數(shù)的影響，僅僅選取數(shù)據集為BPSK、QPSK、8PSK、PAM4、QAM16、QAM64、CPFSK等七種調制方式，因此，這里的數(shù)據集和其他實驗不一致。然后對其進行128、512、1024采樣點的訓練。

在采樣點數(shù)一定的情況下，通過增加訓練數(shù)據集的sps點數(shù)，可以給神經網絡提供信號更多的維度，從而更好地提取特征，進而帶來識別率的提升。而當SPS點數(shù)已經足夠時，在高信噪比情況下，提升SPS點數(shù)對識別率的影響很小。在低信噪比下，仍然有一定的提升空間。當SPS較小時，即使提升采樣點數(shù)，也無法帶來識別率的提升。相較于提高SPS點數(shù)與提高采樣點數(shù)而言，在內存空間受限的情況下，提升SPS點數(shù)將帶來更高的識別提升。相比較而言，SPS點數(shù)設置為16基本足夠。

（三）數(shù)據集降維對識別率的影響

提升采樣點數(shù)與sps點數(shù)固然會帶來識別率的提升，但也不能設置過大，否則會導致網絡訓練速度變慢，同時系統(tǒng)會需要更多的內存，從而導致整個工程方案造價變貴。因此，本實驗通過主元分析（Principal Component Analysis，PCA）來對數(shù)據集進行降維，從而探究數(shù)據集降維對識別率的影響。本文的研究將數(shù)據集sps點數(shù)設置為16，將采樣點數(shù)設置為1024。

PCA降維雖然保留了特征值最大的部分，但其效果并不好，原因是對于調制信號來說，雖然保留了信號時域上的特征值，但是到了頻域效果會很差。下面直接采用降采樣的方法來降維。通過采樣定律可知，分別做2、4、8點的降采樣。在無線信號降采樣后，雖然會影響識別率，但相較于PCA來說，對其做一定程度降采樣后不會嚴重影響識別率。

通過本節(jié)的三個實驗可知：當無線信號的采樣點數(shù)過小時，識別性能很差。在一定程度上提高采樣點數(shù)有助于提高識別率。同理，sps越大，表示每個符號的樣本點越多，在一定程度上提高sps點數(shù)有助于提高識別率。神經網絡的訓練速度過長常常令人詬病，本節(jié)通過對數(shù)據做PCA和降采樣分別對數(shù)據降維，得出結論：使用降采樣方法降維，識別性能更好。

（四）仿真實驗與結果分析

在對殘差神經網絡的一些超參數(shù)設置完畢之后，對基于殘差神經網絡的調制識別結果進行詳細且具體的分析?？梢杂^察到，在低信噪比情況下，殘差神經網絡的識別結果僅僅對某幾種調制方式有較好的識別結果。在處理8PSK、AM-DSB、AM-SSB、QAM16、QAM64、WBFM、QPSK等幾種信號時，其性能均較差。在信噪比足夠高時，本節(jié)選取10dB結果?？梢杂^察到，明顯存在8PSK和QPSK，QAM16和QAM64，AM-DSB和WBFM信號對中三對信號之間的識別性能較差，很容易產生混淆，可能是神經網絡對這三種信號提取的特征不夠好，以至于無法完全區(qū)分這三對信號。

隨著網絡訓練次數(shù)的增加，殘差神經網絡在訓練集和驗證集上的損失值在不斷降低。在訓練集上，隨著損失值的不斷下降，殘差神經網絡并沒有發(fā)生過擬合現(xiàn)象。在驗證集上，當損失值下降到一定程度時，殘差神經網絡自動進行退火處理。

（五）改進的基于ResNet的調制識別算法

受到決策樹思路的啟發(fā)與影響，本研究設計了一種雙階段網絡的調制識別算法。該算法主要基于以下思想：由于本章選用的是殘差神經網絡，筆者觀察到，殘差神經網絡在識別8PSK和QPSK，QAM16和QAM64，AM-DSB和WBFM這三種信號對時存在混淆，識別性能較差。這表明在殘差神經網絡提取的特征中，這些信號對存在相似的特征。因此，筆者嘗試從神經網絡的視角出發(fā)，對這些信號進行粗分類。

具體而言，筆者將8PSK和QPSK信號看作一種調制方式，將QAM16和QAM64看作一種調制方式，將AM-DSB和WBFM看作一種調制方式。這樣，原始數(shù)據集中的標簽由11種調制方式簡化成為8種調制方式。在第一階段，使用殘差神經網絡對這8種調制方式進行粗分類。經過第一階段的分類后，可以得到相對準確的粗分類結果。

在第二階段，針對第一階段得到的粗分類結果，對每一類信號進行細分。例如，針對8PSK和QPSK的混合類別，可以設計一個專門針對這兩種調制方式的子網絡進行識別。同樣地，也可以為QAM16和QAM64，AM-DSB和WBFM這兩類信號分別設計子網絡。這樣，在第二階段，可以進一步提高信號調制識別的準確性。

通過這種雙階段網絡的調制識別算法，可以在保持較高識別準確性的同時，降低網絡的復雜度和計算量。同時，這種方法還具有較好的擴展性，可以根據實際應用場景中信號類型的變化靈活調整網絡結構，以適應不同的信號調制識別任務。如圖 1所示：

圖1 雙階段神經網絡

當數(shù)據集經過第一階網絡時，整個數(shù)據集被劃分成了8種調制方式。對于諸如BPSK、CPFSK等其余5種調制方式來說，已經被識別完畢。對于諸如8PSK和QPSK等組合信號來說，則需要經過第二階神經網絡進行識別。因此，需要額外訓練3種深度神經網絡分別完成不同的區(qū)分任務。網絡1用來區(qū)分8PSK和QPSK的組合，網絡2用來區(qū)分AM-DSB和WBFM的組合，網絡3用來區(qū)分QAM16和QAM64的組合。其具體的網絡劃分，以及如何將那些調制方式歸為一類，則主要依賴第一階神經網絡的混淆矩陣。由于數(shù)據集的復雜程度降低，第二階神經網絡不需要設計諸如第一階如此復雜且深度較高的神經網絡。經過對第一階段神經網絡的調整與簡化，對更加簡單的第二階段數(shù)據集設計了第二階段神經網絡。其大致結構類似18層的ResNet，但是少了一層Residual Stack，且卷積核的數(shù)目不同，均為32。Residual Stack均采用基礎模塊的設計。

經過改進的雙階段網絡法，不同于傳統(tǒng)方法在高信噪比下對信號的識別率能高達近99%。原因在于，為了保證該算法的通用性，本文并沒有專門設計對應的特征和對應的網絡來區(qū)分這幾種信號對，而是統(tǒng)一采用一種自己設計的簡化版本的殘差神經網絡。導致在識別率上表現(xiàn)較差，但其在網絡的訓練速度和針對信號集的通用性上有了更好的表現(xiàn)。當面對新的數(shù)據集，即數(shù)據集的調制方式發(fā)生變化時，仍然可以套用本方法即可得到不錯的性能表現(xiàn)，如果希望追求更為優(yōu)異的性能，則需要針對不同的數(shù)據集對神經網絡進行更多的調優(yōu)。

（六）實際算法部署的實現(xiàn)

本文研究了通過殘差神經網絡學習訓練數(shù)據并訓練出高效識別信號調制模式的模型。然而，大部分從事無線通信的技術人員雖然擁有豐富的數(shù)學基礎和通信知識，但在軟件工程方面的實際經驗卻相對較少。由于缺乏對操作系統(tǒng)和GPU的開發(fā)經驗，以及編譯器等相關知識，導致在軟件部署方面容易出現(xiàn)問題，使得算法只能停留在仿真階段，無法進行實際驗證。

為解決這一問題，本文提出了利用虛擬化技術，特別是容器技術的解決方案，可為算法的應用提供一個輕量的環(huán)境。這個環(huán)境只裝有深度學習算法所需的程序庫，可以保證容器內的任何進程的內存安全，隔離了除本容器外的其他任何進程或資源。同時實現(xiàn)了一份鏡像在不同版本操作系統(tǒng)的服務器下運行，能夠極大降低部署難度。

四、結束語

本文主要研究了不同神經網絡超參數(shù)對信號調制識別性能的影響。通過在不同條件下對比不同參數(shù)組合，探究了超參數(shù)和調制識別率之間的關系。為了提高識別性能，本文將決策樹算法與殘差神經網絡算法相結合，以針對不同調制識別模式的信號，確保算法具有較高的識別率。為了進一步提高算法的實用性，本文還提到了利用虛擬化技術進行部署的解決方案。這種方法可以減少對特定操作系統(tǒng)的依賴，降低部署難度，提高軟件的通用性和可移植性。通過虛擬化技術，可以輕松地在不同的硬件和軟件環(huán)境中部署深度學習算法，進而促進其在實際無線通信系統(tǒng)中的應用。

作者單位：賈曼鑫 騰訊云計算（西安）有限責任公司

參考文獻

[1] Simonyan K， Zisserman A . Very Deep Convolutional Networks for Large-Scale Image Recognition [J].Computer Science， 2014.

[2] Szegedy C ， Ioffe S ， Vanhoucke V ，et al.Inception-v4， Inception-ResNet and the Impact of Residual Connections on Learning.2016[2024-10-15].

[3] 蔣道福.衛(wèi)星信號監(jiān)測系統(tǒng)關鍵技術研究與實現(xiàn)[D].西安電子科技大學， 2020.

[4] A. Wang and R. Li. Research on Digital Signal Recognition Based on Higher Order Cumulants[C]// 2019 International Conference on Intelligent Transportation， Big Data amp; Smart City （ICITBS）， Changsha， China， 2019， pp. 586-588.