基于深度學(xué)習(xí)的無(wú)線電特征提取

何學(xué)智 林林 黃自力 解金豹

摘要：文章針對(duì)現(xiàn)實(shí)環(huán)境下無(wú)線電通信環(huán)境復(fù)雜，通信方式復(fù)雜多變，且人工提取無(wú)線電特征工作量巨大又存在不穩(wěn)定因素，提出基于神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的無(wú)線電特征提取方法。用深度卷積神經(jīng)網(wǎng)絡(luò)代替?zhèn)鹘y(tǒng)的特征提取算法對(duì)無(wú)線電時(shí)域信號(hào)進(jìn)行編碼學(xué)習(xí)；然后通過(guò)深度學(xué)習(xí)特征矢量的相似度，實(shí)現(xiàn)同類調(diào)制信號(hào)相同特征的自動(dòng)匹配；最后，利用訓(xùn)練數(shù)據(jù)的類別標(biāo)簽信息自上而下對(duì)無(wú)線電特征進(jìn)行微調(diào)，得到無(wú)線電深度學(xué)習(xí)表示向量以此訓(xùn)練全連接分類器實(shí)現(xiàn)無(wú)線電調(diào)制分類。實(shí)驗(yàn)結(jié)果表明，本方法能夠有效克服傳統(tǒng)線性分類方法的缺點(diǎn)，有效地提升無(wú)線電調(diào)制方式分類性能。

關(guān)鍵詞：無(wú)線電；特征提??；深度學(xué)習(xí)；非線性映射；卷積神經(jīng)網(wǎng)絡(luò)

人們?cè)谕ㄐ诺倪^(guò)程中希望達(dá)到快速有效、安全準(zhǔn)確的目的。為了更好地利用信道容量，以滿足用戶的大量需求，信道采用了不同的調(diào)制方式。調(diào)制方式是區(qū)分不同信號(hào)的一個(gè)重要特征，而當(dāng)我們需要準(zhǔn)確獲得信號(hào)的內(nèi)容，就需要知道信號(hào)的調(diào)制方式和調(diào)制參數(shù)[1]。有些情況下，甚至需要監(jiān)視通信信號(hào)的活動(dòng)，了解信號(hào)的性質(zhì)，甚至截獲其傳輸?shù)男畔?nèi)容。無(wú)線電認(rèn)知就是要提取出多信號(hào)和有噪聲干擾的無(wú)線電信號(hào)特征，其目的就是在未知調(diào)制信息的前提下，判斷出通信信號(hào)的調(diào)制方式[2]。

近年來(lái)，出現(xiàn)了一些基于信號(hào)的循環(huán)周期性，通過(guò)循環(huán)譜密度函數(shù)的循環(huán)周期出現(xiàn)的位置、大小等來(lái)確定調(diào)制方式，更多的是采用參數(shù)識(shí)別的方法[3]。以前的方法采用接收信號(hào)時(shí)域統(tǒng)計(jì)特征或者變換域的統(tǒng)計(jì)特性來(lái)識(shí)別其調(diào)制方式。在信噪比較高時(shí)，這些方法會(huì)有很好的識(shí)別效果。然而，現(xiàn)實(shí)中無(wú)線電信號(hào)都在一個(gè)相對(duì)較低的信噪比環(huán)境下且噪聲的大小和種類都不是固定的，在某些噪聲較大的情況下，我們根據(jù)能量提取出的某個(gè)參數(shù)甚至是噪聲所引起的，這對(duì)于信號(hào)識(shí)別來(lái)講影響是巨大的[4]。因此，對(duì)高信噪比信號(hào)進(jìn)行識(shí)別沒(méi)有實(shí)際意義，而且不能單一地根據(jù)某幾個(gè)參數(shù)來(lái)作出最終的判決，因?yàn)槿魏我粋€(gè)參數(shù)所占的比例太大，對(duì)結(jié)果影響不可忽略。

無(wú)線電特征提取的難點(diǎn)在于如何在循環(huán)周期密度中找到有用的信息[5]。頻率特征、包絡(luò)特征以及對(duì)比度特征等傳統(tǒng)的人工特征[6]，不能準(zhǔn)確描述復(fù)雜電磁環(huán)境下的不穩(wěn)定特征，且不具備對(duì)位置、大小、時(shí)間等的不變性，無(wú)法作為

自動(dòng)識(shí)別中的匹配特征[7]。深度學(xué)習(xí)能夠模仿人腦的機(jī)制來(lái)讀取數(shù)據(jù)，神經(jīng)網(wǎng)絡(luò)的最大特點(diǎn)是自動(dòng)抽取無(wú)線電的本質(zhì)信息[8]。因此，針對(duì)復(fù)雜電磁環(huán)境中無(wú)線電特征提取的難題，本文提出在基于二階循環(huán)平穩(wěn)特性顯示不同調(diào)制無(wú)線電不同特性的基礎(chǔ)上，利用深度神經(jīng)網(wǎng)絡(luò)自動(dòng)提取無(wú)線電特征，實(shí)現(xiàn)無(wú)線電特征的自動(dòng)識(shí)別，取得了較高的識(shí)別率，滿足復(fù)雜電磁環(huán)境下的無(wú)線電特征提取任務(wù)[9]。

1 深度學(xué)習(xí)模型構(gòu)建

深度學(xué)習(xí)是一種特征提取過(guò)程[10]，其基本思想是設(shè)計(jì)一個(gè)含有多個(gè)層次的系統(tǒng)，前一層的輸出作為后一層的輸入，通過(guò)不斷調(diào)整參數(shù)，使原始輸入的特征向量與輸出的特征向量差別盡可能小。其常用的網(wǎng)絡(luò)有以下幾種：自動(dòng)編碼器（Auto Encoder）、多層感知機(jī)（Multilayer Perceptron，MLP），卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）等[11]。本文選用卷積神經(jīng)網(wǎng)絡(luò)結(jié)合徑向基函數(shù)（Radical Basis Function，RBF）作為深度學(xué)習(xí)的模型（見(jiàn)圖1）。因?yàn)镽BF網(wǎng)絡(luò)具有的優(yōu)秀非線性映射能力，在前向網(wǎng)絡(luò)中完成映射功能具有很大的優(yōu)勢(shì)，本文中卷積神經(jīng)網(wǎng)絡(luò)（見(jiàn)圖2）在原有輸出層前添加一個(gè)RBF隱層，以進(jìn)一步加大深度學(xué)習(xí)特征分類的能力。本文中的神經(jīng)網(wǎng)絡(luò)其卷積神經(jīng)網(wǎng)絡(luò)部分由兩個(gè)卷積層C和兩個(gè)降采樣層S構(gòu)成。卷積層和降采樣層由若干個(gè)二維特征矩陣構(gòu)成。卷積網(wǎng)絡(luò)的卷積層為特征抽取層，其每個(gè)神經(jīng)元的輸入都與上級(jí)的局部數(shù)據(jù)相連，用以抽取局部特征。每級(jí)的S層為降采樣層，對(duì)上一級(jí)特征進(jìn)行降維處理[6]。

2 基于深度學(xué)習(xí)的無(wú)線電特征提取

基于循環(huán)譜方法提取無(wú)線電特征的關(guān)鍵在于找出無(wú)線電信號(hào)中具有循環(huán)周期性的變量，通過(guò)觀察變量的數(shù)量、大小和位置的不同[12]。本文提出基于深度學(xué)習(xí)特征的特征值提取方法，策略是模擬視覺(jué)感知系統(tǒng)的層次結(jié)構(gòu)，建立基于卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)特征提取模型，自動(dòng)抽取循環(huán)譜中的本質(zhì)特征，并組成深度學(xué)習(xí)特征矢量，避免人工選擇及描述特征所存在的弊端，準(zhǔn)確定位循環(huán)密度中的有效特征并統(tǒng)計(jì)其所含有的意義。

2.1 深度學(xué)習(xí)特征自動(dòng)提取

本文提出的基于深度卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)特征自動(dòng)提取原理如圖3所示，無(wú)線電循環(huán)譜可直接作為卷積神經(jīng)網(wǎng)絡(luò)的最底層輸入，不需要對(duì)其提取幾個(gè)特征點(diǎn)，逐級(jí)逐層抽取數(shù)據(jù)的更高級(jí)本質(zhì)特征。同樣重要的是抽取的特征具有對(duì)平移、強(qiáng)度和縮放的不變性，這正是含有隨機(jī)噪聲無(wú)線電特征提取所必需的。

該卷積神經(jīng)網(wǎng)絡(luò)包括輸入層、卷積層、池化層、特征矢量層等，神經(jīng)網(wǎng)絡(luò)的層次結(jié)構(gòu)及參數(shù)如表1所示。

2.2 特征匹配

基于卷積網(wǎng)絡(luò)的深度學(xué)習(xí)網(wǎng)絡(luò)能夠從大量學(xué)習(xí)數(shù)據(jù)中獲得各隱層輸入與輸出的映射，從而使深度學(xué)習(xí)網(wǎng)絡(luò)有能力逐層抽取數(shù)據(jù)特征的能力[13]。本文采用有監(jiān)督訓(xùn)練的反向傳播算法，分為兩個(gè)階段：（1）前向傳播階段，二維數(shù)據(jù)直接輸入網(wǎng)絡(luò)的第一層，經(jīng)過(guò)各隱層變換、映射，直到輸出層。（2）向后傳播階段，用有標(biāo)簽的原始數(shù)據(jù)，進(jìn)一步對(duì)深度網(wǎng)絡(luò)的參數(shù)進(jìn)行監(jiān)督調(diào)整。在訓(xùn)練過(guò)程中，本文采用將卷積神經(jīng)網(wǎng)絡(luò)和RBF網(wǎng)絡(luò)分別訓(xùn)練的策略。卷積網(wǎng)絡(luò)部分的學(xué)習(xí)方法如下。

2.2.1 前向傳播階段

3 實(shí)驗(yàn)分析

3.1 數(shù)據(jù)集的可用性

我們仿真出BPSK，QPSK，8PSK，16QAM，64QAM，PAM，2ASK，2FSK，4FSK和MSK等10種調(diào)制方式，并對(duì)其做循環(huán)譜計(jì)算，得到它們的循環(huán)譜圖。在仿真數(shù)據(jù)時(shí)，為了使數(shù)據(jù)更具有一般性，我們每個(gè)信號(hào)先隨機(jī)產(chǎn)生500個(gè)隨機(jī)位，然后對(duì)其進(jìn)行調(diào)制，使數(shù)據(jù)變白，以確保位是均勻的。

無(wú)線電通信信號(hào)實(shí)際上是綜合生成的，我們以與實(shí)際系統(tǒng)相同的方式確定性地進(jìn)行，引入調(diào)制，脈沖整形，承載數(shù)據(jù)以及與現(xiàn)實(shí)世界信號(hào)相同的其他良好表征的發(fā)射參數(shù)。我們將真實(shí)的語(yǔ)音和文本數(shù)據(jù)集調(diào)制到信號(hào)上。在數(shù)字調(diào)制的情況下，我們使用塊隨機(jī)化器來(lái)使數(shù)據(jù)變白，以確保位是均勻的。

考慮到現(xiàn)實(shí)環(huán)境的復(fù)雜性，我們對(duì)不同信號(hào)所加的噪聲也不是固定大小的，而是在-20?20 dB隨機(jī)選擇信噪比，以便更接近實(shí)際情況。

3.2 數(shù)據(jù)集的可視化

在時(shí)間和頻域（見(jiàn)圖5）中檢查來(lái)自每一類調(diào)制的單個(gè)示例，我們?cè)谝曈X(jué)上看到了調(diào)制之間的許多相似性和差異，但是由于脈沖整形、失真和其他通道效應(yīng)，人類專家在視覺(jué)上并不容易辨別出。

在頻域中，每個(gè)信號(hào)遵循類似的帶限功率包絡(luò)，其形狀提供關(guān)于調(diào)制的一些線索，但是對(duì)于人類專家在視覺(jué)上判斷是一個(gè)困難的嘈雜任務(wù)。

3.3 方法優(yōu)勢(shì)

我們采取深度卷積神經(jīng)網(wǎng)絡(luò)的方式對(duì)數(shù)據(jù)進(jìn)行處理，不需要人為提取有用特征，而傳統(tǒng)的方式都在循環(huán)譜基礎(chǔ)上提取4個(gè)最大值作為機(jī)器學(xué)習(xí)輸入[16]。相比之下，我們的方式更能夠節(jié)約人力，同時(shí)，選取的少數(shù)幾個(gè)最大值很有可能是某一點(diǎn)較大噪聲引起的，這將造成錯(cuò)誤結(jié)果，而深度卷積網(wǎng)絡(luò)能夠充分利用所有的數(shù)據(jù)點(diǎn)，卷積層更是有減少噪聲影響的作用，人工提取方法和深度卷積網(wǎng)絡(luò)方式對(duì)比如圖6所示。從圖中我們看出，人工方式由于提取的數(shù)據(jù)較少，相對(duì)擬合速率較快，但在精確度上，深度卷積神經(jīng)網(wǎng)絡(luò)卻能達(dá)到更好的識(shí)別率。我們的方法在無(wú)線電特征提取上有巨大的優(yōu)勢(shì)。

4 結(jié)語(yǔ)

針對(duì)復(fù)雜環(huán)境下的無(wú)線電特征提取任務(wù)，鑒于噪聲情況下無(wú)線電的識(shí)別存在很大的困難，其特征難以定位，在基于循環(huán)譜密度提取無(wú)線電特征的基礎(chǔ)上，實(shí)現(xiàn)深度卷積網(wǎng)絡(luò)自動(dòng)提取無(wú)線電特征，實(shí)現(xiàn)了在不同信噪比中無(wú)線電信號(hào)的準(zhǔn)確匹配，最終匹配誤差小于5%，能夠滿足我們對(duì)無(wú)線電識(shí)別的要求。本方法在成本、效率和準(zhǔn)確率上都優(yōu)于傳統(tǒng)的人工特征提取方法。

[參考文獻(xiàn)]

[1]KRIZHEVSKY A， SUTSKEVER I， HINTON G E.Imagenet classification with deep convolutional neural networks[J].Advances inNeural Information Processing Systems， 2012（2）：1097-1105.

[2]SAINATH T N， WEISS R J， SENIOR A， et al.Learning the speech front-end with raw waveform CLDNNS[C].Dresden：16th AnnualConference of the International Speech Communication Association， 2015.

[3]TIELEMAN T， HINTON G.1.ecture 6.5-rmsprop：divide the gradient by a running average of its recent magnitude[J].Neumfor Machine Learning， 2012（4）：2.

[4]SHEA O.GNU radio channel simulation[J].GNU Radio Conference， 2013（5）：13-15.

[5]ABADI M， AGARWAL A， BARHAM P， et al.Tensorflow：large-scale machine learning on heterogeneous systems[J].Distributed，Parallel， and Cluster Computing， 2015（3）：16-18.

[6]余永維，殷國(guó)富，殷鷹，等.基于深度學(xué)習(xí)網(wǎng)絡(luò)的射線圖像缺陷識(shí)別方法[J].儀器儀表學(xué)報(bào)，2014（9）：2012-2019.

[7]王峰基于遺傳算法的認(rèn)知無(wú)線電決策引擎研究[D].大連：大連理工大學(xué)，2011.

[8]CHOLLET F.Join GitHub today[EB/OL]（2017-05-09）[2018-04-24].https：//github.com/fchollet/keras.

[9JGRAVES A， MOHAMED A R， HINTON G. Speech recognition with deep recurrent neural networks [J].Neural and EvolutionaryComputing， 2013（3）：22.

[10]KINGMA D P， BA J.Adam：a method for stochastic optimization[C].San Diego：Conference Paper at the 3rd International Conferencefor Learning Representations， 2015.

[11]王海軍，粟欣，王京.認(rèn)知無(wú)線電中的協(xié)作頻譜檢測(cè)技術(shù)[J].中興通訊技術(shù)，2009（2）：13-14.

[12]郭彩麗，馮春燕，曾志民.認(rèn)知無(wú)線電網(wǎng)絡(luò)技術(shù)及應(yīng)用[M].北京：電子工業(yè)出版社，2010.

[13]陳振宇，曹婉.戰(zhàn)場(chǎng)環(huán)境與可視化技術(shù)[M].北京：軍事科學(xué)出版社，2006.

[14]JADERBERG M， SIMONYAN K， ZISSERMAN A， et al.Spatial transformer networks [J].Computer Vision and Pattern Recognition，2016（2）：44-49.

[15]ZENG Y， LIANG Y C.Eigenvalue-based spectrum sensing algorithms for cognitive radio[J].IEEE Transactions on Communications，2009（6）：1784-1793.

[16]彭振，趙知?jiǎng)?，鄭仕?基于混洗蛙跳算法的認(rèn)知無(wú)線電頻譜分配[J]計(jì)算機(jī)工程，2010（6）：210-212.