一種融合流形學(xué)習(xí)和深度學(xué)習(xí)的時(shí)變信道自動(dòng)調(diào)制識(shí)別技術(shù)

邢懷志 李 汀 李 飛

（南京郵電大學(xué)通信與信息工程學(xué)院，江蘇南京 210003）

1 引言

在無(wú)線通信領(lǐng)域中，自動(dòng)調(diào)制識(shí)別是非合作通信系統(tǒng)的一項(xiàng)關(guān)鍵技術(shù)，同樣是一項(xiàng)難點(diǎn)技術(shù)。自動(dòng)調(diào)制識(shí)別是在對(duì)各種通信參數(shù)未知的情況下，在通信系統(tǒng)接收端對(duì)接收信號(hào)調(diào)制類型進(jìn)行判別的技術(shù)。對(duì)系統(tǒng)后續(xù)的解調(diào)起到了非常關(guān)鍵的作用。軍用領(lǐng)域和民用領(lǐng)域都有這項(xiàng)技術(shù)的廣泛應(yīng)用，在電子對(duì)抗，信號(hào)監(jiān)測(cè)，頻譜管理等方面發(fā)揮了巨大的現(xiàn)實(shí)作用?，F(xiàn)有的研究工作中，自動(dòng)調(diào)制識(shí)別技術(shù)主要分為兩類，基于似然的方法和基于特征的方法［1-5］?；谒迫坏姆椒ㄍㄟ^(guò)評(píng)估信號(hào)的似然函數(shù)和比較似然比來(lái)進(jìn)行判別。雖然基于似然的方法準(zhǔn)確率高，但計(jì)算復(fù)雜度比較高，而且一些先驗(yàn)信息在實(shí)際中是不可用的，例如時(shí)變信道的信道狀態(tài)信息。相比而言，基于特征的方法較少受先驗(yàn)信息的影響，計(jì)算復(fù)雜度低且可以接近最優(yōu)性能。它通常由特征提取和分類兩部分組成，特征提取部分是從接收信號(hào)中提取一些特征，例如瞬時(shí)特征，小波變換特征，短時(shí)傅里葉變換特征，高階累積量，循環(huán)平穩(wěn)特征，星座圖等。分類部分是利用分類器將提取到的特征判別為不同的調(diào)制類型。已有的傳統(tǒng)分類器包括，決策樹(shù)、支持向量機(jī)、聚類和K 近鄰分類器等。近些年，深度學(xué)習(xí)在自然語(yǔ)言處理和圖像分類等領(lǐng)域展現(xiàn)出了非常出色的性能。很多學(xué)者基于深度學(xué)習(xí)對(duì)調(diào)制識(shí)別開(kāi)展了大量研究，各種不同的網(wǎng)絡(luò)結(jié)構(gòu)被應(yīng)用到分類器的設(shè)計(jì)上，例如卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN），殘差神經(jīng)網(wǎng)絡(luò)，循環(huán)神經(jīng)網(wǎng)絡(luò)等。在2016 年，O’Shea 等人開(kāi)始利用深度學(xué)習(xí)進(jìn)行自動(dòng)調(diào)制識(shí)別，沒(méi)有采用人工提取的專家特征，使用原始信號(hào)的同相和正交分量，并且在11種模擬和數(shù)字信號(hào)數(shù)據(jù)集與傳統(tǒng)機(jī)器學(xué)習(xí)算法進(jìn)行了對(duì)比，展示了卷積神經(jīng)網(wǎng)絡(luò)良好的性能［6］。在2017 年，他又對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行了更加細(xì)致的研究，證明了深層的網(wǎng)絡(luò)結(jié)構(gòu)對(duì)性能是有改善的［7］。文獻(xiàn)［8］聯(lián)合卷積神經(jīng)網(wǎng)絡(luò)和長(zhǎng)短期記憶網(wǎng)絡(luò)對(duì)幾種模擬和數(shù)字信號(hào)進(jìn)行了分類識(shí)別。針對(duì)信號(hào)樣本少的情況，文獻(xiàn)［9］引入了自相關(guān)卷積網(wǎng)絡(luò)，根據(jù)自相關(guān)卷積準(zhǔn)則將調(diào)制后的通信信號(hào)按周期性局部特征分類。文獻(xiàn)［10］利用了數(shù)據(jù)增強(qiáng)的方法，通過(guò)數(shù)據(jù)增強(qiáng)，可以使用較短的無(wú)線電樣本成功地對(duì)無(wú)線電調(diào)制類別進(jìn)行分類。為了從原始信號(hào)中提取到更有效的時(shí)空特征，文獻(xiàn)［11］提出一個(gè)三通道網(wǎng)絡(luò)結(jié)構(gòu)，分別輸入單獨(dú)和組合的同相正交信號(hào)。以上的多數(shù)研究都是基于高斯白噪聲信道或者時(shí)不變信道，由于通信系統(tǒng)收發(fā)兩端的相對(duì)運(yùn)動(dòng)或者環(huán)境的變化，實(shí)際通信信道是時(shí)變的，所以開(kāi)展基于時(shí)變衰落信道的自動(dòng)調(diào)制識(shí)別更有意義和挑戰(zhàn)性。

近年來(lái)，流形學(xué)習(xí)在圖像集分類領(lǐng)域發(fā)揮了非常出色的性能。圖像集相比單幅圖像擁有更多的信息和更加優(yōu)異的容錯(cuò)性，并且展示了圖像之間變化的動(dòng)態(tài)特征，能夠有效地反應(yīng)對(duì)象的本質(zhì)，通過(guò)將圖像集建模到流形上，能夠捕獲到這種動(dòng)態(tài)特征。格拉斯曼流形是一種由線性子空間組成的黎曼流形，利用子空間表示圖像集可以建模于格拉斯曼流形上。文獻(xiàn)［12］針對(duì)圖像集分類，將圖像集建模于格拉斯曼流形上，通過(guò)流形學(xué)習(xí)方法對(duì)流形特征進(jìn)一步降維和距離度量。文獻(xiàn)［13］同樣將圖像集建模于格拉斯曼流形上，它將深度學(xué)習(xí)思想運(yùn)用到流形學(xué)習(xí)網(wǎng)絡(luò)設(shè)計(jì)中，利用黎曼梯度下降法進(jìn)行參數(shù)優(yōu)化，最后使用全連接網(wǎng)絡(luò)分類。

本文針對(duì)時(shí)變信道下的自動(dòng)調(diào)制識(shí)別第一次將格拉斯曼流形引入到信號(hào)特征提取中，基于文獻(xiàn)［14］提出的時(shí)隙星座圖方法，即在通信系統(tǒng)接收端將整個(gè)時(shí)間采樣窗口劃分為連續(xù)相同長(zhǎng)度的時(shí)隙，采樣的IQ信號(hào)也被劃分為連續(xù)的片段，再將各片段IQ 信號(hào)轉(zhuǎn)化為二維灰度星座圖，這樣可以利用到星座圖的旋轉(zhuǎn)軌跡和縮放比例變化的動(dòng)態(tài)過(guò)程，進(jìn)一步將星座圖集建模到格拉斯曼流形上，設(shè)計(jì)了一種融合流形學(xué)習(xí)和深度學(xué)習(xí)的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行分類，前一部分流形學(xué)習(xí)網(wǎng)絡(luò)對(duì)格拉斯曼流形特征進(jìn)行降維然后映射到平滑子空間，后一部分深度學(xué)習(xí)網(wǎng)絡(luò)利用卷積網(wǎng)絡(luò)強(qiáng)大的分類性能，實(shí)現(xiàn)自動(dòng)調(diào)制識(shí)別。

2 系統(tǒng)模型

本文研究時(shí)變信道下的自動(dòng)調(diào)制識(shí)別系統(tǒng)，如下圖1所示。

調(diào)制信號(hào)經(jīng)過(guò)調(diào)制后通過(guò)時(shí)變信道到達(dá)接收端，先進(jìn)行格拉斯曼流形特征提取，再經(jīng)過(guò)流形學(xué)習(xí)網(wǎng)絡(luò)進(jìn)行降維并映射到平滑子空間，最后通過(guò)輕量級(jí)卷積神經(jīng)網(wǎng)絡(luò)完成分類。假設(shè)接收機(jī)與發(fā)射機(jī)具有完美的同步，時(shí)刻n的接收信號(hào)y［n］和調(diào)制信號(hào)x［n］之間的關(guān)系可以表示為

式中，w［n］為加性高斯白噪聲信號(hào)，h［n］為時(shí)刻n的時(shí)變信道系數(shù)。接收機(jī)和發(fā)射機(jī)的相對(duì)運(yùn)動(dòng)會(huì)產(chǎn)生多普勒效應(yīng)，信道也會(huì)隨之不斷變化，常用的統(tǒng)計(jì)模型是Clarke 模型［15］，可以視為一個(gè)與多普勒頻譜相關(guān)的平穩(wěn)隨機(jī)過(guò)程，為了表示信道如何隨著時(shí)間變化，文獻(xiàn)［15］定義相干時(shí)間Tc為h［n］是高度相關(guān)的且與多普勒擴(kuò)展成反比的時(shí)間間隔。相干時(shí)間可以認(rèn)為是信道系數(shù)保持不變的時(shí)間。文獻(xiàn)［16］指出，如果h［n］的時(shí)間相關(guān)性大于0.5，Tc可以近似表示為

式中，fm=v/λ是最大的多普勒頻移，v表示接收機(jī)與發(fā)射機(jī)的相對(duì)移動(dòng)速度，λ表示信號(hào)波長(zhǎng)。接收機(jī)和發(fā)射機(jī)的相對(duì)移動(dòng)速度越大，最大多普勒頻移也就越大，相干時(shí)間就隨之越小，信道系數(shù)變化得也就越快。

3 特征提取

3.1 背景知識(shí)

一個(gè)格拉斯曼流形G(q，d)是由Rd的所有q維線性子空間的集合組成。G(q，d)上的一個(gè)點(diǎn)就是由一個(gè)正交基矩陣X∈Rd×q所張成的一個(gè)線性子空間并且滿足XTX=Iq，Iq表示維度為q×q的單位矩陣。根據(jù)文獻(xiàn)［17］中提到的投影度量，格拉斯曼流形上的每個(gè)點(diǎn)都對(duì)應(yīng)一個(gè)投影矩陣Φ(X)=XXT，并且可以用來(lái)近似估計(jì)真實(shí)的測(cè)地線距離。任意兩點(diǎn)間的投影度量距離表示為

式中，||·||F表示F 范數(shù)，文獻(xiàn)［17］證明，投影度量距離可以近似為測(cè)地線距離的倍。

3.2 格拉斯曼流形特征提取

特征提取是自動(dòng)調(diào)制識(shí)別的重要環(huán)節(jié)，提取的特征參數(shù)好壞直接關(guān)系后續(xù)的分類識(shí)別性能。不同調(diào)制類型的信號(hào)星座圖是有很大差異的，星座圖可以作為一種特征用于調(diào)制識(shí)別。信號(hào)在經(jīng)過(guò)時(shí)變信道時(shí)，幅度和相位會(huì)隨著信道系數(shù)變化，隨之信號(hào)的星座圖會(huì)發(fā)生旋轉(zhuǎn)和縮放。為了捕獲到旋轉(zhuǎn)和縮放變化的動(dòng)態(tài)過(guò)程，整個(gè)時(shí)間采樣窗口可以劃分為具有同等時(shí)間長(zhǎng)度的幾個(gè)連續(xù)時(shí)隙，每個(gè)時(shí)隙內(nèi)的信號(hào)點(diǎn)生成一個(gè)灰度星座圖，將多個(gè)時(shí)隙的星座圖組成一個(gè)集合，建模到格拉斯曼流形上，方法如下：

（1）第i個(gè)時(shí)隙星座圖集表示為，n為時(shí)隙總數(shù)，i=1 →N，N為星座圖集總數(shù)；

（2）計(jì)算第i個(gè)時(shí)隙星座圖集的協(xié)方差矩陣Ci=Ai AiT；

（3）對(duì)第i個(gè)時(shí)隙星座圖集的協(xié)方差矩陣進(jìn)行奇異值分解Ci=Yi ΣYiT，取出Yi的前q列記為Xi∈Rd×q，即正交基矩陣Xi代表格拉斯曼流形G(q，d)上的一個(gè)點(diǎn)。

4 分類網(wǎng)絡(luò)的設(shè)計(jì)

分類網(wǎng)絡(luò)分為兩部分，前一部分為基于流形學(xué)習(xí)［12］，后一部分基于深度學(xué)習(xí)?；诹餍螌W(xué)習(xí)的網(wǎng)絡(luò)對(duì)輸入的格拉斯曼流形特征進(jìn)行降維然后映射到平滑子空間，分為滿秩映射層、保持正交層、投影映射層三層。具體結(jié)構(gòu)如圖2。

4.1 滿秩映射層

為了從流形特征上進(jìn)一步提取到更有效的特征表示并且降低流形數(shù)據(jù)的維度，本文設(shè)計(jì)了滿秩映射層將輸入的正交基矩陣轉(zhuǎn)化為新的表示形式。這個(gè)過(guò)程可以表示為

式中，k表示當(dāng)前層，k?1 表示上一層也就是當(dāng)前層的輸入，∈G(q，d)當(dāng)前層輸入的第i個(gè)正交基矩陣，轉(zhuǎn)換矩陣Wk通過(guò)主成分分析方法學(xué)習(xí)得到。具體步驟如下：

4.2 保持正交層

文獻(xiàn)［17］指出，QR分解能夠?qū)⒁粋€(gè)矩陣轉(zhuǎn)化為正交矩陣。為了保持格拉斯曼流形的幾何結(jié)構(gòu)，保持正交層對(duì)輸入矩陣進(jìn)行QR分解，表示為

在卷積神經(jīng)網(wǎng)絡(luò)中，修正線性單元（Relu）等激活函數(shù)可以提高網(wǎng)絡(luò)的判別性能［18］。因此在一定程度上式（7）可以看做是一種非線性的格拉斯曼流形激活函數(shù)。

4.3 投影映射層

投影度量是一種最常用的格拉斯曼流形距離度量方法［17］。投影映射層采用此方法對(duì)輸入的正交矩陣進(jìn)行格拉斯曼流形計(jì)算表示為

通過(guò)一個(gè)內(nèi)積結(jié)構(gòu)，流形數(shù)據(jù)可以映射到一個(gè)平滑子空間，在平滑子空間上，經(jīng)典的歐幾里得計(jì)算可以應(yīng)用在正交矩陣的投影域［17］。因此，本文接下來(lái)可以采用基于深度學(xué)習(xí)的方法。

4.4 基于深度學(xué)習(xí)的網(wǎng)絡(luò)

深度學(xué)習(xí)具有強(qiáng)大的特征提取能力和分類性能，針對(duì)流形學(xué)習(xí)網(wǎng)絡(luò)輸出的低維數(shù)據(jù)特征，本文設(shè)計(jì)了一個(gè)輕量級(jí)的卷積神經(jīng)網(wǎng)絡(luò)，具體結(jié)構(gòu)如圖3，記為Cnn1。

由一層8 個(gè)大小為3×3 的卷積核組成的卷積層，一層平均池化層，兩層神經(jīng)元個(gè)數(shù)分別為16 和8 的全連接層構(gòu)成。為了防止過(guò)擬合，添加了一層丟棄率為0.2 的Dropout 層和批歸一化層。除了最后一層全連接層采用softmax激活函數(shù)，其余層采用Relu 激活函數(shù)。網(wǎng)絡(luò)優(yōu)化器采用Adam，損失函數(shù)采用分類交叉熵。

5 實(shí)驗(yàn)及結(jié)果分析

8 種調(diào)制類型信號(hào)2PSK，QPSK，8PSK，16QAM，32QAM，64QAM，128QAM，256QAM 在matlab 仿真環(huán)境下生成。信道模型采用Clarke 模型，慢衰落信道中，速度v均勻分布在1.5 m/s至4.5 m/s，快衰落信道中，速度v均勻分布在22.5 m/s 至45 m/s。信噪比（Signal-to-Noise Ratio，SNR）范圍0～20 dB。信號(hào)參數(shù)設(shè)置為：載波頻率2 GHz，帶寬100 kHz，采樣窗口大小為36000 個(gè)信號(hào)點(diǎn)，時(shí)隙數(shù)為6，時(shí)隙星座圖大小為32×32。例如16QAM 的時(shí)隙星座圖如圖4，圖（a）至圖（f）為時(shí)間連續(xù)的6個(gè)時(shí)隙星座圖，圖（g）為不分時(shí)隙的星座圖，即圖（a）至圖（f）疊加的結(jié)果。大小為32×32 的時(shí)隙星座圖建模到格拉斯曼流形后特征大小變?yōu)?024×5，經(jīng)過(guò)轉(zhuǎn)換矩陣大小為1024×128的流形學(xué)習(xí)網(wǎng)絡(luò)后特征大小變?yōu)?28×128。本文所提流形學(xué)習(xí)網(wǎng)絡(luò)和深度學(xué)習(xí)網(wǎng)絡(luò)合記為Grnn，文獻(xiàn)［14］中兩種網(wǎng)絡(luò)分別記為MCBLDN和SCDN。與Cnn1相比，SCDN 的網(wǎng)絡(luò)層數(shù)更多，網(wǎng)絡(luò)結(jié)構(gòu)相對(duì)復(fù)雜。Cnn1 和SCDN 兩種網(wǎng)絡(luò)的輸入為不分時(shí)隙的星座圖。各網(wǎng)絡(luò)的訓(xùn)練集和測(cè)試集樣本個(gè)數(shù)都是8000，網(wǎng)絡(luò)超參數(shù)的設(shè)置為，初始學(xué)習(xí)率為0.001，批大小為32，訓(xùn)練次數(shù)為200。慢衰落信道下信噪比為20 dB時(shí)Grnn的損失函數(shù)變化曲線如圖5。

圖6 和圖7 分別表示慢衰落和快衰落信道不同信噪比下的四種分類網(wǎng)絡(luò)的準(zhǔn)確率。隨著信噪比的增加，四種網(wǎng)絡(luò)的準(zhǔn)確率也相應(yīng)增加。相比高信噪比，低信噪比部分的準(zhǔn)確率增加的很快。從圖上能夠看到本文所提出的Grnn 的準(zhǔn)確率高于傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)SCDN 和MCBLDN，這表明本文采用的格拉斯曼流形特征提取方法進(jìn)一步從星座圖中提取到了有效信息。與Cnn1 對(duì)比，Grnn 的準(zhǔn)確率性能表現(xiàn)優(yōu)越，這也表明格拉斯曼流形特征能夠進(jìn)一步捕獲時(shí)隙星座圖間變化的動(dòng)態(tài)特征，結(jié)合流形學(xué)習(xí)網(wǎng)絡(luò)得到信號(hào)的有效信息。

圖6 和圖7 對(duì)比能夠看到，快衰落信道相比慢衰落信道，四種網(wǎng)絡(luò)的準(zhǔn)確率性能都下降了很多。原因是快衰落信道中接收機(jī)和發(fā)射機(jī)移動(dòng)的相對(duì)速度遠(yuǎn)大于慢衰落信道，直接造成更大的多普勒偏移，信號(hào)星座圖發(fā)生劇烈的旋轉(zhuǎn)，變得更難分辨。

圖8 到圖11 展示了慢衰落信道下，四種網(wǎng)絡(luò)在信噪比為10 dB 時(shí)8 種調(diào)制信號(hào)的具體分類情況。從圖中能夠看到64QAM 和256QAM 的分類結(jié)果比較差，兩種類型信號(hào)星座圖外形都是一個(gè)正方形，比較容易混淆。對(duì)于Cnn1 和MCBLDN，不僅所有QAM 類型信號(hào)都難以區(qū)分，幾種PSK 類型信號(hào)也發(fā)生不同程度的預(yù)測(cè)混淆。在四種網(wǎng)絡(luò)中，本文的Grnn的性能是最好的。

本文針對(duì)基于流形學(xué)習(xí)的網(wǎng)絡(luò)中的滿秩映射層，設(shè)計(jì)三種維度大小不同的轉(zhuǎn)換矩陣，分別為1024×256，1024×128，1024×64。慢衰落信道下的準(zhǔn)確率曲線如圖12，轉(zhuǎn)換矩陣維度大小直接決定了卷積神經(jīng)網(wǎng)絡(luò)的輸入矩陣大小。從圖中能夠看到，隨著維度的降低，準(zhǔn)確率也相應(yīng)下降。原因是數(shù)據(jù)降維造成了有用信息的丟失。準(zhǔn)確率雖然下降了，但換來(lái)的是網(wǎng)絡(luò)訓(xùn)練總參數(shù)量的降低。幾種網(wǎng)絡(luò)訓(xùn)練參數(shù)量如表1。為了權(quán)衡網(wǎng)絡(luò)的復(fù)雜度和準(zhǔn)確率，可以選擇1024×128的轉(zhuǎn)化矩陣。

表1 不同類型網(wǎng)絡(luò)的訓(xùn)練總參數(shù)量Tab.1 Total training parameters of different types of networks

6 結(jié)論

針對(duì)時(shí)變信道下的自動(dòng)調(diào)制識(shí)別，本文第一次提出了格拉斯曼流形特征提取方法，該方法在時(shí)隙星座圖基礎(chǔ)上進(jìn)一步將信號(hào)建模于格拉斯曼流形上來(lái)完成特征提取，并設(shè)計(jì)了結(jié)合流形學(xué)習(xí)和深度學(xué)習(xí)的分類網(wǎng)絡(luò)通過(guò)實(shí)驗(yàn)進(jìn)行了驗(yàn)證。實(shí)驗(yàn)表明本文所提出的分類網(wǎng)絡(luò)相比傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)有著良好的性能。本文第一次將流形特征提取方法引入到自動(dòng)調(diào)制識(shí)別中來(lái)，為以后解決該問(wèn)題提供了新的思路，后續(xù)將對(duì)基于正定矩陣流形、高斯混合模型的流形特征提取方法展開(kāi)進(jìn)一步的研究。