基于殘差密集網(wǎng)絡(luò)的頻譜感知方法

蓋建新，薛憲峰，南瑞祥，吳靜誼

（哈爾濱理工大學(xué)測(cè)控技術(shù)與儀器黑龍江省高校重點(diǎn)實(shí)驗(yàn)室，黑龍江 哈爾濱 150080）

1 引言

頻譜感知是認(rèn)知無(wú)線電（CR,cognitive radio）的核心技術(shù)之一。傳統(tǒng)頻譜感知方法主要包括能量檢測(cè)法[1-3]、循環(huán)平穩(wěn)特征檢測(cè)法[4-5]、匹配濾波檢測(cè)法[6]、特征值檢測(cè)法[7]等。這些方法主要面向高斯白噪聲（WGN,white Gaussian noise）干擾下的頻譜感知問(wèn)題，頻譜感知前需先計(jì)算檢測(cè)門(mén)限。在實(shí)際無(wú)線電環(huán)境中，噪聲不一定服從高斯分布，計(jì)算出的檢測(cè)門(mén)限也是近似值，檢測(cè)門(mén)限的準(zhǔn)確與否將直接影響頻譜感知的檢測(cè)性能。

為克服傳統(tǒng)頻譜感知方法不易確定檢測(cè)門(mén)限的問(wèn)題，學(xué)者們提出了基于機(jī)器學(xué)習(xí)的頻譜感知方法。此類方法不需要計(jì)算檢測(cè)門(mén)限，利用訓(xùn)練分類器就可完成信號(hào)識(shí)別。Awe 等[8]、Bao 等[9]和陳思吉等[10]提出了基于支持向量機(jī)（SVM,support vector machine）的頻譜感知方法，SVM 將采樣到的能量信號(hào)作為訓(xùn)練集與測(cè)試集，能夠?qū)π盘?hào)與噪聲進(jìn)行分類識(shí)別。但是該方法需求解特征參數(shù)并且存在感知時(shí)間長(zhǎng)的缺點(diǎn)。Tang 等[11]和Vyas 等[12]分別提出基于人工神經(jīng)網(wǎng)絡(luò)（ANN,artificial neural network）的頻譜感知方法，ANN 將信號(hào)能量與周期平穩(wěn)特征作為輸入，用訓(xùn)練好的ANN實(shí)現(xiàn)頻譜感知。與SVM 相比，ANN 通過(guò)調(diào)整權(quán)值、偏置，可提高頻譜感知的準(zhǔn)確度。ANN 采用反向傳播算法，ANN 層數(shù)越多越容易出現(xiàn)梯度消失問(wèn)題。卷積神經(jīng)網(wǎng)絡(luò)（CNN,convolutional neural network）利用卷積層、池化層、全連接層等多層網(wǎng)絡(luò)結(jié)構(gòu)，可克服二維圖像特征提取困難，便于處理圖像識(shí)別與分類任務(wù)[13]。高紅民等[13]、Yu等[14]、Maffei 等[15]和Chen 等[16]分別將CNN 應(yīng)用到高光譜圖像識(shí)別領(lǐng)域，通過(guò)提取圖像特征，訓(xùn)練高光譜分類網(wǎng)絡(luò)，最后將高光譜圖像輸入CNN中并取得良好的分類準(zhǔn)確率。Liu 等[17]、Lee 等[18]和張孟伯等[19]將CNN 用于解決頻譜感知問(wèn)題，CNN 的數(shù)據(jù)集由接收信號(hào)的灰度圖像組成，此類方法訓(xùn)練CNN 提取圖像的特征，將在線數(shù)據(jù)輸入CNN 中進(jìn)行頻譜感知。CNN 避免了計(jì)算檢測(cè)門(mén)限，省去了求解特征參數(shù)；但其對(duì)特征圖信息利用率低且提取的特征信息有限，頻譜感知的準(zhǔn)確率有待提高。

捷徑連接最早在 Hopfield Network[20]中提出，通過(guò)在任意2 個(gè)神經(jīng)元之間添加捷徑連接，使梯度能夠傳遞到其他神經(jīng)元，加速信息傳遞。多層感知機(jī)也利用捷徑連接緩解梯度消失問(wèn)題，訓(xùn)練深層網(wǎng)絡(luò)[21]。密集連接的思想早期體現(xiàn)在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中，前一層的所有神經(jīng)元直接和下一層的神經(jīng)元相連，形成一個(gè)類似于扇形的密集結(jié)構(gòu)[22]。下一層的神經(jīng)元充分利用前一層的所有神經(jīng)元的信息，神經(jīng)元之間的密集連接有利于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。Wilamowski 等[23]在全連接層使用密集連接，通過(guò)全連接層中兩兩相連的神經(jīng)元進(jìn)行信息傳遞，提高了網(wǎng)絡(luò)分類的準(zhǔn)確率。在傳統(tǒng)CNN 頻譜感知方法中加入捷徑連接，有望訓(xùn)練更深的網(wǎng)絡(luò)，CNN 提取特征的能力隨著網(wǎng)絡(luò)層數(shù)的增多而增強(qiáng)。在傳統(tǒng)CNN 頻譜感知方法中加入密集連接，有望實(shí)現(xiàn)任意2 個(gè)卷積層特征提取信息重利用，有助于提升圖像分類和識(shí)別的準(zhǔn)確率，有望克服傳統(tǒng)CNN 頻譜感知方法未能有效利用特征圖信息并且提取圖像特征能力薄弱等問(wèn)題。

本文為充分利用傳統(tǒng)CNN 頻譜感知方法的特征圖信息，并訓(xùn)練深層網(wǎng)絡(luò)來(lái)提高特征圖信息提取能力，在傳統(tǒng)CNN 頻譜感知方法中加入捷徑連接和密集連接，提出一種殘差密集網(wǎng)絡(luò)（ResDenNet,residual dense network）頻譜感知方法。該方法首先將接收信號(hào)分割成矩陣，對(duì)矩陣進(jìn)行歸一化處理并轉(zhuǎn)為灰度圖像作為ResDenNet 的輸入；然后使用ResDenNet 中的基本密集單元提取灰度圖像的特征，進(jìn)行局部特征融合，在密集單元兩端引入捷徑連接，提取任意的密集單元特征，進(jìn)行特征融合；ResDenNet 訓(xùn)練完成后，將在線數(shù)據(jù)輸入ResDenNet 中，完成頻譜感知。

2 感知模型

在CR 網(wǎng)絡(luò)中，非授權(quán)用戶檢測(cè)有無(wú)授權(quán)用戶信號(hào)可對(duì)應(yīng)為二元假設(shè)檢驗(yàn)問(wèn)題

其中，H0表示頻譜信道空閑，即不存在授權(quán)用戶信號(hào)；H1表示頻譜信道占用，即存在授權(quán)用戶信號(hào)。n表示采樣點(diǎn)數(shù)，x(n)表示接收信號(hào)，s(n)表示受到瑞利信道衰落的授權(quán)用戶的發(fā)射信號(hào)，u(n)表示均值為0 且方差為σ2的高斯分布噪聲。從分類的角度可將H0和H1表示為二分類問(wèn)題：H0只有噪聲，H1有授權(quán)用戶的發(fā)射信號(hào)和噪聲。本文使用檢測(cè)概率Pd和虛警概率Pfa這2 個(gè)頻譜感知性能指標(biāo)來(lái)評(píng)價(jià)算法性能。其中，Pd是指授權(quán)用戶存在且被成功檢測(cè)的概率，Pfa是指授權(quán)用戶不存在卻被錯(cuò)誤檢測(cè)為存在的概率，可分別表示為

設(shè)非授權(quán)用戶接收的n個(gè)采樣點(diǎn)的信號(hào)向量為

信號(hào)向量經(jīng)過(guò)I、Q解調(diào)后分割成2 個(gè)M行、n/M列的信號(hào)矩陣。

信號(hào)矩陣存在2 種情況，一種情況是存在授權(quán)用戶的發(fā)射信號(hào)與噪聲，另一種情況是僅存在噪聲。有無(wú)發(fā)射信號(hào)的區(qū)別在于采樣矩陣的整體分布不同。

3 基于ResDenNet 的頻譜感知方法描述

傳統(tǒng)CNN 頻譜感知方法[17]采用LeNet-5 網(wǎng)絡(luò)結(jié)構(gòu)，將接收信號(hào)X的矩陣灰度圖作為CNN的輸入層，通過(guò)卷積（Conv,convolution）、池化（Pooling）、激活函數(shù)ReLU 和全連接（FC,full connection）整合提取特征，輸出層利用Softmax，輸出結(jié)果為H0、H1。傳統(tǒng)CNN 頻譜感知方法存在兩方面的不足。一方面，傳統(tǒng)CNN 頻譜感知方法的當(dāng)前層的特征信息經(jīng)過(guò)Conv 或Pooling操作后，不會(huì)參與之后的計(jì)算，導(dǎo)致對(duì)特征信息的浪費(fèi)。另一方面，傳統(tǒng)CNN 頻譜感知方法結(jié)構(gòu)簡(jiǎn)單，不能提取更深層的灰度圖像特征。若直接增加過(guò)多的層數(shù)，會(huì)發(fā)生梯度消失，梯度一旦消失，CNN 無(wú)法更新權(quán)值信息，導(dǎo)致頻譜感知性能下降。

針對(duì)上述問(wèn)題，本文在傳統(tǒng)CNN 頻譜感知方法中加入密集連接，使基本密集單元中的Conv 相互傳遞信息，將特征圖信息利用最大化。同時(shí)，在傳統(tǒng)CNN 頻譜感知方法中添加捷徑連接可解決梯度消失問(wèn)題，使輸入層恒等映射更深層的網(wǎng)絡(luò)結(jié)構(gòu)。CNN 深度的增加提升了圖像分類和識(shí)別的準(zhǔn)確率。本文在傳統(tǒng)CNN 頻譜感知方法中結(jié)合上述思想，提出基于ResDenNet 的頻譜感知方法。該方法首先將接收信號(hào)的觀測(cè)向量分割成矩陣，將矩陣進(jìn)行歸一化灰度處理作為ResDenNet 頻譜感知模型的輸入，使用離線數(shù)據(jù)訓(xùn)練ResDenNet，將在線數(shù)據(jù)輸入ResDenNet 中，進(jìn)行頻譜感知。頻譜感知模型如圖1 所示。

圖1 頻譜感知模型

3.1 數(shù)據(jù)預(yù)處理

為了仿真實(shí)際情況，本文對(duì)發(fā)射機(jī)和接收機(jī)分別進(jìn)行仿真，進(jìn)而生成訓(xùn)練集和測(cè)試集。需要指出的是，對(duì)于實(shí)際頻譜感知系統(tǒng)來(lái)說(shuō)，只需要接收機(jī)部分，不需要對(duì)發(fā)射機(jī)信號(hào)進(jìn)行上述處理。QPSK 系統(tǒng)發(fā)射機(jī)與接收機(jī)仿真原理如圖2 所示，發(fā)射信號(hào)通過(guò)串并轉(zhuǎn)換、瑞利衰落信道、加性白高斯噪聲（AWGN,additive white Gaussian noise）加噪，得到接收信號(hào)。加入WGN 的發(fā)射信號(hào)或WGN 通過(guò)正交采樣、低通濾波和抽樣判決，得到I、Q兩路信號(hào)，然后共同組成頻譜感知模型的原始數(shù)據(jù)，即

圖2 QPSK 系統(tǒng)發(fā)射機(jī)與接收機(jī)仿真原理

其中，I(n)、Q(n)分別代表非授權(quán)用戶對(duì)接收到的I、Q兩路信號(hào)。對(duì)I、Q兩路信號(hào)的n個(gè)采樣點(diǎn)（n為M的整數(shù)倍）等距分割可得到M行n/M列的矩陣XI與XQ，其表達(dá)式分別為

對(duì)XI和XQ進(jìn)行歸一化灰度處理，用灰度值表征矩陣歸一化后數(shù)值的大小。以矩陣XI為例，歸一化灰度處理步驟如下。首先，計(jì)算最大值和最小值的差值的倒數(shù)rec 如下

其次，設(shè)xm,n為XI中第m行第n列的數(shù)值，歸一化后的數(shù)值可表示為

將歸一化灰度處理后的XI與XQ作為ResDenNet 頻譜感知模型的輸入。

3.2 捷徑連接和密集連接

本文圖3～圖7 中，實(shí)線箭頭表示任意2 個(gè)卷積層結(jié)構(gòu)的連接，虛線箭頭表示多個(gè)卷積層結(jié)構(gòu)的省略連接。

傳統(tǒng)CNN 頻譜感知方法的結(jié)構(gòu)如圖3 所示，第l層的輸入xl映射為第L層的輸出H(xL)。傳統(tǒng)CNN 頻譜感知方法若堆疊過(guò)多的網(wǎng)絡(luò)層數(shù)，當(dāng)反向傳播更新權(quán)重、偏置以及損失函數(shù)時(shí)，會(huì)導(dǎo)致梯度消失。其原因是，反向傳播采用鏈?zhǔn)角髮?dǎo)方法更新權(quán)值，對(duì)權(quán)值進(jìn)行一系列連乘求偏導(dǎo)，使網(wǎng)絡(luò)淺層部分的梯度接近于0，影響淺層部分的權(quán)值得不到更新，導(dǎo)致頻譜感知模型性能下降。

圖3 傳統(tǒng)CNN 頻譜感知方法的結(jié)構(gòu)

在傳統(tǒng)CNN 頻譜感知方法中加入捷徑連接可以改變梯度的流向，捷徑連接通過(guò)跳過(guò)一個(gè)或多個(gè)Conv實(shí)現(xiàn)輸出與輸入特征圖之間的殘差映射，為基本殘差塊（BRB,basic residual block），其結(jié)構(gòu)如圖4 所示，F(xiàn)(·) 表示殘差特征映射圖，x l的梯度通過(guò)捷徑連接直接傳遞到H(xS)，特征映射圖H(xS)可表示為

圖4 BRB 的結(jié)構(gòu)

殘差學(xué)習(xí)不需要每個(gè)輸入層xl都直接映射一個(gè)最優(yōu)特征映射圖H(xS)，而是利用捷徑連接實(shí)現(xiàn)殘差映射F(xS)=H(xS)-xl，因此原最優(yōu)特征映射圖H(xS)就變成了F(xS)+xl。BRB利用捷徑連接可使xl的梯度信息流向S層，避免了發(fā)生梯度消失問(wèn)題，可利用深層網(wǎng)絡(luò)強(qiáng)大的特征提取能力進(jìn)行頻譜感知。

BRB 并沒(méi)有多次利用每個(gè)Conv 輸出的信息，為加強(qiáng)BRB 的特征提取能力，本文通過(guò)密集連接，改進(jìn)Conv 之間的信息流動(dòng)，使任意不同的Conv實(shí)現(xiàn)特征信息重復(fù)利用，提高網(wǎng)絡(luò)的特征提取能力?；久芗瘔K（BDB,basic dense block）結(jié)構(gòu)如圖5 所示，xl可以直接獲取x0,x1,…,xl-1經(jīng)過(guò)Conv操作后的特征圖信息，xl可表示為

圖5 BDB 的結(jié)構(gòu)

其中，[·] 表示不同特征圖中的密集連接。密集單元內(nèi)部采用密集連接方式，將不同Conv 輸出的特征映射圖連接起來(lái)，實(shí)現(xiàn)了特征圖信息連續(xù)傳遞。

3.3 殘差密集網(wǎng)絡(luò)

ResDenNet 以殘差密集塊（RDB,residual dense block）為基礎(chǔ)，RDB 由多個(gè)Conv 和ReLU 構(gòu)成，起到特征提取的作用，每個(gè)RDB 中的輸出都會(huì)與下一個(gè)RDB 的每個(gè)Conv 的輸出建立捷徑連接，實(shí)現(xiàn)特征圖信息連續(xù)傳遞。第d個(gè)RDB 結(jié)構(gòu)如圖6所示。第d個(gè)RDB 的輸入與輸出分別為Fd-1和Fd，RDB 中第l個(gè)Conv 的輸出為

圖6 第d 個(gè)RDB 結(jié)構(gòu)

其中，Hl(·) 表示含有批處理歸一化（BN,batch normalization）、ReLU、Conv 等操作的復(fù)合函數(shù)。

在RDB 的輸入與輸出之間引入捷徑連接，實(shí)現(xiàn)局部殘差學(xué)習(xí)。RDB 最后的輸出Fd可表示為

通過(guò)將RDB 的輸入和輸出相加實(shí)現(xiàn)局部殘差學(xué)習(xí)，進(jìn)一步提高RDB 的特征提取能力，有助于提高頻譜感知能力。

RDB 將密集連接和捷徑連接的優(yōu)勢(shì)結(jié)合起來(lái)，實(shí)現(xiàn)特征信息連續(xù)傳遞和局部殘差學(xué)習(xí)，可有效緩解梯度消失，實(shí)現(xiàn)更深的網(wǎng)絡(luò)，有望提取頻譜信號(hào)的深層特征，克服傳統(tǒng)CNN 頻譜感知方法特征提取能力受限的問(wèn)題。

本文提出的深層ResDenNet 頻譜感知模型由輸入層、淺層特征提取Conv、多個(gè)RDB 級(jí)聯(lián)、FC和分類標(biāo)簽組成。ResDenNet 頻譜感知模型如圖7所示，本文將含有接收信號(hào)的灰度圖像經(jīng)過(guò)淺層卷積層特征提取F0作為RDB 的輸入，F(xiàn)0表示為

圖7 ResDenNet 頻譜感知模型

其中，xi表示輸入的第i張灰度圖像，W表示xi淺層提取的權(quán)值，H(·) 表示當(dāng)前卷積層的非線性操作函數(shù)。

本文在RDB 內(nèi)引入了捷徑連接，每個(gè)RDB 的輸入都與前面所有RDB 的輸出相連，形成殘差自適應(yīng)學(xué)習(xí)，實(shí)現(xiàn)淺層特征與深層特征自適應(yīng)結(jié)合，充分利用特征圖信息并且優(yōu)化了網(wǎng)絡(luò)模型。RDB 通過(guò)Conv、ReLU 等操作，提取灰度圖像的密集特征，F(xiàn)d的計(jì)算式為

其中，HRDB,d(·) 為第d個(gè)RDB 的非線性操作函數(shù)。

灰度圖像經(jīng)過(guò)所有的RDB 特征提取后的FD表示為

針對(duì)頻譜感知特定的應(yīng)用范圍，利用FC 中Softmax 函數(shù)對(duì)接收信號(hào)進(jìn)行二分類，得到分類標(biāo)簽結(jié)果H0或H1，進(jìn)而完成頻譜感知。

本文設(shè)置ResDenNet 的RDB 內(nèi)部的卷積核大小為1×1，淺層特征提取的卷積核為3×3，每層卷積核的個(gè)數(shù)為8。

3.4 ResDenNet 頻譜感知算法

ResDenNet 算法選擇m對(duì)訓(xùn)練樣本數(shù)據(jù)對(duì)測(cè)試樣本數(shù)據(jù)其中為接收信號(hào)的矩陣，y(·)為接收信號(hào)的分類標(biāo)簽值。訓(xùn)練方法使用動(dòng)量隨機(jī)梯度下降法（SGDM,stochastic gradient descent with momentum），ResDenNet 算法的輸入輸出的映射圖滿足

ResDenNet 訓(xùn)練的損失函數(shù)為

4 實(shí)驗(yàn)結(jié)果及分析

4.1 測(cè)試配置

本節(jié)通過(guò)MATLAB 仿真QPSK 解調(diào)過(guò)程，得到I、Q兩路信號(hào)的N個(gè)采樣點(diǎn)數(shù)值，分割成M行n/M列的矩陣并進(jìn)行歸一化灰度處理。噪聲采用均值為0、方差為1 的WGN（或粉紅噪聲）。為模擬信道衰落效應(yīng)，本節(jié)實(shí)驗(yàn)使用MATLAB 仿真瑞利分布信道。訓(xùn)練時(shí)參數(shù)按高斯分布隨機(jī)初始化，損失函數(shù)為交叉熵誤差函數(shù)，將小批量（MB,mini-batch）設(shè)置為128，使用SGDM 作為訓(xùn)練方法，其中，動(dòng)量因子設(shè)置為0.9，學(xué)習(xí)率設(shè)置為0.01。通過(guò)改變Simulink 的AWGN 模塊參數(shù)，得到不同SNR 下授權(quán)用戶發(fā)射信號(hào)數(shù)據(jù)。

4.2 算法的性能對(duì)比

為了驗(yàn)證所提方法的有效性。本節(jié)設(shè)計(jì)5個(gè)實(shí)驗(yàn)：實(shí)驗(yàn)1 研究網(wǎng)絡(luò)層數(shù)對(duì)ResDenNet、CNN 頻譜感知方法性能的影響；實(shí)驗(yàn)2 考察采樣點(diǎn)數(shù)對(duì)ResDenNet頻譜感知方法性能的影響；實(shí)驗(yàn)3 對(duì)比ResDenNet、CNN[19]和SVM[10]頻譜感知方法的感知效率；實(shí)驗(yàn)4對(duì)比在WGN、粉紅噪聲情況下，ResDenNet、CNN和SVM 頻譜感知方法的Pd；實(shí)驗(yàn)5 比較ResDenNet、CNN 和SVM 頻譜感知方法的受試者工作特征（ROC,receiver operating characteristic）曲線。

1) 網(wǎng)絡(luò)層數(shù)對(duì)ResDenNet、CNN 頻譜感知方法性能的影響

本節(jié)實(shí)驗(yàn)中，2 種網(wǎng)絡(luò)的參數(shù)相同、結(jié)構(gòu)不同。ResDenNet 含有捷徑連接和密集連接，CNN 無(wú)捷徑連接和密集連接。為全面考察網(wǎng)絡(luò)層數(shù)對(duì)ResDenNet、CNN 頻譜感知方法性能的影響，實(shí)驗(yàn)選擇多個(gè)SNR 混合的授權(quán)用戶發(fā)射信號(hào)作為訓(xùn)練樣本：在SNR 為?19～0 dB 范圍內(nèi)以1 dB 為間隔，每種SNR 取50 對(duì)信號(hào)數(shù)據(jù)，組成的1 000 對(duì)信號(hào)數(shù)據(jù)作為有信號(hào)的訓(xùn)練樣本；取1 000 對(duì)WGN 信號(hào)作為沒(méi)有信號(hào)的訓(xùn)練樣本。測(cè)試樣本選取方法如下：每種SNR 取5 對(duì)信號(hào)數(shù)據(jù)，組成的100 對(duì)信號(hào)數(shù)據(jù)作為有信號(hào)的測(cè)試樣本；取100 對(duì)WGN 信號(hào)作為沒(méi)有信號(hào)的測(cè)試樣本。

ResDenNet、CNN 分類準(zhǔn)確率隨網(wǎng)絡(luò)層數(shù)L的變化如圖8 所示。由圖8 可知，當(dāng)L<11 時(shí)，ResDenNet 的準(zhǔn)確率比CNN 略高；當(dāng)L≥11 時(shí)，ResDenNet 的準(zhǔn)確率明顯高于CNN。如當(dāng)L為5、20、74 時(shí)，ResDenNet 的準(zhǔn)確率分別比CNN 高4%、34%、69%。原因在于ResDenNet 的密集連接對(duì)輸入的特征圖信息重利用，提升了ResDenNet 的特征提取能力，并且密集連接和捷徑連接緩解了梯度消失問(wèn)題，有利于提高分類準(zhǔn)確率。從圖8 還可以看出，當(dāng)L=20 層時(shí)，ResDenNet 的準(zhǔn)確率為最大值94%?？梢?jiàn)采用ResDenNet 實(shí)現(xiàn)頻譜感知時(shí)，L并不需要太多，后文ResDenNet 頻譜感知方法取20 層。

圖8 ResDenNet、CNN 準(zhǔn)確率隨網(wǎng)絡(luò)層數(shù)的變化

為了進(jìn)一步說(shuō)明深層CNN 頻譜感知分類準(zhǔn)確率下降是由于梯度消失引起的，圖9 給出了20 層、44 層、74 層ResDenNet、CNN 損失隨迭代次數(shù)的變化。

由圖9 可知，3 種網(wǎng)絡(luò)層數(shù)下ResDenNet 頻譜感知模型的損失波動(dòng)幅度均比CNN 大；20 層、44 層、74 層CNN 頻譜感知模型的損失分別穩(wěn)定在0.63、0.65、0.70 左右。與20 層、44 層CNN 相比，74 層CNN 的損失更為平穩(wěn)。由式(17)可知，損失函數(shù)與有關(guān)，由式(16)可知，映射圖的輸出與W有關(guān)。損失函數(shù)一直處于平穩(wěn)狀態(tài)，可知卷積層的W沒(méi)有進(jìn)行更新，在深層CNN 中發(fā)生了梯度消失，同樣說(shuō)明，本文所提方法梯度消失不嚴(yán)重。

圖9 20 層、44 層、74 層ResDenNet、CNN 損失隨迭代次數(shù)的變化

2) 采樣點(diǎn)數(shù)對(duì)ResDenNet 頻譜感知方法性能的影響

在具體頻譜感知過(guò)程中，可以通過(guò)QPSK 系統(tǒng)獲取不同的采樣點(diǎn)數(shù)，來(lái)完成頻譜感知工作。不同的采樣點(diǎn)數(shù)可能影響ResDenNet 頻譜感知方法的性能。不失一般性，以64、81、100、400、900、1 600 個(gè)采樣點(diǎn)為例，分析ResDenNet 的頻譜感知分類準(zhǔn)確率隨采樣點(diǎn)數(shù)的變化情況，如圖10 所示。

圖10 ResDenNet 準(zhǔn)確率隨采樣點(diǎn)數(shù)的變化

由圖10 可知，隨著采樣點(diǎn)數(shù)增大，ResDenNet頻譜感知分類準(zhǔn)確率總體呈先上升再下降的趨勢(shì)。如當(dāng)SNR=?19 dB，采樣點(diǎn)數(shù)為64、81、100、400、900、1 600 時(shí)，頻譜感知分類準(zhǔn)確率分別為74%、80%、90%、84%、80%、69%。由此可知，I路、Q路的采樣點(diǎn)數(shù)并不需要太多，下面本文以采樣點(diǎn)數(shù)為100 為例，進(jìn)行實(shí)驗(yàn)分析。

3) ResDenNet、CNN 和SVM 頻譜感知方法感知效率的對(duì)比

本節(jié)實(shí)驗(yàn)中，2 種CNN 分別為5 層[19]（對(duì)應(yīng)CNN-5L）和20 層與所提方法具有相同參數(shù)的網(wǎng)絡(luò)結(jié)構(gòu)（對(duì)應(yīng)CNN-20L），ResDenNet 與CNN-20L 不同之處在于有無(wú)捷徑連接和密集連接，訓(xùn)練樣本和測(cè)試樣本選取方法同4.2.1 節(jié)。

幾種算法的Pd、Pfa、訓(xùn)練時(shí)間和感知時(shí)間如表1 所示。由表1 可見(jiàn)，與CNN-20L 相比，本文方法的Pd提升71%，Pfa降低57%，所需訓(xùn)練時(shí)間縮短10%，感知時(shí)間降低12%。這是由于ResDenNet中的捷徑連接和密集連接提高了收斂速度，縮短了訓(xùn)練時(shí)間，同時(shí)緩解深層CNN-20L 由梯度消失帶來(lái)的Pd下降的問(wèn)題。與CNN-5L 相比，本文所提方法的訓(xùn)練時(shí)間增加了26%，感知時(shí)間增加了95%。原因在于本文方法具有20 層深層網(wǎng)絡(luò)，深層網(wǎng)絡(luò)比淺層網(wǎng)絡(luò)提取的特征信息更豐富，計(jì)算量略有提高。盡管如此，本文方法的Pd提升了13%，Pfa降低了68%。與SVM 相比，本文方法的Pd提升了124%，Pfa降低了83%且所需訓(xùn)練時(shí)間增加了113%，感知時(shí)間降低了62%。這是由于ResDenNet 方法訓(xùn)練參數(shù)多于 SVM，因此訓(xùn)練時(shí)間長(zhǎng)。感知階段，ResDenNet 算法可對(duì)接收信號(hào)的灰度圖像直接進(jìn)行頻譜感知，而SVM 算法需重新提取特征參數(shù)，所以ResDenNet 頻譜感知方法所需的感知時(shí)間較短?？紤]到在實(shí)際應(yīng)用中訓(xùn)練過(guò)程一般是一次性完成，而檢測(cè)過(guò)程要實(shí)時(shí)進(jìn)行。因此，本文所提出的ResDenNet在實(shí)際應(yīng)用中是高效可行的頻譜感知方法。

表2 幾種算法的Pd、Pfa、訓(xùn)練時(shí)間和感知時(shí)間

從計(jì)算復(fù)雜度方面分析。n為訓(xùn)練樣本數(shù)量。SVM 算法的復(fù)雜度為算法的復(fù)雜度為其中，L、Fl、Kl和Ql分別為網(wǎng)絡(luò)總層數(shù)、第l層卷積層輸出特征圖長(zhǎng)度、卷積核長(zhǎng)度和輸出通道數(shù)。ResDenNet 與CNN 算法計(jì)算復(fù)雜度的不同之處在于l。ResDenNet 算法中的捷徑連接和密集連接通過(guò)連接任意2 個(gè)卷積層，而CNN 中的l要從第一層堆疊到第L層，因此ResDenNet 減少了訓(xùn)練參數(shù)，降低了計(jì)算復(fù)雜度。3 種算法的計(jì)算復(fù)雜度排序?yàn)?/p>

4) WGN、粉紅噪聲條件下本文方法與傳統(tǒng)CNN 和SVM 頻譜感知方法的Pd

本節(jié)實(shí)驗(yàn)中傳統(tǒng)CNN 頻譜感知方法使用了經(jīng)典的5 層網(wǎng)絡(luò)結(jié)構(gòu)，SNR 在?19～0 dB 范圍內(nèi)以1 dB 為間隔變化，每種SNR 下取非授權(quán)用戶測(cè)得的1 000 對(duì)信號(hào)數(shù)據(jù)，同時(shí)取1 000 對(duì)WGN噪聲數(shù)據(jù)為訓(xùn)練樣本數(shù)據(jù)，每種SNR 下取非授權(quán)用戶測(cè)得的100 對(duì)信號(hào)數(shù)據(jù)，同時(shí)取100 對(duì)WGN或粉紅噪聲數(shù)據(jù)為測(cè)試樣本數(shù)據(jù)。

當(dāng)測(cè)試樣本中的噪聲為WGN 時(shí)，圖11 給出了ResDenNet、CNN 和SVM 頻譜感知方法在SNR 為?19～0 dB 的Pd。由圖11 可見(jiàn)，當(dāng)SNR

圖11 ResDenNet、CNN 和SVM 頻譜感知方法在不同SNR、測(cè)試樣本噪聲為WGN 下的Pd

大多數(shù)傳統(tǒng)頻譜感知方法都是基于噪聲是高斯白噪聲的假設(shè)。然而，在實(shí)際頻譜感知過(guò)程中，通信信道會(huì)不可避免地受到粉紅噪聲的影響。所以本文進(jìn)一步驗(yàn)證了所提方法在粉紅噪聲頻譜感知環(huán)境下的泛化能力。為了進(jìn)一步說(shuō)明ResDenNet 方法對(duì)不同噪聲功率不確定性具有穩(wěn)健性，圖12 比較了在不同SNR、3 種方法不同噪聲不確定性（P=(1.0,1.1,1.2) dB，P為噪聲不確定性因子）下的Pd。

由圖12 可知，當(dāng)存在噪聲功率不確定性時(shí)，本文方法的頻譜感知性能幾乎不受影響，說(shuō)明了該方法對(duì)噪聲功率不確定性具有穩(wěn)健性。當(dāng)SNR

圖12 不同SNR、3 種方法不同噪聲不確定性下的Pd

5) 本文方法與傳統(tǒng)CNN、SVM 頻譜感知方法的ROC 曲線

記錄1 000 次的Pfa與Pd得到ResDenNet、CNN和SVM 頻譜感知方法的ROC 曲線，如圖13 所示。傳統(tǒng)CNN 頻譜感知方法使用經(jīng)典的5 層網(wǎng)絡(luò)結(jié)構(gòu)，以SNR=?19 dB 為例，訓(xùn)練樣本取非授權(quán)用戶測(cè)得的1 000 對(duì)信號(hào)和1 000 對(duì)WGN，測(cè)試樣本取非授權(quán)用戶測(cè)得的100 對(duì)信號(hào)和100 對(duì)WGN。

圖13 ResDenNet、CNN 和SVM 頻譜感知方法的ROC 曲線

由圖13 可知，在Pfa一定時(shí)，本文方法的Pd高于CNN、SVM 方法。例如，在Pfa為0.1 時(shí)，ResDenNet、CNN、SVM 的Pd分別為0.96、0.75、0.46。其原因是ResDenNet 頻譜感知方法使用局部殘差學(xué)習(xí)結(jié)合了接收信號(hào)的淺層和深層的特征，提高了頻譜感知模型的特征提取能力，改善了卷積層中信息傳遞，提高了頻譜感知的Pd。

5 結(jié)束語(yǔ)

傳統(tǒng)CNN 頻譜感知方法的特征圖信息利用率低、不易訓(xùn)練深層網(wǎng)絡(luò)來(lái)提升頻譜感知的準(zhǔn)確率。本文在傳統(tǒng)CNN 頻譜感知方法中加入捷徑連接和密集連接，提出一種基于ResDenNet 的頻譜感知方法。數(shù)值實(shí)驗(yàn)及理論分析表明，該方法充分利用特征圖信息并且采用深層網(wǎng)絡(luò)訓(xùn)練頻譜感知模型，可提取更豐富、更深層的頻譜信號(hào)矩陣圖像特征，有助于提高灰度圖像識(shí)別和分類的準(zhǔn)確率，進(jìn)而提升頻譜感知性能。與傳統(tǒng)CNN、SVM算法相比，本文提出的ResDenNet 頻譜感知方法在Pfa一致的情況下，有著較高的Pd，當(dāng)Pd一致時(shí)本文方法的Pfa較低，且對(duì)不同特性噪聲下的頻譜感知問(wèn)題具有較強(qiáng)的泛化能力。下一步擬進(jìn)一步研究殘差密集網(wǎng)絡(luò)在多用戶協(xié)作式頻譜感知方法中的應(yīng)用。