基于混合注意力原型網(wǎng)絡(luò)的調(diào)制識別算法

龐伊瓊,許華,蔣磊,史蘊豪,彭翔

(空軍工程大學(xué) 信息與導(dǎo)航學(xué)院,陜西 西安 710077)

通信信號調(diào)制識別技術(shù)是電磁頻譜管理、通信偵察、電子對抗等領(lǐng)域的關(guān)鍵技術(shù)之一。傳統(tǒng)的調(diào)制識別方法可分為基于決策論的似然比檢驗方法(likelihood-based,LB)[1]和基于特征提取的模式識別方法(feature-based,FB)[2],但這兩類方法都有其局限性。LB方法的分類模型參數(shù)是針對特殊環(huán)境設(shè)置的,任何微小偏差都會使識別準(zhǔn)確率下降;FB方法依賴于人工提取的特征,對于特征的表征性要求較高。近年來,深度學(xué)習(xí)技術(shù)展現(xiàn)出了強大的數(shù)據(jù)處理能力,在圖像識別、機器翻譯、目標(biāo)檢測等領(lǐng)域都有大量研究的成果。2016年O′Shea[3-4]等首次將深度卷積神經(jīng)網(wǎng)絡(luò)(convolution neural network,CNN)用于解決調(diào)制識別問題,通過與傳統(tǒng)FB方法對比,證明了利用深度CNN對大量密集編碼的時序信號直接進行學(xué)習(xí)是可行的。目前,已經(jīng)有大量的研究成果[5-7]將深度學(xué)習(xí)技術(shù)應(yīng)用于調(diào)制識別領(lǐng)域,CNN與循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)[8-10]的組合網(wǎng)絡(luò)也進一步提高了不同樣式調(diào)制信號的識別準(zhǔn)確率。然而以上基于深度學(xué)習(xí)的調(diào)制識別算法的成功很大程度上依賴于大量的訓(xùn)練數(shù)據(jù),但在實際偵察環(huán)境中,面對新出現(xiàn)的調(diào)制類型,往往無法獲得足夠的帶標(biāo)簽樣本,限制了深度學(xué)習(xí)在調(diào)制識別中的應(yīng)用。因此需要對小樣本條件下的調(diào)制識別方法進行深入研究。

數(shù)據(jù)增強[11](data augmentation,DA)和遷移學(xué)習(xí)[12](transfer learning,TL)是目前針對樣本數(shù)據(jù)量不足的主要解決方法。數(shù)據(jù)增強借助已有的一些信息生成新數(shù)據(jù),擴充訓(xùn)練樣本集。文獻[13]中通過一個全連接網(wǎng)絡(luò)對大量無標(biāo)簽數(shù)據(jù)進行自動標(biāo)注,當(dāng)每類信號樣本量只有600時就能達到85%以上的平均識別率。遷移學(xué)習(xí)通常先通過源數(shù)據(jù)集對網(wǎng)絡(luò)模型進行預(yù)訓(xùn)練,然后采用目標(biāo)數(shù)據(jù)集對網(wǎng)絡(luò)的頂層進行參數(shù)微調(diào),適用于目標(biāo)數(shù)據(jù)集與源數(shù)據(jù)集分布相似的問題。通過使用基于參數(shù)的遷移學(xué)習(xí)方法[10,14-15]對網(wǎng)絡(luò)模型進行預(yù)優(yōu)化,減少了對樣本量的需求。文獻[10]采用預(yù)訓(xùn)練過的AlexNet網(wǎng)絡(luò)進行調(diào)制識別,在目標(biāo)數(shù)據(jù)集每類信號樣本量只有100時就達到了89%以上的識別準(zhǔn)確率。上述方法要達到較好的識別性能仍需至少數(shù)百個訓(xùn)練樣本,然而偵察環(huán)境中有時只能獲取十幾甚至幾個信號樣本,遠不能滿足以上2種方法對樣本量的需求,在這種極少量樣本條件下，以上2種方法都難以適用。

人類善于用以往學(xué)習(xí)的經(jīng)驗指導(dǎo)對新事物的學(xué)習(xí),例如首次見到老虎的兒童可能會將其描述為一只腦袋上有“王”字的“大花貓”,“大花貓”作為已知概念有助于兒童快速掌握“老虎”這個新事物。受此啟發(fā)針對元學(xué)習(xí)的研究應(yīng)運而生。元學(xué)習(xí)[16]也稱學(xué)會學(xué)習(xí),即令模型可利用以往任務(wù)中學(xué)過的知識或經(jīng)驗去快速學(xué)習(xí)新的任務(wù),近年來在解決小樣本問題方面取得了很大的進展。在訓(xùn)練過程中,元學(xué)習(xí)可以通過對每一項歷史任務(wù)的學(xué)習(xí),積累一定的知識經(jīng)驗,如網(wǎng)絡(luò)的參數(shù)更新策略[17]、初始化參數(shù)[18]等,這使得學(xué)習(xí)新任務(wù)時更加容易,從而在極少的訓(xùn)練樣本支持下也能保證算法精度。度量學(xué)習(xí)[19]在解決小樣本問題時將已知樣本和待測樣本映射到合適的特征度量空間,通過指定的距離函數(shù)計算2個樣本間的距離,從而度量它們之間的相似性。

本文結(jié)合度量學(xué)習(xí)與元學(xué)習(xí)的思想,提出一種基于混合注意力原型網(wǎng)絡(luò)的調(diào)制識別算法。在原型網(wǎng)絡(luò)框架下設(shè)計了由CNN與長短時記憶(long short-term memory,LSTM)網(wǎng)絡(luò)級聯(lián)的特征提取網(wǎng)絡(luò),同時為進一步提高網(wǎng)絡(luò)性能,在特征提取網(wǎng)絡(luò)中引入了卷積自注意力模塊(convolutional block attention module,CBAM)。該原型網(wǎng)絡(luò)通過特征提取網(wǎng)絡(luò)將帶標(biāo)簽信號樣本和待識別信號樣本映射至統(tǒng)一的特征度量空間,在該空間內(nèi)將同類信號的均值作為類原型代表該類信號,并通過比較待識別信號與不同類原型之間的歐式距離來確定最終識別結(jié)果。為實現(xiàn)元學(xué)習(xí)目的,算法采用一種基于Episode的訓(xùn)練策略優(yōu)化模型參數(shù),即通過從訓(xùn)練集中隨機抽樣出大量不同的小樣本學(xué)習(xí)任務(wù)來模擬測試場景的識別任務(wù)。模型通過訓(xùn)練將學(xué)習(xí)到一個合適的特征度量空間,進而在面對新類型的調(diào)制信號時只需要極少量樣本就可以實現(xiàn)快速分類。

1 相關(guān)工作

1.1 原型網(wǎng)絡(luò)

原型網(wǎng)絡(luò)的基本思想是創(chuàng)建每個類的類原型點,并根據(jù)類原型點與測試點之間的歐氏距離進行分類。具體地,給定支持集DS和查詢集DQ,則類原型為DS中每類信號樣本的平均特征向量,其中第k類信號的類原型可表示為

(1)

式中：fφ表示特征提取網(wǎng)絡(luò);φ為網(wǎng)絡(luò)參數(shù)；xkn表示第k類的第n個樣本；K表示DS中第k類樣本的樣本量。

假設(shè)x為來自DQ的待識別樣本,通過計算樣本x的特征向量與各類原型間的歐式距離,并將所得距離利用Softmax函數(shù)進行歸一化處理,樣本x屬于第k類樣本的概率為

(2)

式中，d表示一種距離度量函數(shù),一般為歐氏距離。

訓(xùn)練過程中利用負(fù)對數(shù)概率損失函數(shù)J(φ)=-lnpφ(y=k|x)計算損失,并使用隨機梯度下降法最小化訓(xùn)練損失。

1.2 訓(xùn)練策略

本文算法針對極少量帶標(biāo)簽樣本下的調(diào)制識別難題,給定訓(xùn)練集Dbase和測試集Dnovel,其中Dbase內(nèi)包含多種類型的調(diào)制信號,且每類調(diào)制信號都擁有大量帶標(biāo)簽信號樣本;Dnovel由支持集DS和查詢集DQ組成,即Dnovel={DS,DQ},DS中每類調(diào)制信號含有少量帶標(biāo)簽樣本,DQ中為未知的待識別信號樣本。測試集中查詢集DQ和支持集DS的樣本標(biāo)簽空間相同且與訓(xùn)練集Dbase的樣本標(biāo)簽空間不相交。在測試時網(wǎng)絡(luò)模型需要在只有DS中少量帶標(biāo)簽樣本的條件下識別出DQ中未知信號的調(diào)制樣式,即DS和DQ組成一個識別任務(wù)。若DS中包含C類調(diào)制信號,且每類信號都擁有K個樣本,將此類任務(wù)稱為C-wayK-shot任務(wù)。

為充分利用訓(xùn)練集內(nèi)的帶標(biāo)簽樣本,采用一種基于Episode的訓(xùn)練策略,即在訓(xùn)練時模擬測試過程中的小樣本設(shè)置,從訓(xùn)練集中采樣多個小樣本的任務(wù)對網(wǎng)絡(luò)進行優(yōu)化,使訓(xùn)練好的模型可以泛化到測試環(huán)境中。具體地,針對C-wayK-shot任務(wù),在每次訓(xùn)練迭代過程中,網(wǎng)絡(luò)模型都從Dbase中隨機地選擇C種類別信號組成樣本集DV,然后從DV的每類信號中隨機抽取K個樣本組成元支持集DTS,DTS模擬測試階段的支持集DS,最后再從集合DV-DTS(DV中不屬于DTS的樣本)中的每類信號中隨機抽取NQ個樣本組成元查詢集DTQ,DTQ用于模擬測試階段的查詢集DQ。通過這種訓(xùn)練策略優(yōu)化得到的模型對測試階段新類型的信號樣本具有良好的泛化性能。訓(xùn)練過程中損失函數(shù)J(φ)的迭代計算偽代碼如表1所示。

表1 訓(xùn)練偽代碼

2 基于混合注意力原型網(wǎng)絡(luò)的調(diào)制識別算法

2.1 算法模型

本文算法整體框圖如圖1所示,算法模型可分為2個模塊:特征提取模塊和類原型度量模塊。為提取到信號樣本更具代表性的特征,其中特征提取模塊設(shè)計為由CNN和LSTM級聯(lián)的特征提取網(wǎng)絡(luò)(CLN),CLN可充分提取信號不同維度的特征;同時通過在CLN中引入CBAM使得網(wǎng)絡(luò)在特征提取過程中更加關(guān)注對分類有益的特征。模型通過特征提取模塊將信號樣本映射至統(tǒng)一的特征度量空間,由類原型模塊進行距離度量并確定待識別信號的調(diào)制樣式。

圖1 混合注意力原型網(wǎng)絡(luò)算法整體框圖

本文算法的實現(xiàn)可分為訓(xùn)練和測試2個過程。根據(jù)元學(xué)習(xí)思想,算法在訓(xùn)練過程中采用一種基于Episode的訓(xùn)練策略,該策略不針對特定信號的識別進行訓(xùn)練,而是利用在每次訓(xùn)練迭代過程中隨機選取的幾類信號組成識別任務(wù)去訓(xùn)練網(wǎng)絡(luò),使網(wǎng)絡(luò)學(xué)習(xí)如何將原始信號轉(zhuǎn)化為更易于分類的表示,即在訓(xùn)練過程中學(xué)習(xí)分類的經(jīng)驗。通過大量不同識別任務(wù)優(yōu)化得到的模型對新任務(wù)具有良好的泛化性能,根據(jù)以往的經(jīng)驗可在測試過程中只有極少量帶標(biāo)簽樣本條件下實現(xiàn)對新類信號的識別。

2.2 CLN-CBAM特征提取模塊

針對信號序列內(nèi)的時序特征,本文設(shè)計由CNN和LSTM搭建的特征提取模塊CLN,可充分提取信號不同維度的特征,同時在CLN網(wǎng)絡(luò)中引入CBAM模塊,組成CLN-CBAM特征提取模塊,其中CBAM模塊可以從通道域和空間域2個維度建立特征權(quán)重向量,使網(wǎng)絡(luò)更加關(guān)注對分類有益的特征。

2.2.1 卷積注意力模塊

CBAM注意力模塊是一種簡單且高效的注意力模塊,其是輕量級的通用模塊,運算開銷很小,故可集成到任何前饋CNN架構(gòu)中,并與基礎(chǔ)卷積網(wǎng)絡(luò)一起進行端到端的訓(xùn)練,CBAM的整體結(jié)構(gòu)如圖2所示。CBAM是一種結(jié)合通道(channel)和空間(spatial)的注意力機制,每個子注意力模塊通過增加關(guān)鍵特征的權(quán)重比值,抑制冗余特征,提高深度神經(jīng)網(wǎng)絡(luò)的性能。通道注意力模塊和空間注意力模塊如圖3～4所示。

圖2 CBMA注意機制整體結(jié)構(gòu)

圖3 通道注意力模塊

圖4 空間注意力模塊

2.2.2 CLN-CBAM特征提取網(wǎng)絡(luò)

本文所提特征提取網(wǎng)絡(luò)CLN-CBAM結(jié)合了不同神經(jīng)網(wǎng)絡(luò)的性能優(yōu)勢,并引入了卷積注意力模塊,有助于原型網(wǎng)絡(luò)算法識別準(zhǔn)確率提升。CLN-CBAM網(wǎng)絡(luò)中包含5個卷積塊,卷積塊由1個卷積層、1個批量歸一化層、1個ReLU激活函數(shù)和1個最大池化層組成。為防止網(wǎng)絡(luò)在訓(xùn)練過程中出現(xiàn)過擬合,在最大池化層后設(shè)置1個Dropout層,并在每個卷積塊后插入CBAM模塊。本文仿真所用數(shù)據(jù)為通信信號的I、Q 2路分量,數(shù)據(jù)格式為[1 024,2],基于此卷積核大小分別設(shè)置7×2,5×2,3×2,2×1,2×1,卷積核數(shù)量分別為16,32,64,128,256,最大池化層核大小都設(shè)置為3×1。卷積塊完成特征提取后,將特征序列展開成一維數(shù)據(jù)送入全連接層,最后再通過LSTM輸出特征。網(wǎng)絡(luò)結(jié)構(gòu)如圖5所示。

圖5 CLN-CBAM結(jié)構(gòu)圖

2.3 算法實現(xiàn)流程

本文算法利用訓(xùn)練集模擬測試階段的識別場景,訓(xùn)練完成的網(wǎng)絡(luò)可泛化到測試過程的C-wayK-shot任務(wù),具體實現(xiàn)步驟如下:

步驟1信號樣本采樣。從訓(xùn)練集中隨機選取C類樣本,并從每類樣本中隨機抽取K個樣本組成元支持集DTS,再從每類剩余樣本中隨機抽取NQ個樣本組成元查詢集DTQ。

步驟2特征映射。由CLN-CBAM特征提取網(wǎng)絡(luò)將DTS和DTQ中的樣本映射到低維的特征度量空間,得到DTS和DTQ中信號樣本的特征向量。

步驟3類原型度量。將DTS中每類信號的平均特征向量作為類原型,并計算DTQ中樣本特征向量與各個類原型的歐氏距離,將歐氏距離輸入Softmax函數(shù),計算查詢樣本屬于每個類的概率,由負(fù)對數(shù)概率損失函數(shù)計算損失對網(wǎng)絡(luò)進行訓(xùn)練。

步驟4由測試集(測試集與訓(xùn)練集標(biāo)簽空間不相交)對網(wǎng)絡(luò)進行測試。將含有少量帶標(biāo)簽信號樣本的支持集DS和待識別信號樣本送入訓(xùn)練好的特征提取網(wǎng)絡(luò),由類原型度量模塊確定待識別信號的調(diào)制樣式。

3 實驗仿真與結(jié)果分析

實驗選取RadioML2018.01A公開調(diào)制信號集[4]驗證本文所提算法性能。該信號集由24種調(diào)制信號組成,各個信號包括I、Q 2路數(shù)據(jù),數(shù)據(jù)格式為[1 024,2],信噪比分布從-20～30 dB,間隔為2 dB。本文算法訓(xùn)練和測試階段所用信號樣本的標(biāo)簽空間不相交,隨機選取14種調(diào)制信號作為訓(xùn)練集,另外10種作為測試集,在信噪比為-20～30 dB的條件下進行實驗仿真。訓(xùn)練集、測試集調(diào)制樣式如表2所示。

表2 實驗數(shù)據(jù)集

實驗?zāi)Ｐ驮趐ython深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)pytorch框架下進行搭建,硬件平臺為基于windows 7、32 GB內(nèi)存、NVDIA P4000顯卡的計算機。實驗?zāi)Ｐ筒捎枚说蕉说挠?xùn)練方式,Adam優(yōu)化網(wǎng)絡(luò),初始學(xué)習(xí)率為0.001,測試階段從測試集中采樣1 000組相互獨立測試任務(wù)來計算算法的識別準(zhǔn)確率,并采用所有測試任務(wù)識別準(zhǔn)確率的平均值來表示算法最終的識別性能。

3.1 支持集樣本量(K值)對識別性能影響

為驗證元支持集/支持集內(nèi)每類信號樣本量(K值)對本文算法識別準(zhǔn)確率的影響,本節(jié)在K值分別為1,5,10,15,20時進行對比實驗。網(wǎng)絡(luò)訓(xùn)練集和測試集如表2所示，特征提取模塊為CLN-CBAM網(wǎng)絡(luò)。本節(jié)仿真實驗針對5類調(diào)制信號的識別任務(wù),即5-wayK-shot任務(wù),元查詢集/查詢集樣本量NQ設(shè)置為10。不同樣本量下算法測試識別準(zhǔn)確率隨信噪比的變化情況如圖6所示。

圖6 不同K值下算法識別準(zhǔn)確率變化曲線

本文所提原型網(wǎng)絡(luò)通過比較待測信號樣本特征向量與支持集內(nèi)各類信號類原型間的距離確定識別結(jié)果,信號類原型取支持集內(nèi)各類調(diào)制信號樣本特征向量的平均,故改變支持集中信號樣本量(K值)會對算法的識別準(zhǔn)確率產(chǎn)生影響。如圖6所示,隨著支持集內(nèi)信號樣本量K的增加,算法的測試識別準(zhǔn)確率也在進一步提升。這是由于在特征度量空間中支持集內(nèi)的每類信號都存在一個類原型點,各類原型點間相互遠離,原型網(wǎng)絡(luò)將每類信號樣本特征向量的平均值作為該類信號的類原型估計點,隨著樣本量K值增加,會減少真實類原型點與類原型估計點間的偏差,降低信號識別時產(chǎn)生的期望風(fēng)險,有助于提升算法的識別準(zhǔn)確率。從圖6可以看出,當(dāng)支持集內(nèi)信號樣本量K較小時,K值的增加對網(wǎng)絡(luò)識別性能提升有較大影響,然而當(dāng)K值大于5后,增加樣本量對算法識別性能的提升效果趨緩。例如在測試信號信噪比為20 dB時,當(dāng)支持集內(nèi)每類信號樣本量K值從1增加到5時,算法的識別準(zhǔn)確率提升了9.01%,但當(dāng)K值從5增加到10時,算法識別準(zhǔn)確率僅提升了1.23%,這表明本文算法更適宜解決帶標(biāo)簽信號樣本只有幾個的調(diào)制識別問題。

3.2 樣本類別量(C值)對識別性能的影響

在支持集內(nèi)每類信號包含5個樣本時,驗證樣本類別量C值對于網(wǎng)絡(luò)識別準(zhǔn)確率的影響,設(shè)置任務(wù)支持集內(nèi)信號類別量C為3,5,10,元查詢集/查詢集內(nèi)信號樣本量NQ值為15,當(dāng)算法特征提取模塊為CLN-CBAM,對比C-way 5-shot測試任務(wù)平均識別準(zhǔn)確率,不同類別量(C值)下信號識別率隨信噪比變化曲線如圖7所示。

圖7 不同C值下算法識別準(zhǔn)確率變化曲線

從圖中可以看出隨著支持集樣本類別量C值增加,網(wǎng)絡(luò)識別性能下降。當(dāng)測試任務(wù)支持集內(nèi)包含10類調(diào)制信號樣本時,在信號信噪比為20 dB時算法識別精度只有75.52%,相較于支持集中含3類調(diào)制信號時減少了15.45%。這是由于支持集內(nèi)樣本類別的增多會增加網(wǎng)絡(luò)模型的學(xué)習(xí)難度,提升在度量空間判斷2個信號特征相似性的復(fù)雜度,使得網(wǎng)絡(luò)訓(xùn)練不易收斂,進而導(dǎo)致算法識別性能下降。

3.3 不同特征提取網(wǎng)絡(luò)下算法識別性能分析

為驗證本文所提CLN-CBAM特征提取網(wǎng)絡(luò)對于本文原型網(wǎng)絡(luò)算法識別性能的影響,實驗設(shè)置CLN、CLN-CBAM、ConvNet、Resnet18[20]、Resnet18-CBAM、Resnet34[20]6種不同網(wǎng)絡(luò)作為本文算法模型的特征提取模塊。采用表2所示數(shù)據(jù)集,在5-way 5-shot任務(wù)下進行訓(xùn)練測試,元查詢集/查詢集樣本量NQ設(shè)置為15,不同特征提取模塊下實驗測試平均識別準(zhǔn)確率隨不同信噪比水平的變化如圖8所示。采用不同特征提取網(wǎng)絡(luò)所需訓(xùn)練的網(wǎng)絡(luò)參數(shù)量以及訓(xùn)練時間如表3所示。

圖8 不同特征提取網(wǎng)絡(luò)下原型網(wǎng)絡(luò)的識別性能

表3 網(wǎng)絡(luò)參數(shù)量和訓(xùn)練時間

由圖8可得,當(dāng)信噪比大于10 dB時,采用本文所提的CLN-CBAM特征提取網(wǎng)絡(luò)的算法識別性能最優(yōu)。主要原因在于本文所提特征網(wǎng)絡(luò)結(jié)合了CNN與LSTM的性能優(yōu)勢,可同時提取到調(diào)制信號的空間特征與時序特征,對比ConvNet特征提取網(wǎng)絡(luò),采用CLN特征提取網(wǎng)絡(luò)的算法識別準(zhǔn)確率在信噪比為20 dB時提升了4.67%,同時為使所提特征向量更具代表性,本文在CLN特征提取網(wǎng)絡(luò)中引入了CBAM模塊,使得網(wǎng)絡(luò)在提取信號樣本特征時能夠更加關(guān)注對分類有益的部分,實驗結(jié)果表明在測試信號信噪比為20 dB時,CLN-CBAM特征提取網(wǎng)絡(luò)算法針對5-way 5-shot測試任務(wù)的平均識別準(zhǔn)確率為85.68%，相較于CLN特征提取網(wǎng)絡(luò)下的算法識別準(zhǔn)確率提升了5.01%。由表3可知,對比Resnet18、Resnet18-CBAM、Resnet34特征提取網(wǎng)絡(luò),CLN-CBAM所需訓(xùn)練的網(wǎng)絡(luò)參數(shù)和訓(xùn)練時長都更少,但采用CLN-CBAM特征提取網(wǎng)絡(luò)的算法識別性能更優(yōu),這是由于Resnet網(wǎng)絡(luò)只能提取信號樣本的空間特征,特征向量代表性較低,增加特征提取網(wǎng)絡(luò)復(fù)雜度無法有效提升算法的識別性能。

3.4 不同小樣本學(xué)習(xí)算法性能對比分析

為驗證本文所提算法相較于其他小樣本調(diào)制識別算法的性能優(yōu)勢,本節(jié)選取基于數(shù)據(jù)增強(data augmentation,DA)和基于遷移學(xué)習(xí)(transfer learning,TL)的小樣本調(diào)制識別算法以及另外3種元學(xué)習(xí)算法進行對比實驗,分別為關(guān)系網(wǎng)絡(luò)(relation network,RN)[21]、匹配網(wǎng)絡(luò)(Matching Networks,MN)[22]以及模型無關(guān)元學(xué)習(xí)(model agnostic meta learning,MAML)[23]。選取16APSK、32QAM、FM、AM-SSB-SC、4ASK 5類調(diào)制信號組成信號樣本集,為保證實驗結(jié)果的可靠性,將該樣本集作為DA和TL算法的數(shù)據(jù)集以及本文算法和RN、MN、MAML算法的測試集,將其余19類調(diào)制信號用于元學(xué)習(xí)算法的訓(xùn)練階段。當(dāng)測試信號信噪比為20 dB時,不同算法下的最高識別準(zhǔn)確率以及實現(xiàn)最高識別準(zhǔn)確率時所需樣本量如表4所示。本文算法與對比算法針對5類調(diào)制信號在訓(xùn)練/支持集每類信號樣本量為“5-shot”時的測試識別準(zhǔn)確率隨信噪比的變化情況如圖9所示。

表4 不同小樣本調(diào)制識別算法性能對比

圖9 不同小樣本調(diào)制識別算法識別準(zhǔn)確率對比

從圖9中可以看出,TL和DA算法的識別性能明顯低于4種元學(xué)習(xí)算法,相較于本文算法,當(dāng)測試信號信噪比為20 dB時,TL和DA算法在“5-shot”時識別準(zhǔn)確率分別降低了37.81%和53.3%,主要原因在于TL和DA算法在信號樣本量只有幾個時訓(xùn)練無法收斂,從而導(dǎo)致算法識別性能的顯著下降。由表4可知,TL和DA算法要實現(xiàn)最優(yōu)的識別性能至少需要數(shù)百個訓(xùn)練樣本,無法解決只有幾個帶標(biāo)簽信號樣本條件下的調(diào)制識別問題。同時對比本文算法與RN、MN以及MAML 3種元學(xué)習(xí)算法,本文算法取得了最優(yōu)的識別效果,分析其原因在于,RN和MN方法屬于基于度量的元學(xué)習(xí)方法,不同之處在于,RN通過神經(jīng)網(wǎng)絡(luò)度量樣本間的相似度,MN采用余弦距離度量樣本間的相似度,而本文原型網(wǎng)絡(luò)算法采用歐氏距離度量樣本間的相似度,歐氏距離屬于Bregman散度,利用Bregman散度的性質(zhì)[19],可使不同類調(diào)制信號樣本集合在特征度量空間內(nèi)的差異性最大,故可取得更好的識別效果。MAML通過對多個任務(wù)的學(xué)習(xí)為網(wǎng)絡(luò)尋找到一個最優(yōu)的初始化參數(shù),使得網(wǎng)絡(luò)在面對新類別信號的識別任務(wù)時能夠快速適應(yīng),但MAML算法在面對新類信號識別任務(wù)時需要對網(wǎng)絡(luò)進行微調(diào),由于樣本量較少,難以適用參數(shù)量較大的網(wǎng)絡(luò),這限制了網(wǎng)絡(luò)識別性能的進一步提升。從實驗結(jié)果可知,在測試信號信噪比為20 dB時,本文算法相較于MAML算法的識別準(zhǔn)確率在樣本量為“5-shot”下提高了29.97%和18.45%。

3.5 數(shù)據(jù)集樣本類別對網(wǎng)絡(luò)的影響

本文算法仿真實驗所用數(shù)據(jù)集由24類調(diào)制信號組成,其中包含19類數(shù)字調(diào)制信號和5類模擬調(diào)制信號,數(shù)字調(diào)制信號又分為調(diào)幅、調(diào)相、調(diào)頻等多種不同調(diào)制信號,不同類的調(diào)制信號具有不同的特點,識別難度也相對不同。由于本文所提原型網(wǎng)絡(luò)算法在訓(xùn)練階段和測試階段所用信號樣本的標(biāo)簽空間不相交,故訓(xùn)練集和測試集中樣本類別的選取也會對網(wǎng)絡(luò)識別準(zhǔn)確率產(chǎn)生一定影響。根據(jù)各類調(diào)制信號的特點將數(shù)據(jù)集劃分為4種不同分集進行對比實驗,為使實驗結(jié)果更具代表性,每次劃分?jǐn)?shù)據(jù)集都選取5類調(diào)制信號組成測試集,10類調(diào)制信號組成訓(xùn)練集,具體劃分方式如表5所示。

表5 實驗數(shù)據(jù)集分集

本次實驗設(shè)置特征提取模塊為CLN-CBAM網(wǎng)絡(luò),驗證在5-way 5-shot學(xué)習(xí)任務(wù)下測試集的識別準(zhǔn)確率,當(dāng)信噪比為20 dB時,實驗結(jié)果如圖10所示,4種不同分集的識別準(zhǔn)確率分別為92.67%,82.63%,79.46%,82.78%,不同分集之間識別準(zhǔn)確率有一定差異。由表5可知,分集1,2,3的訓(xùn)練集都是由數(shù)字調(diào)制信號組成,而分集3的測試識別準(zhǔn)確率最低。分集3的測試集由5種不同進制的相移鍵控(phase shift keying,PSK)調(diào)制信號組成,不同進制PSK信號間相似度較高,容易造成混淆,提高了識別難度。分集1的測試集是由不同類數(shù)字調(diào)制信號組成,各類信號相似度較低,且與訓(xùn)練集中的數(shù)字調(diào)制信號有一定相似度,故分集1的測試識別準(zhǔn)確率最高。分集2測試集都為模擬調(diào)制信號,測試識別準(zhǔn)確率相較于分集1有明顯下降,但由于不同模擬調(diào)制信號特征間有一定差異,故相較于分集3測試識別準(zhǔn)確率有一定提高。分集4由隨機挑選出來的調(diào)制信號組成,訓(xùn)練集與測試集都包含數(shù)字調(diào)制信號與模擬調(diào)制信號,在信噪比20 dB時,測試識別準(zhǔn)確率可達82.78%。由實驗結(jié)果可知,本文所提算法可適應(yīng)訓(xùn)練集與測試集樣本類別不同的場合,特別地,當(dāng)訓(xùn)練集與測試集樣本類別差距較大時,該算法也能較好完成小樣本的調(diào)制識別任務(wù),并且使用樣本類別豐富度更高的訓(xùn)練集有利于識別準(zhǔn)確率的提高。

圖10 數(shù)據(jù)集樣本對識別準(zhǔn)確率的影響

4 結(jié) 論

本文針對極少量帶標(biāo)簽樣本條件下的調(diào)制識別難題,結(jié)合度量學(xué)習(xí)與元學(xué)習(xí)的思想,提出一種混合注意力原型網(wǎng)絡(luò)的調(diào)制識別算法。根據(jù)調(diào)制信號樣本特征設(shè)計了由CNN與LSTM級聯(lián)的CLN特征提取網(wǎng)絡(luò),并在當(dāng)中引入CBAM模塊,可使網(wǎng)絡(luò)提取到的信號特征更具代表性。實驗結(jié)果驗證了本文所設(shè)計的CLN-CBAM特征提取網(wǎng)絡(luò)可進一步提高原型網(wǎng)絡(luò)算法的識別性能。同時為更好地從少量數(shù)據(jù)中學(xué)習(xí),算法以元學(xué)習(xí)的方式進行訓(xùn)練,即利用訓(xùn)練集模擬測試時的識別場景,學(xué)習(xí)信號分類的經(jīng)驗。訓(xùn)練完成的網(wǎng)絡(luò)模型具有很好的泛化性能,在測試時面對新類信號,即使只有幾個帶標(biāo)簽樣本也能保證算法的識別性能算法。仿真實驗結(jié)果進一步驗證了本文算法解決小樣本調(diào)制識別問題的可行性。本文算法信號識別率還有一定提升空間,后續(xù)將在此基礎(chǔ)上進行更深入的研究。