基于注意力殘差網(wǎng)絡(luò)的Wi-Fi設(shè)備的射頻指紋識別

張凱 郭劍黎 胡軍星 任俊霞 譚磊

0 引言

隨著計算機技術(shù)和通信技術(shù)的不斷發(fā)展和日趨成熟,無線網(wǎng)絡(luò)技術(shù)在軍事和民用場景都有很重要的研究意義．無線網(wǎng)絡(luò)通信技術(shù)為人類帶來了巨大的便利,在推動科學(xué)技術(shù)發(fā)展的同時,也帶來了一些安全隱患問題．當(dāng)前的無線身份認(rèn)證方式通?；?02.1x安全協(xié)議,該協(xié)議所存在的安全漏洞使其易受到統(tǒng)計分析攻擊[1]．因此,尋找一種新型的安全機制對用戶和設(shè)備進行雙重身份認(rèn)證是非常重要的．近年來，越來越多的人開始致力于物理層技術(shù)的研究,提出了基于射頻指紋[2]的設(shè)備認(rèn)證方法,其原理是從無線設(shè)備的射頻信號中提取得到射頻指紋,借助這種體現(xiàn)設(shè)備物理層特征的射頻指紋進行無線設(shè)備的身份驗證,通過這種將射頻指紋和生物指紋相結(jié)合的認(rèn)證方案可以更好地增強無線網(wǎng)絡(luò)的安全性[3]．另外,在全球定位系統(tǒng)或來自衛(wèi)星的GPS由于各種障礙物不能跟蹤信號的情況下,還可以結(jié)合射頻指紋技術(shù)進行室內(nèi)行人定位[4]．將射頻指紋識別技術(shù)和行人航位推算技術(shù)結(jié)合,可以估算出更精確的行人位置,彌補傳統(tǒng)定位系統(tǒng)的不足．

現(xiàn)代的射頻設(shè)備認(rèn)證相關(guān)研究主要基于瞬態(tài)信號、穩(wěn)態(tài)信號等方向．基于瞬態(tài)信號的研究主要局限在于,瞬態(tài)信號是由無線發(fā)射機設(shè)備開關(guān)機時發(fā)出的瞬時信號,信號的持續(xù)時間非常短,通常是微秒級甚至亞微秒級,難以采集．穩(wěn)態(tài)信號相比于瞬態(tài)信號持續(xù)時間長,易于采集和分析,但是實際環(huán)境更為復(fù)雜,采集的實驗條件通常與實際應(yīng)用場景中的環(huán)境條件有一定的差異,這是普遍存在的一個問題．另外,影響射頻指紋識別性能的眾多因素還有待研究,因此,從新的角度出發(fā)來思考和解決從穩(wěn)態(tài)信號中提取設(shè)備的射頻指紋特征具有長遠的發(fā)展前景．

近年來,一些學(xué)者開始嘗試使用機器學(xué)習(xí)技術(shù)對暫態(tài)信號、調(diào)制信號等產(chǎn)生的指紋進行設(shè)備身份識別,取得了一定的成果,但仍然存在不少問題.實驗條件通常與實際應(yīng)用場景中的環(huán)境條件存在著差異,Wi-Fi信號的信息離散、稀疏且存在噪聲,降維的方法通常會損失部分信息,而使用二維圖的卷積神經(jīng)網(wǎng)絡(luò)又很難避免過擬合,所以，以往的方法難以兼顧精度和泛化能力,魯棒性通常較差．

本文針對特定的實際通信應(yīng)用場景,提出了基于注意力殘差網(wǎng)絡(luò)的Wi-Fi設(shè)備指紋認(rèn)證技術(shù)．殘差網(wǎng)絡(luò)[5]使用低于傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)量,實現(xiàn)深層網(wǎng)絡(luò)的訓(xùn)練,可以加速神經(jīng)網(wǎng)絡(luò)的收斂．使用殘差網(wǎng)絡(luò)構(gòu)建深層的網(wǎng)絡(luò)結(jié)構(gòu)用于Wi-Fi設(shè)備指紋認(rèn)證,可以降低過擬合的風(fēng)險,從而提高識別準(zhǔn)確率．瓶頸注意力模塊[6]的提出,是為了關(guān)注圖像中的重要特征,抑制不必要的特征,提高模型的表達能力．利用其提取重要特征的能力,通過提高離散指紋信息的權(quán)重并抑制噪聲的影響,可以有效應(yīng)對Wi-Fi信號的離散信息和噪聲,獲得更好的識別效果．通過制作數(shù)據(jù)集,改進模型和驗證,最后在32個Wi-Fi設(shè)備進行了射頻指紋識別的測試,取得了超越卷積神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)特征提取方法的性能,提升了準(zhǔn)確率和魯棒性．本文的主要貢獻有:

1)提取Wi-Fi信號的二維射頻頻譜圖像特征作為Wi-Fi信號指紋特征,提取數(shù)據(jù)對象包含30個以上的Wi-Fi模塊,覆蓋802.11b標(biāo)準(zhǔn)的2.4 GHz模塊．

2)針對二維射頻指紋圖像的稀疏性特點,分別添加空間和通道上的注意力機制,構(gòu)建了面向Wi-Fi信號識別的注意力殘差網(wǎng)絡(luò)．

3)制作了覆蓋802.11b標(biāo)準(zhǔn)的2.4 GHz模塊Wi-Fi射頻數(shù)據(jù)集,對不同設(shè)備數(shù)量、采樣率以及不同信噪比下高斯噪聲進行了對比實驗．實驗結(jié)果表明,本文改進的注意力殘差網(wǎng)絡(luò)相比于卷積神經(jīng)網(wǎng)絡(luò)方法和傳統(tǒng)特征工程方法均有更好的準(zhǔn)確率和魯棒性．

1 相關(guān)工作

Tekbas等[7]利用設(shè)備開關(guān)的暫態(tài)特征實現(xiàn)設(shè)備身份的指紋識別,最后利用概率神經(jīng)網(wǎng)絡(luò)對設(shè)備指紋進行識別,取得了一定的效果．Brik等[8]利用無線網(wǎng)絡(luò)設(shè)備的調(diào)制信號識別技術(shù)來進行設(shè)備身份認(rèn)證．Danev等[9]首次提出了基于調(diào)制信號和頻譜響應(yīng)信號的射頻設(shè)備物理層認(rèn)證技術(shù)．射頻指紋(RFF)這一概念最早出現(xiàn)于文獻[2],他們通過提取藍牙通信信號中的射頻指紋,進行藍牙無線設(shè)備的識別．隨著射頻指紋提取技術(shù)的研究不斷深入,出現(xiàn)了多種射頻指紋的提取、分類和識別方法.由于無線信號可以分為瞬態(tài)信號和穩(wěn)定信號,因此相應(yīng)的射頻指紋識別技術(shù)也可以分為基于瞬態(tài)信號和基于穩(wěn)定信號兩大類[10]．1995年,Toonstra等[11]在對VHF(Very High Frequency,甚高頻)FM(Frequency Modulation,調(diào)頻)發(fā)射機的研究過程中,提出了一種從瞬態(tài)信號中提取出用于識別發(fā)射機的特征的方法．瞬態(tài)信號研究,在過去十幾年有了充分的發(fā)展[12-13]．雖然瞬態(tài)信號能夠體現(xiàn)一個無線發(fā)射機設(shè)備獨特的硬件特征,但是瞬態(tài)信號是由無線發(fā)射機設(shè)備開關(guān)機時發(fā)出的瞬時信號,系統(tǒng)設(shè)備需要精確檢測可識別信號的起始與結(jié)束,這部分信號的持續(xù)時間非常短,通常是微秒級甚至亞微秒級,很難采集．此外,精確檢測瞬態(tài)信號的起始點難度大,并且存在瞬態(tài)射頻指紋特征受環(huán)境、信道變化的影響較大等問題[14]．2008年以后,研究者開始更多關(guān)注基于穩(wěn)態(tài)信號的射頻指紋提取.Kennedy等[15]首次對基于穩(wěn)態(tài)信號的射頻指紋提取進行了研究．在其研究中將通用移動通信系統(tǒng)的前導(dǎo)信號變換為頻譜,并以此作為設(shè)備的射頻指紋用于通用移動通信系統(tǒng)設(shè)備的識別．之后,穩(wěn)態(tài)信號提取的射頻指紋識別技術(shù)也得到了關(guān)注,并取得了一定的成果[16-18]．近年來,有許多研究利用機器學(xué)習(xí)算法識別設(shè)備指紋,從而實現(xiàn)設(shè)備身份的認(rèn)證[19]．趙翔等[20]將直流電PWM整流器的電壓波形信號做為輸入,利用深度神經(jīng)網(wǎng)絡(luò)實現(xiàn)了故障識別．李曉波等[21]利用小波變換提取電弧信號特征,提出一種基于深度神經(jīng)網(wǎng)絡(luò)的配電網(wǎng)單相接地故障識別．許立武等[22]對擾動信號做不完全S變換,提取電能質(zhì)量擾動信號的特征,構(gòu)建深度前饋網(wǎng)絡(luò)擾動分類器實現(xiàn)了擾動識別．賈濟鋮等[23]使用圍線積分方法將二維雙譜降維至一維,再使用SVM進行分類識別．Ding等[24]將雙譜作為 RFF,使用卷積神經(jīng)網(wǎng)絡(luò)用于設(shè)備識別．Pan等[25]使用希爾伯特-黃變換處理信號后再利用深度卷積網(wǎng)絡(luò)進行識別．

雖然現(xiàn)有研究探索了許多射頻指紋識別的方法,但仍存在一些問題．主要體現(xiàn)在:1) 傳統(tǒng)方法雖然在特定設(shè)備的射頻識別上有較好的精度,但射頻設(shè)備類型繁多,當(dāng)設(shè)備數(shù)量較大且類型較多時,傳統(tǒng)方法會體現(xiàn)出泛化能力不足、精度下降的問題；2) 當(dāng)前使用機器學(xué)習(xí)實現(xiàn)射頻指紋識別的研究較少,且射頻數(shù)據(jù)不足,缺乏基于數(shù)據(jù)特征針對性的改進,在識別精度上相對傳統(tǒng)方法提升不大．

2 基于注意力殘差網(wǎng)絡(luò)的射頻指紋識別

2.1 射頻指紋識別總體方案設(shè)計

通常,射頻設(shè)備識別系統(tǒng)由五部分構(gòu)成:輻射源設(shè)備、信號采集裝置、預(yù)處理模塊、指紋特征提取模塊、分類識別模塊．信號采集裝置通常為示波器、頻譜儀及軟件無線電等無線信號接收裝置,通過對設(shè)備參數(shù)的合理配置來采集輻射源設(shè)備的無線信號;預(yù)處理模塊的功能是通過信號的截取、功率歸一化等處理方法,將采集的無線信號處理成可以進行射頻指紋特征計算提取的有用信號段;指紋特征提取模塊是通過各種信號處理方法對預(yù)處理后的信號進行信號域的變換,并設(shè)計算法計算得到射頻指紋特征;將該射頻指紋特征輸入分類識別模塊進行輻射源設(shè)備的識別,即可得到待識別輻射源設(shè)備的身份.信號識別部分是該系統(tǒng)的核心部位.本文基于注意力殘差網(wǎng)絡(luò)實現(xiàn)信號識別,進一步提高信號的識別精度．本文將基于深度學(xué)習(xí)的方法與射頻指紋識別過程相結(jié)合,其基本系統(tǒng)框圖如圖1所示．

圖1 射頻指紋提取與分類識別系統(tǒng)框圖Fig.1 Block diagram of RFF extraction and identification system

2.2 基于雙譜變換的射頻指紋提取

雙譜是現(xiàn)代信號處理高階統(tǒng)計分析中應(yīng)用廣泛的特征,本文采用非參數(shù)化雙譜估計法提取雙譜二維圖像作為射頻指紋[24]．

1)每個設(shè)備采集到的信號數(shù)據(jù)有N個信號觀測值,記為{r(i),i=1,2,3,…,N}．

2)將信號數(shù)據(jù)平均分為K段,每段包含L個觀測值,記第k段信號的L個觀測值為rk(1),rk(2),…,rk(L),k=0,1,…,K．

3)計算每段信號的離散傅里葉變換系數(shù):

(1)

式中,λ=0,1,…,L/2．

4)計算三階相關(guān)函數(shù):

Rk(λ2+i2)Rk(-λ1-λ2-i1-i2)，

(2)

式中,0≤λ2≤λ1,λ1+λ2≤fs/2,fs為采樣頻率,Δ0=fs/N,N0與M1滿足L=(2M1+1)N．

5)取所有信號段的三階累積量的平均值作為該組數(shù)據(jù)的三階累計量估計值,得到雙譜估計圖像:

(3)

2.3 基于注意力殘差網(wǎng)絡(luò)的指紋特征分類

殘差網(wǎng)絡(luò)[5]的提出,在深度學(xué)習(xí)領(lǐng)域很好地緩解了模型冗余、易過擬合和梯度消失等問題．殘差結(jié)構(gòu)是訓(xùn)練深層卷積神經(jīng)網(wǎng)絡(luò)的一種有效策略．然而,二維射頻指紋中包含的有效信息較為稀疏,且包含不確定的噪聲,僅使用深層的殘差網(wǎng)絡(luò)進行訓(xùn)練很可能導(dǎo)致過擬合,對噪聲的適應(yīng)能力較差．為解決以上問題,本文對網(wǎng)絡(luò)模型的改進如下:

1)注意力機制如同人會把焦點目光聚集在圖像的重要物體上一樣,在網(wǎng)絡(luò)的前向傳播過程中,我們將在空間和通道兩個路徑上添加注意力機制,使網(wǎng)絡(luò)能夠更關(guān)注指紋圖像中的有效空間信息．本文在殘差網(wǎng)絡(luò)中添加了瓶頸注意力模塊(Bottleneck Attention Module,BAM)[6]．BAM模塊由三條路徑組成,分別是空間注意力、通道注意力和直連的跨層路徑(圖2)．其具體工作機制如下:

圖2 BAM 注意力模塊Fig.2 Bottleneck attention module

對于任意的輸入特征圖F∈RC×H×W,都可以得到一個空間注意力特征圖As(F)∈RC×H×W和通道注意力特征圖Ac(F)∈RC×H×W,并由式(4)計算得到精煉后的特征圖F′∈RC×H×W:

F′=F+F?σ(As(F)+Ac(F)),

(4)

式中?為逐元素相乘,σ為Sigmoid函數(shù)．As(F)和Ac(F)的計算方法分別如下:

(5)

Ac(F)=BN(Fc(AvgPool(F))),

(6)

式中f為卷積操作,上標(biāo)為卷積核尺寸,Fc為全連接層．通過注意力模塊精煉特征圖的方式,讓神經(jīng)網(wǎng)絡(luò)更關(guān)注射頻指紋的有效信息,提高對噪聲的適應(yīng)能力．通過添加BAM注意力機制可以使網(wǎng)絡(luò)更加關(guān)注內(nèi)部特征的相關(guān)性,能夠自適應(yīng)地提取注意力圖并細化特征．

經(jīng)改進后的注意力殘差單元如圖3所示．其中,x表示上一層的特征輸入,F(x)為殘差學(xué)習(xí)后的輸出，y為最后整個殘差單元的輸出,BN為批歸一化層[26],BAM為注意力模塊．

圖3 改進的注意力殘差單元Fig.3 Improved attention residual block

2)傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)中通常會在輸出層直接連接全連接層,而所占參數(shù)量非常大且易過擬合.為進一步解決過擬合,本文采用全局平均池化層[27](Global Average Pooling)代替網(wǎng)絡(luò)的全連接層,通過全局平均池化層與最大池化層相融合的池化操作,網(wǎng)絡(luò)既可以捕捉到全局信息,又可以學(xué)習(xí)到更細節(jié)的特征．

圖4 改進注意力殘差網(wǎng)絡(luò)結(jié)構(gòu)Fig.4 Improved attention residual network structure

(7)

式中pj表示全連接層第j個網(wǎng)絡(luò)節(jié)點輸出值．

3 仿真實驗與結(jié)果分析

3.1 數(shù)據(jù)集及實驗環(huán)境介紹

本次實驗中采用的硬件環(huán)境配置為Intel(R) Core(TM) i7-9700 CPU 64位處理器、32 GB內(nèi)存,并采用GTX 2080運算加速,操作系統(tǒng)為Ubuntu 16.04．?dāng)?shù)據(jù)處理方法為按1 000點的長度信號從頭截取,訓(xùn)練集測試集隨機拆分,拆分比例為9∶1,損失函數(shù)采用交叉熵函數(shù),優(yōu)化器采用Adam．設(shè)置初始學(xué)習(xí)率為0.001,最大訓(xùn)練輪數(shù)為40輪．

數(shù)據(jù)集為2.4 GHz Wi-Fi模塊的Beacon幀信號,來源于Kaggle開源數(shù)據(jù)(http:∥www.kaggle.com/).在channel 1、2、3、5、6號傳輸信道使用40、80和160 MHz采樣率進行基帶信號采集,并使用FSW13及FSV7頻譜儀以及FSQ頻譜儀設(shè)備進行補充采集．基于2.4 GHz Wi-Fi模塊構(gòu)建的數(shù)據(jù)集如表1所示．

表1 2.4 GHz Wi-Fi模塊數(shù)據(jù)集

3.2 對比實驗結(jié)果

為進行充分的分析和驗證深度學(xué)習(xí)算法的性能,本文將注意力殘差網(wǎng)絡(luò)、基于積分雙譜變換的傳統(tǒng)算法[23]以及卷積神經(jīng)網(wǎng)絡(luò)(CNN)方法[24],在同等實驗環(huán)境下進行了對比,實驗結(jié)果如表2所示．

表2 不同的算法在數(shù)據(jù)集的識別精度

傳統(tǒng)算法的射頻指紋識別方法在不同采樣率、不同信道環(huán)境、不同信號采集方式下有較好的識別效果．基于卷積神經(jīng)網(wǎng)絡(luò)的方法在多種工況下超越了傳統(tǒng)算法,具有一定的魯棒性．而本文提出的注意力殘差網(wǎng)絡(luò)的方法的識別精度大多超過90%,均高于卷積神經(jīng)網(wǎng)絡(luò)的方法和積分雙譜變換法．

3.3 性能分析

本節(jié)主要進行射頻指紋識別系統(tǒng)的性能仿真測試,包括識別設(shè)備數(shù)目、高斯噪聲信噪比(SNR)對系統(tǒng)識別性能的影響．

3.3.1 待識別設(shè)備數(shù)目影響測試

設(shè)備數(shù)量的增加會增大識別難度,實驗結(jié)果如圖5所示.隨著待識別設(shè)備數(shù)目的增加,識別率會有所下降,但在進行32個Wi-Fi模塊的識別時注意力殘差網(wǎng)絡(luò)依然可以達到約90%的識別精度,高于積分雙譜變換算法86%和卷積神經(jīng)網(wǎng)絡(luò)89%的識別率,說明基于注意力殘差網(wǎng)絡(luò)的方法具有一定的進行大量設(shè)備準(zhǔn)確識別的潛力,相較于傳統(tǒng)方法,更能抵御由于設(shè)備數(shù)目增大帶來的負面影響,魯棒性更強．

圖5 不同設(shè)備數(shù)量的識別率曲線Fig.5 Recognition rate curve for different number of devices

3.3.2 不同SNR下高斯白噪聲的影響

本文通過在實際數(shù)據(jù)集中以不同SNR加入高斯白噪聲來模擬有噪信道,并測試這種影響下射頻指紋系統(tǒng)的識別性能．使用MATLAB的awgn信道模型進行仿真實驗．

實驗結(jié)果如圖6所示.采樣率對積分雙譜變換法受不同的識別精度產(chǎn)生較大影響，卷積神經(jīng)網(wǎng)絡(luò)法受采樣率變換影響較小,而注意力殘差網(wǎng)絡(luò)法除-5 dB 時160 MHz采樣率的識別精度略微下降,其他SNR下幾乎不受采樣率的影響,當(dāng)SNR大于20 dB時可以達到96%的識別精度,表現(xiàn)出了很好的準(zhǔn)確度和魯棒性．

圖6 射頻指紋識別精度隨SNR變化曲線Fig.6 Curve of RFF recognition accuracy change with SNR on sampling rate of 40 MHz (a),80 MHz (b) and 160 MHz (c)

4 結(jié)束語

本文采用注意力殘差網(wǎng)絡(luò)對數(shù)據(jù)進行了識別并取得了優(yōu)異的識別效果.在同等實驗條件下,相比于傳統(tǒng)方法和卷積神經(jīng)網(wǎng)絡(luò)方法,注意力殘差網(wǎng)絡(luò)擁有更好準(zhǔn)確率,并且具有很高的魯棒性．但該網(wǎng)絡(luò)計算量較大,下一步將著力于構(gòu)建輕量化的網(wǎng)絡(luò)結(jié)構(gòu),使算法更具實用性．