基于注意力機(jī)制的混合CNN-BiLSTM低軌衛(wèi)星信道預(yù)測(cè)算法

唐一強(qiáng), 楊霄鵬, 朱圣銘

(空軍工程大學(xué)信息與導(dǎo)航學(xué)院, 陜西 西安 710077)

0 引 言

低軌道衛(wèi)星通信系統(tǒng)作為地面通信的補(bǔ)充和延伸,擁有通信范圍廣、受地形影響小等特點(diǎn)。但是對(duì)于長(zhǎng)距離的衛(wèi)星通信鏈路,信道質(zhì)量將會(huì)受到自由空間的傳播損耗、大氣中氧分子、水蒸氣分子等氣體分子的吸收損耗,極端情況下更有云、霧、雨、雪等不良環(huán)境條件引起的嚴(yán)重衰落[1-2]。在低頻段的傳輸鏈路中,雨滴造成的影響較小,可以通過(guò)預(yù)留一些鏈路余量解決通信需求;但在高頻段傳輸鏈路中,如Ka和Q/V頻段,雨滴將會(huì)產(chǎn)生強(qiáng)大的吸收、散射、閃爍和去極化效應(yīng)[3-4],造成的影響將嚴(yán)重制約通信質(zhì)量。據(jù)統(tǒng)計(jì),降雨所造成的年平均衰減值能達(dá)到20 dB以上。為提高鏈路質(zhì)量,傳統(tǒng)的解決辦法是在鏈路預(yù)算時(shí)將最大鏈路衰減考慮進(jìn)去,通過(guò)增大發(fā)射功率的方式減小衰減的影響。但這卻忽視了衛(wèi)星信道受天氣時(shí)變的影響,在天氣條件好的時(shí)候,根據(jù)鏈路最壞狀態(tài)下確定的模式將會(huì)造成大量資源的浪費(fèi)[5]。由此,研究人員提出了鏈路自適應(yīng)(link adaptive, LA)傳輸技術(shù),對(duì)信道狀態(tài)信息(channel state information, CSI)進(jìn)行實(shí)時(shí)反饋,調(diào)整發(fā)射端的功率和頻率策略,自適應(yīng)地改變發(fā)射參數(shù),提高衛(wèi)星通信系統(tǒng)傳輸效率[6]。

衛(wèi)星信道固有的傳輸延遲引起的信息“不及時(shí)”的問(wèn)題,極大地制約了自適應(yīng)技術(shù)的發(fā)展。如何獲得更加準(zhǔn)確的衛(wèi)星信道信息是實(shí)現(xiàn)衛(wèi)星傳輸效率提升的基礎(chǔ)。為解決信道質(zhì)量指數(shù)“過(guò)時(shí)”的問(wèn)題,必須對(duì)衛(wèi)星信道進(jìn)行超前預(yù)測(cè)[7],以獲得更精確的信道傳輸參數(shù)發(fā)射通信信號(hào)。信道預(yù)測(cè)的研究方向大體上可以分為兩類(lèi)。一類(lèi)是線(xiàn)性預(yù)測(cè)方法,其主要思想是以線(xiàn)性組合的方式將當(dāng)前時(shí)刻和過(guò)去時(shí)刻的信道結(jié)合起來(lái)[8],達(dá)到預(yù)測(cè)未來(lái)時(shí)刻信道信息的目的。典型的應(yīng)用是基于自回歸(auto regressive, AR)模型的預(yù)測(cè)方法[9]。在這個(gè)方法中,常用Yule-Walker和Burg等方法表示多個(gè)信息狀態(tài)采樣值的權(quán)值,再使用加權(quán)和表示預(yù)測(cè)值。鄭添月等[10]提出了一種改進(jìn)的卡爾曼濾波的AR預(yù)測(cè)算法,對(duì)多輸入多輸出(multiple input multiple output, MIMO)信道在角度時(shí)延域進(jìn)行預(yù)測(cè),仿真結(jié)果表明該方法在噪聲環(huán)境中優(yōu)于傳統(tǒng)模型。趙旦峰等[11]提出了一種研究衰落信號(hào)的自適應(yīng)長(zhǎng)期預(yù)測(cè)機(jī)制(adaptive long-range prediction,ALRP),在信道理論值上添加歸一化加權(quán)和自回歸模型思想,用最小化均方自適應(yīng)跟蹤方法更新系數(shù)的方式來(lái)預(yù)測(cè)信道狀態(tài)和衰落信號(hào)。結(jié)果表明,該機(jī)制能實(shí)現(xiàn)有效的預(yù)測(cè),具有復(fù)雜度低和實(shí)時(shí)性的特點(diǎn)。雖然線(xiàn)性預(yù)測(cè)方法在慢時(shí)變信道中擁有較好的預(yù)測(cè)性能,但是其不適用于低軌衛(wèi)星高動(dòng)態(tài)性的通信環(huán)境。

另一類(lèi)是非線(xiàn)性預(yù)測(cè)方法,典型的預(yù)測(cè)方法有深度學(xué)習(xí)和支持向量機(jī)(support vector machine, SVM)的方法。文獻(xiàn)[12]以L(fǎng)oo模型為基礎(chǔ),提出一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的信道感知模型,仿真表明該模型無(wú)論在信噪比估計(jì)還是信道預(yù)測(cè)中都有較好的表現(xiàn),但是該方法為了避免過(guò)擬合的問(wèn)題隨機(jī)置零部分權(quán)重,預(yù)測(cè)精確度不能得到保證。文獻(xiàn)[13]選用長(zhǎng)短時(shí)記憶(long-short term memory, LSTM)快速擬合短波快/慢變化特征,利用多層神經(jīng)網(wǎng)絡(luò)對(duì)歷史經(jīng)驗(yàn)數(shù)據(jù)進(jìn)行分析和預(yù)測(cè),但是單次訓(xùn)練的預(yù)測(cè)網(wǎng)絡(luò)模型不適用于長(zhǎng)期數(shù)據(jù)的規(guī)律變化,另外由于存在信噪比估計(jì)誤差,在持續(xù)預(yù)測(cè)過(guò)程中將會(huì)產(chǎn)生累積誤差,導(dǎo)致預(yù)測(cè)精度越來(lái)越低。文獻(xiàn)[14]針對(duì)高速移動(dòng)信道條件下的正交頻分復(fù)用(orthogonal frequency division multiplexing, OFDM)系統(tǒng),利用反向傳播(back-propagation, BP)神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練、再訓(xùn)練和線(xiàn)上預(yù)測(cè)完成時(shí)變信道的預(yù)測(cè)。該方法采用隨機(jī)初始化方式訓(xùn)練網(wǎng)絡(luò),沒(méi)有將初始參數(shù)對(duì)預(yù)測(cè)性能的影響考慮在內(nèi),預(yù)測(cè)精度需要重新考量。同時(shí),BP算法存在泛化能力不強(qiáng)、學(xué)習(xí)速度較慢以及局部最優(yōu)等缺陷。文獻(xiàn)[15]利用回聲狀態(tài)網(wǎng)絡(luò)(echo state network, ESN)在時(shí)間序列上預(yù)測(cè)及非線(xiàn)性建模,具有良好的非線(xiàn)性逼近能力。但是由于該方法的權(quán)重矩陣初始化是隨機(jī)的,并且無(wú)法對(duì)權(quán)重矩陣更新,因此具有較低的信道預(yù)測(cè)精度。文獻(xiàn)[16]在高速鐵路通信背景下給出了一種基于SVM的信道預(yù)測(cè)方法,利用遺傳算法優(yōu)化懲罰系數(shù)和高斯核寬度,可以獲得較高的預(yù)測(cè)精度。但是,該方法是低緯度空間向高緯度空間的映射,算法復(fù)雜度高。

為解決上述問(wèn)題,本文提出一種混合型神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方式,在注意力機(jī)制的作用下,高效地分配權(quán)重值,應(yīng)對(duì)衛(wèi)星信道的長(zhǎng)期變化。仿真結(jié)果表明,在模擬的低軌道衛(wèi)星通信環(huán)境中,基于注意力機(jī)制的卷積神經(jīng)和雙向LSTM神經(jīng)網(wǎng)絡(luò)(attention-convolutional neural network and bi-directional LSTM neural network, AT-CNN-BiLSTM)融合算法能夠有效地適應(yīng)變化的信道環(huán)境,預(yù)測(cè)準(zhǔn)確率高于CNN-BiLSTM方法的86.2%、SVM方法的81.7%、AT-BiLSTM方法的76.1%和AT-CNN方法的72.5%,大約為91.8%,由此可見(jiàn)本文所提出的方法可以達(dá)到較高的預(yù)測(cè)精度。

1 系統(tǒng)模型

本文提出了一種基于注意力機(jī)制的混合CNN-BiLSTM系統(tǒng)模型,如圖1所示。該模型由CNN網(wǎng)絡(luò)、BiLSTM網(wǎng)絡(luò)、融合層和全連接層4部分構(gòu)成。該模型的主要思路為:在通道1中,利用BiLSTM網(wǎng)絡(luò)進(jìn)行雙向全局時(shí)間特征的充分提取;同時(shí),在通道2中,利用一維卷積神經(jīng)網(wǎng)絡(luò)(one-dimensional convolutional neural network, 1DCNN)對(duì)時(shí)序信號(hào)沿時(shí)間軸正方向進(jìn)行局部非相關(guān)性特征的提取,以獲得更多的時(shí)間特征,并在注意力機(jī)制的作用下合理地選擇分配權(quán)重;然后將通道1和通道2的數(shù)據(jù)特征進(jìn)行融合,實(shí)現(xiàn)特征合并;最后通過(guò)全連接層(full connected layer, FC)進(jìn)行回歸層預(yù)測(cè)。通道中引入Dropout層的目的在于防止模型出現(xiàn)過(guò)擬合,引入批歸一化的目的在于提高模型收斂速度,實(shí)現(xiàn)較低的訓(xùn)練時(shí)間。

圖1 混合CNN-BiLSTM系統(tǒng)模型

低軌道衛(wèi)星信道預(yù)測(cè)的目的在于提供及時(shí)的信道狀態(tài)信息反饋,提高自適應(yīng)傳輸?shù)哪芰?。設(shè)xt是在當(dāng)前時(shí)刻t衛(wèi)星終端所觀測(cè)到的信號(hào)值。在當(dāng)前時(shí)刻t,終端的任務(wù)根據(jù)給定的歷史數(shù)據(jù){xt}(t=τ-nΔ,…,τ-Δ,τ),預(yù)測(cè)時(shí)間間隔t+hΔ的衛(wèi)星信道信號(hào)。在本文中,設(shè)采樣間隔Δ=0.1 s,n=1 500,0≤h≤150,即過(guò)去150 s的歷史數(shù)據(jù)可以用來(lái)預(yù)測(cè)未來(lái)15 s后的信道。由于衛(wèi)星信道參數(shù)是隨機(jī)且非線(xiàn)性的,因此一個(gè)好的信道模型應(yīng)能夠捕捉這些特征,特征學(xué)習(xí)是建立高效的預(yù)測(cè)模型的基礎(chǔ)。衛(wèi)星信道的預(yù)測(cè)特征表現(xiàn)為強(qiáng)烈的時(shí)間序列相關(guān)性,即以往時(shí)間的信道信號(hào)值嚴(yán)重影響到預(yù)測(cè)的性能。

設(shè)ft表示觀測(cè)位置在時(shí)刻t的精確信號(hào)值,觀測(cè)位置自時(shí)間t-nΔ到t的信號(hào)采樣可以表示為xt=[ft-n,ft-(n-1),…,ft]T。在后續(xù)文中為便于描述,省略本文中的符號(hào)Δ,將t-nΔ表述為t-n。

2 低軌道衛(wèi)星信道預(yù)測(cè)網(wǎng)絡(luò)

2.1 CNN-BiLSTM

該模塊是整個(gè)模型的核心部分,由1DCNN和BiLSTM網(wǎng)絡(luò)組成,其輸入是一個(gè)時(shí)間信號(hào)矩陣xt。卷積神經(jīng)網(wǎng)絡(luò)依據(jù)局部連接和權(quán)值共享的方式利用一維卷積核濾波器進(jìn)行卷積、池化和特征提取。卷積層運(yùn)算過(guò)程表示如下:

Ft=σ(Ws*xt+bs)

(1)

式中:σ表示激活函數(shù);Ws表示濾波器的權(quán)重;*表示卷積運(yùn)算;bs表示偏置。

為解決前一時(shí)刻的輸入對(duì)后一時(shí)刻產(chǎn)生影響的時(shí)間序列問(wèn)題,Pineda[17]設(shè)計(jì)出了循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)。該網(wǎng)絡(luò)是一種依據(jù)時(shí)間序列連接的神經(jīng)網(wǎng)絡(luò),各節(jié)點(diǎn)之間連接形成一個(gè)有向圖,非常適用于具有一定相關(guān)性的相鄰數(shù)據(jù)的處理。但是RNN有一個(gè)嚴(yán)重的缺陷,即當(dāng)輸入的數(shù)據(jù)和求解輸出的時(shí)間過(guò)長(zhǎng)時(shí),信息之間的相關(guān)性會(huì)降低,無(wú)法對(duì)之后的輸出產(chǎn)生影響,由此帶來(lái)歷史信息丟失造成誤判,即帶來(lái)長(zhǎng)時(shí)依賴(lài)時(shí)問(wèn)題。為解決這個(gè)問(wèn)題,Hochreiter等[18]在1997年提出改進(jìn)型神經(jīng)網(wǎng)絡(luò)——LSTM網(wǎng)絡(luò),其結(jié)構(gòu)如圖2所示。

圖2 LTSM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖

新設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)由輸入門(mén)、輸出門(mén)和遺忘門(mén)3個(gè)乘法結(jié)構(gòu)組成。LSTM使用遺忘門(mén)來(lái)確定在當(dāng)前單元狀態(tài)下保留了先前單元狀態(tài)的多少信息,并使用輸入門(mén)來(lái)決定在當(dāng)前單元狀態(tài)下需要保存輸入的多少信息。LSTM的一次更新過(guò)程如下:

(2)

it=σ(Wxi·xt+Whi·ht-1+Wci·ct-1+bi)

(3)

ft=σ(Wxf·xt+Whf·ht-1+Wcf·ct-1+bf)

(4)

(5)

ot=σ(Wxo·xt+Who·ht-1+Wco·ct-1+bo)

(6)

ht=ot*tanh(ct)

(7)

yt=Wyh·ht+by

(8)

雙向傳播長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)如圖3所示,通過(guò)LSTM的隱藏層達(dá)到正向和反向兩個(gè)方向的計(jì)算,通過(guò)雙向LSTM神經(jīng)網(wǎng)絡(luò)可以獲得更多的數(shù)據(jù)特征。BiLSTM更新過(guò)程如下:

圖3 BiLSTM結(jié)構(gòu)示意圖

h+=LSTM+(ht-1,xt)

(9)

h-=LSTM-(ht+1,xt)

(10)

(11)

2.2 注意力機(jī)制

在認(rèn)知神經(jīng)科學(xué)領(lǐng)域中,面對(duì)信息處理的瓶頸,人類(lèi)選擇性地關(guān)注信息中的某一部分,忽略其他可見(jiàn)的不太重要的信息。人類(lèi)視網(wǎng)膜具有不同程度的信息處理能力,即敏銳度,只有視網(wǎng)膜中央才具有最強(qiáng)的敏銳度。這樣的目的在于更加合理地利用有限的資源處理信息。同理,注意力機(jī)制就是為解決信息超載問(wèn)題的一種合理資源分配方案[19],將計(jì)算任務(wù)分配給相對(duì)更加重要的任務(wù)。

文獻(xiàn)[20]的神經(jīng)網(wǎng)絡(luò)引入了一種注意力機(jī)制,通過(guò)對(duì)數(shù)據(jù)時(shí)間片段分配不同的權(quán)重,使信息更有效地編碼。在本文的預(yù)測(cè)下,不同時(shí)刻數(shù)據(jù)提供的信息對(duì)預(yù)測(cè)結(jié)果的精度影響程度不盡相同。但是,傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)不能檢測(cè)對(duì)信號(hào)值序列的重要程度進(jìn)行鑒別。由此,本文對(duì)CNN-LSTM網(wǎng)絡(luò)進(jìn)行改進(jìn),引入注意力機(jī)制自動(dòng)對(duì)不同時(shí)刻歷史數(shù)據(jù)片段的重要程度進(jìn)行鑒別。本文所使用的注意力機(jī)制如圖4所示。

圖4 注意力機(jī)制模型

在該模型中,加權(quán)總和輸出為

(12)

式中:n+1表示時(shí)間序列的長(zhǎng)度;βk是注意力權(quán)值,其計(jì)算式如下:

(13)

其中，sk表示信號(hào)序列各部分的重要程度,其計(jì)算式如下:

(14)

2.3 融合層與全連接層

雙通道提取到的特征在經(jīng)過(guò)融合層之后,就可以得到衛(wèi)星信號(hào)的全部特征。在融合層中,模型采用Regression回歸的到樣本特征向量輸入全連接層:

(15)

全連接層一般由兩個(gè)部分組成:線(xiàn)性部分和非線(xiàn)性部分,如圖5所示。

圖5 FC模型

由于本文涉及到的低軌道衛(wèi)星通信并不是簡(jiǎn)單的一個(gè)線(xiàn)性的對(duì)應(yīng)關(guān)系,為了更準(zhǔn)確擬合真實(shí)的場(chǎng)景,所以引入了非線(xiàn)性變化,例如sigmod函數(shù)等。

xp=g(Wxy*y+b)

(16)

3 參數(shù)優(yōu)化與算法流程

3.1 神經(jīng)網(wǎng)絡(luò)的參數(shù)優(yōu)化

基于AT-CNN-BiLSTM的衛(wèi)星信道預(yù)測(cè)算法的優(yōu)化過(guò)程是尋找一組參數(shù),使得預(yù)測(cè)誤差達(dá)到最小。本文中,假設(shè)樣本量為n,衛(wèi)星信道預(yù)測(cè)模型的交叉熵代價(jià)損失函數(shù)可表示為

(17)

式中:a表示期望輸出;xp表示實(shí)際輸出。結(jié)合梯度下降的Adam優(yōu)化算法進(jìn)行權(quán)重參數(shù)矩陣W的更新。

(18)

式中:η是神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)率;mt和vt分別是當(dāng)前時(shí)刻的參數(shù)梯度的一階和二階動(dòng)量,初始均為0。mt和vt可表示為

mt=β1·mt-1+(1-β1)gt

(19)

(20)

(21)

式中:β1和β2分別是Adam的一階和二階動(dòng)量調(diào)節(jié)參數(shù),初始均為0。

結(jié)合上述分析過(guò)程,CNN-BiLSTM網(wǎng)絡(luò)的衛(wèi)星信道預(yù)測(cè)算法參數(shù)的優(yōu)化步驟如下所示。

步驟 1將基站通信歷史監(jiān)測(cè)的信道數(shù)據(jù)xt代入式(1)和式(9)～式(11),再通過(guò)特征融合層和FC獲得整個(gè)網(wǎng)絡(luò)的輸出xp。

步驟 2通過(guò)式(17)～式(21)計(jì)算網(wǎng)絡(luò)誤差,將誤差利用反向傳播至各神經(jīng)元。

步驟 3神經(jīng)元利用誤差項(xiàng)根據(jù)優(yōu)化算法更新參數(shù)。

步驟 4設(shè)置迭代次數(shù),循環(huán)步驟1～步驟3,直到參數(shù)不再變化,結(jié)束優(yōu)化。

3.2 算法預(yù)測(cè)流程

依據(jù)前文中所分析的網(wǎng)絡(luò)結(jié)構(gòu)及參數(shù)優(yōu)化步驟,信道預(yù)測(cè)的實(shí)現(xiàn)步驟如下。

步驟 1在模擬衛(wèi)星信道的條件下獲得信道數(shù)據(jù),以間隔Δ均勻采樣,得到樣本數(shù)據(jù)為xt={xτ-n,xτ-(n-1),…,xτ},n是樣本個(gè)數(shù)。

步驟 2構(gòu)造數(shù)據(jù)集。為方便神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,將xt分為實(shí)部和虛部?jī)刹糠?。其?實(shí)部數(shù)據(jù)和虛部數(shù)據(jù)分別為Re(xt)={Re(xτ-n),Re(xτ-(n-1)),…,Re(xτ)}和Im(xt)={Im(xτ-n),Im(xτ-(n-1)),…,Im(xτ)}。本文將數(shù)據(jù)集劃分為訓(xùn)練和測(cè)試兩個(gè)部分,將其設(shè)置為9∶1的比例。

步驟 3進(jìn)行模型的訓(xùn)練,將訓(xùn)練數(shù)據(jù)集輸入。以實(shí)部數(shù)據(jù)集為例,輸入Re(xt)={Re(xτ-n),Re(xτ-(n-1)),…,Re(xτ)},在注意力機(jī)制的權(quán)重分配下,經(jīng)過(guò)CNN-BiLSTM混合網(wǎng)絡(luò)、融合層和全連接層輸出結(jié)果xp。采用交叉熵代價(jià)損失函數(shù)損失函數(shù)計(jì)算誤差,利用Adam優(yōu)化算法對(duì)參數(shù)進(jìn)行更新優(yōu)化。同理,虛部數(shù)據(jù)集經(jīng)過(guò)同樣的流程實(shí)現(xiàn)網(wǎng)絡(luò)參數(shù)的調(diào)優(yōu)。

步驟 4進(jìn)行模型的預(yù)測(cè),在網(wǎng)絡(luò)中載入訓(xùn)練好的算法模型參數(shù),以測(cè)試數(shù)據(jù)集為初始化數(shù)據(jù),對(duì)預(yù)測(cè)結(jié)果進(jìn)行檢驗(yàn),得到網(wǎng)絡(luò)模型預(yù)測(cè)輸出，預(yù)測(cè)流程如圖6所示。

圖6 混合CNN-BiLSTM神經(jīng)網(wǎng)絡(luò)信道預(yù)測(cè)流程圖

4 實(shí)驗(yàn)結(jié)果與性能評(píng)估

為了驗(yàn)證本文所提算法的預(yù)測(cè)性能,本節(jié)選取低軌道衛(wèi)星信道的信號(hào)沖擊響應(yīng),以“抽樣”的方式獲得歷史時(shí)刻數(shù)據(jù)信息,再按照9∶1劃分為訓(xùn)練集和測(cè)試集。在數(shù)據(jù)集基礎(chǔ)上,建立基于注意力機(jī)制的混合CNN-BiLSTM網(wǎng)絡(luò)的低軌道衛(wèi)星信道預(yù)測(cè)算法,對(duì)算法性能進(jìn)行仿真驗(yàn)證。此外,本文對(duì)比分析了不含注意力機(jī)制的CNN-BiLSTM網(wǎng)絡(luò)、基于注意力機(jī)制的BiLSTM單層網(wǎng)絡(luò)、基于注意力機(jī)制的CNN單層網(wǎng)絡(luò)和基于SVM網(wǎng)絡(luò)算法的預(yù)測(cè)性能。本文實(shí)驗(yàn)仿真基于英特爾酷睿i7-8700CPU的Windows 1064位操作系統(tǒng)的工作站,編程軟件選擇python 3.7.0和Matlab 2019b。

4.1 數(shù)據(jù)描述及參數(shù)設(shè)置

室外衛(wèi)星信道的特點(diǎn)可以用由多普勒譜來(lái)描述,仿真中采用通過(guò)濾波后的高斯白噪聲(filtered white Gaussian noise, FWGN)模型來(lái)描述衛(wèi)星信號(hào)。其中，Jakes模型是通過(guò)復(fù)正弦波的合成,假設(shè)均勻方向到達(dá)的所有散射分量的射線(xiàn)近似為N個(gè)平面波,產(chǎn)生瑞利衰落信道模型[21]。在Jakes模型中,信道的實(shí)部和虛部是統(tǒng)計(jì)獨(dú)立的。在文獻(xiàn)[21]中,Jakes模型的最終復(fù)輸出表示如下:

(22)

式中:E0為衰落信道的總幅度;N0表示多普勒頻移的正弦數(shù)目,本文中將其設(shè)為8。通過(guò)Matlab仿真得到Jakes模型下的信號(hào)如圖7所示。信道模型多普勒頻率為0.926 kHz,采樣周期為0.1 s。

圖7 Jakes模型衛(wèi)星信號(hào)仿真圖

結(jié)合文獻(xiàn)[7-9]參數(shù)設(shè)置,本文的參數(shù)值如表1所示。

表1 仿真參數(shù)

4.2 預(yù)測(cè)結(jié)果與分析

4.2.1 仿真預(yù)測(cè)

在輸入測(cè)試數(shù)據(jù)集后進(jìn)行仿真得到如圖8所示的衛(wèi)星信道預(yù)測(cè)圖,其中圖8(a)～圖8(e)分別表示AT-CNN-BiLSTM、CNN-BiLSTM、SVM、AT-BiLSTM和AT-CNN仿真。從仿真圖中可以明顯看出，本文所提出的混合AT-CNN-BiLSTM所預(yù)測(cè)的信道幅值更接近衛(wèi)星原始數(shù)據(jù),另外4種方法都出現(xiàn)不同程度的偏離,以AT-BiLSTM和AT-CNN偏離最為嚴(yán)重。SVM的預(yù)測(cè)誤差較大,這是因?yàn)镾VM利用內(nèi)核函數(shù)將大量不確定的時(shí)間數(shù)據(jù)映射到高維空間,不能充分利用數(shù)據(jù)特征進(jìn)行預(yù)測(cè),導(dǎo)致預(yù)測(cè)性能較差。從圖8中曲線(xiàn)突變的位置可看出,仿真預(yù)測(cè)都難以實(shí)現(xiàn)準(zhǔn)確的跟蹤,均出現(xiàn)較大的失真。僅使用單一網(wǎng)絡(luò)的CNN和BiLSTM因不能對(duì)數(shù)據(jù)特征進(jìn)行充分的提取,導(dǎo)致預(yù)測(cè)效果最差,無(wú)法達(dá)到預(yù)測(cè)結(jié)果的要求。本文的算法失真較小,這主要是因?yàn)楸疚囊肓俗⒁饬C(jī)制,能夠在不同時(shí)刻對(duì)每個(gè)時(shí)間序列分配不同程度的權(quán)重以提高預(yù)測(cè)性能。更具體地說(shuō),在注意力權(quán)重的合理分配下,CNN-BiLSTM模型捕獲前向和后向兩個(gè)方向的特征,將整體和局部流數(shù)據(jù)特征一起處理,更加全面地提取特征,實(shí)現(xiàn)更精準(zhǔn)地預(yù)測(cè)。

圖8 不同預(yù)測(cè)方法的仿真預(yù)測(cè)圖

4.2.2 性能評(píng)估

為了評(píng)估仿真模型的性能,本文使用了3個(gè)常用于評(píng)估預(yù)測(cè)性能的指標(biāo):平均絕對(duì)誤差(mean absolute error, MAE)、平均絕對(duì)百分比誤差(mean absoulute percentage error, MAPE)和均方誤差(mean square error, MSE),計(jì)算公式如下:

(23)

(24)

(25)

式中:xt是實(shí)際值;xp是本文模型預(yù)測(cè)值。

表2展示了時(shí)間軸上155 s、160 s、165 s時(shí)刻,上述3個(gè)性能指標(biāo)的具體值。從表2中可以看出，在較短時(shí)間內(nèi)5種模型的性能均較高,但是預(yù)測(cè)時(shí)間越長(zhǎng),性能下降越嚴(yán)重。從總體上來(lái)看,本文的AT-CNN-BiLSTM無(wú)論是短期還是長(zhǎng)期均可實(shí)現(xiàn)較高的預(yù)測(cè)水平。

表2 不同方法的預(yù)測(cè)性能

為直觀化訓(xùn)練過(guò)程中的預(yù)測(cè)性能,本文挑選了5個(gè)節(jié)點(diǎn)觀測(cè)訓(xùn)練值,如圖9所示,分別是MAE、MAPE和MSE的柱狀圖,總體上均是隨著時(shí)間的推移呈現(xiàn)上升趨勢(shì),即預(yù)測(cè)精度在下降。

圖9 不同預(yù)測(cè)方法的性能指標(biāo)柱狀圖

4.2.3 收斂性分析

在前面數(shù)據(jù)的基礎(chǔ)上,本節(jié)分析了訓(xùn)練過(guò)程中迭代次數(shù)與預(yù)測(cè)準(zhǔn)確率的關(guān)系,如圖10所示。5種預(yù)測(cè)方法錯(cuò)誤率均隨著迭代次數(shù)的增加而降低,在迭代次數(shù)小于10的情況下,本文方法收斂速度滯后于另外4種方法,這主要是因?yàn)楸疚慕Y(jié)合了注意力機(jī)制和混合型的CNN-BiLSTM網(wǎng)絡(luò),網(wǎng)絡(luò)復(fù)雜度有了一定的提升,導(dǎo)致收斂速度較慢。SVM方法是低緯度空間向高緯度空間的映射,導(dǎo)致預(yù)測(cè)過(guò)程具有更大的復(fù)雜性,因而在與本文之外的其他3種方法對(duì)比中收斂更慢。CNN擁有較高的局部特征提取速度,換來(lái)的代價(jià)是CNN預(yù)測(cè)精度低于BiLSTM方法。再結(jié)合注意力機(jī)制后,預(yù)測(cè)精度得以提升。

圖10 不同預(yù)測(cè)方法的錯(cuò)誤率變化曲線(xiàn)

本文的方法在迭代次數(shù)為18時(shí)網(wǎng)絡(luò)趨于穩(wěn)定,而另外的4種方法在迭代次數(shù)為14時(shí)就基本穩(wěn)定。但是本文的預(yù)測(cè)準(zhǔn)確率高于另外4種方法的86.2%、81.7%、76.1%和72.5%,大約為91.8%。相較另外4種方法,本文的方法分別提升了5.6%、10.1%、15.7%和19.3%。

5 結(jié) 論

本文針對(duì)低軌道衛(wèi)星信道指數(shù)“過(guò)時(shí)”的問(wèn)題,從衛(wèi)星信號(hào)預(yù)測(cè)的角度出發(fā),結(jié)合深度學(xué)習(xí)的方法對(duì)低軌道衛(wèi)星的信號(hào)進(jìn)行預(yù)測(cè)。將CNN和BiLSTM網(wǎng)絡(luò)融合,結(jié)合注意力機(jī)制形成混合AT-CNN-BiLSTM衛(wèi)星預(yù)測(cè)網(wǎng)絡(luò),對(duì)比分析了CNN-BiLSTM網(wǎng)絡(luò)、SVM網(wǎng)絡(luò)、AT-BiLSTM網(wǎng)絡(luò)和AT-CNN網(wǎng)絡(luò)。從仿真預(yù)測(cè)圖形上分析了5種方法的性能,結(jié)果表明本文所提出的方法能夠在較低的迭代次數(shù)下達(dá)到比較高的預(yù)測(cè)精度。因此本文所提出的預(yù)測(cè)方法能夠在低軌衛(wèi)星通信的過(guò)程中為信道參數(shù)的調(diào)整提供依據(jù),改善通信質(zhì)量,節(jié)省資源開(kāi)支,有助于衛(wèi)星通信的高效管理。