基于深度神經(jīng)網(wǎng)絡(luò)的自適應(yīng)波束形成算法*

任燕飛，杜 盈，張勁東

(1.中國西南電子技術(shù)研究所，成都 610036；南京航空航天大學(xué) 電子信息工程學(xué)院，南京 211106)

0 引 言

波束形成技術(shù)是陣列信號處理的重要分支，在雷達、聲吶、通信和電子對抗等領(lǐng)域有著廣泛的應(yīng)用?；谧畲笮旁氡?Signal-to-Noise Ratio，SNR)準(zhǔn)則、最小均方誤差(Minimum Mean Squared Error，MMSE)準(zhǔn)則以及最小方差無失真響應(yīng)(Minimum Variance Distortionless Response，MVDR)準(zhǔn)則等波束形成方法，在期望信號或干擾信號角度發(fā)生變化時要重新計算權(quán)矢量，計算量大，難以滿足實時更新最優(yōu)權(quán)矢量的要求。隨著人工智能和神經(jīng)網(wǎng)絡(luò)技術(shù)的快速發(fā)展，將神經(jīng)網(wǎng)絡(luò)方法應(yīng)用于波束形成技術(shù)當(dāng)中，利用神經(jīng)網(wǎng)絡(luò)對數(shù)據(jù)進行預(yù)訓(xùn)練，然后在泛化階段用訓(xùn)練后獲得的網(wǎng)絡(luò)模型自適應(yīng)地輸出權(quán)矢量，當(dāng)入射信號到達角(Angle of Arrival,AoA)發(fā)生變化時，相對于傳統(tǒng)的波束形成算法要經(jīng)過大量的計算，神經(jīng)網(wǎng)絡(luò)在泛化階段的響應(yīng)時間是很短的，陣列天線就可以利用神經(jīng)網(wǎng)絡(luò)快速進行波束形成。

目前已有很多基于神經(jīng)網(wǎng)絡(luò)的波束形成技術(shù)研究。文獻[1-3]分別采用Hopfield網(wǎng)絡(luò)、主元分析網(wǎng)絡(luò)和多層感知機進行波束形成，但這些方法并沒有充分利用神經(jīng)網(wǎng)絡(luò)的非線性擬合能力。文獻[4-5]使用徑向基函數(shù)(Radial-basis Function，RBF)網(wǎng)絡(luò)擬合接收信號協(xié)方差矩陣和權(quán)矢量的映射關(guān)系進行波束形成，但需要進行聚類操作來獲取基函數(shù)中心，神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程比較復(fù)雜，且RBF網(wǎng)絡(luò)是單隱層的前饋型網(wǎng)絡(luò)，在訓(xùn)練樣本增加時隱層神經(jīng)元數(shù)量大大增加，網(wǎng)絡(luò)結(jié)構(gòu)過于龐大。為克服RBF網(wǎng)絡(luò)的缺陷，深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network,DNN)技術(shù)開始被用于波束形成中。柏沫羽等人[6]設(shè)計一個三層隱層的深度神經(jīng)網(wǎng)絡(luò)，避免了RBF網(wǎng)絡(luò)的聚類操作，可在大回波數(shù)據(jù)下快速進行波束形成，但引入了對同一入射信號組合權(quán)矢量的相似性約束，且受限于樣本設(shè)置的6個固定角度的干擾場景。Ramezanpour等人[7]利用卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)替代高復(fù)雜度的優(yōu)化算法，通過輸入接收信號的自相關(guān)矩陣來預(yù)測近似的最優(yōu)權(quán)重矢量，但該方法為了較好的擬合效果和更為簡單的網(wǎng)絡(luò)結(jié)構(gòu)，需要進行繁瑣的數(shù)據(jù)預(yù)處理步驟，引入了過多角度的先驗性假設(shè)。此外，文獻[8-10]設(shè)計了基于DNN、CNN和生成對抗網(wǎng)絡(luò)(Generative Adversarial Network,GAN)等網(wǎng)絡(luò)架構(gòu)的波束形成器快速產(chǎn)生高品質(zhì)的超聲波圖像；Liu等人[11]基于長短時記憶(Long Short-Term Memory，LSTM)的時間相關(guān)性設(shè)計一個LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)(LSTM-based Recurrent Neural Network,LRNet)實現(xiàn)無人機通信中的波束對準(zhǔn)；Dong等人[12]提出一種DNN的穩(wěn)健波束形成方法實現(xiàn)無線通信中較高的保密率和靈活的波束導(dǎo)向：但這些基于深度神經(jīng)網(wǎng)絡(luò)架構(gòu)的波束形成算法對于空域抗干擾并不適用。

本文基于現(xiàn)有研究和存在的問題提出了一種新的算法——深度神經(jīng)網(wǎng)絡(luò)的自適應(yīng)波束形成(Deep Neural Network Adaptive Beamforming，DNNABF)算法，隨機的期望信號和干擾信號AOA組成的向量作為DNN的輸入，MVDR算法權(quán)矢量作為輸出，采用4層隱藏層并用PReLU函數(shù)激活，輸出層用 tanh函數(shù)激活，Adam算法作為優(yōu)化器，使網(wǎng)絡(luò)具有較好的泛化性能，在入射信號到達角度改變時，分別在期望信號和干擾信號角度上自適應(yīng)地形成波束和零陷，實時進行空域抗干擾，可應(yīng)對更加復(fù)雜的干擾場景。

1 信號模型

本文考慮一個陣元數(shù)為M的均勻線陣，陣元間距d，有K+1個入射信號，期望信號到達角度為θ0，第k個干擾信號到達角度為θk(k=1,2,…,K)，入射信號AOA組成的向量θ=[θ0,θ1,…,θK]。天線陣列的接收向量為

X(t)=AS(t)+n(t) 。

(1)

式中：X(t)=[x1(t),x2(t),…,xM(t)]T；A為陣列流形；S(t)=[s0(t),s1(t),…,sK(t)]T為期望信號復(fù)包絡(luò)，sk(t)為第k個干擾信號的復(fù)包絡(luò)；n(t)為噪聲。

設(shè)p=[0,1,…,M-1]T，那么陣列流形A可表示為

A=ej2π/λdpsin θ=

(2)

Capon于1969年提出了MVDR波束形成器，它使干擾和噪聲貢獻的功率最小，同時保持感興趣方向上的信號功率不變[13]。該問題可描述為

(3a)

s.t.wHa(θ0)=1 。

(3b)

通過拉格朗日乘子法可求得權(quán)矢量wMVDR為

(4)

(5)

由此可計算陣列響應(yīng)為

(6)

方向圖增益為

(7)

2 面向波束形成的深度神經(jīng)網(wǎng)絡(luò)設(shè)計

2.1 深度神經(jīng)網(wǎng)絡(luò)設(shè)計

2.1.1 激活函數(shù)的選擇

sigmoid函數(shù)是深度學(xué)習(xí)領(lǐng)域使用頻率最高的激活函數(shù)，但容易產(chǎn)生梯度消失，模型收斂速度慢，而且在前向傳播時運算比較耗時。tanh函數(shù)也是一種常見的激活函數(shù)，模型收斂速度更快，但也容易出現(xiàn)梯度消失，且冪運算耗時。

深度神經(jīng)網(wǎng)絡(luò)中最常用的是ReLU激活函數(shù)，可解決梯度消失的問題，計算速度快，收斂速度比sigmoid函數(shù)和tanh函數(shù)快得多。若輸入為x，那么ReLU激活函數(shù)可表示為

(8)

但當(dāng)x<0時梯度為0，負的梯度在這個ReLU被置零，這個神經(jīng)元可能再也不會被任何數(shù)據(jù)激活，神經(jīng)元壞死。為解決這個問題，可選擇 PReLU激活函數(shù)。PReLU激活函數(shù)可用式(9)表示,其中負值部分的斜率α是根據(jù)數(shù)據(jù)來定的，而非預(yù)先定義的。

(9)

隱藏層的激活函數(shù)可選用PReLU激活函數(shù)，而在回歸問題中，輸出層一般采用線性函數(shù)激活，網(wǎng)絡(luò)輸出可以回歸到任意值。由于權(quán)系數(shù)的實部和虛部值都處于[-1,1]區(qū)間內(nèi)，所以本文的輸出層采用tanh函數(shù)激活，使網(wǎng)絡(luò)輸出回歸到[-1,1]內(nèi)的值。tanh激活函數(shù)可用下式表示：

(10)

2.1.2 優(yōu)化算法選擇

隨機梯度下降(Stochastic Gradient Descent,SGD)及其變種很可能是應(yīng)用最多的優(yōu)化算法。SGD算法的學(xué)習(xí)率是固定的，其學(xué)習(xí)過程有時會很慢。動量(Momentum)方法通過添加動量來加速學(xué)習(xí)，但引入了新的超參數(shù)。自適應(yīng)學(xué)習(xí)率算法可適應(yīng)模型參數(shù)各自的學(xué)習(xí)率，具有更快的收斂速度，適合訓(xùn)練更深更復(fù)雜的神經(jīng)網(wǎng)絡(luò)。AdaGrad(Adaptive Gradient)算法可以獨立地適應(yīng)所有模型參數(shù)的學(xué)習(xí)率，針對參數(shù)自適應(yīng)調(diào)整學(xué)習(xí)率。RMSProp(Root Mean Square Prop)算法對AdaGrad算法進行改進，在非凸設(shè)定下效果更好，改變梯度積累為指數(shù)加權(quán)的移動平均。Adam(Adaptive Moment Estimation)算法即自適應(yīng)時刻估計方法，可看作動量法和RMSProp的結(jié)合，不但使用動量作為參數(shù)更新方向，還能夠自適應(yīng)調(diào)整學(xué)習(xí)率。整體來說，Adam是最好的選擇[14]。而且實踐表明，Adam優(yōu)化器可以高效地解決局部深度學(xué)習(xí)問題，效果優(yōu)于其他隨機優(yōu)化算法[15]。

(11)

(12)

參數(shù)的更新公式為

(13)

一般β1設(shè)為0.9，β2設(shè)為0.999 9，ε設(shè)為10-8。與其他自適應(yīng)學(xué)習(xí)率算法相比，Adam算法收斂速度快、學(xué)習(xí)效果好，可解決其他優(yōu)化算法學(xué)習(xí)率消失、收斂慢以及高方差參數(shù)更新導(dǎo)致?lián)p失函數(shù)波動較大的問題，優(yōu)化了模型性能。

2.1.3 網(wǎng)絡(luò)深度設(shè)計

Hornik等人[14]已經(jīng)證明，一個前饋神經(jīng)網(wǎng)絡(luò)只需具備單層隱含層和有限個神經(jīng)單元，就能以任意精度擬合任意復(fù)雜度的函數(shù)。但張強等人[15]在研究中發(fā)現(xiàn)，隱藏層層數(shù)越多網(wǎng)絡(luò)泛化能力越強，擬合效果越好，不過網(wǎng)絡(luò)復(fù)雜度提高，訓(xùn)練時間增加。當(dāng)然淺層網(wǎng)絡(luò)的泛化能力和擬合效果可以通過增加網(wǎng)絡(luò)寬度即隱藏層節(jié)點數(shù)來彌補，但是Bengio等人[16]已經(jīng)得出結(jié)論——網(wǎng)絡(luò)深度減少一層，用來擬合函數(shù)的計算元素可能要呈指數(shù)增長，增加網(wǎng)絡(luò)深度比增加寬度更有效。因此為了提高網(wǎng)絡(luò)訓(xùn)練效率，應(yīng)該使用深度網(wǎng)絡(luò)，并選擇網(wǎng)絡(luò)的擬合效果達到要求時較少的隱藏層數(shù)。

天線方向圖最能直觀地反映出用網(wǎng)絡(luò)擬合的權(quán)矢量來形成波束和抑制干擾的效果。本文以MVDR算法為基準(zhǔn)，采用試錯法確定網(wǎng)絡(luò)深度，隱藏層數(shù)量從2層開始，逐漸增加。當(dāng)期望信號到達角度為3°、4個干擾信號到達角度分別為-28°、-17°、22°和39°時，選擇2層(節(jié)點個數(shù)分別為2 048、1 024)、3層(節(jié)點個數(shù)分別為2 048、1 024、1 024)和4層(節(jié)點個數(shù)分別為2 048、1 024、1 024、1 024)隱藏層得到的天線方向圖如圖1所示。

(a)2層隱層

從圖1可以看到，2層和3層隱藏層的網(wǎng)絡(luò)在主波束相對MVDR均有偏移，在39°方向上均沒有很好地形成零陷，而4層隱層的網(wǎng)絡(luò)主波束與MVDR算法幾乎完全貼合，且在各個干擾角度上都形成了較深的零陷，達到了抑制干擾的目的。4層隱層的網(wǎng)絡(luò)可達到較好的波束形成效果，因此本文的DNN包含4層隱藏層。

2.2 基于DNN的ABF算法

Step1 隨機產(chǎn)生L個角度向量θ作為DNN訓(xùn)練樣本的輸入數(shù)據(jù)，θtrain∈RL×(K+1)。

Step2 利用式(4)求得MVDR算法權(quán)矢量，從而獲得wre+im。

Step3 用獲得的訓(xùn)練樣本{θtrain,wre+im}訓(xùn)練DNN模型。

Step4 用訓(xùn)練好的DNN進行測試，輸入新的測試數(shù)據(jù)θtest網(wǎng)絡(luò)可自適應(yīng)地輸出權(quán)矢量。

Step5 將網(wǎng)絡(luò)輸出轉(zhuǎn)變?yōu)閺?fù)數(shù)形式的權(quán)矢量wDNN，用wDNN進行波束形成。

設(shè)4層隱藏層的節(jié)點數(shù)分別為d1、d2、d3、d4，本文的DNN結(jié)構(gòu)如圖2所示。

圖2 DNN訓(xùn)練結(jié)構(gòu)

為了更好地表述DNN中各層的關(guān)系，設(shè)相鄰兩層網(wǎng)絡(luò)之間的連接權(quán)值矩陣分別為V1、V2、V3、V4、V5，其維度分別為(K+1)×d1、d1×d2、d2×d3、d3×d4和d4×2M，各層偏置為γ1、γ2、γ3、γ4、γ5，那么每個隱藏層的輸出可用式(14)～(17)表示：

h1=σ2(θtrainV1+γ1)，

(14)

h2=σ2(h1V2+γ2)，

(15)

h3=σ2(h2V3+γ3)，

(16)

h4=σ2(h3V4+γ4)。

(17)

網(wǎng)絡(luò)輸出為

(18)

(19)

本文構(gòu)造的DNN含有4層隱藏層，采用PReLU激活函數(shù)激活，解決梯度消失的問題；采用Adam優(yōu)化算法避免其他優(yōu)化算法學(xué)習(xí)率消失、收斂慢以及損失函數(shù)波動較大的問題，使網(wǎng)絡(luò)具有較強的學(xué)習(xí)能力和較好的泛化性能。當(dāng)陣列天線接收到的入射信號角度改變時，DNN可自適應(yīng)地輸出相應(yīng)權(quán)矢量，實時形成波束。

3 計算機仿真與性能分析結(jié)果

本文在Intel i5-9400HQ CPU、16 GB內(nèi)存、Matlab2016a、Tensorflow2.0仿真平臺下進行仿真，采用均勻線陣，仿真參數(shù)設(shè)置如表1所示。

表1 仿真參數(shù)設(shè)置

3.1 本文算法與MVDR算法對比分析

假設(shè)有1個期望信號和4個干擾信號以平面波入射，5個入射信號取不同角度并隨機賦值。共產(chǎn)生15 100組樣本數(shù)據(jù)，其中15 000組進行訓(xùn)練，100組進行測試。用圖2設(shè)計的DNN訓(xùn)練100個epoch，4層隱藏層的節(jié)點數(shù)分為別2 048、1 024、1 024、1 024，而輸入層和輸出層分別有5個節(jié)點和24個節(jié)點。

首先比對兩種算法的波束方向圖。2.1.3中已驗證，4層隱層的DNN擬合權(quán)矢量進行波束形成，其主波束與MVDR算法很貼近，且在各個干擾角度上都形成零陷，波束形成效果和抗干擾性能較好，本文算法生成的空域抗干擾波形與MVDR算法相近，可以很好地形成波束、對抗干擾。

本文使用實際值與網(wǎng)絡(luò)預(yù)測值的均方誤差作為網(wǎng)絡(luò)的性能度量來評價網(wǎng)絡(luò)的泛化能力，計算方式如式(19)所示。網(wǎng)絡(luò)的泛化誤差越小，泛化性能越好，讓泛化誤差盡可能小可降低網(wǎng)絡(luò)過擬合的風(fēng)險。以測試誤差作為網(wǎng)絡(luò)的泛化誤差，100組測試樣本的權(quán)矢量擬合均方誤差值如圖3所示。從圖3中可以看出，本文網(wǎng)絡(luò)的誤差值很小，網(wǎng)絡(luò)具有較好的泛化性能。

圖3 測試樣本平均誤差

下面對比本文算法與MVDR算法的運行時間。根據(jù)測試樣本的輸入角度，統(tǒng)計利用MVDR算法計算權(quán)矢量所需時間和DNN擬合權(quán)矢量所需時間，各進行20次仿真取平均值，結(jié)果如表2所示。相對于傳統(tǒng)的MVDR算法，本文方法在運算速度上有將近6.5倍的提升，在入射信號角度改變時可快速進行波束形成，滿足實時性要求。

表2 MVDR算法和DNN的計算時間對比

3.2 本文方法與CNN對比分析

下面將本文方法與CNN方法進行對比。CNN前三層為卷積層，第四層為全連接層。設(shè)第l層卷積層的卷積核大小為Kl，CNN每層網(wǎng)絡(luò)輸出通道數(shù)與DNN對應(yīng)相等，即三層卷積層卷積核數(shù)量分別為d1、d2、d3，而全連接層神經(jīng)元數(shù)量d4=1 024。本文CNN結(jié)構(gòu)和具體參數(shù)如表3所示。

表3 CNN模型結(jié)構(gòu)參數(shù)

CNN的 padding 設(shè)為valid，strides為1，優(yōu)化器參數(shù)與DNN相同，采用3.1節(jié)樣本，同樣訓(xùn)練100個epoch。當(dāng)期望信號到達角度為18°、4個干擾信號到達角度分別為-32°、-14°、7°和36°時，DNN與CNN方法得到的天線方向圖如圖4所示，可見DNN與CNN均能夠在期望信號角度上形成波束、在干擾信號角度上形成零陷。

圖4 DNN、CNN與MVDR天線方向圖

為了直觀地表現(xiàn)網(wǎng)絡(luò)擬合權(quán)矢量的準(zhǔn)確度，將網(wǎng)絡(luò)輸出的權(quán)矢量實部和虛部樣本對轉(zhuǎn)化為復(fù)數(shù)形式，并定義兩個網(wǎng)絡(luò)權(quán)矢量的相對誤差為

(20)

(21)

統(tǒng)計DNN與CNN方法每組測試樣本權(quán)矢量相對誤差值如圖5所示。無論是DNN還是CNN擬合權(quán)矢量，相對誤差都很小，兩種網(wǎng)絡(luò)對權(quán)矢量的估計都比較準(zhǔn)確。

圖5 測試樣本相對誤差

下面分析DNN與CNN算法復(fù)雜度。對于CNN，第l層卷積層輸出的向量維度Ml=Ml-1-Kl+1，訓(xùn)練整個網(wǎng)絡(luò)模型的時間復(fù)雜度為O(M1K1(K+1)d1+M2K2d1d2+M3K3d2d3+M3d3d4+d4·2M)，而訓(xùn)練DNN模型的時間復(fù)雜度為O((K+1)d1+d1d2+d2d3+d3d4+d4·2M)，在相同網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)下，CNN復(fù)雜度要高于DNN。DNN和CNN模型訓(xùn)練時間如表4所示，DNN訓(xùn)練時間遠少于CNN。

表4 DNN與CNN訓(xùn)練時長對比

3.3 本文DNN性能穩(wěn)定性分析

相對3.1中仿真，僅改變干擾源數(shù)量，場景1、場景2和場景3分別對應(yīng)3、4、5個干擾源，網(wǎng)絡(luò)的輸入層節(jié)點數(shù)依次為4、5、6個，其他參數(shù)均不變，各取15 000組訓(xùn)練數(shù)據(jù)和100組測試數(shù)據(jù)，網(wǎng)絡(luò)訓(xùn)練100個epoch，利用網(wǎng)絡(luò)擬合的權(quán)矢量生成的波束方向圖，其形成波束位置作為期望信號到達角度的網(wǎng)絡(luò)估計值，而零陷位置作為干擾信號到達角度的網(wǎng)絡(luò)估計值，3個場景中各入射信號估計到達角度相對實際到達角度的偏移情況如圖6所示。

(a)場景1

(22)

(23)

表5 3個場景中的角度偏差和平均誤差

由表5可知，干擾源數(shù)量改變時網(wǎng)絡(luò)性能依舊穩(wěn)定。隨著干擾源數(shù)量的增加，各個入射信號角度偏差和擬合權(quán)矢量的平均誤差值略有增加，但3個場景中權(quán)矢量的平均誤差值都很小，網(wǎng)絡(luò)具有較好的泛化性能，可以準(zhǔn)確地擬合出MVDR算法權(quán)矢量。3個場景中各入射信號角度偏差也很小，這說明本文方法可以較為準(zhǔn)確地在期望信號方向上形成波束、在干擾信號方向上形成零陷。

4 結(jié)束語

自適應(yīng)波束形成是陣列信號處理的關(guān)鍵技術(shù)之一，是實現(xiàn)空域抗干擾的重要方式。陣列天線接收到的信號總是從隨機角度入射且快速變化，傳統(tǒng)的波束形成算法計算量大，不能實時更新最優(yōu)權(quán)矢量，難以滿足實際工程應(yīng)用需求。本文提出一種DNNABF算法，輸入期望信號和干擾信號的到達角度向量，網(wǎng)絡(luò)輸出逼近MVDR算法最優(yōu)權(quán)矢量，同時選用合適的網(wǎng)絡(luò)深度、激活函數(shù)和優(yōu)化算法使網(wǎng)絡(luò)具有較好的泛化性能。仿真結(jié)果表明，本文方法可準(zhǔn)確擬合與MVDR算法相近的權(quán)矢量進行自適應(yīng)波束形成，但其計算速度相對MVDR算法提升了6.5倍，與相同模型結(jié)構(gòu)參數(shù)下的CNN相比，DNN的訓(xùn)練時間也遠小于CNN，且在不同干擾信號數(shù)量的場景中本文設(shè)計的DNN都具有穩(wěn)定的性能。

在本文研究的基礎(chǔ)上，未來還可以進一步研究低快拍條件下的DNNABF算法，解決傳統(tǒng)算法在低快拍下不夠穩(wěn)健甚至失效的問題。