毫米波MIMO 系統(tǒng)中基于自適應(yīng)梯度算法的混合預(yù)編碼

張煜，張治，董曉岱

（1.北京郵電大學(xué)信息與通信工程學(xué)院，北京 100876；2.維多利亞大學(xué)電子與計(jì)算機(jī)工程學(xué)院，維多利亞 V8W 3P6）

1 引言

作為5G 及未來移動(dòng)通信網(wǎng)絡(luò)的主要技術(shù)之一[1-3]，毫米波通信能夠提供較寬的帶寬，滿足高速數(shù)據(jù)傳輸需求。然而，高頻率、短波長的電磁波具有嚴(yán)重的路徑損耗和較差的繞射性能[4-5]，導(dǎo)致通信范圍有限。幸運(yùn)的是，多輸入多輸出（MIMO,multi-input multi-output）技術(shù)可以利用大規(guī)模天線陣列來補(bǔ)償嚴(yán)重的衰減，延長信號(hào)的傳輸距離。

傳統(tǒng)的全數(shù)字MIMO 架構(gòu)通常是基于數(shù)字預(yù)編碼器實(shí)現(xiàn)的，其中所需射頻（RF,radio frequency）鏈的數(shù)量等于天線的數(shù)量。射頻鏈通常由混頻器、功率放大器和數(shù)字-模擬轉(zhuǎn)換器等器件構(gòu)成。對(duì)于毫米波系統(tǒng)，由于過高的功耗和硬件成本[6]，部署全數(shù)字預(yù)編碼具有挑戰(zhàn)性。借助毫米波信道的稀疏特性，文獻(xiàn)[7]提出了一種混合數(shù)字-模擬預(yù)編碼架構(gòu)，使用較少的射頻鏈實(shí)現(xiàn)低維數(shù)字預(yù)編碼器和高維模擬預(yù)編碼器的連接，其中模擬預(yù)編碼器采用模值恒定、相位可調(diào)的模擬移相器實(shí)現(xiàn)；同時(shí)把混合預(yù)編碼等效為壓縮感知中的稀疏信號(hào)恢復(fù)問題，并使用正交匹配追蹤（OMP,orthogonal matching pursuit）算法求解，最終達(dá)到了降低功耗和硬件成本的目標(biāo)。鑒于OMP 算法的計(jì)算復(fù)雜度較高，有些文獻(xiàn)提出了改進(jìn)算法，包括并行索引選擇-忽略矩陣求逆的同步正交匹配追蹤（PIS-MIB-SOMP,parallel-index-selection matrix-inversion-bypass simultaneous OMP）算法[8]、基于順序迭代最小二乘的廣義正交匹配追蹤（ORLS-gOMP,order-recursive least squares-based generalized OMP）算法[9]、基于正交性的匹配追蹤（OBMP,orthogonality-based matching pursuit）算法[10]等。另外，文獻(xiàn)[11]根據(jù)天線陣列響應(yīng)矩陣的相關(guān)性生成模擬預(yù)編碼矩陣備選集，有效降低了OMP 算法搜索空間的大小。針對(duì)碼字搜索問題，文獻(xiàn)[12]提出了基于傅里葉變換碼本的低復(fù)雜度碼本搜索方法，降低了搜索復(fù)雜度?？傮w而言，文獻(xiàn)[7-11]所提算法都是基于碼本的混合預(yù)編碼方法，所實(shí)現(xiàn)的頻譜效率還有很大的提升空間[12]。

為了接近最優(yōu)的頻譜效率性能，學(xué)者們研究了非碼本的混合預(yù)編碼方案，將混合預(yù)編碼視作恒模約束下的矩陣分解問題，基于交替最?。ˋltMin,alternating minimization）算法迭代設(shè)計(jì)數(shù)字預(yù)編碼器和模擬預(yù)編碼器。具體地，數(shù)字預(yù)編碼器通過最小二乘準(zhǔn)則計(jì)算，模擬預(yù)編碼器的最優(yōu)解則分別通過共軛梯度（CG,conjugate gradient）[13]、內(nèi)點(diǎn)法[14]、Barzilai-Borwein 梯度[15]、梯度投影（GP,gradient projection）[16]等算法獲得。盡管文獻(xiàn)[13-16]提出的非碼本混合預(yù)編碼方案在頻譜效率性能上接近全數(shù)字預(yù)編碼，但實(shí)現(xiàn)復(fù)雜度均較高。雖然文獻(xiàn)[13]也提出了一種通過求解正交Procrustes 問題（OPP,orthogonal Procrustes problem）獲得混合預(yù)編碼器的低復(fù)雜度算法，但需要假設(shè)數(shù)字預(yù)編碼器滿足比例酉性質(zhì)。由于該假設(shè)僅在數(shù)據(jù)流的數(shù)目等于射頻鏈的數(shù)目時(shí)有效[17]，因此當(dāng)射頻鏈的數(shù)目大于數(shù)據(jù)流的數(shù)目時(shí)，OPP 算法所實(shí)現(xiàn)的頻譜效率在一定程度上會(huì)有所降低。

上述研究主要針對(duì)單用戶場(chǎng)景。為了解決多用戶場(chǎng)景下的混合預(yù)編碼問題，文獻(xiàn)[18]提出了兩階段混合預(yù)編碼方案，即基站（BS,base station）首先和移動(dòng)臺(tái)（MS,mobile station）聯(lián)合設(shè)計(jì)最優(yōu)的模擬預(yù)編碼器和組合器以使信道增益最大化，然后設(shè)計(jì)迫零（ZF,zero-forcing）數(shù)字預(yù)編碼器以減少M(fèi)S間的干擾。文獻(xiàn)[19]提出了一種混合最小均方誤差（MMSE,minimum mean-squared error）預(yù)編碼方法，即每個(gè)MS 首先獨(dú)立配置模擬組合器，然后由BS為所有MS 設(shè)計(jì)模擬預(yù)編碼器和數(shù)字預(yù)編碼器。文獻(xiàn)[20]提出了一種混合塊對(duì)角化（BD,block diagonalization）預(yù)編碼方法，該方法首先設(shè)計(jì)模擬預(yù)編碼器和組合器以最大化陣列增益，然后在等效基帶信道上應(yīng)用BD 方法設(shè)計(jì)數(shù)字預(yù)編碼器。然而，文獻(xiàn)[18-20]所提方案獲得的頻譜效率與全數(shù)字預(yù)編碼相比尚有很大的差距。另一方面，文獻(xiàn)[13-16]中的CG-AltMin、BB-AltMin、GP-AltMin 等非碼本混合預(yù)編碼方案同樣也可應(yīng)用于多用戶場(chǎng)景，但復(fù)雜度較高的問題依然存在。

近年來，深度學(xué)習(xí)在混合預(yù)編碼問題中的應(yīng)用受到了廣泛關(guān)注[21-28]。從所采用網(wǎng)絡(luò)模型的角度，基于深度學(xué)習(xí)的混合預(yù)編碼方案分為基于實(shí)數(shù)神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼[21]、基于復(fù)數(shù)反向傳播（BP,backpropagation）神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼[22]和基于復(fù)卷積神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼[23-28]三類，其中文獻(xiàn)[21]將實(shí)數(shù)神經(jīng)網(wǎng)絡(luò)應(yīng)用于混合預(yù)編碼器的設(shè)計(jì)，文獻(xiàn)[22]提出了基于復(fù)數(shù)BP 神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼方案，文獻(xiàn)[23-28]分別提出了基于ComcepNet、等效信道-卷積神經(jīng)網(wǎng)絡(luò)（CNN,convolutional neural network）、CovNet、CNN-MIMO、HPNet 和深度學(xué)習(xí)量化相位網(wǎng)絡(luò)模型的混合預(yù)編碼機(jī)制。

進(jìn)一步地，還可從學(xué)習(xí)方式的角度，將上述基于實(shí)數(shù)神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼和基于復(fù)卷積神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼歸納為線下學(xué)習(xí)方案，將基于復(fù)數(shù)BP 神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼歸納為在線學(xué)習(xí)方案。線下學(xué)習(xí)方案分為線下訓(xùn)練和線上測(cè)試2 個(gè)階段，在線下訓(xùn)練階段，隨機(jī)生成大量信道訓(xùn)練樣本，以信道參數(shù)為網(wǎng)絡(luò)輸入，以每個(gè)信道條件下相應(yīng)的最佳模擬預(yù)編碼器或組合器為網(wǎng)絡(luò)輸出，執(zhí)行訓(xùn)練過程獲得網(wǎng)絡(luò)配置參數(shù)；在線上測(cè)試階段，將信道測(cè)試樣本輸入配置好的網(wǎng)絡(luò)，獲得該信道條件下相應(yīng)的最佳模擬預(yù)編碼器或組合器，然后，數(shù)字預(yù)編碼器通過對(duì)等效信道進(jìn)行奇異值分解或運(yùn)用ZF 準(zhǔn)則獲得。

在訓(xùn)練好網(wǎng)絡(luò)模型之后，線下學(xué)習(xí)方案能夠快速響應(yīng)信道參數(shù)，獲得相應(yīng)的最佳模擬預(yù)編碼器或組合器。然而，為了獲得最佳的網(wǎng)絡(luò)配置參數(shù)，線下訓(xùn)練階段往往需要龐大的訓(xùn)練樣本，以提高精確度。另外，訓(xùn)練好的網(wǎng)絡(luò)模型往往針對(duì)具體的參數(shù)設(shè)置，在單用戶場(chǎng)景下是具體的發(fā)射和接收天線數(shù)，在多用戶場(chǎng)景下是基站的天線數(shù)和用戶數(shù)。當(dāng)天線數(shù)或用戶數(shù)發(fā)生變化時(shí)，需要重新訓(xùn)練以保證網(wǎng)絡(luò)模型的準(zhǔn)確性，這會(huì)造成較大的訓(xùn)練開銷和較長的訓(xùn)練時(shí)間，使算法效率降低[29]。

與線下學(xué)習(xí)方案形成鮮明對(duì)比的是，在線學(xué)習(xí)方案所需訓(xùn)練樣本較少，能夠根據(jù)信道條件的變化實(shí)時(shí)地調(diào)整網(wǎng)絡(luò)權(quán)值，最佳的數(shù)字預(yù)編碼器和模擬預(yù)編碼器從網(wǎng)絡(luò)權(quán)值中提取。研究線下學(xué)習(xí)方案的文獻(xiàn)相對(duì)較少，以文獻(xiàn)[22]為主要代表，其針對(duì)多用戶場(chǎng)景，提出了基于復(fù)數(shù)BP 神經(jīng)網(wǎng)絡(luò)的混合預(yù)編碼方案，以最優(yōu)ZF 數(shù)字預(yù)編碼器和實(shí)際混合預(yù)編碼器之間的最小均方誤差為損失函數(shù)，采用動(dòng)量梯度下降（GDM,gradient descent with momentum）算法對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，獲得的權(quán)值即混合預(yù)編碼矩陣的組成元素。然而，文獻(xiàn)[22]沒有考慮模擬預(yù)編碼器的恒模約束，通過訓(xùn)練得到的和模擬預(yù)編碼器對(duì)應(yīng)的權(quán)值沒有歸一化為統(tǒng)一的模值，這與實(shí)際的硬件設(shè)計(jì)不符。當(dāng)考慮模擬預(yù)編碼器的恒模約束時(shí)，文獻(xiàn)[22]采用的算法收斂速度較慢。

受上述討論的啟發(fā)，為了降低現(xiàn)有的傳統(tǒng)非碼本混合預(yù)編碼方案和在線學(xué)習(xí)方案的復(fù)雜度，本文針對(duì)毫米波大規(guī)模MIMO 系統(tǒng)，分別提出適用于單用戶場(chǎng)景和多用戶場(chǎng)景的低復(fù)雜度在線學(xué)習(xí)混合預(yù)編碼方案，所需訓(xùn)練樣本較少，訓(xùn)練速度較快。本文所提混合預(yù)編碼方案具體如下：在單用戶場(chǎng)景下，提出一種新穎的等效神經(jīng)網(wǎng)絡(luò)架構(gòu)，將數(shù)字預(yù)編碼器和模擬預(yù)編碼器的每個(gè)元素視為單隱藏層神經(jīng)網(wǎng)絡(luò)的參數(shù)，并將混合預(yù)編碼器的求解視作該神經(jīng)網(wǎng)絡(luò)的參數(shù)訓(xùn)練過程；進(jìn)一步地，設(shè)計(jì)適用于該等效神經(jīng)網(wǎng)絡(luò)的參數(shù)訓(xùn)練方法，提出一種基于自適應(yīng)梯度反向傳播（AG-BP,adaptive gradient backpropagation）的混合預(yù)編碼算法，以最小化損失函數(shù)為目標(biāo)，通過迭代最終獲得單用戶場(chǎng)景下的最優(yōu)混合預(yù)編碼器；最后將所提算法擴(kuò)展至多用戶場(chǎng)景，獲得多用戶場(chǎng)景下的混合預(yù)編碼方案。仿真結(jié)果表明，在單用戶場(chǎng)景和多用戶場(chǎng)景下，所提算法實(shí)現(xiàn)的頻譜效率均接近全數(shù)字預(yù)編碼，且復(fù)雜度低于現(xiàn)有的基于交替最小算法的混合預(yù)編碼方案和基于GDM 的在線學(xué)習(xí)混合預(yù)編碼方案。

2 系統(tǒng)模型

本節(jié)首先給出單用戶場(chǎng)景下的系統(tǒng)模型，多用戶場(chǎng)景下的系統(tǒng)模型將在3.5 節(jié)給出?？紤]一個(gè)單用戶毫米波MIMO 系統(tǒng)，設(shè)該系統(tǒng)中發(fā)射機(jī)配置Nt根天線、個(gè)射頻鏈，接收機(jī)配置Nr根天線、個(gè)射頻鏈，它們之間通過NS路數(shù)據(jù)流進(jìn)行通信。

毫米波傳播過程中過高的路徑損耗造成散射體有限，毫米波信道通常采用基于擴(kuò)展Saleh Valenzuela 模型的簇信道模型，信道矩陣H被描述為Ncl個(gè)簇的組合，每個(gè)簇包含Nray個(gè)射線[7]。因此，H可表示為

其中，λ為載波波長，d為相鄰天線間距離，ny=0,…,Ny-1和nz=0,…,Nz-1分別為天線單元在y軸和z軸的索引，N=Ny Nz為天線總數(shù)。

假設(shè)發(fā)送信號(hào)s服從高斯分布并且滿足，其中ρ為平均發(fā)送功率。則該毫米波通信系統(tǒng)的頻譜效率為

為使如上的系統(tǒng)頻譜效率最大化，可對(duì)FBB、FRF、WRF和WBB進(jìn)行聯(lián)合優(yōu)化，即

然而，鑒于FRF和WRF的恒模約束，式(5)是不可解的。通過分開設(shè)計(jì)混合預(yù)編碼器和組合器，式(5)可以解耦為2 個(gè)可解的子問題[7]。最優(yōu)的模擬預(yù)編碼器和數(shù)字預(yù)編碼器可以通過求解以下問題獲得[13]

其中，F(xiàn)opt表示Nt×NS維無約束全數(shù)字預(yù)編碼器，由H的NS個(gè)最大奇異值對(duì)應(yīng)的NS個(gè)右奇異向量組成。假設(shè)H可通過相應(yīng)的信道估計(jì)方法[30]預(yù)先獲取，定義H的奇異值分解為H=UΣVH，則Fopt=V(:,1:NS)為V 的前NS列元素。

3 算法設(shè)計(jì)

本節(jié)針對(duì)單用戶場(chǎng)景，首先提出一種描述混合預(yù)編碼的等效神經(jīng)網(wǎng)絡(luò)架構(gòu)，分析其與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)架構(gòu)的不同；然后給出訓(xùn)練數(shù)據(jù)集的產(chǎn)生方法，并推導(dǎo)出損失函數(shù)的表達(dá)式；接著以最小化損失函數(shù)為目標(biāo)，提出基于AG-BP 的混合預(yù)編碼機(jī)制；最后針對(duì)多用戶場(chǎng)景，將所提算法進(jìn)行擴(kuò)展，獲得多用戶場(chǎng)景下的混合預(yù)編碼方案。

3.1 等效神經(jīng)網(wǎng)絡(luò)架構(gòu)

重新考慮混合預(yù)編碼式(6)，假設(shè)s經(jīng)過混合預(yù)編碼處理的信號(hào)為那么混合預(yù)編碼問題可以等效為確定s與y之間的映射關(guān)系，即M:s→y。

映射M包含2 個(gè)線性組合，即FBB和FRF。因此，混合預(yù)編碼架構(gòu)可視為一個(gè)單隱藏層神經(jīng)網(wǎng)絡(luò)，如圖1 所示。

圖1 混合預(yù)編碼的等效單隱藏層神經(jīng)網(wǎng)絡(luò)架構(gòu)

NS路發(fā)送信號(hào)、個(gè)射頻鏈、Nt根發(fā)射天線可分別類比成NS個(gè)輸入層神經(jīng)元、個(gè)隱藏層神經(jīng)元、Nt個(gè)輸出層神經(jīng)元，則輸出層信號(hào)可以重寫為

圖1 所示網(wǎng)絡(luò)的權(quán)值dq,u和ap,q（p=1,…,Nt，q=1,…,，u=1,…,NS）與FBB和FRF的每個(gè)元n素相對(duì)應(yīng)，可通過訓(xùn)練獲得。因此，可以利用神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法[31]來設(shè)計(jì)混合預(yù)編碼器。

神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程意味著調(diào)整相鄰神經(jīng)元之間的權(quán)值以及每個(gè)功能神經(jīng)元的閾值以使網(wǎng)絡(luò)最優(yōu)。但本文所提出的混合預(yù)編碼等效架構(gòu)與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)存在幾點(diǎn)不同：1)FBB和FRF的元素均為復(fù)數(shù)；2) 在混合預(yù)編碼架構(gòu)下不存在功能神經(jīng)元；3) 偏置全為0 且激活函數(shù)為恒等函數(shù)；4) 最重要的一點(diǎn)是隱藏層和輸出層之間連接權(quán)存在恒模約束，這使通用的神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法不適用于混合預(yù)編碼器的設(shè)計(jì)，因此有必要設(shè)計(jì)混合預(yù)編碼器專用的權(quán)值訓(xùn)練算法。

3.2 訓(xùn)練數(shù)據(jù)集和損失函數(shù)

3.3 基于AG-BP 的混合預(yù)編碼

在復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中，通常將復(fù)數(shù)的實(shí)部和虛部分別進(jìn)行更新，然后合并[31]。用字母r和i分別表示復(fù)數(shù)的實(shí)部和虛部，則發(fā)送符號(hào)權(quán)值dq,u和ap,q可寫成

第p個(gè)輸出層神經(jīng)元的輸出為

累積平均誤差可重寫為

對(duì)于ap,q，其增量Δap,q可以寫為實(shí)部增量Δarp,q和虛部增量Δaip,q相加的形式，即

根據(jù)梯度下降法，Δarp,q和Δaip,q沿負(fù)梯度方向更新，即

其中，η表示學(xué)習(xí)率。

根據(jù)鏈?zhǔn)綔?zhǔn)則，有

將式(15)代入式(13)和式(14)可得

更新ap,q為

為了加速收斂，避免損失函數(shù)到達(dá)局部極小值，權(quán)值增量可基于自適應(yīng)梯度（學(xué)習(xí)率）計(jì)算[32]，沿負(fù)梯度方向的搜索步長與之前所有迭代的梯度值有關(guān)，即

其中，δ>0為一個(gè)足夠小的數(shù)值以保證數(shù)值穩(wěn)定性。

考慮到ap,q的恒模約束，重構(gòu)ap,q為

其中，∠ap,q表示復(fù)數(shù)ap,q的相位。

FRF的每個(gè)元素與ap,q一一對(duì)應(yīng)，即

dq,u也可采用與ap,q相似的更新規(guī)則。但為了降低計(jì)算復(fù)雜度，dq,u可直接根據(jù)最小二乘解獲得

對(duì)ap,q和dq,u迭代更新，直到滿足以下條件

其中，ε>0為一個(gè)足夠小的正值；或者當(dāng)?shù)螖?shù)超過預(yù)定義的最大值tmax時(shí)，迭代更新也將停止。最后，更新FBB以滿足功率約束

基于AG-BP 的混合預(yù)編碼算法如算法1 所示。

算法1基于AG-BP 的混合預(yù)編碼算法

給定無約束全數(shù)字預(yù)編碼器Fopt、訓(xùn)練數(shù)據(jù)集大小Nd、學(xué)習(xí)率η和最大迭代次數(shù)tmax

接下來，分析算法1 的復(fù)雜度。算法1 中每一步操作的復(fù)數(shù)乘法和除法個(gè)數(shù)如表1 所示，其中

表1 算法1 每步操作所需復(fù)數(shù)乘法和除法個(gè)數(shù)

表示利用初等行變換對(duì)m×m矩陣進(jìn)行求逆所需的復(fù)數(shù)乘法和除法個(gè)數(shù)。算法1 和對(duì)比算法的計(jì)算開銷如表2 所示，其中，分別表示內(nèi)部迭代的總數(shù)和外部迭代的個(gè)數(shù)。對(duì)于CG-AltMin、BB-AltMin 和GP-AltMin，為所有外部迭代所需內(nèi)部迭代個(gè)數(shù)的累加值。

表2 算法1 與對(duì)比算法的計(jì)算開銷

3.4 基于AG-BP 的混合組合器設(shè)計(jì)

其中，Wopt表示Nr×NS維無約束全數(shù)字組合器，由H的NS個(gè)最大奇異值對(duì)應(yīng)的NS個(gè)左奇異向量組成，即Wopt=U(:,1:NS)。

顯而易見，除了功率約束，式(25)和式(6)有相同的形式。因此，可通過把Fopt、FRF和FBB替換成Wopt、WRF和WBB并運(yùn)用算法1 對(duì)式(25)進(jìn)行求解。

3.5 多用戶場(chǎng)景

本節(jié)在上述工作的基礎(chǔ)上，將所提算法擴(kuò)展至多用戶場(chǎng)景。設(shè)配置NBS根天線的BS 同時(shí)和U個(gè)MS 進(jìn)行通信，每個(gè)MS 均具有NMS根天線。假設(shè)每個(gè)MS 僅采用模擬預(yù)編碼架構(gòu)，即每個(gè)MS 僅有一路數(shù)據(jù)流，則BS 總共有NS=U路數(shù)據(jù)流。不失一般性，可假設(shè)BS 使用NRF個(gè)可用數(shù)據(jù)鏈中的U個(gè)數(shù)據(jù)鏈對(duì)這U個(gè)MS 進(jìn)行服務(wù)，且NRF≥U。在BS 側(cè)，U× 1維發(fā)送符號(hào)s=[s1,…,sU]T依次經(jīng)過U×U維數(shù)字預(yù)編碼器FBB=[fBB,1,…,fBB,U]和NBS×U維模擬預(yù)編碼器FRF的處理，其中，su表示發(fā)送給第u個(gè)MS 的信號(hào)，fBB,u表示與第u個(gè)MS 相對(duì)應(yīng)的數(shù)字預(yù)編碼向量。第u個(gè)MS 經(jīng)過NMS× 1維模擬組合器wu處理后的接收信號(hào)可表示為

其中，Hu為NMS×NBS維信道矩陣，且與式(2)有相同的表達(dá)式；為NMS× 1維高斯噪聲向量。則第u個(gè)MS 可實(shí)現(xiàn)的速率為

其中，ρ表示平均發(fā)送功率。

與單用戶場(chǎng)景下類似，多用戶混合預(yù)編碼設(shè)計(jì)的優(yōu)化目標(biāo)是最大化所有MS 的和速率，即其中，F(xiàn)和W分別表示模擬預(yù)編碼向量和模擬組合向量的可能取值所組成的碼本。式(28)是一個(gè)混整數(shù)規(guī)劃問題，它的解需要搜索整個(gè)FU×WU空間的所有FRF和的可能組合。因此，和速率最大化問題的直接解決方案既不實(shí)際也不可行。為此，本文提出一種兩階段法，將混合預(yù)編碼矩陣和模擬組合向量分開進(jìn)行設(shè)計(jì)。

具體地，在第一階段，每個(gè)MS 設(shè)計(jì)各自的模擬組合向量，以最大化信道增益，即

4 仿真分析

本節(jié)使用MATLAB 軟件對(duì)所提算法的性能進(jìn)行詳細(xì)的仿真與評(píng)估，所用處理器的型號(hào)為Intel(R)Core(TM) i5-4210M，主頻2.60 GHz，機(jī)帶RAM 8 GHz。首先考慮單用戶場(chǎng)景，設(shè)仿真中的發(fā)射機(jī)和接收機(jī)分別具有64 根和16根天線；發(fā)射機(jī)和接收機(jī)射頻鏈個(gè)數(shù)相等，統(tǒng)一用NRF表示；數(shù)據(jù)流個(gè)數(shù)NS=2。毫米波信道的實(shí)例依據(jù)式(2)和式(3)進(jìn)行生成，其中簇個(gè)數(shù)Ncl=5，每個(gè)簇的中心到達(dá)角和離開角均勻分布在[0,2π)內(nèi)；每個(gè)簇有Nray=10個(gè)射線，到達(dá)角和離開角服從角度擴(kuò)展為10°的拉普拉斯分布；第i個(gè)簇中第 ? 個(gè)射線的復(fù)增益為，其中表示第i個(gè)簇的平均功率。設(shè)天線間距d為半波長，噪聲功率為1。信噪比（SNR,signal-to-noise-ratio）定義為。ε、δ和tmax分別設(shè)置為10-3、10-6和500。以下分析將在隨機(jī)產(chǎn)生1 000 個(gè)信道實(shí)例的情況下，將本文算法與傳統(tǒng)的OMP[7]、OPP[13]、CG-AltMin[13]、BB-AltMin[15]、GP-AltMin[16]等算法和基于GDM[20]的在線學(xué)習(xí)方案進(jìn)行對(duì)比。在GDM 中，最大迭代次數(shù)和動(dòng)量因子α分別設(shè)置為2 000 和0.9，為區(qū)別于本文算法，學(xué)習(xí)率用μ表示，另外，獲得的模擬預(yù)編碼器通過式(19)進(jìn)行模值歸一化處理。

圖2 為NRF=4、SNR=0 時(shí)，不同學(xué)習(xí)率情況下本文算法和GDM 的可實(shí)現(xiàn)頻譜效率與訓(xùn)練數(shù)據(jù)集大小Nd的關(guān)系。對(duì)于BP 神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)輸出與輸入的映射關(guān)系為非線性函數(shù)。對(duì)于非線性函數(shù)，訓(xùn)練數(shù)據(jù)集越大，函數(shù)的擬合效果越好，訓(xùn)練得到的網(wǎng)絡(luò)模型才最接近真實(shí)函數(shù)。

圖2 不同學(xué)習(xí)率情況下頻譜效率與訓(xùn)練數(shù)據(jù)集大小的關(guān)系

從圖2 可以看到，頻譜效率隨著Nd的增加而增加，對(duì)于本文算法，Nd=3時(shí)頻譜效率趨于最大值；對(duì)于GDM，Nd=4時(shí)頻譜效率趨于最大值。由此可見，本文算法僅需較少的訓(xùn)練數(shù)據(jù)集即可達(dá)到較滿意的結(jié)果。在本文算法中，每個(gè)權(quán)重的搜索步長與之前迭代的一階導(dǎo)數(shù)的平方和有關(guān)，僅利用了一階導(dǎo)數(shù)信息即可起到與二階方法和模擬退火相同的性能，將會(huì)使頻譜效率收斂到一個(gè)穩(wěn)定值。因此，給定Nd和學(xué)習(xí)率時(shí)，本文算法的頻譜效率性能優(yōu)于GDM。，從圖2 中還可以看出，在給出的幾個(gè)學(xué)習(xí)率中，η=0.5時(shí)本文算法的頻譜效率最大，μ=0.9時(shí)GDM 的頻譜效率最大。

圖3 為Nd=3、SNR=0 時(shí)不同學(xué)習(xí)率的收斂情況對(duì)比。本文算法的收斂結(jié)束條件是式(6)和式(25)中的優(yōu)化目標(biāo)趨于最小，等價(jià)于使優(yōu)化式(5)中的頻譜效率趨于最大，因此迭代次數(shù)會(huì)收斂于頻譜效率。對(duì)于本文算法，η=0.5時(shí)的收斂速度較快（平均迭代次數(shù)為192，平均收斂時(shí)間約為0.131 4 s），且實(shí)現(xiàn)的頻譜效率較高，平均約為14.58 bit/(s·Hz)；對(duì)于GDM，μ=0.9時(shí)的收斂速度較快，且實(shí)現(xiàn)的頻譜效率較高。給定學(xué)習(xí)率時(shí)，本文算法的收斂速度遠(yuǎn)遠(yuǎn)快于GDM。從圖2 和圖3 可以看到，當(dāng)Nd=3、η=0.5時(shí)，本文算法性能最好；當(dāng)Nd=4、μ=0.9時(shí)，GDM 性能最好。因此在后續(xù)仿真中，對(duì)于本文算法，均令Nd=3、η=0.5；對(duì)于GDM，均令Nd=4、μ=0.9。

圖3 不同學(xué)習(xí)率的收斂情況對(duì)比

圖4 為NRF=4時(shí)不同算法的性能對(duì)比。根據(jù)式(4)，隨著SNR 的增加，所有算法可實(shí)現(xiàn)的頻譜效率均增加。在給定SNR 的前提下，本文算法可實(shí)現(xiàn)的頻譜效率均高于參與對(duì)比的算法，最接近無約束全數(shù)字預(yù)編碼的性能。在本文算法中，經(jīng)過收斂，模擬預(yù)編碼矩陣與數(shù)字預(yù)編碼矩陣的乘積FRFFBB接近無約束全數(shù)字預(yù)編碼矩陣Fopt，模擬組合矩陣和數(shù)字組合矩陣的乘積WRFWBB接近無約束全數(shù)字組合矩陣Wopt，因此所實(shí)現(xiàn)頻譜效率會(huì)接近無約束全數(shù)字預(yù)編碼。

圖4 NRF=4時(shí)不同算法的性能對(duì)比

圖5 為不同算法可實(shí)現(xiàn)的頻譜效率隨NRF的變化情況。隨著NRF的增加，本文算法、OMP、CG-AltMin、BB-AltMin、GP-AltMin 和GDM 可實(shí)現(xiàn)的頻譜效率均增加。在給定NRF的條件下，本文算法可實(shí)現(xiàn)的頻譜效率高于其他算法，且在NRF=4時(shí)接近無約束全數(shù)字預(yù)編碼的性能。文獻(xiàn)[33]證明，在混合預(yù)編碼架構(gòu)下，NRF≥2NS是實(shí)現(xiàn)無約束全數(shù)字預(yù)編碼性能的充分條件，圖5 的仿真結(jié)果也證實(shí)了這一結(jié)論。盡管OPP 相比上述算法具有較低的復(fù)雜度，但可實(shí)現(xiàn)的頻譜效率隨著NRF的增加幾乎不發(fā)生變化。這是由于OPP 假設(shè)FBB滿足比例酉性質(zhì)，但這一假設(shè)僅在NRF=NS時(shí)成立。因此，當(dāng)NRF>NS時(shí)，OPP 所實(shí)現(xiàn)的頻譜效率在一定程度上會(huì)有所降低。

圖5 不同算法可實(shí)現(xiàn)的頻譜效率隨NRF的變化情況

為了比較不同算法的復(fù)雜度，表3 列出了本文算法、CG-AltMin、BB-AltMin、GP-AltMin 和GDM在不同NRF時(shí)的平均迭代次數(shù)。將表3 的數(shù)據(jù)代入表2 的公式中，得到不同算法的計(jì)算開銷隨NRF的變化曲線，如圖6 所示。從圖6 中可以看出，本文算法的復(fù)雜度明顯低于CG-AltMin、BB-AltMin、GP-AltMin 和GDM，且在NRF>3時(shí)隨著NRF的增加而降低。因?yàn)楸? 的數(shù)據(jù)顯示，當(dāng)NRF>3時(shí)，隨著NRF的增加，本文算法的迭代次數(shù)Niter不斷降低，將Niter代入表2 的公式中，Niter降低的幅度大于復(fù)雜度僅在NRF作用下增加的幅度，Niter和NRF的聯(lián)合作用造成復(fù)雜度的降低。而參與對(duì)比的交替最小算法和GDM 算法的迭代次數(shù)盡管也隨著NRF的增大而減小，但減小的程度遠(yuǎn)不如本文算法，因此沒有出現(xiàn)復(fù)雜度隨NRF增加而降低的情況。

圖6 不同算法的計(jì)算開銷隨NRF的變化曲線

表3 不同算法的平均迭代次數(shù)

最后，評(píng)估多用戶場(chǎng)景下不同算法的性能。設(shè)配置64 根天線的基站同時(shí)和U個(gè)用戶進(jìn)行通信，每個(gè)用戶均具有16 根天線。每個(gè)用戶與基站間毫米波信道實(shí)例的產(chǎn)生方式與相應(yīng)參數(shù)的設(shè)置與單用戶場(chǎng)景一致。以下在隨機(jī)產(chǎn)生1 000 個(gè)信道實(shí)例的條件下，將本文算法與 ZF[18]、MMSE[19]、CG-AltMin[13]和GDM[22]進(jìn)行對(duì)比分析。

圖7 為U=4時(shí)不同算法的和速率與SNR 的關(guān)系。根據(jù)式(27)，隨著SNR 的增加，所有算法可實(shí)現(xiàn)的和速率均增加。從圖7 中可看出，本文算法實(shí)現(xiàn)的和速率高于其他算法，這是因?yàn)楸疚乃惴ㄔO(shè)計(jì)的混合預(yù)編碼矩陣最接近理想情況下的ZF 全數(shù)字預(yù)編碼矩陣。

圖7 U=4時(shí)不同算法的和速率與SNR 的關(guān)系

圖8 為SNR=0 時(shí)不同算法的和速率與U的關(guān)系。隨著U的增加，所有算法實(shí)現(xiàn)的和速率均增加，但U的增加會(huì)造成每個(gè)用戶所受干擾的增大，因此和速率增長的趨勢(shì)會(huì)變緩。在給定U的前提下，本文算法實(shí)現(xiàn)的和速率與GDM 基本相同，且均高于ZF 和MMSE。與CG-AltMin 相比，當(dāng)U≤ 4時(shí)，本文算法實(shí)現(xiàn)的和速率與之相同；當(dāng)U>4時(shí)，本文算法實(shí)現(xiàn)的和速率更高；且隨著U的增加，本文算法和CG-AltMin 所實(shí)現(xiàn)和速率的差值不斷增大。

圖8 SNR=0 時(shí)不同算法的和速率與U 的關(guān)系

綜上所述，在單用戶場(chǎng)景和多用戶場(chǎng)景下，本文算法可實(shí)現(xiàn)的頻譜效率均高于現(xiàn)有的算法，接近全數(shù)字預(yù)編碼的性能。而在算法復(fù)雜度方面，與基于交替最小的次優(yōu)算法和基于GDM 的在線學(xué)習(xí)方案相比，本文算法的復(fù)雜度明顯降低。

5 結(jié)束語

本文針對(duì)毫米波大規(guī)模MIMO 系統(tǒng)，分別提出了適用于單用戶場(chǎng)景和多用戶場(chǎng)景的低復(fù)雜度混合預(yù)編碼方法。首先針對(duì)單用戶場(chǎng)景，提出了一種等效的單隱藏層神經(jīng)網(wǎng)絡(luò)架構(gòu)，將混合預(yù)編碼的設(shè)計(jì)問題等效為該網(wǎng)絡(luò)架構(gòu)下的權(quán)值訓(xùn)練過程。然后以最小化損失函數(shù)為目標(biāo)，提出了基于AG-BP 算法的混合預(yù)編碼機(jī)制。最后將所提算法擴(kuò)展至多用戶場(chǎng)景。仿真結(jié)果表明，所提算法可實(shí)現(xiàn)的頻譜效率高于現(xiàn)有的算法，接近全數(shù)字預(yù)編碼的性能，且復(fù)雜度低于基于交替最小的次優(yōu)算法和基于動(dòng)量梯度下降的在線學(xué)習(xí)方案。