基于ResNet的大型智能表面在毫米波系統(tǒng)中的應(yīng)用*

齊月月，孫 強(qiáng),2，錢盼盼，居金娟，周 暉，徐 晨

(1.南通大學(xué) 信息科學(xué)技術(shù)學(xué)院，江蘇 南通 226019；2.南通先進(jìn)通信技術(shù)研究院有限公司，江蘇 南通 226019;3.南通職業(yè)大學(xué) 電子信息工程系，江蘇 南通 226007)

0 引 言

隨著5G通信網(wǎng)絡(luò)商業(yè)化[1-2]，大規(guī)模多輸入多輸出(Multiple-Input Multiple-Output,MIMO)和毫米波結(jié)合傳輸帶來(lái)了巨大的能源消耗和硬件復(fù)雜度[3]。在最近開(kāi)始探索的下一代(6G)通信技術(shù)[4]中，大型智能表面(Large Intelligent Surface,LIS)以其低成本、低硬件復(fù)雜度，以及易改變無(wú)線傳播環(huán)境的特性而備受學(xué)術(shù)界和工業(yè)界的關(guān)注[5-7]。LIS是一種具有電磁特性的二維表面，由大量的超材料[8]制成的無(wú)源可重構(gòu)反射單元組成。這些單元通過(guò)控制相位、幅度、頻率甚至極化與入射信號(hào)進(jìn)行交互[9]，以提高無(wú)線通信系統(tǒng)的覆蓋率和速率?，F(xiàn)有研究多集中在相移的調(diào)節(jié)方面[10-11]，LIS的每個(gè)反射單元都可以通過(guò)外部編程控制，在基站端進(jìn)行實(shí)時(shí)調(diào)節(jié)相位。

LIS協(xié)助無(wú)線通信時(shí)，通過(guò)調(diào)控LIS反射波束改變傳輸環(huán)境。目前工作[12-14]假設(shè)LIS與用戶和基站之間完美的級(jí)聯(lián)信道狀態(tài)信息(Channel State Information,CSI)已知時(shí)，設(shè)計(jì)LIS反射波束。但是，獲得級(jí)聯(lián)信道狀態(tài)信息是LIS系統(tǒng)最嚴(yán)峻的挑戰(zhàn)之一。關(guān)于LIS系統(tǒng)的信道估計(jì)，文獻(xiàn)[15]將最小二乘法用于估計(jì)正交頻分復(fù)用(Orthogonal Frequency Division Multiplexing,OFDM)系統(tǒng)中直接鏈路和反射鏈路的聯(lián)合信道會(huì)產(chǎn)生大量導(dǎo)頻訓(xùn)練開(kāi)銷。文獻(xiàn)[16]利用MIMO信道的低秩特性，提出一種基于稀疏矩陣因式分解的級(jí)聯(lián)信道估計(jì)方法，可以降低導(dǎo)頻訓(xùn)練開(kāi)銷。然而，該方法采用LIS開(kāi)關(guān)變換模式會(huì)增加硬件復(fù)雜度和功耗。文獻(xiàn)[17]提出一種基于多層感知器神經(jīng)網(wǎng)絡(luò)(Multi-Layer Perceptron Network,MLP)的信道估計(jì)和反射波束設(shè)計(jì)聯(lián)合優(yōu)化方案，該方案既降低了訓(xùn)練開(kāi)銷和硬件復(fù)雜度，又提高了能量效率。但是，MLP神經(jīng)網(wǎng)絡(luò)的隱含層的層與層之間都是全連接的，即第i層的任意一個(gè)神經(jīng)元與第i+1層的任意一個(gè)神經(jīng)元相連接，當(dāng)LIS部署天線規(guī)模增大，神經(jīng)元和層數(shù)變多，隨之而來(lái)的是梯度消失、梯度爆炸以及更高的計(jì)算復(fù)雜度問(wèn)題，進(jìn)而導(dǎo)致LIS系統(tǒng)性能降低。

本文提出一種基于殘差神經(jīng)網(wǎng)絡(luò)(Residual Neural Network,ResNet)的LIS協(xié)助毫米波系統(tǒng)的反射波束解決方案。首先，LIS框架采用大量無(wú)源和少量有源元件混合組成，其中有源元件連接基帶的RF鏈用來(lái)估計(jì)有源元件的信道。在此基礎(chǔ)上，將ResNet的殘差單元進(jìn)行改進(jìn)，重新設(shè)置殘差單元數(shù)量和殘差單元結(jié)構(gòu)。然后，通過(guò)離線學(xué)習(xí)少量有源元件信道與反射波束之間的映射關(guān)系，預(yù)測(cè)出最佳反射波束去傳輸信號(hào)。仿真分析了數(shù)據(jù)集大小、LIS天線數(shù)量、有源元件個(gè)數(shù)、信道路徑數(shù)量對(duì)ResNet神經(jīng)網(wǎng)絡(luò)的影響，結(jié)果表明，本文采用ResNet神經(jīng)網(wǎng)絡(luò)能更加高效、快速、準(zhǔn)確地找出最佳反射波束，逼近最高可實(shí)現(xiàn)速率。

1 系統(tǒng)模型及問(wèn)題表述

1.1 系統(tǒng)模型

圖1 混合LIS協(xié)助毫米波系統(tǒng)通信模型

本文考慮具有K個(gè)子載波OFDM系統(tǒng)，定義hB,k,hU,k∈N×1為第k個(gè)子載波上的從基站和用戶分別到LIS的上行鏈路信道向量。根據(jù)信道互易性，下行鏈路信道向量分別定義為和符號(hào)H表示共軛轉(zhuǎn)置。從基站到LIS上行鏈路信道向量hB,k有L條路徑，每條路徑l都會(huì)產(chǎn)生一條時(shí)延tl、一個(gè)復(fù)系數(shù)gl、還有到達(dá)的方位角θl∈[0,2π)和仰角φl(shuí)∈[0,2π)。ρB表示基站和LIS之間的路徑損耗，D、d表示信道延遲，p(t)表示在t秒時(shí)評(píng)估T間隔信號(hào)的脈沖整形函數(shù)。第k個(gè)子載波的頻域信道向量hB,k可表示為[18]

(1)

式中：a(θl,φl(shuí))∈N×1表示到達(dá)LIS方位角θl和仰角φl(shuí)的陣列響應(yīng)向量，同理表示hU,k?？紤]到萊斯塊衰落信道模型，所以假設(shè)hB,k和hU,k在信道相干時(shí)間上保持恒定，信道相干時(shí)間取決于用戶的移動(dòng)性和無(wú)線環(huán)境的動(dòng)態(tài)性。然后，定義和為在第k個(gè)子載波上的從基站和用戶到M個(gè)有源元件的信道向量，稱作上行采樣信道，由用戶和基站發(fā)送上行導(dǎo)頻信號(hào)就可以獲取。表示為

(2)

(hU,k⊙hB,k)Hφxk+nk。

(3)

1.2 問(wèn)題表述

本文通過(guò)LIS布設(shè)的有源元件獲取少量的CSI去設(shè)計(jì)最佳反射波束向量φ，使得用戶端的可實(shí)現(xiàn)速率最大。上述LIS系統(tǒng)和信道模型可實(shí)現(xiàn)速率表示為

(4)

(5)

(6)

2 基于ResNet的LIS系統(tǒng)反射波束向量設(shè)計(jì)

2.1 基于ResNet的LIS系統(tǒng)架構(gòu)

本文提出基于ResNet網(wǎng)絡(luò)去設(shè)計(jì)LIS系統(tǒng)反射波束向量。首先，LIS采用級(jí)聯(lián)采樣信道向量和可實(shí)現(xiàn)速率向量構(gòu)建的數(shù)據(jù)集預(yù)先對(duì)該網(wǎng)絡(luò)進(jìn)行離線訓(xùn)練；然后，將重新估計(jì)的級(jí)聯(lián)采樣信道輸入訓(xùn)練好的網(wǎng)絡(luò)模型在線預(yù)測(cè)最佳反射波束向量及相應(yīng)的最高可實(shí)現(xiàn)速率?；赗esNet神經(jīng)網(wǎng)絡(luò)的LIS系統(tǒng)分為訓(xùn)練階段和預(yù)測(cè)階段兩個(gè)階段。

2.1.1 訓(xùn)練階段

(1)采樣信道估計(jì)

(2)波束訓(xùn)練

在這一步，LIS使用預(yù)先定義的反射碼本C進(jìn)行窮舉波束訓(xùn)練，遍歷每個(gè)反射波束向量φn(n=1,2,…,|C|)，并接收來(lái)自用戶端反饋的可實(shí)現(xiàn)速率Rn(s)，定義

在每個(gè)相干塊s的可實(shí)現(xiàn)速率表示為

(3)數(shù)據(jù)集構(gòu)建

(4)ResNet模型訓(xùn)練

2.1.2 預(yù)測(cè)階段

LIS利用訓(xùn)練好的ResNet神經(jīng)網(wǎng)絡(luò)模型直接輸入采樣信道向量來(lái)預(yù)測(cè)最佳反射波束，該段對(duì)每個(gè)信道相干塊執(zhí)行以下步驟：

(1)采樣信道估計(jì)。與訓(xùn)練階段的第一步相同。

(3)數(shù)據(jù)傳輸。通過(guò)ResNet神經(jīng)模型預(yù)測(cè)最佳反射波束向量，然后利用其相應(yīng)預(yù)測(cè)的最高可實(shí)現(xiàn)速率去反射傳輸數(shù)據(jù)(信號(hào))。

2.2 數(shù)據(jù)預(yù)處理

使用數(shù)據(jù)集D進(jìn)行訓(xùn)練和預(yù)測(cè)時(shí)，為了讓學(xué)習(xí)過(guò)程更加平穩(wěn)和快速收斂，需要對(duì)原數(shù)據(jù)進(jìn)行預(yù)處理操作。

(1)輸入數(shù)據(jù)

輸入的采樣信道進(jìn)行歸一化處理，即所有樣本除以輸入樣本中的最大值，可以表示為

(7)

這種歸一化的方法可以保留采樣信道的編碼距離信息。由于深度學(xué)習(xí)主要使用實(shí)值進(jìn)行計(jì)算，為了不丟失采樣信道中虛部的值，將輸入數(shù)據(jù)實(shí)部和虛部的值分開(kāi)，然后將構(gòu)建成一個(gè)M×K×2三維實(shí)值輸入矩陣。

(2)目標(biāo)數(shù)據(jù)

ResNet模型采用監(jiān)督學(xué)習(xí)方法進(jìn)行訓(xùn)練，輸入數(shù)據(jù)伴隨著其目標(biāo)響應(yīng)。其中，目標(biāo)響應(yīng)是實(shí)值速率向量R(s)，為了和輸入數(shù)據(jù)保持同樣的訓(xùn)練效率，每個(gè)向量R(s)使用最大速率值max[R(s)]n進(jìn)行歸一化，以防止網(wǎng)絡(luò)模型對(duì)某些強(qiáng)響應(yīng)產(chǎn)生偏差。

2.3 ResNet網(wǎng)絡(luò)模型

ResNet網(wǎng)絡(luò)由何凱明等[19]提出，在信道估計(jì)和信道反饋方面已得到廣泛的應(yīng)用[20-21]，通過(guò)忽略輸入和目標(biāo)之間的共同信息，集中去學(xué)習(xí)從輸入到殘差(輸入與目標(biāo)之間的差異)的映射，從而降低學(xué)習(xí)難度，提高學(xué)習(xí)效率。另外，增加全等映射層來(lái)解決隨著網(wǎng)絡(luò)深度增加而產(chǎn)生的梯度消失、網(wǎng)絡(luò)退化等問(wèn)題。本文提出的ResNet網(wǎng)絡(luò)模型由2個(gè)殘差單元和2層全連接層組成，如圖2所示。

圖2 ResNet的神經(jīng)網(wǎng)絡(luò)模型

ResNet網(wǎng)絡(luò)結(jié)構(gòu)如下：

(1)輸入層

輸入層是整個(gè)神經(jīng)網(wǎng)絡(luò)的信息接入口，本文中每一個(gè)輸入數(shù)據(jù)都是經(jīng)過(guò)預(yù)處理的三維采樣信道矩陣。

(2)殘差單元

如圖2所示，每一個(gè)殘差單元包含三層卷積核為3×3、步長(zhǎng)為1的卷積層(Convolutional Layer,Conv)。卷積層的的特征維度分別為64、32、2，最后一層的特征維度和輸入層相同，使用按0填充，將三個(gè)卷積層的輸出尺寸設(shè)置為與輸入采樣信道相同。卷積層之后都引入批量歸一化(Batch Normalization,BN)層和激活函數(shù)層，批量歸一化層通過(guò)減少內(nèi)部協(xié)變量偏移，加快網(wǎng)絡(luò)的收斂速度。采用帶泄露修正線性單元激活函數(shù)(Leaky Rectified Linear Unit,LeakyReLU)，其中參數(shù)α設(shè)置為0.01，LeakyReLU是ReLU激活函數(shù)的變體，解決ReLU激活函數(shù)進(jìn)入負(fù)區(qū)間不學(xué)習(xí)的問(wèn)題。

(3)全連接層和輸出層

兩層全連接層分別有|C|/2和|C|個(gè)神經(jīng)元，每一個(gè)全連接層后都有概率為0.5的Dropout函數(shù)，最后輸出層是回歸層。

ResNet網(wǎng)絡(luò)改進(jìn)的殘差單元有兩個(gè)優(yōu)點(diǎn)：首先，大多數(shù)ResNet網(wǎng)絡(luò)都包含池化層，這是一種下采樣的形式，不同于傳統(tǒng)方式，本文的殘差單元輸出尺寸與采樣信道矩陣大小相同，目的是細(xì)化而不是降維；其次，殘差單元中的快捷連接(Shortcut Connections,ShortCut)直接將數(shù)據(jù)傳遞到后面的層，避免了多重非線性堆積引起的梯度消失問(wèn)題。圖3對(duì)比了ResNet神經(jīng)網(wǎng)絡(luò)在不同殘差單元下的性能，其中，LIS設(shè)置為64×64(N=4 096) 根天線的均勻平面陣，信道路徑數(shù)設(shè)置為1，有源元件數(shù)目設(shè)置為8。實(shí)驗(yàn)結(jié)果表明，ResNet網(wǎng)絡(luò)設(shè)置2個(gè)殘差單元時(shí)具有良好的性能，進(jìn)一步增加殘差單元并不能顯著提高學(xué)習(xí)效果，而且增加了計(jì)算的復(fù)雜度。

圖3 殘差單元對(duì)ResNet神經(jīng)網(wǎng)絡(luò)的影響

由于預(yù)測(cè)的最佳反射波束向量φn*具有最高可實(shí)現(xiàn)速率Rn*，所以選擇回歸損失函數(shù)對(duì)模型進(jìn)行訓(xùn)練，損失函數(shù)f(θ)表示為

(8)

3 仿真分析

3.1 仿真參數(shù)設(shè)置

本文采用Matlab2018b在具有單個(gè)GPU和64位操作系統(tǒng)的環(huán)境中完成仿真。通過(guò)DeepMIMO數(shù)據(jù)集來(lái)生成基于室外光線跟蹤場(chǎng)景“O1”的信道[23]，其中，在光線跟蹤場(chǎng)景中，基站和用戶使用全向或準(zhǔn)全向天線，還有3號(hào)基站為L(zhǎng)IS。表1總結(jié)了DeepMIMO數(shù)據(jù)集參數(shù)。產(chǎn)生的數(shù)據(jù)集有36 200個(gè)數(shù)據(jù)點(diǎn)，將數(shù)據(jù)集分成兩組，即訓(xùn)練集和測(cè)試集，分別占85%和15%。為了評(píng)估解決方案在毫米波場(chǎng)景下的性能，設(shè)置載波頻率為28 GHz，表2為ResNet和MLP神經(jīng)網(wǎng)絡(luò)參數(shù)對(duì)比。

表1 DeepMIMO 數(shù)據(jù)集

表2 ResNet和MLP神經(jīng)網(wǎng)絡(luò)參數(shù)

3.2 仿真結(jié)果

圖4對(duì)比了ResNet和MLP神經(jīng)網(wǎng)絡(luò)在LIS部署不同天線數(shù)時(shí)的性能，LIS采用均勻平面陣，分別設(shè)置為32×32(N=1 024)和64×64(N=4 096)根天線，其中有源元件設(shè)置為8個(gè)，信道路徑數(shù)為1。由圖4可得，ResNet網(wǎng)絡(luò)在數(shù)據(jù)集為10 000時(shí)，已經(jīng)逼近于完美CSI下最高可實(shí)現(xiàn)速率，而MLP需要數(shù)據(jù)集為30 000時(shí)才能實(shí)現(xiàn)，ResNet和MLP相應(yīng)的訓(xùn)練時(shí)間和預(yù)測(cè)時(shí)間如表3所示，其中，ResNet的訓(xùn)練時(shí)間和預(yù)測(cè)時(shí)間都低于MLP。隨著LIS天線數(shù)量的增大，MLP網(wǎng)絡(luò)的可實(shí)現(xiàn)速率收斂速度明顯降低，而ResNet網(wǎng)絡(luò)只需要獲取少量的數(shù)據(jù)集進(jìn)行訓(xùn)練就可以準(zhǔn)確找出最佳反射波束，快速逼近其最高可實(shí)現(xiàn)速率，減少了訓(xùn)練開(kāi)銷，提高了訓(xùn)練效率。

圖4 LIS的天線數(shù)量對(duì)ResNet和MLP神經(jīng)網(wǎng)絡(luò)的影響

表3 ResNet和MLP訓(xùn)練和預(yù)測(cè)時(shí)間對(duì)比

圖5給出了有源元件數(shù)量對(duì)ResNet神經(jīng)網(wǎng)絡(luò)和MLP神經(jīng)網(wǎng)絡(luò)的影響，其中，LIS設(shè)置為64×64(N=4 096) 根天線的均勻平面陣，信道路徑數(shù)設(shè)置為1，有源元件數(shù)目分別設(shè)置為2、4、8。由仿真曲線可知，LIS采用相同有源元件時(shí)，ResNet神經(jīng)網(wǎng)絡(luò)可實(shí)現(xiàn)速率優(yōu)于MLP神經(jīng)網(wǎng)絡(luò)，采用不同有源元件時(shí),ResNet神經(jīng)網(wǎng)絡(luò)只需要4個(gè)有源元件已經(jīng)可以逼近完美CSI下的最高可實(shí)現(xiàn)速率，而MLP神經(jīng)網(wǎng)絡(luò)需要8個(gè)有源元件才能實(shí)現(xiàn)。對(duì)比MLP神經(jīng)網(wǎng)絡(luò)，ResNet神經(jīng)網(wǎng)絡(luò)只需要更少的有源元件便可以逼近最高可實(shí)現(xiàn)速率，大幅度提高了LIS系統(tǒng)的能量效率。

圖5 有源元件對(duì)ResNet和MLP神經(jīng)網(wǎng)絡(luò)影響

圖6給出了信道路徑對(duì)ResNet神經(jīng)網(wǎng)絡(luò)和MLP神經(jīng)網(wǎng)絡(luò)的影響,LIS設(shè)置為64×64(N=4 096) 根天線的均勻平面陣，其中，有源元件設(shè)置為4個(gè)，信道路徑數(shù)分別設(shè)置為1、2、5。從圖中可以看出，隨著信道路徑增加，信道變得更加豐富，ResNet神經(jīng)網(wǎng)絡(luò)的可實(shí)現(xiàn)速率并沒(méi)有下降，相比MLP神經(jīng)網(wǎng)絡(luò)表現(xiàn)出更強(qiáng)的魯棒性，適用于不同徑數(shù)的信道模型。

圖6 信道路徑對(duì)ResNet和MLP神經(jīng)網(wǎng)絡(luò)影響

4 結(jié) 論

本文研究了LIS協(xié)助毫米波系統(tǒng)中聯(lián)合信道估計(jì)和反射波束設(shè)計(jì)問(wèn)題，通過(guò)混合LIS框架中少量的有源元件估計(jì)出采樣信道向量；然后，基于ResNet神經(jīng)網(wǎng)絡(luò)模型去學(xué)習(xí)采樣信道向量和反射波束向量的映射關(guān)系，預(yù)測(cè)最佳反射波束及其相應(yīng)的最高可實(shí)現(xiàn)速率；最后，采用最佳反射波束傳輸數(shù)據(jù)。實(shí)驗(yàn)結(jié)果表明，本文提出的ResNet神經(jīng)網(wǎng)絡(luò)對(duì)于信道路徑增加表現(xiàn)出更強(qiáng)的魯棒性，而且只需要少量的數(shù)據(jù)集和有源元件就能快速準(zhǔn)確找出最佳反射波束向量，逼近完美CSI的最高可實(shí)現(xiàn)速率，進(jìn)一步降低了LIS系統(tǒng)的訓(xùn)練開(kāi)銷。