基于主成分分析的光通信神經(jīng)網(wǎng)絡(luò)均衡算法

江逸寧 滕旭陽 孫雨潼 畢美華

（杭州電子科技大學(xué)通信工程學(xué)院 浙江省杭州市 310018）

1 引言

目前，下一代接入網(wǎng)技術(shù)（Next Generation Passive Optical Access Network, NG-PON）研究的重點(diǎn)主要集中在系統(tǒng)容量100Gb/s 下的單波長(zhǎng)25Gb/s 速率及其相關(guān)技術(shù)。同時(shí)，PON 系統(tǒng)也需要在實(shí)現(xiàn)高容量的基礎(chǔ)上保持低成本。在傳輸技術(shù)方面，強(qiáng)度調(diào)制直接檢測(cè)（Intensity Modulation Direct Detection，IM-DD）和相干傳輸技術(shù)是目前主流的傳輸技術(shù)。其中，相干傳輸由于接收機(jī)結(jié)構(gòu)復(fù)雜度高等原因，不利于成本控制。因此，基于IM-DD 的光傳輸技術(shù)基于其低復(fù)雜度低成本的特性，主要運(yùn)用于中、短距離光通信傳輸系統(tǒng)。而在短距離光通信系統(tǒng)中，四電平脈沖幅度調(diào)制（4 Pulse Amplitude Modulation,PAM-4）具有較低的功耗以及更簡(jiǎn)單的結(jié)構(gòu)，對(duì)帶寬要求低，從而降低了每比特的成本，得到了廣泛應(yīng)用。由于系統(tǒng)中存在的非線性失真與碼間串?dāng)_（ISI，InterSymbol Interference）將嚴(yán)重影響系統(tǒng)性能。目前研究的低成本高帶寬NG-PON 系統(tǒng)通過在發(fā)送端或接收端采用了均衡技術(shù)來補(bǔ)償非線性損傷與ISI 影響的傳輸性能。國外如Hao Ying等人的研究中，利用FFE 均衡器(Feed Forward Equalizer)結(jié)合BP 神經(jīng)網(wǎng)絡(luò)(Back Propagation Neural Network)，對(duì)非線性失真進(jìn)行抑制，提升了均衡器的整體性能，但對(duì)ISI 的補(bǔ)償性能精度不夠。而Jing Zhang 等人提出了運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行光通信均衡來降低系統(tǒng)的誤碼率，缺乏對(duì)前后碼元及其相關(guān)性的分析。同時(shí)，韓國KAIST 將簡(jiǎn)化版的Volterra 非線性均衡器應(yīng)用于光傳輸系統(tǒng)，其中NG-VNLE 通過簡(jiǎn)并二階Volterra 項(xiàng)而大幅減少了系統(tǒng)復(fù)雜度，而該操作也忽略了ISI 補(bǔ)償過程中的相關(guān)性致使信息損失。因此，本文基于滑動(dòng)窗口，提出了一種基于滑主成分分析法的深度神經(jīng)網(wǎng)絡(luò)算法，在保證較低復(fù)雜度的同時(shí)，補(bǔ)償了光通信系統(tǒng)中的非線性損傷。在距離為20km時(shí)，以發(fā)射功率為-14dBm 的80Gb/s PAM-4 信號(hào)系統(tǒng)為例與Volterra 非線性均衡器相比，本文提出的方法可以有效提高均衡性能，將誤碼率降低至1.4×10。

2 神經(jīng)網(wǎng)絡(luò)非線性均衡器

2.1 基于滑動(dòng)窗口法的深度神經(jīng)網(wǎng)絡(luò)

深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks, DNN）是一種機(jī)器學(xué)習(xí)算法，具有多層隱藏層神經(jīng)元，多個(gè)輸入層神經(jīng)元以及多個(gè)輸出層神經(jīng)元的線性或非線性方程，常利用其高維尺度適于對(duì)復(fù)雜數(shù)據(jù)結(jié)構(gòu)分類的優(yōu)勢(shì)對(duì)多維特征進(jìn)行分類。而基于滑動(dòng)窗口，可以找到輸入序列中存在數(shù)據(jù)波動(dòng)的臨界點(diǎn)，以該點(diǎn)的維數(shù)作為輸入窗口的滑動(dòng)長(zhǎng)度。如圖1 所示。

圖1： 輸入樣本分類過程

假設(shè)每個(gè)樣本序列中共有n 個(gè)樣本，即X=(X,X,...,X)，每個(gè)樣本對(duì)應(yīng)的標(biāo)簽序列為：

Label=(Label, Label, ..., Label)

由于前后碼元存在相關(guān)性，所以樣本序列唯一對(duì)應(yīng)標(biāo)簽序列中一個(gè)標(biāo)簽。定義數(shù)據(jù)波動(dòng)的臨界點(diǎn)長(zhǎng)度為l，即滑動(dòng)窗口的長(zhǎng)度為l。假設(shè)需要通過神經(jīng)網(wǎng)絡(luò)分類器對(duì)第i 個(gè)樣本進(jìn)行分類?？梢缘玫交瑒?dòng)后的窗口范圍為[i-l:n-l]。如圖2所示。

圖2： 滑動(dòng)窗口示意圖

而相應(yīng)的輸入樣本即為：

選擇數(shù)據(jù)集中35%的數(shù)據(jù)用于評(píng)估檢驗(yàn)。當(dāng)檢驗(yàn)誤差在迭代過程中逐步減少時(shí)，學(xué)習(xí)速率也將隨之降低。因此實(shí)際處理時(shí)，使用200000 個(gè)樣本特征向量訓(xùn)練神經(jīng)網(wǎng)絡(luò)，其中35%用于驗(yàn)證，從而可用160000 個(gè)測(cè)試樣本評(píng)價(jià)分類精度，初始學(xué)習(xí)率設(shè)為0.01。圖3 的神經(jīng)網(wǎng)絡(luò)分類器具有2 層隱藏層的全連接前饋結(jié)構(gòu)，使用ReLu 函數(shù)作為非線性函數(shù)。

圖3： 滑動(dòng)窗口輸入神經(jīng)網(wǎng)絡(luò)

為了盡量降低模型的復(fù)雜度，輸入到輸出各層的隱含節(jié)點(diǎn)數(shù)分別設(shè)為N-n+m+1、12、12 和4。輸出層選用歸一化指數(shù)函數(shù) （Softmax）生成PAM-4 碼型四種波形。

處理時(shí)需要先將輸入到神經(jīng)網(wǎng)絡(luò)中的各個(gè)樣本特征向量元素進(jìn)行歸一化后再進(jìn)行序列劃分與窗口滑動(dòng)。不同于其他類型的機(jī)器學(xué)習(xí)方法，深度神經(jīng)網(wǎng)絡(luò)在特征空間維數(shù)較高的情況下能通過滑動(dòng)窗口調(diào)節(jié)前后輸入樣本的比例，同時(shí)很好地從大量特征中提取有用信息，并提供良好的識(shí)別性能。

3 主成分分析

在輸入網(wǎng)絡(luò)前，前后碼元之間存在相關(guān)性，即各輸入碼元具有內(nèi)關(guān)性，通過計(jì)算輸入特征的方差貢獻(xiàn)率，可以得到碼元序列所包含特征信息的情況。計(jì)算原始輸入特征碼元序列的協(xié)方差矩陣：假設(shè)在原始輸入數(shù)據(jù)集中有N 個(gè)碼元序列，每個(gè)序列中共有p 個(gè)樣本，即X=(X,X,...,X)，其中X=(X, X, ..., X)。因此可將輸入碼元數(shù)據(jù)集的協(xié)方差矩陣A 表示為：

其中λ為協(xié)方差矩陣的特征值。通過對(duì)樣本序列的方差貢獻(xiàn)分析，可有效且直觀觀察輸入樣本序列的信息分布情況。當(dāng)部分特征的累計(jì)方差貢獻(xiàn)率達(dá)到95%時(shí)，對(duì)應(yīng)的m 個(gè)主成分能夠包含影響判決的大部分特征信息，并可以此為基準(zhǔn)進(jìn)行降維。而本文在實(shí)驗(yàn)過程中，將699維信息降維至399維。在整體特征信息分布較為平均時(shí)，同時(shí)結(jié)合滑動(dòng)窗口法，抑制低信息量的方向樣本在判決過程中的重要性，著重對(duì)反向的時(shí)間序列樣本進(jìn)行特征提取。

4 實(shí)驗(yàn)設(shè)計(jì)

4.1 數(shù)據(jù)集與實(shí)驗(yàn)配置

本數(shù)據(jù)集由發(fā)射功率為-1dBm 到-22dBm 的80Gb/s PAM-4 信號(hào)系統(tǒng)得到。其中不同發(fā)射功率下對(duì)應(yīng)的數(shù)據(jù)集均有200000 個(gè)訓(xùn)練樣本以及50000 個(gè)測(cè)試樣本。

4.2 滑動(dòng)窗口比例設(shè)置

在確定前后輸入比例時(shí)，本實(shí)驗(yàn)將采用的樣本數(shù)據(jù)集，按照14:1:14 的比例（即14 個(gè)先前樣本、1 個(gè)當(dāng)前樣本、14個(gè)后續(xù)樣本），分割成具有29 個(gè)樣本數(shù)量的序列。在深度神經(jīng)網(wǎng)絡(luò)中，輸入尺寸為199972×29，通過長(zhǎng)度為4 的滑動(dòng)窗口對(duì)序列對(duì)應(yīng)標(biāo)簽值進(jìn)行調(diào)整，即前后碼元比例為5:9，模型可以抑制低信息量的方向樣本在判決過程中的重要性，著重對(duì)反向的時(shí)間序列樣本進(jìn)行特征提取。如圖4 所示。

圖4： 滑動(dòng)長(zhǎng)度對(duì)應(yīng)的誤碼率與損失率

網(wǎng)絡(luò)具有兩層隱藏層，輸入到輸出各層的隱含節(jié)點(diǎn)數(shù)分別設(shè)為29、12、12 和4。優(yōu)化器為rmsprop，其中初始學(xué)習(xí)率設(shè)為0.01，損失函數(shù)采用交叉熵?fù)p失。

為了更好地評(píng)估滑動(dòng)窗口輸入法的分類性能，設(shè)置步進(jìn)為2，對(duì)基于不同滑動(dòng)窗口長(zhǎng)度所對(duì)應(yīng)神經(jīng)網(wǎng)絡(luò)分類器性能進(jìn)行對(duì)比。由圖4 可知，當(dāng)滑動(dòng)長(zhǎng)度過大，即徹底忽略先前樣本或后續(xù)樣本的信息時(shí)，訓(xùn)練損失迅速上升，誤碼率達(dá)到了1.06×10。當(dāng)輸入序列向后移動(dòng)4 位時(shí)，即前后比例為5:9時(shí)，誤碼率最低，達(dá)到了2.86×10。

對(duì)傳統(tǒng)的FFE 濾波器，DFE 濾波器等方法和本文的方法進(jìn)行性能仿真比較，橫軸表示訓(xùn)練的迭代次數(shù)，縱軸表示訓(xùn)練過程中得到的誤碼率，結(jié)果如圖5 所示。其中將長(zhǎng)度為4 的滑動(dòng)窗口處理后前后樣本比例為10:1:18 時(shí)的訓(xùn)練曲線，與未經(jīng)處理的前后樣本比例為14:1:14的訓(xùn)練曲線進(jìn)行對(duì)比。

圖5： 滑動(dòng)窗口輸入DNN 性能對(duì)比

由圖5 可知，通過滑動(dòng)窗口對(duì)深度神經(jīng)網(wǎng)絡(luò)進(jìn)行處理，可以得到更低的誤碼率，且性能均優(yōu)于傳統(tǒng)的Volterra、FFE、DFE 等分類方法，且在前后輸入碼元比例為5:9 時(shí)效果達(dá)到最佳。

4.3 實(shí)驗(yàn)結(jié)果分析

訓(xùn)練長(zhǎng)度和濾波器抽頭數(shù)（神經(jīng)網(wǎng)絡(luò)輸入層碼元）是影響算法性能最大的兩個(gè)因素。圖6(a)為發(fā)射功率為-14Bm的80Gb/s PAM-4 信號(hào)數(shù)據(jù)的 BER 與濾波器抽頭的關(guān)系曲線圖。可以發(fā)現(xiàn)，本文方案在輸入層碼元數(shù)量為699 時(shí)效果最好，通過主成分分析法進(jìn)行降維，將699 維降維至399 維，復(fù)雜度降低了42.918%。如圖6(b)所示，可以得到本方案在不同訓(xùn)練長(zhǎng)度下的 BER 性能?？梢园l(fā)現(xiàn)隨著訓(xùn)練長(zhǎng)度的增長(zhǎng)，均衡精度提高并趨于穩(wěn)定。

圖6

為了提高均衡精度同時(shí)避免訓(xùn)練過程中產(chǎn)生的過擬合現(xiàn)象，對(duì)所有研究方案均采用了碼元數(shù)量為100000 的相同訓(xùn)練長(zhǎng)度，且使用了滑動(dòng)窗口將前后輸入碼元比例確定在5:9。此外，通過主成分分析法將這將699 維降維至399 維，有效降低了實(shí)際應(yīng)用中的復(fù)雜性和均衡開銷。

對(duì)傳統(tǒng)的FFE 濾波器，DFE 濾波器以及Volterra 濾波器等方法和本文的方法進(jìn)行性能仿真比較，橫軸表示不同接受光功率，縱軸表示訓(xùn)練過程中得到的誤碼率，結(jié)果如圖7 所示。

圖7： 不同接受光功率下的誤碼率

其中將滑動(dòng)窗口處理后前后樣本比例為5:9 時(shí)，再從699 維降維至399 維的均衡訓(xùn)練曲線，與FFE、DFE 與Volterra 濾波器以及未進(jìn)行降維的DNN 網(wǎng)絡(luò)得到的誤碼率進(jìn)行對(duì)比。

可以發(fā)現(xiàn)，通過滑動(dòng)窗口與主成分分析法對(duì)深度神經(jīng)網(wǎng)絡(luò)進(jìn)行處理，可以在降低42.918%復(fù)雜度的基礎(chǔ)上得到得到更低的誤碼率，在接受光功率為-11dBm 時(shí)的誤碼率達(dá)到1.1×10，且性能均優(yōu)于傳統(tǒng)的Volterra、FFE、DFE 等傳統(tǒng)方法。

5 結(jié)束語

本文利用滑動(dòng)窗口長(zhǎng)度對(duì)輸入序列的前后樣本比例進(jìn)行調(diào)整，并基于多維輸入樣本特征的方差貢獻(xiàn)率對(duì)輸入碼元序列進(jìn)行主成分分析，對(duì)距離為20km 時(shí)，對(duì)發(fā)射功率為-1dBm到-22dBm 的80Gb/s PAM-4 信號(hào)系統(tǒng)進(jìn)行實(shí)驗(yàn)，發(fā)現(xiàn)相比于DFE、FFE、 Volterra 等傳統(tǒng)分類方法，本模型方法有著更高的分類準(zhǔn)確度，可以在降低42.918%復(fù)雜度的基礎(chǔ)上得到得到更低的誤碼率，在接受光功率為-11dBm 時(shí)的誤碼率達(dá)到1.1×10。