基于深度學(xué)習(xí)的短波發(fā)信機(jī)故障診斷應(yīng)用*

劉 程，陳 斌，瞿珊瑚，張海天

（海軍工程大學(xué) 電子工程學(xué)院，湖北 武漢 430033）

0 引 言

發(fā)信機(jī)是短波發(fā)信系統(tǒng)的重要組成部分，在軍事通信中應(yīng)用廣泛。發(fā)信機(jī)出現(xiàn)故障往往會(huì)造成嚴(yán)重的后果，甚至?xí)绊懽鲬?zhàn)任務(wù)的正常進(jìn)行。裝備故障檢測(cè)與診斷已成為現(xiàn)在的一個(gè)熱點(diǎn)問(wèn)題，但是在發(fā)信機(jī)故障診斷方面新的方法仍然較少。目前，多用基于BP神經(jīng)網(wǎng)絡(luò)[1]、專家系統(tǒng)等方法對(duì)裝備進(jìn)行故障診斷。由于發(fā)信機(jī)結(jié)構(gòu)復(fù)雜，存在數(shù)據(jù)采集困難等問(wèn)題，而傳統(tǒng)的診斷方式從已經(jīng)處理過(guò)的參數(shù)去分析判斷。BP神經(jīng)網(wǎng)絡(luò)存在網(wǎng)絡(luò)不易收斂、易陷入局部最優(yōu)和收斂速度慢等缺點(diǎn)?；趯＜蚁到y(tǒng)的方法則需要人工提取信息，耗時(shí)長(zhǎng)且工作量大。

近年來(lái)，深度學(xué)習(xí)因?yàn)槠鋸?qiáng)大的特征挖掘和特征提取能力，已在語(yǔ)音識(shí)別[2]、圖像處理等領(lǐng)域得到了廣泛應(yīng)用。深度學(xué)習(xí)利用原始數(shù)據(jù)逐層提取信息特征，對(duì)提取到的淺層特征進(jìn)行處理，由淺層特征得到信息的深層表示，實(shí)現(xiàn)了非線性函數(shù)逼近，使較淺層的網(wǎng)絡(luò)模型有更優(yōu)的處理性能和泛化效果[3]。運(yùn)用深度學(xué)習(xí)強(qiáng)大的特征提取能力，可以挖掘故障信號(hào)的深層特征表示。

常用的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)包括深度置信網(wǎng)絡(luò)（Deep Belief Networks，DBNs）、深度玻爾茲曼機(jī)（Deep Boltzmann Machines，DBMs）、深度卷積神經(jīng)網(wǎng)絡(luò)（Deep Convolutional Neural Network）和深度堆棧自編碼網(wǎng)絡(luò)（Stacked Auto-Encoder，SAE）。深度堆棧自編碼網(wǎng)絡(luò)應(yīng)用廣泛，周志文等提出基于聯(lián)合深度時(shí)頻特征的輻射源識(shí)別算法，可顯著提高雷達(dá)輻射源的識(shí)別準(zhǔn)確度[4]。曹玉良等利用自動(dòng)編碼器構(gòu)建的深度學(xué)習(xí)網(wǎng)絡(luò)，對(duì)離心泵空化狀態(tài)有良好的識(shí)別效果[5]。在故障診斷方面，王麗華等利用堆疊降噪自編碼提取信號(hào)特征，結(jié)合Softmax分類器實(shí)現(xiàn)了高準(zhǔn)確率的電機(jī)故障診斷[6]。Siqin Tao和陳仁祥等在研究軸承故障診斷時(shí)提出了堆棧自編碼器與Softmax回歸結(jié)合的深度神經(jīng)網(wǎng)絡(luò)算法框架，可以顯著消除噪聲影響，具有很強(qiáng)的魯棒性[7-8]。

深度學(xué)習(xí)理論模擬神經(jīng)元結(jié)構(gòu)，不依賴人工處理數(shù)據(jù)而能自動(dòng)學(xué)習(xí)信號(hào)的深層特征表示，對(duì)短波發(fā)信機(jī)故障診斷而言，深度學(xué)習(xí)具有很強(qiáng)的數(shù)據(jù)處理和分析能力[9-10]。因此，本文提出了基于深度學(xué)習(xí)的短波發(fā)信機(jī)故障診斷方法。

1 堆棧自編碼原理

1.1 自動(dòng)編碼器

堆棧自編碼（Stacked Auto-Encoder，SAE）是深度學(xué)習(xí)網(wǎng)絡(luò)中一種應(yīng)用較廣泛的網(wǎng)絡(luò)，基本單元為自動(dòng)編碼器（Auto-Encoder，AE）。圖1是自動(dòng)編碼器結(jié)構(gòu)。

自動(dòng)編碼器包含一個(gè)輸入層、一個(gè)隱含層和一個(gè)輸出層。相鄰層間全連接，同一層內(nèi)無(wú)連接。自動(dòng)編碼器對(duì)輸入的無(wú)標(biāo)簽數(shù)據(jù)x(x∈Rn)編碼，在隱含層得到數(shù)據(jù)的特征表示h(h∈Rm)，然后對(duì)得到的數(shù)據(jù)特征重構(gòu)得到輸出y(y∈Rn)。

編碼過(guò)程為：

Wh是輸入層到隱含層的權(quán)值矩陣，b1是偏置向量，fh是非線性激活函數(shù)，通常有sigmoid和tanh兩種。本文使用的是sigmoid函數(shù)，表達(dá)式為：

圖1 自動(dòng)編碼器

解碼過(guò)程為：

Wy是隱含層到輸出層重構(gòu)的權(quán)值矩陣，b2是重構(gòu)偏置向量，fy是合成函數(shù)（sigmoid）。為使輸出y盡可能等于輸入x，需要使網(wǎng)絡(luò)的訓(xùn)練誤差最小，訓(xùn)練誤差J(θ)的計(jì)算公式為：

其中，N是訓(xùn)練樣本個(gè)數(shù)，θ為需要學(xué)習(xí)的參數(shù)，包含Wh、Wy、b1、b2四項(xiàng)。通常，使Wy=WhT保證解碼合成階段的無(wú)失真性。當(dāng)重構(gòu)的輸出和輸入近似相等時(shí)（y≈x），此時(shí)的自動(dòng)編碼器學(xué)習(xí)到的特征性能較好，能夠?qū)⒏呔S數(shù)據(jù)用抽象的低維特征表示。

1.2 有監(jiān)督精調(diào)過(guò)程

堆棧自編碼網(wǎng)絡(luò)（SAE）是由多層自編碼器組成的神經(jīng)網(wǎng)絡(luò)，其前一層自編碼器隱含層的輸出作為后一層自編碼器的輸入，多級(jí)連接從而構(gòu)成堆棧自編碼網(wǎng)絡(luò)，每一級(jí)逐層學(xué)習(xí)形成堆棧自編碼模型。無(wú)監(jiān)督訓(xùn)練方式是自底向頂?shù)模{(diào)過(guò)程為自頂向底的有監(jiān)督訓(xùn)練。如圖2所示，在SAE網(wǎng)絡(luò)后加上一層有監(jiān)督網(wǎng)絡(luò)，即可對(duì)提取到的特征進(jìn)行分類。本文采用Softmax分類器實(shí)現(xiàn)該功能，因?yàn)镾oftmax分類器適用于存在多個(gè)標(biāo)簽種類時(shí)的分類任務(wù)。

精調(diào)過(guò)程與自動(dòng)編碼器訓(xùn)練過(guò)程相似，根據(jù)SAE網(wǎng)絡(luò)的輸出與標(biāo)簽之間的差別調(diào)節(jié)無(wú)監(jiān)督過(guò)程中學(xué)習(xí)到的參數(shù)，從而使網(wǎng)絡(luò)的特征提取能力達(dá)到最優(yōu)。設(shè)輸入的樣本為x(x∈Rn)，n為輸入節(jié)點(diǎn)數(shù)，對(duì)C種故障類型的信息進(jìn)行分類，輸出的概率為：

圖2 有監(jiān)督SAE網(wǎng)絡(luò)

式中，x是輸入，y是輸出的故障類型，W和b分別是分類器的權(quán)重矩陣和偏置向量。歸一化函數(shù)為，所有故障類型的概率之和為1，輸出層的節(jié)點(diǎn)數(shù)等于故障類別數(shù)。由此，在輸入數(shù)據(jù)經(jīng)過(guò)SAE網(wǎng)絡(luò)訓(xùn)練和精調(diào)后，根據(jù)概率輸出可以確定故障類型，表達(dá)式為：

2 基于堆棧自編碼的發(fā)信機(jī)故障診斷

采用自底向頂無(wú)監(jiān)督訓(xùn)練的方式學(xué)習(xí)獲得網(wǎng)絡(luò)參數(shù)，能夠提取數(shù)據(jù)的深層特征，且深層特征可以有效還原輸入信號(hào)。而自頂向底的有監(jiān)督精調(diào)能夠進(jìn)一步優(yōu)化網(wǎng)絡(luò)參數(shù)，使網(wǎng)絡(luò)權(quán)值可以更好地表達(dá)原始輸入數(shù)據(jù)，獲得更好的特征提取和表達(dá)能力?；诙褩Ｗ跃幋a的發(fā)信機(jī)故障診斷模型，結(jié)合SAE網(wǎng)絡(luò)和有監(jiān)督微調(diào)過(guò)程，先通過(guò)SAE網(wǎng)絡(luò)訓(xùn)練提取無(wú)標(biāo)簽故障樣本的特征參數(shù)，然后通過(guò)Softmax分類器對(duì)有標(biāo)簽的故障進(jìn)行分類，精調(diào)整個(gè)網(wǎng)絡(luò)的參數(shù)。該方法可同時(shí)實(shí)現(xiàn)發(fā)信機(jī)故障樣本的特征提取和故障類型的診斷，算法流程如圖3所示。

發(fā)信機(jī)SAE故障診斷網(wǎng)絡(luò)模型主要步驟如下。

步驟1：獲取故障樣本與預(yù)處理。采集各類故障信號(hào)，歸一化信號(hào)幅值在[0,1]內(nèi)，從各類故障樣本中隨機(jī)抽取2/3作為訓(xùn)練樣本，剩余數(shù)據(jù)作為測(cè)試樣本。

步驟2：SAE網(wǎng)絡(luò)預(yù)訓(xùn)練。設(shè)置網(wǎng)絡(luò)參數(shù)（包括隱含層層數(shù)、各層節(jié)點(diǎn)數(shù)、學(xué)習(xí)率、迭代次數(shù)等），構(gòu)建出堆棧自編碼網(wǎng)絡(luò)。輸入訓(xùn)練樣本，無(wú)監(jiān)督訓(xùn)練得到每層權(quán)值矩陣和偏置，提取故障信號(hào)特征。

圖3 發(fā)信機(jī)故障診斷流程

步驟3：有監(jiān)督精調(diào)。輸入有標(biāo)簽的訓(xùn)練樣本，精調(diào)預(yù)訓(xùn)練中得到的網(wǎng)絡(luò)參數(shù)。

步驟4：測(cè)試網(wǎng)絡(luò)。輸入測(cè)試樣本，測(cè)試訓(xùn)練好的網(wǎng)絡(luò)，輸出故障診斷類型。

3 仿真驗(yàn)證和結(jié)果分析

為驗(yàn)證SAE網(wǎng)絡(luò)對(duì)發(fā)信機(jī)故障的診斷能力，本文以某型短波發(fā)信機(jī)為例進(jìn)行分析。由于發(fā)信機(jī)的內(nèi)部結(jié)構(gòu)復(fù)雜，可能發(fā)生的故障種類并不相同，本文中預(yù)設(shè)了正常狀態(tài)和4種故障類型對(duì)其進(jìn)行故障分析。每類信號(hào)如圖4所示。

圖4 故障信號(hào)波形

實(shí)驗(yàn)中，5種狀態(tài)的信號(hào)分別設(shè)置標(biāo)簽為[1,0,0,0,0]、[0,1,0,0,0]、[0,0,1,0,0]、[0,0,0,1,0]、[0,0,0,0,1]，每種狀態(tài)的信號(hào)各采集數(shù)據(jù)1 500組，共7 500組數(shù)據(jù)。隨機(jī)抽取每種狀態(tài)數(shù)據(jù)的1 000組作為訓(xùn)練樣本，剩余500組作為測(cè)試樣本。

3.1 參數(shù)調(diào)節(jié)

3.1.1 自動(dòng)編碼器個(gè)數(shù)不同時(shí)的診斷準(zhǔn)確率

由于本文中采用堆棧自編碼網(wǎng)絡(luò)來(lái)構(gòu)造故障診斷模型，而改變自動(dòng)編碼器數(shù)目會(huì)影響特征提取能力，因此改變自動(dòng)編碼器數(shù)目，研究在不同網(wǎng)絡(luò)深度情況下的故障診斷性能。實(shí)驗(yàn)中，自動(dòng)編碼器數(shù)目（隱含層層數(shù)）設(shè)置為L(zhǎng)(L∈[1,3])，每組數(shù)據(jù)的維數(shù)為1 024，設(shè)置SAE網(wǎng)絡(luò)各層節(jié)點(diǎn)數(shù)為1 024—200—100—50—5。在研究不同數(shù)目的自動(dòng)編碼器的影響時(shí)，設(shè)置其余網(wǎng)絡(luò)參數(shù)（學(xué)習(xí)率，迭代次數(shù)）相同，比較故障的識(shí)別率、網(wǎng)絡(luò)訓(xùn)練時(shí)間t1、測(cè)試時(shí)間t2，結(jié)果如表1所示。

表1 自動(dòng)編碼器數(shù)目不同時(shí)診斷準(zhǔn)確率

由表1的結(jié)果可以看出，基于SAE的診斷模型可以應(yīng)用于發(fā)信機(jī)的故障診斷。在學(xué)習(xí)率、迭代次數(shù)等參數(shù)相同的情況下，增加自動(dòng)編碼器的數(shù)目（網(wǎng)絡(luò)深度）可以提高故障診斷的準(zhǔn)確率。因?yàn)殡S著SAE網(wǎng)絡(luò)深度的加深，模型的特征提取能力變強(qiáng)，提取到的特征可以更準(zhǔn)確地表示原始數(shù)據(jù)。但是，當(dāng)自動(dòng)編碼器數(shù)目L≥2時(shí)，故障診斷均能達(dá)到100%左右的準(zhǔn)確率，說(shuō)明在自動(dòng)編碼器數(shù)目為2時(shí)，網(wǎng)絡(luò)提取到的特征已經(jīng)足夠用來(lái)進(jìn)行發(fā)信機(jī)故障診斷，此時(shí)繼續(xù)增加網(wǎng)絡(luò)深度將無(wú)法提升網(wǎng)絡(luò)性能。模型在L=3時(shí)比L=2時(shí)增加了40%的網(wǎng)絡(luò)訓(xùn)練時(shí)間。增加網(wǎng)絡(luò)深度會(huì)增加網(wǎng)絡(luò)訓(xùn)練耗時(shí)，而測(cè)試時(shí)間相比訓(xùn)練時(shí)間并沒(méi)有顯著變化且時(shí)間都較短（t＜0.1 s）。綜合診斷準(zhǔn)確率和耗時(shí)考慮，在后面的仿真實(shí)驗(yàn)中，采取含2個(gè)自動(dòng)編碼器的SAE網(wǎng)絡(luò)，網(wǎng)絡(luò)結(jié)構(gòu)為1 024—200—100—50—5。

3.1.2 不同樣本數(shù)目時(shí)的網(wǎng)絡(luò)診斷效果

在實(shí)際的發(fā)信機(jī)故障診斷過(guò)程中，有效的故障類別信號(hào)往往較少。因此，對(duì)不同大小的訓(xùn)練樣本進(jìn)行網(wǎng)絡(luò)性能對(duì)比有很強(qiáng)的實(shí)用意義。設(shè)置網(wǎng)絡(luò)參數(shù)不變，網(wǎng)絡(luò)結(jié)構(gòu)為1 024—200—100—50—5。改變每一類故障訓(xùn)練樣本數(shù)據(jù)集的大小，得到如表2所示的識(shí)別效果。

表2 不同樣本大小時(shí)的實(shí)驗(yàn)結(jié)果

由表2可以發(fā)現(xiàn)，當(dāng)每一類故障訓(xùn)練樣本在100以下時(shí)，故障診斷準(zhǔn)確率較低；當(dāng)訓(xùn)練樣本為500以上時(shí)，診斷準(zhǔn)確率接近100%。這表明在訓(xùn)練樣本增多時(shí)，SAE網(wǎng)絡(luò)具有更好的特征提取能力和故障診斷準(zhǔn)確性；當(dāng)訓(xùn)練樣本為200時(shí)，準(zhǔn)確率能達(dá)到70%左右，表明在網(wǎng)絡(luò)訓(xùn)練樣本較小時(shí)，該模型仍具有較好的故障診斷能力，增加訓(xùn)練樣本數(shù)目能夠提高網(wǎng)絡(luò)的參數(shù)學(xué)習(xí)能力和數(shù)據(jù)表達(dá)能力。隨著訓(xùn)練樣本的增大，網(wǎng)絡(luò)訓(xùn)練耗時(shí)也增加?？紤]到實(shí)際故障診斷問(wèn)題，需要在較短時(shí)間內(nèi)判斷出故障類型，得到診斷結(jié)果。從仿真實(shí)驗(yàn)中的訓(xùn)練時(shí)間來(lái)看，本文的診斷模型符合這一要求。

3.2 與BP神經(jīng)網(wǎng)絡(luò)的性能對(duì)比

將本文中基于堆棧自編碼的診斷模型與傳統(tǒng)單隱層BP神經(jīng)網(wǎng)絡(luò)進(jìn)行對(duì)比。因?yàn)樵诋?dāng)每一類訓(xùn)練樣本為500時(shí)，SAE模型的診斷準(zhǔn)確率就能接近100%，所以本節(jié)仿真中選擇訓(xùn)練樣本大小為500。為了避免實(shí)驗(yàn)出現(xiàn)隨機(jī)性，本文進(jìn)行了10次仿真實(shí)驗(yàn)，在訓(xùn)練樣本大小相同的情況下，比較兩種算法故障診斷的準(zhǔn)確率，得到如圖5所示的結(jié)果。

圖5 兩種方法10次實(shí)驗(yàn)的診斷準(zhǔn)確率

可以看出，基于SAE的診斷模型的診斷準(zhǔn)確率比BP神經(jīng)網(wǎng)絡(luò)方法提升明顯，基本上在95%以上；從穩(wěn)定性上看，SAE診斷準(zhǔn)確率的波動(dòng)較小，而B(niǎo)P神經(jīng)網(wǎng)絡(luò)的診斷效果不穩(wěn)定，因?yàn)锽P神經(jīng)網(wǎng)絡(luò)在程序運(yùn)行過(guò)程中容易陷入局部最優(yōu)，導(dǎo)致網(wǎng)絡(luò)訓(xùn)練誤差較大，故障診斷準(zhǔn)確率低。

4 結(jié) 語(yǔ)

針對(duì)短波發(fā)信機(jī)不同種類的故障診斷問(wèn)題，將堆棧自編碼網(wǎng)絡(luò)添加分類層，構(gòu)建出基于SAE的發(fā)信機(jī)故障診斷模型。模型通過(guò)對(duì)無(wú)類別數(shù)據(jù)進(jìn)行自底向頂無(wú)監(jiān)督訓(xùn)練和有類別數(shù)據(jù)的自頂向底有監(jiān)督精調(diào)完成網(wǎng)絡(luò)的訓(xùn)練，能夠提取到故障信息的深層特征表示，實(shí)現(xiàn)發(fā)信機(jī)的故障診斷?？梢?jiàn)，實(shí)驗(yàn)結(jié)果驗(yàn)證了本文基于SAE診斷模型的有效性，同時(shí)和傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)相比，基于SAE的診斷模型具有更好的穩(wěn)定性與診斷準(zhǔn)確率。