楊 柏,關(guān)煥新,王 森,楊 亮,王鶴蓉
(1.沈陽(yáng)工程學(xué)院 ,沈陽(yáng) 110136; 2.國(guó)網(wǎng)張掖供電公司,甘肅 張掖 73400)
近年來(lái),隨著新能源產(chǎn)業(yè)的不斷發(fā)展,航空電動(dòng)飛機(jī)正在迅速崛起,純電動(dòng)飛機(jī)相關(guān)產(chǎn)業(yè)需求與日俱增。航空電動(dòng)飛機(jī)的主動(dòng)力系統(tǒng)是其關(guān)鍵性部件,在整機(jī)過程中占有舉足輕重的地位。主驅(qū)動(dòng)電機(jī)是電動(dòng)飛機(jī)的主要?jiǎng)恿ο到y(tǒng),因此主驅(qū)動(dòng)電機(jī)的是否正常工作是電動(dòng)飛機(jī)安全工作的重要指標(biāo)。
文獻(xiàn)[1]通過堆疊降噪自編碼提取電機(jī)的整體電流與振動(dòng)信號(hào),結(jié)合Softmax分類器對(duì)異步電機(jī)的故障診斷。由于電機(jī)匝間短路具有一定的危險(xiǎn)性,因此造成電機(jī)匝間短路的故障數(shù)據(jù)無(wú)法支撐神經(jīng)網(wǎng)絡(luò)訓(xùn)練文獻(xiàn)[2] 利用生成式對(duì)抗神經(jīng)網(wǎng)絡(luò)擴(kuò)充永磁同步電機(jī)匝間短路樣本數(shù)據(jù),通過稀疏編碼深度學(xué)習(xí)網(wǎng)絡(luò)完成永磁同步電機(jī)匝間短路故障診斷。
因?yàn)閷<蚁到y(tǒng)診斷所需時(shí)間較長(zhǎng),所以研究者們嘗試其他智能算法,張煒[3]等人通過建立并行BP神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)故障診斷的分類。文獻(xiàn)[4]采用多重回歸最小二乘法支持向量機(jī)模型,利用遺傳算法與模糊理論的優(yōu)點(diǎn)補(bǔ)充概率因果方法的不足診斷發(fā)電機(jī)組多重故障。 設(shè)計(jì)了一種小波支持向量機(jī)的混沌驅(qū)動(dòng)永磁同步電機(jī)系統(tǒng)的故障識(shí)別器[5]。在文獻(xiàn)[6]中,提出了一種基于多個(gè)隱馬可夫模型與ACC和神經(jīng)網(wǎng)絡(luò)相結(jié)合的電機(jī)軸承故障診斷。文獻(xiàn)[7]利用模型預(yù)測(cè)控制系統(tǒng)中價(jià)值函數(shù)的直流分量和二次諧波分量來(lái)診斷永磁同步電機(jī)匝間短路故障。
神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)的結(jié)合提高了專家系統(tǒng)診斷的準(zhǔn)確度,減小了訓(xùn)練時(shí)間。神經(jīng)網(wǎng)絡(luò)與D-S推理結(jié)合的方法提高了診斷速度、擴(kuò)大了診斷范圍。并行BP神經(jīng)網(wǎng)絡(luò)提高了網(wǎng)絡(luò)學(xué)習(xí)能力與診斷速度。模糊卷積神經(jīng)網(wǎng)絡(luò)飛機(jī)識(shí)別方法提高了模型計(jì)算速度。利用生成式對(duì)抗神經(jīng)網(wǎng)絡(luò)擴(kuò)充永磁同步電機(jī)匝間短路樣本數(shù)據(jù),為研究電機(jī)匝間短路故障樣本數(shù)據(jù)不足問題提供了新的解決方法。模型預(yù)測(cè)控制系統(tǒng)中價(jià)值函數(shù)的直流分量和二次諧波分量來(lái)診斷永磁同步電機(jī)匝間短路故障為電機(jī)匝間短路故障診斷提供新的思路。本文提出的基于卷積神經(jīng)網(wǎng)絡(luò)的電動(dòng)飛機(jī)主驅(qū)動(dòng)電機(jī)故障診斷具有診斷速度快、學(xué)習(xí)泛化能力強(qiáng)、魯棒性強(qiáng)、能夠準(zhǔn)確、快速地確定判斷故障類型。
由于深度學(xué)習(xí)和深度網(wǎng)絡(luò)的強(qiáng)大學(xué)習(xí)能力,在圖像分類與識(shí)別、目標(biāo)定位與檢測(cè)、機(jī)器翻譯、人臉識(shí)別等方面取得了突飛猛進(jìn)的發(fā)展[8-10]。
卷積神經(jīng)網(wǎng)絡(luò)是一種前饋式神經(jīng)網(wǎng)絡(luò),Hubel和Wiesel根據(jù)貓視覺皮層電生理的原理,由此受到啟發(fā),提出了卷積神經(jīng)網(wǎng)絡(luò)Convolutional Neural Network(CNN)。卷積神經(jīng)網(wǎng)絡(luò)最先被應(yīng)用到手寫數(shù)字識(shí)別。近幾年來(lái)研究者將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用在多種領(lǐng)域,在語(yǔ)音識(shí)別、車牌識(shí)別、通用物體的識(shí)別、自然語(yǔ)言的處理以及在腦電波分析方面均得到長(zhǎng)足突破[11]。
卷積神經(jīng)網(wǎng)絡(luò)的核心是卷積層與池化層組成的特征提取器。卷積層與其他層為稀疏連接。卷積層可以包含n個(gè)卷積面(特征平面),權(quán)值在同一個(gè)卷積面內(nèi)共享,權(quán)值即卷積核。共享權(quán)值(卷積核)降低了神經(jīng)網(wǎng)絡(luò)對(duì)數(shù)據(jù)過度擬合的風(fēng)險(xiǎn)。池化層(子采樣層)可以把卷積層提取的特征值降低成相同維度,可以減少信息缺失度。池化層一般采用有均值子采樣與最大值子采樣兩種池化方法。卷積神經(jīng)網(wǎng)絡(luò)的卷積核與池化層大大簡(jiǎn)化了模型復(fù)雜度,減少了模型的參數(shù)[12]。卷積神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示。
圖1 卷積神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)
卷積神經(jīng)網(wǎng)絡(luò)由輸入層、n個(gè)卷積層和池化層、全連結(jié)的多層感知機(jī)分類器構(gòu)成。
卷積核的任務(wù):從數(shù)據(jù)輸入到輸出過程中求出輸出節(jié)點(diǎn)矩陣。提出的節(jié)點(diǎn)矩陣中第i個(gè)節(jié)點(diǎn)值:
(1)
(2)
(3)
為了使輸入、輸出矩陣保持同維度,可以采用在矩陣邊緣全填0方式與調(diào)節(jié)卷積核的步長(zhǎng)這兩種方法來(lái)調(diào)節(jié)輸入矩陣的維度。卷積網(wǎng)絡(luò)中多采用第二種方法。式(2)、式(3)分別為矩陣邊緣全填0方式與調(diào)節(jié)卷積核的步長(zhǎng)公式。
卷積神經(jīng)網(wǎng)絡(luò)中多用Softmax函數(shù)處理分類問題。假設(shè)訓(xùn)練集為
{(x(1),y(1)),(x(2),y(2)),…,(x(n),y(n))}
(4)
y(i)∈{1,2,3…k}
(5)
設(shè)輸入樣本為x,則激勵(lì)函數(shù)為
(6)
其中:
(7)
卷積神經(jīng)網(wǎng)絡(luò)有結(jié)合稀疏連接、權(quán)重共享、空間或時(shí)間上的降采樣等優(yōu)點(diǎn)[13]。通過充分利用數(shù)據(jù)中包含的局部特征,降低了算法對(duì)數(shù)據(jù)過度擬合的風(fēng)險(xiǎn),降低了數(shù)據(jù)維數(shù),降低了數(shù)據(jù)遷移的風(fēng)險(xiǎn)。并且處理數(shù)據(jù)越多,卷積神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率越高[14-16]。并且卷積神經(jīng)網(wǎng)絡(luò)在解決大量實(shí)際問題時(shí)所表現(xiàn)的性能超越了機(jī)器學(xué)習(xí)的其他替代方法。當(dāng)樣本容量一定大時(shí),卷積神經(jīng)網(wǎng)絡(luò)診斷永磁電機(jī)故障的準(zhǔn)確率越高。
本文以電機(jī)定子電流與振動(dòng)信號(hào)作為電動(dòng)飛機(jī)主驅(qū)動(dòng)電機(jī)故障類型判斷依據(jù)。卷積神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的學(xué)習(xí)能力,并且具有深層結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò),適合大數(shù)據(jù)分析與處理。
首先,采集各類型故障的振動(dòng)信號(hào)與定子電流信號(hào),作為一個(gè)輸入(即xi=[V,I])。生成檢測(cè)樣本集合與訓(xùn)練樣本集合,訓(xùn)練樣本集合訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)參數(shù),檢測(cè)樣本集合測(cè)試卷積神經(jīng)網(wǎng)絡(luò)對(duì)故障類型判斷結(jié)果的準(zhǔn)確率。當(dāng)訓(xùn)練結(jié)果的錯(cuò)誤率達(dá)到一定范圍之內(nèi),保存訓(xùn)練好的卷積神經(jīng)網(wǎng)絡(luò)。輸入故障數(shù)據(jù),應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)輸出故障類型。選取電機(jī)振動(dòng)信號(hào)與定子電流為特征數(shù)據(jù)。假設(shè)樣本集X={x1,x2,…,xn},其中xi∈R2×2。
圖2 卷積神經(jīng)網(wǎng)絡(luò)模型電機(jī)故障判斷流程
SoftMax是卷積神經(jīng)網(wǎng)絡(luò)輸出分類方式,其原理是對(duì)于n種獨(dú)立分類,設(shè)置輸出個(gè)數(shù)為n,對(duì)應(yīng)的索引號(hào)依次為 1,2,……,n,索引號(hào)對(duì)應(yīng)一個(gè)分類。設(shè)n個(gè)輸出的最大值為1,其余輸出值設(shè)為0,輸出1端口的索引號(hào)對(duì)應(yīng)的分類為理想分類W{表示為真}=1,W{表示為假}=0[13]。則代價(jià)函數(shù):
(8)
樣本中屬于j類事件的概率表示為
(9)
現(xiàn)在對(duì)于代價(jià)函數(shù)的最小化都沒有非常好的方法。研究者大多通過迭代優(yōu)化算法來(lái)求出其梯度表達(dá)式。
(10)
將式(10)代入式(8)可得快速優(yōu)化的代價(jià)函數(shù):
(11)
式中,G為衰減項(xiàng),加快參數(shù)模型的全局最優(yōu)化處理速度。因?yàn)槭?11)為凸函數(shù)因此可以計(jì)算出模型的最優(yōu)參數(shù)γ。
偏置參數(shù)與迭代更新權(quán)重
(12)
(13)
式中,ε為學(xué)習(xí)率且ε∈[0,1]。
用一個(gè)卷積神經(jīng)網(wǎng)絡(luò)處理故障類型與故障線路的分類問題,本文采用兩個(gè) SoftMax 分類器,分別用于解決故障類型問題和故障線路判斷問題。卷積神經(jīng)網(wǎng)絡(luò)用SoftMax處理多種非獨(dú)立分類問題是由于卷積神經(jīng)網(wǎng)絡(luò)卷積面權(quán)值共享[11]。電動(dòng)飛機(jī)主驅(qū)動(dòng)電機(jī)故障分類原理如表1所示。
表1 輸出分類及對(duì)應(yīng)索引號(hào)
深度學(xué)習(xí)的一大原則:神經(jīng)網(wǎng)絡(luò)越深,效果往往越好。但是,極深的神經(jīng)網(wǎng)絡(luò)并不容易訓(xùn)練。神經(jīng)網(wǎng)絡(luò)隨著層數(shù)的增加則會(huì)出現(xiàn)梯度消失與梯度爆炸問題,造成神經(jīng)網(wǎng)絡(luò)越深,錯(cuò)誤率越高的現(xiàn)象。為解決這一現(xiàn)象在卷積神經(jīng)網(wǎng)絡(luò)中增加了跨層連接(捷徑連接)構(gòu)成殘差模塊(如圖3所示),建立殘差連接的深度卷積神經(jīng)網(wǎng)絡(luò)。在殘差連接的深度卷積神經(jīng)網(wǎng)絡(luò)中,信息可以無(wú)障礙地跨越多層直接傳遞到后面的層。
圖3 殘差模塊
用H(χ)表無(wú)跨層連接的相應(yīng)計(jì)算結(jié)果,用F(χ)表示加入跨層連接后的計(jì)算結(jié)果。F(χ)與H(χ)之間的關(guān)系為
F(χ)∶=H(χ)-χ
(14)
用{Zj}表示殘差模塊的所有權(quán)值,殘差模塊計(jì)算輸出結(jié)果:
y=F(χ,{Zj} )+χ
(15)
式中,F(xiàn)(χ,{Zj})是殘差映射(或殘差函數(shù))。在殘差計(jì)算模塊中F(χ,{Zj})與χ具有相同的維數(shù),如果維數(shù)不同則要引進(jìn)一個(gè)全新的權(quán)值矩陣Zs對(duì)χ投影,保證他們具有相同的維數(shù),計(jì)算結(jié)果為
y=F(χ,{Zj})+Zsχ
(16)
為了驗(yàn)證基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)電動(dòng)飛機(jī)主驅(qū)動(dòng)電機(jī)故障診斷的有效性,容錯(cuò)性與精度。本文搭建了如圖4所示的實(shí)驗(yàn)平臺(tái),功率分析儀采集定子電流信號(hào),兩個(gè)振動(dòng)傳感器分別采集底座振動(dòng)信號(hào)與輸出軸端振動(dòng)信號(hào)。本文采集1000組正常數(shù)據(jù),每種故障類型數(shù)據(jù)各采集1000組,組成樣本數(shù)據(jù)其中4900組做為訓(xùn)練樣本集其余2100組做為檢測(cè)樣本集。
圖4 實(shí)驗(yàn)平臺(tái)
在訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型中選擇不同的激活函數(shù)所需要的訓(xùn)練時(shí)間是不同的。神經(jīng)網(wǎng)絡(luò)激活函數(shù)一般多為sigmoid或tanh。本文選擇ReLU函數(shù)為卷積神經(jīng)網(wǎng)絡(luò)的激活函數(shù)。圖5為3種不同激活函數(shù)對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練時(shí)間的影響。從圖5中可以看出3種激活函數(shù)整體變化趨勢(shì)為隱含層個(gè)數(shù)與訓(xùn)練時(shí)間成正比。Sigmoid函數(shù)與tanh函數(shù)所需的訓(xùn)練時(shí)間基本一致;ReLU函數(shù)所需的訓(xùn)練時(shí)間都低于Sigmoid函數(shù)與tanh函數(shù);因此ReLU函數(shù)有助于訓(xùn)練更深的網(wǎng)絡(luò)。
圖5 不同激活函數(shù)對(duì)卷積的神經(jīng)網(wǎng)絡(luò)的影響
圖6(a)為使用普通架構(gòu)的深度卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)果,從圖中可得15層網(wǎng)絡(luò)的訓(xùn)練損失率與測(cè)試損失率都高于8層網(wǎng)絡(luò)的損失率。圖6(b)為具有殘差模塊搭建的深度卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)果,從圖中可得15層網(wǎng)絡(luò)的訓(xùn)練損失率與測(cè)試損失率都低于8層網(wǎng)絡(luò)的損失率。對(duì)比圖6(a)與圖6(b)可得具有殘差模塊的深度卷積神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練損失率與測(cè)試損失率都低于無(wú)殘差模塊的深度卷積神經(jīng)網(wǎng)絡(luò)模型。殘差模塊可以改善深度神經(jīng)網(wǎng)絡(luò)的過擬合與、梯度消失與梯度爆炸等現(xiàn)象。
圖6 殘差模塊對(duì)不同層數(shù)深度卷積神經(jīng)網(wǎng)絡(luò)的影響
仿真結(jié)果如圖7所示,選擇下采樣方式(平均池化)并且重疊池化,卷積核數(shù)目都為4,診斷模型迭代750次后,卷積神經(jīng)網(wǎng)絡(luò)診斷結(jié)果的損失率為0%。利用訓(xùn)練完成神經(jīng)網(wǎng)絡(luò)對(duì)2100組測(cè)試樣本進(jìn)行無(wú)錯(cuò)誤的對(duì)電動(dòng)飛機(jī)主驅(qū)動(dòng)電機(jī)故障判斷。
圖7 卷積神經(jīng)網(wǎng)絡(luò)模型損失率
本文方法與文獻(xiàn)[1]和文獻(xiàn)[17]中的方法進(jìn)行比較。選取樣本總量的70%作為訓(xùn)練集合,30%作為測(cè)試集合。比較結(jié)果如表2所示,SDAE診斷方法是通過深層網(wǎng)絡(luò)自適應(yīng)提取特征,并利用網(wǎng)絡(luò)的微調(diào)機(jī)制提高診斷準(zhǔn)確率,但是SDAE診斷方法需要較長(zhǎng)的訓(xùn)練時(shí)間。ASPNN診斷方法是通過正余弦算法與一種AdaBooost的集成學(xué)習(xí)算法,優(yōu)化概率神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)的平滑因子人為設(shè)定的缺點(diǎn),提高了網(wǎng)絡(luò)訓(xùn)練時(shí)間。具有殘差模塊的卷積神經(jīng)網(wǎng)絡(luò)的相比于SDAE、ASPNN、CNN具有更高的準(zhǔn)確率,更少的訓(xùn)練時(shí)間。
表2 不同方法的診斷結(jié)果
本文提出基于卷積神經(jīng)網(wǎng)絡(luò)對(duì)電動(dòng)飛機(jī)主驅(qū)動(dòng)電機(jī)故障診斷方法,利用卷積神經(jīng)網(wǎng)絡(luò)強(qiáng)大的識(shí)別能力與學(xué)習(xí)能力,實(shí)現(xiàn)了高精度的電動(dòng)飛機(jī)主驅(qū)動(dòng)電機(jī)故障診斷。本文研究了不同激活函數(shù)對(duì)卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)間、準(zhǔn)確率的影響。對(duì)構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)具有一定意義。利用殘差模塊提高了深度卷積神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率。解決了隨著神經(jīng)網(wǎng)路層數(shù)增加網(wǎng)絡(luò)錯(cuò)誤率越高的現(xiàn)象。仿真與實(shí)驗(yàn)驗(yàn)證了提出的故障診斷方法的有效性。