基于LSSVM與WNN的燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測*

崔建國，李慧華，于明月，蔣麗英

（1.沈陽航空航天大學(xué)自動化學(xué)院，沈陽 110136；2.中航工業(yè)上海航空測控技術(shù)研究所故障診斷與健康管理技術(shù)航空科技重點(diǎn)實(shí)驗(yàn)室，上海 201601）

0 引言

工業(yè)設(shè)備、武器裝備等復(fù)雜設(shè)備的維修保障，經(jīng)歷了事后維修、計(jì)劃維修、視情維修等過程的發(fā)展。人們在實(shí)際應(yīng)用中發(fā)現(xiàn)，事后維修和計(jì)劃維修這2種維修策略無法預(yù)防災(zāi)難性的故障，同時(shí)計(jì)劃維修還有可能由于維修過度而引入其他的故障。視情維修則是通過準(zhǔn)確地預(yù)測和估計(jì)設(shè)備的當(dāng)前狀態(tài)和發(fā)展趨勢，從而決定是否需要進(jìn)行維修活動。因此，要實(shí)現(xiàn)視情維修首先需要發(fā)展故障預(yù)測技術(shù)。

故障預(yù)測技術(shù)是一種更為高級的維修保障形式，故障預(yù)測這一概念從提出以來就受到廣泛的關(guān)注，至今已取得了一定的進(jìn)展，多種故障預(yù)測技術(shù)相繼被提出。目前裝備故障預(yù)測的主要方法有基于模型、基于知識和基于數(shù)據(jù)驅(qū)動這3種，其中應(yīng)用最為廣泛的是基于數(shù)據(jù)驅(qū)動的預(yù)測，本文所用來實(shí)現(xiàn)狀態(tài)趨勢預(yù)測的方法也是基于數(shù)據(jù)驅(qū)動。

1 最小二乘支持向量機(jī)預(yù)測模型

最小二乘支持向量機(jī)（Least Squares Support Vector Machine，LSSVM）是由 Suykens和 Vandewalle提出來的［1］。最小二乘支持向量機(jī)（LSSVM）對標(biāo)準(zhǔn)的SVM做了重要改進(jìn)，將最小二乘的思想引入到模型中，簡化了計(jì)算，提升了訓(xùn)練速度。

對于樣本集（xi，yi），xi∈Rn，yi∈R，其中xi是第i個(gè)輸入樣本，yi是第i個(gè)輸出樣本。把訓(xùn)練集（xi，yi）映射到高維空間，則非線性預(yù)測模型表示為：

式中，w為權(quán)值向量；φ（xi）是非線性映射；b為偏置量［2］。

根據(jù)SRM準(zhǔn)則，為使式（1）風(fēng)險(xiǎn)最小，可轉(zhuǎn)化為如下優(yōu)化問題

其中，ei為誤差變量；γ為調(diào)整參數(shù)因子［3］。

對式（2）的求解中，引入拉格朗日乘子ai（i=1，2，…，l），建立 Lagrange函數(shù)：

根據(jù)KKT條件［4］，可以將上述優(yōu)化問題可化為如式（4）矩陣方程形式：

因此，非線性回歸預(yù)測模型為

其中：K（x，xi）為核函數(shù)［5］。

基于LSSVM的燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測步驟如下：

1）對采集的樣本數(shù)據(jù)進(jìn)行相空間重構(gòu)，構(gòu)造模型樣本集（xi，yi）。

2）結(jié)合樣本本身特點(diǎn)及實(shí)際要求，選擇核函數(shù)。本文選用RBF核函數(shù)。

3）求取Lagrange系數(shù)ai，確定偏置量b。

4）把待測試樣本載入已構(gòu)建的LSSVM故障預(yù)測模型，實(shí)現(xiàn)預(yù)測功能。

2 小波神經(jīng)網(wǎng)絡(luò)預(yù)測模型

小波神經(jīng)網(wǎng)絡(luò)是法國的Zhang Qinghua等人在1992年提出來的。小波神經(jīng)網(wǎng)絡(luò)（WNN）是一種新型前饋網(wǎng)絡(luò)，核心是將隱層的激勵函數(shù)用非線性小波基替代［6］。本文所構(gòu)建的預(yù)測模型是含有3層網(wǎng)絡(luò)結(jié)構(gòu)的WNN模型。

小波神經(jīng)網(wǎng)絡(luò)模型的網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。在輸入層中有p個(gè)輸入，在圖1的網(wǎng)絡(luò)結(jié)構(gòu)中即為x1，x2，…，xp。隱含層有n個(gè)神經(jīng)元。輸出層有1個(gè)神經(jīng)元，輸出為第p+1個(gè)時(shí)刻點(diǎn)的預(yù)測值。wij表示從輸入層的神經(jīng)元i到隱含層的神經(jīng)元j之間的權(quán)值，lj表示隱含層神經(jīng)元j的輸入，Ψj表示隱含層神經(jīng)元j的轉(zhuǎn)移函數(shù)，mj表示隱含層神經(jīng)元j的相應(yīng)輸出，即

式中，aj為伸縮因子，bj為平移因子，隱含層的轉(zhuǎn)移函數(shù)采用 morlet小波［7］，即

則網(wǎng)絡(luò)的輸出為

代入mj和lj可得

本文采用梯度修正法對小波基函數(shù)參數(shù)和網(wǎng)絡(luò)的權(quán)值進(jìn)行修正［8-11］。

小波神經(jīng)網(wǎng)絡(luò)算法訓(xùn)練步驟如下：

1）進(jìn)行網(wǎng)絡(luò)參數(shù)初始化，即對 aj、bj、wij、wjk和 η的初始化。

2）對采集的樣本數(shù)據(jù)進(jìn)行相空間重構(gòu)，構(gòu)建模型樣本集（xi，yi）

5）判斷誤差是否滿足條件，若不滿足，繼續(xù)對網(wǎng)絡(luò)參數(shù)進(jìn)行修正直至滿足條件。

3 基于LSSVM-WNN的燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測模型

燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測是指以當(dāng)前燃?xì)廨啓C(jī)的使用狀態(tài)為起點(diǎn)，對燃?xì)廨啓C(jī)未來任務(wù)段內(nèi)的趨勢變化進(jìn)行預(yù)測。進(jìn)行燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測，是實(shí)現(xiàn)燃?xì)廨啓C(jī)未來故障或退化趨勢預(yù)測的重要基礎(chǔ)。對于增強(qiáng)部隊(duì)的戰(zhàn)斗力具有十分重要的意義。

燃?xì)廨啓C(jī)內(nèi)部組成結(jié)構(gòu)復(fù)雜，很難根據(jù)其工作原理建立精確的物理模型，若構(gòu)建模型的精度不夠，預(yù)測結(jié)果就會有很大的偏差。因此，本文采用基于數(shù)據(jù)驅(qū)動的故障預(yù)測方法，建立基于最小二乘支持向量機(jī)-小波神經(jīng)網(wǎng)絡(luò)的燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測模型，對燃?xì)廨啓C(jī)進(jìn)行狀態(tài)趨勢預(yù)測。

本文提出的LSSVM-WNN（最小二乘支持向量機(jī)-小波神經(jīng)網(wǎng)絡(luò)）燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測模型的設(shè)計(jì)思路是，將LSSVM的預(yù)測值分為兩部分（xk+1，xk+2，…，xk+l）和（xk+l+1，xk+l+2，…，xk+n），將實(shí)際結(jié)果與前一部分的預(yù)測結(jié)果（xk+1，xk+2，…，xk+l）計(jì)算殘差，然后利用WNN對殘差進(jìn)行預(yù)測，再將預(yù)測的殘差與LSSVM 的預(yù)測結(jié)果的后一部分（xk+l+1，xk+l+2，…，xk+n）進(jìn)行合成，將合成的結(jié)果作為基于LSSVM-WNN的燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測模型的預(yù)測結(jié)果，模型預(yù)測流程圖如圖2所示。

4 試驗(yàn)驗(yàn)證

主泵作為燃?xì)廨啓C(jī)關(guān)鍵部件，其性能衰退或故障對燃?xì)廨啓C(jī)工作狀態(tài)影響很大，它也是燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測的重要對象。排氣溫度是燃?xì)廨啓C(jī)監(jiān)控中的最常用的性能參數(shù)，也是衡量主泵工作正常與否的重要參數(shù)。燃?xì)廨啓C(jī)常年在高溫、高壓、高速等惡劣環(huán)境下工作，通過監(jiān)視和預(yù)測排氣溫度能夠掌握燃?xì)廨啓C(jī)的健康狀態(tài)及其性能衰退情況。本文以燃?xì)廨啓C(jī)主泵作為研究對象，采集排氣溫度作為燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測的參數(shù)，建立燃?xì)廨啓C(jī)狀態(tài)趨勢預(yù)測模型，通過對排氣溫度變化趨勢的預(yù)測來判斷燃?xì)廨啓C(jī)的運(yùn)行狀態(tài)趨勢變化。

為了對比LSSVM預(yù)測模型、WNN預(yù)測模型和LSSVM-WNN預(yù)測模型的預(yù)測效果，采用相同的數(shù)據(jù)進(jìn)行建模，然后向后預(yù)測，并分析結(jié)果。本文采用的數(shù)據(jù)是來源于某型燃?xì)廨啓C(jī)試驗(yàn)數(shù)據(jù)，并且截取的是飛機(jī)在某個(gè)相對穩(wěn)定狀態(tài)下的70組數(shù)據(jù)。在建立模型之前，首先需要對數(shù)據(jù)進(jìn)行去噪，本文的去噪方法是小波去噪。利用前60組樣本數(shù)據(jù)進(jìn)行建模，然后向后預(yù)測10組數(shù)據(jù)，將3個(gè)預(yù)測模型的結(jié)果與10組真實(shí)數(shù)據(jù)進(jìn)行對比分析。

對60組樣本數(shù)據(jù)進(jìn)行相空間重構(gòu)，重構(gòu)個(gè)數(shù)為5，得到模型訓(xùn)練的輸入樣本為55×5的矩陣，模型訓(xùn)練的輸出為55×1的矩陣。利用相空間重構(gòu)后的樣本數(shù)據(jù)訓(xùn)練所建立的LSSVM預(yù)測模型，LSSVM預(yù)測模型的輸入為5個(gè)節(jié)點(diǎn)，輸出為1個(gè)節(jié)點(diǎn)，得到的預(yù)測效果圖如圖3所示。圖中藍(lán)色的點(diǎn)表示的是經(jīng)過小波去噪處理的原始數(shù)據(jù)，紅色的點(diǎn)表示LSSVM預(yù)測的結(jié)果，最后10個(gè)點(diǎn)，即第61個(gè)點(diǎn)～第70個(gè)點(diǎn)是沒有經(jīng)過預(yù)測模型訓(xùn)練的點(diǎn)。對于已經(jīng)訓(xùn)練過的數(shù)據(jù)，該模型有很好的擬合效果，在預(yù)測未來數(shù)據(jù)趨勢時(shí)，最小二乘支持向量機(jī)預(yù)測模型能較好地體現(xiàn)數(shù)據(jù)的發(fā)展趨勢，但是與真實(shí)數(shù)據(jù)之間有一定的偏差，向后預(yù)測10個(gè)點(diǎn)的輸出結(jié)果與實(shí)際數(shù)據(jù)之間的平均相對誤差為0.44%。

WNN預(yù)測模型的訓(xùn)練樣本集與LSSVM預(yù)測模型的訓(xùn)練樣本集一致，小波神經(jīng)網(wǎng)絡(luò)預(yù)測模型的輸入為5個(gè)節(jié)點(diǎn)，輸出為1個(gè)節(jié)點(diǎn)，隱含層神經(jīng)元有8個(gè)，隱層的小波函數(shù)選擇Morlet函數(shù)。得到的預(yù)測效果圖如圖4所示。圖中藍(lán)色的點(diǎn)表示經(jīng)過小波去噪處理的原始數(shù)據(jù)，紅色的點(diǎn)表示W(wǎng)NN預(yù)測的結(jié)果，最后10個(gè)點(diǎn)，即第61個(gè)點(diǎn)～第70個(gè)點(diǎn)是沒有經(jīng)過預(yù)測模型訓(xùn)練的點(diǎn)。對于已經(jīng)訓(xùn)練過的數(shù)據(jù)，小波神經(jīng)網(wǎng)絡(luò)也有很好的擬合效果，但是其效果不如最小二乘支持向量機(jī)的擬合效果。在預(yù)測未來數(shù)據(jù)趨勢時(shí)，小波神經(jīng)網(wǎng)絡(luò)的預(yù)測效果比最小二乘支持向量機(jī)的預(yù)測效果更好，但是與真實(shí)數(shù)據(jù)之間也有一定的偏差，向后預(yù)測10個(gè)點(diǎn)的預(yù)測結(jié)果與實(shí)際數(shù)據(jù)直接的平均相對誤差為0.39%。

本文所建立的LSSVM-WNN預(yù)測模型分為兩部分，利用給定的前40組數(shù)據(jù)對LSSVM預(yù)測模型進(jìn)行訓(xùn)練，利用LSSVM預(yù)測模型向后預(yù)測30組數(shù)據(jù)，計(jì)算向后預(yù)測的30組數(shù)據(jù)與真實(shí)數(shù)據(jù)的殘差值，然后將前20的殘差值對WNN預(yù)測模型進(jìn)行訓(xùn)練，向后預(yù)測10組殘差值，將向后預(yù)測的10組殘差值與LSSVM預(yù)測模型向后預(yù)測的第21組～第30組預(yù)測值進(jìn)行合成，得到LSSVM-WNN預(yù)測模型的最終輸出結(jié)果。小波神經(jīng)網(wǎng)絡(luò)預(yù)測模型的輸入神經(jīng)元為5個(gè)，輸出神經(jīng)元為1個(gè)，隱含層神經(jīng)元為8個(gè)，隱層的小波函數(shù)選擇Morlet函數(shù)。得到的預(yù)測效果圖如圖5所示。圖中藍(lán)色的點(diǎn)表示經(jīng)過小波去噪處理的原始數(shù)據(jù)，紅色的點(diǎn)表示利用LSSVM預(yù)測的結(jié)果，綠色的點(diǎn)表示LSSVM-WNN預(yù)測模型預(yù)測的結(jié)果。最后10個(gè)點(diǎn)，即第61個(gè)點(diǎn)～第70個(gè)點(diǎn)是沒有經(jīng)過組合預(yù)測模型訓(xùn)練的點(diǎn)。組合模型具有這兩種模型的優(yōu)點(diǎn)，在預(yù)測未來數(shù)據(jù)趨勢時(shí)，組合預(yù)測模型的預(yù)測效果比單一模型的預(yù)測效果更好，向后預(yù)測10個(gè)點(diǎn)的預(yù)測結(jié)果與實(shí)際數(shù)據(jù)間的平均相對誤差為0.12%。

通過上面的結(jié)果分析可知，基于LSSVM-WNN預(yù)測模型的預(yù)測平均相對誤差明顯低于其他2種預(yù)測模型的相對誤差，說明本文采用的預(yù)測模型的預(yù)測性能優(yōu)于其他2種預(yù)測模型，從而說明建立的最小二乘支持向量機(jī)-小波神經(jīng)網(wǎng)絡(luò)狀態(tài)趨勢預(yù)測模型是有效的。

5 結(jié)論

為了實(shí)現(xiàn)對燃?xì)廨啓C(jī)狀態(tài)趨勢進(jìn)行預(yù)測，本文設(shè)計(jì)了LSSVM-WNN預(yù)測模型，該預(yù)測模型利用WNN對LSSVM預(yù)測的殘差進(jìn)行預(yù)測，最后將LSSVM預(yù)測結(jié)果與WNN預(yù)測的殘差進(jìn)行合成，得到最小二乘支持向量機(jī)—小波神經(jīng)網(wǎng)絡(luò)的預(yù)測模型的預(yù)測輸出結(jié)果。選取表征燃?xì)廨啓C(jī)狀態(tài)的排氣溫度作為研究對象，利用該模型對某型燃?xì)廨啓C(jī)未來狀態(tài)趨勢進(jìn)行預(yù)測，并和實(shí)際狀態(tài)趨勢進(jìn)行對比可知，預(yù)測的狀態(tài)趨勢變化與實(shí)際狀態(tài)一致，預(yù)測結(jié)果的相對誤差為0.12%，從而驗(yàn)證了該方法的有效性。本文所建立的LSSVM-WNN預(yù)測模型結(jié)合最小二乘支持向量機(jī)和小波神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)，不僅有收斂速度更快，精度更高的優(yōu)勢，并且還有較強(qiáng)的逼近能力和泛化能力。