基于多元KELM 的發(fā)動(dòng)機(jī)狀態(tài)在線預(yù)測(cè)模型

戴金玲，許愛(ài)強(qiáng)，*，于超，吳陽(yáng)勇

（1.海軍航空大學(xué)，煙臺(tái) 264001； 2.中國(guó)人民解放軍 92313部隊(duì)，濟(jì)源 454650）

針對(duì)飛機(jī)發(fā)動(dòng)機(jī)的在線狀態(tài)預(yù)測(cè)屬于早期故障檢測(cè)方法，對(duì)排除早期故障、降低維護(hù)成本、提高系統(tǒng)穩(wěn)定性和安全性都具有重要意義［1］。

早期用于時(shí)間序列預(yù)測(cè)的支持向量機(jī)［2-3］、神經(jīng)網(wǎng)絡(luò)［4-5］以及其他機(jī)器學(xué)習(xí)方法［6］，存在收斂速度慢，易陷入局部最優(yōu)等缺陷。為克服這些缺陷，提出了一種新的神經(jīng)網(wǎng)絡(luò)：極限學(xué)習(xí)機(jī)（Extreme Learning Machine，ELM）［7-9］，其輸入權(quán)值和隱含層偏置值隨機(jī)生成且在訓(xùn)練中保持不變，僅需采用線性回歸的方法確定輸出權(quán)值。核極限學(xué)習(xí)機(jī)（Kernel ELM，KELM）［10］模型則將極端學(xué)習(xí)機(jī)與核方法相結(jié)合，進(jìn)一步解決了極限學(xué)習(xí)機(jī)需要確定隱含層個(gè)數(shù)的問(wèn)題，且具有更好的泛化性能。

基于核方法處理非線性問(wèn)題的優(yōu)勢(shì)，文獻(xiàn)［11］提出了基于核的增量ELM（Kernel Based Incremental ELM，KB-IELM），該方法由于吸收了所有樣本數(shù)據(jù)，其網(wǎng)絡(luò)結(jié)構(gòu)大小與訓(xùn)練樣本數(shù)相等，導(dǎo)致模型膨脹的問(wèn)題。為解決這一問(wèn)題，文獻(xiàn)［12］將在線序列極限學(xué)習(xí)機(jī)［13］（Online Sequential ELM，OS-ELM）擴(kuò)展到了核在線序列極限學(xué)習(xí)機(jī)（Kernel OS-ELM，KOS-ELM），通過(guò)設(shè)置閾值進(jìn)行在線稀疏。文獻(xiàn)［14-15］引入了滑動(dòng)時(shí)間窗的概念，降低了模型復(fù)雜度并提高了泛化性能。文獻(xiàn)［16-17］分別通過(guò)瞬時(shí)信息測(cè)量和積累一致性測(cè)量的方法選擇有價(jià)值的樣本、舍棄冗余信息，從而構(gòu)造并更新模型。文獻(xiàn)［18］在文獻(xiàn)［16］的基礎(chǔ)上引入了時(shí)變的正則化因子，應(yīng)對(duì)模型在不同區(qū)域的結(jié)構(gòu)風(fēng)險(xiǎn)。文獻(xiàn)［19］引入了遺忘因子，實(shí)現(xiàn)模型對(duì)樣本動(dòng)態(tài)變化的有效跟蹤，并極大提升了在線預(yù)測(cè)的精度與穩(wěn)定性。

以上在線預(yù)測(cè)方法均架于單變量自身的歷史時(shí)間序列信息。而事實(shí)上，一個(gè)系統(tǒng)的各變量間是相互影響、不可剝離的因素，因此對(duì)于變量的預(yù)測(cè)不僅要考慮變量本身的歷史狀態(tài)，也要考慮相關(guān)變量的狀態(tài)。當(dāng)前國(guó)內(nèi)外已有關(guān)于多變量狀態(tài)預(yù)測(cè)的研究，比如文獻(xiàn)［20］將ELM 與最小二乘回歸（PLSR）結(jié)合提出一種混合變量選擇算法；文獻(xiàn)［21］則將ELM與多核學(xué)習(xí)算法結(jié)合，利用多核的非同源數(shù)據(jù)融合能力實(shí)現(xiàn)更準(zhǔn)確的預(yù)測(cè)，然而這些方法的耗時(shí)均較長(zhǎng)，不符合在線預(yù)測(cè)的要求。因此有必要對(duì)多變量在線預(yù)測(cè)方法進(jìn)行研究。

由于多變量時(shí)間序列的在線預(yù)測(cè)中，各個(gè)變量選擇的稀疏字典是不一樣的，因此以多變量相空間重構(gòu)序列為輸入向量、單變量為目標(biāo)變量進(jìn)行預(yù)測(cè)，可得到最符合目標(biāo)變量變化規(guī)律的字典。本文首先通過(guò)設(shè)置時(shí)間延遲與嵌入維度，將多變量時(shí)間序列進(jìn)行相空間重構(gòu)；考慮到核自適應(yīng)濾波（Kernel Adaptive Filtering，KAF）的收斂性和低復(fù)雜度、OS-ELM公式與遞歸最小二乘法（Recursive Least Square，RLS）公式的共通之處，以及KELM的運(yùn)算速度優(yōu)勢(shì)［12］，受文獻(xiàn)［22-23］啟發(fā)，本文利用屬于KAF算法的核RLS（Kernel RLS，KRLS）方法處理內(nèi)核，并給出了理論推導(dǎo)；為消除冗余數(shù)據(jù)并增強(qiáng)模型泛化能力，本文采用最佳線性近似（Approximate Linear Dependency，ALD）準(zhǔn)則對(duì)給定的測(cè)試序列執(zhí)行構(gòu)造性稀疏準(zhǔn)則，將本文模型表示為KRLSELM。通過(guò)實(shí)例分析表明，相比單變量在線預(yù)測(cè)，本文的多變量在線預(yù)測(cè)可得到更高的預(yù)測(cè)精度和穩(wěn)定性，且同樣具有較高的時(shí)效性。

1 問(wèn)題提出

1.1 多變量時(shí)間序列相空間重構(gòu)

假設(shè)有一M 維多變量時(shí)間序列X1，X2，…，XN，其中Xi＝（x1，i，x2，i，…，xM，i），i＝1，2，…，N。對(duì)于多變量時(shí)間序列進(jìn)行相空間重構(gòu)可得

令預(yù)測(cè)模型的輸出序列為向量Yn＝［y1n，y2n，…，yMn］＝［x1（n＋1），x2（n＋1），…，xM（n＋1）］，其中yin＝xi（n＋1）＝Fi（v（n）），i＝1，2，…，M 分別表示多變量序列中維度為M 時(shí)的輸出預(yù)測(cè)值。式（3）中，延遲時(shí)間τi，i＝1，2，…，M 和嵌入維度di確定后，重構(gòu)相空間內(nèi)的多變量時(shí)間序列即可用于建模預(yù)測(cè)。

1.2 核極限學(xué)習(xí)機(jī)

將滿足等式約束條件的核極限學(xué)習(xí)機(jī)優(yōu)化問(wèn)題定義為

式中：β為連接隱含層與輸出層的輸出權(quán)值；yi為期望輸出值；ξi為樣本xi對(duì)應(yīng)的誤差值；C為正則化參數(shù)；n為樣本個(gè)數(shù)。由KKT條件，可得輸出權(quán)值β的計(jì)算公式為

式中：H＝［h（x1），h（x2），…，h（xn）］T為極限學(xué)習(xí)機(jī)隱含層輸出矩陣；Yn＝［y1，y2，…，yM］T為輸入樣本對(duì)應(yīng)的輸出目標(biāo)值向量；I為單位矩陣。

相應(yīng)的核極限學(xué)習(xí)機(jī)的輸出形式可寫為

考慮到核函數(shù)的映射與極限學(xué)習(xí)機(jī)中的隱層節(jié)點(diǎn)映射h（x）的相似性，將h（x）擴(kuò)展為未知的特征映射，構(gòu)建核極端學(xué)習(xí)機(jī)（Extreme Learning Machine with Kernels，KELM）模型。應(yīng)用Mercer條件定義核矩陣為Ω ＝HHT，其中Ω（i，j）＝h（xi）hT（xj）＝k（xi，xj），當(dāng)前時(shí)刻的核估計(jì)向量為kn＝［k（·，x1），k（·，x2），…，k（·，xn）］。

2 多變量時(shí)間序列在線預(yù)測(cè)模型

2.1 KRLSELM 算法

遞歸最小二乘法（RLS）通過(guò)迭代更新權(quán)重向量來(lái)進(jìn)行時(shí)間序列預(yù)測(cè)，其結(jié)構(gòu)如圖1所示，設(shè)n時(shí)刻x（n）為輸入樣本，y（n）為輸出目標(biāo)值，w（n）為權(quán)重系數(shù)，RLS的輸出為

圖1 RLS結(jié)構(gòu)Fig.1 Structure of RLS

式中：H（n）＝［h（1），h（2），…，h（n）］表示一個(gè)特征矩陣，令Ω（n）＝H（n）HT（n）。式（11）的后半部分可通過(guò)矩陣求逆引理得到，轉(zhuǎn)化為該形式的原因如下：①H（i）TH（i）中的每個(gè)元素可以通過(guò)核函數(shù)簡(jiǎn)化計(jì)算；②權(quán)重被明確表示為輸入數(shù)據(jù)的一個(gè)線性組合：w（n）＝H（n）β（n），由式（11）可得β（n）＝［λI＋H（n）TH（n）］－1y（n）；③為了避免復(fù)雜的求逆運(yùn)算，可以通過(guò)迭代方法來(lái)計(jì)算β（n），經(jīng)過(guò)數(shù)學(xué)推導(dǎo)得β（n）的迭代過(guò)程為［23］

文獻(xiàn)［23，25］對(duì)KRLS收斂性進(jìn)行了完整推導(dǎo)和分析，在這種情況下，KRLS的收斂性是等價(jià)的。算法流程如下所示，其中算法的參數(shù)即為KELM中的核函數(shù)k（xi，xj）和正則化參數(shù)C，最終返回權(quán)重β（n）即為式（5）輸出權(quán)重。KRLSELM算法流程如下：

步驟1 初始化Q（1）＝（λ＋k（x（1），x（1）））－1，β（1）＝Q（1）y（1）。

步驟2 新樣本（x（n），y（n））到達(dá)，更新參數(shù)：

步驟3 更新參數(shù)：

步驟4 返回β（n）。

2.2 ALD稀疏化準(zhǔn)則

3 算法流程與復(fù)雜度分析

由第1節(jié)和第2節(jié)，將本文模型步驟總結(jié)如下：

步驟1 對(duì)多變量時(shí)間序列進(jìn)行重構(gòu)，設(shè)定各個(gè)維度的時(shí)滯τi和嵌入維度di，并得到輸入向量x（n＋1）和相應(yīng)某一預(yù)測(cè)維度的目標(biāo)值y（n＋1）。

步驟2 初始化模型的參數(shù)，初始化字典Dic1＝｛x（1），y（1）｝，核函數(shù)的類別，核參數(shù)為σ，正則化因子C，閾值δ，令Q（1）＝（C＋k（x（1），x（1）））－1，β（1）＝Q（1）y（1）。

步驟3 當(dāng)新樣本（xn，yn）到達(dá)后，判斷式（20）是否成立，若dis2≥δ，則執(zhí)行步驟4；若dis2＜δ，則執(zhí)行步驟6。

步驟4 更新字典，Dicn＝Dicn－1∪｛x（n），y（n）｝，加入新樣本。使用式（16）、式（17）更新Q（n）和β（n）。

步驟6 令Dicn＝Dicn－1，β（n）＝β（n－1）。使用式（6），式（14）計(jì)算估計(jì)值＾yn和誤差值e（n），返回步驟3。

從計(jì)算的角度來(lái)看，OS-ELM 算法的時(shí)間復(fù)雜度與P×P矩陣求逆相關(guān)，其中P為字典的成員個(gè)數(shù)，因此介于O（P2）和O（P3）之間。由KRLSELM算法顯然可得，本文模型的時(shí)間復(fù)雜度在迭代過(guò)程中為O（n2）階，且經(jīng)過(guò)稀疏化準(zhǔn)則，這種復(fù)雜度還可以降低。

4 實(shí)例分析

為了驗(yàn)證算法的有效性，將本文模型應(yīng)用于以Lorenz混沌時(shí)間序列預(yù)測(cè)和某型飛機(jī)發(fā)動(dòng)機(jī)飛參數(shù)據(jù)進(jìn)行實(shí)驗(yàn)分析。實(shí)驗(yàn)通過(guò)訓(xùn)練時(shí)間和測(cè)試時(shí)間指標(biāo)來(lái)度量計(jì)算復(fù)雜度，通過(guò)均方根誤差（Root Mean Square Error，RMSE）來(lái)度量預(yù)測(cè)精度，以及最大絕對(duì)預(yù)測(cè)誤差（Maximal Absolute Prediction Error，MAPE）、絕對(duì)預(yù)測(cè)誤差（APE）和平均相對(duì)誤差率（Mean Relative Error Rate，MRPE）來(lái)度量預(yù)測(cè)穩(wěn)定性。

4.1 Lorenz混沌時(shí)間序列

本節(jié)首先驗(yàn)證算法對(duì)Lorenz混沌時(shí)間序列預(yù)測(cè)的有效性。Lorenz混沌方程是一組三元微分方程，其表達(dá)式為

取a＝10，b＝28，c＝8／3，初始值為（x（1），y（1），z（1））＝（10，1，0），利用4階Runge-Kutta算法積分，取3個(gè)變量在時(shí)間為（4001，6400）的延遲時(shí)間為τ1＝τ2＝τ3＝2／s，嵌入維度為m1＝m2＝m3＝6，即重構(gòu)向量維度為18，方程產(chǎn)生混沌時(shí)間序列如圖2所示。相空間重構(gòu)產(chǎn)生1200組數(shù)據(jù)，每組數(shù)據(jù)的前1000組作為訓(xùn)練樣本，后200組為測(cè)試樣本。其中x（t）、y（t）、z（t）表示Lorenz混沌時(shí)間序列在t時(shí)刻的值。

經(jīng)過(guò)仿真對(duì)比，當(dāng)Lorenz混沌時(shí)間序列的參數(shù)設(shè)置如表1所示時(shí)，可獲得各方法下最佳預(yù)測(cè)結(jié)果如表2所示。其中第2列表示以圖2中的Lorenz-（x）為預(yù)測(cè)目標(biāo)，分別以單變量x（即重構(gòu)向量［1～6］）、變量x和y（即重構(gòu)向量［1～12］）以及變量x、y、z（即重構(gòu)向量［1～18］）為輸入變量進(jìn)行仿真實(shí)驗(yàn)，并將各方法中每項(xiàng)指標(biāo)的最優(yōu)值加粗顯示。由表2可見(jiàn)：

表1 Lorenz混沌時(shí)間序列實(shí)驗(yàn)參數(shù)設(shè)置Table 1 Experimental parameter setting for Lorenz chaotic time series

表2 Lorenz混沌時(shí)間序列預(yù)測(cè)結(jié)果Table 2 Results of Lor enz chaotic time ser ies prediction

圖2 Lorenz混沌時(shí)間序列Fig.2 Lorenz chaotic time series

1）對(duì)比各方法的測(cè)試效果發(fā)現(xiàn)，對(duì)比KBIELM、NOS-KELM 和FF-OSKELM，KRLSELM 將各方法的最優(yōu)預(yù)測(cè)精度提高了30.38%、93.56%和26.67%。FF-OSKELM 與KB-IELM 與本文模型具有同等數(shù)量級(jí)的預(yù)測(cè)精度與穩(wěn)定性，NOSKELM則最低，驗(yàn)證了本文模型的有效性。

2）對(duì)比不同的變量輸入組合發(fā)現(xiàn)，預(yù)測(cè)穩(wěn)定性最高的均為多變量輸入；除了KB-IELM方法以外，各個(gè)方法中預(yù)測(cè)精度最高的均為多變量輸入，驗(yàn)證了本文所提多變量時(shí)間序列預(yù)測(cè)的性能。其中KRLSELM的預(yù)測(cè)精度及預(yù)測(cè)穩(wěn)定性均隨著輸入變量數(shù)的增加而提高；方法NOS-KELM 與FFOSKELM則在輸入變量為“xy”時(shí)具有最高的預(yù)測(cè)精度。

3）對(duì)比不同方法的消耗時(shí)間可見(jiàn)，除了KBIELM以外，各方法時(shí)間花費(fèi)均在10－4s的數(shù)量級(jí)上，達(dá)到了在線預(yù)測(cè)的要求，其差異可基本忽略。

表2中各方法下預(yù)測(cè)精度最佳的預(yù)測(cè)結(jié)果（粗體部分），即各方法的最佳整體預(yù)測(cè)曲線如圖3（a）所示，圖3（b）所示為圖3（a）中框出來(lái)的局部放大曲線，由圖中可以得到：根據(jù)整體預(yù)測(cè)曲線中可見(jiàn)，所有的方法基本均能有效進(jìn)行目標(biāo)跟蹤，大體達(dá)到預(yù)測(cè)的效果；根據(jù)局部放大曲線中可見(jiàn)，F(xiàn)F-OSKELM 與KB-IELM 的預(yù)測(cè)精度相比NOS-KELM方法更高，其中KRLSELM 的預(yù)測(cè)曲線與真實(shí)曲線最為貼近，進(jìn)一步驗(yàn)證了表2中的結(jié)論。

圖3中各方法的絕對(duì)預(yù)測(cè)誤差如圖4所示。由圖中可知，NOS-KELM 的絕對(duì)預(yù)測(cè)誤差（APE）遠(yuǎn)遠(yuǎn)高于其他方法；與KRLSELM 相比，KB-IELM與FF-OSKELM的絕對(duì)預(yù)測(cè)誤差變化趨勢(shì)大體一致，但在預(yù)測(cè)步數(shù)為40左右時(shí)均遇到了較大的波動(dòng)，因此其穩(wěn)定性低于KRLSELM。

圖3 Lorenz混沌時(shí)間序列預(yù)測(cè)曲線Fig.3 Prediction curve of Lorenz chaotic time series

圖4 Lorenz混沌時(shí)間序列預(yù)測(cè)誤差Fig.4 Prediction error of Lorenz chaotic time series

圖5為圖3各方法在訓(xùn)練過(guò)程中的訓(xùn)練樣本數(shù)隨訓(xùn)練步數(shù)的變化曲線圖。圖中可見(jiàn)：①KRLSELM方法使用的訓(xùn)練樣本不到總樣本數(shù)1／10，驗(yàn)證了其具有較好的稀疏效果；②FF-OSKELM與NOS-KELM的訓(xùn)練樣本數(shù)穩(wěn)定在150左右，是經(jīng)過(guò)稀疏化之后的結(jié)果，但仍然低于KRLSELM；③由于KB-IELM 沒(méi)有稀疏化的過(guò)程，使用了所有的樣本，其訓(xùn)練樣本數(shù)與訓(xùn)練步數(shù)呈現(xiàn)線性相關(guān)關(guān)系，這也解釋了表2中該方法時(shí)間消耗最大的原因。

圖5 Lorenz混沌時(shí)間序列訓(xùn)練樣本數(shù)Fig.5 Number of training samples for Lorenz chaotic time series learning

各方法的學(xué)習(xí)曲線由預(yù)測(cè)過(guò)程中的RMSE表征，如圖6所示。其中，NOS-KELM的收斂性明顯遠(yuǎn)低于其他方法。隨著預(yù)測(cè)步數(shù)的增加，KBIELM、FF-OSKELM 和KRLSELM 均約在50個(gè)樣本處開(kāi)始收斂，學(xué)習(xí)曲線趨于平滑；其中KRLSELM能夠收斂到更加精確的階段，穩(wěn)定性最高，驗(yàn)證了該方法的性能。

圖6 Lorenz混沌時(shí)間序列學(xué)習(xí)曲線Fig.6 Learning curve of Lorenz chaotic time series

4.2 某型飛機(jī)飛行參數(shù)在線預(yù)測(cè)

本節(jié)將驗(yàn)證本文模型對(duì)某型飛機(jī)發(fā)動(dòng)機(jī)狀態(tài)在線預(yù)測(cè)的有效性。以某型教練機(jī)的發(fā)動(dòng)機(jī)為例，選取渦輪后溫度以及低壓轉(zhuǎn)子轉(zhuǎn)速、油門桿角位移、高壓轉(zhuǎn)子轉(zhuǎn)速為監(jiān)測(cè)項(xiàng)目，并分別標(biāo)記為變量1、2、3、4。

取該機(jī)型飛行參數(shù)系統(tǒng)某一架次的原始數(shù)據(jù)，數(shù)據(jù)采樣每隔1 s進(jìn)行一次，每個(gè)變量取非平穩(wěn)狀態(tài)下的250個(gè)樣本，設(shè)置延遲時(shí)間為τ1＝τ2＝τ3＝τ4＝1，嵌入維度為m1＝m2＝m3＝m4＝6，則得到244組新樣本。由于是其他樣本4倍的數(shù)量級(jí)，將其乘以1／4做處理，得到經(jīng)過(guò)處理的非平穩(wěn)時(shí)間序列，變化曲線如圖7所示。飛行參數(shù)包括發(fā)動(dòng)機(jī)系統(tǒng)參數(shù)、液壓系統(tǒng)參數(shù)、燃油系統(tǒng)參數(shù)、飛行姿態(tài)控制系統(tǒng)參數(shù)等，而數(shù)據(jù)采集系統(tǒng)已根據(jù)相關(guān)性分析方法對(duì)各個(gè)分系統(tǒng)進(jìn)行了劃分，例如，航速、高度、升降率屬于飛行姿態(tài)控制系統(tǒng)參數(shù)；應(yīng)急系統(tǒng)壓力屬于液壓系統(tǒng)參數(shù)；剩余油量、燃油分耗率屬于燃油系統(tǒng)參數(shù)；油門桿位移量、高低壓轉(zhuǎn)子轉(zhuǎn)速，渦輪后溫度屬于發(fā)動(dòng)機(jī)系統(tǒng)參數(shù)等。因此本文以發(fā)動(dòng)機(jī)飛行參數(shù)系統(tǒng)為例對(duì)發(fā)動(dòng)機(jī)狀態(tài)進(jìn)行預(yù)測(cè)，發(fā)動(dòng)機(jī)系統(tǒng)共有4個(gè)可采集的與發(fā)動(dòng)機(jī)狀態(tài)相關(guān)的參數(shù)，由圖7可見(jiàn)，其變化趨勢(shì)一致，因此具有一定的相關(guān)關(guān)系。實(shí)驗(yàn)將前194組樣本作為訓(xùn)練數(shù)據(jù)，后50組為測(cè)試樣本。

圖7 某教練機(jī)飛行參數(shù)樣本曲線Fig.7 Flight parameter sample curves of a trainer engine

經(jīng)過(guò)仿真對(duì)比，當(dāng)飛行參數(shù)的設(shè)置如表3所示時(shí)，可獲得最優(yōu)性能。以低壓轉(zhuǎn)子轉(zhuǎn)速（變量2）為預(yù)測(cè)對(duì)象，則輸入變量組合排列后共有8種空間重構(gòu)變量。飛參的預(yù)測(cè)仿真結(jié)果如表4所示，其中標(biāo)粗部分為各方法下的最優(yōu)預(yù)測(cè)結(jié)果。

表3 飛行參數(shù)設(shè)置Table 3 Experimental par ameters setting for flight parameters prediction

表4 飛行參數(shù)預(yù)測(cè)仿真結(jié)果Table 4 Simulation results of flight parameters prediction

由表4可見(jiàn)：

1）對(duì)比所有方法的預(yù)測(cè)結(jié)果可以發(fā)現(xiàn)，相比KB-IELM、NOS-KELM 和FF-OSKELM，KRLSELM將各方法的最優(yōu)預(yù)測(cè)精度提高了89.26%、40.03%和14.31%。同時(shí)，幾乎在所有輸入變量組合下，KRLSELM均具有最高的預(yù)測(cè)精度和穩(wěn)定性，進(jìn)一步驗(yàn)證了本文模型的有效性。

2）對(duì)比所有方法的測(cè)試時(shí)間發(fā)現(xiàn)，由于樣本數(shù)量較小，各輸入變量組合的時(shí)間消耗均在10－3s的數(shù)量級(jí)以下，滿足了飛機(jī)發(fā)動(dòng)機(jī)在線預(yù)測(cè)的要求。

3）對(duì)比各算法下不同輸入變量組合的預(yù)測(cè)結(jié)果發(fā)現(xiàn)，相比多變量輸入，單變量的預(yù)測(cè)精度和穩(wěn)定性幾乎都是最低的，驗(yàn)證了多變量的考慮對(duì)單變量預(yù)測(cè)的重要意義；KB-IELM 在輸入組合為變量“123”時(shí)的預(yù)測(cè)精度為最優(yōu)，F(xiàn)F-OSKELM 與NOS-KELM在輸入組合為變量“12”時(shí)為最優(yōu)，而KRLSELM則在輸入為變量“124”時(shí)為最優(yōu)，因此預(yù)測(cè)精度與輸入變量數(shù)不存在線性相關(guān)關(guān)系，隨著輸入變量數(shù)的增長(zhǎng)，預(yù)測(cè)精度會(huì)達(dá)到一個(gè)極值點(diǎn)再下降。

4）對(duì)比預(yù)測(cè)精度與穩(wěn)定性的關(guān)系，輸入變量“23”在FF-OSKELM 方法下具有最優(yōu)的測(cè)試精度，但其穩(wěn)定性指標(biāo)MRPE卻并非最優(yōu)；而在其他輸入組合下可見(jiàn)，最優(yōu)的預(yù)測(cè)精度也相應(yīng)的穩(wěn)定性也最優(yōu)，因此預(yù)測(cè)精度與穩(wěn)定性不存在一定的相關(guān)關(guān)系。

如圖8所示為KRLSELM方法中4種變量組合的飛行參數(shù)預(yù)測(cè)曲線，圖8（a）為整體預(yù)測(cè)曲線圖，其中框出的部分即為圖8（b）中的局部放大預(yù)測(cè)圖。圖中可見(jiàn)：①各個(gè)變量組合大體上都能跟蹤預(yù)測(cè)目標(biāo)；②局部圖中，顯然變量“2”的目標(biāo)跟蹤效果遠(yuǎn)不如其他組合變量的跟蹤效果，且穩(wěn)定性差。如圖9所示為4種變量組合預(yù)測(cè)的APE曲線圖，顯然輸入為變量“12”和變量“124”的預(yù)測(cè)結(jié)果相比另外2種輸入穩(wěn)定性更高。根據(jù)圖9中各變量輸入下的APE，顯然變量“12”和變量“124”的預(yù)測(cè)結(jié)果波動(dòng)更小，變量“2”的波動(dòng)最大，進(jìn)一步驗(yàn)證了表4中的結(jié)論。

圖8 KRLSELM方法的飛行參數(shù)預(yù)測(cè)曲線Fig.8 Flight parameter prediction curves by KRLSELM

圖9 KRLSELM預(yù)測(cè)的APEFig.9 APE curves predicted by KRLSELM

如圖10所示為KRLSELM 方法的飛參訓(xùn)練樣本數(shù)與訓(xùn)練步數(shù)的關(guān)系圖。由圖可知，訓(xùn)練樣本數(shù)最高與最低的都沒(méi)有達(dá)到最優(yōu)預(yù)測(cè)結(jié)果，這是因?yàn)檩斎胱兞俊?234”在稀疏過(guò)程中發(fā)生了過(guò)擬合，而輸入變量“2”吸收的訓(xùn)練樣本不夠?qū)е铝饲凡蓸?。因此，稀疏性與吸收訓(xùn)練樣本數(shù)并沒(méi)有線性相關(guān)的關(guān)系。訓(xùn)練樣本數(shù)在增長(zhǎng)過(guò)程中存在一個(gè)極值點(diǎn)，使得方法的稀疏性達(dá)到最高。

圖10 KRLSELM訓(xùn)練樣本數(shù)Fig.10 Training sample numbers of KRLSELM

KRLSELM方法的學(xué)習(xí)曲線如圖11所示，預(yù)測(cè)步數(shù)達(dá)到10時(shí)，預(yù)測(cè)曲線開(kāi)始收斂。與表2結(jié)論一致，輸入為變量“2”時(shí)的預(yù)測(cè)效果最差，其學(xué)習(xí)曲線的收斂效果也最差；當(dāng)輸入組合的預(yù)測(cè)效果最優(yōu)時(shí)，對(duì)應(yīng)的學(xué)習(xí)曲線也最為平滑，收斂效果最好。

圖11 KRLSELM學(xué)習(xí)曲線Fig.11 Learning curves of KRLSELM

5 結(jié) 論

本文考慮了非平穩(wěn)時(shí)間序列預(yù)測(cè)中多個(gè)變量對(duì)于單變量預(yù)測(cè)的影響，采用空間重構(gòu)方法將多變量間的時(shí)間相關(guān)性轉(zhuǎn)化為空間相關(guān)性，提出KRLS與ELM 結(jié)合對(duì)目標(biāo)變量進(jìn)行預(yù)測(cè)，通過(guò)ALD算法設(shè)置閾值對(duì)模型進(jìn)行稀疏化，并應(yīng)用于某教練機(jī)的發(fā)動(dòng)機(jī)狀態(tài)在線預(yù)測(cè)中，實(shí)驗(yàn)結(jié)果如下：

1）KB-IELM、FF-OSKELM 與NOS-KELM 均能對(duì)變量進(jìn)行有效預(yù)測(cè)，且除KB-IELM 方法外，其他方法都達(dá)到了在線預(yù)測(cè)的要求。

2）滿足在線預(yù)測(cè)條件的前提下，相比KBIELM、FF-OSKELM 與 NOS-KELM，本文模型KRLSELM 將平均預(yù)測(cè)均方根減小了90.61%、58.14%和25.77%，將平均相對(duì)誤差率減少了99.61%、75.03%和28.59%，擁有更高的預(yù)測(cè)精度和預(yù)測(cè)穩(wěn)定性。

3）對(duì)比不同輸入組合變量的預(yù)測(cè)結(jié)果，單變量輸入的預(yù)測(cè)精度幾乎都是最低的，在多變量輸入組合下獲得最優(yōu)的測(cè)試精度及穩(wěn)定性，驗(yàn)證了多變量的考慮對(duì)于單變量預(yù)測(cè)的意義。