基于PLS 特征提取的WNN 裝備保障性評估

魏燕明，甘旭升，孫靜娟，孟祥偉，王 寧

（1.西京學(xué)院，西安 710123；2.空軍工程大學(xué)空管領(lǐng)航學(xué)院，西安 710051；3.中國兵器科學(xué)研究院，北京 100081）

0 引言

裝備保障性評估是對裝備系統(tǒng)在其壽命周期內(nèi)，為達(dá)到經(jīng)濟(jì)而有效地保障所考慮的必需的各種保障組合，是否滿足規(guī)定的定性和定量的保障性指標(biāo)要求的評價(jià)。它可以幫助部隊(duì)提高裝備保障能力和裝備作戰(zhàn)使用效能，并使其壽命周期費(fèi)用達(dá)到最低。對裝備保障性進(jìn)行準(zhǔn)確評估是武器裝備系統(tǒng)盡快形成保障能力和部隊(duì)?wèi)?zhàn)斗力的重要手段。

裝備保障性評估涉及的影響因素眾多，且交互復(fù)雜，本質(zhì)上是一個(gè)非線性評估問題。傳統(tǒng)的裝備保障性評估，多采用Delphi 法和層次分析法，僅能實(shí)現(xiàn)線性評估，無法進(jìn)行非線性評估。文獻(xiàn)［1-3］的研究都取得了一定成果，但都存在著主觀性強(qiáng)和過于依賴專家經(jīng)驗(yàn)等問題。神經(jīng)網(wǎng)絡(luò)技術(shù)的出現(xiàn)，為裝備保障性評估提供一種全新的評估模式［4］，它無需明確系統(tǒng)的內(nèi)在關(guān)系，具有逼近任意非線性函數(shù)的能力，在解決非線性問題上具有廣泛應(yīng)用。然而，應(yīng)用中其也存在精度不高、易陷入局部極小等問題，限制了其技術(shù)的推廣。小波神經(jīng)網(wǎng)絡(luò)（Wavelet Neural Network，WNN）是一種基于小波理論的神經(jīng)網(wǎng)絡(luò)［5］，但性能比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)有了本質(zhì)提高，為公認(rèn)的神經(jīng)網(wǎng)絡(luò)替代方法。當(dāng)然，任何一種方法都不是萬能的，WNN 也存在局限，其特征是建模過程無法提取樣本。而本文研究的裝備保障性評估指標(biāo)較多，有些指標(biāo)數(shù)據(jù)中攜帶的冗余信息，會對所構(gòu)建模型的評估性能產(chǎn)生負(fù)面影響，有必要深入研究裝備保障性評估WNN 建模前的特征提取問題?；诖耍岢鰧⑵钚《耍≒artial Least Square，PLS）特征提取技術(shù)和WNN 建模方法有機(jī)結(jié)合，提出一種組合的裝備保障性評估方法。并通過實(shí)例驗(yàn)證其有效性和可行性。

1 裝備保障性評估指標(biāo)體系構(gòu)建

影響裝備保障性的因素眾多，而且這些影響因素與保障性評估結(jié)果之間存在著復(fù)雜的非線性關(guān)系。在設(shè)計(jì)裝備保障性評估指標(biāo)體系時(shí)，應(yīng)該從分析這些影響因素入手，根據(jù)裝備保障問題特點(diǎn)，參照相關(guān)研究成果，征求專家的意見，選擇具有代表性的評估指標(biāo)，并兼顧指標(biāo)測量問題，以客觀地對裝備的保障性進(jìn)行科學(xué)評估［6］。通過對影響裝備保障性因素的分析，在遵循指標(biāo)體系設(shè)計(jì)原則基礎(chǔ)上，按照科學(xué)、系統(tǒng)的指標(biāo)體系構(gòu)建步驟和流程，從諸多影響因素中篩選出裝備保障性評估指標(biāo)，通過專家問卷調(diào)査，對初選指標(biāo)進(jìn)行刪減和補(bǔ)充，最終確定如圖1 所示裝備保障性評估指標(biāo)體系［7］。

2 偏最小二乘分析

PLS 屬于第二代多元統(tǒng)計(jì)分析技術(shù)。它既能夠進(jìn)行主元分析，又可以用于特征提取過程。使用PLS不僅能夠篩選出數(shù)據(jù)中主要特征，而且還能夠?yàn)V除其中的噪聲、消除變量間的多重相關(guān)性［8-9］。

設(shè)自變量為x1，x2，…，xp，因變量為y1，y2，…，yq，其中，p 表示自變量個(gè)數(shù)，q 表示因變量個(gè)數(shù)。對于n個(gè)樣本來說，可得到數(shù)據(jù)塊X=［x1，x2，…，xp］n×p和Y =［y1，y2，…，yq］n×q。PLS 算法分別從X 和Y 中提取主元t1和u1（t1為x1，x2，…，xp的線性組合，u1為y1，y2，…，yq的線性組合）時(shí)，必須遵循：

1）t1和u1應(yīng)該盡量包含X 和Y 中的變化信息，可表示為var（t1）→max，var（u1）→max，其中，var（·）表示方差算子；

圖1 裝備保障性評估指標(biāo)體系

2）t1和u1的相關(guān)程度能達(dá)到最大，可表示為r（t1，u1）→max，其中，r（·）表示相關(guān)系數(shù)算子，其計(jì)算公式為

式中，n 為數(shù)據(jù)個(gè)數(shù)，t1，u1分別為t1，u1的均值。

上述兩條準(zhǔn)則可轉(zhuǎn)化為如下約束優(yōu)化問題

式中，E0和F0分別為X 和Y 的標(biāo)準(zhǔn)化矩陣，w1和c1分別為X 和Y 的第一主軸。通過PLS 獲取第一主元t1和u1后，t1應(yīng)該能夠盡可能刻畫X，同時(shí)，又能最好地解釋Y。

完成提取t1和u1后，就可以在t1解釋后X 和Y的殘余信息基礎(chǔ)上，提取第二主元t2。如此往復(fù)，直到滿意精度為止。而將PLS 用于特征提取時(shí)，只要提取到所需主元個(gè)數(shù)m （m＜A，A = rank（X），rank（·）表示矩陣求秩算子），即終止運(yùn)算。PLS 特征提取流程如圖2 所示。

圖2 PLS特征提取流程

通過以上流程，可提取m 個(gè)主元T=［t1，t2，…，tm］，并得到W =［w1，w2，…，wm］和S =［s1，s2，…，sm］。標(biāo)準(zhǔn)化矩陣E0的特征向量由下式得出

假設(shè)測試樣本所形成的數(shù)據(jù)塊為Xt，而其標(biāo)準(zhǔn)化矩陣為E0t，則由下式計(jì)算其主元投影矩陣

3 小波神經(jīng)網(wǎng)絡(luò)

WNN 是從小波分析理論基礎(chǔ)上發(fā)展起來的一種新型神經(jīng)網(wǎng)絡(luò)，較好地融合了小波的時(shí)頻局域特性和神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)能力。較之于其他類型神經(jīng)網(wǎng)絡(luò)，WNN 在處理復(fù)雜非線性、不確定、未確知系統(tǒng)等問題上性能更為出色［6，10］。

對于多輸入多輸出情形，可得到圖3 所示的WNN 結(jié)構(gòu)。

則網(wǎng)絡(luò)輸出

圖3 多輸入多輸出WNN

為提高建模效率，WNN 參數(shù)初始化可采用經(jīng)驗(yàn)公式完成。

首先，針對連接權(quán)值wji，在［-1，1］區(qū)間隨機(jī)產(chǎn)生均勻分布的初始值w'ji，然后，繼續(xù)通過以下經(jīng)驗(yàn)公式完成wji初始化

式中，d=（Xmax-Xmin）/2 表示數(shù)據(jù)中心值；Xmax=max（X）和Xmin=min（X）。

對于僅包含輸入層、隱含層和輸出層的三層WNN 結(jié)構(gòu)來說，確定網(wǎng)絡(luò)結(jié)構(gòu)就是指選取網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)個(gè)數(shù)。隱含層節(jié)點(diǎn)個(gè)數(shù)的選取，對網(wǎng)絡(luò)整體性能影響很大。若選取太少，網(wǎng)絡(luò)能夠正確映射出的信息太少，以致“匹配不足”，很難辨識樣本；若選取太多，所需訓(xùn)練時(shí)間會過長，尤其在訓(xùn)練后期，學(xué)習(xí)樣本中的誤差會影響訓(xùn)練收斂方向，造成偏離全局最優(yōu)，致使泛化能力降低，甚至出現(xiàn)過擬合。目前，選擇隱含層節(jié)點(diǎn)個(gè)數(shù)尚缺少理想的解析式，往往通過多次實(shí)驗(yàn)以及人員經(jīng)驗(yàn)來確定。采用文獻(xiàn)［11］中的經(jīng)驗(yàn)公式計(jì)算最佳隱含層節(jié)點(diǎn)個(gè)數(shù)：

4 裝備保障性PLS-WNN 評估模型

裝備系統(tǒng)內(nèi)部組件間的耦合交互，使之呈現(xiàn)較強(qiáng)的非線性特征。盡管構(gòu)建裝備保障性評估指標(biāo)體系過程中，遵循了科學(xué)的設(shè)計(jì)原則與構(gòu)建流程，但仍難以保證各評估指標(biāo)之間彼此獨(dú)立，因此，構(gòu)建WNN 模型前，需要消除各評估指標(biāo)間存在的多重相關(guān)性。另外，由于數(shù)據(jù)采集和處理原因，指標(biāo)數(shù)據(jù)中可能包含一定的噪聲成份，對模型性能都可能造成不良影響。為解決上述問題，將PLS 特征提取與WNN 有機(jī)結(jié)合，構(gòu)建PLS-WNN 模型用于評估裝備保障性水平，其評估流程如圖4 所示。也就是通過PLS 的特征提取功能，預(yù)先處理指標(biāo)數(shù)據(jù)中存在的多重相關(guān)性和噪聲、降低的輸入維數(shù)，以期改善WNN 模型的評估效果，進(jìn)而對裝備保障性水平作出正確反映。該流程大致分為模型建立和模型測試兩部分。模型建立部分是在訓(xùn)練樣本基礎(chǔ)上，提取主元特征，利用參數(shù)初始化和網(wǎng)絡(luò)結(jié)構(gòu)確定過程，構(gòu)建裝備保障性的WNN 評估模型；模型測試部分將測試樣本輸入數(shù)據(jù)在訓(xùn)練樣本主元上的投影，輸入所構(gòu)建的WNN 評估模型進(jìn)行測試，如果測試結(jié)果分析合理，輸出結(jié)果；否則，轉(zhuǎn)入模型建立部分，重新建立評估模型。

圖4 裝備保障性PLS-WNN 評估流程

PLS-WNN 本質(zhì)上是一種組合回歸機(jī)。它先利用PLS 對原始樣本進(jìn)行特征提取預(yù)處理，建立新的訓(xùn)練樣本集，然后再使用這些樣本集建立WNN 回歸模型，完成回歸預(yù)測任務(wù)。實(shí)際上，PLS 在該組合回歸機(jī)中的主要作用包括：1）降低輸入維數(shù)；2）消除噪聲對數(shù)據(jù)的污染；3）解決自變量多重相關(guān)性對建模的影響。這樣處理的好處是既降低了WNN 的建模難度，又提高了模型質(zhì)量。該組合回歸機(jī)的實(shí)現(xiàn)步驟可描述為：

4.1 主元提取

1）分別標(biāo)準(zhǔn)化X 和Y，得到E0和F0；

2）計(jì)算主元矩陣T 和矩陣E0的特征矩陣V；

3）利用式（4）計(jì)算測試樣本的投影矩陣，建立新的測試樣本集Ttest。

4.2 訓(xùn)練模型

以T 為訓(xùn)練輸入，F(xiàn)0為訓(xùn)練輸出，確定最優(yōu)參數(shù)建立WNN 模型。

4.3 測試驗(yàn)證

以Ttest為測試輸入，驗(yàn)證所建立的WNN 模型，標(biāo)準(zhǔn)化還原，輸出測試結(jié)果和評價(jià)精度。

為消除量綱的影響，或者是為了突出某些指標(biāo)的作用，輸入數(shù)據(jù)必須作標(biāo)準(zhǔn)化處理。本文采用了最小-最大標(biāo)準(zhǔn)化法。假定amin和amax分別為屬性A的最小和最大值，則最小-最大標(biāo)準(zhǔn)化通過下式，將屬性A 的值a 映射到區(qū)間（L，H）中的a'

設(shè)定標(biāo)準(zhǔn)化區(qū)間并沒有嚴(yán)格的標(biāo)準(zhǔn)和要求，標(biāo)準(zhǔn)化區(qū)間的上限和下限（L，H）取值對模型性能沒有實(shí)質(zhì)性影響，通常區(qū)間取為［0，1］、［-1，1］或（-0.5，0.5），本文對WNN 輸入和輸出數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化時(shí)，選?。?0.5，0.5）。

5 案例分析

為便于驗(yàn)證PLS-WNN 性能，算法實(shí)現(xiàn)環(huán)境：i5四核處理器，CPU 2.6 GHz，內(nèi)存4 GB，操作系統(tǒng)Windows 7，程序編寫編譯Matlab2009，評估指標(biāo)采用均方根誤差（MSE），其計(jì)算公式為

式中，y 表示實(shí)際值，f 表示網(wǎng)絡(luò)預(yù)測值，n 為樣本數(shù)。

5.1 最優(yōu)主元數(shù)的確定

表1 裝備保障性評估樣本

通過訓(xùn)練與測試，可得到采用不同主元數(shù)p 構(gòu)建WNN 模型的測試MSE，則p 對MSE 的影響曲線如圖5 所示。從給出的結(jié)果可以看出，PLS-WNN 的測試MSE 最小值，出現(xiàn)在主元數(shù)p 為12 時(shí)，之后，主元數(shù)變大，MSE 值也隨之變大，并漸趨平穩(wěn)。

圖5 主元數(shù)p 對WNN 模型測試MSE 的影響

5.2 裝備保障性評估

基于PLS-WNN 的裝備保障性評估，就是通過PLS 特征提取，從19 個(gè)評估指標(biāo)數(shù)據(jù)中提取12 主元，將其作為輸入訓(xùn)練WNN 模型，進(jìn)而實(shí)現(xiàn)裝備保障性的正確評估。

表2 給出50 次重復(fù)訓(xùn)練得到的WNN 與PLS-WNN 模型的測試結(jié)果對比，其中，TE 表示通過50 次訓(xùn)練得到模型的平均測試輸出；LT 表示50次測試輸出與真實(shí)評價(jià)值的差小于真實(shí)評價(jià)值10%的次數(shù)。圖6 對比了兩個(gè)模型訓(xùn)練過程的收斂曲線，其中，MSE 表示均方根誤差；Iter 表示訓(xùn)練次數(shù)；━代表PLS-WNN 模型，┉代表WNN 模型。

可以看出，對于測試樣本，PLS-WNN 模型的平均相對誤差為0.009 6，而單純WNN 模型的平均相對誤差為0.046 4，說明PLS-WNN 模型的評估值與真實(shí)評估值非常接近，也與裝備保障性的實(shí)際水平相一致，更為重要的是，采用PLS 預(yù)先提取特征后建立的WNN 裝備保障性評估模型，不僅簡化了網(wǎng)絡(luò)結(jié)構(gòu)，降低了運(yùn)算復(fù)雜性，從而驗(yàn)證了PLS-WNN用于裝備保障性評估的可行性。

表2 裝備保障性評估的測試結(jié)果對比

圖6 兩種模型訓(xùn)練的收斂曲線對比

需要指出的是，PLS-WNN 模型對編號11 和12樣本得出的正確評估結(jié)果，是先由PLS 提取的最能反映裝備的實(shí)際保障性水平的12 個(gè)主元實(shí)現(xiàn)的，這說明對于裝備保障性評估問題，PLS 可對整個(gè)體系的指標(biāo)進(jìn)行有效優(yōu)化，很大程度上消除了指標(biāo)數(shù)據(jù)多重相關(guān)性，以及所含噪聲的干擾，同時(shí)，也降低了WNN 輸入維數(shù)，得到符合實(shí)際的評估結(jié)果。

6 結(jié)論

針對裝備保障性評估問題，提出一種基于PLS特征提取與WNN 的集成評估方法，并結(jié)合實(shí)例，對裝備保障性評估的適用性進(jìn)行驗(yàn)證。仿真分析表明：將PLS 與WNN 有機(jī)結(jié)合，使所建模型保留WNN 模型的優(yōu)點(diǎn)，同時(shí)，也使模型兼有了特征提取能力，評估性能比未經(jīng)PLS 處理的WNN 有明顯提高。將其用于裝備保障性評估是可行有效的，從而為裝備保障性評估貢獻(xiàn)了一種新的手段和方法。