基于主成分分析—ＲＢＦ神經(jīng)網(wǎng)絡(luò)模型的備件預(yù)測研究

關(guān)子明　常文兵

摘要：備件預(yù)測在產(chǎn)品物流保障中占有極其重要的地位，針對現(xiàn)有各種航空備件預(yù)測方法精度較低，無法滿足實際需求的現(xiàn)狀，文章提出了基于主成分分析—RBF神經(jīng)網(wǎng)絡(luò)模型的備件預(yù)測方法。首先利用主成分分析方法去除原始輸入層數(shù)據(jù)的相關(guān)性，以解決RBF神經(jīng)網(wǎng)絡(luò)模擬預(yù)測備件需求時輸入變量過多，網(wǎng)絡(luò)規(guī)模過大導(dǎo)致效率下降的問題，最后選擇合適的徑向基函數(shù)密度訓(xùn)練神經(jīng)網(wǎng)絡(luò)。通過結(jié)合實例進行分析，取得了較好的效果。

關(guān)鍵詞：備件預(yù)測；主成分分析；RBF神經(jīng)網(wǎng)絡(luò)

中圖分類號：F251.2文獻標(biāo)識碼：A

Abstract: Spare parts prediction stands a very important status in production logistic guarantee. Existing aviation material prediction approach has a low precision which can't meet the actual need. According to the problem, the forecasting approach for spare parts based on principal component analysis and artificial neural network was given. Firstly the approach can wipe off the correlation of the initial input data, in order to solve the problem that RBF network has too many input factor when predicting and then the efficiency of the neural network descends because of bigger size, at the last we choose the proper RBF density to train the network. The effectiveness of the proposed algorithm was verified by using an instance.

Key words: spare parts prediction; principal component analysis; RBF artificial neural networks

0引言

備件物流是對維修保養(yǎng)、售后產(chǎn)品和物資所涉及的庫存、設(shè)施和勞動力進行的完整端到端的物流管理。在飛機制造商的備件保障體系中，備件預(yù)測占有非常重要的地位。作為一項基礎(chǔ)性工作，若無科學(xué)和嚴(yán)密的預(yù)測，盲目憑經(jīng)驗去生產(chǎn)或購買備件，會造成備件的短缺或浪費，進而嚴(yán)重影響盈利能力。包括空客、波音在內(nèi)的國際各大飛機制造商都很重視備件預(yù)測，進行定性定量的科學(xué)計算，使得備件預(yù)測成為了他們參與市場競爭的技術(shù)優(yōu)勢[1]。通常飛機備件可分為可修復(fù)件和不可修復(fù)件。可修復(fù)件數(shù)量不多, 但價格昂貴, 占總費用的85%, 可修件需求分析的效果將直接影響到飛機能否取得合理有效的航材保障[2]。

由于影響備件需求的因素種類眾多且復(fù)雜多變，準(zhǔn)確預(yù)測備件需求比較困難。國內(nèi)飛機制造企業(yè)在長期的備件預(yù)測實踐過程中主要是依據(jù)一些經(jīng)驗公式或者參考國外飛機制造企業(yè)的方法，簡單地將眾多的復(fù)雜因素簡化或合并為幾個主要因素，常造成大量有用信息的丟失，因此造成備件預(yù)測精度不高，而傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的預(yù)測方法把所有因素都作為神經(jīng)網(wǎng)絡(luò)的輸入，顯然會增加網(wǎng)絡(luò)的復(fù)雜度，降低網(wǎng)絡(luò)性能，大大增加計算運行的時間，影響計算的精度。

針對上述現(xiàn)象，本文提出了基于主成分分析—RBF神經(jīng)網(wǎng)絡(luò)的備件預(yù)測模型。該模型首先利用主成分分析技術(shù)將影響備件預(yù)測的眾多因素變量進行分析變換，有效消除原訓(xùn)練樣本空間的信息重疊和噪聲，盡可能多地保留原有數(shù)據(jù)的有用信息，降低數(shù)據(jù)維度，減小網(wǎng)絡(luò)規(guī)模，得到一組彼此不相關(guān)的新輸入變量，然后將重構(gòu)的訓(xùn)練樣本空間作為RBF神經(jīng)網(wǎng)絡(luò)的輸入，進行備件預(yù)測，通過實例仿真證明取得較好的預(yù)測效果。

1主成分分析—神經(jīng)網(wǎng)絡(luò)模型原理

本文之所以采用主成分分析—RBF神經(jīng)網(wǎng)絡(luò)模型，是由主成分分析和RBF神經(jīng)網(wǎng)絡(luò)各自的特點所決定的。主成分分析處在原始因素變量集和RBF神經(jīng)網(wǎng)絡(luò)之間，它的作用是對將要輸入RBF神經(jīng)網(wǎng)絡(luò)的變量進行篩選，接下來把累計貢獻率大的變量集作為網(wǎng)絡(luò)的輸入，然后利用RBF神經(jīng)網(wǎng)絡(luò)對樣本進行訓(xùn)練、測試，從而得到精度更高、穩(wěn)定性更好的預(yù)測值。圖1給出了這個模型的流程圖，下文將詳細(xì)介紹此模型的原理。

1.1主成分分析

主成分分析（Principal Component Analysis，PCA）是一種數(shù)據(jù)壓縮和特征提取的多變量統(tǒng)計分析技術(shù)，對變量系統(tǒng)中的信息重新進行綜合篩選，從中選出若干對系統(tǒng)具有最佳解釋能力的新綜合變量即主成分，用它們進行回歸建模。主成分分析能夠有效去除數(shù)據(jù)間的相關(guān)性，在力保數(shù)據(jù)信息損失最少的原則下，對高維變量空間進行降維處理[3]。主成分分析的步驟如下：

記X是一個有n個樣本點和p個變量的數(shù)據(jù)表，即X==x,x,…,x，其中xj=xj,x,…,xj∈R對應(yīng)第j個變量。

（1）對數(shù)據(jù)進行標(biāo)準(zhǔn)化處理，即

=i=1,2,…,n; j=1,2,…,p

式中，是xj的樣本均值，sj是xj的樣本標(biāo)準(zhǔn)差。

（2）計算標(biāo)準(zhǔn)化數(shù)據(jù)矩陣X的協(xié)方差矩陣V。這時V又是X的相互關(guān)系矩陣。

（3）求V的前m個特征值1≥2≥…m，以及對應(yīng)的特征向量a1,a2,…,am，要求它們是標(biāo)準(zhǔn)正交的。

（4）求第h個主成分X，有X=Xa=ax，式中，a是組合系數(shù)a的第j個分量。

（5）求m個主成分的累計貢獻率Q=，當(dāng)Q≥85%時，主成分分析結(jié)束。

經(jīng)過主成分分析可以在保留主要信息的基礎(chǔ)上降低輸入維數(shù)，這將縮小下一步神經(jīng)網(wǎng)絡(luò)的規(guī)模，同時神經(jīng)網(wǎng)絡(luò)輸入元素相關(guān)性的消除可以增強網(wǎng)絡(luò)的泛化性能。

1.2RBF神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)已成為整個神經(jīng)網(wǎng)絡(luò)體系中應(yīng)用最廣泛的網(wǎng)絡(luò)結(jié)構(gòu)。相比較而言，RBF神經(jīng)網(wǎng)絡(luò)在訓(xùn)練速度、逼近能力等方面則更具優(yōu)勢。RBF神經(jīng)網(wǎng)絡(luò)具有收斂速度快、不易陷入局部極小點、魯棒性好和易于實現(xiàn)等優(yōu)點。已經(jīng)證明，RBF神經(jīng)網(wǎng)絡(luò)可以在任意精度下逼近任意的非線性函數(shù)[4]。因此本文選取RBF神經(jīng)網(wǎng)絡(luò)。

RBF（Radial Basis Function）神經(jīng)網(wǎng)絡(luò)即徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)，是1998年提出的一種典型的三層前饋網(wǎng)絡(luò)，由輸入層、隱層和輸出層組成。

經(jīng)過主成分分析后，RBF神經(jīng)網(wǎng)絡(luò)的輸入為m維向量X′=X,X,…,X，即影響備件需求預(yù)測的m個主成分。隱層為l維向量R=R,R,…,R，隱層節(jié)點個數(shù)的確定至今沒有理論上完善的計算公式，本文在經(jīng)驗公式的基礎(chǔ)上遍歷嘗試，直到達到誤差滿意為止。網(wǎng)絡(luò)的輸出為一維向量Y，對應(yīng)著神經(jīng)網(wǎng)絡(luò)的最終預(yù)測值。隱層作用函數(shù)采用徑向基函數(shù)，實現(xiàn)對輸入層信息的非線性變換，本文采用高斯核函數(shù)（Gaussian Kernel Function）如下：

RX′=exp-

其中ci為第i個徑向基函數(shù)的中心（ci∈Rm, i=1,2…,l）；是徑向基函數(shù)的均方差或?qū)挾?，用來調(diào)節(jié)網(wǎng)絡(luò)的靈敏度；X′-c是向量X′-c的范數(shù)，表示X′與c的歐幾里德距離；RX′在cj處有一個唯一的最大值，隨著X′-c的增大，RX′迅速衰減到零。RBF神經(jīng)網(wǎng)絡(luò)的輸出形式為線性函數(shù)：fX′=WRX′，其中W表示第i個隱層單元到輸出單元Y的權(quán)值。

RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程就是對兩組網(wǎng)絡(luò)參數(shù)的學(xué)習(xí)：（1）徑向基函數(shù)中心ci、隱層結(jié)點數(shù)m、均方差。（2）隱層到輸出層的連接權(quán)值W。其中徑向基函數(shù)中心c的計算采用最近鄰聚類學(xué)習(xí)算法，不需要事先確定隱單元的個數(shù)，而且依據(jù)樣本的輸入信息進行聚類迭代，以確定RBF神經(jīng)網(wǎng)絡(luò)中心[5]。利用最小二乘法進行參數(shù)估計，得到隱含層到輸出層的權(quán)值W。

2實例研究

2.1數(shù)據(jù)收集和因素集選取

本文以我國某航空制造企業(yè)有壽命要求的可維修初始備件的預(yù)測為實例，根據(jù)國內(nèi)外備件預(yù)測的實際工程經(jīng)驗和考慮到統(tǒng)計數(shù)據(jù)的可獲得性，選取共8項因素作為模型的指標(biāo)變量，它們分別是：產(chǎn)品單機安裝數(shù)X1（件）、飛機架數(shù)X2（架）、單機在計算時間間隔內(nèi)的平均飛行時間X3（小時）、產(chǎn)品送修平均周轉(zhuǎn)時間X4（天）、產(chǎn)品平均更換間隔時間X5（天）、產(chǎn)品平均拆毀率X6（%）、產(chǎn)品平均訂貨周期X7（天）、保障率X8（%），以該備件需求數(shù)量Y（件）為神經(jīng)網(wǎng)絡(luò)的輸出。收集該企業(yè)1992年至2007年備件需求歷史數(shù)據(jù)，共4類30組歷史數(shù)據(jù)樣本。本文將前28組數(shù)據(jù)作為主成分分析—RBF神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練樣本，將最后2組數(shù)據(jù)作為測試樣本，利用計算機進行數(shù)據(jù)仿真實驗。

2.2基于SPSS的主成分分析

SPSS軟件作為世界知名的統(tǒng)計軟件，具有強大的數(shù)據(jù)處理、統(tǒng)計挖掘和分析制圖的能力，其中的因子分析模塊功能，可以進行主成分分析，整個樣本數(shù)據(jù)的標(biāo)準(zhǔn)化處理、相互關(guān)系矩陣計算、特征值計算和主成分提取均通過該模塊實現(xiàn)。本文將收集的28組訓(xùn)練樣本（不含備件需求數(shù)量Y）數(shù)據(jù)輸入SPSS軟件，進行主成分分析，分析結(jié)果如下：

表1所示的是總方差解釋表，左半部分給出了特征值、特征值占總方差的比例、特征值占總方差累積貢獻率，可以看到當(dāng)主成分（Component）提取到第4個時，主成分對信息累積貢獻率達到86.322%≥85%，涵蓋了原始指標(biāo)變量85%以上的信息，符合主成分提取的要求。由表1可知前四個主成分的特征值分別是：1=2.920，2=2.004，3=1.279，4=0.703，表1右半部分僅給出了我們所要提取的主成分信息。經(jīng)過最大迭代次數(shù)25次之后生成的主成分碎石圖（Scree Plot）如圖2所示。

提取得到主成分后，我們關(guān)心的是原始變量與主成分之間的關(guān)系，由于我們采用的最小二乘回歸算法，表2主成分得分系數(shù)矩陣（Component Score Coefficient Matrix）給出了原始變量與主成分之間的線性關(guān)系，根據(jù)該矩陣以及原始變量的觀測值可以計算主成分的得分，例如：X′1=-0.298X1+0.014X2+0.074X3+0.291X4+0.096X5+0.284X6+0.215X7+0.163X8。

2.3 基于Matlab的RBF神經(jīng)網(wǎng)絡(luò)仿真分析

經(jīng)過主成分分析后，接下來利用Matlab軟件進行神經(jīng)網(wǎng)絡(luò)仿真。首先需要確定神經(jīng)網(wǎng)絡(luò)的輸入和目標(biāo)樣本，將訓(xùn)練樣本經(jīng)過主成分分析后得到的數(shù)據(jù)X′作為輸入樣本，將原始訓(xùn)練樣本的備件需求數(shù)量Y作為目標(biāo)樣本，由此可以確定該網(wǎng)絡(luò)的結(jié)構(gòu)：輸入層有4個神經(jīng)元，輸出層有1個神經(jīng)元。首先要對輸入和目標(biāo)樣本進行歸一化處理，這樣可以避免某些變量的大幅度波動給網(wǎng)絡(luò)訓(xùn)練帶來的影響，防治部分神經(jīng)元達到過飽和狀態(tài)[6]。利用newrb命令創(chuàng)建一個RBF網(wǎng)絡(luò)，該命令在創(chuàng)建RBF網(wǎng)絡(luò)時可以自動選擇隱含層的神經(jīng)元數(shù)目，省去人工嘗試隱層神經(jīng)元的麻煩[7]，直到平方和誤差SSE滿足要求為止，此處設(shè)MSE=0.001，并簡稱該網(wǎng)絡(luò)為PCA—RBF網(wǎng)絡(luò)。

與其他神經(jīng)網(wǎng)絡(luò)不同，RBF神經(jīng)網(wǎng)絡(luò)中的徑向基函數(shù)分布密度Spread是網(wǎng)絡(luò)設(shè)計過程中非常重要的參數(shù)，它將嚴(yán)重影響RBF網(wǎng)絡(luò)的性能和精度[8]。本文將分別創(chuàng)建Spread為0.1，0.2，0.3，0.4，0.5的5個RBF網(wǎng)絡(luò)，通過與真實值的誤差分析對比來選擇一個最優(yōu)值，如圖3所示。

由圖3可以看到，當(dāng)徑向基函數(shù)的分布密度為0.1時，RBF網(wǎng)絡(luò)的誤差最小，逼近效果最好；當(dāng)徑向基函數(shù)的分布密度為0.5時，網(wǎng)絡(luò)的誤差最大，逼近效果最差。下面用Spread=0.1來訓(xùn)練RBF網(wǎng)絡(luò)，網(wǎng)絡(luò)訓(xùn)練效果如圖4所示，訓(xùn)練到第25步，網(wǎng)絡(luò)的均方誤差MSE達到要求。將訓(xùn)練樣本和PCA—RBF網(wǎng)絡(luò)訓(xùn)練值同時繪入圖4，可見PCA—RBF網(wǎng)絡(luò)非常完美的擬合了原訓(xùn)練樣本。

下面證明基于主成分分析的RBF神經(jīng)網(wǎng)絡(luò)在訓(xùn)練性能和時間上的優(yōu)越性：首先我們將未經(jīng)過主成分分析的訓(xùn)練樣本數(shù)據(jù)輸入RBF神經(jīng)網(wǎng)絡(luò)，在保持Spread=0.1和MSE=0.001不變的前提下，創(chuàng)建一個輸入層有8個，輸出層有1個神經(jīng)元的RBF神經(jīng)網(wǎng)絡(luò)，利用Matlab訓(xùn)練該網(wǎng)絡(luò)，訓(xùn)練效果如圖5所示。由此可見，當(dāng)未經(jīng)過主成分分析的RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練到第25時，網(wǎng)絡(luò)誤差約為0.01，沒有達到SSE的要求。

除了誤差訓(xùn)練效果以外，我們還關(guān)心兩個網(wǎng)絡(luò)在計算精度上存在的差異。接下來將測試樣本歸一化處理后，輸入到兩個已經(jīng)訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)中，通過網(wǎng)絡(luò)計算分別得到輸出值，將該值與測試樣本中的真實值比較，如表3所示PCA—RBF神經(jīng)網(wǎng)絡(luò)在計算精度上也優(yōu)于RBF網(wǎng)絡(luò)。

3結(jié)論

本文研究基于主成分分析—RBF神經(jīng)網(wǎng)絡(luò)模型的備件預(yù)測，通過實例證明具有很好的預(yù)測效果。對比于傳統(tǒng)的RBF神經(jīng)網(wǎng)絡(luò)，該模型優(yōu)化了網(wǎng)絡(luò)結(jié)構(gòu)，減少了輸入維數(shù)，降低了訓(xùn)練樣本的相關(guān)性，具有更高的精度和更好的性能。由于利用主成分分析—RBF神經(jīng)網(wǎng)絡(luò)模型進行備件預(yù)測不需要建立復(fù)雜的數(shù)學(xué)方程，具有自適應(yīng)和學(xué)習(xí)的功能，可以作為今后航空備件預(yù)測的有效方法。

但是，如何找到最佳的徑向基函數(shù)密度以及借鑒其他類型神經(jīng)網(wǎng)絡(luò)算法優(yōu)化提高模型的預(yù)測精度都是今后研究的重點。隨著研究的深入，基于主成分分析—RBF神經(jīng)網(wǎng)絡(luò)模型的備件預(yù)測方法將會獲得更加廣泛的應(yīng)用。

參考文獻：

[1]原石中. 民用飛機備件需求量預(yù)測方法研究[J]. 航空工程與維修, 2002,2:47-49.

[2]William C. A handbook of supply inventorymodels[R]. AD-A187269, 1987.

[3]王惠文, 吳載斌,等. 偏最小二乘回歸的線性與非線性算法[M]. 北京: 國防工業(yè)出版社, 2006.

[4]周開利. 神經(jīng)網(wǎng)絡(luò)模型及其Matlab仿真程序設(shè)計[M]. 北京: 清華大學(xué)出版社, 2005.

[5]朱明星. RBF網(wǎng)絡(luò)基函數(shù)中心選取算法的研究[J]. 安徽大學(xué)學(xué)報: 自然科學(xué)版, 2000,24(1):73-78.

[6]Wang Yaonan. A Neural Fuzzy Logic Self-Organizing Co- ntroller For Nonlinear System Control[J]. Control Theory And Applications, 1997;14(5):748-753.

[7]Demuth H, Beale M. Neural Network Toolbox User's Gui- de—Neural Network Toolbox For Use with Matlab[M]. The Math Works, Inc., 2002.

[8]Hagan T, Demuth H, Beale M. Neural Network Design[M]. Boston, MA: PWS Publishing, 1996.