基于SVM的雙層圓柱殼體機(jī)械振動噪聲數(shù)據(jù)特征提取方法比較

張志華，梁勝杰，尹曰建，鐘強(qiáng)暉

（1海軍工程大學(xué) a.科研部；b.裝備經(jīng)濟(jì)管理系，武漢 430033；2海軍91697部隊(duì)，山東 青島266405）

0 引 言

某雙層圓柱殼體的機(jī)械振動噪聲數(shù)據(jù)結(jié)構(gòu)復(fù)雜，很難直接對由傳感設(shè)備測到的噪聲信號進(jìn)行分析，需要在分析前進(jìn)行簡化處理。事實(shí)上，在噪聲特征信息較少的情況下，人們通常使用大量的特征量對原始噪聲數(shù)據(jù)進(jìn)行表征，以求盡可能全面、客觀地反映噪聲數(shù)據(jù)的特點(diǎn)[1]。這些特征量導(dǎo)致了噪聲數(shù)據(jù)的高維特征。

高維噪聲數(shù)據(jù)中，各維數(shù)之間往往存在一定的相關(guān)關(guān)系[2]，即數(shù)據(jù)中包含了大量的冗余信息。為了消除這些冗余信息，保留噪聲數(shù)據(jù)的主要特征，我們使用特征提取的方法，將高維噪聲數(shù)據(jù)映射到低維空間中，以降低噪聲數(shù)據(jù)分析處理的難度。

特征提取是近年來研究數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、模式識別等領(lǐng)域的熱點(diǎn)技術(shù)。通過特征提取可實(shí)現(xiàn)數(shù)據(jù)降維和強(qiáng)化判別信息的目的[3]。如李岳等[4]將PCA用于鐵譜磨粒識別，白衛(wèi)東等[5]將PCA（Principal Component Analysis）與 SVM（Support Vector Machine）結(jié)合用于火焰檢測，Wu 等[6]將 KPCA（Kernel Based Principal Component Analysis）用于步態(tài)模式分類，張曦等[7]、李宏坤等[8]、孫大瑞等[9]、高海華等[10]分別將KPCA與SVM結(jié)合用于汽輪機(jī)凝汽器過程監(jiān)控和故障診斷、柴油機(jī)狀態(tài)識別、人臉識別、網(wǎng)絡(luò)入侵檢測等，宦若紅等[11]、焦衛(wèi)東等[12]分別將ICA（Independent Component Analysis）與SVM結(jié)合用于圖像特征提取與識別、機(jī)械狀態(tài)的模式分類等，杜鵬等[13]將ICA用于高光譜數(shù)據(jù)的特征提取，等等。

本文選擇上述工程上常用的PCA、KPCA和ICA方法，分別對雙層圓柱殼體的高維機(jī)械振動噪聲數(shù)據(jù)實(shí)施特征提取處理。Cao等[14]將PCA、KPCA和ICA方法應(yīng)用于太陽黑子數(shù)據(jù)、激光時間序列數(shù)據(jù)和實(shí)際金融期貨契約數(shù)據(jù)的特征提取，并借助于SVM的回歸估計功能，以標(biāo)準(zhǔn)均方誤差（NMSE）為標(biāo)準(zhǔn)，比較了三種方法的優(yōu)劣。為研究三種方法的應(yīng)用效果，本文只需對不同工況下的機(jī)械振動噪聲數(shù)據(jù)進(jìn)行分類即可，不需要回歸估計。因此，將利用SVM的分類識別能力，以正確識別率為標(biāo)準(zhǔn)比較方法的優(yōu)劣，為某雙層圓柱殼體機(jī)械振動噪聲數(shù)據(jù)選擇合適的特征提取方法。

1 特征提取方法介紹

1.1 PCA方法

主成分分析法（PCA）是在各個變量之間相關(guān)關(guān)系研究的基礎(chǔ)上，用一組較少的、互不相關(guān)的新變量（即主元）代替原來較多的變量，同時使這些新變量盡可能多地保留原來復(fù)雜變量所反映信息的一種基于二階統(tǒng)計的數(shù)據(jù)分析方法。因其概念簡單、計算方便、最優(yōu)線性重構(gòu)誤差等優(yōu)良的特性，成為數(shù)據(jù)處理中應(yīng)用最廣泛的線性降維方法之一。具體計算步驟見文獻(xiàn)[15]。

1.2 KPCA方法

核主成分分析法（KPCA）是一種非線性主元分析方法，它作為PCA方法在處理非線性問題時的擴(kuò)展，近年來得到了快速發(fā)展。KPCA方法首先通過某種事先選擇的非線性映射Φ將輸入矢量X映射到一個高維線性特征空間F，然后在F中使用PCA方法計算主成分。在高維空間中得到的線性主元實(shí)質(zhì)上就是原始輸入空間的非線性主元。

設(shè)xi（i=1,2,…,n）為高維機(jī)械振動噪聲數(shù)據(jù)的樣本點(diǎn)，n是樣本點(diǎn)的個數(shù)。定義核函數(shù)k（xi, xj），以表示在特征空間中兩樣本點(diǎn)的內(nèi)積。常用核函數(shù)有：高斯徑向核，多項(xiàng)式核，Sigmoid核等。KPCA方法具體計算步驟見文獻(xiàn)[16]。

1.3 ICA方法

獨(dú)立成分分析法（ICA）是為解決盲源分離問題而提出的最主要、最有效的方法。它依據(jù)源信號的統(tǒng)計獨(dú)立性，利用數(shù)據(jù)的高階統(tǒng)計分析技術(shù)，逐步從觀測到的混合信號分離出源信號。目前已在信號處理領(lǐng)域得到了廣泛的應(yīng)用。

令x表示觀測到的線性混合高維噪聲信號，s表示待分離的低維源信號，則ICA的目標(biāo)是由式s=Ux估計得到s。其中，s是非高斯性且統(tǒng)計獨(dú)立的，U為解混矩陣。利用s的非高斯性估計U的最常用方法是Hyvarinen等人[17]的快速不動點(diǎn)算法（FastICA）。該方法是利用負(fù)熵最大化標(biāo)準(zhǔn)來度量s的非高斯性，并用約束函數(shù)進(jìn)行近似，即：

其中：G為非二次函數(shù)，ui對應(yīng)著矩陣U中的一行，v是標(biāo)準(zhǔn)高斯變量。

經(jīng)ICA特征提取分離出的低維信號在幅度與排序上是不確定的[19]，即對同一個高維噪聲數(shù)據(jù)經(jīng)多次ICA特征提取后的低維映射都可能不同，但這種不同僅限于行向量的次序位置變化和倍數(shù)的變化。

2 某雙層圓柱殼體機(jī)械振動噪聲數(shù)據(jù)

2.1 機(jī)械振動試驗(yàn)

某雙層圓柱殼體的機(jī)械振動噪聲數(shù)據(jù)主要來自三個設(shè)備：海水泵，電機(jī)和激振器，如圖1所示。在殼體的不同位置布置19個加速度傳感器（每個傳感器稱為一通道），設(shè)定八個不同工況，如表1所示。

設(shè)定采樣時間8s，采樣頻率2 048 Hz，則每一工況在每一通道上都可測得16 384個樣本數(shù)據(jù)。

圖1 主要振動源Fig.1 Main facilities of vibration

表1 工況設(shè)置Tab.1 Setting of working-mode

2.2 數(shù)據(jù)預(yù)處理

由于同一個通道下的采樣點(diǎn)較多，且特征單一，不易分析數(shù)據(jù)的規(guī)律特點(diǎn)，因此需要對樣本點(diǎn)進(jìn)行預(yù)處理：

（1）選定信號處理中常用的10個特征量：波形因數(shù)、峰值因數(shù)、脈沖因數(shù)、振動加速度總級、期望、方差、標(biāo)準(zhǔn)差、三階累量、四階累量和有效值。具體計算方法見文獻(xiàn)[20]；

（2）以2 048個相鄰樣本點(diǎn)為一個樣本段，并以70個樣本點(diǎn)為步長，將樣本段逐步向后平移，可在16 384個樣本點(diǎn)內(nèi)得到約205個樣本段；

（3）取前200個樣本段，在每個樣本段內(nèi)計算選定的十個特征量。

本文主要是為了比較PCA、KPCA與ICA特征提取方法的好壞，故只選取10個常用的特征量作為舉例，實(shí)際上可以選擇更多的特征量以更全面地表征機(jī)械振動噪聲數(shù)據(jù)。

預(yù)處理后，在每一工況下的每一通道上可得到一個10*200的噪聲數(shù)據(jù)。其中，10是維數(shù)，200是樣本量。則在八種工況下，每一條通道上可得到八個10*200數(shù)據(jù)。

3 特征提取主元選擇

高維數(shù)據(jù)通常具有較低的本征維數(shù)，特征提取的目標(biāo)就是尋找準(zhǔn)確的本征維數(shù)（即特征提取方法的主元個數(shù)）。本征維的估計原則:當(dāng)高維原始數(shù)據(jù)映射到維數(shù)大于或等于其本征維數(shù)的空間時，降維結(jié)果能夠保留足夠的信息來正確反映原始數(shù)據(jù)內(nèi)部結(jié)構(gòu)；相反，當(dāng)數(shù)據(jù)被映射到小于其本征維數(shù)的空間時，降維結(jié)果的數(shù)據(jù)拓?fù)浣Y(jié)構(gòu)將發(fā)生畸變，導(dǎo)致某些重要特征信息的丟失。

本文對雙層圓柱殼體高維機(jī)械振動噪聲數(shù)據(jù)使用PCA進(jìn)行特征提取時，其主元數(shù)目的選擇采用工程上常用的累計貢獻(xiàn)率標(biāo)準(zhǔn)[15]，并取門限值為0.85。按照上節(jié)中的試驗(yàn)設(shè)計，可計算八種工況下，每一通道上噪聲數(shù)據(jù)的PCA主元，結(jié)果如表2所示。

由表2可知，八種工況在十九條通道上的噪聲數(shù)據(jù)經(jīng)PCA降維后的主元為3個的情況占67.1%，2個的情況占30.9%，兩種情況共計占98%。因此，為保證經(jīng)特征提取后的低維數(shù)據(jù)能夠保留原始噪聲數(shù)據(jù)足夠多的信息，使用PCA降維時統(tǒng)一取3個主元。為保證PCA、KPCA與ICA方法比較的一致性，KPCA和ICA方法同樣也取3個主元。

4 特征提取效果分析

表2 PCA方法特征提取后的主元個數(shù)Tab.2 PCs of PCA method

4.1 分類方法

支持向量機(jī)（SVM）是目前模式識別領(lǐng)域最常用的方法之一，已被廣泛應(yīng)用于分類識別、故障診斷、入侵檢測等領(lǐng)域[5，7-13]。本文將利用支持向量機(jī)的分類技術(shù)對不同工況下的噪聲數(shù)據(jù)進(jìn)行分類識別。通過對不同工況下噪聲數(shù)據(jù)的正確識別率，比較PCA、KPCA和ICA方法特征提取效果的好壞。

訓(xùn)練輸入：X′=［X1′,X2′,…,X8′ ］

測試輸入：X″=［X1″,X2″,…,X8″ ］

某雙層圓柱殼體高維機(jī)械振動噪聲數(shù)據(jù)經(jīng)過特征提取后，保留原始數(shù)據(jù)信息越多，則來自不同工況下的組合數(shù)據(jù)經(jīng)過SVM分類后的正確識別率就會越高；反之，正確識別率就會越低。在每一通道下，使用SVM計算分別經(jīng)PCA、KPCA與ICA方法特征提取后的正確識別率，并比較特征提取方法的好壞。特征提取后，Xi′和Xi″分別為3*k的數(shù)據(jù)和3*l的數(shù)據(jù)。

KPCA方法是基于核函數(shù)的學(xué)習(xí)方法。核函數(shù)反映了樣本在高維特征空間中彼此的相似程度。一個好的核函數(shù)，會使同類的樣本相互靠近，使異類的樣本相互遠(yuǎn)離。正確選擇核函數(shù)和核參數(shù)將會提高KPCA方法的整體性能。為了使特征提取后的噪聲數(shù)據(jù)保留更多的原始信息，根據(jù)實(shí)際計算結(jié)果本文選擇高斯徑向核函數(shù)并限定核參數(shù)a的取值范圍：0.1～1。以步長為0.1，在核參數(shù)的取值范圍內(nèi)計算經(jīng)KPCA方法特征提取后的SVM正確識別率，選擇其中最大的識別率用于KPCA與PCA、ICA方法的比較。

使用ICA方法時，對同一個高維數(shù)據(jù)每次提取出來的源信號都相同但次序可能不同，則每次由SVM計算的正確識別率也隨著發(fā)生變化，但是結(jié)果僅限于幾個可能的值。因此，對同一個高維噪聲數(shù)據(jù)可實(shí)施多次ICA特征提取，以正確識別率的平均值代替最后值，用于ICA與PCA、KPCA方法的比較。本文選擇提取10次，且取G（y）=logcosh（y）（經(jīng)驗(yàn)證選擇其它二次函數(shù)時的計算結(jié)果變化不大）。

文中使用的支持向量機(jī)工具箱為stprtool，訓(xùn)練樣本個數(shù)和測試樣本個數(shù)取k=l=5，運(yùn)行平臺均為Matlab 7.1。

4.2 結(jié)果分析

對由八個不同工況下的機(jī)械振動噪聲數(shù)據(jù)組成的混合數(shù)據(jù)，在十九條通道上使用SVM計算特征提取后的正確識別率，結(jié)果如表3所示。

由表3中計算結(jié)果可知，KPCA和ICA方法對某雙層圓柱殼體機(jī)械振動噪聲數(shù)據(jù)的特征提取效果比PCA方法好，其中KPCA方法的效果最好。這與文獻(xiàn)[14]的結(jié)論基本一致，主要原因在于KPCA與ICA方法利用了雙層圓柱殼體機(jī)械振動噪聲原始數(shù)據(jù)的高階統(tǒng)計信息，如KPCA方法中的核函數(shù)和ICA方法中的負(fù)熵，而PCA方法則僅僅考慮了原始數(shù)據(jù)的二階統(tǒng)計信息，如樣本協(xié)方差矩陣。

與文獻(xiàn)[14]不同的是文中ICA方法相比PCA方法的優(yōu)勢不太顯著。由于KPCA方法借助于核函數(shù)實(shí)現(xiàn)了噪聲數(shù)據(jù)非線性特征的提取，而PCA與ICA方法主要是對噪聲數(shù)據(jù)的線性特征進(jìn)行提取，因此這一結(jié)論表明：某雙層圓柱殼體的機(jī)械振動噪聲數(shù)據(jù)對線性與非線性特征比太陽黑子數(shù)據(jù)、激光時間序列數(shù)據(jù)、金融期貨契約數(shù)據(jù)更敏感，且具有更多的非線性結(jié)構(gòu)特點(diǎn)，在分析處理時應(yīng)選擇非線性特征提取方法。

表3 機(jī)械振動噪聲數(shù)據(jù)特征提取前后的正確識別率Tab.3 Recognition percentage of noise data after feature extraction

5 結(jié) 論

本文借助SVM的分類識別功能，以不同工況振動噪聲數(shù)據(jù)的正確識別率為標(biāo)準(zhǔn)，比較了三種常用特征提取方法的效果，并為某雙層圓柱殼體機(jī)械振動噪聲數(shù)據(jù)確定了合適的特征提取方法。

事實(shí)上，可將表征原始噪聲特點(diǎn)的特征量擴(kuò)展到幾百甚至上千個。此時，噪聲數(shù)據(jù)屬于典型的高維數(shù)據(jù)。為避免"維數(shù)災(zāi)難"的發(fā)生，在分析處理前進(jìn)行特征提取就顯得十分必要。因此本文的研究思路及結(jié)果為某雙層圓柱殼體高維機(jī)械振動噪聲數(shù)據(jù)的特性分析及處理提供了重要的參考價值。

[1]章林柯,何 琳,朱石堅.潛艇主要噪聲源識別方法研究[J].噪聲與振動控制,2006,4:7-10.Zhang L K,He L,Zhu S J.Review on the methods of identification of submarine main noise sources[J].Noise and Vibration Control,2006,4:7-10.

[2]梁勝杰,張志華,崔立林.基于PCA方法的機(jī)械噪聲數(shù)據(jù)處理[J].噪聲與振動控制,2010,30(3):118-122.Liang S J,Zhang Z H,Cui L L.Processing of mechanical noise date using PCA[J].Noise and Vibration Control,2010,30(3):118-122.

[3]Torkkola K.Feature extraction by non-parametric mutual information maximization[J].Journal of Machine Learning Research,2003(3):1415-1438.

[4]李 岳,呂克洪.主成分分析在鐵譜磨粒識別中的應(yīng)用研究[J].國防科技大學(xué)學(xué)報,2004,26(1):89-94.Li Y,Lv K H.The application of the principal components analysis to debris recognition[J].Journal of National University of Defense Technology,2004,26(1):89-94.

[5]白衛(wèi)東,嚴(yán)建華,池 涌,等.PCA和SVM在火焰監(jiān)測中的應(yīng)用研究[J].中國電機(jī)工程學(xué)報,2004,24(2):185-190.Bai W D,Yan J H,Chi Y,et al.A research on application of PCA and SVM to flame monitoring[J].Proceedings of the CSEE,2004,24(2):185-190.

[6]Wu J N,Wang J,Liu L.Feature extraction via KPCA for classification of gait patterns[J].Human Movement Science,2007(26):393-411.

[7]張 曦,閻威武,劉振亞,等.基于核主元分析和鄰近支持向量機(jī)的汽輪機(jī)凝汽器過程監(jiān)控和故障診斷[J].中國電機(jī)工程學(xué)報,2007,27(14):56-61.Zhang X,Yan W W,Liu Z Y,et al.Process monitoring an fault diagnosis of condenser using KPCA and PSVM[J].Proceedings of the CSEE,2007,27(14):56-61.

[8]李宏坤,馬孝江.基于KPCA-SVM的柴油機(jī)狀態(tài)識別方法的研究[J].振動、測試與診斷,2009,29(1):42-45.Li H K,Ma X J.Pattern recognition of diesel engine by using kernel principle component analysis and support vector machine[J].Journal of Vibration,Measurement&Diagnosis,2009,29(1):42-45.

[9]孫大瑞,吳樂南.基于非線性特征提取和SVM的人臉識別算法[J].電子與信息學(xué)報,2004,26(2):307-311.Sun D R,Wu L N.Face recognition based nonlinear feature extraction and SVM[J].Journal of Electronics and Information Technology,2004,26(2):307-311.

[10]高海華,楊輝華,王行愚.基于PCA和KPCA特征抽取的SVM網(wǎng)絡(luò)入侵檢測方法[J].華東理工大學(xué)學(xué)報（自然科學(xué)版）,2006,32(3):321-326.Gao H H,Yang H H,Wang H Y.PCA/KPCA feature extraction approach to SVM for anomaly detection[J].Journal of East China University of Science and Technology,2006,32(3):321-326.

[11]宦若虹,楊汝良.基于ICA和SVM的SAR圖像特征提取與目標(biāo)識別[J].計算機(jī)工程,2008,34(13):24-28.Huan R H,Yang R L.SAR images feature extraction and target recognition based on ICA and SVM[J].Computer Engineering,2008,34(13):24-28.

[12]焦衛(wèi)東,楊世錫,吳昭同.復(fù)合ICA-SVM機(jī)械狀態(tài)模式分類[J].中國機(jī)械工程,2004,15(1):62-65.Jiao W D,Yang S X,Wu Z T.Combination of ICA and SVM for mechanical pattern classification[J].China Mechanical Engineering,2004,15(1):62-65.

[13]杜 鵬,趙慧潔.基于抗噪聲ICA的高光譜數(shù)據(jù)特征提取方法[J].北京航空航天大學(xué)學(xué)報,2005,31(10):1101-1105.Du P,Zhao H J.Noise robust ICA feature extraction algorithm for hyper spectral image[J].Journal of Beijing University of Aeronautics and Astronautics,2005,31(10):1101-1105.

[14]Cao L J,Chua K S,Chong W K,Lee H P,Gu Q M.A comparison of PCA,KPCA and ICA for dimensionality reduction in support vector machine[J].Neurocomputing,2003(55):321-336.

[15]Jolliffe I T.Principal component analysis(Second Edition)[M].New York:Springer,2002.

[16]Rosipal R,Girolami M,Trejo L J,Cichocki A.Kernel PCA for feature extraction and de-noising in non-linear regression[J].Neural Computing and Applications,2001,10(3):231-243.

[17]Hyvarinen A.Fast and robust fixed-point algorithms for independent component analysis[J].IEEE Transactions on Neural Networks,1999,10(3):626-634.

[18]Hyvarinen A,Karhunen J,Oja E.Independent component analysis[M].John Wiley&Sons,2001.

[19]Lu W,Rajapakse Jagath C.Constrained independent component analysis[C].In Advances in Neural Information Processing Systems 13(NIPS2000).MIT Press,2000:570-576.

[20]黃文虎,夏松波,劉瑞巖,等.設(shè)備故障診斷原理、技術(shù)及應(yīng)用[M].北京:科學(xué)出版社,1996.Huang W H,Xia S B,Liu R Y,et al.The principle,technology and application of equipment fault diagnosis[M].Beijing:Science Press,1996.