改進(jìn)的主成分分析法在多響應(yīng)優(yōu)化中的應(yīng)用*

張迎冬，何 楨

(天津大學(xué)管理與經(jīng)濟(jì)學(xué)部，天津 300072)

改進(jìn)的主成分分析法在多響應(yīng)優(yōu)化中的應(yīng)用*

張迎冬，何 楨

(天津大學(xué)管理與經(jīng)濟(jì)學(xué)部，天津 300072)

提出了一種改進(jìn)的主成分分析法，在解決多響應(yīng)優(yōu)化問題時(shí)考慮到模型的預(yù)測(cè)能力。主成分分析法是一種常用的多響應(yīng)優(yōu)化方法，為了在應(yīng)用主成分分析法的過程中考慮到模型的預(yù)測(cè)能力，文章將回歸方程擬合度R2系數(shù)結(jié)合到主成分分析中。與主成分分析法相比，該方法不僅能利用主成分得分將多個(gè)響應(yīng)轉(zhuǎn)化為單一響應(yīng)，還能考慮到不同響應(yīng)的預(yù)測(cè)能力。實(shí)例表明，用該方法得到的結(jié)果可體現(xiàn)出模型預(yù)測(cè)能力的影響，并且預(yù)測(cè)能力強(qiáng)的響應(yīng)得到較大的改進(jìn)。

質(zhì)量工程;多響應(yīng)優(yōu)化;主成分分析法;預(yù)測(cè)能力

0 引言

試驗(yàn)設(shè)計(jì)旨在通過調(diào)整系統(tǒng)中的輸入變量以分析輸入變量與輸出響應(yīng)之間的關(guān)系，并使輸出響應(yīng)達(dá)到最優(yōu)值。系統(tǒng)中只有一個(gè)輸出響應(yīng)的問題稱為單響應(yīng)優(yōu)化問題，此類問題較易解決，通過回歸方法以及一般的優(yōu)化方法就能實(shí)現(xiàn)。然而，在現(xiàn)實(shí)的工業(yè)生產(chǎn)中會(huì)遇到有多個(gè)輸出響應(yīng)的試驗(yàn)設(shè)計(jì)問題，該類問題較難解決，這就是所謂的多響應(yīng)優(yōu)化問題。多響應(yīng)優(yōu)化是質(zhì)量工程領(lǐng)域面臨的主要問題之一。

多響應(yīng)優(yōu)化問題的目的是找到一組合理的輸入變量，同時(shí)優(yōu)化多個(gè)響應(yīng)。但在實(shí)際問題中，多個(gè)響應(yīng)變量可能會(huì)相互影響，導(dǎo)致多個(gè)響應(yīng)變量不能同時(shí)達(dá)到最優(yōu)，因此解決多響應(yīng)優(yōu)化問題就轉(zhuǎn)變?yōu)槿绾握业揭唤M輸入變量，使所有響應(yīng)變量盡可能的接近其最優(yōu)值，以達(dá)到多個(gè)響應(yīng)整體的最優(yōu)而不是單個(gè)響應(yīng)的最優(yōu)?，F(xiàn)階段解決多響應(yīng)優(yōu)化問題的主要思路是通過降維技術(shù)將多響應(yīng)問題轉(zhuǎn)化為單響應(yīng)問題。目前多響應(yīng)優(yōu)化方法主要有滿意度函數(shù)法、廣義距離法、損失函數(shù)法、概率法和主成分分析法等。

主成分分析法是解決多響應(yīng)優(yōu)化問題的常用方法之一，但其在應(yīng)用過程中沒有考慮到各響應(yīng)回歸方程的預(yù)測(cè)能力，本文將對(duì)加權(quán)主成分分析法進(jìn)行改進(jìn)，提出一種考慮預(yù)測(cè)能力的加權(quán)主成分分析法，并用該方法對(duì)文獻(xiàn)中的實(shí)際問題進(jìn)行分析。

1 主成分分析法

1.1 加權(quán)主成分分析法

主成分分析法可將p個(gè)相關(guān)的原始變量轉(zhuǎn)化為k(k≤p)個(gè)無關(guān)的主成分，實(shí)現(xiàn)降維的目的。Su和Tong［1］、Antony［2］、鐘曉芳［3］等提出了基于主成分分析的多響應(yīng)優(yōu)化方法，利用主成分分析法將p個(gè)輸出響應(yīng)(需對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理以消除量綱的影響)轉(zhuǎn)化為k(k≤p)個(gè)無關(guān)的主成分，并選取特征值大于1的主成分作為最終的優(yōu)化指標(biāo)。

Liao［4］指出該方法仍有兩個(gè)主要的缺陷:第一，若特征值大于1的主成分大于一個(gè)，該問題仍然是一個(gè)多響應(yīng)問題;第二，挑選出的主成分不能解釋原變量的全部方差，造成信息的丟失。Liao［4］選取每個(gè)主成分的方差貢獻(xiàn)率作為該主成分的權(quán)重，提出了一種基于加權(quán)主成分分析的多響應(yīng)優(yōu)化方法，該方法以主成分的綜合得分，即加權(quán)主成分之和作為多響應(yīng)績(jī)效指標(biāo)，綜合考慮所有主成分，解決了上述的兩個(gè)問題。

用Yj表示第j個(gè)響應(yīng)的標(biāo)準(zhǔn)化信噪比(望大特性)，對(duì)Yj進(jìn)行主成分分析，可將p(假設(shè)多響應(yīng)問題中有p個(gè)輸出響應(yīng))個(gè)響應(yīng)轉(zhuǎn)化為k(k≤p)個(gè)無關(guān)的主成分，即:

主成分的方差貢獻(xiàn)率為該主成分所解釋的方差占總方差的比例，反映各主成分的信息含量多少，其值為:

其中，Wq為第q個(gè)主成分的方差貢獻(xiàn)率，λq為Y的協(xié)方差矩陣的第q個(gè)特征值。

Liao［4］選取每個(gè)主成分的方差貢獻(xiàn)率作為該主成分的權(quán)重，計(jì)算k個(gè)主成分的加權(quán)和，得到主成分的綜合得分，將多響應(yīng)問題完全轉(zhuǎn)化為單響應(yīng)問題。定義MPI(Multi-response Performance Index，多響應(yīng)績(jī)效指標(biāo))為:

Liao［4］提出的加權(quán)主成分分析法完全將多響應(yīng)問題轉(zhuǎn)化為單響應(yīng)優(yōu)化問題，并解釋了原問題的全部方差。Gauri和 Chakraborty［5］，Shih 和 Tzeng 等［6］進(jìn)行實(shí)證研究，利用加權(quán)主成分分析法解決實(shí)際工業(yè)生產(chǎn)中的多響應(yīng)問題，得到了理想的結(jié)果。

1.2 改進(jìn)的方法

加權(quán)主成分分析法的優(yōu)勢(shì)在于其將復(fù)雜的多響應(yīng)問題轉(zhuǎn)化為求MPI最大值的單響應(yīng)問題，同時(shí)通過所有主成分加權(quán)和的形式解釋了原響應(yīng)的全部方差。但其仍存在一定不足之處，在計(jì)算過程中并沒有考慮到響應(yīng)回歸方程的擬合度，即模型的預(yù)測(cè)能力。本文將針對(duì)這一問題，對(duì)該模型進(jìn)行改進(jìn)。

Kim和Lin［7］將預(yù)測(cè)能力結(jié)合到滿意度函數(shù)中，并指出回歸方程的擬合度較高的響應(yīng)對(duì)優(yōu)化結(jié)果有較強(qiáng)的影響，因此在各響應(yīng)回歸方程的擬合度有顯著差別時(shí)如若不考慮模型的預(yù)測(cè)能力將會(huì)對(duì)優(yōu)化結(jié)果產(chǎn)生不利的影響。預(yù)測(cè)能力，即擬合度的度量可采用R2，R2－adj，均方誤差等指標(biāo)，為方便敘述，本文采用最為常用的R2來度量預(yù)測(cè)能力，其他指標(biāo)的使用與R2相似。

考慮到信噪比本身的缺陷［8］，本文采用各響應(yīng)值的均值作為分析數(shù)據(jù)，進(jìn)而更好地分析各響應(yīng)回歸模型的預(yù)測(cè)能力。在多響應(yīng)問題中，定義有p個(gè)響應(yīng)變量，共進(jìn)行m次試驗(yàn)，以yij表示第i個(gè)響應(yīng)在第j次試驗(yàn)中的均值。為消除量綱的影響，對(duì)各響應(yīng)均值進(jìn)行標(biāo)準(zhǔn)化，得到標(biāo)準(zhǔn)化均值，如下:

其中，Yij表示標(biāo)準(zhǔn)化后的均值，μi和σi表示第i個(gè)響應(yīng)的m個(gè)值(共進(jìn)行m次試驗(yàn))的平均值與標(biāo)準(zhǔn)差。

可見，ri在(0，1)之間，且r1+r2+… +rp=1。

ri表示第i個(gè)響應(yīng)的預(yù)測(cè)能力，為了在主成分分析中考慮模型的預(yù)測(cè)能力，對(duì)原模型進(jìn)行修改，將ri結(jié)合到主成分之中，如下所示:

其中，Zq－new表示結(jié)合了預(yù)測(cè)能力的第q個(gè)主成分。

在原始的主成分公式中，系數(shù)向量eq=(eq1，eq2，…，eqp)'為向量 Y=(Y1，Y2，…，YP)'的方差協(xié)方差矩陣的特征向量，特征向量為單位向量，選取特征向量作為系數(shù)向量保證了以下兩個(gè)條件:

(1)確保該主成分的方差為最大值，且其值等于特征值，用公式表示為:

本文給出的主成分公式，如(6)式所示，主成分系數(shù)不再是特征向量，但在加權(quán)主成分分析中，采用主成分的方差貢獻(xiàn)率作為各主成分的權(quán)重，即仍保持各主成分的方差值等于相應(yīng)的特征值，且綜合考慮全部主成分，能夠解釋原問題的全部方差，不破壞上述條件。

(2)確保各主成分之間相互獨(dú)立，用公式表示為:

通過分析可知，改進(jìn)后的主成分系數(shù)向量不是單位向量，不能確保各主成分之間一定相互獨(dú)立。但當(dāng)原問題中各響應(yīng)間相關(guān)性較小時(shí)，該方法仍然適用。

Richard和Dean［9］指出，主成分系數(shù)向量 eq=(eq1，eq2，…，eqp)'中的每一個(gè)分量eqn的大小度量第n個(gè)變量對(duì)第q個(gè)主成分的重要程度。本文將R2系數(shù)融入到系數(shù)向量中，用ri表征第i個(gè)響應(yīng)預(yù)測(cè)能力對(duì)主成分的影響，并最終影響可控變量組合的選取。

改進(jìn)后的加權(quán)主成分分析法的MPI為:

通過(6)式和(9)式可以看出，最后的MPI值可完全轉(zhuǎn)化為標(biāo)準(zhǔn)化均值的函數(shù)，即MPI=f(Y1，Y2，…，Yp)，預(yù)測(cè)能力的影響也會(huì)通過對(duì)系數(shù)向量的修改而最終轉(zhuǎn)化到?jīng)Q策過程中，預(yù)測(cè)能力強(qiáng)的響應(yīng)將會(huì)有較大的系數(shù)，優(yōu)化時(shí)也會(huì)得到更多的側(cè)重性。優(yōu)化MPI值可獲得最佳的可控變量組合，在考慮預(yù)測(cè)能力的同時(shí)使多響應(yīng)問題整體效果達(dá)到最優(yōu)。

本文提出的方法在加權(quán)主成分分析法的基礎(chǔ)上結(jié)合了響應(yīng)回歸方程的R2系數(shù)，考慮了模型的預(yù)測(cè)能力。該方法存在著一定的局限性，如上所述，結(jié)合了R的主成分系數(shù)不能保證主成分之間恒為相互獨(dú)立，但在原響應(yīng)之間相關(guān)性較小時(shí)，該方法依然能發(fā)揮其優(yōu)勢(shì):將多響應(yīng)問題轉(zhuǎn)化為單響應(yīng)問題，解釋原響應(yīng)的全部方差，并考慮模型的預(yù)測(cè)能力。

2 應(yīng)用實(shí)例

本文采用文獻(xiàn)［6］中的案例進(jìn)行分析。該試驗(yàn)研究金屬惰氣(MIG)電弧焊泡沫板的優(yōu)化問題，共有兩個(gè)響應(yīng)，顯微硬度和彎曲強(qiáng)度，兩個(gè)響應(yīng)均為望大特性，共受8個(gè)因子影響，分別為填充材料(A)、MIG流(B)、焊接速度(C)、MIG氣臨率(D)、工件差距(E)、MIG電弧焊角度(F)、槽角(G)和電極延伸長(zhǎng)度(H)。其中只有填充材料(A)取兩水平，其他因子均取三水平，進(jìn)行田口L18(21*37)試驗(yàn)設(shè)計(jì)。試驗(yàn)設(shè)計(jì)安排及試驗(yàn)結(jié)果如表1所示。

表1 試驗(yàn)設(shè)計(jì)及響應(yīng)均值表

(續(xù)表)

各響應(yīng)的標(biāo)準(zhǔn)化均值均由Minitab軟件得到，利用響應(yīng)均值可得到兩個(gè)響應(yīng)的回歸模型及R2值，如下所示:

由式(5)得到標(biāo)準(zhǔn)化的預(yù)測(cè)能力，r1=0.445，r2=0.555。

利用SPSS軟件進(jìn)行主成分分析，可得到主成分的特征值和特征向量矩陣，如表2所示。

表2 主成分分析表

由式(6)，可得到相應(yīng)的兩個(gè)主成分:

由式(9)，可得到改進(jìn)后的多響應(yīng)績(jī)效指標(biāo)MPI:

根據(jù)上式可計(jì)算出每次試驗(yàn)下的MPI值，如表3所示。

表3 MPI值表

(續(xù)表)

通過表3，可計(jì)算出各因子的主效應(yīng)值，如表4所示。

表4 主效應(yīng)值表

本例中，MPI值越大，質(zhì)量特性越好，因此使MPI主效應(yīng)最大的因子水平組合即為該因子的優(yōu)化結(jié)果，由表4可看出，最優(yōu)因子設(shè)置為:A2B3C1D2E2F3G3H2。將最優(yōu)因子設(shè)置帶入到回歸方程中，可得到此時(shí)y1=62.946，y2=74.117。

用本文提出的方法所得的結(jié)果與文獻(xiàn)［6］中的結(jié)果相比較，如表5所示。

表5 優(yōu)化結(jié)果比較表

從上表可以看出，由于考慮了響應(yīng)的預(yù)測(cè)能力，本例得到的最優(yōu)因子設(shè)置有所不同，此時(shí)得到的y1值比加權(quán)主成分分析法得到的y1值小，而y2值變大，因?yàn)閮身憫?yīng)同為望大特性，顯然該結(jié)果對(duì)響應(yīng)y2有較大的偏重性，較大的優(yōu)化了y2。這是因?yàn)轫憫?yīng)y2的預(yù)測(cè)能力較強(qiáng)(R2系數(shù)較大)，改進(jìn)的主成分分析法突出了預(yù)測(cè)能力對(duì)優(yōu)化結(jié)果的影響。在實(shí)際應(yīng)用過程中，根據(jù)響應(yīng)預(yù)測(cè)能力的相對(duì)重要程度及實(shí)驗(yàn)者的意愿，可對(duì)R2系數(shù)進(jìn)行處理，擴(kuò)大或縮小不同響應(yīng)間的相對(duì)差距，以凸顯各響應(yīng)預(yù)測(cè)能力對(duì)優(yōu)化結(jié)果的影響。

3 結(jié)束語

本文提出了一種改進(jìn)的加權(quán)主成分分析法以解決質(zhì)量工程中的多響應(yīng)優(yōu)化問題。在加權(quán)主成分分析法的基礎(chǔ)上，該方法將R2系數(shù)結(jié)合到主成分分析中，考慮了模型的預(yù)測(cè)能力，并可通過變換R2系數(shù)的標(biāo)準(zhǔn)化方式以強(qiáng)調(diào)或削弱預(yù)測(cè)能力對(duì)優(yōu)化結(jié)果的影響，在多個(gè)響應(yīng)模型的預(yù)測(cè)能力有顯著差異時(shí)該方法非常有意義。本文采用文獻(xiàn)中的實(shí)例進(jìn)行數(shù)據(jù)分析，通過分析可以看出，本文提出的方法較加權(quán)主成分分析法具有一定優(yōu)勢(shì)。

利用主成分分析法同時(shí)優(yōu)化響應(yīng)的均值和標(biāo)準(zhǔn)差，實(shí)現(xiàn)優(yōu)化的穩(wěn)健性是下一步研究的重點(diǎn)。

［1］Su C T，Tong L I.Multi-response robust design by principal component analysis［J］.Total Quality Management，1997，8(6):409-416.

［2］Antony J.Multi-response optimization in industrial experiments using Taguchi’s quality function and principal component analysis［J］.Quality and reliability engineering international，2000，16:3-8.

［3］鐘曉芳，韓之俊.利用主成分分析對(duì)多質(zhì)量特性的優(yōu)化設(shè)計(jì)［J］. 南京理工大學(xué)學(xué)報(bào)，2003，27(3):301-304.

［4］Liao H C.Multi-response optimization using weighted principal component［J］.The International Journal of Advanced Manufacturing Technology，2006，27:720-725.

［5］Gauri S K，Chakraborty S.Optimization of multiple responses for WEDM processes using weighted principal components［J］.The International Journal of Advanced Manufacturing Technology，2009，40:1102-1110.

［6］Shih J S，Tzen Y F，Yang J B.Principal component analysis for multiple quality characteristics optimization of metal inert gas welding aluminum foam plate［J］.Materials and Design，2011(32):1253-1261.

［7］Kim K J，Lin D K J.Simultaneous optimization of mechanical properties of steel by maximizing exponential desirability functions［J］.Applied Statistics，2000，49(3):311-325.

［8］Nair V N.Taguchi’s parameter design:a panel discussion［J］，Technometrics，1992，34:127-161.

［9］Richard A.Johnson，Dean W.Wichern著，陸璇，葉俊，譯.實(shí)用多元統(tǒng)計(jì)分析［M］.北京:清華大學(xué)出版社，2008.

Application of Improved Principal Component Analysis Method to the Multi-Response Optimization

ZHANG Ying-dong，HE Zhen
(College of Management and Economics，Tianjin University，Tianjin 300072，China)

An improved principal component analysis method，which takes into consideration the difference in the predictive ability among the responses is proposed.Principal component analysis method is a popular method for multi-response optimization.To consider the predictive ability，the proposed method applies R2coefficient which represents the degree of fit of the regression model to principal component analysis.Compared with the existing principal component analysis method，the proposed method can transform multi-response into single response，and consider the predictive ability.Case study shows that the results obtained through this method can reflect the impact of the predictive ability，the response with strong predictive ability is greatly improved.

quality engineering;multi-response optimization;principal component analysis;predictive ability

TH165;F406.3

A

1001-2265(2012)11-0097-04

2012-04-10

國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目(70931004)

張迎冬(1986—)，男，河北張家口市人，天津大學(xué)管理與經(jīng)濟(jì)學(xué)部碩士研究生，主要研究方向?yàn)橘|(zhì)量工程、工業(yè)工程，(E-mail)pauldd@126.com。

(編輯 李秀敏)