主成分提取信息準(zhǔn)則的加權(quán)規(guī)則

杜柏陽(yáng) 孔祥玉 羅家宇

在信息處理領(lǐng)域,主成分分析(Principal component analysis,PCA)又稱(chēng)為KL 變換(Karhunen-Loéve transform),廣泛應(yīng)用于信號(hào)壓縮[1]、模式識(shí)別[2]、圖像處理[3]、噪聲估計(jì)[4]、神經(jīng)網(wǎng)絡(luò)建模[5]等問(wèn)題.通常,主成分(Principal component,PC)可以通過(guò)求解自相關(guān)矩陣的特征分解求得,具體是指自相關(guān)矩陣中前個(gè)最大特征值對(duì)應(yīng)的特征向量.由這些特征向量張成的特征子空間被稱(chēng)為主子空間(Principal subspace,PS).

當(dāng)前,在大量跟蹤輸入信號(hào)主成分主子空間的算法中,神經(jīng)網(wǎng)絡(luò)算法因?yàn)橛?jì)算復(fù)雜度低等多種優(yōu)良的性能而引起許多學(xué)者的興趣[6].學(xué)者們提出大量的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法,用于提取主成分或者跟蹤主子空間.例如,建立在啟發(fā)推理機(jī)制上的Oja 主子空間跟蹤算法[7]、對(duì)稱(chēng)誤差校正算法[8],以及建立在信息準(zhǔn)則基礎(chǔ)上的最小均方誤差重構(gòu)(Least mean square error reconstruction,LMSER) 算法[9]、投影近似子空間跟蹤(Projection approximation subspace tracking,PAST)算法[10].

早期的算法結(jié)構(gòu)簡(jiǎn)單,但是在自穩(wěn)定性、平滑性以及魯棒性等方面還有待于優(yōu)化.針對(duì)這些問(wèn)題,Kong 等[11]提出了雙目的的自穩(wěn)定主成分提取神經(jīng)網(wǎng)絡(luò)算法,Kakimoto 等[12]提出了基于最小噪聲準(zhǔn)則的平滑自適應(yīng)特征提取方法,Ouyang 等[13]提出了遞歸的魯棒主成分分析算法.不僅如此,算法提取的對(duì)象還擴(kuò)展到信號(hào)次成分[14]和廣義特征成分[15].通過(guò)研究這些算法,可以知道提取信號(hào)多個(gè)成分和跟蹤信號(hào)子空間的算法雖然實(shí)現(xiàn)提取的對(duì)象不同,但是在算法的原理上存在一定程度的關(guān)聯(lián).以主成分提取算法為例分析,多個(gè)主成分提取算法和主子空間跟蹤算法都能夠退化為單一主成分的提取算法,這反映出兩個(gè)類(lèi)型的算法具有某種相同的基本特性.反過(guò)來(lái),如果存在一個(gè)能夠提取單個(gè)主成分的提取算法,是否能遵循一定的原理或者規(guī)律,使得該算法能夠轉(zhuǎn)化為提取多個(gè)主成分或者跟蹤主子空間的算法？這個(gè)問(wèn)題的解答對(duì)靈活轉(zhuǎn)換各種先進(jìn)的成分提取算法,增加人們對(duì)提取算法本質(zhì)和多種性質(zhì)的理解具有十分重要的意義.

多個(gè)主成分可以張成一個(gè)主子空間,因而通常認(rèn)為多個(gè)主成分的提取算法是主子空間跟蹤算法的進(jìn)步.一般而言,多個(gè)主成分的提取算法的提出方式有兩種.一種是根據(jù)實(shí)際需求直接提出一種新的信息準(zhǔn)則,通過(guò)推導(dǎo)信息準(zhǔn)則的梯度函數(shù)得出對(duì)應(yīng)的提取算法;另一種是在已有的主子空間跟蹤算法的基礎(chǔ)上,引入加權(quán)規(guī)則,使得轉(zhuǎn)變后的算法能夠提取多個(gè)主成分.Tanaka[16]通過(guò)研究多個(gè)主成分提取算法的廣義加權(quán)規(guī)則,分析出廣義加權(quán)規(guī)則的參數(shù)對(duì)提取算法的收斂速度有影響.加權(quán)規(guī)則的參數(shù)變化會(huì)引起算法的性質(zhì)變化.當(dāng)參數(shù)的取值沿著實(shí)數(shù)軸負(fù)方向變化時(shí),加權(quán)矩陣則逐漸近似為單位陣,算法的提取能力逐漸由多個(gè)主成分提取退化為主子空間跟蹤.

實(shí)際上,有的主子空間提取算法在使用加權(quán)規(guī)則后可以轉(zhuǎn)化為多個(gè)主成分的提取算法,而有的算法則不具有這種能力.主子空間的組成向量與主成分之間的夾角能夠說(shuō)明主子空間與主成分的偏離程度.有的主子空間跟蹤算法能夠轉(zhuǎn)化為多個(gè)主成分提取算法,原因在于這些跟蹤算法在運(yùn)行過(guò)程中能夠減小夾角的大小.而本質(zhì)上,確定這個(gè)夾角關(guān)系的是信息準(zhǔn)則,信息準(zhǔn)則函數(shù)在算法對(duì)信息的歸類(lèi)方式、算法提取信息的方式等具有非直接的規(guī)定.因此,在信息準(zhǔn)則的角度分析加權(quán)規(guī)則對(duì)主子空間跟蹤算法和多個(gè)主成分提取算法的作用能夠反映算法的一些本質(zhì)特性.

本文主要針對(duì)加權(quán)規(guī)則對(duì)主成分提取算法的信息準(zhǔn)則的作用進(jìn)行分析,以O(shè)ja 主子空間跟蹤算法為例,通過(guò)構(gòu)建提取算法的動(dòng)力學(xué)表達(dá),對(duì)比存在和缺失加權(quán)規(guī)則下的主子空間跟蹤信息準(zhǔn)則,挖掘出信息準(zhǔn)則對(duì)狀態(tài)矩陣與主成分的方向夾角的梯度差異.

1 加權(quán)規(guī)則

根據(jù)文獻(xiàn)[7]和文獻(xiàn)[17]可知,Oja 算法的信息準(zhǔn)則為

其中,Ir∈Rr×r表示單位陣,W∈Rn×r為算法的狀態(tài)矩陣,n為輸入信號(hào)的維數(shù),r為需要提取的主成分個(gè)數(shù),R=E[xxT]∈Rr×r為隨機(jī)輸入信號(hào)x的自相關(guān)矩陣,E[·] 表示計(jì)算方括號(hào)內(nèi)的數(shù)學(xué)期望.假設(shè)R是滿秩矩陣,特征值互不相同.那么,輸入信號(hào)有n個(gè)特征向量φi,i=0,1,···,n-1,容易理解,當(dāng)存在一個(gè)矩陣W=Wn,使得信息準(zhǔn)則函數(shù)值J1(W)能夠取得最大時(shí),Wn就等價(jià)于信號(hào)的主子空間,也就是前r個(gè)特征向量φi張成的子空間.

另外,Oja 還首先提出加權(quán)規(guī)則下的信息準(zhǔn)則[18]

其中,D=diag{d1,d2,···,dr}∈Rr×r為一個(gè)對(duì)角矩陣,它的作用就是為狀態(tài)向量加權(quán).在主成分提取的算法中,加權(quán)矩陣的各個(gè)元素通常設(shè)置為d1＞d2＞···＞dr.其余變量的含義與式(1)相同.類(lèi)似于Oja 算法的信息準(zhǔn)則,當(dāng)W=Wn時(shí),J2(W)能夠取得最大時(shí),此時(shí)Wn不僅是前r個(gè)特征向量φi張成的子空間,而且組成Wn的各個(gè)向量與對(duì)應(yīng)的特征向量φi相同.

通過(guò)以往研究可知,由以上兩個(gè)信息準(zhǔn)則求取相應(yīng)跟蹤或者提取算法通過(guò)梯度下降法實(shí)現(xiàn),其基本的表達(dá)式為

其中,ηΔW(k)為算法的搜索方向,根據(jù)文獻(xiàn)[16]可知,該方向?yàn)樾畔?zhǔn)則的梯度下降方向ηΔW(k)=;W(k)為第k步迭代中的狀態(tài)矩陣,維度與式(1)中W相同;η∈(0,1)為算法的學(xué)習(xí)因子.實(shí)際上,有的加速算法中的學(xué)習(xí)因子并不是固定長(zhǎng)度的,為了簡(jiǎn)化算法分析過(guò)程,此處假設(shè)學(xué)習(xí)因子是固定長(zhǎng)度的.

相應(yīng)地,由信息準(zhǔn)則(1)推導(dǎo)得到的算法常微分方程形式[7]為

該算法能夠有效地在線跟蹤信號(hào)的主子空間.假設(shè)子空間相對(duì)于多個(gè)主成分的旋轉(zhuǎn)矩陣為M1∈Rn×r,P=[φ0,φ1,···,φr-1],于是有W=PM1,主子空間的跟蹤過(guò)程就是M1的前r行元素變化為某個(gè)旋轉(zhuǎn)矩陣,后n-r行元素變化為零的過(guò)程.

由信息準(zhǔn)則(2)推導(dǎo)得到的算法常微分方程形式[18]為

該算法也能夠有效地在線跟蹤信號(hào)的主子空間.與上文相似,存在一個(gè)M2∈Rn×r,W=PM2.這說(shuō)明兩種算法的信息準(zhǔn)則都能夠敏感到前r個(gè)特征值對(duì)應(yīng)的特征信息.而不同之處在于,主子空間的跟蹤過(guò)程中,M2的前r行元素變化為一個(gè)對(duì)角陣.本文主要針對(duì)M1和M2變化的差別展開(kāi)分析,從微觀角度探究加權(quán)規(guī)則對(duì)算法作用的動(dòng)力學(xué)變化.

2 主成分提取過(guò)程動(dòng)力學(xué)分析

只考慮一維特征的情況可以通過(guò)確定離散時(shí)間(Determinate discrete time,DDT)方法分析[19].直接分析高維特征提取過(guò)程非常復(fù)雜,不容易說(shuō)明清楚.因而首先從二維特征情況開(kāi)始.

定理1.信息準(zhǔn)則J2(W)不能確定狀態(tài)矩陣的各個(gè)向量與信號(hào)主成分方向之間的關(guān)系.

證明.假設(shè)M1的旋轉(zhuǎn)角度為θ,那么M1可以寫(xiě)為

此時(shí),信息準(zhǔn)則(1)表示為

那么,信息準(zhǔn)則對(duì)角度的梯度需要通過(guò)梯度下降公式解為

因而可以計(jì)算得

注1.定理1 可得的另外一個(gè)結(jié)論是,信息準(zhǔn)則(1)的梯度算法提取出的主子空間與信號(hào)主成分存在一個(gè)夾角,并且該夾角與算法設(shè)置的狀態(tài)矩陣初值有關(guān).

注2.信息準(zhǔn)則J1(W)并不能直接導(dǎo)出狀態(tài)矩陣的變化方式,通常是通過(guò)梯度下降法、牛頓法、Nestrove 加速下降法等等利用信息準(zhǔn)則的一階、二階甚至是高階導(dǎo)數(shù)或者偏導(dǎo)數(shù)得到迭代更新公式.當(dāng)?shù)绞諗繒r(shí),對(duì)信息準(zhǔn)則J1(W) 而言,收斂結(jié)果只能確保狀態(tài)矩陣的模值收斂到某固定值而不能確定狀態(tài)矩陣的各個(gè)向量與輸入信號(hào)自相關(guān)矩陣的主成分方向的關(guān)系.信息準(zhǔn)則在本質(zhì)上規(guī)定了狀態(tài)矩陣的變化方式.

實(shí)際上,加權(quán)規(guī)則能夠改變信息準(zhǔn)則的這個(gè)性質(zhì).具體過(guò)程可以通過(guò)定理2 說(shuō)明.

定理2.信息準(zhǔn)則J2(W)能夠確定狀態(tài)矩陣的各個(gè)向量與信號(hào)主成分方向之間的關(guān)系.

證明.假設(shè)M2的旋轉(zhuǎn)角度為θ,那么M2可以寫(xiě)為

此時(shí),信息準(zhǔn)則(2)表示為

同樣地,該信息準(zhǔn)則對(duì)角度的梯度也可通過(guò)梯度下降公式解為

此時(shí),可得

以上分析本質(zhì)上是在n=2,r=2 這種特殊情況的討論.下面需要對(duì)上述結(jié)論推廣到n ＞2,r=2的情況.

推論1.對(duì)于n＞2,r=2, 信息準(zhǔn)則J1(W)不能規(guī)定狀態(tài)向量與信號(hào)主成分方向的關(guān)系,而信息準(zhǔn)則J2(W)能夠規(guī)定狀態(tài)向量與信號(hào)主成分方向的關(guān)系.

證明.顯然對(duì)于n＞2,r=2情況下的J1(W)和J2(W)而言,對(duì)應(yīng)的梯度算法都能夠跟蹤主子空間,這在原作者的論文中已有明確的證明.也就是說(shuō),W的后n-r行元素總是逐漸變化為零.不妨認(rèn)為,當(dāng)?shù)螖?shù)大于某一個(gè)大數(shù)時(shí),狀態(tài)矩陣可以表達(dá)為W=P[0]T, 其中,* 位置為1或2.此時(shí)根據(jù)定理1和定理2 的分析過(guò)程得知,信息準(zhǔn)則J1(W) 不能敏感狀態(tài)向量與信號(hào)主成分方向的變化,而信息準(zhǔn)則J2(W) 能夠敏感狀態(tài)向量與信號(hào)主成分方向的變化.□

對(duì)于n=r,r ＞2 的情況而言,主要考慮歐拉轉(zhuǎn)角描述所有的角度變化.第1 個(gè)相角變化為θ1,第2 個(gè)相角變化為θ2, 以至于第r個(gè)相角變化為θr.每一個(gè)角總是在上一個(gè)旋轉(zhuǎn)角度基礎(chǔ)上繼續(xù)旋轉(zhuǎn),例如r=3時(shí)旋轉(zhuǎn)矩陣M*表示為

以此類(lèi)推.即將1 放在不動(dòng)軸的位置,并且該元素所在行和列的其他元素均為0.不動(dòng)軸的數(shù)量為r-2. 旋轉(zhuǎn)次數(shù)為.

推論2.對(duì)于n=r,r ＞2, 信息準(zhǔn)則J1(W)不能敏感狀態(tài)向量與信號(hào)主成分方向的變化,而信息準(zhǔn)則J2(W)能夠敏感狀態(tài)向量與信號(hào)主成分方向的變化.

證明.與定理1 和定理2 的證明步驟相似,信息準(zhǔn)則(1)表示為

此時(shí)的旋轉(zhuǎn)矩陣變?yōu)?/p>

同時(shí)信息準(zhǔn)則對(duì)角度的梯度表達(dá)為多個(gè)公式

因?yàn)镸1*具有旋轉(zhuǎn)對(duì)稱(chēng)性,為了描述簡(jiǎn)便,此處僅以θ1為例進(jìn)行說(shuō)明.

由此可得,

顯然,對(duì)于未加權(quán)的信息準(zhǔn)則J1(W)而言,對(duì)于任意θ1恒成立.與此同時(shí),對(duì)于加權(quán)信息準(zhǔn)則J2(W) 而言,經(jīng)過(guò)與上述推導(dǎo)過(guò)程相似的步驟可得,

注3.對(duì)于n＞r,r ＞2 情況的討論,其基本思路同推論1,都是考慮在一定條件下,狀態(tài)矩陣各個(gè)向量的長(zhǎng)度發(fā)生變化,最終轉(zhuǎn)化為n=r,r ＞2 的情況,結(jié)合推論2 的結(jié)論實(shí)現(xiàn)對(duì)該情況的討論.

注4.通過(guò)定理和推論的分析可知,加權(quán)規(guī)則對(duì)提取算法產(chǎn)生影響的本質(zhì)因素是加權(quán)算法改變信息準(zhǔn)則在方向上的梯度變化.這對(duì)后續(xù)該類(lèi)算法研究的啟發(fā)是,在考慮將主子空間提取算法轉(zhuǎn)變成并行提取算法時(shí),其核心步驟是使算法在狀態(tài)矩陣與實(shí)際主成分的夾角方向上產(chǎn)生梯度.為驗(yàn)證該思路對(duì)于Oja 信息準(zhǔn)則以外的信息準(zhǔn)則也有效,本文考察M iao 信息規(guī)則在加權(quán)規(guī)則下的性質(zhì)變化.

3 數(shù)值分析與仿真實(shí)驗(yàn)

為保證算法具有可比性,在生成數(shù)據(jù)的時(shí)候?qū)斎胄盘?hào)做出統(tǒng)一規(guī)定.各個(gè)仿真實(shí)驗(yàn)的輸入信號(hào)自相關(guān)矩陣的特征值為同一組數(shù)值,在此考慮Λ=diag{1.052,2.335,5.002,5.251,6.012,6.123}.通過(guò)算法提取出信息的主成分P=[φ0,φ1,···,φn-1].另外,加權(quán)矩陣的數(shù)值也是任意選取一組滿足定義的 數(shù)值,此處選為P=diag{1,2}.

3.1 Oja信息準(zhǔn)則與Oja加權(quán)信息準(zhǔn)則

如圖1 所示,外側(cè)的曲面圓錐為Oja 信息準(zhǔn)則函數(shù)值變化,內(nèi)側(cè)的曲面圓錐為加權(quán)Oja 信息準(zhǔn)則函數(shù)值變化.首先,兩個(gè)函數(shù)值變化情況共同印證了信息準(zhǔn)則能夠良好地敏感狀態(tài)矩陣的模值變化.為更加清晰地表征這個(gè)特點(diǎn),該算例在某一個(gè)固定的角度投影兩個(gè)信息準(zhǔn)則函數(shù),如圖2.其次,兩個(gè)曲面變化都具有對(duì)稱(chēng)性.其中,內(nèi)側(cè)的曲面圓錐是隨著θ周期對(duì)稱(chēng)的,印證了定理2 中的一個(gè)結(jié)論,外側(cè)的曲面圓錐是處處對(duì)稱(chēng)的.

另外,兩個(gè)曲面的變化也是存在差別的.這首先表現(xiàn)在θ從 (0,2π] 變化的過(guò)程中,外側(cè)的曲面圓錐在固定模值下,數(shù)值沒(méi)有變化,如圖3 所示,以θ為橫坐標(biāo),將圖1 中狀態(tài)矩陣模長(zhǎng)為 1.5 處的曲面函數(shù)值投影并展開(kāi),作為縱坐標(biāo);內(nèi)側(cè)的曲面圓錐在固定模值下,數(shù)值一直處在變化中,如圖4 所示,以θ為橫坐標(biāo),將圖1 中狀態(tài)矩陣模長(zhǎng)為1.5 處的曲面函數(shù)值投影并展開(kāi)作為縱坐標(biāo).其次,在θ固定的時(shí)候,兩個(gè)曲面函數(shù)變化的梯度也不相同,如圖2 所示,明顯外側(cè)的曲面圓錐的下降坡度小于內(nèi)側(cè)的曲面圓錐的下降坡度.這一點(diǎn)能夠解釋所有以O(shè)ja 信息準(zhǔn)則為基礎(chǔ)的梯度下降算法,加權(quán)規(guī)則下的信息準(zhǔn)則具有更好的收斂速度.

圖1 Oja 信息準(zhǔn)則和加權(quán)Oja 信息準(zhǔn)則在 θ 變化情況下的數(shù)值變化Fig.1 Curves of the information criterion Oja and weighted Oja algorithms on θ

圖2 Oja信息準(zhǔn)則和加權(quán)Oja 信息準(zhǔn)則在處的投影Fig.2 Projection of the information criterion Oja and weighted Oja algorithms when

圖3 Oja 信息準(zhǔn)則在θ變化情況下的數(shù)值變化Fig.3 Curves of Oja information criterion on θ

圖4 加權(quán)Oja 信息準(zhǔn)則在θ變化情況下的數(shù)值變化Fig.4 Curves of weighted Oja information criterion on θ

綜合上述分析,該算例能夠驗(yàn)證Oja 信息準(zhǔn)則與加權(quán)Oja 信息準(zhǔn)則對(duì)提取算法在理論上分析的結(jié)論.

3.2 Miao信息準(zhǔn)則與Ouyang信息準(zhǔn)則

本文所研究的結(jié)論不僅適用于Oja 信息準(zhǔn)則,還適用于其他信息準(zhǔn)則,此處考慮Miao 信息準(zhǔn)則[20]和Ouyang 信息準(zhǔn)則[21].的初始設(shè)置與第3.1節(jié)中的算例相同.

Miao 信息準(zhǔn)則的基本表達(dá)式為

Ouyang 信息準(zhǔn)則的基本表達(dá)式為

從上述公式可以看出,Miao 信息準(zhǔn)則在加權(quán)規(guī)則下的討論就是Ouyang 信息準(zhǔn)則.從圖5～8 中可以看出,Miao 和Ouyang 信息準(zhǔn)則的變化特性都能夠呈現(xiàn)出第3.1 節(jié)的三個(gè)特性,這表明經(jīng)過(guò)與Oja 及加權(quán)Oja 信息準(zhǔn)則相似的動(dòng)力學(xué)分析過(guò)程,也能夠得到一致的結(jié)論.實(shí)際上,不僅Oja 算法、Miao 算法和Ouyang 算法,作者經(jīng)過(guò)仿真驗(yàn)證,Yang[10]和Lei[9]的LMSER 算法也具有相似的動(dòng)力學(xué)特性,由于篇幅限制在這里不做展示.這些算法的不同之處在下降的速度以及在平衡位置的信息準(zhǔn)則函數(shù)值上.

圖5 Miao 信息準(zhǔn)則和Ouyang 信息準(zhǔn)則在θ變化情況下的數(shù)值變化Fig.5 Curves of the information criterion Miao and Ouyang algorithms on θ

圖6 Miao信息準(zhǔn)則和Ouyang 信息準(zhǔn)則在處的投影Fig.6 Projection of the information criterion Miao and Ouyang algorithms when

圖7 Miao 信息準(zhǔn)則在θ變化情況下的數(shù)值變化Fig.7 Curves of Miao information criterion on θ

圖8 Ouyang 信息準(zhǔn)則在θ變化情況下的數(shù)值變化Fig.8 Curves of Ouyang information criterion on θ

3.3 加權(quán)規(guī)則的應(yīng)用案例

圖像壓縮是計(jì)算機(jī)圖形圖像學(xué)領(lǐng)域的熱點(diǎn)問(wèn)題.通過(guò)圖像壓縮技術(shù)都可通過(guò)壓縮圖像數(shù)據(jù)實(shí)現(xiàn)更加高效地存儲(chǔ)和傳輸.基于主成分分析方法的壓縮是圖像壓縮領(lǐng)域中的常用方法[22].本節(jié)采用主成分分析對(duì)Lena 圖像進(jìn)行壓縮和重構(gòu).Lena 的原圖如圖9 左上角所示,分辨率為 512×512 像素.這里將圖像分解為 4× 4 像素的不重疊小塊.這些小塊是按照從左到右由上到下的順序排列,可得一個(gè)16×16 384 的數(shù)據(jù)向量.該數(shù)據(jù)經(jīng)過(guò)預(yù)處理后作為主成分分析算法的輸入序列.采用本文研究的加權(quán)Oja算法和Ouyang 算法對(duì)圖像壓縮后重建.

圖9 原始和重建的Lena 圖像Fig.9 Original and reconstructed Lena images

加權(quán)Oja 算法使用兩次.第1 次只取一個(gè)主元,學(xué)習(xí)因子為 0.01,第2 次并行提取兩個(gè)主元,學(xué)習(xí)因子也為 0.01,主要對(duì)比單個(gè)主元和多個(gè)主元情況的重建誤差.Ouyang 算法使用一次,提取兩個(gè)主元,學(xué)習(xí)因子也取 0.01.兩個(gè)主元提取的算法加權(quán)矩陣為D.比較不同算法提取主元的精度.圖9 右上角為一元Oja 提取算法的重建效果,重建誤差為0.0829.圖9 左下角為二元Oja 提取算法的重建效果,重建誤差為0.0602.圖9 右下角為二元Ouyang提取算法的重建效果,重建誤差為0.0402.對(duì)比實(shí)驗(yàn)效果可以發(fā)現(xiàn),多元并行提取算法相比單個(gè)主元提取算法具有優(yōu)勢(shì),Ouyang 算法相比Oja 算法具有優(yōu)勢(shì).這進(jìn)一步表明先進(jìn)算法需要通過(guò)加權(quán)算法確 保算法具有并行提取多個(gè)主成分的能力.

4 結(jié)論

本文通過(guò)分析Oja 信息準(zhǔn)則和加權(quán)Oja 信息準(zhǔn)則的差異,推導(dǎo)出加權(quán)規(guī)則能夠改變狀態(tài)矩陣和信號(hào)主成分的旋轉(zhuǎn)矩陣梯度的結(jié)論.一方面這對(duì)于其他主子空間跟蹤算法的轉(zhuǎn)變提供了理論支撐,提高在信息準(zhǔn)則層次影響算法性能的認(rèn)識(shí);另一方面,對(duì)于不能通過(guò)加權(quán)規(guī)則轉(zhuǎn)化為多個(gè)主成分提取算法的主子空間跟蹤算法,本文也給出轉(zhuǎn)變的基本思路.研究為推進(jìn)未來(lái)并行提取多個(gè)主成分分析算法發(fā)展提供了研究思路和轉(zhuǎn)變方向,最后通過(guò)數(shù)值實(shí)例仿真驗(yàn)證了理論的有效性.