齊次等式約束線性回歸模型回歸系數(shù)的綜合條件嶺估計(jì)

農(nóng)秀麗

(廣西民族師范學(xué)院數(shù)學(xué)與計(jì)算機(jī)科學(xué)系,中國 崇左 532200)

考察齊次等式約束的線性回歸模型

(Ⅰ)

Y=Xβ+e,E(e)=0,Cov(e)=σ2In

(Ⅱ)

提出了一種新的有偏估計(jì)即綜合嶺估計(jì),討論了綜合嶺估計(jì)的優(yōu)良性、可容許性等性質(zhì),給出了其迭代解和極小化均方誤差的無偏估計(jì)解,并得出模型(Ⅱ)的嶺估計(jì)和根方估計(jì)[5-8]是綜合嶺估計(jì)的特例,從而統(tǒng)一了嶺估計(jì)和根方估計(jì)的理論.多年來，許多學(xué)者對特征值和線性模型估計(jì)感興趣，取得了一些成果[9-13].本文對齊次等式約束線性回歸模型進(jìn)行研究,稱提出的估計(jì)為綜合條件嶺估計(jì),討論其優(yōu)良性、可容許性等性質(zhì)，以及其迭代解和極小化均方誤差的無偏估計(jì)解,其樣本總方差、均方誤差、均方誤差矩陣與約束最小二乘估計(jì)的相應(yīng)誤差的大小關(guān)系等.

1 綜合條件嶺估計(jì)的定義及性質(zhì)

其中F(K)=diag(f1(k1),f2(k2),…,fp(kp)),fi(ki)≥0,i=1,2,…,p,K=(k1,k2,…,kp)′為嶺參數(shù)向量,Q為p階正交矩陣,W=S-1-S-1R′[RS-1R′]-1RS-1.

先給出以下引理.

引理1在模型(Ⅰ)下,W′=W,WSW=W,WSW′=W，其中W=S-1-S-1R′(RS-1R′)-1RS-1.

證因?yàn)閄為n×p矩陣,又S=X′X,所以S是對稱矩陣,因此,S′=S,(S-1)′=S-1,從而

W′=[S-1-S-1R′(RS-1R′)-1RS-1]′=S-1-S-1R′(RS-1R′)-1RS-1=W.

WSW′=WSW=[S-1-S-1R′(RS-1R′)-1RS-1]S[S-1-S-1R′(RS-1R′)-1RS-1]=

[I-S-1R′(RS-1R′)-1R][S-1-S-1R′(RS-1R′)-1RS-1]=

S-1-2S-1R′(RS-1R′)-1RS-1+S-1R′(RS-1R′)-1RS-1R′(RS-1R′)-1RS-1=

S-1-2S-1R′(RS-1R′)-1RS-1+S-1R′(RS-1R′)-1RS-1=

S-1-S-1R′(RS-1R′)-1RS-1=W.

引理2[1]在模型(Ⅰ)下,W為半正定矩陣,且W的秩為p-q.

引理4[1]在模型(Ⅰ)下,令α=Q′β=(α1,α2,…,αp)′,則αp-q+1=αp-q+2=…=αp=0,

引理5[2]在模型(Ⅰ)下,設(shè)A與C分別為m×n,n×p的常數(shù)矩陣,若Cβ條件可估,則AY是線性估計(jì)類可容許估計(jì)的充要條件為

證由F(K)=diag(f1(k1),f2(k2),…,fp(kp)),有(QF(K)Q′W+I)-1是對稱矩陣,又W是對稱矩陣,因此,(QF(K)Q′W+I)-1W=W(QF(K)Q′W+I)-1.且

RW=R[S-1-S-1R′(RS-1R′)-1RS-1]=RS-1-RS-1R′(RS-1R′)-1RS-1]=RS-1-RS-1=0.

證因?yàn)?/p>

Q′WQQ′(QF(K)Q′W+I)-1X′Y=ΛQ′(QF(K)Q′W+I)-1X′Y

下面引入模型(Ⅰ)的典型形式

其中Z=XQ,α=Q′β,L=RQ,從而Z′Z=Q′(X′X)Q=Q′SQ.因此,α的RLSE是

((Q′SQ)-1-(Q′SQ)-1Q′R′(RQ(Q′SQ)-1Q′R′)-1RQ(Q′SQ)-1)Z′Y=

(Q′S-1Q-Q′S-1R′(RS-1R′)-1RS-1Q)Z′Y=Q′(S-1-S-1R′(RS-1R′)-1RS-1)QZ′Y=

Q′WQZ′Y=ΛZ′Y.

從而

2 主要結(jié)論

證由于

((QF(K)Q′W+I)-1WX′Cov(Y)XW′((QF(K)Q′W+I)-1)′)=

σ2((QF(K)Q′W+I)-1WSW′(QF(K)Q′W+I)-1)=

σ2((QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1).

因此

σ2(QF(K)Q′W+I)-1((QF(K)Q′W+I)W(QF(K)Q′W+I)(QF(K)Q′W+I)-1)-

σ2((QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1)=

σ2(QF(K)Q′W+I)-1((QF(K)Q′W+I)W(QF(K)Q′W+I)-W)(QF(K)Q′W+I)-1=

σ2(QF(K)Q′W+I)-1((QF(K)ΛQ′)W(QΛF(K)Q′)+2QΛF(K)ΛQ′)(QF(K)Q′W+I)-1.

σ2tr((F(K)Λ+I)-1Λ(F(K)Λ+I)-1)+(F(K)Λ+I)-1α-α2=

證因?yàn)?/p>

σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+((QF(K)Q′W+I)-1β-β)×

((QF(K)Q′W+I)-1β-β)′=σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+

((QF(K)Q′W+I)-1-I)ββ′((QF(K)Q′W+I)-1-I)′=

σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+((QF(K)Q′W+I)-1-

(QF(K)Q′W+I)-1(QF(K)Q′W+I))ββ′((QF(K)Q′W+I)-1-

(QF(K)Q′W+I)-1(QF(K)Q′W+I))′=σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+

(QF(K)Q′W+I)-1QF(K)Q′Wββ′WQF(K)Q′(QF(K)Q′W+I)-1.

所以

(QF(K)Q′W+I)-1(σ2(QF(K)Q′W+I)W(QF(K)Q′W+I)-σ2W-

QF(K)Q′Wββ′WQF(K)Q′)(QF(K)Q′W+I)-1=(QF(K)Q′W+

I)-1(σ2(QF(K)Q′W2QF(K)Q′W+QF(K)Q′W2+WQF(K)Q′W+W)-σ2W-

QF(K)Q′Wββ′WQF(K)Q′)(QF(K)Q′W+I)-1=(QF(K)Q′W+I)-1(σ2(QF(K)Q′)2W3+

2σ2QF(K)Q′W2-QF(K)Q′Wβ(QF(K)Q′Wβ)′)(QF(K)Q′W+I)-1.

σ2(QF(K)Q′)2W3+2σ2QF(K)Q′W2-QF(K)Q′Wβ(QF(K)Q′Wβ)′≥0.

證令A(yù)=(QF(K)Q′W+I)-1WX′,C=(QF(K)Q′W+I)-1,根據(jù)引理6得

(QF(K)Q′W+I)-1WX′X(X′X)-1-(QF(K)Q′W+I)-1WX′XW(QF(K)Q′W+I)-1=

(QF(K)Q′W+I)-1((QF(K)Q′W+I)W-W)(QF(K)Q′W+I)-1=

(QF(K)Q′W+I)-1QF(K)Q′W2(QF(K)Q′W+I)-1≥0.

由于K的最優(yōu)值與未知參數(shù)σ2和αi有關(guān),以下討論綜合條件嶺估計(jì)的迭代解.

故

下面求ki,使L達(dá)到最小.由此將L對ki求偏導(dǎo),得

因只考慮fi(ki)≠0的情況,故

由F(K)的任意性,綜合條件嶺估計(jì)給出了一大類估計(jì).下面討論兩個(gè)特例.

參考文獻(xiàn)：

[1] 史建紅．約束線性模型下回歸系數(shù)的條件根方估計(jì)[J]．沈陽師范學(xué)院學(xué)報(bào),1999,15(4):13-19．

[2] 史建紅．約束線性回歸模型回歸系數(shù)的條件嶺型估計(jì)[J]．山西師范大學(xué)學(xué)報(bào)：自然科學(xué)版,2001,15(4):10-16．

[3] 農(nóng)秀麗,彭展聲．約束線性回歸模型回歸系數(shù)的廣義條件嶺估計(jì)[J]．湘南學(xué)院學(xué)報(bào)：自然科學(xué)版,2008,29(5):28-30．

[4] 林 路．回歸系數(shù)的綜合嶺估計(jì)[J]．?dāng)?shù)理統(tǒng)計(jì)與應(yīng)用概率,1996,11(3):179-184．

[5] 夏結(jié)來,郭祖超,胡 琳．回歸系數(shù)根方有偏估計(jì)及其應(yīng)用[J]．?dāng)?shù)理統(tǒng)計(jì)與應(yīng)用概率,1988,3(1):21-30．

[6] 歸慶明．回歸系數(shù)的廣義根方估計(jì)[J]．工程數(shù)學(xué)學(xué)報(bào),1993,10(2):91-99．

[7] 夏結(jié)來,郭祖超,胡 琳．回歸系數(shù)的廣義根方估計(jì)及其模擬[J]．應(yīng)用數(shù)學(xué),1994,7(2):187-192．

[8] 陳希儒，王松貴．近代回歸分析[M]．合肥：安徽教育出版社,1987．

[9] 詹金龍,陳建寶．帶約束的回歸系數(shù)的線性估計(jì)的可容許性[J]．高校應(yīng)用數(shù)學(xué)學(xué)報(bào),1991,6(1):20-30．

[10] 劉能東,張忠志．廣義自反矩陣與廣義反自反矩陣的廣義逆特征值問題[J]．湖南師范大學(xué)自然科學(xué)學(xué)報(bào),2011,34(4):1-6．

[11] 鹿長余．線性模型中參數(shù)估計(jì)的可容許理論[J]．應(yīng)用概率統(tǒng)計(jì)，2001，17(2)：203-212．

[12] 尤進(jìn)紅，顧 娟．回歸系數(shù)的局部根方有偏估計(jì)[J]．工程數(shù)學(xué)學(xué)報(bào),1998,15(2):34-38．

[13] 汪 靜，孔凡惠．有約束的線性模型下的最小二乘估計(jì)與最佳線性無偏估計(jì)的比較[J]．暨南大學(xué)學(xué)報(bào)：自然科學(xué)版,1999，20(3)：17-22．