部分線性變系數(shù)模型的Liu估計*

安佰玲,盧 琦,馬 寧

(淮北師范大學(xué)數(shù)學(xué)科學(xué)學(xué)院,安徽 淮北 235000)

1 問題的提出

部分線性變系數(shù)模型是變系數(shù)模型和部分線性模型的推廣.這類模型一般可記為

(1)

其中：yi為因變量觀察值；xi=(xi1,xi2,…,xip)T,zi=(zi1,zi2,…,ziq)T，為對應(yīng)自變量的觀測值；β=(β1,β2,…,βq)T，為q維未知待估參數(shù)；α(·)=(α1(·),α2(·),…,αp(·))T，為未知非參數(shù)函數(shù)系數(shù)；模型誤差εi相互獨立，且E(εi)=0，Var(εi)=σ2.

模型(1)的參數(shù)分量β的估計一直是研究的熱點.Zhang等[1]利用局部多項式方法估計了模型(1)；Xia等[2]基于局部線性方法提出了一種新的有效估計；Zhou等[3]基于小波方法估計了部分線性模型的參數(shù)和非參數(shù)；Fan等[4]對半?yún)?shù)變系數(shù)模型中的β進行了Profile最小二乘估計,并討論了估計的漸進性質(zhì)；Wei等[5]對部分線性可加模型中的β進行了Profile最小二乘估計,并討論了估計的漸進性質(zhì).這些研究成果多數(shù)假定模型中的自變量不存在多重共線性,但在實際問題中經(jīng)常會遇到自變量之間存在近似的線性關(guān)系.多重共線性會導(dǎo)致回歸系數(shù)的估計值或標準差估計值異常偏大，回歸系數(shù)估計值的符號與現(xiàn)實意義相違背等問題.解決這類問題較成熟且有效的方法是構(gòu)建有偏估計,有偏估計通過犧牲無偏性獲得較小的均方方差，如嶺估計和主成分估計.Liu[6]結(jié)合嶺估計和stein估計的優(yōu)點提出了一種有偏估計(Liu估計).此后，越來越多的學(xué)者將Liu估計理論應(yīng)用于廣受關(guān)注的半?yún)?shù)模型.例如，Akdeniz等[7-8]結(jié)合Backfitting算法和Speckman方法給出了半?yún)?shù)回歸模型下的Liu型估計；Wei等[9]研究了半?yún)?shù)可加模型下的Liu估計和約束Liu估計.筆者擬結(jié)合文獻[10-15]并基于Profile最小二乘方法和Liu估計法，構(gòu)造β的Profile-Liu估計和剖面最小二乘廣義Liu估計，在均方誤差標準下研究這2個估計量的性質(zhì).

2 參數(shù)分量Liu型估計的構(gòu)造

2.1 加權(quán)最小二乘估計

(2)

為了敘述方便，引入以下記號：

ε=(ε1,ε2,…,εn)T,Wu0=diag(Kh(u1-u0),Kh(u2-u0),…,Kh(un-u0)),

于是模型(2)可表示為

Y-Zβ=M+ε,

(3)

(4)

2.2 Profile-Liu估計

將M的估計代入(3)式替換其中的M，整理可得如下線性回歸模型：

(5)

(6)

(7)

由(7)式中的目標函數(shù)對向量β求導(dǎo)并令其為0，可求得

2.3 剖面最小二乘廣義Liu估計

Hoerl等[12]將線性模型嶺估計中的參數(shù)k擴展到參數(shù)矩陣K,獲得廣義嶺估計；Akdeniz等[13]將線性模型Liu估計中的參數(shù)d擴展到參數(shù)矩陣D,獲得廣義Liu估計.在此啟發(fā)下,筆者獲得了部分線性變系數(shù)模型的廣義Liu估計.

設(shè)D=diag(d1,d2,…,dq),di>0,令

3 估計的理論性質(zhì)

3.1 估計量優(yōu)劣性的判定標準

3.2 Profile-Liu估計的性質(zhì)

證明因為

所以

(8)

(9)

其中

根據(jù)引理1，整理(8)，(9)式可得

(10)

于是

(11)

(12)

其中ηi=(PTβ)i；

(13)

(14)

(15)

(16)

于是由(15)，(16)式，可得

證畢.

其中

證明事實上，

于是

(17)

(18)

由定理1的證明過程并結(jié)合(17)，(18)式，可得