非參數(shù)回歸模型中誤差方差的樣條估計

武新乾, 張 剛

(河南科技大學(xué) 數(shù)學(xué)與統(tǒng)計學(xué)院 河南 洛陽 471023)

?

非參數(shù)回歸模型中誤差方差的樣條估計

武新乾, 張 剛

(河南科技大學(xué) 數(shù)學(xué)與統(tǒng)計學(xué)院 河南 洛陽 471023)

針對具有固定設(shè)計和混合相依誤差的非參數(shù)回歸模型，構(gòu)造了誤差方差的多項式樣條估計，證明了估計量的相合性，并且通過模擬算例說明了估計方法的可行性．

非參數(shù)回歸； 誤差方差； 樣條估計； 混合； 相合性

0 引言

非參數(shù)方法在回歸建模中具有靈活性，受到了許多學(xué)者的關(guān)注[1-5]．考慮非參數(shù)回歸模型

Yi=m(xi)+εi,i=1,…,n，

(1)

其中，xi=i/n為固定設(shè)計點，Yi為響應(yīng)變量，m(x)為未知回歸函數(shù)，{εi}是均值為0、方差為σ2的平穩(wěn)序列．

樣條方法是一種常見的非參數(shù)估計方法．文[6]在φ-混合和α-混合誤差下討論了m(x)的B-樣條估計的全局收斂性和一致收斂性，類似文獻可參見文[7-10]．作者主要構(gòu)造模型(1)中誤差方差的多項式樣條估計，在文[6]中的混合誤差條件下證明誤差方差估計量的相合性,模擬結(jié)果表明了方法的可行性．

1 樣條估計

首先給出文[6]中回歸函數(shù)m(x)的樣條估計．記Sk,v表示在區(qū)間[0,1]上具有k+1個等距結(jié)點(包括兩個區(qū)間端點)的v次樣條函數(shù)空間，其B-樣條基函數(shù)記為Bkt(x) (t=1,…,k+v)．又記K=k+v，(·)′表示向量的轉(zhuǎn)置．令

Bk(x)=(Bk1(x),Bk2(x),…,BkK(x))′，

回歸函數(shù)m(x)的樣條估計為

(2)

(3)

2 主要結(jié)果

研究估計量的性質(zhì)需要文[6]中的如下條件：

(ⅱ)k=O(N1/(2p+1))，0

(4)

I1=oP(N-2(r-δ))．

(5)

又

和

這里φn(j)=φ(jN/n)，αn(j)=α(jN/n)．于是有

所以，

I3-σ2=OP(N-1/2)，

(6)

這也說明I3=OP(1)．由于

因此，

I2=oP(N-(r-δ))OP(1)=oP(N-(r-δ))．

(7)

綜合(4)～(7)式可得

即

(8)

3 模擬算例

對于非參數(shù)回歸模型(1)，選用文[11]中的回歸函數(shù)m(x)=50x3(1-x)3，x∈[0,1].考慮兩種隨機誤差序列{εi}：(I)εi獨立同分布并且εi～N(0,0.64);(II)εi=0.5εi-1+ei，{ei}為獨立同分布序列，且ei～N(0,0.48)．這兩種隨機誤差序列均滿足定理1的條件，并且它們的方差相同，σ2=Var(εi)=0.64．

選取ε0=0，采用三次B-樣條基函數(shù)構(gòu)造估計量，并且基于AIC和BIC準則從1～10之間自動選擇k值，其中，

AIC=ln(RSS/n)+2K/n; BIC=ln(RSS/n)+ln(n)·K/n，

(9)

表1 情形(I)下誤差方差σ2的典型估計及其絕對誤差Tab.1 Typical estimates of error variance σ2 and their absolute errors under (I)

注：括號內(nèi)數(shù)據(jù)為絕對誤差值.

表2 情形(II)下誤差方差σ2的典型估計及其絕對誤差Tab.2 Typical estimates of error variance σ2 and their absolute errors under (II)

注：括號內(nèi)數(shù)據(jù)為絕對誤差值.

圖1 BIC準則下誤差方差σ2的樣條估計的盒形圖Fig.1 Box plots of spline estimates of error variance σ2 under BIC

[1] Robinson P M．Large-sample inference for nonparametric regression with dependent errors [J]．The Annals of Statistics，1997，25 (5)：2054-2083．

[2] Park C G，Kim I，Lee Y S．Error variance estimation via least squares for small sample nonparametric regression [J]．Journal of Statistical Planning and Inference，2012，142 (8)：2369-2385．

[3] Qiu D，Shao Q，Yang L．Efficient inference for autoregressive coefficients in the presence of trends [J]．Journal of Multivariate Analysis，2013，114(2)：40-53．

[4] 孫耀東，徐寶，趙志文．固定設(shè)計下時間序列非參數(shù)回歸模型的方差變點檢驗[J]．鄭州大學(xué)學(xué)報：理學(xué)版，2014，46(1)：1-4．

[5] 李佳，李永明．PA誤差下的半?yún)?shù)回歸模型估計的矩相合性[J]．信陽師范學(xué)院學(xué)報：自然科學(xué)版，2013，26(1)：23-26．

[6] Burman P．Regression function estimation from dependent observations [J]．Journal of Multivariate Analysis，1991，36 (2)：263-279．

[7] Wahba G．Bayesian “confidence intervals” for the cross-validated smoothing spline [J]．Journal of the Royal Statistical Society: Series B，1983，45(1)：133-150．

[8] Zhou S，Shen X，Wolfe D A．Local asymptotics for regression splines and confidence regions [J]．The Annals of Statistics，1998，26 (5)：1760-1782．

[9] Mao W，Zhao L H．Free-knot polynomial splines with confidence intervals [J]．Journal of the Royal Statistical Society: Series B，2003，65(4)：901-919．

[10]武新乾．線性過程誤差下回歸函數(shù)的樣條估計[J]．河南科技大學(xué)學(xué)報：自然科學(xué)版，2010，31(5)：94-97．

[11]Tran L，Roussas G，Yakowitz S，et al．Fixed-design regression for linear time series[J]．The Annals of Statistics，1996，24 (3)：975-991．

(責任編輯：孔 薇)

Spline Estimate of Error Variance in Nonparametric Regression Models

WU Xin-qian， ZHANG Gang

(SchoolofMathematicsandStatistics,HenanUniversityofScienceandTechnology,Luoyang471023,China)

Nonparametric regression models with fixed design and mixing dependent errors were considered. A polynomial spline estimate of error variance was constructed, and weak consistency of the estimator was proved. Meanwhile, the feasibility of the estimation was illustrated by a simulated example.

nonparametric regression； error variance； spline estimate； mixing； consistency

2015-04-11

國家自然科學(xué)基金資助項目，編號11326181；河南省國際科技合作計劃項目，編號134300510034；河南科技大學(xué)博士科研啟動基金資助項目，編號4010-13480008．

武新乾(1969-)，男，河南中牟人，副教授，博士，主要從事非線性時間序列分析及應(yīng)用研究，E-mail:wuxinqian1001@163.com．

武新乾,張剛.非參數(shù)回歸模型中誤差方差的樣條估計[J].鄭州大學(xué)學(xué)報：理學(xué)版，2015,47(3)：17-20.

O212.7

A

1671-6841(2015)03-0017-04

10.3969/j.issn.1671-6841.2015.03.003