極大似然估計(jì)的間接求法

顧蓓青，王蓉華，徐曉嶺，吳生榮

（1.上海對(duì)外貿(mào)易學(xué)院 商務(wù)信息學(xué)院，上海 201620；2.上海師范大學(xué) 數(shù)理學(xué)院，上海 200234；3.宜興出入境檢驗(yàn)檢疫局，江蘇 宜興 214200）

1 全樣本極大似然估計(jì)

設(shè)連續(xù)型總體X的分布函數(shù)和密度函數(shù)分別記為FX（x,θ）和 fx(x,θ)，x∈(a,b)，-∞≤a＜b≤∞，θ 為未知參數(shù)。 而 X1,X2,…，Xn為來(lái)自總體X的容量為n的一個(gè)簡(jiǎn)單隨機(jī)樣本，x1,x2,…，xn為其觀察值。

記(X1,X2,…，Xn)的聯(lián)合密度也即似然函數(shù)為 Lx(θ)，則

令函數(shù)y=g(x)，a＜x＜b其不含有任何未知參數(shù)。如果可以把(a,b)分為（有窮個(gè)或可列個(gè)）兩兩不交的區(qū)間(ak,bk]，k=1,2…，使y=g(x)在每一個(gè)小區(qū)間上滿(mǎn)足嚴(yán)格單調(diào)且反函數(shù)連續(xù)可微，則隨機(jī)變量Y=g(X)的密度函數(shù)為：

fY(y,θ)Σk

fk(y,θ)，y∈(-∞,∞)

令 Yi=g(Xi)，i=1,2,…，n，則 Y1,Y2,…，Yn為來(lái)自總體 Y 的容量為n的一個(gè)簡(jiǎn)單隨機(jī)樣本，y1,y2,…，yn為其觀察值。

記(Y1,Y2,…，Yn)的聯(lián)合密度也即似然函數(shù)為 LY(θ)，則

注意到，對(duì) xi,i=1,2,…，n 總存在 ki，使 xi∈(aki,bki]，也即對(duì)yi∈(αki,βki]，有

于是 LY(θ)=易知

即用總體X的樣本X1,X2,…，Xn得到的參數(shù)θ的極大似然估計(jì)與用總體Y的樣本Y1,Y2,…，Yn得到的參數(shù)θ的極大似然估計(jì)是相同的。

例 1：設(shè)總體 X 服從對(duì)數(shù)正態(tài)分布，記為 X～LN（μ，σ2），其密度函數(shù)為：fX(x,μ，σ2)=其中 μ,σ2是未知參數(shù)，X1,X2,…，Xn是 X 的一個(gè)樣本，求 μ,σ2的極大似然估計(jì)。

則μ，σ2的 MLE 為：

解法二：若 X～LN(μ，σ2)，則 Y=lnX～N（μ，σ2）.令 Yi=lnXi，i=1,2,…，n由此Y1,Y2,…，Yn為來(lái)自正態(tài)分布總體Y一個(gè)簡(jiǎn)單隨機(jī)樣本，易知參數(shù) μ,σ2的 MLE 為

例 2：設(shè)總體 X 服從 U[-θ,θ],θ＞0 為未知參數(shù)，其密度函數(shù)為 fx(x,θ)=

，X1，X2，…，Xn是 X 的一個(gè)樣本，X(1)≤X(2)≤…≤X(n)為其次序統(tǒng)計(jì)量。求θ的極大似然估計(jì)。解法一：似然函數(shù)為：

則從總體X出發(fā)得到參數(shù)θ的極大似然估計(jì)為：

θ^=max(|X1|,|X2|,…，|Xn|)=max(|X(1)|，|X(n)|)

解法二：令函數(shù) y=x2，-θ≤x≤θ，此函數(shù)分為兩段，即在[-θ，0)段上它嚴(yán)格單調(diào)下降，反函數(shù)連續(xù)可微，而在段上嚴(yán)格單調(diào)上升，反函數(shù)連續(xù)可微。

2 定數(shù)截尾樣本（單增）極大似然估計(jì)

設(shè)連續(xù)型總體X的分布函數(shù)和密度函數(shù)分別記為FX(x,θ)和 fx(x,θ)，x∈(a,b)，-∞≤a＜b≤∞，θ 為未知參數(shù)。 而 X(1)≤X(2)≤…≤X（r）為來(lái)自總體X的容量為n的前r個(gè)次序統(tǒng)計(jì)量，x(1)≤x(2)≤…≤x（r）為其觀察值。

記(X(1)≤X(2)≤…≤X（r）)的聯(lián)合密度也即似然函數(shù)為 LX(θ)，則

令函數(shù)y=g(x)，a＜x＜b其不含有任何未知參數(shù)，并對(duì)x是嚴(yán)格單調(diào)增加的。 記其反函數(shù)為 x=h(y)，g(a)＜y＜g(b)。

令 Y=g(X)，Y(i)=g(X(i))，i=1,2,…，r 則 Y(1)≤Y(2)≤…≤Y（r）為來(lái)自總體Y的容量為n的前r個(gè)次序統(tǒng)計(jì)量，y(1)≤y(2)≤…≤y（r）為其觀察值。 對(duì) y∈(g(a),g(b))，記(Y(1)≤Y(2)≤…≤Y（r）)的聯(lián)合密度也即似然函數(shù)為 LY(y,θ)，則

即用總體 X 的前 r個(gè)次序統(tǒng)計(jì)量 X(1)≤X(2)≤…≤X（r）得到的參數(shù)θ的極大似然估計(jì)與用總體Y的前r個(gè)次序統(tǒng)計(jì)量，Y(1)≤Y(2)≤…≤Y（r）得到的參數(shù)θ的極大似然估計(jì)是相同的。

3 定數(shù)截尾樣本（單減）極大似然估計(jì)

設(shè)連續(xù)型總體X的分布函數(shù)和密度函數(shù)分別記為FX(x,θ)和 fX(x,θ)，x∈(a,b)，-∞≤a＜b≤∞，θ 為未知參數(shù)。 而 X(1)≤X(2)≤…≤X（r）為來(lái)自總體X的容量為n的前r個(gè)次序統(tǒng)計(jì)量，x(1)≤x(2)≤…≤x（r）為其觀察值。

記(X(1)≤X(2)≤…≤X（r）)的聯(lián)合密度也即似然函數(shù)為 LX(θ)，則

令函數(shù)y=g(x)，a＜x＜b其不含有任何未知參數(shù)，并對(duì)x是嚴(yán)格單調(diào)遞減的。記其反函數(shù)為x=h(y),g(b)＜y＜g(a).

令 Y=g(X)，Y(i)=g(X(n-i+1))，i=n-r+1,n-r+2,則 Y(n-r+1)≤Y(n-r+1)≤…≤Y(n)為來(lái)自總體Y的容量為n的后r個(gè)次序統(tǒng)計(jì)量，Y(n-r+1)≤Y(n-r+2)≤…≤Y(n)為其觀察值。 對(duì) y∈(g(b),g(a))，

FY（y,θ）=P(Y≤y)=P(g(X)≤y)=P(X≥h(y))=1-FX（h(y),θ）=1-FX（x,θ）

記Y(n-r+1)≤Y(n-r+2)≤…≤Y(n)的聯(lián)合密度也即似然函數(shù)為L(zhǎng)Y（θ），則

即用總體 X 的前 r個(gè)次序統(tǒng)計(jì)量 X(1)≤X(2)≤…≤X（r）得到的參數(shù)θ的極大似然估計(jì)與用總體Y的后r個(gè)次序統(tǒng)計(jì)量Y(n-r+1)≤Y(n-r+2)≤…≤Y(n)得到的參數(shù)θ的極大似然估計(jì)是相同的。

例 3：設(shè)總體 X服從 U[0,θ],θ＞0為未知參數(shù)，其密度函數(shù)為fx(x,θ)=是 X 的容量為 n 前 r個(gè)次序統(tǒng)計(jì)量。求θ的極大似然估計(jì)。

解法二：令函數(shù) y=ex，x∈[0,θ]，此為嚴(yán)格單調(diào)增函數(shù)。 令Y=eX，Y(i)=eX(i)，i=1,2,…，r，則 Y(1)，Y(2)，…，Y(r)是 Y 的容量為 n前r個(gè)次序統(tǒng)計(jì)量。

解法三：令函數(shù) y=e-x，x∈[0,θ]此為嚴(yán)格單調(diào)減函數(shù)。 令Y=e-X，Y(i)=e-X(n-i+1)，i=n-r+1,n-r+2,…，n，則 Y(n-r+1)≤Y(n-r+2)≤…≤Y(n)是Y的容量為n后r個(gè)次序統(tǒng)計(jì)量。對(duì)e-θ≤y≤1，

4 一般情況

設(shè)總體 X 的分布函數(shù)和密度函數(shù)分別為 F(x,θ)，f(x,θ)，X1，X2，…，Xn為X的容量為n的一個(gè)簡(jiǎn)單隨機(jī)樣本，如果僅知道 X(n1)，X(n2)，…，X(ns)（1≤n1＜n2＜…＜ns≤n）這 s個(gè)觀察值。 而這 s個(gè)次序統(tǒng)計(jì)量 X(n1)，X(n2)，…，X(ns)（1≤n1＜n2＜…＜ns≤n）的聯(lián)合密度函數(shù)也即似然函數(shù)為：

利用上述似然函數(shù)可得參數(shù)θ的極大似然估計(jì)θ^1。

令函數(shù) y=g(x)，其為嚴(yán)格單調(diào)函數(shù)，令 Y=g(X)，Y(ni)=g(X(n2))，i=1,2,…，s則可利用來(lái)自總體Y的s個(gè)統(tǒng)計(jì)量Y(ni)=g(X(ni))，i=1,2,…，s的聯(lián)合密度可求得參數(shù)θ的極大似然估計(jì)θ^2，而且有θ^1=θ^2。

[1]孫祝嶺，徐曉嶺.數(shù)理統(tǒng)計(jì)[M].北京：高等教育出版社，2009.

[2]葉中行，王蓉華，徐曉嶺，白云芬.概率論與數(shù)理統(tǒng)計(jì)[M].北京：北京大學(xué)出版社，2009.

[3]汪榮鑫.數(shù)理統(tǒng)計(jì)[M].西安：西安交通大學(xué)出版社，1986.

[4]周概容.概率論與數(shù)理統(tǒng)計(jì)[M].北京：中國(guó)商業(yè)出版社，2006.

[5]茆詩(shī)松，周紀(jì)薌.概率論與數(shù)理統(tǒng)計(jì)[M].北京：中國(guó)統(tǒng)計(jì)出版社，2000.