可列非齊次隱Markov模型的強(qiáng)大數(shù)定律

楊國(guó)慶,楊衛(wèi)國(guó)

可列非齊次隱Markov模型的強(qiáng)大數(shù)定律

楊國(guó)慶,楊衛(wèi)國(guó)

(江蘇大學(xué)理學(xué)院,江蘇鎮(zhèn)江212013）

隱馬爾科夫模型被廣泛的應(yīng)用于弱相依隨機(jī)變量的建模,是研究神經(jīng)生理學(xué)、發(fā)音過(guò)程和生物遺傳等問(wèn)題的有力工具.研究了可列非齊次隱Markov模型的若干性質(zhì),得到了這類(lèi)模型的強(qiáng)大數(shù)定律,推廣了有限非齊次馬氏鏈的一類(lèi)強(qiáng)大數(shù)定律.

可列非齊次隱Markov模型;強(qiáng)大數(shù)定律;非齊次馬爾科夫鏈

1 引言

隱馬爾科夫模型作為一種簡(jiǎn)單的數(shù)學(xué)模型,近幾十年來(lái)被廣泛的應(yīng)用于弱相依隨機(jī)變量的建模,它是研究神經(jīng)生理學(xué)、發(fā)音過(guò)程和生物遺傳等問(wèn)題的有力工具.但在實(shí)際應(yīng)用中經(jīng)常遇到隱藏鏈?zhǔn)欠驱R次馬氏鏈的情形,如動(dòng)態(tài)的圖像處理[1]、氣候預(yù)測(cè)[2]等均需要建立非齊次隱Markov模型.因此研究非齊次隱Markov模型有重要的意義.

隱馬爾科夫模型在理論研究方面也取得了豐富的成果.文獻(xiàn)[3-4]分別研究了隱馬爾科夫模型在大數(shù)定律與中心極限定理方面的一些性質(zhì);文獻(xiàn)[5]系統(tǒng)介紹了隱馬爾科夫模型的性質(zhì)及定理;文獻(xiàn)[6]給出了有限隱馬爾科夫模型的定義;文獻(xiàn)[7]研究了一類(lèi)隱非齊次馬爾科夫模型的極限定理,并獲得了觀測(cè)鏈的強(qiáng)大數(shù)定律;文獻(xiàn)[8-9]研究了有限狀態(tài)的隱非齊次馬爾科夫模型的強(qiáng)大數(shù)定律.在非齊次馬氏鏈強(qiáng)大數(shù)定律的研究方面,文獻(xiàn)[10]研究了有限非齊次馬氏鏈的強(qiáng)大數(shù)定律;文獻(xiàn)[11]研究了可列非齊次馬氏鏈的一類(lèi)強(qiáng)大數(shù)定律;文獻(xiàn)[12]研究了可列非齊次馬氏鏈的另一類(lèi)強(qiáng)大數(shù)定律.本文介紹了可列非齊次隱馬爾科夫模型的性質(zhì)與等價(jià)定義,研究了可列非齊次隱馬爾科夫模型的一個(gè)強(qiáng)大數(shù)定律,推廣了有限非齊次馬氏鏈的一類(lèi)強(qiáng)大數(shù)定律.

設(shè)S={1,2,···,N}為有限狀態(tài)空間,X={Xn,n≥0}為定義在概率空間(?,F,P)上在S中取值的非齊次馬氏鏈,其初始分布與轉(zhuǎn)移矩陣列分別為:

其中pn(i,j)=P(Xn=j|Xn?1=i).

設(shè)L={1,2,···}為可列狀態(tài)空間,Y={Yn,n≥0}為定義在概率空間(?,F,P)上在L中取值的隨機(jī)變量序列,如果Y={Yn,n≥0}關(guān)于X={Xn,n≥0}是條件獨(dú)立的且Yn只依賴(lài)于Xn,即對(duì)任意n,有

則稱(chēng){X,Y}={Xn,Yn,n≥0}為可列非齊次隱Markov模型.Y={Yn,n≥0}稱(chēng)為可列非齊次隱馬爾科夫鏈,也稱(chēng)為觀測(cè)鏈.X={Xn,n≥0}稱(chēng)為隱藏鏈.

記

稱(chēng)Bn為由隱藏鏈到觀測(cè)鏈的轉(zhuǎn)移矩陣.令:

2 模型的性質(zhì)

可列非齊次隱Markov模型具有如下性質(zhì):

引理2.1設(shè)X={Xn,n≥0}與Y={Yn,n≥0}是分別在S與L中取值的隨機(jī)變量序列(3)式成立的充要條件為:對(duì)任意n,有

證明類(lèi)似于文獻(xiàn)[9]中等式的證明,可知(3)式成立的充要條件為:對(duì)固定的n與任意的k,有

因此,要證(3)式與(4)式等價(jià),只要證(4)式與(5)式等價(jià)即可.

首先證明(5)?(4).設(shè)(5)式成立,在(5)式中令k=n,有

及

由(6)式與(7)式可得(4)式成立.于是(5)?(4).

下證(4)?(5).設(shè)(4)式成立,分兩種情形加以證明.

當(dāng)k≤n時(shí),由于

及

由(8)式和(9)式可知,當(dāng)k≤n時(shí),(5)式成立.

當(dāng)k>n時(shí),由于

及

定理2.1設(shè)X={Xn,n≥0}與Y={Yn,n≥0}是分別在S與L中取值的隨機(jī)變量序列,{X,Y}={Xn,Yn,n≥0}為可列非齊次隱Markov模型的充要條件為:

證明由引理2.1及馬氏鏈的等價(jià)性可得本定理成立.

注2.1文獻(xiàn)[6]利用(12)式給出了有限隱馬爾科夫模型的定義.

注2.2由定理2.1知,可列非齊次隱馬爾科夫模型{X,Y}可以在某個(gè)概率空間實(shí)現(xiàn).

引理2.2設(shè)X={Xn,n≥0}與Y={Yn,n≥0}是分別在S與L中取值的隨機(jī)變量序列,{X,Y}={Xn,Yn,n≥0}為可列非齊次隱Markov模型的充要條件為:對(duì)任意n≥0,有

證明此證明與文獻(xiàn)[7]的引理2.1類(lèi)似,故從略.

引理2.3設(shè){X,Y}={Xn,Yn,n≥0}為非齊次隱Markov模型,并記

則對(duì)任意A∈Fn+1,有

注2.3文獻(xiàn)[7]給出引理2.3的證明,但比較粗糙,以下將給出詳細(xì)的證明.

證明要證(15)式成立,首先證A為柱集時(shí),即

時(shí)(15)式成立.以下只證k=1,2的情形.

當(dāng)k=1時(shí),由于

故當(dāng)k=1時(shí),(15)式成立.

當(dāng)k=2時(shí),由引理2.2,得

故當(dāng)k=2時(shí),(15)式成立.由歸納法當(dāng)A為任一柱集時(shí)(15)式成立,再由測(cè)度論中λ-π系方法可證當(dāng)A∈Fn+1時(shí)(15)式成立.

3 強(qiáng)大數(shù)定律

證明主要結(jié)論前先給出兩個(gè)引理.

引理3.1設(shè){X,Y}={Xn,Yn,n≥0}為S×L上取值的非齊次隱馬爾科夫模型, {gn,n≥1}為定義在S2×L2上的函數(shù)列.設(shè){φn,n≥1}是一列定義在R上的非負(fù)偶函數(shù),滿(mǎn)足當(dāng)|x|↑時(shí),

如果

則對(duì)任意m≥1,有

證明此引理的證明與文獻(xiàn)[12]中(24)式與(25)式之間的式子的證明類(lèi)似,故從略.設(shè){Xn,n≥0}是在S={1,2,···,N}中取值的非齊次馬氏鏈,其轉(zhuǎn)移矩陣列為:

令

設(shè)p(m,n)(i,j)為P(m,n)的元素,易知p(m,n)(i,j)=P(Xn=j|Xm=i)

引理3.2[11]設(shè){Xn,n≥0}是在S={1,2,···,N}中取值的非齊次馬氏鏈,其轉(zhuǎn)移矩陣列為:

設(shè)P=(p(i,j)),i,j∈S是另一個(gè)轉(zhuǎn)移矩陣.如果對(duì)任意i,j∈S,有

則對(duì)任意i,j∈S及任何正整數(shù)m和v,有

其中p(v)(i,j)是由P確定的v步轉(zhuǎn)移概率.

定理3.1設(shè){X,Y}={Xn,Yn,n≥0}為如前定義的可列非齊次隱Markov模型,其中非齊次馬氏鏈(隱藏鏈)X={Xn,n≥0}的轉(zhuǎn)移矩陣為:

{gn,n≥1}是定義在S2×L2的四元函數(shù)列,{φn,n≥1}如引理3.1,設(shè)

是另一個(gè)轉(zhuǎn)移矩陣,且P是不可約的.令

h(i)是定義在S上的函數(shù),如果(19)式與(22)式成立,并且對(duì)任意的i∈S,有

則

其中π=(π1,π2,···,πN)是由P確定的唯一平穩(wěn)分布.

注3.1由引理2.3知{X,Y}為非齊次馬氏雙鏈,其轉(zhuǎn)移概率為:

這對(duì)研究強(qiáng)大數(shù)定律沒(méi)有幫助,因?yàn)闂l件不易加到這樣的轉(zhuǎn)移概率中.

證明令Fn=σ(,),由引理2.3,知

設(shè)p(k)(i,j)為Pk的元素,可得

由(25)式易得當(dāng)n→∞時(shí),(28)式第一項(xiàng)極限為零,再由(22)式可得當(dāng)n→∞時(shí),(28)式第二項(xiàng)極限也為零.由(19)式可得(20)式成立.于是,由(28)式與(20)式可得:

由(29)式知,對(duì)任意N,有

因?yàn)?/p>

由于P是不可約的,當(dāng)N充分大時(shí),(31)式右端可以任意小.由(30)式與(31)式可知(26)式成立.

推論3.1[10]設(shè)X={Xn,n≥0}為在S中取值的非齊次馬氏鏈,其初始分布與轉(zhuǎn)移矩陣列分別為(1)式與(2)式,設(shè)Sn(k,ω)是X0(ω),X1(ω),···,Xn?1(ω)中k出現(xiàn)的次數(shù),即

其中δk(·)為Kronecker δ函數(shù).設(shè)P是另外一個(gè)轉(zhuǎn)移矩陣,假設(shè)P是不可約的.如果(22)式成立,則

其中π=(π1,π2,···,πN)是由P確定的唯一平穩(wěn)分布.

證明在定理3.1中令gn=δk(Xn),則(19)式顯然成立.又

令h(i)=p(i,k),由(22)式可得(25)式成立.由于π是P的平穩(wěn)分布,所以有

由定理3.1,有

即(33)式成立.

推論3.1設(shè){X,Y}={Xn,Yn,n≥0}為如前定義的可列非齊次隱Markov模型,其隱藏鏈的轉(zhuǎn)移矩陣列為(2)式,由隱藏鏈到觀測(cè)鏈的轉(zhuǎn)移矩陣列為:

設(shè)Tn(m,ω)是Y0,Y1,···,Yn?1中m出現(xiàn)的次數(shù),設(shè)P是S×S上的另一轉(zhuǎn)移矩陣,假設(shè)P是不可約的,設(shè)bm(j)是S上的函數(shù).如果(22)式成立,并且對(duì)任意j∈S,有

則

證明在定理3.1中令gn=δm(Yn?1),則(19)式顯然成立.又因?yàn)?/p>

令h(j)=bm(j),由(34)式可得(25)式成立.再由(22)式及定理3.1,可得

即(35)式成立.

[1]Lacrz B,Lasala P,Lekuona A.Dynamic graphical models and nonhomogeneous hidden Markov models[J]. Stat.Probab.Letts.,2000,49:377-385.

[2]Bates B C,Charles S P,Hughes P.Stochastic downscaling of numerical climate model simulations[J]. Envrionmental Modelling Software,1998,13:325-331.

[3]Leroux B G.Maximum-likelihood estimation for hidden Markov models[J].Stochastic Processes and their Appl.,1992,40:127-143.

[4]Bickel P,Ritov Y,Ryden T.A smptotic normality of the maximum-likelihood estimation for general hidden Markov models[J].The Annals of Statistics,1998,26(4):1614-1635.

[5]Ephrain Y,Merhav N.Hidden Markov process[J].2002,48(6):1518-1569.

[6]龔光魯,錢(qián)敏平.應(yīng)用隨機(jī)過(guò)程[M].北京:清華大學(xué)出版社,2004.

[7]吳小太,楊衛(wèi)國(guó).隱非齊次馬爾科夫模型的強(qiáng)大數(shù)定律[J].數(shù)學(xué)雜志,2011,31(2):314-322.

[8]吳小太,吳艷蕾.隱非齊次馬爾科夫模型的強(qiáng)大數(shù)定律[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué),2009,25(3):502-506.

[9]Chung K L.A Course in Probability Theory[M].2nd ed,New York:Academic Press,1974.

[10]Yang W G.The asymptotic equipartition property for a nonhomogeneous Markov information source[J]. Probability in the Engineering and Informational Science,1998,12:509-518.

[11]Yang W G.Convergence in the ces`aro sense and strong law of large numbers for countable nonhomogeneous Markov chains[J].Linear Algebra and its Application,2002,354:275-286.

[12]Yang W G.Strong law of large numbers for countable nonhomogeneous Markov chains[J].Linear Algebra and its Application,2009,430:3009-3018.

Strong law of large numbers for countable nonhomogeneous hidden Markov models

Yang Guoqing,Yang Weiguo
(Faculty of Science,Jiangsu University,Zhenjiang212013,China)

Hidden Markov models have been widely used for modeling sequences of weakly dependent random variables,with application in areas such as speech processing,neurophysiology and biology.In this paper,we study some properties of countable nonhomogeneous hidden Markov models,get the strong law of large numbers for those Markov models and extend a class of the strong law of large numbers for f i nite nonhomogeneous Markov chains.

countable nonhomogeneous hidden Markov models,strong law of large numbers, nonhomogeneous Markov chains

O211.62

A

1008-5513(2014)06-0618-09

10.3969/j.issn.1008-5513.2014.06.011

2014-07-16.

國(guó)家自然科學(xué)基金(11071104)

楊國(guó)慶(1988-),碩士生,研究方向：馬氏鏈.

2010 MSC:60G05