基于量子條件主方程的隱馬爾可夫模型

李曉瑜，胡勇，盧俊邑，朱欽圣*

(1.電子科技大學(xué)信息與軟件工程學(xué)院 成都 610054；2.電子科技大學(xué)物理學(xué)院 成都 610054)

近年來，隨著數(shù)據(jù)信息的爆炸式增長(zhǎng)，傳統(tǒng)的機(jī)器學(xué)習(xí)算法已經(jīng)暴露出了求解效率低、運(yùn)行速度慢等弊端。為了更好地適應(yīng)人類社會(huì)發(fā)展的需求，量子計(jì)算的發(fā)展成為了一個(gè)不可抵擋的趨勢(shì)。量子計(jì)算利用量子比特進(jìn)行數(shù)據(jù)信息的讀取、存儲(chǔ)和計(jì)算。不同于經(jīng)典比特，量子比特因其疊加性和糾纏性從而實(shí)現(xiàn)高效的并行計(jì)算，這說明量子計(jì)算更能適應(yīng)當(dāng)前飛速爆炸的數(shù)據(jù)信息處理。量子計(jì)算起源于文獻(xiàn)[1]對(duì)量子圖靈機(jī)的構(gòu)想和文獻(xiàn)[2]關(guān)于繞過經(jīng)典計(jì)算機(jī)模擬量子力學(xué)困難的想法。近年來，不管是量子計(jì)算的硬件實(shí)現(xiàn)，還是算法開發(fā)都取得了較快的發(fā)展。目前實(shí)現(xiàn)量子計(jì)算的實(shí)際物理系統(tǒng)有如下幾種：離子阱[3]、中性原子[4]、光量子[5]、超導(dǎo)約瑟夫森結(jié)[6]、腔量子電動(dòng)力學(xué)[7]、液體核磁共振[8]及量子點(diǎn)[9]等。其中，量子點(diǎn)和超導(dǎo)約瑟夫森結(jié)等基于固體器件的方法因其更適合集成化和小型化而被看好[10]。近年來，量子計(jì)算已在金融、哈密頓量模擬、化學(xué)、生物、制藥及材料等各個(gè)領(lǐng)域取得成功[11-16]，這些應(yīng)用相比于經(jīng)典計(jì)算方法都有較高的加速性和準(zhǔn)確度。

在機(jī)器學(xué)習(xí)領(lǐng)域中，隱馬爾可夫模型是一個(gè)重要模型，其在股市行情預(yù)測(cè)[17-18]、自然語(yǔ)言處理[19-20]、蛋白質(zhì)測(cè)序[21-22]等領(lǐng)域已有成功應(yīng)用。經(jīng)典的隱馬爾可夫模型包含評(píng)估、解碼、學(xué)習(xí)3 個(gè)問題。在隱藏狀態(tài)維度比較小的情況下，經(jīng)典的Baum-Welch、Viterbi 及EM 算法可以有效地求解。但當(dāng)隱馬爾可夫模型的隱藏狀態(tài)維度和觀測(cè)空間的維度增大時(shí)，經(jīng)典算法在求解速度上就顯得乏力了。為了解決這個(gè)問題，人們把目光移向量子計(jì)算領(lǐng)域。類比于經(jīng)典隱馬爾可夫模型是隨機(jī)過程的特點(diǎn)，文獻(xiàn)[23]用隨機(jī)的量子算符去測(cè)量一個(gè)開放的量子系統(tǒng)，將得到的結(jié)果定義為量子隱馬爾可夫模型，并用Kraus 算符給出了量子隱馬爾可夫模型的數(shù)學(xué)定義。和經(jīng)典隱馬爾可夫模型類似，量子隱馬爾可夫模型也是一個(gè)隨機(jī)的概率圖模型，也涉及經(jīng)典隱馬爾可夫模型所存在的3 個(gè)問題，但其中最重要的問題是如何求解模型參數(shù)——Kraus 算符，即學(xué)習(xí)問題。文獻(xiàn)[24]根據(jù)EM 算法的思想提出一個(gè)用數(shù)據(jù)估計(jì)Kraus 算符的矩陣形式的算法，但此算法在隱藏狀態(tài)維度比較小的情況下才有效且容易陷入局部最優(yōu)解。不過該研究通過數(shù)值實(shí)驗(yàn)證明了在模型復(fù)雜度和精度上量子隱馬爾可夫模型優(yōu)于經(jīng)典隱馬爾可夫模型。文獻(xiàn)[25]基于流形上的優(yōu)化理論提出一種全新的學(xué)習(xí)算法來求解Kraus 算符且解決了文獻(xiàn)[24]算法的問題。從另一方面來講，量子隱馬爾可夫模型和一個(gè)量子開放系統(tǒng)相關(guān)，描述開放系統(tǒng)演化的重要方法之一是量子主方程。文獻(xiàn)[26]證明了量子開放系統(tǒng)的量子主方程可以和一個(gè)量子隱馬爾可夫模型等價(jià)，這表明量子隱馬爾可夫模型可以和真實(shí)的物理系統(tǒng)相對(duì)應(yīng)。在一個(gè)特定的量子開放系統(tǒng)——量子輸運(yùn)系統(tǒng)里，文獻(xiàn)[27]提出的量子條件主方程比量子主方程能夠更細(xì)致地描述電荷比特的輸運(yùn)過程。量子條件主方程的特點(diǎn)是：它體現(xiàn)了因測(cè)量方式所導(dǎo)致的量子系統(tǒng)內(nèi)部狀態(tài)變化的聯(lián)系。而從文獻(xiàn)[23]給出的量子隱馬爾可夫模型最初的定義來看，量子隱馬爾可夫模型也涉及對(duì)量子態(tài)的測(cè)量，這就激發(fā)了本文利用量子條件主方程來研究量子隱馬爾可夫模型的興趣，并希望從中找出量子隱馬爾可夫模型更加細(xì)致的演化過程。本文以量子輸運(yùn)系統(tǒng)為例介紹了量子條件主方程，從經(jīng)典隱馬爾可夫模型的角度提出了量子隱馬爾可夫模型，并從量子條件主方程方向推導(dǎo)出了量子隱馬爾可夫模型，給出了量子條件主方程的系數(shù)矩陣和Kraus 算符之間的關(guān)系，最后提出了求解量子隱馬爾可夫模型參數(shù)的算法。

1 背景

1.1 主方程

主方程(master equation)是統(tǒng)計(jì)物理中最重要的方程之一，用以描述隨機(jī)變量概率分布演化，廣泛應(yīng)用于金融、生物學(xué)、人口動(dòng)力學(xué)、布朗運(yùn)動(dòng)、流體及半導(dǎo)體等問題。本文用P1(y1,t1)來表示隨機(jī)變量Y在t1時(shí)刻取值為y1的概率。P2(y1,t1;y2,t2)表示隨機(jī)變量Y在t1時(shí)刻取值為y1，在t2時(shí)刻取值為y2的聯(lián)合概率。假設(shè)在t1時(shí)刻隨機(jī)變量取值為y1，在經(jīng)過時(shí)間間隔τ 后隨機(jī)變量Y取值為y2，就有：

式中，P1|1(y1,t1|y2,t2)表示在t1時(shí)刻隨機(jī)變量Y取值為y1的條件下，在t2時(shí)刻隨機(jī)變量Y取值為y2的概率。定義Wt1(y1,y2)為系統(tǒng)在時(shí)間間隔 τ內(nèi)，從狀態(tài)y1到y(tǒng)2的單位時(shí)間的轉(zhuǎn)變概率密度函數(shù)，那么在時(shí)間間隔τ內(nèi)從狀態(tài)y1到y(tǒng)2的概率密度函數(shù)為τWt1(y1,y2)，在τ內(nèi)不轉(zhuǎn)變的概率密度函數(shù)為，因此：

把式(2)對(duì)時(shí)間步長(zhǎng) τ取極限，寫成微分形式就有：

稱式(3)為主方程。

1.2 隱馬爾可夫模型

隱馬爾可夫模型是一個(gè)描述具有馬爾可夫動(dòng)力學(xué)演化性質(zhì)的概率圖模型，如圖1 所示。其中，Xt表示t時(shí)刻的隱藏狀態(tài)，Yt表示在t時(shí)刻的觀測(cè)值。

圖1 隱馬爾可夫模型

這里矩陣A和C分別表示狀態(tài)轉(zhuǎn)移矩陣和觀測(cè)矩陣，兩者都是與時(shí)間無關(guān)的常數(shù)矩陣。這樣一個(gè)隱馬爾可夫模型可用參數(shù)λ=(A,C,Π)來定義。Π是初始時(shí)刻的狀態(tài)向量。隱藏狀態(tài)的更新和獲得觀測(cè)結(jié)果由式(4)給出：

2 量子條件主方程和量子隱馬爾可夫模型

2.1 量子條件主方程

在真實(shí)的物理系統(tǒng)中，由于量子系統(tǒng)和環(huán)境有耦合作用，薛定諤方程描述量子開放系統(tǒng)就顯得不那么有效。為了描述量子開放系統(tǒng)，人們提出了量子主方程。量子主方程的核心思想是，把環(huán)境的密度矩陣和量子系統(tǒng)的密度矩陣耦合起來，再計(jì)算出整體的密度矩陣的演化方程，然后對(duì)環(huán)境做偏跡得到系統(tǒng)的演化方程。后來，為了更加細(xì)致地描述系統(tǒng)的演化，文獻(xiàn)[27]把環(huán)境空間進(jìn)行劃分，得到了量子條件主方程。為了展示如何推導(dǎo)出量子條件主方程，本文用一個(gè)量子輸運(yùn)系統(tǒng)進(jìn)行說明?？紤]一個(gè)如圖2 所示的量子輸運(yùn)系統(tǒng)，L和R分別表示左右電極，S表示量子點(diǎn)系統(tǒng)，V表示外部施加的電壓。

圖2 量子輸運(yùn)系統(tǒng)示意圖

電子在外部電壓的激勵(lì)下從右邊電極經(jīng)過量子點(diǎn)系統(tǒng)到達(dá)左邊電極。這個(gè)復(fù)合系統(tǒng)的哈密頓量可以表示為：式中，Hs(,aμ)是量子點(diǎn)的哈密頓量；(aμ)表示產(chǎn)生(湮滅)算符；HE表示左右電極的哈密頓量；H′表示電極和量子點(diǎn)耦合的哈密頓量。在量子點(diǎn)和電極處于弱耦合的情況下，把H′看成是一個(gè)微擾，根據(jù)二階矩累積展開可以得到一個(gè)描述約化密度矩陣演化的方程：

這里劉維爾超算符定義為L(zhǎng)=[Hs,(···)]，L′=[H′,(···)]。G=G(t,τ)×(···)×G?(t,τ)，其中G(t,τ)是和系統(tǒng)哈密頓量HS有關(guān)的傳播子。約化密度矩陣是對(duì)復(fù)合系統(tǒng)的密度矩陣做偏跡得來的，即ρ(t)=TrE[ρT(t)]。式(6)中的求偏跡操作是對(duì)電極所在空間的所有自由度，這并不能反映電子輸運(yùn)的細(xì)致過程。當(dāng)沒有電子經(jīng)過量子點(diǎn)的系統(tǒng)時(shí)，電極所處的空間記為E(0)，它由左右兩個(gè)孤立電極的波函數(shù)直積而形成E(0)=span{|ψL〉?|ψR(shí)〉}。當(dāng)n個(gè)電子從右電極經(jīng)過量子點(diǎn)到左電極，此時(shí)電極所在的空間記為E(n)(n=1,2,···)，即把電極所處的整個(gè)希爾伯特空間按照通過的電子數(shù)進(jìn)行劃分，如圖3 所示。則式(6)中的電極空間E可表示為E=⊕nE(n)，便得到描述量子輸運(yùn)系統(tǒng)的量子條件主方程：

圖3 電極所在希爾伯特空間劃分示意圖，五邊形表示電極的整個(gè)希爾伯特空間

式中，ρ(n)=TrE(n)[ρT(t)]表示在t時(shí)間內(nèi)有n個(gè)電子經(jīng)過量子點(diǎn)系統(tǒng)時(shí)系統(tǒng)的密度矩陣。

2.2 量子隱馬爾科夫模型

和經(jīng)典的馬爾可夫過程類似，量子隱馬爾可夫模型也可以用一組參數(shù)λQ=(ρ0,{K})來定義。ρ0與經(jīng)典隱馬爾可夫模型中的初始狀態(tài)向量 Π對(duì)應(yīng)，Kraus 算符K與矩陣A和C相對(duì)應(yīng)。對(duì)照經(jīng)典隱馬爾可夫模型的示意圖，可以用如圖4 的線路模型來表示量子隱馬爾可夫。

圖4 量子隱馬爾可夫模型的線路表示

圖中，Ky表示輸出為y時(shí)的Kraus 算符，ρt和ρt?1分別表示t時(shí)刻和t?1時(shí)刻的密度矩陣。其中，ρ0表示初始時(shí)刻的密度矩陣；{K}是一組Kraus算符且對(duì)所有的算符滿足條件。和經(jīng)典隱馬爾可夫模型相比，這里Kraus 算符 {K}同時(shí)起著演化隱藏狀態(tài)和測(cè)量輸出結(jié)果的作用。由于量子坍縮的特性，在沒有對(duì)系統(tǒng)進(jìn)行觀測(cè)時(shí)，密度矩陣演化遵循以下計(jì)算：

當(dāng)對(duì)系統(tǒng)進(jìn)行觀測(cè)后(假設(shè)觀測(cè)結(jié)果為y)，量子隱馬爾可夫的狀態(tài)掩護(hù)和測(cè)量結(jié)果用式(9)表示：

觀測(cè)到結(jié)果為y的概率為P(y,t)=Tr[Kyρ(t)]。為了求解量子隱馬爾可夫的模型參數(shù) {K}，文獻(xiàn)[24]提出了一個(gè)極大似然估計(jì)法。假設(shè)已知一組觀測(cè)序列y1,y2,···,yT，根據(jù)這組觀測(cè)數(shù)據(jù)可以構(gòu)造極大似然函數(shù)：

然后，量子隱馬爾可夫模型的參數(shù)求解問題就可以轉(zhuǎn)化成一個(gè)有約束的優(yōu)化問題：

把Km按列堆疊成一個(gè)新的維度為nm×n的新矩陣κ=[K1,K2,···,Km]T。則式(11)中的約束條件就可以改寫為：

文獻(xiàn)[28]指出式(12)中的 κ處于Stiefel 流形上，并且可以用如下的梯度下降算法來求解：

式中，U=[G,κ]；V=[κ,?G]；τ是一個(gè)處在區(qū)間[0,1]的實(shí)數(shù)。

2.3 量子條件主方程和量子隱馬爾可夫模型的聯(lián)系

本節(jié)將以量子輸運(yùn)系統(tǒng)為例展示量子條件主方程和量子隱馬爾可夫模型之間的關(guān)系，并給出求解與量子條件主方程相對(duì)應(yīng)的量子隱馬爾可夫模型參數(shù) {K}的算法。

假設(shè)式(5)中的哈密頓量具有如下形式：

式中，L和R分別表示左右電極；μ和k代表電子處在的能級(jí)和、自旋狀態(tài)和動(dòng)量；和dαμk分別表示處于電極中的電子的產(chǎn)生和湮滅算符；tαμk代表電極和量子點(diǎn)系統(tǒng)的耦合強(qiáng)度。文獻(xiàn)[27]詳細(xì)介紹了在哈密頓量為式(14)情況下的量子主方程和量子條件主方程的具體形式，其中，量子主方程為：

量子條件主方程為：

式(15)和式(16)之間的關(guān)系是：對(duì)式(16)按照指標(biāo)n求和就可以導(dǎo)出式(15)。為了方便討論，本文先考慮在量子點(diǎn)系統(tǒng)中只有單能級(jí)參與電荷比特輸運(yùn)的情況下：，ΓL和 ΓR是非負(fù)實(shí)數(shù)。則式(15)和式(16)可以簡(jiǎn)化為：

經(jīng)過推導(dǎo)[29]，式(17)和式(18)可以寫成如下形式：

在更一般的情況下，式(15)和式(16)可以寫成如下形式：

以上結(jié)果表明，描述輸運(yùn)系統(tǒng)的量子主方程和量子條件主方程經(jīng)過等價(jià)變換可以寫成和量子隱馬爾可夫模型類似的形式。從式(20a)可以看出，原有的整體密度矩陣 ρ的演化被拆分成了若干個(gè)小密度矩陣的演化，因此本文認(rèn)為量子隱馬爾可夫模型中原有的狀態(tài)可以被拆分成若干個(gè)子狀態(tài)從而實(shí)現(xiàn)更加精確的Kraus 算符的求解。式(20a)和式(20b)均可以表示量子隱馬爾可夫模型，它們兩者之間的關(guān)系是：對(duì)式(20b)按照指標(biāo)n進(jìn)行求和可得到類似于式(20a)的形式，不同之處在于對(duì)于每一個(gè)給定的觀測(cè)值y，式(20a)所表示的模型只有一個(gè)Kraus 算符相對(duì)應(yīng)，而式(20b)所表示的模型有3 個(gè)Kraus 算符相對(duì)應(yīng)。雖然在參數(shù)數(shù)量上式(20b)是式(20a)的3 倍，但由于式(20b)描述了隱藏狀態(tài)內(nèi)部細(xì)致的聯(lián)系，求解出的Kraus 的準(zhǔn)確率將會(huì)高于式(20a)所描述的模型。所以，本文基于式(20b)提出了一種求解Kraus 算符的方法。為了更加清晰地描述式(20b)所表示的量子隱馬爾可夫模型，用圖5 展示了式(20b)對(duì)應(yīng)的圖模型。其中雙點(diǎn)劃線箭頭代表屬于 {K}中的Kraus 算符Km，黑色實(shí)線(虛線)箭頭代表屬于{K′}中的Kraus 算符Km′，單點(diǎn)劃線箭頭代表屬于{K′′}中的Kraus 算符K′′?？梢园l(fā)現(xiàn)圖5 類似于神經(jīng)網(wǎng)絡(luò)，圖5 中的計(jì)算是按時(shí)刻進(jìn)行前向傳播的過程。假設(shè)已知一組序列y0,y1,···,yT，經(jīng)過T個(gè)時(shí)刻的前向傳播，可以按照如下的迭代方式構(gòu)造出似然函數(shù)：

圖5 式(20b)對(duì)應(yīng)的展開計(jì)算圖

然后用似然函數(shù)對(duì)所有可能的Kraus 算符求導(dǎo)，再進(jìn)行梯度下降算法就可以求出滿足給定序列似然函數(shù)最小的Kraus 算符的矩陣形式。本文把上述步驟總結(jié)為一個(gè)求解Kraus 算符的算法，具體步驟如下。

3 結(jié)束語(yǔ)

本文以量子輸運(yùn)系統(tǒng)為例研究了量子隱馬爾可夫模型以及對(duì)應(yīng)的參數(shù)求解算法。在參與輸運(yùn)能級(jí)不同的條件下，建立了條件主方程與量子隱馬爾可夫模型的對(duì)應(yīng)關(guān)系，即給出了量子主方程的系數(shù)和量子隱馬爾可夫模型中的狀態(tài)演化的Kraus 算符的對(duì)應(yīng)關(guān)系。最后提出了一種求解量子隱馬爾可夫模型的參數(shù)的算法。本文首次把實(shí)際的物理系統(tǒng)和機(jī)器學(xué)習(xí)中的量子隱馬爾可夫模型聯(lián)系起來，為進(jìn)一步用真實(shí)物理系統(tǒng)來實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法奠定基礎(chǔ)。量子隱馬爾可夫模型的優(yōu)勢(shì)在于求解速度快和精度高，因此能在隱藏狀態(tài)維度較大的模型參數(shù)求解問題上表現(xiàn)出優(yōu)越性。同時(shí)由于量子條件主方程中指標(biāo)n對(duì)狀態(tài)空間的劃分，使得量子隱馬爾可夫模型中的隱藏狀態(tài)劃分更加精細(xì)，從而實(shí)現(xiàn)更高精度的求解。