基于格型結(jié)構(gòu)LMS算法的自適應(yīng)預(yù)測(cè)

摘 要：自適應(yīng)預(yù)測(cè)在語言和圖像編碼中有著大量的應(yīng)用。本文重點(diǎn)研究LMS算法的一步線性預(yù)測(cè)。其間推導(dǎo)了LMS算法在格型結(jié)構(gòu)中的表達(dá)式，并驗(yàn)證了二階格型結(jié)構(gòu)的LMS算法收斂過程，也在格型結(jié)構(gòu)系統(tǒng)中驗(yàn)證了LMS算法在一步前向預(yù)測(cè)上的準(zhǔn)確性。結(jié)果表明，在格型結(jié)構(gòu)中使用LMS算法進(jìn)行一步前向預(yù)測(cè)，能夠達(dá)到較高的準(zhǔn)確性。

關(guān)鍵詞：LMS算法;格型結(jié)構(gòu);自適應(yīng)預(yù)測(cè)

中圖分類號(hào)：TN713 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1003-5168（2020）13-0014-03

The Adaptive Prediction Based on Lattice Structure LMS Algorithm

LYU Xiaona

（Zhengzhou Business University，Zhengzhou Henan 451200）

Abstract： The adaptive prediction has a lot of applications in language and image coding. This paper focused on the one-step linear prediction of LMS algorithm. In the meantime， the expression of the LMS algorithm in the lattice structure was derived， and the convergence process of the LMS algorithm of the second-order lattice structure was verified， and the accuracy of the LMS algorithm in one-step forward prediction was also verified in the lattice structure system. The above verification shows that using the LMS algorithm for one-step forward prediction in the lattice structure can achieve higher accuracy.

Keywords： LMS algorithm;lattice structure;adaptive prediction

自適應(yīng)預(yù)測(cè)是利用一段已知的數(shù)據(jù)來估計(jì)這一段之外的數(shù)據(jù)，如果估計(jì)的數(shù)據(jù)在這一段數(shù)據(jù)之前稱為后向預(yù)測(cè)，如果估計(jì)的數(shù)據(jù)在這一段數(shù)據(jù)之后稱為前向預(yù)測(cè)。在語言和圖像編碼中，線性預(yù)測(cè)有著廣泛的應(yīng)用。線性預(yù)測(cè)編碼（LPC）就使用了線性預(yù)測(cè)的方法。

本文主要研究在格型結(jié)構(gòu)中使用LMS算法進(jìn)行一步前向預(yù)測(cè)（見圖1）的原理及方法。在自適應(yīng)算法中，LMS最大的優(yōu)點(diǎn)是算法簡(jiǎn)單，實(shí)現(xiàn)容易。格型結(jié)構(gòu)各階參數(shù)是解耦的，互相之間并不影響。在自適應(yīng)迭代過程中，相比于滑動(dòng)自回歸系統(tǒng)來說，收斂速度有一定的優(yōu)勢(shì)。本文研究了格型結(jié)構(gòu)中LMS算法的計(jì)算原理，并在二階條件下驗(yàn)證了LMS算法的收斂過程。同時(shí)，驗(yàn)證了單頻信號(hào)在跳變過程中的預(yù)測(cè)過程，可以看出，在格型結(jié)構(gòu)中，LMS算法能夠得到較好的預(yù)測(cè)結(jié)果。

1 基本理論

滑動(dòng)自回歸系統(tǒng)在時(shí)不變系統(tǒng)中有特殊的優(yōu)點(diǎn)。但在自適應(yīng)過程中，當(dāng)一個(gè)參數(shù)被調(diào)整之后，所有的零點(diǎn)或極點(diǎn)都會(huì)發(fā)生變化。為了降低參數(shù)的改變對(duì)零、極點(diǎn)的影響，系統(tǒng)往往使用格型結(jié)構(gòu)。格型結(jié)構(gòu)有全零點(diǎn)格型結(jié)構(gòu)、全極點(diǎn)格型結(jié)構(gòu)和零極點(diǎn)格型結(jié)構(gòu)。格型結(jié)構(gòu)應(yīng)用最多的是全零點(diǎn)格型結(jié)構(gòu)和全極點(diǎn)格型結(jié)構(gòu)。全零點(diǎn)格型結(jié)構(gòu)和全極點(diǎn)格型結(jié)構(gòu)屬于級(jí)聯(lián)性的，并且可以保證在調(diào)節(jié)參數(shù)時(shí)只改變對(duì)應(yīng)級(jí)的零極點(diǎn)。由于格型結(jié)構(gòu)的優(yōu)點(diǎn)，其在自適應(yīng)濾波以及線性預(yù)測(cè)等方面有大量的應(yīng)用。

本文使用全零點(diǎn)格型結(jié)構(gòu)，通過最小均方算法（LMS）進(jìn)行一步前向預(yù)測(cè)。全零點(diǎn)系統(tǒng)沒有極點(diǎn)，對(duì)應(yīng)的格型結(jié)構(gòu)如圖2所示。全零點(diǎn)系統(tǒng)的標(biāo)準(zhǔn)模式如式（1）所示[1-3]。

LMS算法的代價(jià)函數(shù)使用均方誤差，均方誤差屬于統(tǒng)計(jì)量，實(shí)際情況下，輸入信號(hào)是順序輸入的，要獲得統(tǒng)計(jì)意義上的均方誤差，需要等信號(hào)全部輸入完畢才可以獲得估計(jì)值。要根據(jù)部分輸入來獲得統(tǒng)計(jì)意義上的均方誤差是不現(xiàn)實(shí)的，所以LMS計(jì)算就使用單次采樣數(shù)據(jù)的均方誤差來代替統(tǒng)計(jì)均方誤差。根據(jù)單次數(shù)據(jù)均方誤差，可得代價(jià)函數(shù)的梯度估值，如式（3）所示。

式中，Xk和Wk為第k步迭代時(shí)的輸入信號(hào)向量和對(duì)應(yīng)的權(quán)向量;[X*k]為[Xk]的共軛向量，若輸入信號(hào)為實(shí)信號(hào)，則二者相等。LMS算法沿著負(fù)梯度方向收斂，故權(quán)值收斂方式如式（4）所示。

式中，[μ]為迭代的步進(jìn)參數(shù)，[μ]的大小決定了迭代的穩(wěn)定性。當(dāng)[μ]的取值超過一定值時(shí)，迭代過程會(huì)發(fā)散，其取值范圍如式（5）所示。

式中，[λmax]為對(duì)應(yīng)輸入信號(hào)相關(guān)矩陣的最大特征值，即輸入信號(hào)解耦后的最大功率值。

圖2的格型結(jié)構(gòu)前后兩級(jí)相對(duì)獨(dú)立，LMS算法是基于均方誤差的，所以假設(shè)以下三種相關(guān)函數(shù)。

根據(jù)參考文獻(xiàn)[3]，可知每一級(jí)的權(quán)向量為：

每一級(jí)輸出值的均方值對(duì)對(duì)應(yīng)級(jí)權(quán)向量的梯度估值為：

所以，圖2所示的格型LMS算法如式（11）所示。

式中，[μl]為每一級(jí)格型結(jié)構(gòu)的步進(jìn)迭代值。

2 試驗(yàn)結(jié)果及分析

2.1 二階格型結(jié)構(gòu)迭代過程

一步前向預(yù)測(cè)系統(tǒng)的結(jié)構(gòu)圖如圖1所示，一步前向預(yù)測(cè)的目的是通過過往的數(shù)據(jù)預(yù)測(cè)下一個(gè)數(shù)據(jù)。自適應(yīng)預(yù)測(cè)器在干擾對(duì)消和譜線增強(qiáng)等領(lǐng)域都有廣泛的使用。格型結(jié)構(gòu)可以保證在迭代過程中，每一級(jí)的參數(shù)調(diào)整不影響其他參數(shù)。為了便于觀察迭代過程，本文選擇二階對(duì)稱格型結(jié)構(gòu)。

預(yù)測(cè)系統(tǒng)往往針對(duì)有噪輸入信號(hào)，所以最終預(yù)測(cè)值會(huì)有一定的誤差，但誤差值會(huì)在一個(gè)較小范圍內(nèi)徘徊。若輸入信號(hào)是無噪，經(jīng)過迭代預(yù)測(cè)值的誤差會(huì)減小到0。二階格型結(jié)構(gòu)的系統(tǒng)函數(shù)如式（12）所示。

在二階格型結(jié)構(gòu)中，使用[x（k-1）]和[x（k-2）]來預(yù)測(cè)[x（k）]。設(shè)分別由[x（k）]、[x（k-1）]和[x（k-2）]所構(gòu)成的相關(guān)矩陣為：

由圖2和式（6）、式（7）、式（8）可知，代價(jià)函數(shù)為：

根據(jù)式（9），可得二階最佳權(quán)系數(shù)分別為：

將圖2中的格型結(jié)構(gòu)替代圖1中的自適應(yīng)濾波器，就可以得到一步預(yù)測(cè)濾波器。通過一步預(yù)測(cè)濾波器可以由過往的[x（k）]值預(yù)測(cè)[x（k）]的下一個(gè)值。這里設(shè)輸入信號(hào)為正弦信號(hào)的16倍采用速率。由式（13）和式（16）可以計(jì)算最佳權(quán)值系數(shù)[k0opt]為-0.906，而[k1opt]為0.708。圖3為上述情況的仿真結(jié)果，其中，圖3（a）為迭代150次的收斂過程，圖3（b）為迭代400次的收斂結(jié)果。圖3中的閉合曲線為誤差曲線，一般的誤差代價(jià)函數(shù)為二次多項(xiàng)式，對(duì)應(yīng)的誤差曲線為橢圓，但二階格型結(jié)構(gòu)的誤差代價(jià)函數(shù)不是二次多項(xiàng)式，所以對(duì)應(yīng)的誤差曲線并不是橢圓。圖中的誤差從中心向外依次對(duì)應(yīng)的誤差值為0.05、0.06、0.1、0.16、0.2、0.25和0.6。

由圖3（a）可以看出，三個(gè)初始權(quán)向量分別從[-1.8，3.0]、[0，3]和[0.2，-1.5]起始位置出發(fā)，通過150次的迭代，三條收斂曲線都達(dá)到了誤差值優(yōu)于0.05的范圍內(nèi)。而由圖3（b）可以看出，通過400次的迭代，三條收斂曲線都到達(dá)了最優(yōu)點(diǎn)附近。這時(shí)的誤差主要由輸入信號(hào)中引入噪聲所帶來的。通過圖3可以看出，只有經(jīng)過一定步數(shù)的迭代，不管[k0]和[k1]的初始取值從哪里開始，最終都會(huì)收斂到最佳權(quán)值位置。當(dāng)然，由于輸入信號(hào)中引入的噪聲，最終只能收斂到最佳權(quán)值附近，并在最佳權(quán)值附近徘徊，而徘徊的幅度由噪聲的功率值決定。

由圖3可以看出，使用LMS算法進(jìn)行迭代，隨著迭代步數(shù)的增加，權(quán)向量最終都會(huì)收斂到最優(yōu)權(quán)向量位置。當(dāng)然，由于輸入信號(hào)的隨機(jī)性，迭代后的權(quán)值會(huì)在最優(yōu)權(quán)向量附近徘徊。

2.2 一步前向預(yù)測(cè)效果

圖4為一步前向預(yù)測(cè)的結(jié)果，其中，輸入信號(hào)為三種不同頻率、不同幅度的信號(hào)依次輸入時(shí)的預(yù)測(cè)效果。圖4（a）是輸入信號(hào)和預(yù)測(cè)后的輸出信號(hào);圖4（b）為預(yù)測(cè)值與輸入值之間的誤差。通過圖4可以看出，當(dāng)輸入信號(hào)由一個(gè)狀態(tài)切換到另一個(gè)狀態(tài)時(shí)，對(duì)應(yīng)的誤差較大，隨著迭代過程的發(fā)展，誤差越來越小。在每次輸入信號(hào)狀態(tài)切換后，大約經(jīng)歷50次迭代后，預(yù)測(cè)值與輸入值兩者就有較好的吻合。

3 結(jié)論

本文通過分析自回歸結(jié)構(gòu)和格型結(jié)構(gòu)，導(dǎo)出自回歸結(jié)構(gòu)與格型結(jié)構(gòu)的關(guān)系，同時(shí)導(dǎo)出格型結(jié)構(gòu)下輸出端對(duì)格型系數(shù)的梯度關(guān)系。為了清晰展現(xiàn)LMS算法的收斂過程，本文選擇二階格型結(jié)構(gòu)進(jìn)行迭代收斂過程的仿真，即給出了格型結(jié)構(gòu)各級(jí)輸出對(duì)應(yīng)的代價(jià)函數(shù)，同時(shí)給出等誤差曲線。格型結(jié)構(gòu)的代價(jià)函數(shù)及誤差曲線有別于遞歸及非遞歸結(jié)構(gòu)，誤差曲線并不是橢圓線（這里針對(duì)二階結(jié)構(gòu)）?；谏鲜龇治?，本文重點(diǎn)仿真了二階格型結(jié)構(gòu)的收斂過程?？梢钥吹剑ㄟ^一定的迭代步數(shù)，不管初始格型結(jié)構(gòu)系數(shù)如何選擇，最終都會(huì)收斂到最優(yōu)權(quán)系數(shù)位置。由于輸入信號(hào)包含有隨機(jī)成分，所以最后只能收斂到最佳權(quán)值附近，并在最佳權(quán)值附近徘徊。本文最后通過單頻率變換信號(hào)和雙頻率變換信號(hào)驗(yàn)證了格型結(jié)構(gòu)下的LMS算法一步前向預(yù)測(cè)?？梢钥吹剑慨?dāng)信號(hào)變換后，通過一定步數(shù)的迭代，預(yù)測(cè)的結(jié)果就能達(dá)到一定的準(zhǔn)確度。

通過本文的分析，格型結(jié)構(gòu)下LMS算法的收斂效果比較明顯，只要迭代步數(shù)充足，最終都能收斂到較優(yōu)的狀態(tài)。通過LMS進(jìn)行一步前向預(yù)測(cè)，也可以得到較為準(zhǔn)確的預(yù)測(cè)結(jié)果。使用LMS算法的缺點(diǎn)主要在于需要的迭代步數(shù)較多，同樣條件下需要的收斂時(shí)間較長(zhǎng)。后續(xù)根據(jù)信號(hào)和系統(tǒng)的特殊性，改變迭代系數(shù)，獲取更優(yōu)的收斂速度。

參考文獻(xiàn)

[1]威德羅.自適應(yīng)逆控制[M].西安：西安交通大學(xué)出版社，2000.

[2]胡廣書.數(shù)字信號(hào)處理-理論、算法與實(shí)現(xiàn)[M].北京：清華大學(xué)出版社，2012.

[3]沈福民.自適應(yīng)信號(hào)處理[M].西安：西安電子科技大學(xué)出版社，2002.

收稿日期：2020-04-12

作者簡(jiǎn)介：呂小納（1984—），女，碩士，助教，研究方向：信號(hào)處理、神經(jīng)網(wǎng)絡(luò)。