基于數(shù)據(jù)選擇的非負(fù)自適應(yīng)濾波算法

王紫璇

自適應(yīng)濾波器是現(xiàn)代數(shù)字濾波器中重點(diǎn)的研究方向，和傳統(tǒng)的濾波器不同，由于它可以在信號(hào)統(tǒng)計(jì)特性未知的情況下進(jìn)行自適應(yīng)學(xué)習(xí)，跟隨信號(hào)與噪聲的變化，因此目前已被廣泛應(yīng)用于信道均衡和回聲消除等數(shù)字信號(hào)處理領(lǐng)域。

系統(tǒng)辨識(shí)是自適應(yīng)濾波器的一個(gè)重要的方向，它可以用來估計(jì)系統(tǒng)的參數(shù)向量。自適應(yīng)濾波器基本存在兩種不同的方法，一是隨機(jī)梯度下降法(Stochastic Gradient Approach)和最小二乘法(Least Square)，但它們的本質(zhì)是求解無約束條件下的算法。非負(fù)性條件約束下的自適應(yīng)濾波算法，本質(zhì)上是求解條件約束下的最優(yōu)化問題。條件約束下最優(yōu)化問題是目前研究的熱點(diǎn)，例如非負(fù)最小二乘[1]、非負(fù)矩陣分解[2]等應(yīng)用。對(duì)于此類問題，常常用到廣義化的拉格朗日乘子法，即KKT(Karush-Kuhn-Tucker)條件。

近年來，學(xué)者們對(duì)非負(fù)自適應(yīng)濾波算法進(jìn)行了較多的研究。2016 年，Chen 等人提出了非負(fù)最小均方算法(Nonnegative least mean square,NNLMS)以及一系列算法[3]，解決了非負(fù)最小二乘存在的批處理實(shí)時(shí)性差的問題，進(jìn)而豐富了自適應(yīng)濾波器的理論，拓展了自適應(yīng)濾波器的研究范圍。之后，學(xué)者們又提出了許多改進(jìn)的NNLMS算法，例如指數(shù)非負(fù)最小均方算法(Exponential NNLMS)[4]和非負(fù)最小四階矩算法(Nonnegative least mean fourth,NNLMF)[5-6]和基于零范數(shù)的非負(fù)最小均方算法(l0-NNLMS)[7]。

然而，這些算法均使用了全部的輸入信號(hào)和噪聲信號(hào)數(shù)據(jù)，使得其計(jì)算量較大。因此，學(xué)者們提出了一些基于數(shù)據(jù)選擇的自適應(yīng)濾波算法，例如DS-AP 算 法、DS-LMS 算 法[8]、DS-LMSN 算 法、DSLMSQN 算法[9]和DS-DLMS 算法[10]等，提升了自適應(yīng)濾波算法的性能。但是，目前對(duì)于非負(fù)自適應(yīng)濾波算法的數(shù)據(jù)選擇研究尚屬空白。本文將數(shù)據(jù)選擇應(yīng)用于非負(fù)自適應(yīng)濾波算法當(dāng)中。該算法首先以推導(dǎo)出的非負(fù)自適應(yīng)濾波算法為基礎(chǔ)，并利用數(shù)據(jù)選擇的方法提升算法的性能。最終，采用計(jì)算機(jī)仿真試驗(yàn)來進(jìn)行驗(yàn)證。實(shí)驗(yàn)證明，該算法在很好地減少計(jì)算量的同時(shí)，仍具有和原先算法同樣的性能。

汽車和發(fā)動(dòng)機(jī)在整個(gè)壽命期間如何減少故障、延長使用壽命、提高在有限時(shí)間內(nèi)的工作質(zhì)量始終是個(gè)難題。隨著時(shí)間的發(fā)展，狀態(tài)監(jiān)控技術(shù)應(yīng)運(yùn)而生，它成為解決這個(gè)難題的重要手段和方法。狀態(tài)監(jiān)控不是判定結(jié)果(故障診斷)，而是養(yǎng)護(hù)和維修“注意”和“預(yù)測”。綜合后的SAE狀態(tài)監(jiān)測概念列于表2，信息流程如圖1所示。

1 算法推導(dǎo)

1.1 非負(fù)自適應(yīng)濾波算法

圖1 節(jié)點(diǎn)參數(shù)向量自適應(yīng)辨識(shí)框圖

自適應(yīng)濾波算法正是通過最小化均方誤差來進(jìn)行迭代更新，使權(quán)值向量逼近未知系統(tǒng)權(quán)向量w*，進(jìn)而得到最佳權(quán)值的。文獻(xiàn)[3]求解出了在非負(fù)性約束條件下節(jié)點(diǎn)的定點(diǎn)迭代公式。在非負(fù)性約束條件下，系統(tǒng)的最優(yōu)權(quán)向量滿足：

根據(jù)上文可知，NNLMS 算法迭代公式為：

高潮的博客，田卓看得津津有味。高潮這次應(yīng)聘的命運(yùn)，也在這個(gè)時(shí)候悄然發(fā)生了改變。田卓翻看了幾篇博文后，抬頭對(duì)高潮說，你馬上辦理入職手續(xù)，策劃方案就在公司寫吧。

滑帶土(T1d)④(圖2、圖3)：灰褐色，為粉質(zhì)粘土和強(qiáng)風(fēng)化泥灰?guī)r碎石組成，可塑，很濕，無搖振反應(yīng)，干強(qiáng)度及韌性中等，層厚0.40～0.50 m。巖土力學(xué)性質(zhì)詳見表1。

圖1 為節(jié)點(diǎn)參數(shù)向量自適應(yīng)辨識(shí)框圖。在非負(fù)性約束條件下的系統(tǒng)辨識(shí)中，將未知系統(tǒng)的權(quán)向量表示為，M為系統(tǒng)的抽頭個(gè)數(shù)。系統(tǒng)的期望信號(hào)滿足：

Η(k)的邊界構(gòu)成一個(gè)超平面。迭代時(shí)，我們需要檢查之前 w(n)的估計(jì)值是否在約束集的外面[11]，即是否滿足：

將式（4）代入式（5）可得：

非負(fù)性約束條件下的迭代公式推導(dǎo)基于以下兩點(diǎn)：一、對(duì)于任何正定矩陣D，一定會(huì)有的方向與的 方向一致；二、一定可以得出基于以上推導(dǎo)，可得非負(fù)性約束條件下的節(jié)點(diǎn)迭代公式為[3]：

采用SPSS13.0統(tǒng)計(jì)學(xué)軟件包把研究得到的數(shù)據(jù)建立數(shù)據(jù)庫，使用χ2檢驗(yàn)和t檢驗(yàn)方法，計(jì)量資料采用均數(shù)方差表示，兩組間比較，采用獨(dú)立樣本t檢驗(yàn)，計(jì)數(shù)資料采用百分率表示且用χ2檢驗(yàn)，P＜0.05為差異有統(tǒng)計(jì)學(xué)意義。

其中fi(w(n))為關(guān)于 w(n)的一個(gè)正值函數(shù)。文獻(xiàn)[3]取為1/2，本文也采用這一數(shù)值，即：

其中，Dw(n)為以 w(n)的元素為對(duì)角元素的對(duì)角矩陣。

1.2 基于數(shù)據(jù)選擇的非負(fù)自適應(yīng)濾波算法推導(dǎo)

半夜兩點(diǎn)，妻子從別墅的二層走到一層客廳，看到丈夫還在跟一幫賭友玩牌，就對(duì)他們說：“聽著，能不能讓我在自己的房子里安安靜靜地睡一會(huì)兒？”丈夫說：“輕點(diǎn)，親愛的，現(xiàn)在這已經(jīng)不是我們的房子了……”

其中J(w)為關(guān)于w 的代價(jià)函數(shù)，w 為系統(tǒng)最優(yōu)權(quán)向量的估計(jì)值，wi為w 的第i個(gè)元素。文獻(xiàn)[3]通過KKT(Karush-Kuhn-Tucker)條件，求解了在約束條件下的迭代公式。定義拉格朗日函數(shù)：

本組試驗(yàn)選取的數(shù)據(jù)為排水管壁試樣直徑d=100 mm、水力梯度相同的條件下，不同土體的穩(wěn)定梯度比Gr值進(jìn)行對(duì)比(如圖6所示)。圖6顯示：在試樣面積、水力梯度一致的條件下，與殘積礫質(zhì)黏性土相比，殘積砂質(zhì)黏性土的穩(wěn)定梯度比Gr值增長了21%～30%，殘積粉質(zhì)黏性土的穩(wěn)定梯度比Gr值增長了60%～69%，穩(wěn)定梯度比Gr值隨著黏性土中黏粒含量的增加而增大，且增大幅度較其他兩種影響因素大。

如果誤差信號(hào)的絕對(duì)值在約束集外，則新的估計(jì)需要更新到約束集的最近邊界。考慮先驗(yàn)誤差：

通過圖2可以看出，改進(jìn)的Hardin-Drnevich模型可較好反映長河壩大壩心墻料和堆石料在動(dòng)力條件下的材料特性。

浸沒燃燒式氣化器出口天然氣(natural gas，以下簡稱NG)的溫度和氣化器水浴溫度是SCV運(yùn)行中非常重要的參數(shù)，其中出口NG溫度是SCV運(yùn)行的關(guān)鍵聯(lián)鎖因素[4]，它的穩(wěn)定與否不僅關(guān)系到能否達(dá)到生產(chǎn)要求，而且關(guān)系到整個(gè)外輸系統(tǒng)的穩(wěn)定。而穩(wěn)定的水浴溫度對(duì)SCV的安全平穩(wěn)運(yùn)行至關(guān)重要:過高的水浴溫度會(huì)導(dǎo)致排煙熱損失增加、加速加熱管等金屬構(gòu)件的腐蝕;而過低的水浴溫度可能會(huì)導(dǎo)致水浴池內(nèi)部分區(qū)域結(jié)冰，從而導(dǎo)致傳熱惡化。因此，需要將氣化器出口NG溫度和水浴溫度控制在合理范圍內(nèi)。

根據(jù)上式推導(dǎo)可得

數(shù)據(jù)選擇的好處是可以降低算法的計(jì)算復(fù)雜度，也就是說，只有當(dāng)輸出估計(jì)誤差高于預(yù)先設(shè)定的上界時(shí)，才對(duì)于權(quán)值進(jìn)行更新。算法的目標(biāo)是設(shè)計(jì)w，使得誤差的幅度的上界為預(yù)先設(shè)定的。如果設(shè)定的值太小，則可能使得算法收斂性能不好。如果設(shè)定的值太大，則達(dá)不到數(shù)據(jù)選擇的要求。定義約束集：

算法1 DS-NNLMS 算法初始化

w(0)隨機(jī)選擇

當(dāng)k≥0 時(shí)，計(jì)算：

2 計(jì)算機(jī)仿真

采用MATLAB 對(duì)算法進(jìn)行仿真。未知系統(tǒng)的權(quán)值向量選為自適應(yīng)濾波器的初始向量隨機(jī)選擇，所有實(shí)驗(yàn)都采用相同的權(quán)向量。采用歸一化均方偏差NMSD 對(duì)算法的性能進(jìn)行評(píng)估，其表達(dá)式為

所有的NMSD 曲線為獨(dú)立學(xué)習(xí)200 次后取平均值的結(jié)果。本實(shí)驗(yàn)分別采用NNLMS 算法和DS-NNLMS算法對(duì)系統(tǒng)進(jìn)行估計(jì)。NNLMS 算法選取固定步長μ0=0.08。輸入信號(hào)和噪聲信號(hào)均為零均值的高斯白噪聲，取輸入信號(hào)的方差為0.3，噪聲信號(hào)的方差為10-3。輸入信號(hào)經(jīng)過未知系統(tǒng)后產(chǎn)生的沒有噪聲的期望信號(hào)和噪聲信號(hào)的信噪比為21dB。根據(jù)文獻(xiàn)[3]易知，經(jīng)過迭代，非負(fù)自適應(yīng)濾波器最優(yōu)權(quán)向量應(yīng)當(dāng)更新為wo=[0.8,0.6,0,0.5,0.2]T。

圖2 NNLMS和DS-NNLMS算法性能比較

由圖2 可知，NNLMS 和DS-NNLMS 算法的收斂速度和穩(wěn)態(tài)失調(diào)幾乎相同。由計(jì)算機(jī)試驗(yàn)得出，DS-NNLMS 算法在4 000 次迭代中平均只運(yùn)算了2 600次，減少了35%的計(jì)算量。而傳統(tǒng)的NNLMS 算法則使用了全部的輸入信號(hào)與噪聲信號(hào)數(shù)據(jù)。因此，可以看出，DS-NNLMS 算法在不降低算法性能的同時(shí)，有效減少了迭代更新次數(shù)，這對(duì)于大規(guī)模數(shù)據(jù)的處理是非常有益的。

3 結(jié)論

本文將數(shù)據(jù)選擇的方法應(yīng)用到了非負(fù)自適應(yīng)濾波算法中，并推導(dǎo)出了節(jié)點(diǎn)的迭代更新函數(shù)。計(jì)算機(jī)仿真試驗(yàn)表明，當(dāng)輸入信號(hào)和噪聲信號(hào)均為高斯白噪聲時(shí)，該算法可以在有效減少計(jì)算量的情況下，達(dá)到與原先的算法相同的性能。對(duì)于該問題，還可以有兩個(gè)拓展的方向。一是可以繼續(xù)減少計(jì)算量，二是將其應(yīng)用至多任務(wù)自適應(yīng)網(wǎng)絡(luò)中，利用不同節(jié)點(diǎn)之間的協(xié)作增加算法的收斂速度、縮小穩(wěn)態(tài)失調(diào)。對(duì)于這些問題，后續(xù)將進(jìn)行進(jìn)一步的研究。