基于MEMS諧振器硬件儲(chǔ)備池計(jì)算的類腦信號(hào)處理方法

鄒旭東 楊伍昊 郭瀟威 孫 杰 鄭天依

（1.傳感技術(shù)國(guó)家重點(diǎn)實(shí)驗(yàn)室，中國(guó)科學(xué)院空天信息創(chuàng)新研究院，北京 100190；2.齊魯空天信息研究院，山東濟(jì)南 250132）

1 引言

近年來(lái)，得益于信息技術(shù)與傳感技術(shù)的快速發(fā)展，傳感技術(shù)在物聯(lián)網(wǎng)、泛在傳感等新興領(lǐng)域中的應(yīng)用也取得一定突破［1］。成千上萬(wàn)的傳感器節(jié)點(diǎn)產(chǎn)生的海量傳感數(shù)據(jù)也隨之爆炸式地積累起來(lái)，并且消耗著越來(lái)越多的傳輸帶寬、存儲(chǔ)容量和能量。這就要求信息處理終端能夠高效、低功耗地處理信息。然而，傳統(tǒng)基于馮·諾伊曼架構(gòu)的計(jì)算范式的計(jì)算效率又受限于電子器件性能和速度的物理極限。這種矛盾激發(fā)了人們對(duì)高效的新型計(jì)算范式進(jìn)行探索。其中，人工神經(jīng)網(wǎng)絡(luò)［2］以其較強(qiáng)的自學(xué)習(xí)適應(yīng)性，并行信息處理能力和非線性映射能力等特點(diǎn)，已經(jīng)被廣泛應(yīng)用于模式識(shí)別［3］、圖像識(shí)別［4］、目標(biāo)檢測(cè)［5］、人工智能［6］等應(yīng)用領(lǐng)域。同時(shí)，人工神經(jīng)網(wǎng)絡(luò)以其良好的特征提取能力，模式識(shí)別與分類能力也成功吸引了同樣需要對(duì)信號(hào)進(jìn)行分類、識(shí)別和提取的雷達(dá)信號(hào)處理領(lǐng)域的研究人員，成為近幾年在復(fù)雜電磁環(huán)境、低信噪比情況下對(duì)復(fù)雜多樣的雷達(dá)信號(hào)脈內(nèi)調(diào)制類型進(jìn)行識(shí)別、分類的有力工具［7-12］。通常，雷達(dá)信號(hào)的處理手段主要包括雷達(dá)信號(hào)特征的分類、識(shí)別和提取。但是，在外界電磁干擾情況下，雷達(dá)信號(hào)的特征，如載波頻率、脈沖幅度、脈沖波形等容易受到噪聲的影響，從而給信號(hào)的識(shí)別和分類帶來(lái)極大困難。因此，在復(fù)雜電磁環(huán)境下，對(duì)雷達(dá)信號(hào)的高效信息處理成為現(xiàn)代雷達(dá)應(yīng)用領(lǐng)域最為突出的挑戰(zhàn)之一。

然而，在應(yīng)用人工神經(jīng)網(wǎng)絡(luò)對(duì)雷達(dá)信號(hào)進(jìn)行處理的過(guò)程中，往往需要用到復(fù)雜的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。人工神經(jīng)網(wǎng)絡(luò)在處理大規(guī)模網(wǎng)絡(luò)時(shí)，其網(wǎng)絡(luò)連接權(quán)值的訓(xùn)練往往需要使用復(fù)雜且耗時(shí)的算法。并且標(biāo)準(zhǔn)的前饋神經(jīng)網(wǎng)絡(luò)由于網(wǎng)絡(luò)神經(jīng)元之間成有向樹(shù)的分布，不存在環(huán)路，因此難以處理與時(shí)序相關(guān)的數(shù)據(jù)。雖然通過(guò)改變神經(jīng)元的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)，增加環(huán)路結(jié)構(gòu)可以構(gòu)成遞歸神經(jīng)網(wǎng)絡(luò)，使其具備處理與時(shí)序相關(guān)數(shù)據(jù)的能力，但是，由于歷史信息在遞歸神經(jīng)網(wǎng)絡(luò)內(nèi)部會(huì)隨著時(shí)間逐漸消退，使得傳統(tǒng)的基于梯度下降的訓(xùn)練算法不僅時(shí)間代價(jià)昂貴，且容易陷入局部最優(yōu)值，難以對(duì)其進(jìn)行訓(xùn)練。針對(duì)這個(gè)問(wèn)題，一種基于遞歸神經(jīng)網(wǎng)絡(luò)的改進(jìn)型計(jì)算范式被提出，即儲(chǔ)備池計(jì)算（Reservoir Computing，RC）［13-14］。儲(chǔ)備池計(jì)算通常由輸入層、儲(chǔ)備池層和輸出層組成。其中，儲(chǔ)備池通常是一個(gè)隨機(jī)連接的非線性節(jié)點(diǎn)網(wǎng)絡(luò)，能將輸入數(shù)據(jù)非線性地映射到高維空間，從而使輸入的特征能夠通過(guò)簡(jiǎn)單的算法（如線性回歸）有效地讀出。在訓(xùn)練過(guò)程中，儲(chǔ)備池包含的隨機(jī)連接的非線性節(jié)點(diǎn)網(wǎng)絡(luò)保持不變，只需要訓(xùn)練輸出權(quán)值。這種特殊的拓?fù)浣Y(jié)構(gòu)和訓(xùn)練策略，使其根本上繞開(kāi)了基于梯度下降的學(xué)習(xí)算法的缺陷。使用簡(jiǎn)單的線性回歸算法訓(xùn)練輸出權(quán)值，保證了所取得的極值點(diǎn)是全局最優(yōu)點(diǎn)。因此，相比于遞歸神經(jīng)網(wǎng)絡(luò)，儲(chǔ)備池計(jì)算模型具有訓(xùn)練簡(jiǎn)單，高效，不存在局部最優(yōu)情況等優(yōu)勢(shì)。更重要的是，儲(chǔ)備池層非線性節(jié)點(diǎn)網(wǎng)絡(luò)不變的拓?fù)浣Y(jié)構(gòu)可以方便地通過(guò)各種具有非線性響應(yīng)和衰減記憶（fading memory）的動(dòng)力學(xué)系統(tǒng)來(lái)硬件實(shí)現(xiàn)［15-16］。通常情況下，主要有兩種儲(chǔ)備池結(jié)構(gòu)的硬件實(shí)現(xiàn)方式：一種是隨機(jī)連接的大量非線性節(jié)點(diǎn)網(wǎng)絡(luò)；一種是單個(gè)非線性節(jié)點(diǎn)搭配一個(gè)延遲反饋回路的延遲反饋型非線性動(dòng)力系統(tǒng)。相比而言，延遲反饋型非線性動(dòng)力系統(tǒng)由于只需要一個(gè)非線性器件和一個(gè)具有延遲反饋功能的控制回路，從而更容易硬件層面的實(shí)現(xiàn)。并且，這種延遲反饋型的儲(chǔ)備池計(jì)算已經(jīng)成功在諸如振蕩電路［15］、自旋電子學(xué)器件［17-19］、憶阻器［20-24］、光電器件［25-27］以及微機(jī)電（Micro-Electro-Mechanical Sys?tem，MEMS）諧振器［28-30］等體系中實(shí)現(xiàn)。在這些已有報(bào)道中，基于各種非線性系統(tǒng)的硬件儲(chǔ)備池計(jì)算的分類、預(yù)測(cè)能力也在相應(yīng)的通用分類、預(yù)測(cè)數(shù)據(jù)集的基準(zhǔn)測(cè)試中得到了有效驗(yàn)證。此外，儲(chǔ)備池計(jì)算易于實(shí)現(xiàn)、易于訓(xùn)練的特點(diǎn)以及其強(qiáng)大的分類預(yù)測(cè)能力也為低信噪比環(huán)境下運(yùn)動(dòng)目標(biāo)的低功率雷達(dá)微波多普勒（Micro-Doppler，MD）特征識(shí)別［31］，提高實(shí)時(shí)線性頻率調(diào)制（Linear frequency modulated，LFM）脈沖波形識(shí)別的效率［32］，提高合成孔徑雷達(dá)（Synthetic aperture radar，SAR）圖像分類、信息處理的效率［33］等方面提供了強(qiáng)有力的工具。

但是，儲(chǔ)備池計(jì)算的分類能力、時(shí)序預(yù)測(cè)能力與儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)、非線性動(dòng)態(tài)豐富度、神經(jīng)元之間的連接強(qiáng)度等均有關(guān)系。針對(duì)不同的任務(wù)，有不同的儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)的適用結(jié)構(gòu)以及參數(shù)優(yōu)化方法。而以上這些，在現(xiàn)有報(bào)道的文獻(xiàn)中鮮有報(bào)道和討論，特別是基于MEMS 諧振器的硬件儲(chǔ)備池計(jì)算針對(duì)不同任務(wù)的適用結(jié)構(gòu)以及優(yōu)化方法，更是空白。

本論文在前期對(duì)MEMS 諧振器非線性響應(yīng)深入研究的基礎(chǔ)上，根據(jù)MEMS 諧振器不同的非線性響應(yīng)特性設(shè)計(jì)并搭建了兩種儲(chǔ)備池計(jì)算的拓?fù)浼軜?gòu)，即基于MEMS 雙端固支梁諧振器的延遲反饋型儲(chǔ)備池計(jì)算拓?fù)浣Y(jié)構(gòu)［30］以及沒(méi)有延遲反饋結(jié)構(gòu)的混合非線性（Hybrid Nonlinear，HNL）儲(chǔ)備池計(jì)算拓?fù)浣Y(jié)構(gòu)［29］。前期工作雖然已經(jīng)分別對(duì)兩種拓?fù)浼軜?gòu)進(jìn)行了介紹。本文重點(diǎn)將針對(duì)兩種結(jié)構(gòu)的儲(chǔ)備池計(jì)算對(duì)不同任務(wù)的適用性展開(kāi)深入討論，并嘗試對(duì)雷達(dá)信號(hào)處理領(lǐng)域中的線性頻率調(diào)制脈沖波形進(jìn)行特征分類和提取，為雷達(dá)信號(hào)處理提供新的思路和方法，也為MEMS 傳感技術(shù)與雷達(dá)信號(hào)處理技術(shù)的交叉融合進(jìn)行積極探索。

2 雙端固支硅微梁諧振器非線性響應(yīng)

本論文儲(chǔ)備池層非線性節(jié)點(diǎn)由具有非線性響應(yīng)的雙端固支硅微梁諧振器構(gòu)成。諧振器尺寸，振動(dòng)模態(tài)、幅頻響應(yīng)特性等通過(guò)有限元仿真軟件COMSOL 進(jìn)行仿真，其非線性響應(yīng)特性通過(guò)MatLab中Simulink仿真工具進(jìn)行搭建。諧振器的工藝加工依托我們實(shí)驗(yàn)室的4 寸MEMS 工藝線，通過(guò)標(biāo)準(zhǔn)的3 塊掩模板工藝，在絕緣襯底上硅（Silicon on Insula?tor，SOI）晶圓上相繼經(jīng)過(guò)金屬電極制備、硅結(jié)構(gòu)圖形化和刻蝕、背面犧牲層釋放等標(biāo)準(zhǔn)SOI 工藝流程制備而成［30］。

MEMS硅微諧振器由于硅材料固有的非線性剛度效應(yīng)、尺寸效應(yīng)以及加工制備工藝誤差等的影響，具有豐富的非線性效應(yīng)［34-37］。這些非線性效應(yīng)為基于MEMS 硅微諧振器的儲(chǔ)備池計(jì)算硬件實(shí)現(xiàn)方案提供了諸多可能。

圖1是平行板靜電驅(qū)動(dòng)檢測(cè)的雙端固支梁諧振器結(jié)構(gòu)示意圖。以雙端固支梁為研究對(duì)象，對(duì)其進(jìn)行振動(dòng)力學(xué)分析，其運(yùn)動(dòng)微分方程如公式（1）所示：

圖1 平行板靜電驅(qū)動(dòng)檢測(cè)的雙端固支梁諧振器結(jié)構(gòu)示意圖Fig.1 Schematic of clamped-clamped beam resonator with parallel plate electrostatic drive detection

在較大靜電驅(qū)動(dòng)作用下，其非線性響應(yīng)主要表現(xiàn)為Duffing 非線性（Duffing Nonlinear，DuNL）。同時(shí)，在欠阻尼二階微分動(dòng)力系統(tǒng)中，系統(tǒng)從被激勵(lì)到穩(wěn)態(tài)振蕩，去掉激勵(lì)后由穩(wěn)態(tài)振蕩開(kāi)始衰減到靜態(tài)的過(guò)程中，也分別對(duì)應(yīng)非線性響應(yīng)。我們將此非線性定義為瞬態(tài)非線性（Transient Nonlinear，TNL）［29］。因此，當(dāng)MEMS雙端固支硅微梁諧振器被驅(qū)動(dòng)到非線性響應(yīng)狀態(tài)，作為儲(chǔ)備池層非線性節(jié)點(diǎn)時(shí)。其非線性響應(yīng)主要受Duffing 非線性和瞬態(tài)非線性的影響，如圖2 所示。T1 階段表示系統(tǒng)從被激勵(lì)到穩(wěn)態(tài)振蕩的過(guò)程，T3階段表示系統(tǒng)在沒(méi)有外界輸入情況下從穩(wěn)態(tài)振蕩衰減到靜態(tài)的過(guò)程，這兩個(gè)階段，諧振器處于由Duffing 非線性和瞬態(tài)非線性共同主導(dǎo)的非線性響應(yīng)狀態(tài)，我們將其成為混合非線性（Hybrid Nonlinear，HNL）。T2階段表示諧振器穩(wěn)定振蕩狀態(tài)，T4階段表示靜態(tài)，這兩個(gè)階段，諧振器所表現(xiàn)出的非線性響應(yīng)主要是Duffing非線性。

圖2 諧振器從被激振到穩(wěn)態(tài)再衰減至靜態(tài)過(guò)程中非線性響應(yīng)示意圖Fig.2 Schematic of nonlinear response of resonator from excited to steady state and then attenuation to static state

3 儲(chǔ)備池計(jì)算拓?fù)浼軜?gòu)概述

利用雙端固支硅微梁諧振器穩(wěn)態(tài)振蕩的非線性響應(yīng)作為儲(chǔ)備池計(jì)算非線性節(jié)點(diǎn)的非線性映射，為其搭配適當(dāng)?shù)难舆t反饋結(jié)構(gòu)，即可構(gòu)成一個(gè)延遲反饋型儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)。連同對(duì)輸入信號(hào)進(jìn)行預(yù)處理的輸入層以及可以對(duì)虛擬節(jié)點(diǎn)狀態(tài)進(jìn)行后處理的輸出層一同構(gòu)成延遲反饋型儲(chǔ)備池計(jì)算，如圖3所示。

圖3 單非線性節(jié)點(diǎn)單延遲反饋型儲(chǔ)備池計(jì)算結(jié)構(gòu)示意圖Fig.3 Schematic of RC with single nonlinear node and single delay loop

原始輸入數(shù)據(jù)在輸入層經(jīng)過(guò)采樣保持處理后得到輸入信號(hào)I（t），然后再利用一個(gè)與儲(chǔ)備池內(nèi)非線性虛擬節(jié)點(diǎn)數(shù)同維度的隨機(jī)掩碼（Mask）函數(shù)將其調(diào)制，再與輸入增益β相乘后輸入到儲(chǔ)備池中的非線性節(jié)點(diǎn)。隨機(jī)掩碼（Mask）函數(shù)的調(diào)制一方面消除了時(shí)序輸入數(shù)據(jù)自身的對(duì)稱性，另一方面也給反饋環(huán)中每個(gè)虛擬節(jié)點(diǎn)賦予隨機(jī)且固定的權(quán)重，使得輸入數(shù)據(jù)乘以掩碼函數(shù)之后形成具有不同權(quán)重的虛擬節(jié)點(diǎn)數(shù)據(jù)。因此，輸入層中隨機(jī)掩碼（Mask）函數(shù)對(duì)輸入數(shù)據(jù)的調(diào)制大大增加了儲(chǔ)備池計(jì)算的非線性豐富度，對(duì)提高系統(tǒng)的分類與預(yù)測(cè)能力起到了至關(guān)重要的作用。

經(jīng)過(guò)預(yù)處理的輸入數(shù)據(jù)在儲(chǔ)備池層作用于MEMS 諧振器，驅(qū)動(dòng)工作在非線性響應(yīng)狀態(tài)的諧振器運(yùn)動(dòng)。諧振器的響應(yīng)信號(hào)一部分進(jìn)入到輸出層，一部分通過(guò)延時(shí)反饋回路延遲一段時(shí)間后，與當(dāng)前時(shí)刻的輸入信號(hào)疊加后一同輸入到MEMS 諧振器中，繼續(xù)影響下一刻的輸出信號(hào)。MEMS 諧振器在外部激勵(lì)作用下的非線性響應(yīng)將輸入數(shù)據(jù)映射到高維空間。MEMS諧振器的本征衰減特性保證了延遲反饋環(huán)上虛擬節(jié)點(diǎn)之間的狀態(tài)前后有一定關(guān)聯(lián)，諧振器的本征衰減時(shí)間與虛擬節(jié)點(diǎn)之間的時(shí)間間隔也決定了這種關(guān)聯(lián)的強(qiáng)弱，從而決定了系統(tǒng)的記憶能力。

儲(chǔ)備池層虛擬節(jié)點(diǎn)的狀態(tài)函數(shù)輸入到輸出層，在輸出層，通過(guò)給每一個(gè)虛擬節(jié)點(diǎn)分配一個(gè)輸出權(quán)值，可以得到目標(biāo)輸出：

其中W為待訓(xùn)練輸出權(quán)重矩陣，x(t)為儲(chǔ)備池狀態(tài)輸出向量，y(t)為預(yù)測(cè)值，如果將目標(biāo)真值記為則訓(xùn)練的目標(biāo)只需要通過(guò)線性回歸算法訓(xùn)練出使目標(biāo)輸出與實(shí)際輸出y(t)之間的歸一化均方誤差最小的W即可。通常，可以利用公式（2）對(duì)應(yīng)的損失函數(shù)取最小值對(duì)應(yīng)的W即可。公式（2）對(duì)應(yīng)的損失函數(shù)為：

與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法相比。這種只需要用簡(jiǎn)單的線性回歸算法訓(xùn)練輸出權(quán)值，中間儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)的連接狀態(tài)保持不變，極大地提高了計(jì)算效率。

在此基礎(chǔ)上，還可以通過(guò)在儲(chǔ)備池層增加非線性MEMS 諧振器接口的數(shù)量、增加延遲反饋環(huán)的數(shù)量來(lái)分別提高系統(tǒng)的非線性豐富度和線性豐富度，從而可以針對(duì)不同的任務(wù)類型搭建不同延遲反饋型儲(chǔ)備池計(jì)算的拓?fù)浼軜?gòu)，如圖4 所示。藍(lán)色部分表示系統(tǒng)的輸入層，橙色部分代表儲(chǔ)備池非線性映射層，綠色部分為RC 結(jié)構(gòu)的輸出層。三種結(jié)構(gòu)的輸入層與輸出層相同，輸入層將數(shù)據(jù)預(yù)處理之后輸入到儲(chǔ)備池非線性映射層，輸出層將儲(chǔ)備池映射層的輸出數(shù)據(jù)存儲(chǔ)并使用線性回歸的方法進(jìn)行訓(xùn)練與測(cè)試。他們的區(qū)別在于儲(chǔ)備池映射層的組成不同。非線性物理節(jié)點(diǎn)的加入提高了系統(tǒng)的非線性豐富度，從而提高了系統(tǒng)的分類能力。延遲反饋環(huán)的增加提高了系統(tǒng)的線性豐富度，使相鄰虛擬節(jié)點(diǎn)間線性組合的能力增強(qiáng)，從而為系統(tǒng)長(zhǎng)時(shí)記憶能力拓展了提升空間［38］。

圖4 三種不同拓?fù)浣Y(jié)構(gòu)的延遲反饋型儲(chǔ)備池計(jì)算.（a）單非線性物理節(jié)點(diǎn)單延遲反饋型儲(chǔ)備池計(jì)算；（b）單非線性物理節(jié)點(diǎn)雙延遲反饋型儲(chǔ)備池計(jì)算；（c）雙非線性物理節(jié)點(diǎn)（耦合MEMS諧振器）雙延遲反饋型儲(chǔ)備池計(jì)算Fig.4 Delay-based RC with three different topologies.（a）RC with single nonlinear physical node and single delay loop；（b）RC with single nonlinear physical node and double delay loop；（c）RC with double nonlinear physical nodes（coupled MEMS resonators）and double delay loops

在以上儲(chǔ)備池計(jì)算架構(gòu)中，由于延遲反饋控制以及輸入掩碼函數(shù)的加入，使得儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)只需要一個(gè)或少量具有非線性響應(yīng)的硬件系統(tǒng)即可構(gòu)建。但是，延遲反饋控制的延遲時(shí)間以及掩碼調(diào)制也一定程度上損失了計(jì)算效率。為此，本論文在深入理解構(gòu)成儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)的兩個(gè)必要條件，即非線性響應(yīng)和衰減記憶特性的基礎(chǔ)上。結(jié)合圖2所示MEMS 諧振器典型的混合非線性響應(yīng)過(guò)程。創(chuàng)新地提出了一種新型的無(wú)延遲反饋的單非線性物理節(jié)點(diǎn)儲(chǔ)備池計(jì)算拓?fù)浣Y(jié)構(gòu)，如圖5所示。

圖5 基于MEMS雙端固支梁諧振器的混合非線性無(wú)延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)Fig.5 Nondelay-based RC architecture with hybrid nonlinearity based on MEMS clamped-clamped beam resonator

與傳統(tǒng)的延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)類似，這種儲(chǔ)備池計(jì)算架構(gòu)也由輸入層、儲(chǔ)備池層和輸出層構(gòu)成。工作時(shí)，作為非線性物理節(jié)點(diǎn)的諧振器被驅(qū)動(dòng)至圖2所示T1階段，諧振器處于由Duffing非線性和瞬態(tài)非線性共同主導(dǎo)的混合非線性響應(yīng)狀態(tài)。這種混合非線性響應(yīng)，可以將每一個(gè)順序輸入的數(shù)據(jù)非線性映射至高維空間，同時(shí)，由于諧振器瞬態(tài)響應(yīng)的本征衰減特性，在本征衰減時(shí)間（2Q/ω，Q為諧振器的品質(zhì)因數(shù)，ω為諧振器的本征圓頻率）內(nèi)輸入進(jìn)來(lái)的數(shù)據(jù)之間也會(huì)存在一定的關(guān)聯(lián)。類比延遲反饋結(jié)構(gòu)儲(chǔ)備池計(jì)算的掩碼調(diào)制過(guò)程，我們稱這一過(guò)程為自掩碼（Self-Masking）。這樣，每一個(gè)輸入數(shù)據(jù)都可以視為一個(gè)神經(jīng)元節(jié)點(diǎn)（虛擬節(jié)點(diǎn)），因此，相比于傳統(tǒng)的延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)，圖5所示架構(gòu)可以在不需要掩碼函數(shù)調(diào)制以及延遲反饋控制的情況下，僅利用MEMS 諧振器本身的非線性響應(yīng)即可實(shí)現(xiàn)儲(chǔ)備池結(jié)構(gòu)的非線性映射和衰減記憶能力。從而提高儲(chǔ)備池計(jì)算的處理效率［29］。但是，由于輸入數(shù)據(jù)之間的關(guān)聯(lián)強(qiáng)度只能通過(guò)改變輸入數(shù)據(jù)的長(zhǎng)度和諧振器的品質(zhì)因數(shù)來(lái)調(diào)節(jié)，而諧振器的品質(zhì)因數(shù)調(diào)節(jié)范圍有限，所以這種架構(gòu)的儲(chǔ)備池計(jì)算雖然可以高效地勝任圖像分類等任務(wù)，但是在需要長(zhǎng)時(shí)記憶的時(shí)序預(yù)測(cè)任務(wù)中性能將會(huì)受到一定限制。

4 硬件實(shí)現(xiàn)與系統(tǒng)搭建

根據(jù)第3部分所提出的基于MEMS 雙端固支梁諧振器不同的儲(chǔ)備池計(jì)算架構(gòu)，系統(tǒng)實(shí)現(xiàn)主要包括四部分：MEMS 諧振器的設(shè)計(jì)與加工制備；MEMS 諧振器的驅(qū)動(dòng)檢測(cè)接口電路；信號(hào)采集、解調(diào)、包絡(luò)檢波、降采樣以及相關(guān)數(shù)據(jù)存儲(chǔ)、邏輯運(yùn)算等數(shù)字控制電路；數(shù)據(jù)集訓(xùn)練、測(cè)試與評(píng)估系統(tǒng)。

圖6 是根據(jù)圖3 所示延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)實(shí)現(xiàn)的硬件系統(tǒng)架構(gòu)示意圖。藍(lán)色部分為數(shù)據(jù)采集（Data Acquisition，DAQ）控制模塊，左側(cè)為模擬輸入部分，右側(cè)為模擬輸出信號(hào)讀取部分。右上角為DAQ 的實(shí)物圖，其尺寸為20 cm×18 cm。綠色部分為電路單元模塊，共分為三小部分。第一部分為MEMS 諧振器輸出信號(hào)處理電路，其中包括跨阻放大器（Transimpedance Amplifiers，TIA）、電壓放大器、帶通濾波器和包絡(luò)檢波器等。第二部分為分壓電路，為反饋控制提供反饋增益。第三部分為加法器，將反饋回路的輸出信號(hào)與NI采集卡的輸入信號(hào)相加，然后一起輸入到MEMS 諧振器中。黃色部分為STM32F407 單片機(jī)模塊，在數(shù)字域?qū)j(luò)輸出信號(hào)進(jìn)行延時(shí)處理。右下角為STM32F407 單片機(jī)最小系統(tǒng)板的實(shí)物圖，其尺寸為9.5 cm×6.8 cm。紫色部分為直流電壓源，為MEMS 諧振器提供直流偏置電壓。

圖6 基于MEMS雙端固支梁諧振器的延遲反饋型儲(chǔ)備池計(jì)算硬件架構(gòu)示意圖Fig.6 Schematic of hardware architecture of delay-based RC based on MEMS clamped-clamped beam resonator

圖7 是根據(jù)圖5 所示基于MEMS 雙端固支梁諧振器的混合非線性無(wú)延遲反饋型儲(chǔ)備池計(jì)算硬件系統(tǒng)架構(gòu)示意圖。類似地，利用TIA、電壓放大器、帶通濾波器和包絡(luò)檢波器等搭建輸入層和輸出層的信號(hào)處理電路。黑色框內(nèi)是NI 6366 X 數(shù)據(jù)采集卡、MEMS 雙端固支梁諧振器及其接口電路的實(shí)物圖。

圖7 基于MEMS雙端固支梁諧振器的混合非線性儲(chǔ)備池計(jì)算硬件架構(gòu)示意圖Fig.7 Schematic of hardware architecture of RC with hybrid nonlinearity based on MEMS clamped-clamped beam resonator

5 結(jié)果分析與討論

通常，雷達(dá)信號(hào)的處理手段主要包括雷達(dá)信號(hào)預(yù)測(cè)、圖像識(shí)別、脈沖波形、信號(hào)特征的分類和提取等。為驗(yàn)證本論文提出的儲(chǔ)備池計(jì)算架構(gòu)具備在雷達(dá)信號(hào)處理領(lǐng)域中應(yīng)用的潛力。分別利用NARMA預(yù)測(cè)任務(wù)、MNIST-手寫(xiě)數(shù)字圖像識(shí)別、線性頻率調(diào)制脈沖波形識(shí)別與特征提取等評(píng)價(jià)基準(zhǔn)對(duì)本論文所提兩種不同儲(chǔ)備池計(jì)算硬件架構(gòu)進(jìn)行實(shí)驗(yàn)驗(yàn)證。

5.1 NARMA任務(wù)

NARMA 數(shù)據(jù)集是機(jī)器學(xué)習(xí)領(lǐng)域中運(yùn)用最廣泛的預(yù)測(cè)類數(shù)據(jù)集之一。在此預(yù)測(cè)任務(wù)中，目標(biāo)是預(yù)測(cè)白噪聲驅(qū)動(dòng)的m階非線性自回歸移動(dòng)平均方程（Nonlinear Auto Regressive Moving Average Equation of Order，NARMA）的結(jié)果，公式如下：

其中，u(n)為隨機(jī)產(chǎn)生的輸入噪聲信號(hào)，其范圍為［0，0.5］。y(n)為n離散時(shí)刻的輸出信號(hào)。由遞推關(guān)系，輸出值y(n)不僅與當(dāng)前輸入值u(n)有關(guān)，還與m-1 個(gè)時(shí)刻前的輸入值u(n-m+1)有關(guān)。因此，此任務(wù)需要預(yù)測(cè)系統(tǒng)擁有較強(qiáng)的記憶能力?；诖耍覀兝瞄L(zhǎng)時(shí)記憶能力更好延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)進(jìn)行預(yù)測(cè)。

在此預(yù)測(cè)任務(wù)中，我們以1000個(gè)時(shí)間步長(zhǎng)序列訓(xùn)練NARMA 數(shù)據(jù)集，并在隨后的1000 個(gè)時(shí)間步長(zhǎng)序列中進(jìn)行測(cè)試。采用歸一化均方誤差（Normal?ized Mean Squared Error，NMSE）評(píng)估預(yù)測(cè)結(jié)果的性能。在仿真實(shí)驗(yàn)中，分別利用圖4 所示的三種延遲反饋型儲(chǔ)備池計(jì)算結(jié)構(gòu)對(duì)階數(shù)為1，2，5，10 的NARMA 數(shù)據(jù)集進(jìn)行預(yù)測(cè)。通過(guò)對(duì)儲(chǔ)備池計(jì)算系統(tǒng)虛擬節(jié)點(diǎn)個(gè)數(shù)、輸入增益、反饋回路增益等參量?jī)?yōu)化后，最終得到如圖8 所示結(jié)果。圖中四種顏色分別代表了階數(shù)為1，2，5，10 的NARMA 數(shù)據(jù)集測(cè)試結(jié)果，橫坐標(biāo)為圖4 所示三種不同的延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)，縱坐標(biāo)為評(píng)價(jià)指標(biāo)NMSE。如圖所示，評(píng)價(jià)指標(biāo)NMSE隨著階數(shù)的升高而顯著升高，說(shuō)明階數(shù)越高，數(shù)據(jù)集的預(yù)測(cè)難度越大。NARMA 階數(shù)相同的情況下，延遲反饋型儲(chǔ)備池非線性物理節(jié)點(diǎn)與延遲反饋環(huán)越多，即對(duì)應(yīng)于儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)的動(dòng)態(tài)豐富度越高，評(píng)價(jià)指標(biāo)NMSE的值越低，系統(tǒng)的預(yù)測(cè)能力越好。

圖8 不同MEMS儲(chǔ)備池計(jì)算架構(gòu)在NARMA測(cè)試任務(wù)中的錯(cuò)誤率比較Fig.8 Comparation of error rates of different MEMS RC architectures in NARMA task

在硬件系統(tǒng)實(shí)驗(yàn)中，我們利用圖6 所示延遲反饋型儲(chǔ)備池計(jì)算硬件架構(gòu)在10 階NARMA 數(shù)據(jù)集上進(jìn)行測(cè)試，得到了NMSE=0.114 的結(jié)果。通過(guò)與光學(xué)儲(chǔ)備池計(jì)算系統(tǒng)和軟件儲(chǔ)備池計(jì)算系統(tǒng)的橫向?qū)Ρ?，本論文提出基于MEMS 諧振器的延遲反饋型儲(chǔ)備池計(jì)算已經(jīng)達(dá)到同類儲(chǔ)備池計(jì)算架構(gòu)在此任務(wù)中的最優(yōu)水平，如表1所示。

表1 不同儲(chǔ)備池計(jì)算架構(gòu)在NARMA10數(shù)據(jù)集上測(cè)試結(jié)果對(duì)比Tab.1 Comparation of testing result of different MEMS RC architectures in NARMA10 dataset

5.2 MNIST-手寫(xiě)數(shù)字識(shí)別數(shù)據(jù)集

MNIST（Mixed National Institute of Standards and Technology）手寫(xiě)數(shù)字識(shí)別數(shù)據(jù)集是測(cè)試神經(jīng)網(wǎng)絡(luò)分類能力普遍使用一種基準(zhǔn)任務(wù)。該數(shù)據(jù)集總共包含6 萬(wàn)個(gè)訓(xùn)練樣本和1 萬(wàn)個(gè)測(cè)試樣本，每個(gè)樣本由一個(gè)28×28個(gè)灰度值矩陣組成。

此分類任務(wù)由于樣本為圖像，且樣本量巨大。所以我們利用我們提出的更適合分類任務(wù)的無(wú)延遲反饋控制的混合非線性儲(chǔ)備池計(jì)算架構(gòu)對(duì)其進(jìn)行測(cè)試。實(shí)驗(yàn)中，我們從數(shù)據(jù)庫(kù)中隨機(jī)選擇25000個(gè)樣本作為實(shí)驗(yàn)數(shù)據(jù)集，其中22500 個(gè)樣本構(gòu)成訓(xùn)練集，2500 個(gè)樣本構(gòu)成測(cè)試集。為了進(jìn)一步驗(yàn)證系統(tǒng)的魯棒性，我們?cè)趯?shí)驗(yàn)數(shù)據(jù)集的灰度圖上添加了不同信噪比（Signal to Noise Ratio，SNR）的高斯白噪聲（Additive White Gaussian Noise，AWGN），模擬不同的噪聲干擾，如圖9所示。

圖9 添加不同信噪比高斯白噪聲后的數(shù)據(jù)樣本情況Fig.9 Data sample after adding AWGN with different SNR

最后，利用圖5 和圖7 所示混合非線性儲(chǔ)備池計(jì)算架構(gòu)分別從仿真和實(shí)驗(yàn)上對(duì)此實(shí)驗(yàn)數(shù)據(jù)集進(jìn)行測(cè)試，結(jié)果如圖10 所示?？梢钥闯?，信噪比在8以上時(shí)，仿真和實(shí)驗(yàn)結(jié)果幾乎一致，分類準(zhǔn)確率均超過(guò)了80%。信噪比低于8 時(shí)，同等條件下實(shí)驗(yàn)結(jié)果優(yōu)于仿真結(jié)果，因?yàn)閷?shí)驗(yàn)中諧振器的振動(dòng)過(guò)程存在能量耦合與疊加的現(xiàn)象，在噪聲干擾下，更容易被實(shí)際有用信號(hào)的動(dòng)態(tài)響應(yīng)掩蓋，因此即使在噪聲很大的情況下，系統(tǒng)的分類準(zhǔn)確率仍然高于75%；而仿真實(shí)驗(yàn)卻無(wú)法真實(shí)模擬器件的真實(shí)振動(dòng)情況，因此對(duì)噪聲信號(hào)也會(huì)有一定的響應(yīng)，導(dǎo)致系統(tǒng)的分類能力隨著噪聲的增多而降低。因此，基于MEMS 雙端固支梁諧振器的混合非線性儲(chǔ)備池計(jì)算硬件架構(gòu)不僅在此圖像分類任務(wù)中展現(xiàn)了較高的準(zhǔn)確率，也表現(xiàn)出其優(yōu)異的抗噪聲干擾的魯棒性。

圖10 不同高斯白噪聲干擾下混合非線性儲(chǔ)備池計(jì)算架構(gòu)在MNIST-手寫(xiě)數(shù)字識(shí)別數(shù)據(jù)集上的分類準(zhǔn)確率Fig.10 Classification accuracy of RC with hybrid nonlinearity architecture on MNIST-handwritten digit recognition dataset under different AWGN

5.3 線性頻率調(diào)制脈沖波形識(shí)別任務(wù)

線性頻率調(diào)制（Linear frequency modulated，LFM）脈沖波廣泛應(yīng)用于雷達(dá)、聲納、超聲、通信等領(lǐng)域。一個(gè)典型的LFM脈沖波可以描述為：

其中，f0是初始頻率，t時(shí)刻的瞬時(shí)頻率為f0+2kt，2k即頻率啁啾（frequency chirp），決定了瞬時(shí)頻率的變化率。LFM 脈沖波形識(shí)別任務(wù)的目標(biāo)是在一段由兩種不同的LFM 脈沖波按周期隨機(jī)排列的信號(hào)中，正確區(qū)分出兩種不同的信號(hào)，并且提取出相應(yīng)的瞬時(shí)頻率。

本論文采用的兩種LFM 脈沖波信號(hào)x1(t)、x2(t)相應(yīng)的瞬時(shí)頻率f1(t)、f2(t)分別表示如下：

其中，t∈［0，1］，輸入信號(hào)x(t)由LFM 脈沖波信號(hào)x1(t)、x2(t)依次拼接組成，每個(gè)周期包含50個(gè)散點(diǎn)。此分類任務(wù)的目標(biāo)是，當(dāng)LFM 脈沖波信號(hào)為x1(t)時(shí)，輸出為1；當(dāng)LFM 脈沖波信號(hào)為x2(t)時(shí)，輸出為0；并通過(guò)線性回歸提取出相應(yīng)的瞬時(shí)頻率f1(t)、f2(t)。

考慮到此任務(wù)樣本量不大，所以運(yùn)用圖3 所示單非線性節(jié)點(diǎn)單延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)對(duì)其進(jìn)行處理。實(shí)驗(yàn)中，參數(shù)選擇如下：θ=0.1 ms，N=50，λ=0.0001，α=0.9，β=3.6，Vdc=20 V，Vac=2 V。實(shí)驗(yàn)結(jié)果如圖11 所示，圖11（a）為L(zhǎng)FM 脈沖波形識(shí)別結(jié)果，黑色實(shí)線為原始輸入，藍(lán)色虛線為真值目標(biāo)信號(hào)，紅色虛線為RC 系統(tǒng)的輸出預(yù)測(cè)信號(hào)，波形識(shí)別準(zhǔn)確度為100%。圖11（b）為FM 脈沖波瞬時(shí)頻率提取結(jié)果，提取結(jié)果與瞬時(shí)頻率的真實(shí)值基本吻合。為了更精確的對(duì)比系統(tǒng)性能，采用歸一化均方誤差（NMSE）來(lái)評(píng)估預(yù)測(cè)結(jié)果的性能，其中波形識(shí)別中NMSE=0.029，瞬時(shí)頻率提取中NMSE=0.042，均達(dá)到了較高的水平。

圖11 （a）LFM脈沖波形識(shí)別結(jié)果；（b）LFM脈沖波瞬時(shí)頻率提取結(jié)果Fig.11 （a）Results of LFM pulse waveform recognition；（b）Results of instantaneous frequency extraction of LFM pulse wave

6 結(jié)論

本論文基于對(duì)MEMS雙端固支梁諧振器非線性響應(yīng)的研究與討論，提出在MEMS 諧振器從靜止?fàn)顟B(tài)被驅(qū)動(dòng)到非線性振動(dòng)過(guò)程中，主要的非線性響應(yīng)包括Duffing 非線性和瞬態(tài)非線性。進(jìn)而根據(jù)不同的非線性響應(yīng)特征并在深入理解構(gòu)成儲(chǔ)備池非線性節(jié)點(diǎn)網(wǎng)絡(luò)的兩個(gè)必要條件的基礎(chǔ)上，設(shè)計(jì)并搭建了兩種儲(chǔ)備池計(jì)算的拓?fù)浼軜?gòu)，并進(jìn)行了系統(tǒng)實(shí)現(xiàn)。然后，面向雷達(dá)信號(hào)處理中信號(hào)預(yù)測(cè)、圖像識(shí)別、雷達(dá)信號(hào)特征分類和提取等應(yīng)用需求。針對(duì)性地選擇了NARMA 預(yù)測(cè)任務(wù)、MNIST-手寫(xiě)數(shù)字圖像識(shí)別、LFM脈沖波形識(shí)別與特征提取等評(píng)價(jià)基準(zhǔn)對(duì)本論文所提兩種不同儲(chǔ)備池計(jì)算架構(gòu)進(jìn)行實(shí)驗(yàn)驗(yàn)證。其中，基于MEMS 雙端固支梁諧振器的延遲反饋型儲(chǔ)備池計(jì)算架構(gòu)在1 階、2 階、5 階、10 階NARMA 預(yù)測(cè)任務(wù)中歸一化均方誤差（NMSE）均小于0.12，達(dá)到了其他同類硬件儲(chǔ)備池計(jì)算系統(tǒng)的最優(yōu)水平；在LFM 脈沖波形識(shí)別與特征提取任務(wù)中也實(shí)現(xiàn)了100%的識(shí)別正確率。基于MEMS 雙端固支梁諧振器的混合非線性儲(chǔ)備池計(jì)算架構(gòu)在MNIST-手寫(xiě)數(shù)字圖像識(shí)別任務(wù)中分類準(zhǔn)確率達(dá)到75%以上，并且展現(xiàn)了非常優(yōu)異的抗噪聲干擾的魯棒性。實(shí)驗(yàn)結(jié)果不僅展示了本論文所提的兩種不同儲(chǔ)備池計(jì)算架構(gòu)在分類、預(yù)測(cè)任務(wù)中的優(yōu)異性能，也驗(yàn)證了它們?cè)诓煌瑴y(cè)試任務(wù)中各自的適用性。同時(shí)，實(shí)驗(yàn)結(jié)果也充分展示了基于非線性MEMS諧振器的儲(chǔ)備池計(jì)算硬件系統(tǒng)在雷達(dá)信號(hào)預(yù)測(cè)、分類與特征提取等應(yīng)用領(lǐng)域中的應(yīng)用潛力，為復(fù)雜電磁環(huán)境下，雷達(dá)信號(hào)處理提供新的有力工具，為MEMS 傳感技術(shù)與雷達(dá)信號(hào)處理技術(shù)的交叉融合進(jìn)行積極探索。