新型憶阻器神經(jīng)形態(tài)電路的設(shè)計及其在條件反射行為中的應(yīng)用*

徐威 王鈺琪 李岳峰 高斐 張繆城 連曉娟 萬相 肖建 童祎

(南京郵電大學(xué)電子與光學(xué)工程學(xué)院,南京 210023)

突觸是生物神經(jīng)系統(tǒng)的重要組成部分.憶阻器因具備連續(xù)可調(diào)的非線性電導(dǎo),與連接強度可連續(xù)調(diào)節(jié)的生物突觸極為相似,因此在構(gòu)建人工突觸及類腦系統(tǒng)方面引起了廣泛研究.本文制備了Cu/MXene/SiO2/W結(jié)構(gòu)的憶阻器,基于該器件的電學(xué)特性、尤其是電導(dǎo)的連續(xù)可調(diào)特性,構(gòu)建人工突觸單元并設(shè)計了神經(jīng)形態(tài)電路.在該電路中,通過施加連續(xù)的電壓脈沖,對人工突觸單元進行訓(xùn)練,成功模仿實現(xiàn)了經(jīng)典條件反射行為.這一工作將對未來基于憶阻器構(gòu)建大規(guī)模神經(jīng)形態(tài)系統(tǒng)以進行類腦智能運算具有重要的意義.

1 引 言

隨著馮·諾依曼瓶頸漸顯,傳統(tǒng)計算機將無法滿足大數(shù)據(jù)時代信息處理的需求,而與之相對的類腦計算受到研究人員越來越多的關(guān)注[1,2].人腦內(nèi)部具有1011數(shù)量級的神經(jīng)元,通過之間103—104倍數(shù)量的突觸連接構(gòu)成了一個復(fù)雜的神經(jīng)網(wǎng)絡(luò)[3-5].不同于現(xiàn)今的電子計算機,人腦可以基于海量的神經(jīng)元和突觸以并行、分布式的方式處理信息,其中突觸連接強度的改變,被認為是人腦學(xué)習(xí)和記憶的基礎(chǔ)[6-8].

受大腦的啟發(fā),人工神經(jīng)網(wǎng)絡(luò)的出現(xiàn)在一定程度上成功實現(xiàn)了大量數(shù)據(jù)的并行處理[9,10].其中在硬件實現(xiàn)方面,基于互補金屬氧化物半導(dǎo)體的電子突觸構(gòu)建的人工神經(jīng)網(wǎng)絡(luò)至少需要10個晶體管才能實現(xiàn)一個生物突觸的功能,因此進行任務(wù)處理時,和生物神經(jīng)系統(tǒng)相比,在速度、能耗、電路面積以及資源利用率等方面存在著明顯的弱點[11-13].因此,構(gòu)建低功耗、高集成度的電子突觸,搭建神經(jīng)形態(tài)系統(tǒng)成為實現(xiàn)類腦智能的關(guān)鍵.

憶阻器是一種具有模擬漸變式記憶功能的雙端非線性器件[14,15].其阻態(tài)的變化受到內(nèi)部金屬離子或氧空位遷移的調(diào)控,其調(diào)節(jié)機制與突觸權(quán)重受神經(jīng)遞質(zhì)刺激后產(chǎn)生的調(diào)節(jié)過程極為類似[16-18].正是由于這種物理機理上的相似性以及器件的易于集成、低功耗、尺寸小等特性,憶阻器成為構(gòu)建人工突觸的極佳選擇[19,20].然而目前的研究大多數(shù)集中在利用不同結(jié)構(gòu)和材料的器件產(chǎn)生憶阻行為以模擬生物突觸可塑性的階段[21,22],對于如何利用憶阻器實現(xiàn)神經(jīng)形態(tài)系統(tǒng)級的功能尚缺少研究報道.

本文為實現(xiàn)電路對刺激信號的及時響應(yīng),選擇二維材料MXene作為憶阻器插入層.與其他二維材料相比,MXene具有優(yōu)異的機械性能、較大的比表面積[23,24],基于MXene的憶阻器能在更短時長的訓(xùn)練信號下改變憶阻器導(dǎo)態(tài)[25-27].首先,研究了Cu/MXene/SiO2/W憶阻器的電學(xué)特性；然后,基于該器件的電學(xué)特性,以分段線性窗函數(shù)結(jié)合惠普的氧化物憶阻器模型[28],使用Verilog A語言對該憶阻器進行建模；隨后,基于該器件模型構(gòu)建了人工突觸單元并設(shè)計了權(quán)值差分電路.在電路工作過程中,分別采用正弦電壓信號以及脈沖電壓信號對突觸權(quán)值進行測試和反饋訓(xùn)練,最后實現(xiàn)了經(jīng)典條件反射行為[29].這一工作對未來構(gòu)造以憶阻器為基礎(chǔ)單元的大規(guī)模神經(jīng)形態(tài)電路和智能運算系統(tǒng),具有十分重要的意義.

2 器件介紹

如圖1(a)所示,雙端Cu/MXene/SiO2/W憶阻器以厚度100 nm的活性金屬Cu、90 nm的金屬W分別作為頂電極和底電極.在兩個電極之間,以旋涂法制備的二維材料MXene以及磁控濺射制備的SiO2為阻變層[30].器件上表面在金相顯微鏡下如圖1(b)所示,可以清晰地看到頂部的金屬電極(直徑約150 μm).MXene材料以團簇狀堆積,在原子間電勢作用下在團簇狀結(jié)構(gòu)內(nèi)部產(chǎn)生強電場.圖1(c)為二維材料MXene的掃描電鏡圖像,可以清晰地看到MXene的二維層狀結(jié)構(gòu).MXene的二維層狀結(jié)構(gòu)總體呈團簇狀,具有極小曲率,在電極電壓作用下能產(chǎn)生較大電場.在施加電壓時可以在一定程度引導(dǎo)導(dǎo)電細絲的生長,提高導(dǎo)電通道產(chǎn)生的規(guī)律性,進而有望提高憶阻器的電學(xué)特性的穩(wěn)定性.圖1(d)為該器件的工作機理示意圖.當(dāng)對Cu電極施加正電壓,W電極接地時,頂電極的Cu發(fā)生氧化反應(yīng)生成Cu2+,Cu2+在定向電場作用下通過阻變層到達底電極,并且在底電極與附近的電子結(jié)合還原生成Cu原子,隨著底電極附近Cu原子聚集并向頂電極延伸,憶阻器逐漸由初始高阻態(tài)(high resistance state,HRS)轉(zhuǎn)變到低阻態(tài)(low resistance state,LRS).憶阻器的電阻狀態(tài)受到內(nèi)部Cu2+在電場作用下的定向移動而被連續(xù)調(diào)節(jié)[31],這與圖1(e)中生物突觸連接強度在神經(jīng)遞質(zhì)移動的影響下發(fā)生的權(quán)重改變極為相似.

圖1 (a) Cu/MXene/SiO2/W憶阻器結(jié)構(gòu)及電學(xué)測試示意圖；(b)二維材料MXene的掃描電鏡圖；(b) 金相顯微鏡下憶阻器表面結(jié)構(gòu)；(d)正向偏壓下器件工作機理示意圖；(e)受到刺激信號,突觸前膜、突觸后膜之間神經(jīng)遞質(zhì)遷移示意圖Fig.1.(a) The device structure and measurement of Cu/MXene/SiO2/W memristor；(b) surface structure of memristor under metallographic microscope；(c) the scanning electron microscope result of two-dimensional material MXene；(d) the physical mechanism of the Cu/MXene/SiO2/W memristor under positive voltagestimulus；(e) the neurotransmitter transfer between pre-and postsynaptic membrane after stimulus.

3 測試與仿真結(jié)果

經(jīng)典條件反射又稱巴普洛夫反射,其中最著名的實驗為巴普洛夫的狗的唾液條件反射.實驗第一階段,狗看到食物本能的發(fā)生流涎反應(yīng),屬于無條件反射行為,此時食物為非條件刺激(unconditional stimulus,US),流涎的行為為非條件反應(yīng)(unconditional reaction,UR)；實驗第二階段,當(dāng)沒有經(jīng)過訓(xùn)練,單獨出現(xiàn)鈴聲時,狗并不會流涎,此時鈴聲為中性刺激(neural stimulus,NS)；實驗第三階段,在發(fā)出鈴聲的同時提供食物訓(xùn)練,狗出現(xiàn)流涎反應(yīng)；實驗第四階段,單獨發(fā)出鈴聲,狗經(jīng)過第三階段的訓(xùn)練學(xué)習(xí)后出現(xiàn)流涎反應(yīng),此時流涎屬于條件反應(yīng)(conditional reaction,CR),鈴聲由NS轉(zhuǎn)變?yōu)闂l件刺激(conditional stimulus,CS).

為了構(gòu)造基于憶阻器的神經(jīng)形態(tài)電路,實現(xiàn)經(jīng)典條件反射.首先我們用惠普模型對實驗中憶阻器伏安特性進行了擬合,使用硬件描述語言Verilog A針對憶阻器電學(xué)特性對本文中新型二維材料憶阻器進行建模[32,33].圖2(a)所示為惠普研究團隊提出的憶阻器線性漂移模型,該模型雖能較好地復(fù)現(xiàn)憶阻器的連續(xù)導(dǎo)態(tài)特性,但在納米尺度下,小電壓產(chǎn)生的大電場將會進一步在界面附近產(chǎn)生空位的非線性漂移[34],無法再使用線性漂移模型.因此,我們通過增加以下形式的分段線性窗函數(shù) f (x) 解決該邊界問題[35]：

在應(yīng)用過程中,分段線性窗函數(shù)表現(xiàn)出其在LRS界限,中間區(qū)域和HRS界限處的連續(xù)可微分性.它顯示了控制參數(shù)p 的較低值處的非線性行為和較高值處的線性行為.從物理學(xué)的角度來看,窗函數(shù)降低了邊界附近的氧空位速度,最終導(dǎo)致非線性行為.

建模完成后通過調(diào)整模型的參數(shù)對實驗過程中測試到的I-V特性曲線進行擬合,模型主要參數(shù)在表1列出.擬合的結(jié)果如圖2(b)所示,可以看出,模型得到的仿真數(shù)據(jù)與器件的測試數(shù)據(jù)匹配度較高,因此該模型能夠較大程度模擬憶阻器特性.

在此器件模型的基礎(chǔ)上,我們利用Verilog A硬件描述語言編寫VHDL模塊,搭建如圖3所示神經(jīng)形態(tài)電路.不同于傳統(tǒng)憶阻器權(quán)值電路[36],本電路引入電阻Ra,Rb分別與憶阻器Ma,Mb所在支路并聯(lián),以實現(xiàn)憶阻單元的權(quán)重差分,增加權(quán)值豐富度.信號模塊(signal module)連接的通道a與通道b是否有正弦信號分別對應(yīng)“鈴聲”事件與“給肉”事件是否發(fā)生；訓(xùn)練模塊(train module)連接信號模塊的兩路輸出端口,待檢測到“鈴鐺”與“給肉”事件同時發(fā)生,訓(xùn)練模塊輸出方波訓(xùn)練信號,實現(xiàn)對憶阻器權(quán)重單元的權(quán)值更新.

圖2 (a)惠普研究小組提出的憶阻器模型；(b)憶阻器模型仿真數(shù)據(jù)與實驗測試數(shù)據(jù)擬合Fig.2.(a) Memristor model reported by HP group；(b) the fitting of experimental data and the simulation data.

表1 模型主要參數(shù)Table 1.Key modeling parameters.

圖3 實現(xiàn)條件反射的神經(jīng)形態(tài)電路Fig.3.Neuromorphic circuitry for the emulation of classical conditioning.

仿真初始時刻,設(shè)定Ma,Mb,Ra,Rb,Rc,Rd滿足如下大小關(guān)系：

根據(jù)KCL方程,對于節(jié)點L,流出電流Ic與流入電流Ia,Ib滿足 Ic=Ia+Ib,其中

則

在初始時刻,當(dāng)僅“給肉”事件發(fā)生,即滿足US1=0,US2＞ 0時,輸出電壓

即“流涎”.

當(dāng)僅“鈴聲”事件發(fā)生,即滿足US1＞ 0,US2=0時,輸出電壓

即未“流涎”.

當(dāng)“給肉”事件與“鈴鐺”事件同時發(fā)生,即滿足US1=US2＞ 0時,輸出電壓：

即“流涎”.

以上分析滿足經(jīng)典條件反射的初始條件,為了最終實現(xiàn)僅“鈴聲”事件便可觸發(fā)“流涎”事件,訓(xùn)練模塊在檢測到包含“鈴聲”、“給肉”信息的輸入正弦波信號后,輸出幅值為0.05 V的直流信號用以訓(xùn)練憶阻器權(quán)值.待通道a憶阻器的電導(dǎo)滿足RMa＜Ra時,則在僅施加“鈴聲”事件時輸出信號：

即發(fā)生“流涎”事件.到此實現(xiàn)條件反射全部過程.

圖4(a)為實現(xiàn)條件反射時,輸入輸出信號的波形變化.波形包含學(xué)習(xí)前、學(xué)習(xí)過程、學(xué)習(xí)后三個階段.學(xué)習(xí)前：“肉”事件信號輸入時,對應(yīng)上述分析過程的 Uo1＞ 0 ,輸出信號與輸入信號同相,判斷為“流涎”；“鈴聲”事件信號輸入時,對應(yīng)上述分析過程的 Uo2＜ 0 ,輸出與輸入信號反相,判斷為未發(fā)生“流涎”,此時“鈴聲”為中性刺激.學(xué)習(xí)過程：“鈴聲”、“肉”事件信號同時輸入,輸出信號為兩支路單獨工作時輸出信號的疊加,對應(yīng)上述分析過程的 Uo3＞ 0.此時滿足條件“鈴聲”、“肉”事件同時發(fā)生,觸發(fā)訓(xùn)練模塊輸出訓(xùn)練信號,由于電壓脈沖能夠?qū)涀杵鱉a產(chǎn)生連續(xù)調(diào)節(jié)作用[37-39],該電路中以方波脈沖作為訓(xùn)練信號作用于鈴鐺支路,如該過程中Vout所示.當(dāng)滿足條件 RMa＜Ra時,對應(yīng)上述分析過程的 Uo4＞ 0 ,滿足當(dāng)輸入只有“鈴聲”信號時,輸出波形呈現(xiàn)出由負相 Uo2＜ 0 到正相Uo4＞ 0的變化過程,該變化說明學(xué)習(xí)過程結(jié)束,“鈴聲”轉(zhuǎn)變?yōu)闂l件刺激.

圖4(b)為采用0.05 V電壓源對電路中憶阻器模型進行直流掃描,流經(jīng)憶阻器的電流隨仿真時間的變化關(guān)系圖.從圖4(b)中可以看出隨著仿真時間的增加,流經(jīng)憶阻器的電流值呈明顯上升趨勢,施加的電壓信號能夠有效地調(diào)整憶阻器權(quán)值.圖4(c)為訓(xùn)練過程中方波與正弦波信號交替作用于憶阻器上,流經(jīng)憶阻器Ma電流大小的變化圖.從圖4(c)中可以看出,當(dāng)施加到憶阻器上的電壓信號為方波信號時,流經(jīng)憶阻器的電流呈上升趨勢.表明在訓(xùn)練過程,方波電壓確實對憶阻器的電導(dǎo)值起到調(diào)節(jié)作用；而當(dāng)施加信號為正弦形式的測試信號時,由于正弦信號在一個周期內(nèi)對憶阻器的作用部分抵消,因此,正弦信號對憶阻器電導(dǎo)值影響較小,表現(xiàn)為施加正弦波前后,流經(jīng)憶阻器的電流大小基本不發(fā)生改變.

圖4 (a)仿真過程施加的信號以及各自對應(yīng)的結(jié)果圖；(b)對電路中憶阻器模型進行直流電壓掃描,流經(jīng)憶阻器的電流隨仿真時間的變化；(c)訓(xùn)練過程中,流經(jīng)憶阻器Ma的電流隨時間的變化Fig.4.(a) The signals inputted into the circuit and corresponding output waveform,respectively；(b) the change of current flowing through the memristor against timeduring DC voltage sweeping；(c) the change of current through the memristor Ma during training process.

此外,其他研究人員也對于憶阻器神經(jīng)形態(tài)電路做出了相關(guān)探索.Wan 等[40]采用了另一種簡潔有效的電路結(jié)構(gòu),依靠外部信號實現(xiàn)訓(xùn)練學(xué)習(xí)過程.Yakopcic和Tarek[41]通過外部控制正負電壓信號,在輸出端進行通道選擇實現(xiàn)正負信號疊加獲取正負權(quán)值.與上述兩種方案相比,本文電路在內(nèi)部采用VHDL模塊通過反饋電路產(chǎn)生輸入信號實現(xiàn)自主訓(xùn)練學(xué)習(xí),同時通過兩路憶阻器差分的電路結(jié)構(gòu)實現(xiàn)正負權(quán)值,避免了通道選擇過程中信號串?dāng)_等問題,更有利于在大規(guī)模電路中實現(xiàn)智能運算.

4 結(jié) 論

制備了基于新型二維材料MXene的憶阻器,并測試得到該憶阻器的電學(xué)特性.為探索該器件模擬生物條件反射行為的可行性,基于憶阻器惠普模型和分段線性窗函數(shù),對該器件進行建模.隨后利用該模型構(gòu)建人工突觸單元并搭建了神經(jīng)形態(tài)電路.該電路可以實現(xiàn)類似于“巴普洛夫的狗”的經(jīng)典條件反射行為：通過對基于憶阻器的突觸單元施加正弦信號以及方波信號分別進行權(quán)重測試和訓(xùn)練,實現(xiàn)了該電路從“無條件刺激(US)產(chǎn)生無條件反應(yīng)(UR)”到“條件刺激(CS)產(chǎn)生條件響應(yīng)(CR)”的轉(zhuǎn)變.這一工作將為未來通過憶阻器搭建大型神經(jīng)形態(tài)系統(tǒng),實現(xiàn)類腦計算提供有效的指導(dǎo)作用.