基于遺忘效應(yīng)憶阻器的LIF 神經(jīng)元電路研究

楊寧寧，王 達(dá)，吳朝俊

(1.西安理工大學(xué) 電氣工程學(xué)院，陜西 西安 710048;2.西安工程大學(xué) 電子信息學(xué)院，陜西 西安 710048)

人工神經(jīng)網(wǎng)絡(luò)的研究在各個(gè)領(lǐng)域已取得巨大進(jìn)展，解決了實(shí)際應(yīng)用中存在的很多問題。目前神經(jīng)網(wǎng)絡(luò)算法大多數(shù)運(yùn)行于計(jì)算機(jī)上，在這種運(yùn)行方式中，計(jì)算機(jī)的存儲(chǔ)功能和計(jì)算功能相分離，這就導(dǎo)致了存儲(chǔ)墻的存在和馮·諾依曼瓶頸，使得神經(jīng)網(wǎng)絡(luò)的計(jì)算速度大幅下降。然而在這個(gè)大數(shù)據(jù)時(shí)代，各種數(shù)據(jù)呈爆發(fā)式增長(zhǎng)，對(duì)神經(jīng)網(wǎng)絡(luò)的運(yùn)算速度也有了更高的要求。構(gòu)建一個(gè)存算一體的新型神經(jīng)網(wǎng)絡(luò)可有效解決“存儲(chǔ)墻”問題和馮·諾依曼瓶頸[1-3]，而憶阻器的提出和發(fā)現(xiàn)讓上述神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)有了希望。

1971 年，“憶阻器之父”蔡少棠教授在理論上提出了憶阻器的概念[4]，惠普實(shí)驗(yàn)室在2008 年宣布物理制備了具有憶阻特性的二端元件[5]。這一突破性的研究引起了學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注，同時(shí)引起了基于憶阻器的神經(jīng)網(wǎng)絡(luò)研究熱潮。自惠普實(shí)驗(yàn)室制備實(shí)物憶阻器以來，基于各種材料的憶阻硬件相繼被成功制備[3，6-7]。在電路仿真中，如何用模型來描述各種憶阻器的特性也是一種極其重要的工作，Strukov 教授[5]提出了線性憶阻模型，但僅考慮了線性的氧離子遷移;2013 年和2015 年，Kvatinsky 教授提出TEAM[8]和VTEAM[9]模型;2013 年，Yakopcic 提出一個(gè)一般化的憶阻器SPICE模型[10]，Ling 提出具有遺忘效應(yīng)的憶阻器模型[11];2014 年，Carbajal 提出了適用于機(jī)器學(xué)習(xí)、可模擬動(dòng)態(tài)波動(dòng)性的憶阻模型[12];2017 年，張洋提出一個(gè)適合于神經(jīng)網(wǎng)絡(luò)突觸計(jì)算的憶阻器模型[13]。文獻(xiàn)[14]對(duì)上述憶阻器模型進(jìn)行了對(duì)比和分析，均不滿足憶阻神經(jīng)元電路的設(shè)計(jì)要求，可以說得到符合實(shí)際而又適合神經(jīng)網(wǎng)絡(luò)的憶阻器模型是神經(jīng)網(wǎng)絡(luò)研究的基礎(chǔ)。因此，本文借鑒前人的研究基礎(chǔ)，研究了一種具有遺忘效應(yīng)且滿足憶阻神經(jīng)元設(shè)計(jì)要求的憶阻器模型。

在神經(jīng)網(wǎng)絡(luò)方面，通過研究可知在人大腦中有超過1000 億個(gè)神經(jīng)元，而且每個(gè)神經(jīng)元大約有超過2 萬個(gè)突觸連接[15]，在神經(jīng)網(wǎng)絡(luò)電路設(shè)計(jì)中，高效、準(zhǔn)確的神經(jīng)元結(jié)構(gòu)和突觸結(jié)構(gòu)至關(guān)重要。1988 年Chua 和Yang 提出細(xì)胞神經(jīng)網(wǎng)絡(luò)(Cellular Neural Network，CNN)[16-17]，它是一種模擬非線性、實(shí)施并行處理的陣列結(jié)構(gòu)，具有連續(xù)實(shí)時(shí)、可實(shí)現(xiàn)高速并行處理、適用于超大規(guī)模集成電路的特點(diǎn)，CNN 在模式和圖像分析、垂直線檢測(cè)、降噪處理、目標(biāo)邊緣檢測(cè)和字符識(shí)別等方面都具有廣泛的應(yīng)用[18-19]。CNN 優(yōu)異的性能引起了越來越多的研究人員的關(guān)注，憶阻神經(jīng)網(wǎng)絡(luò)就是借鑒了CNN 的結(jié)構(gòu)而生，用憶阻神經(jīng)元代替每個(gè)細(xì)胞，成為一種新的神經(jīng)網(wǎng)絡(luò)。

一個(gè)簡(jiǎn)潔而又集成所需功能的人工神經(jīng)元是構(gòu)建神經(jīng)形態(tài)計(jì)算系統(tǒng)必不可少的元素，然而目前關(guān)于人工神經(jīng)元的研究進(jìn)展非常有限?；萜昭芯咳藛T構(gòu)建了一個(gè)帶有兩個(gè)Mott 憶阻器的可擴(kuò)展神經(jīng)元，并實(shí)現(xiàn)了由尖峰閾值信號(hào)驅(qū)動(dòng)的Hodgkin-Huxley 軸突[20]。2016年，IBM 研究人員使用相變效應(yīng)憶阻器實(shí)現(xiàn)了具有積分和激發(fā)功能的人工隨機(jī)神經(jīng)元[21]。在這個(gè)神經(jīng)元中，局部分級(jí)電位由相變效應(yīng)憶阻器的非易失性電導(dǎo)表示，因此不能實(shí)現(xiàn)局部分級(jí)電位的短期特性，即如果神經(jīng)元在某個(gè)時(shí)間接收到低于憶阻器閾值的信號(hào)，那么它的膜電位將永遠(yuǎn)保持既有狀態(tài)不會(huì)改變，直到神經(jīng)元被激活。這種特性明顯不符合神經(jīng)元行為在生物系統(tǒng)中的表現(xiàn)，在生物神經(jīng)系統(tǒng)中，未收到輸入刺激時(shí)神經(jīng)元膜電位應(yīng)逐漸降低，因此，可以通過在這種神經(jīng)元結(jié)構(gòu)上添加一個(gè)“泄漏”項(xiàng)來解決這種問題，即構(gòu)成LIF(Leaky Integrate-and-Fire)神經(jīng)元[22]。根據(jù)這種原理，本文設(shè)計(jì)了一種具有泄漏功能的神經(jīng)元電路，使得膜電位在無輸入的情況下逐漸下降，與神經(jīng)元在生物系統(tǒng)中的表現(xiàn)相似。

為了得到符合憶阻神經(jīng)元要求的憶阻器模型，解決神經(jīng)元特性不符合在生物系統(tǒng)中表現(xiàn)的問題。本文基于張洋的憶阻器模型[13]，研究了具有遺忘功能的憶阻器數(shù)學(xué)模型，擬合了SrTiO3(STO)實(shí)物憶阻器的參數(shù)，并使用該憶阻器設(shè)計(jì)了LIF 神經(jīng)元電路。神經(jīng)元的不應(yīng)期為85 μs，可反映寬度為4 μs 的輸入脈沖，與其他神經(jīng)元相比提高了計(jì)算速度，同時(shí)也驗(yàn)證了該電路可實(shí)現(xiàn)對(duì)時(shí)間和空間信息的整體反應(yīng)。

1 憶阻器模型

1.1 積分和泄漏的憶阻器模型

LIF 神經(jīng)元都具有三個(gè)基本的處理模塊，即積分、泄漏和激活模塊，憶阻器的機(jī)制剛好可滿足這些需求。在積分和泄漏模塊引用文獻(xiàn)[14]提出的模型，如式(1)所示。ω(t)代表摻雜區(qū)寬度;R(t)代表憶阻器阻值;D是憶阻器的厚度;μv表示平均離子漂移率;RON和ROFF分別為摻雜區(qū)完全摻雜和完全未摻雜時(shí)憶阻器的阻值;p是一個(gè)正整數(shù);v(t)和i(t)分別為憶阻器兩端電壓和流過憶阻器的電流。

然而在該模型中，阻值變化速度與電流成反比，也就意味著當(dāng)電壓越大，阻值變化越慢，實(shí)際阻值的變化恰好與此相反。上述模型使用的Joglekan 窗函數(shù)可很好地模擬狀態(tài)變量未到達(dá)邊界時(shí)的近似線性離子漂移情況，它較多使用于理想憶阻器模型。但Joglekan 窗函數(shù)會(huì)使憶阻非線性模型存在末端狀態(tài)問題[23]，即當(dāng)摻雜區(qū)和未摻區(qū)之間的分界面漂移至憶阻器的邊界處后(ω(t)=0 或ω(t)=D)，憶阻器將永遠(yuǎn)保持既有狀態(tài)而無法恢復(fù)，即使施加反向電壓也無法改變其阻值。

Biolek 窗函數(shù)[24]可較好地解決末端狀態(tài)問題，該窗函數(shù)除了狀態(tài)變量x和p外，還考慮了流經(jīng)憶阻的電流，使得憶阻摻雜區(qū)和非摻雜區(qū)的分界面到達(dá)邊界點(diǎn)后不會(huì)鎖定在既有狀態(tài)，流過反向電流即可改變其阻值，使其正常工作。數(shù)學(xué)表達(dá)式為:

式中:p為一個(gè)正整數(shù)，稱為函數(shù)的控制參數(shù)，x∈(0，1)，stp(·)為階躍函數(shù)，且有:

文獻(xiàn)[25]制備了一種兩端結(jié)構(gòu)為Pt/STO/Nb-STO(Nb 摻雜的STO)的憶阻器，其中Pt 和導(dǎo)電Nb-STO 單晶分別作為頂部電極和底部電極。觀察STO 薄膜和STO/Nb-STO 界面的透射電子顯微鏡(TEM)圖像，并分析了電導(dǎo)隨施加電壓變化的特性，結(jié)合實(shí)際應(yīng)用與STO 憶阻器實(shí)際變化特性，將窗函數(shù)修改為:

研究組患者治療后睡眠質(zhì)量恢復(fù)情況優(yōu)于對(duì)照組，差異有統(tǒng)計(jì)學(xué)意義（x2=6.318，P=0.012），見表1。

式中:λ和β均為參數(shù)變量。文獻(xiàn)[14]提出的憶阻器模型，當(dāng)兩端電壓小于閾值電壓VT時(shí)，會(huì)有dω(t)/dt=0，即ω(t)大小保持不變，從而憶阻器阻值將保持在一個(gè)固定值。而STO 憶阻器具有二階遺忘效應(yīng)，當(dāng)憶阻器兩端施加電壓小于憶阻器閾值電壓時(shí)，其電導(dǎo)將隨時(shí)間逐漸減小。

在上述模型基礎(chǔ)上，本文對(duì)模型進(jìn)行了相應(yīng)的修改，以表現(xiàn)出STO 憶阻器在實(shí)際阻值變化中的特性。當(dāng)憶阻器兩端施加電壓小于閾值時(shí)，摻雜區(qū)寬度將逐漸降低，從而阻值將逐漸變大，因此采用一個(gè)隨ω(t)倍數(shù)變化的θ(t)，如式(5)所示。

式中:α決定遺忘程度;θ(t)同為狀態(tài)變量，當(dāng)施加電壓為正電壓時(shí)，θ(t)變化速率為ω(t)變化速率的α(α＜1)倍。由于θ(t)較ω(t)變化速度慢，兩者之間存在差值，該差值可表示遺忘過程中的遺忘程度。當(dāng)施加大于負(fù)閾值的負(fù)電壓時(shí)，θ(t)與ω(t)變化速度相同，會(huì)有θ(t)-ω(t)=0，此時(shí)阻值不會(huì)隨時(shí)間變化，因此ω(t)可表示為:

式中:τ為遺忘速度。當(dāng)施加小于閾值的電壓時(shí)，有dω(t)/dt＜0，ω(t)逐漸減小，阻值將逐漸增大。

圖1 所示為修改后憶阻器模型對(duì)STO 憶阻器的仿真結(jié)果，根據(jù)STO 憶阻器特性的實(shí)測(cè)數(shù)據(jù)[25]，當(dāng)施加正向電壓(1.62 V)時(shí)，憶阻器電導(dǎo)值逐漸增加，變化趨勢(shì)為先快后慢。施加大于負(fù)閾值的負(fù)向電壓(-1.8 V)時(shí)，憶阻器電導(dǎo)值逐漸變小，變化趨勢(shì)也是先快后慢。在仿真過程中擬合參數(shù)設(shè)定為:RON=0.43 GΩ，ROFF=1.3 GΩ，VT+=1.2 V，VT-=-1.2 V，ion=1，ioff=0.9，i0=5×10-9，λ=0.9，β=0.62，μv=0.16×10-12，α=0.79，τ=0.2×10-6，p=0.54。在憶阻器兩端施加圖1 所示的電壓激勵(lì)時(shí)，得到電導(dǎo)隨時(shí)間變化的圖像如圖2(a)所示。在憶阻器兩端施加幅值為1.7 V，頻率為100 Hz 的正弦電得到該憶阻器的磁滯回線如圖2(b)所示。該模型描述STO 憶阻器隨時(shí)間變化的遺忘效應(yīng)如圖2(c)所示，觀察電壓為1 mV。

圖1 電壓激勵(lì)波形Fig.1 Voltage excitation waveform

圖2 遺忘效應(yīng)憶阻器的特性Fig.2 The characteristics of the forgetting effect memristor

1.2 激發(fā)功能的憶阻器模型

細(xì)胞膜的電位變化與其對(duì)不同離子的通透性有關(guān)，包括K+、Na+和Cl+[26-27]，前神經(jīng)元和后神經(jīng)元釋放出的尖峰信號(hào)可以直接參與突觸權(quán)重的調(diào)節(jié)。為了方便研究細(xì)胞間的信號(hào)傳遞，一些神經(jīng)科學(xué)的研究者使用簡(jiǎn)單的數(shù)學(xué)模型來表達(dá)尖峰信號(hào)[26]，如式(7)所示。

式中:和分別代表尖峰信號(hào)的正副幅值;τ+、τ-、和都是時(shí)間常數(shù)。尖峰信號(hào)大致形狀如圖3 所示。

圖3 細(xì)胞膜電位的變化Fig.3 Changes in cell membrane potential

在脈沖神經(jīng)元電路中使用壓控憶阻器，其阻值也呈指數(shù)非線性變化[27]，數(shù)學(xué)表達(dá)式如式(8)所示。θ[V(t)，t]為狀態(tài)變量，V(t)表示憶阻器兩端電壓，VTL和VTH為閾值電壓，L為隧道勢(shì)壘寬度，R(t)為憶阻器阻值，其余量為擬合參數(shù)。

該憶阻器的電流和阻值變化特性如圖4 所示，仿真時(shí)憶阻器兩端施加電壓幅值為1.6 V 的脈沖電壓，得到憶阻器的阻值變化范圍為(2 kΩ，210 kΩ)，阻值在正電壓時(shí)迅速減小，而在負(fù)電壓時(shí)迅速增大。流經(jīng)憶阻器的電流與細(xì)胞膜電位變化趨勢(shì)(圖1)有一定的相似程度。因此，可以通過對(duì)該憶阻器施加脈沖電壓的方式得到細(xì)胞之間傳遞信息的尖峰信號(hào)。在PSpice仿真中使用以下參數(shù)設(shè)置:VTH=1.5 V，VTL=-1.5 V，λ+=126×106，λ-=6.2×106，η=0，σ=0.1，m=82，L0=5 nm，f0=310。不同的λ+和λ-會(huì)影響阻值變化的快慢，可達(dá)到調(diào)節(jié)電流曲線陡峭程度的作用，將η的值設(shè)置為0，可防止當(dāng)電壓低于閾值時(shí)阻值發(fā)生變化。

圖4 產(chǎn)生尖峰信號(hào)的憶阻器特性Fig.4 Memristor properties that produce spike signals

2 神經(jīng)元電路設(shè)計(jì)

總體來說，類腦研究方向之一就是以大量人工突觸以及神經(jīng)元相連接組成脈沖神經(jīng)網(wǎng)絡(luò)，并以時(shí)間編碼模式對(duì)數(shù)據(jù)進(jìn)行分類處理[3]。大腦中最基本的信息處理單元是神經(jīng)元，它是由樹突(輸入單元)、胞體(處理單元)和軸突(輸出單元)組成[25]。激活的神經(jīng)元發(fā)出尖峰信號(hào)，彼此之間通過尖峰數(shù)量和時(shí)序先后傳遞信息，與神經(jīng)元產(chǎn)生的尖峰形狀無關(guān)。在這一過程中，神經(jīng)元收到突觸前神經(jīng)元發(fā)出的尖峰信號(hào)，在時(shí)間和空間上對(duì)這一信號(hào)進(jìn)行整合，使得該神經(jīng)元膜電位升高。若在短時(shí)間內(nèi)膜電位并未達(dá)到激活閾值電壓，則膜電位將緩慢降低，達(dá)到短期記憶的特點(diǎn)。在持續(xù)刺激神經(jīng)元使神經(jīng)元膜電位達(dá)到激活閾值電壓后，神經(jīng)元將被激活，產(chǎn)生一個(gè)電流尖峰信號(hào)，這個(gè)信號(hào)將通過突觸作用到下一神經(jīng)元[25]。

基于這種原理，本文設(shè)計(jì)了基于遺忘效應(yīng)憶阻器的LIF 神經(jīng)元電路，如圖5 所示。一般來說，以電壓為神經(jīng)元輸入形式，可簡(jiǎn)化電路中乘法模塊的分布和狀態(tài)變量到所有神經(jīng)元突觸的電路分布。而輸出通常采用電流的形式，這樣有利于狀態(tài)節(jié)點(diǎn)的求和操作[28]。

圖5 基于遺忘特性憶阻器的LIF 神經(jīng)元Fig.5 LIF neurons based on the forgetting property memristors

電路描述如下，圖5 表示的是一個(gè)LIF 神經(jīng)元電路，T1 是一個(gè)P 溝道增強(qiáng)型MOSFET，正常情況下U4 輸出低電平(-VCC)，T1 呈導(dǎo)通狀態(tài)，只有當(dāng)比較器U4 輸出高電平時(shí)(+VCC)，T1 才會(huì)關(guān)斷。用輸入電壓源V_input來表示突觸前神經(jīng)元傳遞到當(dāng)前神經(jīng)元的電壓，反相放大器U1 的放大倍數(shù)可表示此神經(jīng)元鏈接突觸前神經(jīng)元的個(gè)數(shù)。輸入信號(hào)經(jīng)過放大、累加求和(積分求和功能)作用于憶阻器MEM1，使其阻值發(fā)生變化，由于MEM1 和R5 的分壓作用，膜電位Vp也相應(yīng)發(fā)生變化，如式(9)所示:

式中:M1為憶阻器MEM1 的阻值;當(dāng)Vin大于憶阻器閾值電壓時(shí)，M1逐漸變小，導(dǎo)致電阻R5的分壓(Vp)增大。當(dāng)Vin小于閾值電壓時(shí)，由于憶阻器MEM1 具有遺忘效應(yīng)，MEM1 阻值逐漸變大，逐漸恢復(fù)到高阻態(tài)，使Vp變小，這一過程可模擬神經(jīng)元的泄漏過程。

當(dāng)Vp升高到激活閾值電壓Vact后，電壓比較器U3輸出電壓由+VCC 突變?yōu)?VCC，這一低電平信號(hào)使得由555 定時(shí)器構(gòu)成的單穩(wěn)態(tài)觸發(fā)器U5 觸發(fā)，發(fā)出時(shí)間寬度為Tref的高電平脈沖，同時(shí)，單穩(wěn)態(tài)觸發(fā)器U6 發(fā)出寬度為4 μs 的脈沖電壓，經(jīng)過憶阻器SPIKEMEM，產(chǎn)生類似于神經(jīng)尖峰信號(hào)的Spike 電流信號(hào)(如圖3 所示)傳遞到下一神經(jīng)元，這可模擬神經(jīng)元的激活過程。激活信號(hào)的前半部分功能主要為刺激突觸后神經(jīng)元膜電位發(fā)生變化，后半部分功能主要用來抑制該神經(jīng)元在短時(shí)間內(nèi)再次激活，以使M1恢復(fù)至高阻態(tài)，換而言之，使膜電位恢復(fù)至靜息電位，抑制時(shí)間稱為不應(yīng)期。

電阻Rpre表示神經(jīng)元的突觸，突觸前神經(jīng)元的信號(hào)經(jīng)過Rpre傳遞至神經(jīng)元，由于神經(jīng)元輸出信號(hào)為電流信號(hào)，輸入信號(hào)為電壓信號(hào)，因此神經(jīng)元接收到的信號(hào)可表示為:

式中:Ipre1，Ipre2，…，Ipren表示突觸前神經(jīng)元發(fā)出的信號(hào);Rpre1，Rpre2，…，Rpren可表示神經(jīng)元之間的權(quán)重;因此Vin可表示該神經(jīng)元在空間上的信息累加，Vin由與之相連的神經(jīng)元個(gè)數(shù)和權(quán)重共同決定。同時(shí)，由于憶阻器MEM1 的遺忘效應(yīng)，在Vin＜VT+時(shí)阻值M1會(huì)逐漸增大，因此求和電壓Vin的頻率也會(huì)影響M1的變化，進(jìn)而影響神經(jīng)元的激發(fā)特性，表現(xiàn)出神經(jīng)元在時(shí)間上的反應(yīng)。

綜上所述，Spike 信號(hào)的產(chǎn)生由突觸前神經(jīng)元個(gè)數(shù)、連接權(quán)重以及輸入信號(hào)的頻率共同決定。其中神經(jīng)元個(gè)數(shù)和連接權(quán)重可模擬空間信號(hào)，輸入頻率可模擬時(shí)間信號(hào)，因此該神經(jīng)元電路可表示在時(shí)間和空間上的整體反應(yīng)。

3 LIF 神經(jīng)元電路的PSpice 仿真

本小節(jié)對(duì)單個(gè)LIF 神經(jīng)元電路從突觸前神經(jīng)元個(gè)數(shù)、突觸權(quán)重以及輸入頻率3 個(gè)方面進(jìn)行仿真，得到激活特性隨輸入變化的關(guān)系。在仿真中Ipre使用幅值為1 mA、寬度為4 μs 的正脈沖電流來模擬接收到上一神經(jīng)元的信號(hào)，Rpre=1000 Ω 表示輸入權(quán)重w=1，同時(shí)令電路參數(shù)為R5=0.4 GΩ，Vact=2.7 V。

3.1 突觸前神經(jīng)元個(gè)數(shù)n 的影響

如圖6 所示，描述了膜電位Vp與突觸前神經(jīng)元個(gè)數(shù)n的關(guān)系，此時(shí)假設(shè)突觸前神經(jīng)元同時(shí)發(fā)出相同的信號(hào)，同時(shí)假設(shè)權(quán)重w=1，其中黑色虛線代表激活閾值2.7 V?？梢院苊黠@地看出當(dāng)n=10 時(shí)，神經(jīng)元在第2 個(gè)信號(hào)激活，當(dāng)n=9 時(shí)，神經(jīng)元在第4 個(gè)信號(hào)激活，當(dāng)n=8，n=7 時(shí)，神經(jīng)元將分別在第8、第18 個(gè)信號(hào)處激活，當(dāng)n=6 時(shí)，神經(jīng)元不再激活。

圖6 突觸前神經(jīng)元個(gè)數(shù)n 與膜電位Vp的關(guān)系Fig.6 The relationship between the number of presynaptic neurons n and membrane potential Vp

因此得出結(jié)論，神經(jīng)元激活時(shí)間隨突觸前神經(jīng)元個(gè)數(shù)的減少呈倍數(shù)增加。當(dāng)n少于最小個(gè)數(shù)時(shí)，神經(jīng)元將不再激活。

圖7 給出了當(dāng)n=8，w=1 時(shí)，LIF 神經(jīng)元激活的尖峰Spike 信號(hào)和膜電位Vp的仿真輸出結(jié)果。在Spike信號(hào)發(fā)出期間，神經(jīng)元膜電位處于靜息電位，維持的時(shí)間跨度稱為不應(yīng)期。

圖7 LIF 神經(jīng)元激活與膜電位Vp的關(guān)系Fig.7 The relationship between LIF neuron activation and membrane potential Vp

3.2 連接權(quán)重w 的影響

連接權(quán)重w對(duì)Vp的影響如圖8 所示，它與神經(jīng)元個(gè)數(shù)n一樣，都會(huì)影響神經(jīng)元在空間維度上的激活特性，Rpre=1000 Ω 表示輸入權(quán)值w=1，即w=Rpre/1000。為體現(xiàn)比較性，假設(shè)突觸前神經(jīng)元個(gè)數(shù)為8 且每個(gè)突觸權(quán)重w都相同。

圖8 突觸權(quán)重w 與膜電位Vp的關(guān)系Fig.8 The relationship between synaptic weight w and membrane potential Vp

由圖8 可明顯看出，當(dāng)突觸權(quán)重均為w=1.5 時(shí)，神經(jīng)元會(huì)在接受第1 個(gè)信號(hào)時(shí)立即激活，在w=1.3，w=1.1 和w=0.9 時(shí)，神經(jīng)元分別在第2，5，14 個(gè)信號(hào)處激活，當(dāng)權(quán)重均減小為w=0.8 時(shí)，神經(jīng)元不再激活，黑色虛線為激活閾值2.7 V。由此可見，在突觸前神經(jīng)元數(shù)量不變的情況下，突觸權(quán)重越大，神經(jīng)元接收到的刺激會(huì)更強(qiáng)，同時(shí)也會(huì)更早被激活產(chǎn)生Spike信號(hào)。

3.3 輸入頻率f 的影響

由于憶阻器MEM1 具有遺忘效應(yīng)，施加大于憶阻器閾值VT+的正向電壓，阻值減小，當(dāng)電壓小于閾值時(shí)，阻值增大?？梢娛┘与妷旱念l率會(huì)直接影響阻值M1的變化，因此輸入神經(jīng)元的頻率f會(huì)直接影響膜電位Vp的變化。假設(shè)突觸前神經(jīng)元個(gè)數(shù)n=8，突觸權(quán)重w=1，仿真結(jié)果如圖9 所示。

圖9 輸入頻率f 與膜電位Vp的關(guān)系Fig.9 The relationship between input frequency f and membrane potential Vp

由圖9 可知，當(dāng)頻率f=150000 Hz 時(shí)，神經(jīng)元在43 μs 處激活發(fā)出Spike 信號(hào)，當(dāng)頻率f=125000 Hz，f=100000 Hz 和f=75000 Hz 時(shí)，神經(jīng)元分別在57，73和123 μs 處激活，而當(dāng)f=50000 Hz 時(shí)，神經(jīng)元將不再激活。由此可見，要使神經(jīng)元能正常激活發(fā)出Spike信號(hào)，在n=8，w=1 的情況下輸入信號(hào)頻率必須大于50000 Hz。

綜合上述分析，可以得出LIF 神經(jīng)元的激活條件由突觸前神經(jīng)元n、突觸權(quán)重w和輸入信號(hào)頻率f共同決定，其中突觸前神經(jīng)元個(gè)數(shù)n和突觸權(quán)重w模擬空間上的累計(jì)求和，輸入信號(hào)頻率f可模擬時(shí)間上的信息傳遞，影響LIF 神經(jīng)元的泄漏過程。突觸前神經(jīng)元個(gè)數(shù)越多、突觸權(quán)重越大、輸入信號(hào)頻率越高，神經(jīng)元會(huì)更早激活。LIF 神經(jīng)元達(dá)到激活條件后，由激活信號(hào)通過SPIKEMEM 產(chǎn)生Spike 電流信號(hào)傳遞至下一神經(jīng)元，模擬神經(jīng)元激活過程。

4 結(jié)果與分析

本文基于遺忘效應(yīng)憶阻器構(gòu)建了LIF 神經(jīng)元電路，與M-CNN 神經(jīng)元結(jié)構(gòu)[29]相比，可多傳遞時(shí)間維度的信息，從而利用Spike 信號(hào)進(jìn)行時(shí)間編碼，即脈沖時(shí)間依賴可塑性(STDP)。

本文構(gòu)建神經(jīng)元的不應(yīng)期為85 μs，表示該神經(jīng)元的有效積分時(shí)間只發(fā)生在85 μs 的時(shí)間段，是文獻(xiàn)[25]不應(yīng)期時(shí)間500 μs 的1/5，計(jì)算速度更快。本文中神經(jīng)元可反映寬度為4 μs 的輸入脈沖，與文獻(xiàn)[29]中60 μs 的脈沖寬度相比，是其輸入頻率的10 倍左右，提高了計(jì)算速度，在假設(shè)單個(gè)神經(jīng)元激活頻率與文獻(xiàn)[29]相同的情況下，本文所設(shè)計(jì)的神經(jīng)元電路可與更多的突觸相連接，因此更易構(gòu)成大規(guī)模集成電路。

5 結(jié)論

本文首先研究了具有遺忘功能的憶阻器仿真模型，使用PSpice 軟件對(duì)憶阻值隨電壓變化、憶阻值隨時(shí)間變化以及磁滯回線的分析，驗(yàn)證了仿真模型的憶阻特性。結(jié)合改進(jìn)的模型，設(shè)計(jì)了LIF 神經(jīng)元電路，在膜電位Vp達(dá)到閾值電位Vact時(shí)，神經(jīng)元發(fā)出Spike 信號(hào)傳遞至下一神經(jīng)元，同時(shí)使該神經(jīng)元進(jìn)入不應(yīng)期，膜電位保持為靜息電位。最后通過分析突觸前神經(jīng)元個(gè)數(shù)、突觸權(quán)重以及信號(hào)輸入頻率對(duì)膜電位Vp的影響，驗(yàn)證了該電路可實(shí)現(xiàn)對(duì)時(shí)間和空間信息的整體反應(yīng)。