不同重連概率的小世界脈沖神經(jīng)網(wǎng)絡(luò)抗擾功能研究*

郭 磊，馮 海，石洪溢

(1.天津市生物電工與智能健康重點實驗室(河北工業(yè)大學),天津 300130;2.省部共建電工裝備可靠性與智能化國家重點實驗室(河北工業(yè)大學),天津 300130)

1 引言

隨著電磁環(huán)境的日益復雜，各種電磁干擾對電子系統(tǒng)造成的不良影響越來越嚴重，這使得傳統(tǒng)電磁抗擾方式不足的問題日漸突出。電磁仿生學[1,2]的概念由此被提出，目的是學習和借鑒生物體的優(yōu)良特性，以期建立全新防護模式。

生物體在神經(jīng)系統(tǒng)的調(diào)節(jié)下呈現(xiàn)出的自適應抗干擾能力是非生物體無法比擬的，而這一能力與突觸可塑性的調(diào)控密切相關(guān)。突觸可塑性分為興奮性和抑制性2種，興奮性突觸可塑性以往是研究的重點[3]，而抑制性突觸可塑性的調(diào)控作用也逐漸被人所重視。Kleberg等人[4]證明抑制性突觸可塑性在興奮性和抑制性突觸電導權(quán)值的平衡方面起著至關(guān)重要的作用。薛曉丹等人[5]在所構(gòu)建的反饋神經(jīng)回路模型中發(fā)現(xiàn)，在抑制性突觸可塑性的調(diào)節(jié)下，網(wǎng)絡(luò)可取得放電率自穩(wěn)態(tài)。神經(jīng)網(wǎng)絡(luò)自適應抗擾功能的研究是近年來的熱門問題，本課題組針對這一問題的研究現(xiàn)狀，開展了基于層級脈沖神經(jīng)抗擾功能的研究工作[6,7]，前期工作成果有：揭示了生物體的自適應抗干擾能力與突觸可塑性機制有關(guān)；網(wǎng)絡(luò)在損傷條件和噪聲環(huán)境下具有一定的抗擾功能和抗擾范圍。王美麗等人[8]在構(gòu)建的反饋神經(jīng)回路模型中發(fā)現(xiàn)，網(wǎng)絡(luò)在抑制性突觸可塑性的調(diào)控下，對外加噪聲刺激具有較強的魯棒性。拓撲結(jié)構(gòu)是網(wǎng)絡(luò)的關(guān)鍵特性，目前關(guān)于神經(jīng)網(wǎng)絡(luò)抗擾功能的研究主要是基于層級網(wǎng)絡(luò)，而復雜網(wǎng)絡(luò)更符合生物真實性。

大量研究表明，腦網(wǎng)絡(luò)具有顯著的小世界屬性[9,10]，小世界網(wǎng)絡(luò)模型中重連概率參數(shù)對其自身網(wǎng)絡(luò)特性有明顯的影響[11]，進一步研究小世界模型的參數(shù)對神經(jīng)網(wǎng)絡(luò)的抗擾功能的影響具有重要意義。本文構(gòu)建了興奮性和抑制性突觸可塑性共同調(diào)節(jié)的小世界脈沖神經(jīng)網(wǎng)絡(luò)，研究了不同重連概率的網(wǎng)絡(luò)在高斯白噪聲刺激下的抗擾功能。

2 小世界脈沖神經(jīng)網(wǎng)絡(luò)的構(gòu)建

本文基于小世界網(wǎng)絡(luò)拓撲，以Izhikevich神經(jīng)元模型為節(jié)點，以突觸可塑性模型為連接關(guān)系構(gòu)建了小世界脈沖神經(jīng)網(wǎng)絡(luò)。

2.1 小世界網(wǎng)絡(luò)的生成及其特性分析

WS(Watts-Strogatz)小世界網(wǎng)絡(luò)的生成算法為：生成節(jié)點數(shù)目為500的環(huán)形規(guī)則網(wǎng)絡(luò)，每一節(jié)點與其鄰近的各10個節(jié)點連接；從第1個節(jié)點開始，對其連邊以重連概率p進行連接，p取值為0～1。本文通過實驗確定生成重連概率p為0.2,0.4,0.6,0.8的小世界網(wǎng)絡(luò)，基于復雜網(wǎng)絡(luò)特性理論對比分析各網(wǎng)絡(luò)拓撲特性。

(1)平均聚類系數(shù)。

聚類系數(shù)的描述如下所示：

Ci=2ei/(ki(ki-1))

(1)

其中，ei表示節(jié)點間實際相互連接的邊數(shù)，ki表示節(jié)點所有相鄰節(jié)點的個數(shù)，ki(ki-1)/2表示節(jié)點間最多可能相互連接的邊數(shù)。平均聚類系數(shù)為網(wǎng)絡(luò)中所有節(jié)點聚類系數(shù)的平均值，其描述如下所示：

(2)

其中，N表示節(jié)點的數(shù)目。平均聚類系數(shù)表征網(wǎng)絡(luò)中節(jié)點連接的集團化程度和信息傳輸能力，平均聚類系數(shù)越大，網(wǎng)絡(luò)整體的信息傳遞能力越強。在圖1中，隨重連概率的增大，網(wǎng)絡(luò)平均聚類系數(shù)明顯減小，說明該系數(shù)受重連概率的影響較大。

Figure 1 Average clustering coefficient under different rewiring probabilities圖1 不同重連概率下的平均聚類系數(shù)

(2)平均路徑長度。

平均路徑長度是表示網(wǎng)絡(luò)信息傳遞效率的指標，其值越小代表相應的效率越高，其描述如下：

(3)

其中，dij表示2節(jié)點間的距離,V為網(wǎng)絡(luò)中所有神經(jīng)元的集合。

在圖2中，小世界網(wǎng)絡(luò)的神經(jīng)信息傳遞效率隨重連概率的增大有較小幅度的增大，網(wǎng)絡(luò)的平均路徑長度受重連概率的影響較小。

Figure 2 Average path length under different rewiring probabilities圖2 不同重連概率下的平均路徑長度

(3)全局效率。

全局效率是表示網(wǎng)絡(luò)信息傳遞效率的指標，其值越大代表相應的指標越好，其描述如下所示：

(4)

在圖3中，小世界網(wǎng)絡(luò)的神經(jīng)信息傳遞效率隨重連概率的增大有較小幅度的增大，說明網(wǎng)絡(luò)的全局效率受重連概率的影響較小。

Figure 3 Global efficiency under different rewiring probabilities圖3 不同重連概率下的全局效率

(4)小世界屬性。

小世界屬性可以定量分析小世界網(wǎng)絡(luò)的屬性，其描述如下所示：

σ=γ/λ

(5)

其中，γ表示小世界網(wǎng)絡(luò)與隨機網(wǎng)絡(luò)平均聚類系數(shù)之比，λ表示小世界網(wǎng)絡(luò)與隨機網(wǎng)絡(luò)的平均路徑長度之比。σ>1的網(wǎng)絡(luò)表示其具有小世界屬性。σ值越大代表其相應的屬性越強。

Figure 4 Small world attributes under different rewiring probabilities圖4 不同重連概率下的小世界屬性

在圖4中，小世界網(wǎng)絡(luò)的小世界屬性隨重連概率的增大明顯減小，說明網(wǎng)絡(luò)的小世界屬性受重連概率的影響較大。

小世界網(wǎng)絡(luò)具有高聚類系數(shù)和低平均路徑長度的特性，由于各網(wǎng)絡(luò)拓撲特性受重連概率的影響的不同，從損失較小平均路徑長度和全局效率而獲得較大的平均聚類系數(shù)和小世界屬性的角度考慮，較低的重連概率，可較好地滿足小世界網(wǎng)絡(luò)特性。

2.2 Izhikevich神經(jīng)元模型

Izhikevich神經(jīng)元模型的優(yōu)勢是適合計算機仿真，且趨近生物真實放電特征，其描述如下所示：

dv/dt=0.04v2+5v+140-u+I，

du/dt=a(bv-u),

(6)

其中，v表示神經(jīng)元膜電位；u表示膜電壓恢復變量；I表示輸入電流和突觸電流的總和，a,b,c,d為4個無量綱參數(shù)。興奮性神經(jīng)元采用規(guī)則放電模式RS(Regular Spiking)，其參數(shù)設(shè)置為：a=0.02,b=0.2,c=-65,d=8，放電特性如圖5a所示；抑制性神經(jīng)元采用低閾值放電模式LTS(Low-Threshold Spiking)，其參數(shù)設(shè)置為：a=0.02,b=0.25,c=-65,d=2，放電特性如圖5b所示。興奮性和抑制性神經(jīng)元選擇這2種放電模式是因其在生物中常見且具有代表性[12,13]。圖5中，橫縱坐標分別為仿真時間和神經(jīng)元膜電壓。

Figure 5 Firing mode of Izhikevich neuron圖5 Izhikevich神經(jīng)元放電模式

2.3 突觸可塑性模型

突觸可塑性模型描述如下：

Isyn=gsyn(t)(V-Vm(t))

(7)

其中，Isyn表示突觸電流；gsyn(t)表示突觸權(quán)值；Vm(t)表示突觸后神經(jīng)元的膜電位；V表示反轉(zhuǎn)電位，興奮性突觸的反轉(zhuǎn)電位VE=0 mV；抑制性突觸的反轉(zhuǎn)電位VI=-70 mV。具體調(diào)節(jié)規(guī)律：

(1)當突觸前神經(jīng)元i的動作電位未傳遞到突觸后神經(jīng)元j時，相應突觸權(quán)值會發(fā)生指數(shù)衰減，其描述如下所示：

興奮性：

(8)

抑制性：

(9)

其中，gex和gin分別表示興奮性和抑制性突觸權(quán)值；τex和τin分別表示興奮性和抑制性突觸權(quán)值的衰減常數(shù)，設(shè)定τex=τin=5 ms;t表示時間。

(2)當突觸前神經(jīng)元i的動作電位傳遞到突觸后神經(jīng)元j時，調(diào)控規(guī)律描述如下：

興奮性：

(10)

抑制性：

(11)

(12)

(13)

其中,Δt表示突觸前后神經(jīng)元放電間隔時間；τ+和τ-表示突觸增強和減弱時突觸前后神經(jīng)元放電時刻間隔范圍，τ+=τ-=20 ms；A+和A-為興奮性突觸電導在增強和減弱時的最大修正值；B+和B-為抑制性突觸電導在增強和減弱時的最大修正值。A+=0.1,A-=0.105；B+=0.02,B-=0.03。

本文以重連概率分別為0.2,0.4,0.6,0.8，節(jié)點規(guī)模均為500的WS小世界網(wǎng)絡(luò)拓撲，以Izhikevich神經(jīng)元模型為節(jié)點，基于興奮性和抑制性突觸可塑性模型構(gòu)建4個網(wǎng)絡(luò)拓撲的脈沖神經(jīng)網(wǎng)絡(luò)。依據(jù)神經(jīng)解剖學實驗結(jié)果，網(wǎng)絡(luò)中興奮性神經(jīng)元和抑制性神經(jīng)元的比例為4∶1[14]。

3 高斯白噪聲刺激下網(wǎng)絡(luò)的抗擾功能分析

本文以放電率和膜電位相關(guān)性作為抗擾指標對比分析了不同重連概率的小世界脈沖神經(jīng)網(wǎng)絡(luò)的抗擾功能。

3.1 高斯白噪聲

現(xiàn)實生活中如雷達和通訊系統(tǒng)等電子系統(tǒng)中的噪聲形式多為高斯白噪聲，因此以高斯白噪聲為噪聲環(huán)境研究抗擾功能具有重要的現(xiàn)實意義。高斯白噪聲ξ(t)滿足：

〈ξ(t)〉=0

(14)

〈ξi(t),ξj(t′)〉=Dδijδ(t-t′)

(15)

其中，ξi(t),ξj(t′)為神經(jīng)元i,j的噪聲干擾項，D為噪聲強度，當i=j(t=t′)時，δij=1(δ(t-t′)=1);否則，δij=0(δ(t-t′)=0)。高斯白噪聲為電流刺激，實驗時將ξ(t)施加到式(6)的電流部分得到高斯白噪聲下脈沖神經(jīng)網(wǎng)絡(luò)模型。

3.2 不同重連概率的網(wǎng)絡(luò)抗擾功能對比性分析

3.2.1 基于放電率網(wǎng)絡(luò)抗擾功能的分析

放電率為單位時間內(nèi)神經(jīng)元脈沖發(fā)放次數(shù)。本文中的放電率取網(wǎng)絡(luò)中的平均值。為了定量計算干擾前后放電率的變化，引入放電率的相對變化率，其描述如下所示：

δ=((fj-fi)/fi)*100%

(16)

其中，fi表示干擾前網(wǎng)絡(luò)的放電率，fj表示干擾后網(wǎng)絡(luò)的放電率，δ表示干擾前后放電率的相對變化率。通過計算干擾前后放電率的相對變化率分析不同重連概率下小世界脈沖神經(jīng)網(wǎng)絡(luò)抗擾功能。

以放電率作為不同重連概率下的小世界脈沖神經(jīng)網(wǎng)絡(luò)的抗擾指標分析網(wǎng)絡(luò)的抗擾功能，對重連概率分別為0.2,0.4,0.6,0.8的小世界脈沖神經(jīng)網(wǎng)絡(luò)中的所有神經(jīng)元加入強度分別為1 dBW,5 dBW,10 dBW,15 dBW,20 dBW的高斯白噪聲，該噪聲強度是通過實驗取得的，仿真時間為1 000 ms，不同強度的高斯白噪聲刺激下4個網(wǎng)絡(luò)拓撲結(jié)構(gòu)的脈沖神經(jīng)網(wǎng)絡(luò)的放電率和放電率的相對變化率的變化趨勢如圖6所示。

在圖6a和圖6b中，橫坐標表示噪聲強度，縱坐標分別表示小世界脈沖神經(jīng)網(wǎng)絡(luò)的放電率和放電率的相對變化率。其中，菱型折線、方型折線、十字型折線、三角型折線分別表示重連概率為0.2,0.4,0.6,0.8的網(wǎng)絡(luò)放電率隨高斯白噪聲的變化情況。由圖6a可知，隨高斯白噪聲強度的逐步增加，各網(wǎng)絡(luò)的放電率基本呈現(xiàn)上升趨勢，說明噪聲的強度越大對網(wǎng)絡(luò)的作用越強。由圖6b可知：(1)在一定噪聲強度內(nèi)，各網(wǎng)絡(luò)的放電率的相對變化率都較小，說明各網(wǎng)絡(luò)對此強度范圍內(nèi)噪聲的抑制作用較強；超過一定的范圍后，放電率的相對變化率較大，說明各網(wǎng)絡(luò)對此強度范圍內(nèi)噪聲的抑制作用變差。(2)當噪聲強度為1 dBW,5 dBW, 20 dBW時，重連概率為0.2的網(wǎng)絡(luò)的放電率的相對變化率最低；當噪聲強度為10 dBW, 15 dBW時，重連概率為0.2的網(wǎng)絡(luò)的放電率的相對變化率同樣較低，說明重連概率為0.2的網(wǎng)絡(luò)抗擾功能優(yōu)于其他重連概率的網(wǎng)絡(luò)的。

Figure 6 Firing rate varing with the intensity of white Gauss noise圖6 放電率隨高斯白噪聲強度變化

3.2.2 基于膜電位相關(guān)性網(wǎng)絡(luò)抗擾功能的分析

膜電位相關(guān)性可以反映干擾前后神經(jīng)元膜電位的相似程度。本文通過相關(guān)系數(shù)計算膜電位相關(guān)性，數(shù)學表達如下所示：

(17)

其中，xi和xj是高斯白噪聲干擾前后網(wǎng)絡(luò)中所有神經(jīng)元膜電位的平均值，[t1,t2]為仿真時長。

本文通過分析相關(guān)系數(shù)ρ(τ)的大小來分析網(wǎng)絡(luò)的抗擾功能，ρ(τ)越大說明干擾前后神經(jīng)元膜電位的近似程度越高，其抗擾功能越強。

本文以膜電位相關(guān)性作為脈沖神經(jīng)網(wǎng)絡(luò)的抗擾指標分析網(wǎng)絡(luò)的抗擾功能，在計算膜電位相關(guān)性中干擾前后的膜電位取干擾前后整個網(wǎng)絡(luò)中的平均值。對重連概率分別為0.2,0.4,0.6,0.8網(wǎng)絡(luò)的所有神經(jīng)元加入強度分別為1 dBW,5 dBW,10 dBW,15 dBW, 20 dBW的高斯白噪聲，該噪聲強度是通過實驗取得的，仿真時間為1 000 ms，不同強度的高斯白噪聲刺激下4個網(wǎng)絡(luò)拓撲結(jié)構(gòu)的脈沖神經(jīng)網(wǎng)絡(luò)的的膜電位相關(guān)性的變化趨勢如圖7所示。

Figure 7 Correlation between membrane potential varing with the intensity of white Gauss noise圖7 膜電位相關(guān)性隨高斯白噪聲強度的變化

在圖7中，橫縱坐標分別表示高斯白噪聲強度和小世界脈沖神經(jīng)網(wǎng)絡(luò)膜電位相關(guān)性。其中，菱型折線、方型折線、十字型折線、三角型折線分別表示重連概率為0.2,0.4,0.6,0.8的小世界脈沖神經(jīng)網(wǎng)絡(luò)膜電位相關(guān)性隨高斯白噪聲的變化情況。由圖7可知：(1)隨高斯白噪聲刺激強度的增大，各網(wǎng)絡(luò)的膜電位相關(guān)性基本呈下降趨勢，說明噪聲的強度越大對網(wǎng)絡(luò)的作用越強。(2)在一定噪聲強度范圍內(nèi)，不同重連概率的小世界脈沖神經(jīng)網(wǎng)絡(luò)的膜電位相關(guān)性較大，說明網(wǎng)絡(luò)對此強度范圍內(nèi)噪聲的抑制作用較強；超過一定的范圍后，各網(wǎng)絡(luò)的膜電位相關(guān)性較小，說明各網(wǎng)絡(luò)對此強度范圍內(nèi)噪聲的抑制作用變差。(3)在不同重連概率的小世界脈沖神經(jīng)網(wǎng)絡(luò)對比中，重連概率為0.2,0.8的小世界脈沖神經(jīng)網(wǎng)絡(luò)的膜電位相關(guān)性基本相當且高于其他重連概率的網(wǎng)絡(luò)，說明以膜電位作為抗擾指標，重連概率為0.2,0.8的網(wǎng)絡(luò)的抗擾功能優(yōu)于其他重連概率的網(wǎng)絡(luò)的。

綜上所述，基于放電率和膜電位相關(guān)性的抗擾指標對比均得出以下一致結(jié)論：(1)重連概率的改變對脈沖神經(jīng)網(wǎng)絡(luò)的抗擾功能有影響；(2)最低重連概率0.2的網(wǎng)絡(luò)的抗擾功能最優(yōu)，是由于該網(wǎng)絡(luò)的小世界網(wǎng)絡(luò)特性最顯著。

4 結(jié)束語

本文基于復雜網(wǎng)絡(luò)特性理論對比分析了不同重連概率的小世界網(wǎng)絡(luò)的拓撲特性；以放電率的相對變化率和膜電位相關(guān)性作為抗擾功能的指標，對比分析了4個重連概率的小世界脈沖網(wǎng)絡(luò)在高斯白噪聲刺激下的抗擾功能。實驗結(jié)果表明，重連概率對平均路徑長度和全局效率值影響較小，而對平均聚類系數(shù)和小世界屬性的影響較大，即較低重連概率的小世界網(wǎng)絡(luò)損失較小的平均路徑長度和全局效率而獲得較大的平均聚類系數(shù)和小世界屬性的角度能夠較好地滿足小世界網(wǎng)絡(luò)特性。針對一定強度的高斯白噪聲刺激，基于不同重連概率所構(gòu)建的小世界脈沖神經(jīng)網(wǎng)絡(luò)均呈現(xiàn)了一定的抗擾能力，且具有較高聚類系數(shù)和較低平均路徑長度的脈沖神經(jīng)網(wǎng)絡(luò)的抗擾功能更優(yōu)良?；谕挥|可塑性的突觸權(quán)值調(diào)節(jié)機制是脈沖神經(jīng)網(wǎng)絡(luò)抗擾功能的基礎(chǔ)，重連概率作為小世界網(wǎng)絡(luò)的重要參數(shù)，較低的重連概率可使小世界網(wǎng)絡(luò)具有顯著小世界特性，顯著的小世界特性使該網(wǎng)絡(luò)拓撲的脈沖神經(jīng)網(wǎng)絡(luò)具有優(yōu)良抗擾功能。下一步本課題組將開展基于FPGA脈沖神經(jīng)網(wǎng)絡(luò)構(gòu)建及抗擾功能的硬件實現(xiàn)的研究工作。