基于憶阻脈沖耦合神經(jīng)網(wǎng)絡的圖像邊緣檢測

夏浩杰，肖 劍，盛 亮

（江蘇大學電氣信息工程學院，江蘇鎮(zhèn)江 212013）

0 引言

1990 年，Eckhorn 等［1］發(fā)現(xiàn)了貓視覺皮層的神經(jīng)元同步振蕩性；之后Johnson 等［2］基于此提出了脈沖耦合神經(jīng)網(wǎng)絡（Pulse Coupled Neural Network，PCNN），并將其應用于圖像處理。PCNN 作為一種接近生物學的第三代人工神經(jīng)網(wǎng)絡，具有同步脈沖、動態(tài)閾值和脈沖耦合高等優(yōu)良特點。Zhan 等［3］對PCNN 進行了全面綜述，深入分析了PCNN 的計算原理。如今，PCNN 在圖像分割［4］、圖像去噪［5］、圖像融合［6］、圖像邊緣檢測［7］等領(lǐng)域均有著廣泛應用。雖然PCNN是由參數(shù)控制的網(wǎng)絡模型，但是它的固有參數(shù)估計問題被認為是影響圖像處理性能的重要原因。如果設置的人工參數(shù)不合適，PCNN 的處理效果就會變得很差?；诖耍琇i等［8］提出了一種自適應參數(shù)的確定策略，并成功實現(xiàn)了圖像分割任務。文獻［9］中，連接參數(shù)的改變?nèi)Q于輸入刺激的清晰度。但是，這些自適應參數(shù)設置方法都是由計算機仿真得到的，會產(chǎn)生執(zhí)行時間長和效率低下等問題。因此，在PCNN 硬件層次上實現(xiàn)自適應動態(tài)參數(shù)是非常值得研究的方向。

1971 年，Chua［10］首次提出了第4 種電路元件，也即憶阻器，它首次標明了電荷和磁通之間的關(guān)系。2008 年，HP實驗室宣布首次實現(xiàn)了物理層面的憶阻器，為后續(xù)研究奠定了堅實的基礎(chǔ)［11］。隨著科技的發(fā)展，基于各種材料的憶阻器被研制出來。如今，憶阻器已廣泛應用于神經(jīng)網(wǎng)絡、圖像處理、電阻存儲等各種計算機科學領(lǐng)域［12-13］。憶阻器具有的非易失性、記憶性和納米級結(jié)構(gòu)等優(yōu)良特性，將對神經(jīng)網(wǎng)絡硬件化發(fā)展產(chǎn)生巨大的推動作用。

隨著現(xiàn)代信息社會數(shù)據(jù)量的飛速增長，需要處理的圖像復雜度越來越高。文獻［14］提出基于憶阻器的神經(jīng)網(wǎng)絡可以依靠電流和電壓的關(guān)系實現(xiàn)計算加速，在圖像處理領(lǐng)域具有非常廣闊的應用前景。傳統(tǒng)PCNN 網(wǎng)絡硬件化模型實現(xiàn)龐大且復雜［15］，鑒于此，本文提出基于憶阻器的改進PCNN 網(wǎng)絡，實現(xiàn)了閾值發(fā)生器的閾值動態(tài)更新和連接參數(shù)的自適應動態(tài)變化。

1 憶阻器模型

經(jīng)典憶阻器的物理結(jié)構(gòu)如圖1 所示，它由兩個鉑電極之間的兩層二氧化鈦組成。

Fig.1 Physical structure model of amnesia resistor圖1 憶阻器物理結(jié)構(gòu)模型

其中，D 為二氧化鈦薄膜層，該薄膜層分為2 層。缺少部分氧原子的薄膜層叫作摻雜層，用w 表示；另外一層純二氧化鈦層叫作未摻雜層；D 表示薄膜層的總厚度。在接入電源后，摻雜層與未摻雜層之間的寬度會產(chǎn)生變化，從而影響整體電阻變化。則憶阻器的阻值可表示為：

式（1）中，RL是x=0 時的極小憶阻值，RH是x=1 時的極大憶阻值。其中x=w/D，它是在[0，1]范圍內(nèi)的活動狀態(tài)變量。從式（2）中可以看出，理想狀態(tài)下，摻雜層邊界的移動速率和經(jīng)過憶阻器的電流是線性關(guān)系。其中，μv是離子的平均遷移率，因此式（2）是憶阻器的線性漂移模型。

Gale［16］在2014 年提出了摻雜層的電阻會隨時間而變化的觀點。則摻雜層的移動速率可以表示為：

式（3）中，將式（2）的RH用R(t)代入。之后將式（3）積分并將式（1）代入得：

計算得：

當w=0,q=0 時，可以計算出c：

將c的值代入式（5），得：

由式（8）得到憶阻器模型，之后對該模型系統(tǒng)進行離散化。使用T 作為最小采樣周期，可以得到：

外部施加一個恒直流I接通到憶阻器上，可以得到憶阻器的迭代公式：

最后設置模擬參數(shù)：RH=100Ω，RL=160Ω，μv=1*10-4m2s-1v-1，D=1× 10-3m。將直流電流I=1mA 施加到憶阻器上?？傻玫絭-t曲線，如圖2 所示。

Fig.2 v-t curve of the exponential amnesic resistor圖2 指數(shù)憶阻器的v-t 曲線

2 PCNN 模型

PCNN 模型對生物學行為的模仿性更高，并且PCNN 不需要學習和訓練就能從復雜的背景中提取出有效信息，因此在圖像處理方面PCNN 有著更為優(yōu)良的特性。經(jīng)典PCNN 網(wǎng)絡模型一共分為4 部分：輸入模塊、連接模塊、脈沖發(fā)生器和閾值發(fā)生器［17］，如圖3 所示。

接受域由輸入信號和連接輸入信號組成。輸入信號接收外部輸入信號的激勵，即Sij，連接輸入信號用來接受相鄰神經(jīng)元的輸入。式（10）、式（11）中，(i,j)表示每個神經(jīng)元的位置，(k,l)指相鄰神經(jīng)元的位置。在PCNN 圖像處理過程中，坐標代表圖像每個像素點的位置。αf和αl是衰減時間常數(shù)，Vf和Vl分別是輸入信號Fij和連接輸入信號Lij的放大系數(shù)，M和W是突觸權(quán)重矩陣，Ykl是上一次迭代相鄰神經(jīng)元的輸出。

Fig.3 PCNN model framework diagram圖3 PCNN 模型框架

在連接模塊，將輸入信號和連接輸入信號進行耦合調(diào)制，得到神經(jīng)元的內(nèi)部狀態(tài)信號，即神經(jīng)元的內(nèi)部狀態(tài)信號Uij由Fij和Lij非線性組合而成，β是放大連接輸入影響的系數(shù)。

在脈沖發(fā)生器部分，脈沖的產(chǎn)生取決于神經(jīng)元的內(nèi)部狀態(tài)信號Uij是否大于動態(tài)閾值θij。式（14）中，當Uij大于θij時，神經(jīng)元發(fā)生放電現(xiàn)象，從而輸出脈沖。神經(jīng)元的這種行為被稱為點火。

在閾值發(fā)生器部分，閾值的電位會隨著迭代過程逐漸衰減。當Uij>Yij時，Yij=1，閾值θij會很快被提高到一個較大的值。當θij大于Yij時，脈沖發(fā)生器關(guān)閉，則輸出信號Yij=0。閾值開始呈指數(shù)型下降，下降到一定數(shù)值時又會導致脈沖發(fā)生器打開。該過程會一直循環(huán)到迭代次數(shù)結(jié)束為止。

上式給出了經(jīng)典的脈沖耦合神經(jīng)網(wǎng)絡框架。任何接受外部刺激的神經(jīng)元在第一次迭代中都會被激活，產(chǎn)生一個大的閾值電位。接下來，需要數(shù)次迭代才能使閾值衰減到足以再次激活神經(jīng)元。

3 M_PCNN 模型

3.1 動態(tài)閾值發(fā)生器

根據(jù)憶阻器模型的v-t 曲線可知，憶阻值會在外部激勵下隨時間指數(shù)衰減［18］。如果在沒有動態(tài)更新的情況下，將無法重新發(fā)送閾值電位。本文基于憶阻器設計了PCNN的閾值發(fā)生器電路，可以動態(tài)調(diào)整PCNN 的閾值。動態(tài)閾值發(fā)生器電路設計如圖4 所示。

該電路在憶阻器的基礎(chǔ)上使用NMOS 和PMOS 構(gòu)成了一對互鎖式電路。從式（14）可得，當電路沒有脈沖輸入時（即Yij(n-1)=0），NMOS 關(guān)閉并且PMOS 打開。這時一個正的恒定電流I1通過憶阻器，讓憶阻器的憶阻值開始呈指數(shù)衰減。因此，閾值電位θij也開始呈指數(shù)衰減。當有一個脈沖輸入（Yij(n-1)=1）進入電路時，NMOS 打開且PMOS關(guān)閉。同時，一個大的負的恒定電流I2通過憶阻器，讓憶阻迅速上升到一個較大的值，因此閾值電位也會升高到一個很大的值，從而導致NMOS 關(guān)閉且PMOS 打開，這時憶阻器的阻值和閾值電位又會開始呈指數(shù)衰減。

Fig.4 Dynamic threshold generator circuit圖4 動態(tài)閾值發(fā)生器電路

3.2 自適應連接參數(shù)

在傳統(tǒng)的PCNN 網(wǎng)絡模型中，連接參數(shù)β是由人工設置的固定參數(shù)，而修改此參數(shù)會對該網(wǎng)絡的圖像邊緣檢測效果產(chǎn)生很大影響，如果參數(shù)設置不適合會導致輸出效果變得很差。本文使用兩個憶阻器反向并聯(lián)重構(gòu)了神經(jīng)元連接參數(shù)的輸出電路，讓神經(jīng)元之間的的連接強度可以根據(jù)外部輸入刺激的大小自適應調(diào)整變化，如圖5 所示。

Fig.5 Adaptive connection parameters framework圖5 自適應連接參數(shù)框架

由于憶阻器的憶阻值可以隨輸入電流變化，由圖可得式（15）。將可變電流源I作為電路的輸入，I由外部輸入Sij和映射函數(shù)f決定。憶阻電路則將外部輸入刺激的大小和連接參數(shù)β直接相關(guān)聯(lián)，既減少了模型相關(guān)參數(shù)，又能讓連接系數(shù)的表達更加簡單。

4 仿真實驗分析

4.1 圖像邊緣檢測

邊緣是圖像最重要的特征之一，圖片大部分重要信息都集中在邊緣部分［19］?；诒疚幕趹涀杵鞯腜CNN 網(wǎng)絡模型，可以實現(xiàn)圖像邊緣檢測，并能夠獲得優(yōu)良的檢測效果。M-PCNN 模型處理圖像邊緣流程如圖6 所示。

將圖像輸入M-PCNN 模型時，對應的神經(jīng)元會發(fā)出脈沖，接著會通過連接突觸激發(fā)相鄰神經(jīng)元產(chǎn)生脈沖，即尖峰神經(jīng)元會將刺激傳遞給鄰近的神經(jīng)元，促使它們釋放脈沖［20］。因此，對于一個神經(jīng)元簇，任何一個尖峰神經(jīng)元的刺激行為都會觸發(fā)整個簇的集體尖峰行為。

Fig.6 M-PCNN edge detection flow圖6 M-PCNN 邊緣檢測流程

4.2 仿真結(jié)果分析

基于本文提出的M-PCNN 模型，在MATLAB 上進行仿真實驗，將該模型應用于圖像邊緣檢測任務，并與其他算法的邊緣檢測效果進行對比，結(jié)果如圖7 所示。

從不同算法的邊緣檢測圖可以看出，相對于傳統(tǒng)的邊緣檢測算法，基于憶阻器的PCNN 模型在邊緣檢測中具有較高性能，有效地抑制了圖像背景噪聲的干擾，在有著完整輪廓的同時，又保留了邊緣處的細節(jié)。此外，利用憶阻器改進PCNN 模型后，圖像處理的迭代次數(shù)有效減少，與傳統(tǒng)PCNN 模型相比，圖像處理效率提高了13%。

由上述實驗結(jié)果可以得出，M-PCNN 模型提取圖像邊緣相對于其他方法可以獲得更豐富的邊緣信息，輸出效果明顯優(yōu)于傳統(tǒng)的邊緣檢測算法。同時，在實驗過程中發(fā)現(xiàn)，在邊緣提取中，邊緣不是提取得越多，效果就越好。因此，要設置適當?shù)膽涀杵鲄?shù)以獲得合適的邊界條件。

5 結(jié)語

本文在具體的理論和公式推導基礎(chǔ)上，探討出了一種更加實用的憶阻器模型，建立了憶阻和電流的映射關(guān)系，并利用憶阻器設計了閾值發(fā)生器的電路結(jié)構(gòu)，可以實時動態(tài)改變閾值電位。此外，針對傳統(tǒng)PCNN 模型存在的固有參數(shù)估計問題，通過反向并聯(lián)憶阻器模擬連接系數(shù)β隨外部輸入信號變化，讓神經(jīng)元之間的模擬連接更加逼近生物學的范疇。最后，通過MATLAB 仿真將該模型應用于圖像邊緣檢測任務，并與其他算法輸出結(jié)果對比，證明了該模型在圖像邊緣檢測任務中有著更加優(yōu)越的性能和實用性。

通過對脈沖耦合神經(jīng)網(wǎng)絡和憶阻器的深入研究，對PCNN 硬件化構(gòu)建和自適應參數(shù)設置方法有了更深的認識。但仍然存在一些不足：①本文所提出的自適應參數(shù)設置方法過于依賴圖像的外部輸入激勵，沒有足夠地展現(xiàn)出生物神經(jīng)網(wǎng)絡的特性，接下來將作進一步研究，使連接參數(shù)設置更加合理；②對于憶阻器模型的自身數(shù)學特性分析不夠全面，不能很好地揭示憶阻器模型的全部特性。因此，在后續(xù)研究中，將針對憶阻器的記憶和離散特性作進一步研究與分析。

隨著憶阻器研究的不斷深入，人們對生物神經(jīng)網(wǎng)絡的認知也在不斷地迭代和進步。因此，應實時關(guān)注憶阻器和生物神經(jīng)學的新發(fā)現(xiàn)，進一步優(yōu)化網(wǎng)絡模型，使得憶阻器能夠更好地與神經(jīng)網(wǎng)絡相結(jié)合，促進圖像處理技術(shù)發(fā)展。