基于FPGA的脈沖耦合神經(jīng)網(wǎng)絡(luò)的硬件實現(xiàn)

王中衛(wèi)

（北京交通大學(xué) 機械與電子控制工程學(xué)院，北京 100044）

人工神經(jīng)網(wǎng)絡(luò)在智能控制、模式識別、圖像處理等領(lǐng)域中應(yīng)用廣泛。在進行神經(jīng)網(wǎng)絡(luò)的應(yīng)用研究時，人們可以將神經(jīng)網(wǎng)絡(luò)模型或算法在通用的計算機上軟件編程實現(xiàn)，但很多時間浪費在分析指令、讀出寫入數(shù)據(jù)等[1-2]，其實現(xiàn)效率并不高。軟件實現(xiàn)的缺點是并行程度較低，因此利用軟件實現(xiàn)神經(jīng)網(wǎng)絡(luò)的方法無法滿足某些對數(shù)據(jù)實時處理要求較高的場合（如工業(yè)控制等領(lǐng)域）[3]。

目前實現(xiàn)大規(guī)模、實時性要求高的神經(jīng)網(wǎng)絡(luò)，傳統(tǒng)的軟件算法實現(xiàn)方法顯示出其難以滿足速度等要求的不足。此外，在構(gòu)建神經(jīng)網(wǎng)絡(luò)時必然需要考慮硬件實現(xiàn)問題。由于神經(jīng)網(wǎng)絡(luò)具有并行計算的特點和功能，可以有效發(fā)掘算法本身的并行特性，提出高效的硬件電路結(jié)構(gòu)，從而完成神經(jīng)網(wǎng)絡(luò)的硬件實現(xiàn)。

脈沖耦合神經(jīng)網(wǎng)絡(luò) （Pulse Coupled Neural Network，PCNN）是新一代的神經(jīng)網(wǎng)絡(luò)，在研究貓等哺乳動物的視覺神經(jīng)元時，根據(jù)其脈沖同步發(fā)放的工作原理所提出的。目前，PCNN理論仍在發(fā)展中，由于其獨特的并行性能，在圖像分割與平滑、邊緣檢測與細(xì)化、決策與優(yōu)化等領(lǐng)域應(yīng)用廣泛。當(dāng)前的研究重點在于模型的優(yōu)化和軟件的實現(xiàn)，而相關(guān)的硬件實現(xiàn)在國內(nèi)并不多見，PCNN并行結(jié)構(gòu)的特性為硬件實現(xiàn)提供了可能[4-6]。

1 PCNN的基本原理

脈沖耦合神經(jīng)網(wǎng)絡(luò)[7]是一種單層模式的兩維神經(jīng)網(wǎng)絡(luò)，它的基本單元是脈沖耦合網(wǎng)絡(luò)的神經(jīng)元。圖1為PCNN的單個神經(jīng)元模型框圖，它由輸入部分、連接調(diào)制部分、脈沖發(fā)生器部分3部分構(gòu)成。

輸入部分即接收域，其接收信號來源有兩部分：鄰近神經(jīng)元產(chǎn)生的信號和外部的輸入激勵。這兩部分信號通過兩個不同的路徑進行傳遞，其中一個路徑傳遞反饋輸入信號，其包含外部輸入激勵，該路徑即為F路徑；另一個路徑傳遞連接輸入信號，其包含來自鄰近神經(jīng)元產(chǎn)生的信號，該路徑即為L路徑。

連接調(diào)制部分完成上述兩個路徑信號的耦合，經(jīng)過一定的信號處理，產(chǎn)生神經(jīng)元的內(nèi)部活動項。該信號處理需要首先通過一個正的單位偏置和L路徑的連接輸入信號的累加，然后與F路徑的反饋輸入信號完成相乘調(diào)制。該神經(jīng)元的內(nèi)部活動項即為信號經(jīng)調(diào)制得到的乘積結(jié)果。

脈沖發(fā)生器和閾值大小變化的比較器構(gòu)成PCNN單個神經(jīng)元的脈沖發(fā)生部分。如果達到脈沖發(fā)放條件，則該脈沖發(fā)生器起作用，發(fā)出一個頻率恒定不變的脈沖，此時神經(jīng)元處于點火狀態(tài)。

根據(jù)圖1模型，每個神經(jīng)元按照公式（1）完成迭代運算，實現(xiàn)上述PCNN的功能。

圖1 PCNN單個神經(jīng)元模型Fig.1 PCNN's neuronmodel

式（1）中，F(xiàn)ij[n]是某個神經(jīng)元的第n次反饋輸入信號；αF與αL表示迭代時間常數(shù)；Sij表示外部輸入常數(shù)，在圖像處理時即為像素矩陣中像素的灰度值；Lij[n]是神經(jīng)元的線性輸入項；wijkl與mijkl表示突觸間聯(lián)接權(quán)值系數(shù)；Uij[n]是神經(jīng)元的內(nèi)部活動項；Tij[n]是Uij[n]是否激發(fā)生成脈沖的動態(tài)閾值；β是神經(jīng)元突觸間的連接強度系數(shù)；Yij[n]為PCNN的脈沖輸出項。由于信號Lij[n]比信號Fij[n]變化快，經(jīng)過相乘調(diào)制的信號Uij[n]就等同于把一個快速變化的信號加在一個近似不變的信號上。

如果某個神經(jīng)元點火，即發(fā)出一個脈沖信號，那么由于內(nèi)部活動項大于當(dāng)前的門限閾值，下一次迭代運算后閾值將通過其時間常數(shù)αT和幅度系數(shù)VT突然變大。而此時迭代后的閾值Tij[n]遠(yuǎn)大于Uij[n]，因此神經(jīng)元將被抑制，脈沖信號停止輸出，即處于未點火狀態(tài)。在這一狀態(tài)下，周圍神經(jīng)元不斷點火，產(chǎn)生響應(yīng)的脈沖信號，通過L路徑的輸入提高內(nèi)部活動項，與此同時閾值經(jīng)指數(shù)運算不斷較小。在某一次迭代時，當(dāng)前閾值將再次小于Uij[n]，此時神經(jīng)元將被激活，脈沖信號開始輸出，即神經(jīng)元再次被點火。如此周而復(fù)始，不用神經(jīng)元在點火和為點火狀態(tài)進行切換，從而實現(xiàn)脈沖同步激發(fā)。

2 系統(tǒng)硬件實現(xiàn)

2.1 PCNN模型的改進

對于上述PCNN 模型結(jié)構(gòu)，在圖像處理等應(yīng)用中仍存在一定的局限性:

1）PCNN涉及到的參數(shù)較多，增加了數(shù)學(xué)運算的難度，實現(xiàn)算法比較困難；

2）網(wǎng)絡(luò)參數(shù)確定較為困難。

此外，為了易于FPGA實現(xiàn)，把標(biāo)準(zhǔn)的PCNN進行一定的簡化和改進[8]。將反饋輸入只當(dāng)做對應(yīng)象素的灰度值強度，所以F路徑的連接權(quán)值矩陣M為零。改進后的第一個優(yōu)點是減少了迭代的時間，而迭代的質(zhì)量仍與標(biāo)準(zhǔn)PCNN模型接近，第二個優(yōu)點是節(jié)約了FPGA資源的利用。改進模型的數(shù)學(xué)表達式與標(biāo)準(zhǔn)模型相似，只是饋送域不同。饋送域表達式為：

2.2 小數(shù)的定點表示方法

由于Verilog無法直接定義小數(shù)類型，所以采用小數(shù)的定點表示法表示小數(shù)。考慮到灰度值為8位二進制數(shù)據(jù)，故小數(shù)的表示形式為<8.8>，即整數(shù)位數(shù)和小數(shù)位數(shù)都為8位，整數(shù)的表示形式為<8.0>，即整數(shù)位數(shù)為8位，小數(shù)位數(shù)為0位。由于并沒有存儲小數(shù)的位置信息，所以需要根據(jù)先前的約定對最后的結(jié)果進行截取。如式（3）所示，最后的運算結(jié)果為24位，低8位為小數(shù)部分，而利用Verilog的位操作運算截取中間8位即為更新后的灰度值。

2.3 PCNN參數(shù)選擇

利用2.1節(jié)介紹的PCNN改進模型，描述單個神經(jīng)元的PCNN算法。表1為本設(shè)計方案PCNN模型參數(shù)的經(jīng)驗設(shè)定，其閾值衰減設(shè)為每次運算后閾值的約0.9倍。為使算法利于硬件實現(xiàn)，實驗中將設(shè)定神經(jīng)元連接強度β=1，連接域增益VL=1。

表1 PCNN模型實驗參數(shù)Tab.1 Experim ental parameters of PCNN model

其連接域鄰域矩陣為：

2.4 系統(tǒng)整體設(shè)計框圖

在進行圖像處理時，需要把神經(jīng)元與像素一一對應(yīng)，神經(jīng)網(wǎng)絡(luò)的大小取決于圖像的大小。如果需要處理的圖像體積較大，那么硬件資源將被大量占用，繼而需要更高規(guī)格的FPGA芯片來實現(xiàn)。本文介紹一個簡單的PCNN硬件系統(tǒng)，可以處理3×3、8位的灰度圖像。

PCNN在FPGA實現(xiàn)的系統(tǒng)框圖如圖2所示。系統(tǒng)分為5個主要的功能模塊：時鐘分頻模塊、串口接收模塊、串并轉(zhuǎn)換模塊、PCNN模塊和VGA顯示模塊。圖中除PC機部分都在FPGA上實現(xiàn)。PC機包含上位機串口通信軟件，常見的有VB串口通信助手、串口大師等，可實現(xiàn)串口的調(diào)試、測試、監(jiān)控和過濾等功能。

圖2 PCNN在FPGA實現(xiàn)的系統(tǒng)框圖Fig.2 Structure diagram of PCNN system based on FPGA

系統(tǒng)需要完成的工作分為三大部分：圖像的輸入、圖像的處理和圖像的顯示輸出。系統(tǒng)詳細(xì)的工作過程描述如下：PC機通過串口軟件（如串口大師）發(fā)送圖像數(shù)據(jù)，串口接收模塊接收圖像數(shù)據(jù)并通過模塊內(nèi)部的FIFO存儲數(shù)據(jù)；串并轉(zhuǎn)換模塊將串口接收模塊存儲的圖像數(shù)據(jù)并行輸出給PCNN模塊，等待處理；PCNN模塊接收到圖像數(shù)據(jù)后，開始進行迭代，并輸出給VGA顯示模塊；VGA顯示模塊負(fù)責(zé)顯示圖像經(jīng)PCNN模塊處理后的二值序列，以觀察PCNN的處理效果。由于本實驗采用的FPGA實驗平臺提供的時鐘頻率為50 MHz，而串口接收模塊、PCNN模塊和VGA顯示模塊需要特定的時鐘頻率才能工作，所以必須設(shè)計時鐘分頻模塊以產(chǎn)生滿足要求的時鐘頻率。

3 系統(tǒng)仿真

由于考慮邊緣神經(jīng)元的特殊情況，設(shè)計了3種略有差異的神經(jīng)元，即周圍神經(jīng)元輸入分別為2、3和4的神經(jīng)元。這里僅選取4輸入的PCNN神經(jīng)元進行仿真，神經(jīng)元的閾值為200，以驗證神經(jīng)元功能的正確性。通過選取了4個典型的圖像灰度值S輸入，分別為4、100、200和250，經(jīng)仿真驗證了單個神經(jīng)元的正確性。

利用單個PCNN神經(jīng)元，構(gòu)建了包含9個PCNN神經(jīng)元PCNN模塊，能處理3×3大小的圖像，通過網(wǎng)絡(luò)迭代，得到理想的圖像。 通過串口輸入數(shù)據(jù)：181、187、140、120、120、4、46、83、120，對PCNN模塊進行了仿真。為了便于觀察，選取其中3個神經(jīng)元的時序仿真結(jié)果，如圖3所示。由圖3知，PCNN輸出呈現(xiàn)0和1的不斷變化，且能看出3個神經(jīng)元中由于耦合效應(yīng)產(chǎn)生了不同的結(jié)果。圖3中S1～S3為9個像素灰度值的3個輸入，Y1～Y3為圖像經(jīng)PCNN處理后3個二值序列值。

4 系統(tǒng)驗證與分析

圖3 PCNN模塊時序仿真圖Fig.3 Timing simulation of PCNN system

本實驗以Altera Cyclone II開發(fā)平臺為驗證環(huán)境，選用Cyclone系列中的EP2C35F672芯片。利用串口軟件發(fā)送圖像數(shù)據(jù)，F(xiàn)PGA經(jīng)PCNN處理后將二值結(jié)果顯示在VGA顯示器上。PCNN模塊的時鐘輸入頻率為100MHz，VGA顯示模塊的時鐘輸入頻率為25 MHz。對于波特率，考慮到已經(jīng)完成的串口接收模塊，選取波特率115 200 bps，以匹配串口接收模塊的采樣頻率。數(shù)據(jù)位有8位，無檢驗位，包含1位停止位，傳輸數(shù)據(jù)以16進制的形式進行發(fā)送。

為了便于觀察，考慮到顯示器的刷新頻率和人眼的視覺暫留，將PCNN網(wǎng)絡(luò)的迭代處理頻率設(shè)定為1 Hz，即顯示器每1秒顯示一次迭代效果圖。圖4為顯示器前40次的顯示效果。圖中九宮格代表要處理的3×3輸出圖像，一個方格代表一個像素點。九宮格中灰色方框神經(jīng)元點火，即輸出為“1”，黑色方框代表神經(jīng)元未點火，即輸出為“0”。

圖4 顯示器前40次的顯示效果Fig.4 40 display results of themonitor

據(jù)實驗平臺的測試結(jié)果，與除去VGA模塊的硬件模塊ModelSim仿真結(jié)果進行了對比。圖5為除去VGA模塊的硬件模塊的功能仿真圖。圖中高電平代表“1”，低電平代表“0”。

將圖5與圖4進行對比，圖5中高電平代表圖4中的黃色方塊，圖5中低電平代表圖4中的黑色方塊，兩結(jié)果完全符合，這也驗證了PCNN網(wǎng)絡(luò)硬件實現(xiàn)的正確性。此外，由圖4 和圖 5 看出， 神經(jīng)元 1、2、3、4、5、8、9 在幾次迭代后輸出始終為“1”，這是由于神經(jīng)元的內(nèi)部活動項始終大于閾值。而由于神經(jīng)元6和7的圖像輸入值較小，內(nèi)部活動項部分和閾值部分不斷變化，使得在周圍神經(jīng)元的作用下，呈現(xiàn)周期性的“0”和“1”輸出。

5 結(jié) 論

圖5 除去VGA模塊的硬件模塊的功能仿真圖Fig.5 The functional simulation of the system without the VGA module

本文根據(jù)脈沖耦合神經(jīng)網(wǎng)絡(luò)具有并行計算的特點，提出了一種基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件實現(xiàn)方案。利用Verilog硬件描述語言完成了系統(tǒng)模塊的設(shè)計，構(gòu)建的PCNN神經(jīng)網(wǎng)絡(luò)在FPGA開發(fā)平臺上進行了驗證。通過處理簡單的3×3圖像，并觀察VGA顯示結(jié)果，完成了PCNN的FPGA實現(xiàn)，達到了設(shè)計要求，圖像處理實時性較好。下一步將研究構(gòu)建更復(fù)雜的PCNN網(wǎng)絡(luò)結(jié)構(gòu)，以處理更大的圖像數(shù)據(jù)。

[1]傅薈璇，趙紅.MATLAB神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計[M].北京：機械工業(yè)出版社，2010.

[2]楊銀濤，汪海波，張志，等.基于FPGA的人工神經(jīng)網(wǎng)絡(luò)實現(xiàn)方法的研究[J].現(xiàn)代電子技術(shù)，2009，32（18）:170-174.YANG Yin-tao，WANG Hai-bo，ZHANG Zhi，et al.Research of artificial neural network arithmetic based on FPGA[J].Modern Electronics Technique，2009，32（18）:170-174.

[3]李利歌，閻保定，侯忠.基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件可重構(gòu)實現(xiàn)[J].河南科技大學(xué)學(xué)報，2009，30（1）:37-40.LI Li-ge，YAN Bao-ding，HOU Zhong.Reconfigurable hardware realization of neural network[J].Journal of Henan University of Science&Technology，2009，30（1）:37-40.

[4]王新.PCNN混沌特性與硬件實現(xiàn)研究[D].甘肅：蘭州大學(xué)，2010.

[5]VEGA P J，CHAEON M I，CAMARILLO C R.Synthesis of pulse-coupled neural networks in FPGAs for real-time image segmentation [C]//Proceedings of IEEE International Joint Conference on Neural Networks，2006:4051-4055.

[6]PETERS.PCNNNeuron Implementationwith DMATransfer[J].Journal of Information， Control and Management Systems，2009，7（2）:181.

[7]馬義德，李廉，綻琨，等.脈沖耦合神經(jīng)網(wǎng)絡(luò)與數(shù)字圖像處理[M].北京：科學(xué)出版社，2008.

[8]WANG Zhao-bin，MA Yi-de，CHEN Fei-yan，et al.Review of pulse-coupled neural networks [J].Image and Vision Computing，2010，28:5-13.