鄧翔宇,呂亞輝,陳 巖
(西北師范大學(xué)物理與電子工程學(xué)院,蘭州 730070)
隨著生物電子技術(shù)的發(fā)展,人工神經(jīng)網(wǎng)絡(luò)的研究也不斷取得進(jìn)展。文獻(xiàn)[1]根據(jù)哺乳動(dòng)物視覺皮層神經(jīng)元信號(hào)傳導(dǎo)特性,構(gòu)建一種新的神經(jīng)網(wǎng)絡(luò)模型。文獻(xiàn)[2]將神經(jīng)網(wǎng)絡(luò)模型改進(jìn)為用于圖像處理領(lǐng)域的模型,并命名為脈沖耦合神經(jīng)網(wǎng)絡(luò)(Pulse Coupled Neural Network,PCNN)。傳統(tǒng)的PCNN 模型可分為耦合連接和無耦合連接兩種模式,被廣泛應(yīng)用于圖像分割[3-4]、圖像融合[5-6]、圖像去噪[7-8]、圖像檢索[9-10]以及圖像邊緣檢測[11-12]等領(lǐng)域。通常將無耦合連接模式下的網(wǎng)絡(luò)稱為無耦合PCNN。無耦合PCNN 模型雖然沒有耦合連接項(xiàng),但是保留了PCNN模型的核心子系統(tǒng)部分,具有網(wǎng)絡(luò)參數(shù)少的特點(diǎn),近年來,逐漸被應(yīng)用于圖像處理領(lǐng)域[13]。
研究人員通過對(duì)圖像進(jìn)行信息提取或變換域處理,融合PCNN 模型進(jìn)行參數(shù)自適應(yīng)設(shè)定,并應(yīng)用于特定的圖像處理領(lǐng)域。文獻(xiàn)[14]通過SIST(Shift Invariant Shearlet Transform)方法獲取圖像的高頻子帶和低頻子帶頻率,使用SOM(Self-Origanizing Maps)網(wǎng)絡(luò)進(jìn)行初步分類,之后融合改進(jìn)的PCNN 模型,獲得較優(yōu)的圖像分割效果。文獻(xiàn)[15]利用非下采樣輪廓波變換對(duì)圖像進(jìn)行多尺度和多方向分解,獲得低通子帶和多個(gè)帶通方向子帶,并將其與改進(jìn)后的PCNN 模型相結(jié)合用于多聚焦圖像融合。文獻(xiàn)[16]基于圖像NSCT(Non-Subsampled Contourlet Transform)域變換提取圖像的邊緣特征,提出一種結(jié)合自適應(yīng)PCNN 的紅外與可見光圖像融合算法。文獻(xiàn)[17]通過建立待分割圖像統(tǒng)計(jì)特性與PCNN 神經(jīng)元?jiǎng)討B(tài)特性之間的直接關(guān)系,完成簡化PCNN 的參數(shù)自適應(yīng)設(shè)置。文獻(xiàn)[18]通過計(jì)算分割圖像的最小交叉熵,提出一種新的基于循環(huán)迭代的自適應(yīng)圖像分割算法,用于改進(jìn)PCNN 閾值分割機(jī)制。此外,研究人員通過對(duì)網(wǎng)絡(luò)模型進(jìn)行理論分析,以解釋網(wǎng)絡(luò)本質(zhì)特性并進(jìn)行參數(shù)的自適應(yīng)設(shè)定。文獻(xiàn)[19]分析改進(jìn)后PCNN 網(wǎng)絡(luò)的動(dòng)態(tài)行為,明確PCNN 的動(dòng)態(tài)行為特性受網(wǎng)絡(luò)參數(shù)變化的影響,并提出網(wǎng)絡(luò)參數(shù)確定準(zhǔn)則,使得所有神經(jīng)元只點(diǎn)火一次。文獻(xiàn)[20]通過分析PCNN 中神經(jīng)元的脈沖發(fā)放周期,定義了動(dòng)態(tài)比,以得出近似的脈沖發(fā)放周期公式。文獻(xiàn)[21]根據(jù)PCNN 工作機(jī)理的時(shí)域分析,提出一種在點(diǎn)火神經(jīng)元沒有完全滅火時(shí)不允許滅火神經(jīng)元重新點(diǎn)火的網(wǎng)絡(luò)工作模式,并用于圖像的自適應(yīng)分割。然而,上述PCNN 模型的研究都只是從時(shí)域方面或圖像本身所含信息方面分析參數(shù)與模型之間的關(guān)系,在網(wǎng)絡(luò)本質(zhì)的特性挖掘方面還存在著一定的局限性和片面性。
本文從頻域角度對(duì)無耦合PCNN 的網(wǎng)絡(luò)參數(shù)與模型特性之間的關(guān)系進(jìn)行分析。通過推導(dǎo)動(dòng)態(tài)門限子系統(tǒng)的頻率響應(yīng)函數(shù),揭示動(dòng)態(tài)門限子系統(tǒng)具有低通特性,同時(shí)分析參數(shù)對(duì)動(dòng)態(tài)門限子系統(tǒng)頻率響應(yīng)的影響,推導(dǎo)無耦合連接時(shí)PCNN 有效點(diǎn)火時(shí)刻方程、動(dòng)態(tài)門限衰減頻率和脈沖發(fā)放頻率的方程,解釋無耦合PCNN 的網(wǎng)絡(luò)參數(shù)對(duì)網(wǎng)絡(luò)頻域特性的影響。
無耦合PCNN 模型由輸入子系統(tǒng)、動(dòng)態(tài)門限子系統(tǒng)和輸出子系統(tǒng)組成,分別如式(1)~式(3)所示[22]:
其中:i、j為本神經(jīng)元像素坐標(biāo)點(diǎn);n為迭代次數(shù);Sij為系統(tǒng)的輸入,常為歸一化之后的像素灰度值;aE、vE為控制動(dòng)態(tài)門限子系統(tǒng)的2 個(gè)網(wǎng)絡(luò)參數(shù)。模型的輸出子系統(tǒng)由單位階躍函數(shù)構(gòu)成,決定該神經(jīng)元的脈沖發(fā)放狀態(tài)。當(dāng)神經(jīng)元的輸入值大于動(dòng)態(tài)門限值時(shí),神經(jīng)元發(fā)放脈沖又稱為神經(jīng)元點(diǎn)火;否則,神經(jīng)元滅火。
在前期研究中[23]已經(jīng)得知無耦合PCNN 的第1 次神經(jīng)元點(diǎn)火時(shí)刻不受網(wǎng)絡(luò)參數(shù)的影響,因此重點(diǎn)分析了網(wǎng)絡(luò)的第2 次點(diǎn)火時(shí)刻,又稱為第1 次有效點(diǎn)火時(shí)刻(所有輸入值在第1 次迭代時(shí)發(fā)生的點(diǎn)火稱為無效點(diǎn)火,其后各次點(diǎn)火為有效點(diǎn)火),通過推導(dǎo)所得第1 次有效點(diǎn)火時(shí)刻N(yùn)1如式(4)所示:
由于網(wǎng)絡(luò)數(shù)學(xué)模型為差分方程,因此當(dāng)理論點(diǎn)火時(shí)刻為小數(shù)時(shí),實(shí)際點(diǎn)火時(shí)刻為下一個(gè)整數(shù)時(shí)刻。在第1 次有效點(diǎn)火時(shí)刻計(jì)算中引入向上取整函數(shù)ceil。由式(4)可知,當(dāng)灰度值Sij=0時(shí),無法發(fā)生第1次有效點(diǎn)火。本文主要針對(duì)網(wǎng)絡(luò)輸入的有效點(diǎn)火時(shí)刻及輸入灰度值Sij為1/255~1 時(shí),網(wǎng)絡(luò)所表現(xiàn)出的特性。
在實(shí)際圖像的處理過程中,輸入子系統(tǒng)的輸入為圖像對(duì)應(yīng)像素點(diǎn)的灰度值,是簡單的線性系統(tǒng)。本文對(duì)式(1)表示的輸入子系統(tǒng)不展開分析。由于無耦合網(wǎng)絡(luò)的時(shí)域特性完全受參數(shù)影響,因此本文對(duì)于網(wǎng)絡(luò)的頻域分析,根據(jù)動(dòng)態(tài)門限子系統(tǒng)的頻域特性分析參數(shù)對(duì)動(dòng)態(tài)門限子系統(tǒng)的影響,將式(1)、式(2)和式(3)聯(lián)系起來,分別分析網(wǎng)絡(luò)中動(dòng)態(tài)變量Yij(n)和Eij(n)的頻域特性與參數(shù)之間的關(guān)系。
2.1.1 系統(tǒng)函數(shù)
動(dòng)態(tài)門限子系統(tǒng)是無耦合PCNN 模型的核心子系統(tǒng),由差分方程式(2)表示,對(duì)式(2)進(jìn)行z變換可得式(5):
動(dòng)態(tài)門限子系統(tǒng)的系統(tǒng)函數(shù)如式(6)所示:
根據(jù)系統(tǒng)函數(shù)HE(z)可知,動(dòng)態(tài)門限子系統(tǒng)沒有零點(diǎn),只有1 個(gè)極點(diǎn)z=。此時(shí)系統(tǒng)函數(shù)的收斂域?yàn)?。?dāng)aE>0 時(shí),子系統(tǒng)的收斂域包含單位圓,此時(shí)的系統(tǒng)是一個(gè)因果穩(wěn)定系統(tǒng)。當(dāng)aE≤0 時(shí),系統(tǒng)不穩(wěn)定。因此,無耦合PCNN 參數(shù)aE的取值范圍為(0,+∞)。
2.1.2 頻率響應(yīng)與參數(shù)影響分析
動(dòng)態(tài)門限子系統(tǒng)的系統(tǒng)函數(shù)HE(z)收斂域包含單位圓,根據(jù)z變換與傅里葉變換之間的關(guān)系可得子系統(tǒng)的頻率響應(yīng),如式(7)所示:
根據(jù)頻率響應(yīng)函數(shù)HE(ejw)可得其幅頻響應(yīng),如式(8)所示:
由式(8)可知,參數(shù)aE和vE共同控制子系統(tǒng)的幅值特性。改變參數(shù)aE和vE,在ω∈(0,π)范圍內(nèi)觀察到的子系統(tǒng)HE(ejω)的幅頻特性曲線變化如圖1 所示。
圖1 參數(shù)對(duì)動(dòng)態(tài)門限子系統(tǒng)幅頻特性的影響Fig.1 Influence of parameters on amplitude-frequency characteristics of the dynamic threshold subsystem
從圖1(a)可以看出,參數(shù)aE主要影響幅頻響應(yīng)峰值與谷值之間的差值,aE越小,差值越大,此時(shí)系統(tǒng)低頻分量的幅值較大,高頻分量的幅值較小,使得子系統(tǒng)具有較優(yōu)的低通特性。從圖1(b)可以看出,參數(shù)vE主要影響幅頻特性的幅值大小,vE越大,幅頻響應(yīng)的幅值也將增大。因此,無耦合PCNN 模型的動(dòng)態(tài)門限子系統(tǒng)具有低通特性,不同的網(wǎng)絡(luò)參數(shù)使得動(dòng)態(tài)門限系統(tǒng)表現(xiàn)出不同的低通特性。子系統(tǒng)的低通特性主要受參數(shù)aE影響,參數(shù)vE主要影響子系統(tǒng)的幅值大小。
2.2.1 有效點(diǎn)火脈沖方程
無耦合PCNN 是一個(gè)非線性系統(tǒng),其神經(jīng)元的輸入與神經(jīng)元的脈沖發(fā)放頻率之間存在非線性關(guān)系。當(dāng)參數(shù)aE=0.5,vE=5 時(shí),在不同灰度值下神經(jīng)元的動(dòng)態(tài)門限和點(diǎn)火時(shí)刻的變化曲線如圖2 所示。從圖2 可以看出,單個(gè)神經(jīng)元的脈沖點(diǎn)火過程和動(dòng)態(tài)門限衰減過程都具有周期性,在輸入值Uij的激勵(lì)下,輸出Yij(n)和Eij(n)以一定的周期發(fā)放脈沖。
圖2 動(dòng)態(tài)門限和點(diǎn)火時(shí)刻的變化Fig.2 Change of dynamic threshold and firing timing
因此,輸入值與神經(jīng)元點(diǎn)火周期和動(dòng)態(tài)門限衰減存在非線性映射關(guān)系。為分析這種非線性關(guān)系,在單個(gè)神經(jīng)元的一個(gè)有效點(diǎn)火周期內(nèi)建立關(guān)系,如式(9)所示:
當(dāng)單個(gè)神經(jīng)元的輸入值與動(dòng)態(tài)門限最小值相等時(shí),神經(jīng)元發(fā)生點(diǎn)火。由式(2)可知,動(dòng)態(tài)門限的最大值是脈沖點(diǎn)火時(shí)刻后下一次的門限值,Eijmax=+vE,最小值為Eijmin=Sij,設(shè)兩次脈沖點(diǎn)火時(shí)刻的間隔為I,則由式(9)可得式(10):
間隔I如式(11)所示:
脈沖發(fā)放間隔應(yīng)滿足I>0,由此可得vE>(1-)Sijmax。其中:Sijmax表示輸入最大值。當(dāng)輸入的最大值與vE和aE滿足以上關(guān)系時(shí),所有的輸入都能表現(xiàn)出良好的脈沖周期發(fā)放特性。由脈沖發(fā)放間隔得到脈沖發(fā)放周期,如式(12)所示:
不同輸入Sij的點(diǎn)火周期都為正整數(shù),同樣的引入ceil 向上取整函數(shù)。因此,無耦合PCNN 的實(shí)際脈沖發(fā)放周期近似為:
無耦合PCNN 在得到能夠反映實(shí)際脈沖發(fā)放的周期后,脈沖發(fā)放時(shí)刻如式(14)所示:
其中:單位沖激函數(shù)δ(n)為脈沖發(fā)放;N1為第1 次有效點(diǎn)火時(shí)刻;r為正整數(shù)。
2.2.2 脈沖發(fā)放頻率與參數(shù)影響分析
由脈沖發(fā)放時(shí)刻方程可知,無耦合PCNN 脈沖點(diǎn)火具有周期性,而周期為N的序列可展開成離散傅里葉級(jí)數(shù)(Discrete Fourier Series,DFS)。因此,在一個(gè)周期內(nèi)對(duì)脈沖發(fā)放時(shí)刻式(14)進(jìn)行傅里葉級(jí)數(shù)展開,如式(15)所示:
本文對(duì)脈沖發(fā)放時(shí)刻的傅里葉級(jí)數(shù)表達(dá)式進(jìn)行傅里葉變換(Fourier Transform,F(xiàn)T),可得其脈沖發(fā)放頻率表達(dá)式,如式(16)所示:
幅值譜函數(shù)如式(17)所示:
由式(17)可知,無耦合PCNN 的脈沖發(fā)放幅值譜是由一系列幅值為和間隔為的沖擊序列構(gòu)成。當(dāng)選取輸 入Sij=20/255 時(shí),ω∈(0,π)范圍幅頻特性隨參數(shù)的aE和vE變化趨勢如圖3 和圖4所示。根據(jù)離散周期信號(hào)頻譜特性可知,頻域譜線越密,時(shí)域脈沖周期越大,頻域譜線越疏,時(shí)域脈沖周期越小。從圖3 和圖4 可以看出,參數(shù)變化不會(huì)引起脈沖發(fā)放頻譜函數(shù)幅值的變化。但是參數(shù)aE的增大使得脈沖發(fā)放頻譜函數(shù)的譜線間隔增大,從而增大脈沖點(diǎn)火時(shí)刻周期。參數(shù)vE的增大反而使得脈沖發(fā)放頻譜函數(shù)的譜線間隔變小,脈沖點(diǎn)火時(shí)刻周期減小。
圖3 參數(shù)aE 增大對(duì)脈沖發(fā)放幅頻特性的影響Fig.3 Influence of parameters aE increase on the amplitude-frequency characteristic of pulse firing
圖4 參數(shù)vE 增大對(duì)脈沖發(fā)放幅頻特性的影響Fig.4 Influence of parameters vE increase on the amplitude-frequency characteristic of pulse firing
因此,在無耦合PCNN 模型中,參數(shù)aE的增大使得脈沖發(fā)放時(shí)刻周期變小,參數(shù)vE的增大會(huì)使得脈沖發(fā)放時(shí)刻周期變大,但不影響脈沖發(fā)放的強(qiáng)度。
2.2.3 網(wǎng)絡(luò)動(dòng)態(tài)門限衰減頻率與參數(shù)影響分析
動(dòng)態(tài)門限子系統(tǒng)是一個(gè)衰減系統(tǒng),因此將該子系統(tǒng)的輸出動(dòng)態(tài)變量Eij(n)的頻率稱為動(dòng)態(tài)門限衰減頻率。動(dòng)態(tài)門限衰減頻率與脈沖發(fā)放頻率存在以下關(guān)系,如式(18)所示:
由于式中HE(ejω)和Yij(ejω)已由式(7)和式(15)給出,因此動(dòng)態(tài)衰減頻率的頻域方程如式(19)所示:
頻譜函數(shù)如式(20)所示:
當(dāng)選取輸入Sij=20/255 時(shí),參數(shù)aE和vE增大在ω∈(0,π)范圍幅頻特性隨參數(shù)變化趨勢如圖5 和圖6所示。
圖5 aE 增大對(duì)動(dòng)態(tài)門限幅頻特性的影響Fig.5 Influence of parameters aE increase on the amplitude-frequency characteristic of dynamic threshold
圖6 vE 增大對(duì)動(dòng)態(tài)門限幅頻特性的影響Fig.6 Influence of parameters vE increase on the amplitude-frequency characteristic of dynamic threshold
從式(20)可知,動(dòng)態(tài)門限幅頻函數(shù)|Eij(ejω)|的頻譜譜線間隔與脈沖發(fā)放頻譜函數(shù)的譜線間隔相同,參數(shù)對(duì)動(dòng)態(tài)門限周期與脈沖發(fā)放周期的影響程度相同。從圖5 和圖6 可以看出,與脈沖發(fā)放頻譜相比,隨著參數(shù)aE的增大,動(dòng)態(tài)門限幅頻函數(shù)的頻譜主要由高頻分量組成,使得動(dòng)態(tài)門限的衰減頻率變大,衰減速度變快。參數(shù)vE的增大反而會(huì)使得動(dòng)態(tài)門限幅頻函數(shù)的頻譜主要由低頻分量組成,動(dòng)態(tài)門限Eij(n)的衰減頻率變低。
因此,在無耦合PCNN 模型中,參數(shù)aE和參數(shù)vE的變化會(huì)影響動(dòng)態(tài)門限衰減周期及動(dòng)態(tài)門限衰減頻率的高低。
本文通過式(7)、式(16)和式(19)描述了無耦合PCNN 模型的頻域特性,通過分析參數(shù)對(duì)無耦合PCNN 模型頻域特性的影響,得出參數(shù)影響網(wǎng)絡(luò)運(yùn)行的結(jié)論。在主頻2.8 GHz(雙核),內(nèi)存12 GB 的計(jì)算機(jī)上利用Python3.8 平臺(tái)完成數(shù)值模擬實(shí)驗(yàn),驗(yàn)證了無耦合PCNN 頻域相關(guān)公式推導(dǎo)及理論分析結(jié)論的正確性。
為驗(yàn)證對(duì)脈沖發(fā)放時(shí)刻推導(dǎo)的正確性,本文構(gòu)建一幅灰度值已知的人工測試灰度圖與灰度值,如圖7所示。
圖7 人工測試灰度圖與灰度值Fig.7 Gray scale image of manual test and gray scale value
當(dāng)網(wǎng)絡(luò)參數(shù)aE=0.9,vE=15 時(shí),無耦合PCNN 實(shí)際迭代過程如圖8 所示。從圖8 可以看出,第1 次迭代為網(wǎng)絡(luò)的無效點(diǎn)火時(shí)刻,之后的各次點(diǎn)火均為有效點(diǎn)火?;叶戎翟?10~250 之間的像素第1 次有效點(diǎn)火時(shí)刻為第6 次迭代,點(diǎn)火周期T=5。灰度值在50~100 之間的像素第1 次有效點(diǎn)火時(shí)刻為第7 次迭代,點(diǎn)火周期T=6?;叶戎翟?0~40 之間的像素第1 次有效點(diǎn)火時(shí)刻為第8 次迭代,點(diǎn)火周期T=7?;叶戎禐?0 的像素第1 次有效點(diǎn)火時(shí)刻為第9 次迭代,點(diǎn)火周期T=8。根據(jù)第1 次點(diǎn)火公式(4)可計(jì)算出各像素第1 次有效點(diǎn)火時(shí)刻,根據(jù)點(diǎn)火周期公式(13)可計(jì)算出各像素點(diǎn)火周期。不同像素的第1 次有效點(diǎn)火時(shí)刻和點(diǎn)火周期對(duì)比如圖9 所示。從圖9可以看出,本文所推導(dǎo)公式的脈沖發(fā)放過程與人工測試圖實(shí)際迭代過程相一致。
圖8 人工測試圖的迭代過程Fig.8 Iterative process of manual test image
圖9 不同像素第1 次有效點(diǎn)火時(shí)刻和點(diǎn)火周期Fig.9 The first effective firing time and firing cycle of different pixels
本文分別選取灰度值Sij=10/255,Sij=110/255作為對(duì)網(wǎng)絡(luò)中動(dòng)態(tài)變量Yij(n)受參數(shù)影響的觀測對(duì)象。當(dāng)網(wǎng)絡(luò)迭代第60次時(shí),其神經(jīng)元脈沖發(fā)放過程如圖10所示。從圖10 可以看出:在灰度值Sij相同的情況下,保持參數(shù)vE=15 不變,aE從0.5 增大到0.9 會(huì)使得網(wǎng)絡(luò)脈沖發(fā)放時(shí)刻周期變?。槐3謪?shù)aE=0.5 不變,vE從15 增大到30 使得網(wǎng)絡(luò)脈沖發(fā)放時(shí)刻周期變大。因此,在實(shí)際的脈沖發(fā)放過程中,參數(shù)對(duì)脈沖發(fā)放頻率的影響與理論推導(dǎo)分析相一致。
本文分別選取灰度值Sij=10/255,Sij=110/255作為網(wǎng)絡(luò)中動(dòng)態(tài)變量Eij(n)受參數(shù)影響分析的觀測對(duì)象。當(dāng)網(wǎng)絡(luò)迭代第60 次時(shí),不同灰度值下網(wǎng)絡(luò)實(shí)際動(dòng)態(tài)門限變化過程如圖11 所示。從圖11 可以看出:在輸入Sij相同的情況下,保持參數(shù)vE=15 不變,aE從0.5 增大到0.9,使得動(dòng)態(tài)門限Eij(n)衰減變快,衰減周期變??;保持參數(shù)aE=0.5 不變,vE從15增大到30,使得動(dòng)態(tài)門限Eij(n)的幅值增益變大,衰減變慢,衰減周期變大。因此,動(dòng)態(tài)變量Eij(n)的迭代過程與之前分析結(jié)果一致。
本文分析了無耦合PCNN 的頻域特性。通過對(duì)無耦合PCNN 動(dòng)態(tài)門限子系統(tǒng)進(jìn)行分析,得出動(dòng)態(tài)門限子系統(tǒng)穩(wěn)定的條件,確定參數(shù)的取值范圍,并指出動(dòng)態(tài)門限子系統(tǒng)具有低通特性。同時(shí)分析單個(gè)神經(jīng)元的脈沖發(fā)放頻率特性和動(dòng)態(tài)閾值頻域特性,明確參數(shù)對(duì)網(wǎng)絡(luò)動(dòng)態(tài)頻域的影響。仿真實(shí)驗(yàn)結(jié)果驗(yàn)證理論分析結(jié)論的正確性。后續(xù)將從圖像特性角度分析圖像統(tǒng)計(jì)特性對(duì)網(wǎng)絡(luò)參數(shù)的影響,設(shè)計(jì)無耦合PCNN 模型用于圖像分割時(shí)的參數(shù)自適應(yīng)設(shè)置方法,使無耦合PCNN 模型廣泛應(yīng)用于圖像處理領(lǐng)域。