具有時(shí)變權(quán)矩陣的離散Hopfield神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性

周 剛，蓋明久，崔世維

（海軍航空工程學(xué)院a.基礎(chǔ)部；b.研究生管理大隊(duì)，山東煙臺(tái)264001）

具有時(shí)變權(quán)矩陣的離散Hopfield神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性

周 剛a，蓋明久a，崔世維b

（海軍航空工程學(xué)院a.基礎(chǔ)部；b.研究生管理大隊(duì)，山東煙臺(tái)264001）

研究了以并行工作模式進(jìn)行演化的具有時(shí)變連接權(quán)矩陣的離散Hopfield神經(jīng)網(wǎng)絡(luò)，得到了判定網(wǎng)絡(luò)穩(wěn)定的2個(gè)充分條件，改進(jìn)了已有結(jié)果。

離散Hopfield神經(jīng)網(wǎng)絡(luò)；連接權(quán)矩陣；對(duì)角占優(yōu)矩陣；穩(wěn)定性

1982 年，美國(guó)加州理工學(xué)院物理學(xué)家J.J.Hopfield教授開(kāi)創(chuàng)性地提出了如下的離散神經(jīng)網(wǎng)絡(luò)模型[1]：

式（1）中：θi為閾值；wij為連接權(quán)重值；Xi取值-1或+1。

離散Hopfield神經(jīng)網(wǎng)絡(luò)在模式識(shí)別、聯(lián)想記憶、圖像處理和組合優(yōu)化等方面具有廣泛的應(yīng)用[1-2]。由于在各種應(yīng)用中都需要網(wǎng)絡(luò)穩(wěn)定，因而離散Hopfield神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析引起了人們的極大關(guān)注，并取得了眾多研究成果。而Hopfield在文獻(xiàn)[3]中引入的能量函數(shù)，是研究神經(jīng)網(wǎng)絡(luò)穩(wěn)定性的重要工具。

離散Hopfield神經(jīng)網(wǎng)絡(luò)的工作演化方式有3種：串行方式、并行方式和部分并行方式。文獻(xiàn)[3-5]研究了連接權(quán)矩陣對(duì)稱(chēng)且網(wǎng)絡(luò)在串行和并行方式下工作演化的穩(wěn)定性；文獻(xiàn)[6-8]在此基礎(chǔ)上研究了權(quán)矩陣是非對(duì)稱(chēng)情況下網(wǎng)絡(luò)穩(wěn)定性；文獻(xiàn)[9]提出了部分并行演化方式，給出了一些穩(wěn)定的條件；文獻(xiàn)[10-11]進(jìn)一步研究網(wǎng)絡(luò)的不同工作演化方式，推廣了相關(guān)的結(jié)論；文獻(xiàn)[12]研究了連接權(quán)矩陣為時(shí)變情況下網(wǎng)絡(luò)的穩(wěn)定性。

本文在文獻(xiàn)[11-12]的基礎(chǔ)上，研究具有時(shí)變連接權(quán)矩陣、以并行方式進(jìn)行工作演化的離散Hopfield神經(jīng)網(wǎng)絡(luò)，運(yùn)用對(duì)角占優(yōu)、廣義半正定等矩陣的性質(zhì)給出其穩(wěn)定性的充分條件，得到了一些新的結(jié)果。

1 預(yù)備工作

記X(t)=(X1(t),X2(t),…,Xn(t))T，θ=(θ1,θ2,…,θn)T，W(t)=(wij(t))n×n，則網(wǎng)絡(luò)（1）推廣到時(shí)變連接權(quán)形式：

式（2）可寫(xiě)成矩陣形式：

由式（2）可得，對(duì)于i=1,2,…,n，

由于Xi(t)∈{-1,1}，且ΔXi(t)=Xi(t+1)-Xi(t)，所以ΔXi(t)∈{-2,0,2}。當(dāng) ΔXi(t)=-2時(shí)，Xi(t+1)=-1，Xi(t)=1，故Xi(t+1)ΔXi(t)≥0。再根據(jù)式（4），可得

類(lèi)似可以驗(yàn)證，在各種取值情況下總有式（5）成立。于是有

為研究神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性，首先給出如下定義及引理。

則稱(chēng)W為嚴(yán)格行或列對(duì)角占優(yōu)矩陣（W為行或列對(duì)角占優(yōu)矩陣）。若W既是（嚴(yán)格）行對(duì)角占優(yōu)又是（嚴(yán)格）列對(duì)角占優(yōu)的，則稱(chēng)W為（嚴(yán)格）對(duì)角占優(yōu)矩陣。

若存在正對(duì)角矩陣P=diag(p1,p2,…,pn)，使得W滿(mǎn)足

則稱(chēng)W為廣義嚴(yán)格行或列對(duì)角占優(yōu)矩陣（廣義行或列對(duì)角占優(yōu)矩陣）。若W既是廣義（嚴(yán)格）行對(duì)角占優(yōu)又是廣義（嚴(yán)格）列對(duì)角占優(yōu)的，則稱(chēng)W為廣義（嚴(yán)格）對(duì)角占優(yōu)矩陣。

證明：不妨設(shè)W為廣義列對(duì)角占優(yōu)的（W為廣義行對(duì)角占優(yōu)的證明類(lèi)似），則存在正對(duì)角矩陣P=diag(p1,p2,…,pn)，使得：

令Dx=diag(d1,d2,…,dn)，則

再由式（9）即得xTDxWx≥0，即W為廣義半正定矩陣。

2 主要結(jié)果

定理：對(duì)于具有時(shí)變權(quán)矩陣函數(shù)的離散Hopfield神經(jīng)網(wǎng)絡(luò)，如果W(t)=A(t)+B(t)+C(t)，并且滿(mǎn)足：

1）A(t)是廣義半正定矩陣，B(t)是廣義列對(duì)角占優(yōu)矩陣，C(t)是廣義行對(duì)角占優(yōu)矩陣；

則神經(jīng)網(wǎng)絡(luò)并行穩(wěn)定。

證明：構(gòu)造能量函數(shù)

在式（10）的基礎(chǔ)上，引入含C(t)的項(xiàng)并整理得：

下面分2種情況討論分析。

1）當(dāng)ΔX(t)=0時(shí)，根據(jù)式可知

由于ΔA(t)、ΔB(t)為廣義行（或列）對(duì)角占優(yōu)陣，不妨設(shè)ΔA(t)、ΔB(t)為廣義列對(duì)角占優(yōu)的（ΔA(t)、ΔB(t)為廣義行對(duì)角占優(yōu)的證明類(lèi)似），所以分別存在正對(duì)角矩陣PΔA、PΔB，使定義2中的相應(yīng)不等式成立。記：

根據(jù)式（12），可得下式成立

矩陣PΔAΔA(t)、PΔBΔB(t)為列對(duì)角占優(yōu)，且、為正對(duì)角矩陣，所以仍為列對(duì)角占優(yōu)。

進(jìn)一步根據(jù)引理2可知存在 D1=D2=I（I為單位陣）使得是半正定的，即是半正定的。且又(P-1)T=P-1，則由式（13）可知：

2）當(dāng) ΔX(t)≠0時(shí)，由于Xi(t)∈{-1,1}，且ΔX(t)=X(t+1)-X(t)，則

將式（6）、（16）代入式（11），可得

矩陣ΔA(t)、ΔB(t)都是廣義行（或列）對(duì)角占優(yōu)矩陣，A(t)是廣義半正定矩陣，B(t)是廣義列對(duì)角占優(yōu)矩陣，C(t)是廣義行對(duì)角占優(yōu)矩陣，類(lèi)似情形1）中的證明，由式（17）可得

即

由式（14）、（18）及式（15）可知，神經(jīng)網(wǎng)絡(luò)（2）是并行穩(wěn)定的。

推論：對(duì)于具有時(shí)變權(quán)矩陣函數(shù)的離散Hopfield神經(jīng)網(wǎng)絡(luò)，如果W(t)=A(t)+B(t)+C(t)，若

1）A(t)是正定矩陣，B(t)是列對(duì)角占優(yōu)矩陣，C(t)是行對(duì)角占優(yōu)矩陣；

3 結(jié)論

本文研究了在連接權(quán)值矩陣為時(shí)變情況下的離散Hopfield神經(jīng)網(wǎng)絡(luò)并行工作演變的穩(wěn)定性，得出了一些新的判定條件，改進(jìn)了已有的結(jié)論。

[1]CHUA L O，YANG L.Cellular neural networks：applications[J].IEEE Transactions on Circuits and Systems，1988，35：1273-1290.

[2] LIU D.Cloning template design of cellular neural networks for associative memories.IEEE Transactions on Circuits and Systems—I：Fundamental Theory and Applications，1997，44：646-650.

[3] HOPFIELD J J.Neural networks and physical systems with emergent collective computational abilities[J].Proceedings of the National Academy of Science of the USA，1982，79（4）：2554-2558.

[4]GULES E，F(xiàn)OGELMAN F，PELLEGRINO D.Decreasing energy functions as a tool for studying threshod networks[J].Discrete Applied Mathematics，1985，12（3）：261-277.

[5]BRUCK J，GOODMAN J W.A generalized convergence theorem for neural networks[J].IEEE Transactions on Information Theory，1988，34（4）：1089-1092.

[6] CENUSCHI FIAS B.Partial simultaneous updating in Hopfield memories[J].IEEE Transaction on Systems，Man，and Cybernetics，1989，19（4）：887-888.

[7]XU Z B，KONG C P.Global convergence and asymptotic stability of asymmetric Hopfield neural networks[J].Journal of Mathematical Analysis and Applications，1995，191（3）：405-427

[8]廖曉昕，昌莉，沈軼.離散Hopfield神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性研究[J].自動(dòng)化學(xué)報(bào)，1999，25（6）：721-727. LIAO XIAOXIN，CHANG LI，SHEN YI.Study on stability of discrete-time Hopfield neural networks[J].Acta Automatica Sinica，1999，25（6）：721-727.（in Chinese）

[9]馬潤(rùn)年，楊友社.離散Hopfield網(wǎng)絡(luò)的穩(wěn)定性[J].空軍工程大學(xué)學(xué)報(bào)：自然科學(xué)版，2000，1（4）：39-41. MA RUNNIAN，YANG YOUSHE.The stability of discrete Hopfield networks[J].Journal of Airforce Engineering University：Natural Science Edition，2000，1（4）：39-41.（in Chinese）

[10]馬潤(rùn)年，張強(qiáng)，許進(jìn).離散Hopfield神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性研究[J].電子學(xué)報(bào)，2002，30（7）：1089-1091. MA RUNNIAN，ZHANG QIANG，XU JIN.Stability study of discrete Hopfield neural networks[J].Acta Electronica Sinica，2002，30（7）：1089-1091.（in Chinese）

[11]馬潤(rùn)年，張強(qiáng)，許進(jìn).不同演化模式的離散Hopfield網(wǎng)絡(luò)的穩(wěn)定性研究[J].系統(tǒng)工程與電子技術(shù)，2002，24（3）：90-94. MA RUNNIAN，ZHANG QIANG，XU JIN.Stability study on the discrete Hopfield network in various updating modes[J].Systems Engineering and Electronics，2002，24（3）：90-94.（in Chinese）

[12]LAI XIAOFENG，DIAO YONGFENG，LI MINGDONG，et al.Stability analysis of discrete Hopfield neural networks with quasi-diagonally dominant weight function matrix[C]//2010 International Colloquium on Computing，Communication，Control，and Management.Yangzhou，ISECS.2010：586-589.

Stability of Discrete Hopfield Neural Networks with Time-Variable Weighting Matrix

ZHOU Ganga,GAI Mingjiua,CUI Shiweib
（Naval Aeronautical and Astronautical University a.Department of Basic Science; b.Graduate Students’Brigade,Yantai Shandong 264001,China）

In this paper,a class of discrete Hopfield neural networks with variable weighting matrix in parallel update mode was studied.Several sufficient conditions were obtained to guarantee the stability of the neural networks.These re?sults improved and extended the existing results.

discrete Hopfield neural network;connection weight matrix;diagonally dominant matrix;stability

TP183

A

1673-1522（2015）05-0489-04

10.7682/j.issn.1673-1522.2015.05.018

2015-04-15；

2015-07-20

周 剛（1975-），男，副教授，碩士。