基于離散Hopfield神經(jīng)網(wǎng)絡(luò)的高?？蒲心芰υu價模型

何 黎

(武漢科技大學(xué) 管理學(xué)院,湖北武漢430081)

基于離散Hopfield神經(jīng)網(wǎng)絡(luò)的高?？蒲心芰υu價模型

何 黎

(武漢科技大學(xué) 管理學(xué)院,湖北武漢430081)

本文將高?？蒲心芰Ψ譃楹軓?Ⅰ)、較強(Ⅱ)、一般(Ⅲ)、較差(Ⅳ)及很差(Ⅴ)五種狀態(tài),將通過預(yù)測的20所高?？蒲心芰χ笜思跋鄬?yīng)的等級狀態(tài)作為輸入節(jié)點構(gòu)建基于離散Hopfield神經(jīng)網(wǎng)絡(luò)的評價模型。并將另5所高校的相關(guān)數(shù)據(jù)輸入進行仿真實驗,結(jié)果表明該模型能較好地對高?？蒲心芰M行評價,但對優(yōu)劣勢并存且都很突出的高校,該模型無法作出有效評價。

離散Hopfield;高?？蒲心芰?/p>

一、引言

目前,作為高校核心能力的科研能力,其高低已經(jīng)成為衡量一所高校綜合實力的重要指標。它不僅影響著高校自身的發(fā)展,也對高校所在地區(qū)的經(jīng)濟發(fā)展產(chǎn)生很大影響。影響科研能力的因素眾多,且相互交叉互相影響,無法用確定的數(shù)學(xué)模型進行描述。目前,對高?？蒲心芰υu價的方法很多,但普遍存在工作繁瑣、時間滯后等缺點。因此,如何準確評價高?？蒲心芰σ呀?jīng)成為擺在政府、企業(yè)和高校面前一個十分重要的問題。

二、離散Hopfield神經(jīng)網(wǎng)絡(luò)概述

1.網(wǎng)絡(luò)結(jié)構(gòu)

Hopfield神經(jīng)網(wǎng)絡(luò)及學(xué)習(xí)算法最初是由美國物理學(xué)家J.J Hopfield于1982年首先提出的,它作為一種全連接型的神經(jīng)網(wǎng)絡(luò),曾經(jīng)為人工神經(jīng)網(wǎng)絡(luò)的發(fā)展開辟了新的研究途徑。Hopfield最早提出的網(wǎng)絡(luò)是二值神經(jīng)網(wǎng)絡(luò),神經(jīng)元的輸出只取1和-1,所以也稱離散Hopfield神經(jīng)網(wǎng)絡(luò)(DHNN,Discrete Hopfield Neural Network)。在離散Hopfield網(wǎng)絡(luò)中,所采用的神經(jīng)元是二值神經(jīng)元,因此所輸出的離散值1和-1分別表示神經(jīng)元處于激活和抑制狀態(tài),它是一種單層、輸出值為二值的反饋網(wǎng)絡(luò)。

以一個由三個神經(jīng)元組成的Hopfield神經(jīng)網(wǎng)絡(luò)為例,其結(jié)構(gòu)如下圖1-1所示:

圖1-1

圖中第0層僅作為網(wǎng)絡(luò)的輸入,它不是實際的神經(jīng)元,所以沒有計算功能;第一層是神經(jīng)元,故而執(zhí)行對輸入信息與權(quán)系數(shù)的乘積求累加和,并經(jīng)非線性函數(shù)f處理后產(chǎn)生輸出信息。f是一個簡單的閥值函數(shù)。如果神經(jīng)元的輸出信息大于閥值θ,那么神經(jīng)元的輸出取值為1;小于閥值θ,則神經(jīng)元的輸出取值為-1。

其中xj為外部輸入,且有:

一個DHNN的網(wǎng)絡(luò)狀態(tài)是輸出神經(jīng)元信息的集合,對于一個輸出層是n個神經(jīng)元的網(wǎng)絡(luò),其t時刻的狀態(tài)為一個n維向量:

Yi(t)(i=1,2,…,n)可以取值為1或-1,故n維向量Y(t)有2n種狀態(tài),即網(wǎng)絡(luò)有2n種狀態(tài)。考慮DHNN的一般節(jié)點狀態(tài),用yi(t)表示第j個神經(jīng)元,即節(jié)點j在時刻t的狀態(tài),則節(jié)點的下一個時刻(t+1)的狀態(tài)可以求得:

2.網(wǎng)絡(luò)工作方式

Hopfield網(wǎng)絡(luò)按動力學(xué)方式運行,其工作過程為神經(jīng)元狀態(tài)的演化過程,即從初始狀態(tài)按“能量”(Lyapunov函數(shù))減小的方向進行演化,直到達到穩(wěn)定狀態(tài),穩(wěn)定狀態(tài)即為網(wǎng)絡(luò)的輸出。其主要的工作方式有兩種:

①串行(異步)工作方式。在任一時刻t,只有某一神經(jīng)元i(隨機的或確定的)依式(2-4)與(2 -5)變化,而其他神經(jīng)元的狀態(tài)不變。

②并行(同步)工作方式。在任一時刻t,部分神經(jīng)元或全部神經(jīng)元的狀態(tài)同時改變。

3.網(wǎng)絡(luò)的穩(wěn)定性

從DHNN的結(jié)構(gòu)可以看出:它是一種多輸入、含有閥值的二值非線性動態(tài)系統(tǒng)。在動態(tài)系統(tǒng)中,平衡穩(wěn)定狀態(tài)可以理解為系統(tǒng)某種形式的能量函數(shù)在系統(tǒng)運動過程中,其能量值不斷減小,最后處于最小值。

Coben和Grossberg在1983年給出了關(guān)于Hopfield網(wǎng)絡(luò)穩(wěn)定的充分條件,他們指出:如果Hopfield網(wǎng)絡(luò)的權(quán)系數(shù)矩陣W是一個對稱矩陣,并且對角線元素為0,則這個網(wǎng)絡(luò)是穩(wěn)定的。即在權(quán)系數(shù)矩陣W中,如果

則Hopfiled網(wǎng)絡(luò)是穩(wěn)定的。

以上只是Hopfield網(wǎng)絡(luò)穩(wěn)定的充分條件,而不是必要條件。在實際中有很多穩(wěn)定的Hopfield網(wǎng)絡(luò),但它們并不滿足權(quán)系數(shù)矩陣W是對稱矩陣這一條件。

三、離散Hopfield神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則

離散Hopfield神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的關(guān)鍵點是其權(quán)系數(shù)矩陣的設(shè)計方法。常用的設(shè)計方法有:外積法和正交化法。

設(shè)計權(quán)系數(shù)矩陣的目的是:

①保證系統(tǒng)在異步工作時的穩(wěn)定性,即它的權(quán)值是對稱的;

②保證所有要求記憶的穩(wěn)定平衡點都能收斂到自己;

③使偽穩(wěn)定點的數(shù)目盡可能少;

④使偽穩(wěn)定點的吸引力盡可能大。

1.外積法

對于一給定的需記憶的樣本向量{t1,t2,…, tn},如果tk的狀態(tài)為+1或-1,則其鏈接權(quán)值的學(xué)習(xí)可以利用“外積規(guī)則”,即

利用外積法設(shè)計離散型Hopfield的步驟可歸結(jié)為:

步驟1:根據(jù)需要記憶的樣本,按式(2-1)計算權(quán)系數(shù)矩陣。

步驟2:令測試樣本pi(i=1,2,…,n)為網(wǎng)絡(luò)輸出的初始值yi(0)=pi(i=1,2,…,n),設(shè)定迭代次數(shù)。

步驟4:當(dāng)達到最大迭代次數(shù)或神經(jīng)元輸出狀態(tài)保持不變時,迭代終止;否則返回步驟3繼續(xù)迭代。

2.正交化法

MATLAB神經(jīng)網(wǎng)絡(luò)工具箱中newhop()函數(shù)采用的權(quán)值修正方法即為正交化法,調(diào)整步驟如下:

步驟1:輸入N個輸入模式t={t1,t2,…,N-1, tN}及參數(shù)ζ,h。

步驟2:計算A={t1-tN,t2-tN,…,tN-1-tN}。

步驟3:對A做奇異值分解A=USVT,并計的秩K=rank(A)。

步驟4:分別由Up={U1,U2,…,UK}和um= {uk+1,uk+2,…,un}計算

步驟5:計算Wt=Tp-ζ＊Tm,bt=tN-wt＊tN。

步驟6:計算W=exp(h＊Wt)。

四、高?？蒲心芰υu價模型

影響高校能力的因素很多,本文以較為重要的11個影響因素作為評價指標:科研隊伍(X1)、科研基地、科技學(xué)識及相應(yīng)的載體(圖書情報資料)、科研經(jīng)費、科研管理、信息接收加工能力、學(xué)識積累與技術(shù)儲備能力、科研技術(shù)創(chuàng)新能力、知識釋放能力、自適應(yīng)調(diào)節(jié)能力、科學(xué)決策能力。

高?？蒲心芰Ψ譃槲鍌€等級:很強(Ⅰ)、較強(Ⅱ)、一般(Ⅲ)、較差(Ⅳ)及很差(Ⅴ)。將若干個典型的分類等級所對應(yīng)的評價指標設(shè)計為離散型Hopfield神經(jīng)網(wǎng)絡(luò)的平衡點,Hopfield神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程即為典型的分類等級的評價指標逐漸趨近于Hopfield神經(jīng)網(wǎng)絡(luò)平衡點的過程。學(xué)習(xí)完成后,Hopfield神經(jīng)網(wǎng)絡(luò)儲存的平衡點即為各個分類等級所對應(yīng)的評價指標。當(dāng)有待分類的高校的評價指標輸入時,Hopfield神經(jīng)網(wǎng)絡(luò)即利用其聯(lián)想記憶的能力逐漸趨近與某個儲存的平衡點,當(dāng)狀態(tài)不再改變時,此時平衡點所對應(yīng)的便是待求的分類等級。主要步驟如下圖4-1所示

圖4-1-1

1.設(shè)計理想的等級評價指標

本文所研究的20所高校的科研能力等級與11個評價指標之間的關(guān)系,如下表4-1-1所列:

表4-1-1

將各個等級的樣本對應(yīng)的各評價指標的平均值作為各個等級的理想評價指標,即作為Hopfield神經(jīng)網(wǎng)絡(luò)的平衡點,如表4-1-2所示:

2.理想的等級評價指標編碼

離散型Hopfield神經(jīng)網(wǎng)絡(luò)神經(jīng)元的狀態(tài)只有1和-1兩種,所以將評價指標映射為神經(jīng)元的狀態(tài)時需要將其進行編碼。

編碼規(guī)則:當(dāng)大于或等于某個等級的指標值時,對應(yīng)的神經(jīng)元狀態(tài)設(shè)為“1”,否則為“-1”。理想的5個等級評價指標編碼如下圖4-2-1所列:●表示神經(jīng)元狀態(tài)為“1”,即大于或等于對應(yīng)等級的理想評價指標值,反之則用○表示。

表4-1-2

圖4-2-1

3.待分類的等級評價指標編碼

5所待分類的高校等級評價指標如表4-3-1所示,根據(jù)上述的編碼規(guī)則得到對應(yīng)的編碼如表4-3-1所示。

表4-3-1

圖4-3-1

4.創(chuàng)建網(wǎng)絡(luò)

利用MATLAB自帶的神經(jīng)網(wǎng)絡(luò)工具箱函數(shù)創(chuàng)建離散型Hopfield神經(jīng)網(wǎng)絡(luò)理想的5個等級評價指標編碼為5個11＊5的矩陣,每個矩陣只包含“1”和“-1”兩種取值。數(shù)據(jù)保存在class.mat文件中,以此為class_1、class_2、class_3、class_4和class_5。

待分類的5所高校等級評價指標的編碼保存在sim.mat文件中,5個編碼矩陣分別為sim_1、sim_2、sim_3、sim_4和sim_5。

5.仿真、分析

網(wǎng)絡(luò)創(chuàng)建完畢后,將待分類的5所高校等級評價指標的編碼作為Hopfield神經(jīng)網(wǎng)絡(luò)的輸入,經(jīng)過一定次數(shù)的學(xué)習(xí),利用MATLAB自帶的sim函數(shù)進行仿真便可以得到結(jié)果。將仿真結(jié)果與真實的等級進行比較,可以對該模型進行合理的評價。

仿真結(jié)果如下圖4-5-1所示:

圖4-5-1

五、結(jié)果分析

分別與前文圖4-2-1,圖4-3-1對應(yīng),可以看出,設(shè)計的Hopfield網(wǎng)絡(luò)能夠有效地進行分類從而對高校的科研能力進行客觀公正地評價。

但本文所設(shè)計的Hopfield神經(jīng)網(wǎng)絡(luò)并非適用與任何場合。當(dāng)某所高校的優(yōu)勢與劣勢并存且相當(dāng)明顯(例如:某些影響因素得分很高,另一些得分很低)時,Hopfield神經(jīng)網(wǎng)絡(luò)將得不到確切的分類。

[1]張良均,曹晶,蔣世忠.神經(jīng)網(wǎng)絡(luò)實用教程[M].北京:機械工業(yè)出版社,2008.

[2]吳簡彤,王建華.神經(jīng)網(wǎng)絡(luò)技術(shù)及應(yīng)用[M].哈爾濱:哈爾濱工程大學(xué)出版社,1998.

[3]史忠植.神經(jīng)網(wǎng)絡(luò)[M].北京:高等教育出版社,2009.

[4]Fredric M.Ham,Ivica Kostanic.神經(jīng)計算原理[M].葉世偉,王海娟譯.北京:機械工業(yè)出版社,2007.

[5]張曉安,楊慶.高?？蒲心芰εc科研持續(xù)發(fā)展[J].中國科技論壇,2003,(6).

[6]宋濤,唐德善,曲煒.基于離散型Hopfield神經(jīng)網(wǎng)絡(luò)的項目風(fēng)險分析模型[J].統(tǒng)計與決策,2005,(3).

責(zé)任編輯:張洪洋

G472.5

A

1009-1890(2010)03-0065-04

2010-07-19

何黎(1986-),女,湖北武漢人,武漢科技大學(xué)管理學(xué)院技術(shù)經(jīng)濟與管理專業(yè)風(fēng)險管理專業(yè)碩士研究生。