摘 要:傳統(tǒng)的BP神經(jīng)網(wǎng)絡存在著迭代緩慢、容易陷入局部極值而無法獲得全局最優(yōu)解等缺陷。在誤差反向傳播學習算法的基礎上,對網(wǎng)絡進行改進,采用正交V系統(tǒng)作為基底,得到權值直接確定模型。算例表明,模型達到預期效果。
關鍵詞:V系統(tǒng);權值直接確定;神經(jīng)網(wǎng)絡
中圖分類號:TP181 ?文獻標識碼:A
Abstract:The traditional BP neural network has the defects of slow iteration,easy to fall into local extremum and unable to obtain global optimal solution.On the basis of the error back propagation learning algorithm,the network is improved,and the orthogonal V system is used as the base to obtain the weight direct determination model.The example shows that the model achieves the desired results.
Key words:BP Neural network;Weights-Direct-Determination;V system
1 緒論
BP(back propagation)神經(jīng)網(wǎng)絡是由Rumelhart和McClelland于1986年首先提出的一種前向性神經(jīng)網(wǎng)絡。自提出以來,該網(wǎng)絡被應用于預測分析、分類、函數(shù)逼近、模式識別等應用場景。通過對CNKI、維普等數(shù)據(jù)庫中的文獻研究發(fā)現(xiàn),大部分BP神經(jīng)網(wǎng)絡的研究都集中在BP神經(jīng)網(wǎng)絡的應用方面,對該網(wǎng)絡在學習效率低、網(wǎng)絡泛化能力差、容易陷入極小等方面避而不談。另一方面,有相當一部分學者致力于BP神經(jīng)網(wǎng)絡算法的優(yōu)化,如激活函數(shù)的選取、學習速率、學習步長的優(yōu)化等,但鮮有對網(wǎng)絡結構的研究。
根據(jù)Kolomogorov定理,具有三層結構的神經(jīng)網(wǎng)絡可以任意逼近一個在實軸閉區(qū)間上的連續(xù)函數(shù)。如果增加網(wǎng)絡的深度,雖然能增加網(wǎng)絡的學習能力,但會影響網(wǎng)絡學習的速度。另一方面,隱含層神經(jīng)元的數(shù)目的確定,目前只能依靠經(jīng)驗公式,沒有一種統(tǒng)一的指導方法,更多的是靠運氣。因此,傳統(tǒng)的BP神經(jīng)網(wǎng)絡多采用三層拓撲結構。BP神經(jīng)網(wǎng)絡的拓撲結構如圖1所示。
結論:權值迭代法受訓練數(shù)據(jù)影響較大,由于訓練數(shù)據(jù)是隨機選取的,所以識別準確率不太穩(wěn)定;權值直接確定法達到了預期效果,迭代步驟少,更加節(jié)省資源。
5 結語
目前,大多數(shù)學者對于BP神經(jīng)網(wǎng)絡的研究集中在算法的優(yōu)化方面,比如把固定步長改為可變步長,在學習過程中采用遺傳算法等。本文在BP神經(jīng)網(wǎng)絡結構的基礎上,提出了一種采用正交V系統(tǒng)作為基底的權值直接確定方法,通過實例驗證,該模型的評價效果達到了預期的要求。
參考文獻:
[1]劉雪.一類新的完備正交系及其在圖形圖像處理中的應用[D].北京:北方工業(yè)大學,2007.
[2]殷奎喜,岸政七,許根穩(wěn).平滑化的正交型Walsh函數(shù)的構造及在廣帶域擴譜通訊中的應用.東南大學學報,1999,29(6):20-26.
[3]張雨濃,郭東生,譚寧.冪激勵前向神經(jīng)網(wǎng)絡最優(yōu)結構確定算法[J].計算機工程與應用,2011,47(2):29-31.
[4]張雨濃,勞穩(wěn)超,余曉填,等.兩輸入冪激勵前向神經(jīng)網(wǎng)絡權值與結構確定[J].計算機工程與應用,2012,48(15):102-106.
[5]楊文光.權值直接確定的三角型模糊前向神經(jīng)網(wǎng)絡[J].中山大學學報:自然科學版,2013,52(2):33-37.
基金項目:全國高等院校計算機基礎教育研究會項目(2018-AFCEC-350);天津職業(yè)大學科研項目:權值直接確定神經(jīng)網(wǎng)絡在大數(shù)據(jù)處理的研究與應用
作者簡介:崔媛(1978-),女,天津人,講師,研究方向:應用統(tǒng)計。