基于BP神經(jīng)網(wǎng)絡(luò)對非線性函數(shù)擬合

廣東理工學(xué)院電氣工程系 吳 瓊

以生物學(xué)基礎(chǔ)的BP網(wǎng)絡(luò)為全局網(wǎng)絡(luò)，于多變量函數(shù)逼近理論不同，BP神經(jīng)網(wǎng)絡(luò)是輸入輸出的映射，其優(yōu)勢在諸多方面比函數(shù)逼近理論要更為明顯。本質(zhì)上，神經(jīng)網(wǎng)絡(luò)是一個非線性系統(tǒng)，任意復(fù)雜的非線性函數(shù)它都能夠充分逼近。良好的魯棒性、聯(lián)想記憶能力、容錯性高及并行處理信息等優(yōu)異特性使神經(jīng)網(wǎng)絡(luò)成為智能領(lǐng)域中的重要算法之一[1-2]。

1.BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與原理

圖1 多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

圖1所示為多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。其中，n表示輸入層神經(jīng)元個數(shù)，l 表示隱含層中神經(jīng)元個數(shù)，m為輸出層神經(jīng)元個數(shù)。ωij、ωjk為連接權(quán)值，分別表示輸入層第 i 個神經(jīng)元和隱含層第 j 個神經(jīng)元、隱含層第 j 個神經(jīng)元與輸出層第k個神經(jīng)元之間的權(quán)值。取線性函數(shù)作為輸入層神經(jīng)元的作用函數(shù)，即神經(jīng)元的輸入和輸出相同。分別將隱含層和輸出層神經(jīng)元的上一層神經(jīng)輸出加權(quán)和對應(yīng)作為他們的輸入，激勵程度和作用函數(shù)決定了各個神經(jīng)元的輸出[3]。

基本BP算法包括兩個方面：信息的前向傳播和誤差的反向傳播。計算實際輸出時，按從輸入到輸出的方向進(jìn)行；而權(quán)值和閾值的修正從輸出到輸入的方向進(jìn)行。

(1)信息前向傳播過程[4]

對于圖1，設(shè)各神經(jīng)元的閾值為0，便于后續(xù)分析。

(2)誤差的反向傳播過程

誤差的方向傳播，即首先由輸出層開始逐層計算各層神經(jīng)元的輸出誤差，然后根據(jù)誤差梯度下降法來調(diào)節(jié)各層的權(quán)值和閾值，使修改后的網(wǎng)絡(luò)的最終輸出能接近期望值。

2.仿真實驗

利用BP網(wǎng)絡(luò)擬合非線性函數(shù)：

給出不同隱含層的BP網(wǎng)絡(luò)擬合結(jié)果比較圖，最大訓(xùn)練步數(shù)1000步，目標(biāo)函數(shù)誤差。

圖2 10個隱含層節(jié)點的BP網(wǎng)絡(luò)擬合效果虛線是BP網(wǎng)絡(luò)輸出

圖3 100個隱含層節(jié)點的BP網(wǎng)絡(luò)擬合效果虛線是BP網(wǎng)絡(luò)輸出

從仿真圖可看出利用BP網(wǎng)絡(luò)擬合非線性函數(shù)具有良好效果。

3.結(jié)束語

本文簡單介紹BP神經(jīng)網(wǎng)絡(luò)的原理和特點，在此基礎(chǔ)上對非線性函數(shù)進(jìn)行擬合。仿真結(jié)果表明，利用BP神經(jīng)網(wǎng)絡(luò)能將擬合誤差控制在很小的范圍之內(nèi)，印證了其擬合的有效性。

[1]周妮娜．基于BP神經(jīng)網(wǎng)絡(luò)的非線性系統(tǒng)辨識[J]．新技術(shù)新工藝,2008(10)∶36-37．

[2]吳瓊,任瑾．基于數(shù)據(jù)濾波的極大似然遞推最小二乘辨識[J]．電子世界,2017．

[3]程森林,師超超．BP神經(jīng)網(wǎng)絡(luò)模型預(yù)測控制算法的仿真研究[J]．計算機系統(tǒng)應(yīng)用,2011(8)∶100-103．

[4]張寶堃,張寶一．基于BP神經(jīng)網(wǎng)絡(luò)的非線性函數(shù)擬合[J]．電腦知識與技術(shù),2012,8(27)∶6579-6583．