(海軍航空大學 煙臺 264001)
電子元器件是航空航天和武器裝備系統(tǒng)的重要組成部分,要求其在一定的時間內性能好、高可靠、壽命長,甚至“零故障”[1]。在靜態(tài)長期貯存維護過程中,由于受到溫度、濕度、振動、光照以及電化學腐蝕等外界影響,其內部組成材料性能發(fā)生物理和化學變化,對應的性能參數(shù)也將改變,從而會造成使用障礙,甚至失效[2]。對電子元器件進行性能預測,對于制定測試實驗計劃,有效改善使用條件,有著十分重要的意義。神經網(wǎng)絡的機理是仿造人腦神經元網(wǎng)絡對信息進行抽象處理,用多種連接方式將不同基本模型連接起來而組成不同的網(wǎng)絡結構,它具有并行范圍廣、分布式存儲和處理、自組織、自適應和自開發(fā)能力的特點,特別在處理需要同時考慮多種制約因素和不同條件下的、邏輯關系模糊的信息方面適用性較強[3]。目前神經網(wǎng)絡在電子元器件故障診斷和性能預測方面應用廣泛,例如,黃瑞毅[4]利用神經網(wǎng)絡模型預測非工作狀態(tài)時的電子元器件可靠性性能參數(shù)時間序列,與傳統(tǒng)應用回歸模型預測的結果比較,神經網(wǎng)絡模型預測精度有較大提高。胡桂廷[5]構建在模型辨識基礎上建立的BP神經網(wǎng)絡,經過多次訓練后對光伏電池的最大功率點電壓進行預測,取得了理想效果,證明具有很好的適用性。鄒心遙[6]等提出一種基于BP神經網(wǎng)絡的電子元器件壽命預測方法,對MOS電容加速壽命進行試驗并分析數(shù)據(jù),得出該方法對預測MOS電容失效時間具有很好的實用意義,并且精度也符合要求。
BP(Back Propagation)神經網(wǎng)絡[7]是1986年由Rumelhart和McCelland組成的科學小組提出的,該網(wǎng)絡的訓練算法采用的方法是通過反向傳播訓練誤差來調整各層權值閾值,最終達到理想訓練效果,該算法具有結構清晰明了、算法簡單高效等特點。BP算法在實際應用中也存在不足,體現(xiàn)在網(wǎng)絡對初始值和學習因子的選取敏感,優(yōu)化目標函數(shù)復雜且可能存在多個極小點使得網(wǎng)絡陷入局部極小,誤差收斂達不到預期精度[8]。為提高BP網(wǎng)絡訓練收斂速度和減少誤差,避免收斂陷入局部極小,本文提出一種對BP神經網(wǎng)絡結構中賦值常數(shù)的動量因子進行改進,用前后兩層誤差反饋來調整動量因子的取值,使得動量因子在約束收斂震蕩的同時,對權值和閾值的調整速率的精確度方面也起到一定作用。仿真試驗證明改進后的BP神經網(wǎng)絡在一定程度上提高了網(wǎng)絡整體映射能力。
神經元[9~10]是神經網(wǎng)絡系統(tǒng)的基本處理單元,它是構成神經網(wǎng)絡的基礎。神經元在生物學上是以生物神經系統(tǒng)的神經細胞為基礎的生物模型,在對生物神經系統(tǒng)進行研究的基礎上探討人工智能的機制,把神經元數(shù)學化產生了神經元數(shù)學模型[11]。圖1是人工神經元的示意圖。
圖1 神經元結構模型[12]
神經元模型可用下列表達式闡述:
神經元的輸出決定于激活函數(shù)的類型,常見的激活函數(shù)主要有階躍型、線性型、雙曲型和對數(shù)s型等。
BP(Back Propagation)神經網(wǎng)絡采用誤差反向傳播來調整各層權值閾值的算法,廣泛應用于函數(shù)逼近、系統(tǒng)辨識、語言識別和數(shù)據(jù)處理等領域[13]。BP網(wǎng)絡的主體結構由一個輸入層、一個或多個隱含層和一個輸出層組成,各層傳遞函數(shù)可不同,常見隱含層中的神經元采用sigmoid型傳遞函數(shù),輸出層函數(shù)采用純線性傳遞函數(shù),其結構如圖2所示。
圖2 BP網(wǎng)絡結構
BP網(wǎng)絡在學習過程中,網(wǎng)絡的權值和閾值不斷修正,首先輸入模式經過輸入層正向傳播至隱含層,在隱含層的處理后傳送輸出層,每一層神經元的狀態(tài)只受它上一層神經元狀態(tài)影響。如果輸出達不到期望,則進入反向傳播環(huán)節(jié),誤差在反向傳播的過程中不斷修正各層連接的權值和閾值,直至誤差達到精度要求為止。
結合BP結構網(wǎng)絡,其算法推導過程如下:
1)輸入信號正向傳播過程:
隱含層第i個節(jié)點的輸入
輸出層函數(shù)為線性函數(shù),則第k個節(jié)點的輸入為
第k個節(jié)點的輸出ok為
定義誤差函數(shù)
其中定義第k個節(jié)點輸出的期望值為Fk,Ek表示輸出誤差,預測精度即真實值與期望值之間的誤差,誤差越小,則說明精度越高[14]。
2)反向傳播過程:
定義誤差函數(shù)隱含層權值公式為
輸出層權值公式為:
隱含層閾值公式為
輸出層閾值公式為
式中,η為學習率[15],;α為動量因子[16],;t為調節(jié)次數(shù);δ與偏差有關[17]。
對于輸出層:
對于隱含層:
通常采用梯度下降法來調整BP神經網(wǎng)絡各層連接權值和閾值調整量。
隱含層權值調整量為
輸出層權值調整量為
隱含層閾值調整量為
輸出層閾值調整量為
因為
則輸出層權值調整量為
隱含層權值調整量為
輸出層閾值調整量為
隱含層閾值調整量為
為了使網(wǎng)絡預期精確度更高,訓練速率更快,在傳統(tǒng)BP神經網(wǎng)絡算法中誤差反向傳播環(huán)節(jié)對隱含層和輸出層的權值閾值進行修正。為達到預期,本文提出對BP神經網(wǎng)絡中常數(shù)項動量因子賦變量值,可根據(jù)誤差反饋調整值的大小,相比較BP神經網(wǎng)絡,改進后的BP神經網(wǎng)絡各層權值閾值調整不再是前兩層簡單線性關系,通過增加輸出誤差比值來調整大小,能夠更深層將輸出誤差變化的影響因素考慮進去,在網(wǎng)絡訓練過程中,增加了前面輸出誤差的影響,在有效約束收斂時產生的震蕩同時,提高了預測精度,在一定程度上提高了網(wǎng)絡映射能力。對學習速率η的改進體現(xiàn)在通過相鄰兩層輸出誤差的比較來改變η的大小,合理調整訓練進度,能夠有效改善訓練時間過長,學習速率過緩的問題。
與常規(guī)權值調整公式中常數(shù)項動量因子α0不同,改進后的動量因子是一個變量,其取值受前面輸出誤差的影響,且大小隨輸出誤差比值大小做調整。按照經驗可知,,誤差調整總體呈下降趨勢。
現(xiàn)令
則式(2)~(8)、式(2)~(9)調整為
同理閾值的調整為
此外,通常取常數(shù)項的學習速率η對網(wǎng)絡的訓練性能也起一定作用。η取值要求合適但沒有絕對定量,取值過小,會使得訓練收斂減慢,訓練時間過長;取值過大,會網(wǎng)絡穩(wěn)定性降低,收斂效果變差[18]。綜合考慮訓練時間和穩(wěn)定性兩方面因素,參照預先設定的誤差參數(shù),提出對η取值進行調整,當網(wǎng)絡輸出誤差較上一層輸出超出設定值,則減小η值,反之增加,直至網(wǎng)絡訓練收斂達到預期。η取值如下:
通過前后兩層誤差自動調整η來一定程度上保證網(wǎng)絡盡可能以最大允許速率訓練。
基于改進BP神經網(wǎng)絡的預測步驟如下:
由此可得出m組樣本數(shù)據(jù)(Rj,Mj),j=1,2,...,m。其中包括訓練樣本和測試樣本。
2)網(wǎng)絡結構初始化
網(wǎng)絡結構首先要確定隱含層的層數(shù),然后確定網(wǎng)絡輸入層、隱含層和輸出層的節(jié)點數(shù)目。隱含層層數(shù)的確定對網(wǎng)絡結構具有重要影響,層數(shù)增加能在一定程度上提高精度,降低誤差,但是同時也使得結構復雜,延長了訓練時間,因此大多采用具有一個輸入層、一個輸出層和一個隱含層的三層網(wǎng)絡模型結構,當然要視具體情況而定[19]。設輸入層節(jié)點數(shù)m為評價指標的個數(shù),輸出層節(jié)點數(shù)n一般為1,隱含層節(jié)點數(shù)q的確定有多個經驗優(yōu)化關系,選擇其中的一個,即
3)網(wǎng)絡參數(shù)初始化
網(wǎng)絡結構訓練過程中,各層權值、閾值的確定是關鍵所在,按照專家經驗,權值的初始值w取值在(- 0.3,+0.3)范圍內。
4)訓練網(wǎng)絡
利用改進的BP神經網(wǎng)絡,計算網(wǎng)絡輸出及誤差,當網(wǎng)絡收斂至一定程度中止訓練,否則調整各層權值閾值,直至達到訓練目標。
5)預期性能分析
為了科學合理的評判網(wǎng)絡預測效果,需要從不同角度評判預測性能。網(wǎng)絡預測速率方面采用運算收斂至目標的迭代次數(shù)來評判,網(wǎng)絡預測精度方面采用預測值與真實值的相對誤差來評判,綜合二者來評判網(wǎng)絡的整體預測效果。
通過對導引頭實測數(shù)據(jù)的研究分析,雷達導引頭[20]中故障率較高的部件有發(fā)射機、接收機、電源組合和天線組合,通過測試各部件所得數(shù)據(jù)來分析導引頭性能及健康狀態(tài),其中在導引頭各部件中故障率占比較大的元器件有:電源、磁控管、二極管等。其中以雷達導引頭中27V電源為研究對象,以下是電源5年每季度電壓變化測試數(shù)據(jù)并進行歸一化處理,見表1。
表1 電源電壓檢測數(shù)據(jù)歸一化處理結果
取其中連續(xù)6個季度的檢測值作為輸入向量,第7個季度的檢測值作為目標向量,則可得到表2,取前8組數(shù)據(jù)作為訓練樣本,后3組作為測試樣本,最后通過測試值與預測值對比進行誤差分析。
表2 網(wǎng)絡訓練樣本和測試樣本
前人大量實驗證明,一個三層BP神經網(wǎng)絡經過多次訓練能夠完成任意m維到n維的映射,且達到一定精度。輸入層節(jié)點為m=6,輸出層節(jié)點為n=1,按照經驗公式計算,隱含層節(jié)點應取q=8,由于隱含層節(jié)點數(shù)的選取對網(wǎng)絡精度和運算速率影響較大,現(xiàn)取q=7,9,11,13,然后通過網(wǎng)絡訓練觀察精度和運算速率來確定q最優(yōu)取值。設網(wǎng)絡訓練次數(shù)為2000,訓練目標0.0001,w的初始取值在(- 0.3,+0.3) 內選取,η=0.05,θi(0)=0.9,ak(0)=0.9,隱含層所有映射關系都是s型函數(shù),利用Matlab進行仿真試驗,得到隱含層節(jié)點不同取值所對應的訓練誤差曲線,如圖3所示。
通過對隱含層取不同值,觀察網(wǎng)絡收斂速度和誤差精度,在優(yōu)先考慮誤差精度的基礎上考慮運算速率,如圖1~4。對比發(fā)現(xiàn),當隱含層節(jié)點q=7時,網(wǎng)絡收斂速率最快,當q=9時,收斂速率有所增加,但預測誤差最小。綜合比較,隱含層數(shù)q=9總體效果較好,則改進后BP神經網(wǎng)絡輸入層、隱含層和輸出層節(jié)點分別取6、9、1。
為驗證改進的BP神經網(wǎng)絡預測性能,現(xiàn)以2017年三、四季度和2018年第一季度電源電壓檢測數(shù)據(jù)為期望數(shù)據(jù),分別以傳統(tǒng)BP神經網(wǎng)絡和改進神經網(wǎng)絡進行電源電壓預測,利用Matlab仿真試驗,得到兩種算法下訓練速度和誤差結構曲線圖,如圖5所示。
圖5 改進前后兩種算法預測誤差曲線圖
通過觀察圖5和圖6可知,改進BP神經網(wǎng)絡算法預測精度較高,預測值與期望值擬合度較高,預測平均誤差為0.45%,而傳統(tǒng)神經網(wǎng)絡預測平均誤差為4.8%,在預測誤差方面,改進BP神經網(wǎng)絡明顯由于傳統(tǒng)BP神經網(wǎng)絡。在運算速率方面,改進BP神經網(wǎng)絡在迭代809次后,誤差精度就達到預期,而傳統(tǒng)BP神經網(wǎng)絡迭代1000次仍未達到預期。由此可見,改進BP神經網(wǎng)絡比傳統(tǒng)BP神經網(wǎng)絡運算精度更高,收斂速度更快,具有更強的映射能力。
圖6 兩種算法性能參數(shù)預測曲線
本章在對BP神經網(wǎng)絡研究的基礎上,提出了改進型BP神經網(wǎng)絡,并對某型防空導彈雷達導引頭發(fā)射機上電源電壓性能進行預測,通過仿真實驗證明,改進型BP神經網(wǎng)絡對導引頭發(fā)射機電源電壓性能預測具有很好的適用性,相比較傳統(tǒng)BP神經網(wǎng)絡具有運算精度更高,收斂速度更快的優(yōu)點,網(wǎng)絡映射能力更強。下步工作主要研究改進BP神經網(wǎng)絡對其他電子設備的適用型,并進一步提高網(wǎng)絡的穩(wěn)定性。