劉元元,楊功流,李思宜
(1.北京航空航天大學 儀器科學與光電工程學院,北京 100191;2.慣性技術(shù)國防重點實驗室,北京 100191)
BP-Bagging模型在光纖陀螺溫度補償中的應(yīng)用
劉元元,楊功流,李思宜
(1.北京航空航天大學 儀器科學與光電工程學院,北京 100191;2.慣性技術(shù)國防重點實驗室,北京 100191)
為了消除光纖陀螺的溫度效應(yīng)并提高陀螺的精度,BP神經(jīng)網(wǎng)絡(luò)模型廣泛的應(yīng)用在光纖陀螺的零偏溫度漂移辨識和補償中。然而,單神經(jīng)網(wǎng)絡(luò)模型的泛化能力差,影響模型的預(yù)測結(jié)果。結(jié)合神經(jīng)網(wǎng)絡(luò)集成學習的思想,利用Bagging集成技術(shù)產(chǎn)生差異大、預(yù)測能力強的個體網(wǎng)絡(luò),提升模型的預(yù)測能力。建立光纖陀螺零偏溫度的BP-Bagging模型,將其應(yīng)用在溫度補償中。通過對某型光纖陀螺的零偏漂移數(shù)據(jù)進行仿真,結(jié)果表明:BP-Bagging模型相比線性回歸模型、單BP神經(jīng)網(wǎng)絡(luò)模型的補償效果更顯著,有效改善了陀螺的零偏穩(wěn)定性能。
光纖陀螺;神經(jīng)網(wǎng)絡(luò)集成;BP-Bagging模型;溫度補償
光纖陀螺因其自身的優(yōu)點,已經(jīng)成為新一代慣性導航系統(tǒng)中的核心器件。構(gòu)成光纖陀螺的核心部件對溫度較為敏感,當工作環(huán)境的溫度發(fā)生變化時,引起陀螺的輸出信號中含有非互易性誤差,成為導致光纖陀螺零位漂移和標度因數(shù)不穩(wěn)定的主要原因,因此光纖陀螺的溫度補償成為提高其性能的主要手段。對零偏補償模型的研究,主要分為線性和非線性模型兩種。線性模型復雜性低,易于實現(xiàn),在工程使用中,具有重要的地位。
文獻[1]提出多參量聯(lián)合線性模型,經(jīng)過泰勒級數(shù)展開及最小二乘擬合可得光纖陀螺溫度漂移分布模型表達式,經(jīng)過仿真分析,在三種溫變速率下,陀螺溫度漂移減小到原有誤差的1/10~2/10。文獻[2]通過引入了探測器的光功率變量,建立多元線性回歸模型,利用最小二乘辨識模型的參數(shù),提高了光纖陀螺的性能。研究表明,零偏隨溫度漂移的特性呈復雜的非線性特點,用多項式擬合的方法,難以準確描述其非線性特征。神經(jīng)網(wǎng)絡(luò)具有良好的逼近復雜非線性函數(shù)的能力,如BP網(wǎng)絡(luò)、RBF網(wǎng)絡(luò)、小波網(wǎng)絡(luò),在陀螺的零偏溫度建模與補償中受到了重視。文獻[3-4]使用神經(jīng)網(wǎng)絡(luò)辨識光纖陀螺的零偏溫度模型,提高了光纖陀螺的零偏穩(wěn)定性能。但神經(jīng)網(wǎng)絡(luò)的建立與學習,是一個NP問題。由于缺乏先驗知識,往往很難找到理想的網(wǎng)絡(luò)結(jié)構(gòu),影響網(wǎng)絡(luò)的泛化能力。
本文根據(jù)集成學習的思想[5],結(jié)合 Bagging集成技術(shù)的特點,將BP-Bagging模型應(yīng)用在光環(huán)陀螺的零偏溫度補償中,實驗結(jié)果表明模型的有效性。
1.1 光纖陀螺溫度誤差機理分析
1980年,Shupe[6]推導出了兩束干涉光分別沿著順時針和逆時針方向傳輸時,光纖環(huán)溫度變化產(chǎn)生的熱致非互易性相位延遲為:
1.2 溫度漂移建模與補償
溫度對光纖陀螺零偏的影響主要表現(xiàn)在溫度變化、溫度梯度、溫變速率三個方面。工程上常用的方法是,將光纖陀螺的零偏隨溫度的變化近似為線性關(guān)系,建立零偏的多項式模型。實際上,光纖陀螺零偏的溫度特性具有復雜的非線性特征。BP神經(jīng)網(wǎng)絡(luò)因其具有良好的逼近復雜非線性函數(shù)的能力,在光纖陀螺的溫度漂移模型與補償中受到了重視。針對單神經(jīng)網(wǎng)絡(luò)泛化能力差的問題,本文運用Bagging算法的思想集成多個BP神經(jīng)網(wǎng)絡(luò)的輸出,最終得到多個BP神經(jīng)網(wǎng)絡(luò)集成的強預(yù)測器。
2.1 BP神經(jīng)網(wǎng)絡(luò)模型
BP神經(jīng)網(wǎng)絡(luò)[8]本質(zhì)上是一種輸入到輸出的映射,根據(jù)映射網(wǎng)絡(luò)存在定理:1個3層前向網(wǎng)絡(luò)能在任意期望的精度上逼近任意的連續(xù)函數(shù)。本文使用3層的神經(jīng)網(wǎng)絡(luò),結(jié)構(gòu)如圖1所示。
圖1 3層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Structure of three-layer BP neural network
BP神經(jīng)網(wǎng)絡(luò)的輸出可以表示為:
式中,P為輸入向量,LW1、LW2為權(quán)重矩陣,b1、b2為偏置向量。
2.2 BP-Bagging預(yù)測模型
神經(jīng)網(wǎng)絡(luò)的集成過程主要包括兩個步驟,首先是生成個體網(wǎng)絡(luò),然后是合成各個體網(wǎng)絡(luò)的輸出結(jié)果。目前,有很多的方法生成集成個體子網(wǎng)絡(luò),其中影響最大的是Bagging算法和Boosting算法[9-10]。Bagging對于不穩(wěn)定學習算法是一定有效的,而神經(jīng)網(wǎng)絡(luò)正是不穩(wěn)定的學習器。BP-Bagging的算法流程如下:
結(jié)合Adaboost的思想,賦予每個訓練樣本權(quán)重,用于計算每個個體網(wǎng)絡(luò)在集成輸出中占據(jù)的比重。
3.1 單BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定
對于3層BP神經(jīng)網(wǎng)絡(luò),理論上隱含層節(jié)點的數(shù)目越多、網(wǎng)絡(luò)輸出精度越高。然而節(jié)點越多,計算量越大,BP神經(jīng)元輸入?yún)^(qū)域重疊性也隨之增大,導致所有神經(jīng)元的輸出均為 1,無法產(chǎn)生不同的響應(yīng)曲線,精度反而下降。本文利用10次交叉驗證的方法,確定隱含層神經(jīng)元的數(shù)目。模型的輸入為與溫度、溫變速率有關(guān)的項,模型的輸出為陀螺的零偏值。輸入、輸出數(shù)據(jù)進行[-1,1]歸一化。其運行結(jié)果見表1,預(yù)測誤差為:
從表1可以看出,個體網(wǎng)絡(luò)的隱含層數(shù)目選為5,滿足預(yù)測的精度。同時,個體網(wǎng)絡(luò)的結(jié)構(gòu)相對簡單。
3.2 Bagging迭代次數(shù)的確定
集成神經(jīng)網(wǎng)絡(luò)學習系統(tǒng)中,既要確定單BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),也要確定子體神經(jīng)網(wǎng)絡(luò)的集成數(shù)目見表2,恰當?shù)募蓚€數(shù),既能保證集成學習算法具有較強的泛化能力。同時,避免了學習算法的高度復雜性。
表1 不同隱含層節(jié)點數(shù)目下三組數(shù)據(jù)的預(yù)測誤差Tab.1 Prediction error of three groups of data under different number of hidden layer nodes
表2 不同個體網(wǎng)絡(luò)數(shù)目下三組輸出數(shù)據(jù)補償后的零偏穩(wěn)定性Tab.2 Compensation results of three groups of data under different number of individual network
從表2可以看出,單BP神經(jīng)網(wǎng)絡(luò)補償模型,因其算法自身的不穩(wěn)定性,補償后的零偏穩(wěn)定性,具有較大的數(shù)值變動,如第一組數(shù)據(jù)最好的補償結(jié)果為0.4662 (°)/h,最差的補償結(jié)果為 0.4964 (°)/h。而 BPBagging補償模型,因其集成神經(jīng)網(wǎng)絡(luò)個體數(shù)目的不同,補償后的零偏穩(wěn)定性能也會不同。如第一組數(shù)據(jù)最好的補償結(jié)果為 0.3928 (°)/h,最差的補償結(jié)果為0.4151 (°)/h,相比單BP神經(jīng)網(wǎng)絡(luò),補償結(jié)果之間的差值要小。當網(wǎng)絡(luò)集成個體的數(shù)目選為10時,三組數(shù)據(jù)的補償結(jié)果分別為 0.3928 (°)/h、0.7495 (°)/h、0.4280(°)/h,滿足集成預(yù)測的精度。
4.1 實驗設(shè)計
陀螺的溫度漂移與溫度值、溫變速率相關(guān),實驗選取了-10℃、0℃、10℃、20℃、30℃、40℃、50℃、60℃溫度測試點下的陀螺的零漂值,以及0℃~60℃之間0.5℃/min、-10℃~60℃之間1.2℃/min、-40℃~60℃之間0.7℃/min溫變速率下的陀螺零漂數(shù)據(jù)見圖2,其中部分作為訓練樣本集,部分用于測試樣本集。將溫度值、溫變速率的相關(guān)項作為 BP-Bagging模型的輸入,陀螺的零偏值作為BP-Bagging模型的輸出。本實驗中模型的輸入為溫度值的一次項、溫度值的二次項、溫變速率的一次項、溫度值與溫變速率的乘積項。
圖2 三組陀螺輸出數(shù)據(jù)隨溫度變化曲線Fig.2 Three groups of gyro output and temperature changing
4.2 實驗結(jié)果分析
實驗中3層神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)為5-10-1,隱層神經(jīng)元傳遞函數(shù)采用tansig函數(shù),輸出層采用purelin函數(shù),訓練步數(shù)定為30步。Bagging的集成迭代次數(shù)為10,其中每個弱預(yù)測器的訓練樣本從采集數(shù)據(jù)集中按照10∶1的比例隨機選取,模型的預(yù)測輸出為:
利用訓練樣本,訓練模型的權(quán)值向量、偏置向量以及每個預(yù)測器的權(quán)重值。首先對訓練樣本數(shù)據(jù),進行溫度補償,仿真實驗結(jié)果見圖3。
從圖3可以看出,-10℃~60℃之間的陀螺零偏值,未補償前的漂移均值 6.5925×105(脈沖?s-1),方差1.0692×105(脈沖?s-1),單BP網(wǎng)絡(luò)補償后的漂移均值7.2380×104(脈沖?s-1),方差1.8476×105(脈沖?s-1),BP-Bagging網(wǎng)絡(luò)補償后的漂移均值 3.9065×104(脈沖?s-1),方差4.4455×104(脈沖?s-1)。
圖3 補償前后陀螺零偏隨溫度變化曲線Fig.3 The bias drift and temperature changing before and after compensation
利用建立的 BP-Bagging模型對測試數(shù)據(jù)進行補償,仿真結(jié)果如圖4~6。
從圖4~6可以看出,BP-Bagging模型補償后的輸出曲線更加平滑,改善了陀螺的零偏穩(wěn)定性見表3所示。同時,利用 Allan方差對數(shù)據(jù)誤差進行分析,可以看出 BP-Bagging模型相比單神經(jīng)網(wǎng)絡(luò)模型在量化噪聲、零偏差不穩(wěn)定性、速率隨機游走和速率斜坡等其它噪聲項抑制效果要好,具體見表4。
根據(jù)訓練好的模型,采用3、5、10次交叉驗證法[11],分別在三組輸出數(shù)據(jù)中進行BP-Bagging模型的泛化性能實驗見表5。從表5中的數(shù)據(jù)可以看出,BP-Bagging模型的泛化性能優(yōu)于單BP神經(jīng)網(wǎng)絡(luò)的泛化性能。
圖4 第一組陀螺補償前后輸出數(shù)據(jù)曲線Fig.4 The first gyro output before and after compensation
圖5 第二組陀螺補償前后輸出數(shù)據(jù)曲線Fig.5 The second gyro output before and after compensation
圖6 第三組陀螺補償前后輸出數(shù)據(jù)曲線Fig.6 The third gyro output before and after compensation
表3 陀螺補償前后零偏穩(wěn)定性對比Tab.3 Comparison of bias stability before and after temperature compensation
表4 三組陀螺數(shù)據(jù)噪聲系數(shù)對比Tab.4 Contrast of three outputs noise coefficients
表5 兩模型泛化性能對比Tab.5 Contrast on generalization performances of two models
本文用 BP-Bagging模型對光纖陀螺零偏進行了溫度補償。相比線性回歸模型、單BP神經(jīng)網(wǎng)絡(luò)模型,BP-Bagging模型有效了改善陀螺的零偏漂移,形成以下結(jié)論:
1)集成神經(jīng)網(wǎng)絡(luò)學習的精度,不僅與集成個體神經(jīng)網(wǎng)絡(luò)的數(shù)目有關(guān),而且與單個神經(jīng)網(wǎng)絡(luò)的具體參數(shù)結(jié)構(gòu)相關(guān)。針對參數(shù)的選取,文中給出了具體的方法。
2)利用交叉驗證法,驗證了BP-Bagging模型的泛化能力優(yōu)于單BP神經(jīng)網(wǎng)絡(luò)的泛化能力。
經(jīng)過仿真實驗,驗證了結(jié)合Bagging集成技術(shù),建立的BP-Bagging模型相比單BP神經(jīng)網(wǎng)絡(luò)對光纖陀螺的零偏穩(wěn)定性補償效果要好。
(References):
[1]金靖,宋凝芳,李立京.干涉型光纖陀螺溫度漂移建模與實時補償[J].航空學報,2007,28(6):1449-1454.JIN Jing,SONG Ning-fang,LI Li-jing.Temperature drift modeling and real-time compensation of interferometric fiber optic gyroscope[J].Journal of Aeronautics,2007,28(6): 1449-1454.
[2]金靖,王崢,張忠鋼,等.基于多元線性回歸模型的光纖陀螺溫度誤差建模[J].宇航學報,2008,29(6):1912-1916.JIN Jing,WANG Zheng,ZHANG Zhong-gang,et al.Temperature errors modeling for fiber optic gyroscope using multiple linear regression models[J].Journal of Astronautics,2008,29(6): 1912-1916.
[3]張燕萍,潘子軍,魏志武,等.光纖陀螺標度因數(shù)溫度補償硬件實現(xiàn)[J].中國慣性技術(shù)學報,2013,21(5):660-662.ZHANG Yan-ping,PAN Zi-jun,WEI Zhi-wu,et al.Hardware implementation of temperature compensation for FOG’s scale-factor[J].Journal of Chinese Inertial Technology,2013,21(5): 660-662.
[4]馮麗爽,南書志,金靖.光纖陀螺溫度建模及補償技術(shù)研究[J].宇航學報,2006,27(5):939-942.FENG Li-shuang,NAN Shu-zhi,JiN Jing.Research on modeling and compensation technology for temperature errors of FOG[J].Journal of Astronautics,2006,27(5):939-942.
[5]Mendes Moreira J,Soares C,Jorge A M,et al.Ensemble approaches for regression: A survey[J].ACM Computing Surveys(CSUR),2012,45(1): 10.
[6]Shupe D.M.Thermally induced nonreciprocity in the optic interferometer[J].Appl.Opt,1980,19(5): 654-655.
[7]韓冰,林玉榮,鄧正隆.光纖陀螺溫度漂移誤差的建模與補償綜述[J].中國慣性技術(shù)學報,2009,17(2):218-224.HAN Bing,LIN Yu-rong,DENG Zheng-long.Overview on modeling and compensation of FOG temperature drift[J].Journal of Chinese Inertial Technology,2009,17(2): 218-224.
[8]Jadav K,Panchal M.Optimizing weights of artificial neural networks using genetic algorithms[J].International Journal of Advanced Research in Computer Science and Electronics Engineering,2012,1(10): 47-51.
[9]Bühlmann P.Bagging,boosting and ensemble methods[M]//Handbook of Computational Statistics.Springer Berlin Heidelberg,2012: 985-1022.
[10]Sun Q,Pfahringer B.Bagging ensemble selection for regression[M]//AI 2012: Advances in Artificial Intelligence.Springer Berlin Heidelberg,2012: 695-706.
[11]Donate J P,Cortez P,Sánchez G,et al.Time series forecasting using a weighted cross-validation evolutionary artificial neural network ensemble[J].Neuro Computing,2013,109: 27-32.
Application of BP-Bagging model in temperature compensation for fiber optic gyroscope
LIU Yuan-yuan,YANG Gong-liu,LI Si-yi
(1.School of Instrumentation Science and Opto-electronics Engineering,Beihang University,Beijing 100191,China; 2.Science and Technology on Inertial Laboratory,Beijing 100191,China)
In order to improve the precision of fiber optic gyroscope(FOG),BP neural networks are widely applied in identification and compensation of FOG bias drift caused by temperature variation.However,the single BP neural network model is poor in generalization ability,which can affect the stability of prediction results.According to the ideas of ensemble learning,a neural network ensemble is developed to effectively generate the individual learner with strong generalization ability and great diversity by using Bagging algorithm,which has higher stability and accuracy in prediction,compared with the single BP model.A BP-Bagging model is established to compensate the FOG temperature errors.The traditional modeling method of linear regression and single BP neural network are also investigated to provide a comparison with the novel proposed model.The simulation results show that the BP-Bagging approach has better performance compared with those traditional models in compensation of FOG temperature drift and improvement of FOG accuracy.
fiber optic gyroscope; neural network ensemble; BP-Bagging model; temperature compensation
V241.5
:A
1005-6734(2014)02-0254-06
10.13695/j.cnki.12-1222/o3.2014.02.021
2013-11-10;
:2014-03-04
國家安全重大基礎(chǔ)研究資助項目(613186);中央高?;究蒲袠I(yè)務(wù)費專項資金資助項目(YWF-10-01-B30)
劉元元(1985—),女,博士研究生,從事慣性技術(shù)研究。E-mail:liuyuanyuan1773@163.com
聯(lián) 系 人:楊功流(1976—),男,教授,博士生導師。E-mail: bhu17-yang@139.com