廉光偉,柳華橋,李波
(天津市測(cè)繪院,天津 300381)
附加動(dòng)量法和基于遺傳算法附加動(dòng)量法的實(shí)現(xiàn)與在沉降監(jiān)測(cè)中的應(yīng)用研究
廉光偉*,柳華橋,李波
(天津市測(cè)繪院,天津 300381)
在沉降監(jiān)測(cè)工程實(shí)踐中,根據(jù)沉降趨勢(shì)的特點(diǎn),而采用不同的預(yù)測(cè)算法,有助于提高沉降預(yù)測(cè)結(jié)果的精度。由于算法各自的局限性,綜合不同算法各自的優(yōu)勢(shì),成為目前預(yù)測(cè)算法研究的熱點(diǎn)。本文在編程實(shí)現(xiàn)附加動(dòng)量法和基于遺傳算法的附加動(dòng)量法的基礎(chǔ)上,研究了種群規(guī)模對(duì)基于遺傳算法的附加動(dòng)量法收斂速度的影響,確定了種群規(guī)模的大小。最后,結(jié)合樣本數(shù)據(jù),對(duì)兩種算法的收斂速度以及預(yù)測(cè)精度通過(guò)量化的指標(biāo)進(jìn)行比較。本文的結(jié)論對(duì)沉降監(jiān)測(cè)的工程實(shí)踐具有一定的借鑒意義。
沉降監(jiān)測(cè);附加動(dòng)量法;基于遺傳算法的附加動(dòng)量法
附加動(dòng)量法將標(biāo)準(zhǔn)BP算法的權(quán)值調(diào)整量加上部分的上次權(quán)值調(diào)整量,當(dāng)作學(xué)習(xí)的權(quán)值調(diào)整量。附加動(dòng)量法可以避免計(jì)算陷入局部極小值。遺傳算法是一種模仿生物進(jìn)化過(guò)程的數(shù)學(xué)模型。算法從一個(gè)初始種群開(kāi)始,一組權(quán)值相當(dāng)于染色體上的基因,染色體則相當(dāng)于種群中的個(gè)體。初始種群經(jīng)過(guò)競(jìng)爭(zhēng)選擇,優(yōu)勝劣汰,進(jìn)化出越來(lái)越優(yōu)秀的種群,進(jìn)而確定全局最優(yōu)解。
本文在實(shí)現(xiàn)附加動(dòng)量法和基于遺傳算法的附加動(dòng)量法的基礎(chǔ)上,對(duì)兩種算法的穩(wěn)定性和算法的效率以及預(yù)測(cè)精度等方面進(jìn)行比較,探究?jī)煞N算法的特點(diǎn)。
2.1 附加動(dòng)量法
附加動(dòng)量法將標(biāo)準(zhǔn)BP算法的權(quán)值調(diào)整量加上部分的上次權(quán)值調(diào)整量,當(dāng)作學(xué)習(xí)的權(quán)值調(diào)整量。權(quán)值調(diào)整的公式如下所示:
(1)
在上式中,MC表示加入的動(dòng)量系數(shù),N為訓(xùn)練的次數(shù)。
由上式可知,MC=0時(shí),本次學(xué)習(xí)的權(quán)值調(diào)整量是按照梯度下降法確定。
2.2 基于遺傳算法的附加動(dòng)量法
遺傳算法是模擬生物進(jìn)化中的自然選擇和變異,是一種模仿生物進(jìn)化過(guò)程的數(shù)學(xué)模型?;谶z傳算法的附加動(dòng)量法是在附加動(dòng)量法的基礎(chǔ)上,結(jié)合了遺傳算法的優(yōu)勢(shì)。算法實(shí)現(xiàn)的流程如圖1所示:
圖1 基于遺傳算法的附加動(dòng)量法實(shí)現(xiàn)流程圖
初始種群一般是隨機(jī)產(chǎn)生的。我們可以根據(jù)問(wèn)題的特點(diǎn),把握最優(yōu)解在問(wèn)題空間中的大致分布,在這個(gè)分布范圍內(nèi)確定初始種群的組成。我們還可以先隨機(jī)生成一些個(gè)體,從中選擇適應(yīng)度最好的個(gè)體,加入到初始種群中。不斷進(jìn)行迭代,直到達(dá)到了初始種群預(yù)設(shè)的規(guī)模?;谶z傳算法的附加動(dòng)量法算法融合了遺傳算法和附加動(dòng)量法各自的優(yōu)勢(shì),進(jìn)而能夠快速搜索出最優(yōu)權(quán)值。
3.1 數(shù)據(jù)準(zhǔn)備
本文的樣本數(shù)據(jù)采用天津市某小區(qū)建筑物的沉降監(jiān)測(cè)數(shù)據(jù),通過(guò)傳統(tǒng)水準(zhǔn)測(cè)量的方法,按照變形監(jiān)測(cè)二級(jí)水準(zhǔn)測(cè)量的方式獲得,監(jiān)測(cè)數(shù)據(jù)共21期,時(shí)間間隔為15天。本文將監(jiān)測(cè)數(shù)據(jù)的前17期作為訓(xùn)練樣本,后4期作為預(yù)測(cè)樣本。本文采用的沉降監(jiān)測(cè)數(shù)據(jù)如表1所示:
樣本數(shù)據(jù) 表1
3.2 種群規(guī)模對(duì)基于遺傳算法的附加動(dòng)量法收斂速度的影響
遺傳算法的優(yōu)點(diǎn)在于能進(jìn)行全局的搜索,使得找到最優(yōu)解的可能性大大增加。通過(guò)遺傳算法從種群中搜索出一個(gè)最優(yōu)的個(gè)體,對(duì)最優(yōu)秀個(gè)體的染色體進(jìn)行解碼,作為標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值中,輸入樣本數(shù)據(jù),計(jì)算算法的模型值。
本文以程序計(jì)算耗時(shí)作為評(píng)價(jià)算法收斂速度的指標(biāo)。在程序中,將樣本數(shù)據(jù)和模型值差值的平方和小于或等于 0.2 mm2作為程序計(jì)算終止的條件,記錄并輸出程序計(jì)算的耗時(shí)。實(shí)驗(yàn)中,種群的規(guī)模分別取20、30、40、50、60、70、80、90等8組,每組進(jìn)行20次實(shí)驗(yàn)。使用的計(jì)算機(jī)為DELL M4800,處理器為I7-4810MQ,頻率為 2.80 GHZ,內(nèi)存為 8 G。實(shí)驗(yàn)結(jié)果如表2所示:
不同種群規(guī)模的計(jì)算耗時(shí)(單位/s) 表2
第11次8774102401085787278第12次30199551988169121124第13次103163793748163114178第14次234996871789697102第15次8791164884577132104第16次1641434994554978274第17次12463561027178149101第18次204102124546598234132第19次101595877197221178181第20次99966967132798499平均:15810189778698133174
注:表中Z表示種群規(guī)模的大小,實(shí)驗(yàn)結(jié)果均取整到秒。
根據(jù)表2中的統(tǒng)計(jì)數(shù)據(jù),用折線圖的形式表達(dá):
圖2 不同種群規(guī)模的計(jì)算耗時(shí)
由圖2可以看出,種群的規(guī)模從20開(kāi)始,隨著規(guī)模的增加,計(jì)算耗時(shí)減少;種群規(guī)模取50,計(jì)算耗時(shí)達(dá)到最少;然后隨著種群規(guī)模的增加,計(jì)算耗時(shí)逐漸增大。
圖3 不同種群規(guī)模的平均耗時(shí)
由表2和圖3可以看出,計(jì)算耗時(shí)隨種群規(guī)模大致呈V型分布。種群規(guī)模取50時(shí),算法耗時(shí)最少,計(jì)算耗時(shí)為 77 s。當(dāng)種群規(guī)模較小時(shí),種群的搜索范圍也相應(yīng)較小,導(dǎo)致進(jìn)化后種群中個(gè)體的組成相比上一代沒(méi)有明顯改變,收斂速度較慢。當(dāng)種群規(guī)模較大時(shí),進(jìn)化后種群個(gè)體的組成相較上一代雖有較大改變,但算法的計(jì)算量也相應(yīng)增加。對(duì)于本文選用的樣本數(shù)據(jù)而言,種群規(guī)模宜選為50。
3.3 算法的收斂速度比較
在本節(jié)中,作者采用算法的計(jì)算耗時(shí)作為評(píng)價(jià)算法收斂速度的指標(biāo)。根據(jù)3.2小節(jié)中的實(shí)驗(yàn)結(jié)果,種群規(guī)模選取為50。根據(jù)實(shí)驗(yàn)中樣本數(shù)據(jù)的收斂情況,動(dòng)量系數(shù)選取為0.05。在程序中設(shè)置計(jì)時(shí)模塊,輸出每次計(jì)算的耗時(shí)取整到秒。兩種算法分別進(jìn)行了20次實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果如表3所示:
兩種算法的耗時(shí) 表3
將表3以折線圖的形式表示:
圖4 兩種算法的收斂速度比較
從圖4可以看出,基于遺傳的附加動(dòng)量法比附加動(dòng)量算法的收斂速度快。兩種算法都避免了計(jì)算陷入局部極小值的可能。基于遺傳的附加動(dòng)量法綜合了附加動(dòng)量法和遺傳算法的優(yōu)勢(shì),即避免了陷入局部極小值的情況,又提高了算法的收斂速度。因此,算法實(shí)用性更強(qiáng)。
3.4 算法的預(yù)測(cè)精度比較
在本文3.1小節(jié)中,列出了本文采用的樣本數(shù)據(jù),共21期。其中,前17期作為訓(xùn)練樣本,后4期作為預(yù)測(cè)樣本。利用預(yù)測(cè)樣本的殘差的平方和來(lái)評(píng)價(jià)算法的預(yù)測(cè)精度。實(shí)驗(yàn)結(jié)果如表4所示:
兩種算法的預(yù)測(cè)精度比較 表4
根據(jù)表格中的統(tǒng)計(jì)數(shù)據(jù),用折線圖的形式表達(dá),如圖5所示:
圖5 兩種算法的預(yù)測(cè)精度比較
從表4和圖5中可以看出,兩種算法預(yù)測(cè)值殘差的平方和屬于同一數(shù)量級(jí)。就本文選用的樣本數(shù)據(jù)而言,基于遺傳算法的附加動(dòng)量法預(yù)測(cè)精度略優(yōu)于附加動(dòng)量法。
(1)計(jì)算耗時(shí)隨種群規(guī)模大致呈V型分布。就本文選用的樣本數(shù)據(jù)而言,種群規(guī)模取50時(shí),算法耗時(shí)最少,計(jì)算耗時(shí)為 77 s。當(dāng)種群規(guī)模較小時(shí),種群的搜索范圍也相應(yīng)較小,導(dǎo)致進(jìn)化后種群中個(gè)體的組成相比上一代沒(méi)有明顯改變,收斂速度較慢。當(dāng)種群規(guī)模較大時(shí),進(jìn)化后種群個(gè)體的組成相較上一代雖有較大改變,但算法的計(jì)算量也相應(yīng)增加。對(duì)于本文選用的樣本數(shù)據(jù)而言,種群規(guī)模宜選為50。
(2)基于遺傳算法的附加動(dòng)量法比附加動(dòng)量算法的收斂速度快。基于遺傳的附加動(dòng)量法綜合了附加動(dòng)量法和遺傳算法的優(yōu)勢(shì),即避免了陷入局部極小值的情況,又提高了算法的收斂速度。因此,算法實(shí)用性更強(qiáng)。
(3)兩種算法預(yù)測(cè)值殘差的平方和屬于同一數(shù)量級(jí)。就本文選用的樣本數(shù)據(jù)而言,基于遺傳算法的附加動(dòng)量法預(yù)測(cè)精度略優(yōu)于附加動(dòng)量法。
[1] 王英,曹軍,孫麗萍. 基于SAGA優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的木材含水率預(yù)測(cè)[J]. 控制理論與應(yīng)用,2013,32(1):4~13.
[2] 候福均,吳祈宗. 基于遺傳算法和模擬退火算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的鐵路營(yíng)運(yùn)里程預(yù)測(cè)[J]. 北京理工大學(xué)學(xué)報(bào),2004,24(3):247~250.
[3] 高穎,張雙杰,王麗娟等. 對(duì)改進(jìn)的自適應(yīng)BP算法中參數(shù)研究[J]. 合肥工業(yè)大學(xué)學(xué)報(bào)·自然科學(xué)版,2006,29(3):281~299.
[4] 李偉,陳臨強(qiáng),殷偉良. 基于自適應(yīng)學(xué)習(xí)率的背景建模方法[J]. 計(jì)算機(jī)工程,2011,37(15):187~189.
[5] Ding Shifei,Su Chunyang,Yu Junzhao. An Optimizing BP Neural Network Algorithm Based on Genetic Algorithm[J]. Artificial Intelligence Review,2011,36(2):153~162.
[6] 汪茜,李廣杰,鄭百功等.自適應(yīng)BP神經(jīng)網(wǎng)絡(luò)在邊坡穩(wěn)定性預(yù)測(cè)中的應(yīng)用[J]. 人民黃河,2010,32(4):120~121.
The Research on Implementing and Application of The Back-Propagation With Momentum and The Back-propagation With Momentum Based on Genetic Algorithm In the practice of engineering settlement monitoring
Lian Guanwei,Liu Huaqiao,Li Bo
(Tianjin Institude of Surveying and Mapping,Tianjin 300381,China)
In the practice of engineering settlement monitoring,according to the difference of characteristics of the settlement trend,the accuracy of the prediction results will be different using different algorithms. Due to the limitations of the algorithm,combing the characteristics of different algorithms with each other has become the mainstream of research. In this paper,author implemented the back-propagation with momentum and back-propagation with momentum based on genetic algorithm. By researching the impact of population size on the convergence rate of back-propagation with momentum based on genetic algorithm to determine the momentum. Finally,combined with the sample data ,author compared the convergence rate of algorithms and forecast accuracy .The conclusion of this paper provides reference to the practice of engineering settlement monitoring.
settlement monitoring;back-propagation with momentum;back-propagation with momentum based on genetic algorithm
1672-8262(2017)04-138-04
TU196.2,P209
B
2017—01—19
廉光偉(1976—),男,正高職高級(jí)工程師,注冊(cè)測(cè)繪師,主要從事工程測(cè)量技術(shù)工作。