基于神經(jīng)網(wǎng)絡(luò)的GPS高程擬合方法優(yōu)選及精度分析

強(qiáng) 明，郭春喜，周紅宇

(1.西安科技大學(xué) 測繪科學(xué)與技術(shù)學(xué)院，陜西 西安 710054;2.陜西省測繪局大地測量數(shù)據(jù)處理中心，陜西西安 710054;3.重慶交通大學(xué)土木建筑學(xué)院，重慶 400074)

基于神經(jīng)網(wǎng)絡(luò)的GPS高程擬合方法優(yōu)選及精度分析

強(qiáng) 明1，郭春喜2，周紅宇3

(1.西安科技大學(xué) 測繪科學(xué)與技術(shù)學(xué)院，陜西 西安 710054;2.陜西省測繪局大地測量數(shù)據(jù)處理中心，陜西西安 710054;3.重慶交通大學(xué)土木建筑學(xué)院，重慶 400074)

針對(duì)現(xiàn)有的幾種神經(jīng)網(wǎng)絡(luò)GPS高程擬合方法，討論了利用遺傳算法(GA)、粒子群算法(PSO)優(yōu)化BP神經(jīng)網(wǎng)絡(luò)權(quán)值和閥值的原理;結(jié)合分布較均勻、現(xiàn)勢性較好的GPS和水準(zhǔn)聯(lián)測數(shù)據(jù)，試算了基于神經(jīng)網(wǎng)絡(luò)的GPS高程擬合。擬合結(jié)果表明:基于PSO算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)的擬合精度優(yōu)于GA算法，誤差相對(duì)更小。

遺傳算法;BP神經(jīng)網(wǎng)絡(luò);徑向基神經(jīng)網(wǎng)絡(luò);粒子群優(yōu)化算法

眾所周知，采用GPS技術(shù)可同時(shí)測得控制點(diǎn)的三維坐標(biāo)，即控制點(diǎn)的平面位置和大地高。但是，GPS采用的是WGS-84地心坐標(biāo)系，其高程信息是以橢球面為參考面，這與我國大地測量采用的高程系統(tǒng)(正高系統(tǒng))不一致，采用GPS測得的大地高這個(gè)重要數(shù)據(jù)資源往往得不到有效利用。如果能夠采用物理大地測量的方法，綜合利用各類與重力場有關(guān)的信息源(全球重力場模型、地形數(shù)據(jù)、重力數(shù)據(jù)、垂線偏差和GPS水準(zhǔn)測量數(shù)據(jù))，精確得到同一點(diǎn)的大地高與正常高的差異，即高程異常ζ，GPS測得的大地高便能轉(zhuǎn)換為正常高，采用GPS技術(shù)測得的大地高這個(gè)重要資源就能被充分利用。然而，對(duì)于普通施工工程單位而言，根本不具備獲得必要重力資料的能力。因此，利用GPS高程進(jìn)行數(shù)值擬合成為獲得正常高的主要途徑。GPS高程擬合方法很多，基本上可以分為3大類:幾何解析方法(數(shù)學(xué)模型法)、物理大地測量方法和神經(jīng)網(wǎng)絡(luò)方法。筆者在前人對(duì)GPS水準(zhǔn)高程擬合方法［1-7］研究成果的基礎(chǔ)上，基于人工神經(jīng)網(wǎng)絡(luò)的GPS高程異常擬合方法進(jìn)行系統(tǒng)的研究，并利用實(shí)際工程數(shù)據(jù)，對(duì)涉及的BP、RBF、PSO、GA神經(jīng)網(wǎng)絡(luò)進(jìn)行了比較和分析，同時(shí)對(duì)不同擬合模型的精度給予了評(píng)價(jià)。

1 計(jì)算方法與模型

1.1 BP 神經(jīng)網(wǎng)絡(luò)

BP網(wǎng)絡(luò)(Back Propagation NW)是一種信號(hào)前向傳遞，誤差反向傳播的多層前饋網(wǎng)絡(luò)。在前向傳遞中，輸入信號(hào)從輸入層經(jīng)隱含層處理，直至輸出層。每一層的神經(jīng)元狀態(tài)只影響下一層神經(jīng)元狀態(tài)。如果輸出層得不到期望輸出，則轉(zhuǎn)向反向傳播，根據(jù)預(yù)測誤差調(diào)整網(wǎng)絡(luò)權(quán)值和閥值，從而使BP神經(jīng)網(wǎng)絡(luò)預(yù)測輸出不斷逼近期望輸出。常規(guī)多項(xiàng)式擬合方法和多面函數(shù)擬合方法對(duì)于似大地水準(zhǔn)面做了某種人為的假設(shè)，可能出現(xiàn)人為的誤差。而神經(jīng)網(wǎng)絡(luò)的輸入和輸出都是一種高度非線性映射關(guān)系，理論上沒有進(jìn)行假設(shè)，能減少模型誤差，因而對(duì)于提高精度具有一定的現(xiàn)實(shí)意義和應(yīng)用價(jià)值。但是，BP神經(jīng)網(wǎng)絡(luò)大多數(shù)采用沿梯度下降方向的搜索算法，因而不可避免地存在一些難以克服的缺陷［1］，如:易陷入局部極小值、收斂速度慢等。

1.2 RBF 神經(jīng)網(wǎng)絡(luò)

BP網(wǎng)絡(luò)用于函數(shù)逼近時(shí)，采用負(fù)梯度下降的方法進(jìn)行權(quán)值的調(diào)節(jié)，該方法存在著收斂慢和局部極小等缺點(diǎn)。在此引進(jìn)了逼近能力、分類能力和學(xué)習(xí)速度等方面均優(yōu)于BP網(wǎng)絡(luò)的另一種神經(jīng)網(wǎng)絡(luò)RBF。RBF神經(jīng)網(wǎng)絡(luò)是一種結(jié)構(gòu)與多層前向網(wǎng)絡(luò)類似的3層前向網(wǎng)絡(luò)。輸入層和隱含層固定連接，其權(quán)值為1。隱含層采用徑向基函數(shù)作為網(wǎng)絡(luò)的激活函數(shù)，與每個(gè)隱含層節(jié)點(diǎn)相關(guān)的參數(shù)向量為ci(函數(shù)中心)和δi(函數(shù)方差)。一般隱含層各節(jié)點(diǎn)都采用相同的徑向基函數(shù)，徑向基函數(shù)通常采用高斯函數(shù)。徑向基函數(shù)的擴(kuò)展常數(shù)可根據(jù)數(shù)據(jù)中心的散步而確定，為避免每個(gè)徑向基函數(shù)太尖或太平，通常將所有的徑向基函數(shù)的擴(kuò)展常數(shù)設(shè)為σ=dmax/，式中:dmax是樣本之間的最大距離;p為樣本數(shù)目。輸入層的權(quán)值常采用最小均方算法(LMS)，權(quán)值調(diào)整公式為:

RBF神經(jīng)網(wǎng)絡(luò)擬合的基本思想是［1-2］:用RBF作為隱單元的“基”構(gòu)成隱層空間，隱含層對(duì)輸入矢量(X，Y)進(jìn)行變換，尋求一個(gè)在某種統(tǒng)計(jì)意義上能夠最佳擬合訓(xùn)練數(shù)據(jù)的曲面，將低維的模式輸入數(shù)據(jù)變換到高維空間內(nèi)，使得在低維空間內(nèi)的線性不可分的問題在高維空間內(nèi)線性可分。RBF網(wǎng)絡(luò)設(shè)計(jì)的核心問題是確定隱節(jié)點(diǎn)數(shù)目及相應(yīng)的數(shù)據(jù)中心。通常采用K-均值聚類方法［3］進(jìn)行隱節(jié)點(diǎn)及基函數(shù)中心c的確定，根據(jù)各聚類中心之間的距離確定各隱節(jié)點(diǎn)的擴(kuò)展常數(shù)，但確定數(shù)據(jù)中心時(shí)只用到樣本輸入信息，而沒有用到樣本輸出信息，而且采用聚類方法也無法確定聚類的數(shù)目以多少為最優(yōu)。為了解決這些問題，引入了AIC準(zhǔn)則［3］，它將樣本輸入信息(X，Y)和樣本輸出信息(ζ)同時(shí)考慮，進(jìn)行RBF網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化，為確定最優(yōu)RBF網(wǎng)絡(luò)模型的隱節(jié)點(diǎn)數(shù)目及相應(yīng)參數(shù)提供途徑。

1.3 粒子群優(yōu)化算法

粒子群優(yōu)化算法(Particle Swarm Optimization，PSO)是基于群體智能用于求解優(yōu)化問題的算法。算法中每個(gè)粒子都對(duì)應(yīng)一個(gè)有適應(yīng)度函數(shù)決定的適應(yīng)度值，代表問題的一個(gè)潛在解，每個(gè)粒子通過統(tǒng)計(jì)迭代過程中自身和群體發(fā)現(xiàn)的最優(yōu)值修正自己的前進(jìn)方向和速度。通過個(gè)體極值Pbest和群體極值Gbest更新個(gè)體位置。粒子每更新一次位置，就計(jì)算一次適應(yīng)值，并且通過比較新粒子的適應(yīng)度值與個(gè)體極值、群體極值的適應(yīng)度值更新個(gè)體極值Pbest和群體極值

Gbest位置。更新公式如式(2)、式(3)［2］:

式中:w為慣性權(quán)重;k為當(dāng)前迭代次數(shù);Vid為粒子的速度;c1和c2為非負(fù)的常數(shù)，稱為加速因子;r1和r2為分布于［0，1］之間的隨機(jī)數(shù)。

1.4 利用PSO算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)

PSO算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)是用PSO算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閥值，使優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)能夠更好的預(yù)測函數(shù)輸出。

基于PSO算法的BP網(wǎng)絡(luò)權(quán)值調(diào)整過程［1］:采用基本BP算法對(duì)不同初始權(quán)值和閥值進(jìn)行網(wǎng)絡(luò)訓(xùn)練。當(dāng)全部樣本每訓(xùn)練完1遍后，按式(4)、式(5)計(jì)算N1個(gè)訓(xùn)練樣本的訓(xùn)練誤差δ1和N2個(gè)檢驗(yàn)誤差:

N

式中:N1，N2分別為訓(xùn)練樣本個(gè)數(shù)和檢驗(yàn)樣本個(gè)數(shù);Opi，Tpi分別為訓(xùn)練樣本P1的網(wǎng)絡(luò)實(shí)際輸出和期望輸出;Op2，Tp2分別為檢驗(yàn)樣本P2的網(wǎng)絡(luò)實(shí)際輸出和期望輸出。

將式(2)右邊的wVkid移到左邊，PSO算法的速度迭代公式可以寫為:

當(dāng)把網(wǎng)絡(luò)的權(quán)值視為PSO算法中粒子的速度時(shí)，則在網(wǎng)絡(luò)訓(xùn)練過程中，兩次權(quán)值的改變可視作粒子的改變。因此網(wǎng)絡(luò)的權(quán)值改變量可按式(7)、式(8)計(jì)算:

式中:wkj(b)，wji(b)為第l個(gè)網(wǎng)絡(luò)所經(jīng)歷的歷史上具有最小檢驗(yàn)誤差δ2時(shí)的網(wǎng)絡(luò)權(quán)值(最佳適應(yīng)值);wkj(g)，wji(g)為m個(gè)群體網(wǎng)絡(luò)中歷史上具有最小檢驗(yàn)誤差δ2時(shí)的網(wǎng)絡(luò)權(quán)值(最佳適應(yīng)值);其他符號(hào)同上。

每次訓(xùn)練完一遍時(shí)應(yīng)綜合考慮BP算法和PSO算法的共同效果，得網(wǎng)絡(luò)權(quán)值的調(diào)整公式:

1.5 利用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)

遺傳算法(Genetic Algorithms，GA)是 John H.Holland根據(jù)生物進(jìn)化的模型提出的一種優(yōu)化算法，將“優(yōu)勝劣汰、適者生存”的生物進(jìn)化理論引入待優(yōu)化形成的編碼串群體中，通過一定的適配值函數(shù)及一系列遺傳操作對(duì)個(gè)體進(jìn)行篩選，把適配值高的個(gè)體保留下來，組成新的群體，逐步進(jìn)化以得到問題近似最優(yōu)解。與傳統(tǒng)的算法相比，GA不依賴于梯度信息，而是通過自然進(jìn)化的過程來搜索最優(yōu)解，它利用編碼技術(shù)，作用于成為染色體德數(shù)字串，模擬有這些串組成的群體的進(jìn)化過程，具有高度并行、隨機(jī)、自適應(yīng)搜索性能［1，3］。使它在處理用傳統(tǒng)搜索方法解決不了的復(fù)雜和非線性問題時(shí)，具有明顯的優(yōu)勢。

利用GA對(duì)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閥值進(jìn)行優(yōu)化，可以克服BP神經(jīng)網(wǎng)絡(luò)對(duì)初始權(quán)值敏感，容易陷入局部最小的缺點(diǎn)。GA通過種群初始化、適應(yīng)度函數(shù)、選擇操作、交叉操作和變異操作4個(gè)要素來優(yōu)化BP網(wǎng)絡(luò)權(quán)值和閥值。具體步驟如下［2］:

1)確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，給定神經(jīng)網(wǎng)絡(luò)的輸入和輸出樣本集。

2)確定網(wǎng)絡(luò)權(quán)值的編碼和個(gè)體的位串長度。

3)根據(jù)個(gè)體得到BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閥值，用訓(xùn)練數(shù)據(jù)訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)后預(yù)測系統(tǒng)輸出，把預(yù)測輸出和期望輸出之間的誤差絕對(duì)值和E作為個(gè)體適應(yīng)度值F，計(jì)算公式為:

式中:n為網(wǎng)絡(luò)輸出結(jié)點(diǎn)數(shù);yi為BP神經(jīng)網(wǎng)絡(luò)第i個(gè)結(jié)點(diǎn)的期望輸出;oi為第i個(gè)結(jié)點(diǎn)的預(yù)測輸出;k為系數(shù)。

4)使用輪盤賭法對(duì)每個(gè)個(gè)體進(jìn)行選擇操作。每個(gè)個(gè)體i的選擇概率pi按式(11)計(jì)算:

式中:Fi為i的適應(yīng)度值;N為個(gè)體數(shù)目。

5)采用實(shí)數(shù)交叉法對(duì)個(gè)體進(jìn)行交叉操作。第k個(gè)染色體ak和第i個(gè)染色體ai在j位的交叉操作方法如式(13):

6)選取第i個(gè)個(gè)體的第j個(gè)基因aij進(jìn)行變異，變異操作方法如式(14):

式中:amax為基因aij的上界;amin為基因aij的下界;r2為［0，1］間的一個(gè)隨機(jī)數(shù);g為當(dāng)前迭代次數(shù);Gmax是最大進(jìn)化次數(shù)。

2 試算結(jié)果與分析

以某地區(qū)地形平緩區(qū)域的GPS控制網(wǎng)為例，對(duì)同一組選點(diǎn)方案按上述4種神經(jīng)網(wǎng)絡(luò)進(jìn)行GPS高程擬合試算，比較分析不同擬合方法所得結(jié)果的差異。測區(qū)GPS控制點(diǎn)分布如圖1。

圖1 測區(qū)GPS控制點(diǎn)分布Fig.1 Distribution of GPS control points surveyed area

以 G001，G002，G005，G008，G014，G017，G015，G013，G011，G007這10個(gè)GPS水準(zhǔn)聯(lián)測點(diǎn)作為訓(xùn)練樣本，G003，G004，G006，G009，G010，G012，G016 這8 個(gè) GPS 水準(zhǔn)聯(lián)測點(diǎn)作為檢核點(diǎn)進(jìn)行GPS高程擬合試算，4種神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本與檢核點(diǎn)高程擬合結(jié)果見表1和表2。

表1 基于神經(jīng)網(wǎng)絡(luò)的GPS訓(xùn)練樣本高程擬合值Table 1 GPS value elevation of traing sample based on nerve network

表2 基于神經(jīng)網(wǎng)絡(luò)的GPS檢核點(diǎn)高程擬合值Table 2 GPS value elevation of check point based on the nerve network

表3 不同神經(jīng)網(wǎng)絡(luò)模型對(duì)計(jì)算GPS高程擬合之差異Table 3 Difference among different neural network model to calculate the GPS height fitting

圖2 4種神經(jīng)網(wǎng)絡(luò)試算的GPS高程擬合殘差曲線Fig.2 Four neural network calculation of GPS height fitting residual error curve

1)從表1和表2可以看出，4種神經(jīng)網(wǎng)絡(luò)模型擬合的G004點(diǎn)的高程異常同實(shí)測高程異常的差異較大。若采用BP神經(jīng)網(wǎng)絡(luò)擬合結(jié)果，最小相差0.000 067，最大相差 -0.217 552;若采用 RBF 神經(jīng)網(wǎng)絡(luò)擬合結(jié)果，最小相差 0.000 210，最大相差0.115 681;若采用GA-BP神經(jīng)網(wǎng)絡(luò)擬合結(jié)果，最小相差0.000 384 7，最大相差0.063 712 1;若采用GABP神經(jīng)網(wǎng)絡(luò)擬合結(jié)果，最小相差0.000 271，最大相差0.051 327 0。

2)從表3和圖2可以看出，就本方案而言，4種神經(jīng)網(wǎng)絡(luò)的內(nèi)符合精度相差不大，GA-BP的外符合精度均優(yōu)于其他3種網(wǎng)絡(luò)的擬合精度。

3 結(jié)語

研究表明，基于PSO、GA優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)很大程度的提高了GPS高程擬合的精度;PSO算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)的擬合精度優(yōu)于GA算法，誤差相對(duì)更小。

［1］劉芳，李人厚.基于遺傳算法的進(jìn)化神經(jīng)網(wǎng)絡(luò)［J］.系統(tǒng)仿真學(xué)報(bào)，2003，15(10):1431-1433.

Liu Fang，Li Renhou.The evolving artificial neural network based on genetic algorithm［J］.Journal of System Simulation，2003，15(10):1431-1433.

［2］陳守平，董瑞，羅曉莉.MATLAB神經(jīng)網(wǎng)絡(luò)30個(gè)案例分析［M］.北京:北京航空航天大學(xué)出版社，2010:65-72.

［3］張磊，尹文龍，張頜.基于遺傳算法的BP網(wǎng)絡(luò)的優(yōu)化設(shè)計(jì)方法［J］.科學(xué)技術(shù)與工程，2008，14(8):3770-3772.

Zhang Lei，Yin Wenlong，Zhang Han.Optimization design method of BP neural network based on genetic algorithm［J］.Seience Technology and Engineering，2008，14(8):3770-3772.

［4］施彥，韓力群，廉小親.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法與案例分析［M］.北京:北京郵電大學(xué)出版社，2009:28-29.

［5］秦宣云.基于AIC準(zhǔn)則的最近鄰聚類模型的優(yōu)化算法［J］.系統(tǒng)工程與電子技術(shù)，2005，27(2):257-259.

Qin Xuanyun.Nearest neighbor clustering algorithm based on AIC criterion［J］.Systems Engineering and Electronics，2005，27(2):257-259.

［6］李祚泳，汪嘉楊，郭淳.PSO算法優(yōu)化BP網(wǎng)絡(luò)的新方法及仿真實(shí)驗(yàn)［J］.電子學(xué)報(bào)，2008，11(11):2224-2228.

Li Zuoyong，Wang Jiayang，Guo Chun.A new method of BP network optimized based on particle swarm optimization and simulation test［J］.Acta Electronica Sinica，2008，11(11):2224-2228.

［7］韓碩.神經(jīng)網(wǎng)絡(luò)在GPS高程擬合中的應(yīng)用［J］.測繪通報(bào)，2006(4):48-50.

Han Shuo.The application of artificial neural network to GPS height conversion［J］.Bulletin of Surveying and Mapping，2006(4):48-50.

［8］ 聞新，周露，王丹力，等.MATLAB神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計(jì)［M］.北京:科學(xué)出版社，2000:207-232.

［9］潘昊，王曉勇，陳瓊，等.基于遺傳算法BP神經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用［J］.計(jì)算機(jī)應(yīng)用，2005，25(12):2007-2779.

Pan Hao，Wang Xiaoyong，Chen Qiong，et al.Application of BP neural network based on genetic algorithm［J］.Journal of Computer Applications，2005，25(12):2007-2779.

［10］ Kenned J，Ebemart R C.Partical swarm optimization［C］//Proceeding of 1995 IEEE international Conference on neural networks.New York:IEEE，1995:1942-1948.

Optimization and Precision Evaluation with GPS Elevation Fitting Method Based on Neural Network

Qiang Ming1，Guo Chunxi2，Zhou Hongyu3
(1.College of Geomatics，Xi’an University of Science ＆ Technology，Xi’an 710054，Shaanxi，China;
2.Geodetic Survey Data Processing Center，Shaanxi Bureau of Surveying ＆ Mapping，Xi’an 710054，Shaanxi，China;
3.School of Civil Engineering＆ Architecture，Chongqing Jiaotong University，Chongqing 400074，China)

According to current elevation fitting methods of networks，the genetic algorithms(GA)and particle swarm optimization(PSO)methods were employed to optimization of the weights and threshold of BP neural networks;with evenly distributed GPS data，GPS elevation fitting based on neural network is calculated.The fitting results show that optimization of the BP neutral network by PSO is better than that by GA and the error is relatively small.

genetic algorithms(GA);BP neural network;RBF;particle swarm optimization(PSO)

P223

A

1674-0696(2012)04-0815-04

10.3969/j.issn.1674-0696.2012.04.20

2011-11-22;

2011-11-24

強(qiáng) 明(1985—)，男，寧夏中寧人，碩士研究生，主要從事大地水準(zhǔn)面精化方面的研究。E-mail:qmgogojiayouqm@sina.com。