基于隨機(jī)森林算法的地表點(diǎn)云孔洞修補(bǔ)

呂富強(qiáng)，唐詩(shī)華,2*，李灝楊，劉坤之

(1.桂林理工大學(xué) 測(cè)繪地理信息學(xué)院，廣西 桂林 541004；2.廣西空間信息與測(cè)繪重點(diǎn)實(shí)驗(yàn)室，廣西 桂林 541004)

0 引言

使用無(wú)人機(jī)航測(cè)技術(shù)進(jìn)行地表信息的獲取，具有速度快、精度高、成本低以及靈活性強(qiáng)等特點(diǎn)，因此，無(wú)人機(jī)航測(cè)技術(shù)在測(cè)繪領(lǐng)域被普遍使用。但在進(jìn)行點(diǎn)云數(shù)據(jù)的采集與處理過(guò)程中，會(huì)由于非目標(biāo)地物遮擋、數(shù)據(jù)獲取與處理技術(shù)的局限等各方面原因，造成點(diǎn)云數(shù)據(jù)的部分缺失，形成各種點(diǎn)云孔洞。這些孔洞的存在給后續(xù)測(cè)繪產(chǎn)品的生產(chǎn)帶來(lái)較大的影響，在前期的處理工作中，需要對(duì)這些點(diǎn)云孔洞進(jìn)行修補(bǔ)，以便后續(xù)的產(chǎn)品制作。

為了解決無(wú)人機(jī)獲取的點(diǎn)的孔洞問(wèn)題，王春香等[1]使用優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的方法進(jìn)行點(diǎn)云孔洞的修補(bǔ)，該方法在密度均勻的點(diǎn)云孔洞修補(bǔ)中具有較好的效果，但在密度差異較大的點(diǎn)云孔洞修補(bǔ)中效果不夠理想。刑鵬威等[2]使用LSSVM算法對(duì)點(diǎn)云孔洞進(jìn)行修補(bǔ)，該方法總體的修補(bǔ)效果較好，但在局部的修補(bǔ)中會(huì)存在誤差較大的問(wèn)題。李永強(qiáng)等[3]通過(guò)地空雷達(dá)點(diǎn)云數(shù)據(jù)融合的方法對(duì)建筑物點(diǎn)云孔洞進(jìn)行了修補(bǔ)，該方法修補(bǔ)的自動(dòng)化程度較高，但需要進(jìn)行地空數(shù)據(jù)的同時(shí)采集，數(shù)據(jù)獲取成本較高，且在局部隱蔽區(qū)域的修補(bǔ)上效果還有待提高。Davis等[4]提出了基于體數(shù)據(jù)擴(kuò)張的修補(bǔ)算法，該算法適應(yīng)性較強(qiáng)，但在修補(bǔ)的精度上還有待提高。Chen等[5]將RBF函數(shù)進(jìn)行曲面孔洞的修補(bǔ)，該方法在曲面較為平滑的區(qū)域修補(bǔ)精度較高，但在曲率變化較大的區(qū)域修補(bǔ)精度無(wú)法得到保證。這幾種方法對(duì)孔洞面積較小、地勢(shì)起伏平緩、特征缺失較少的地表點(diǎn)云孔洞修補(bǔ)效果較好，但在地形起伏較大、點(diǎn)云分布雜亂以及孔洞面積較大的地表區(qū)域中，修補(bǔ)效果還不夠理想，修補(bǔ)結(jié)果的穩(wěn)定性以及局部修補(bǔ)精度上還難以達(dá)到生產(chǎn)需求。因此，在無(wú)人機(jī)點(diǎn)云孔洞的修補(bǔ)中，需要一種適應(yīng)性更強(qiáng)、精度更高的修補(bǔ)方法。

隨機(jī)森林算法具有良好的泛化性與抗噪性，可以避免過(guò)度擬合，但目前隨機(jī)森林多用于礦產(chǎn)[6-7]、大氣[8]、變形監(jiān)測(cè)[9-10]、土地利用[11]以及影像檢測(cè)[12-14]等不同領(lǐng)域，還未運(yùn)用到無(wú)人機(jī)點(diǎn)云的孔洞修補(bǔ)中。因此，本文提出了一種基于隨機(jī)森林算法對(duì)地表點(diǎn)云孔洞進(jìn)行修補(bǔ)的方法。根據(jù)隨機(jī)森林算法良好的泛化性與抗噪性，對(duì)無(wú)人機(jī)獲取的地表點(diǎn)云孔洞進(jìn)行修補(bǔ)，并將該算法的修補(bǔ)結(jié)果與LSSVM和BP神經(jīng)網(wǎng)絡(luò)2種常用的修補(bǔ)算法進(jìn)行修補(bǔ)結(jié)果的比較與分析。

1 隨機(jī)森林算法原理

1.1 隨機(jī)森林的定義

隨機(jī)森林算法是一個(gè)依據(jù)決策樹(shù)為學(xué)習(xí)器的分類(lèi)方法，屬于Bagging類(lèi)型，采用分類(lèi)回歸樹(shù)(Classification and Regression Tree，CART)決策樹(shù)為弱學(xué)習(xí)器，對(duì)原始數(shù)據(jù)使用bootstrap重抽樣的方法抽取出多個(gè)樣本，在樣本基礎(chǔ)上構(gòu)建決策樹(shù)模型，根據(jù)多棵決策樹(shù)的預(yù)測(cè)，經(jīng)過(guò)投票或取均值的方式對(duì)所有分類(lèi)器的結(jié)果進(jìn)行統(tǒng)計(jì)，進(jìn)而得出最終的預(yù)測(cè)結(jié)果[15]。

1.2 隨機(jī)森林的預(yù)測(cè)模型

數(shù)據(jù)因變量為連續(xù)數(shù)值時(shí)，CART決策樹(shù)算法則為回歸樹(shù)，葉子的觀測(cè)均值為預(yù)測(cè)值，采用二分遞歸分割技術(shù)分裂。隨機(jī)森林算法使用“基尼指數(shù)”劃分屬性的選擇，其樣本純度用基尼值表示為：

(1)

式中，Gini為基尼值；K為樣本類(lèi)別數(shù)；Pk為所選樣本屬于k類(lèi)別的概率；1-Pk為樣本錯(cuò)分概率?；嶂笖?shù)越大時(shí)，不確定性越大；基尼系數(shù)越小時(shí)，不確定性越小。

預(yù)測(cè)模型通過(guò)樣本X和預(yù)測(cè)變量Y生成依賴于隨機(jī)變量的回歸樹(shù)，關(guān)于k類(lèi)別的樣本數(shù)取均值即可得到預(yù)測(cè)模型[16]。從原始數(shù)據(jù)的n個(gè)樣本中隨機(jī)抽取多個(gè)獨(dú)立樣本構(gòu)成訓(xùn)練樣本，未被抽取的樣本稱為袋外數(shù)據(jù)。被抽中的樣本集再隨機(jī)抽取特征集，構(gòu)建決策樹(shù)。每顆二叉樹(shù)從根節(jié)點(diǎn)開(kāi)始按照節(jié)點(diǎn)不純度最小原則，對(duì)訓(xùn)練樣本集進(jìn)行劃分，各節(jié)點(diǎn)分裂至滿足分支停止規(guī)則為止。進(jìn)行數(shù)據(jù)預(yù)測(cè)時(shí)，使用均方誤差(MSE)最小的特征來(lái)分裂節(jié)點(diǎn)：

(2)

該算法在特征選取時(shí)，從n個(gè)樣本中隨機(jī)選取，避免了數(shù)據(jù)的過(guò)度擬合，預(yù)測(cè)模型不會(huì)被特定組合所確定，抑制了模型的擬合能力。

2 實(shí)驗(yàn)與分析

2.1 數(shù)據(jù)來(lái)源

本文實(shí)驗(yàn)使用的是無(wú)人機(jī)獲取的廣西壯族自治區(qū)桂林市雁山區(qū)雁山街某區(qū)域的無(wú)人機(jī)點(diǎn)云數(shù)據(jù)。采用大疆精靈Phantom 4 RTK小型多旋翼高精度航測(cè)無(wú)人機(jī)獲取數(shù)據(jù)，它具備厘米級(jí)導(dǎo)航定位系統(tǒng)和高性能成像系統(tǒng)。實(shí)驗(yàn)區(qū)域面積2 565.277 m2，存在較多的坑洼與土堆，且存在較多低矮植被，區(qū)域周邊為施工用地。選取3處能代表地表特征的區(qū)域作為實(shí)驗(yàn)樣本，設(shè)定為孔洞區(qū)域，3個(gè)孔洞區(qū)域分別分布于低矮植被區(qū)域、坑洼區(qū)域以及起伏較大的區(qū)域，具體位置如圖1所示。

(a) 三維模型

(b) 正射影像圖1 孔洞區(qū)域Fig.1 Hole area

2.2 實(shí)驗(yàn)過(guò)程

本文實(shí)驗(yàn)通過(guò)Matlab軟件對(duì)點(diǎn)云孔洞進(jìn)行修補(bǔ)。實(shí)驗(yàn)選取的3個(gè)孔洞區(qū)域的訓(xùn)練樣本數(shù)分別為473，2 174，2 303個(gè)，檢核點(diǎn)數(shù)分別為468，819，1 196個(gè)。

在參數(shù)的選擇上，決策樹(shù)的數(shù)量和決策樹(shù)的節(jié)點(diǎn)個(gè)數(shù)為影響預(yù)測(cè)模型精度和穩(wěn)定性的2個(gè)重要因素，根據(jù)文獻(xiàn)[10]可知其選取原則如下：

mtry=[lbs]，

(3)

(4)

式中，mtry為決策樹(shù)的節(jié)點(diǎn)個(gè)數(shù)；s為數(shù)據(jù)的變量個(gè)數(shù)。

將數(shù)據(jù)的訓(xùn)練集與測(cè)試集分別導(dǎo)入Matlab中，以點(diǎn)云數(shù)據(jù)中的平面坐標(biāo)作為數(shù)據(jù)樣本X的2個(gè)獨(dú)立樣本，以點(diǎn)位高程值作為預(yù)測(cè)變量Y，生成依賴隨機(jī)變量θ的回歸樹(shù)，通過(guò)回歸樹(shù)進(jìn)一步建立隨機(jī)森林預(yù)測(cè)模型。

使用隨機(jī)森林預(yù)測(cè)后，導(dǎo)出預(yù)測(cè)結(jié)果，將預(yù)測(cè)結(jié)果與孔洞周?chē)c(diǎn)云數(shù)據(jù)進(jìn)行匯總與展示，使用CloudCompare軟件對(duì)缺失面積較大的孔洞進(jìn)行修補(bǔ)前后的效果展示，如圖2所示。

(a) 修補(bǔ)前

(b) 修補(bǔ)后

(c) 修補(bǔ)前剖面圖

(d) 修補(bǔ)后剖面圖圖2 修補(bǔ)前后比對(duì)Fig.2 Comparison before and after repair

從圖2可以看出，使用隨機(jī)森林算法修補(bǔ)前后的變化明顯，從修補(bǔ)前后的總體視圖與修補(bǔ)前后的剖面視圖可證明，該算法的修補(bǔ)結(jié)果連續(xù)性、平滑性較好，匹配度較高，具有較好的修補(bǔ)效果。

2.3 精度分析

為了驗(yàn)證隨機(jī)森林算法修補(bǔ)結(jié)果的精確度、穩(wěn)定性以及適用性，將隨機(jī)森林的高程預(yù)測(cè)結(jié)果與BP神經(jīng)網(wǎng)絡(luò)、LSSVM算法的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比。實(shí)驗(yàn)從3組數(shù)據(jù)修補(bǔ)結(jié)果的殘差、平均絕對(duì)誤差(MAE)、MSE和均方根誤差(RMSE)4個(gè)方面進(jìn)行修補(bǔ)結(jié)果的精度對(duì)比與分析。

從3個(gè)孔洞中分別選取修補(bǔ)結(jié)果中的200個(gè)點(diǎn)進(jìn)行殘差曲線的繪制，如圖3所示。

根據(jù)3種算法分別對(duì)3個(gè)孔洞修補(bǔ)得到殘差曲線圖，可以看出LSSVM算法在點(diǎn)云缺失面積較小的孔洞中，殘差值總體較小，但在點(diǎn)云缺失面積較大的孔洞中，其殘差值總體較大，預(yù)測(cè)結(jié)果不穩(wěn)定。BP神經(jīng)網(wǎng)絡(luò)在面積較大的孔洞修補(bǔ)中，仍具適用性，但其算法的穩(wěn)定性不足，容易出現(xiàn)過(guò)度擬合的現(xiàn)象。隨機(jī)森林算法在3個(gè)孔洞的修補(bǔ)結(jié)果中，穩(wěn)定性最強(qiáng)，殘差曲線總體平穩(wěn)于另外2組算法。殘差值總體較小，精度最高。由此可以得出，隨機(jī)森林算法在點(diǎn)云缺失面積較大或地形變化復(fù)雜的孔洞中更具適用性，算法穩(wěn)定度更強(qiáng)，且具有更高的修補(bǔ)精度。

(a) 孔洞1

(b) 孔洞2

(c) 孔洞3圖3 殘差曲線Fig.3 Residual curve

為了進(jìn)一步驗(yàn)證隨機(jī)森林算法的適用性與算法精確性，將3種算法修補(bǔ)結(jié)果的MAE，MSE和RMSE進(jìn)行對(duì)比與分析[18]。計(jì)算如下：

(5)

(6)

(7)

式中，y′為預(yù)測(cè)值；yi為原始值；n為訓(xùn)練樣本數(shù)量[19]。MAE，MSE，RMSE的計(jì)算結(jié)果如表1所示。

表1 精度比較

由表1可以看出，隨機(jī)森林算法的MAE，MSE和RMSE均小于BP神經(jīng)網(wǎng)絡(luò)與LSSVM算法，3組算法總體精度均滿足1∶500地形圖航空攝影測(cè)量規(guī)范要求，但在部分點(diǎn)的修補(bǔ)精度上，BP神經(jīng)網(wǎng)絡(luò)與LSSVM算法存在誤差較大的情況，而隨機(jī)森林算法在局部點(diǎn)的修補(bǔ)精度上仍滿足精度要求。在3組數(shù)據(jù)中，BP神經(jīng)網(wǎng)絡(luò)的MAE值最大為0.074 3 m，LSSVM算法的MAE值為0.105 2 m，而隨機(jī)森林算法的MAE值最大僅有0.061 3 m，最小值為0.033 1 m，明顯小于前2種算法。RMSE的對(duì)比中，BP神經(jīng)網(wǎng)絡(luò)與LSSVM算法的最大值分別為0.103 9，0.134 4 m，而隨機(jī)森林算法的最大值為0.083 8 m，最小值為0.042 4 m，明顯小于另外2種算法。

由以上殘差與精度的對(duì)比與分析可得出，隨機(jī)森林算法的修補(bǔ)精度高于BP神經(jīng)網(wǎng)絡(luò)和LSSVM兩種算法，且在點(diǎn)云缺失面積較大的孔洞區(qū)域的修補(bǔ)中，仍具有較好的修補(bǔ)效果，說(shuō)明隨機(jī)森林算法相比于另外2種算法的適用性更強(qiáng)，并且該算法具有更強(qiáng)的穩(wěn)定性和抗噪性。

3 結(jié)束語(yǔ)

本文針對(duì)無(wú)人機(jī)航測(cè)數(shù)據(jù)中的點(diǎn)云孔洞問(wèn)題，提出了基于隨機(jī)森林算法的點(diǎn)云孔洞修補(bǔ)方法，隨機(jī)森林的預(yù)測(cè)模型具有較高的預(yù)測(cè)精度，具有一定的抗噪性，且不容易出現(xiàn)過(guò)度擬合。在修補(bǔ)效果上，隨機(jī)森林算法的修補(bǔ)結(jié)果連續(xù)性、平滑性較好，匹配度較高，具有較好的修補(bǔ)效果。在精度上，隨機(jī)森林算法與BP神經(jīng)網(wǎng)絡(luò)、LSSVM算法的MAE，MSE，RMSE的對(duì)比中，隨機(jī)森林算法的各誤差均小于另外2種算法，證明了使用隨機(jī)森林算法的孔洞修補(bǔ)方法在地表還原與高精度DEM生產(chǎn)的可行性，精度上滿足1∶500地形圖航空攝影測(cè)量規(guī)范。在復(fù)雜地形或點(diǎn)云孔洞面積較大的地形中，隨機(jī)森林算法相比于BP神經(jīng)網(wǎng)絡(luò)、LSSVM算法的修補(bǔ)精度更高，穩(wěn)定性與適用性更強(qiáng)，是一種可行的點(diǎn)云孔洞修補(bǔ)方法。該算法也存在一些不足，當(dāng)決策樹(shù)數(shù)量較多時(shí)，算法的訓(xùn)練時(shí)間會(huì)加長(zhǎng)，使得模型預(yù)測(cè)效率降低。在后續(xù)的工作中，將對(duì)此進(jìn)行下一步的研究。