遙感信息處理技術(shù)在工程中的應(yīng)用

鄂鑫雨

(河鋼集團(tuán)礦業(yè)公司 河北 唐山 063000)

0 引言

地質(zhì)災(zāi)害是野外工程必須要重視的問(wèn)題,這對(duì)地質(zhì)環(huán)境保護(hù)是一個(gè)非常重要的環(huán)節(jié),在開(kāi)采工程中應(yīng)用較多的是高分遙感影像,為礦區(qū)的環(huán)境監(jiān)測(cè)和地質(zhì)環(huán)境監(jiān)測(cè)提供了科學(xué)的指導(dǎo),并積累了一些原始數(shù)據(jù)資料[1-2]。高分辨率遙感影像識(shí)別技術(shù)在開(kāi)采中的應(yīng)用方式有兩種,一種是面向?qū)ο蟮姆诸?另一種是對(duì)像素的監(jiān)督進(jìn)行分類[3]。面向?qū)ο蟮姆诸惣夹g(shù)研究方面,SONG W等[4]將開(kāi)采信息在Spot-5遙感影像上呈現(xiàn)出來(lái);還有張文博等[5]將面向?qū)ο蟮亩鄠€(gè)尺度進(jìn)行改進(jìn),使遙感影像能夠清晰地呈現(xiàn)工程地區(qū)的地物情況,使之更加遙感圖像更加清晰;顏小霞[6]研究了無(wú)人機(jī)遙感技術(shù),并與面向?qū)ο蟮姆椒ㄟM(jìn)行融合,得到了工程地區(qū)平面的數(shù)據(jù)資料;王戰(zhàn)衛(wèi)等[7]將攀枝花地區(qū)作為范本,將土壤調(diào)節(jié)大氣耐抗設(shè)備指數(shù)與監(jiān)督分類進(jìn)行融合,從而提取了開(kāi)采區(qū)域的相關(guān)遙感信息;張松浩等[8]在工程地區(qū)進(jìn)行分類時(shí)使用了支持向量機(jī)算法,效果顯著。上述識(shí)別方法并沒(méi)有多大的難度,因此顯示影像僅限于紋理、波段、結(jié)構(gòu)等簡(jiǎn)單的資料,很少能夠顯示開(kāi)采工程的高級(jí)別數(shù)據(jù)資料。

多層網(wǎng)絡(luò)結(jié)構(gòu)高級(jí)別數(shù)據(jù)資料特征的顯示方法常為卷積神經(jīng)網(wǎng)絡(luò),卷積神經(jīng)網(wǎng)絡(luò)也常常被應(yīng)用于土地分類或車輛識(shí)別中?；A(chǔ)的卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,CNN)訓(xùn)練方法對(duì)帶標(biāo)簽樣本的數(shù)量有一定的要求,但是在實(shí)際的野外工程中,這種帶標(biāo)簽的樣本并不多,由此導(dǎo)致CNN訓(xùn)練方法并沒(méi)有足夠高的精確度。因此,本文主要闡述CNN中的遷移學(xué)習(xí)方法在遙感信息處理中的應(yīng)用,該方法對(duì)數(shù)據(jù)量沒(méi)有過(guò)高的要求,所以能夠很好識(shí)別野外工程的相關(guān)信息。

1 數(shù)據(jù)集

1.1 研究區(qū)概況

本文研究區(qū)域由低山、平原和丘陵共同組成,所處地區(qū)的總面積約為2 182 km2,它的氣候特征以半干旱大陸氣候?yàn)橹?降水量平均每年約為654.2 mm。開(kāi)采對(duì)地形地貌造成了一定的破壞,出現(xiàn)了山體的崩塌與滑坡,研究區(qū)影像的波段來(lái)自高分二號(hào)(GF-2)遙感數(shù)據(jù),是多光譜與全色相融的結(jié)果?？臻g分辨率1 m 研究區(qū)坐落在114°9′E,35°41′N,該地區(qū)聚集了諸多的開(kāi)采區(qū),這就導(dǎo)致了伴隨著開(kāi)采而來(lái)的廢料和玻璃層產(chǎn)生的土石對(duì)地貌地形造成了嚴(yán)重的破壞。

1.2 實(shí)驗(yàn)數(shù)據(jù)集

數(shù)據(jù)是經(jīng)過(guò)加工處理后的GF-2遙感數(shù)據(jù),加工處理的方式有幾何融合與幾何校正兩種方式,它們的分辨率大概為1 m。測(cè)試集、訓(xùn)練集和驗(yàn)證數(shù)據(jù)共同組成了實(shí)驗(yàn)數(shù)據(jù)集。測(cè)試集及訓(xùn)練集的常見(jiàn)場(chǎng)景主要有七類,分別是開(kāi)采區(qū)域、梯田、農(nóng)田、建筑、道路、河流和森林,在CNN的遷移學(xué)習(xí)中常用的是訓(xùn)練集,80幅/類;測(cè)試集中有16幅/類的算法驗(yàn)證。采用數(shù)據(jù)為GF-2預(yù)處理數(shù)據(jù)可用來(lái)評(píng)估評(píng)價(jià)算法的精確度。

2 模型與方法

2.1 CNN-F 模型

該模型是由Ken設(shè)計(jì)的,它的網(wǎng)絡(luò)架構(gòu)是CNN-F,共包括8層,由卷積層和全連接層組成,比例為5∶3,圖像的規(guī)格是224×224像素。CNN-F網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示。卷積層/全連接層的結(jié)構(gòu)為5/2。卷積層的表示方法如下:Size—卷積核尺寸;stride、pool 和pad 分別表示卷積步長(zhǎng)、降采樣池化和空間填充。全連接層fc6和fc7的神經(jīng)元數(shù)均為4 096,fc8是softmax 分類器,也是神經(jīng)網(wǎng)絡(luò)的最后一層。

圖1 CNN-F網(wǎng)絡(luò)結(jié)構(gòu)示意圖

深度殘差網(wǎng)絡(luò)ResNet-50是以傳統(tǒng)卷積網(wǎng)格為基礎(chǔ)。該學(xué)習(xí)框架可以減輕網(wǎng)絡(luò)訓(xùn)練負(fù)擔(dān),可以進(jìn)行跨層連接,從而形成殘差塊,能夠有效地解決網(wǎng)絡(luò)層數(shù)多引起的梯度下降現(xiàn)象。該模型優(yōu)化了反向傳播的網(wǎng)格數(shù)據(jù),使網(wǎng)絡(luò)能夠更好地提取數(shù)據(jù)信息。ResNet-50的網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示,殘差塊與卷積層的比例為16∶1,softmax分類器與平均池化層共同組成了全連接層,該圖像的尺寸為224×224像素。

圖2 ResNet-50 網(wǎng)絡(luò)結(jié)構(gòu)示意圖

訓(xùn)練CNN必須有足夠數(shù)據(jù)的支撐,如果數(shù)據(jù)過(guò)度匱乏會(huì)導(dǎo)致擬合現(xiàn)象經(jīng)常發(fā)生。解決該問(wèn)題的有效方法是遷移學(xué)習(xí),也就是將CNN的數(shù)據(jù)進(jìn)行訓(xùn)練得出預(yù)訓(xùn)練模型,并調(diào)取特征層重復(fù)使用,從而有效解決新任務(wù)缺乏數(shù)據(jù)的問(wèn)題,該方法即遷移學(xué)習(xí)。

在場(chǎng)景分類中應(yīng)用最廣泛的是CNN模型的全連接層,它的神經(jīng)元數(shù)量等同于圖像分類器。本文的模型數(shù)據(jù)來(lái)自ImageNet數(shù)據(jù)集,該數(shù)據(jù)與mageNet不屬于同一類別,即通過(guò)替換該模型的最后一層數(shù)據(jù),才能夠進(jìn)行遷移學(xué)習(xí),從而得到合理的實(shí)驗(yàn)數(shù)據(jù)。如圖3所示為預(yù)訓(xùn)練模型調(diào)整流程,用該模型的預(yù)訓(xùn)練數(shù)據(jù)替代分離器,N用于表示不同的訓(xùn)練數(shù)據(jù)影響類別。

圖3 預(yù)訓(xùn)練模型調(diào)整流程示意圖

參數(shù)微調(diào)和特征提取是遷移學(xué)習(xí)的主要方法,前者是將預(yù)訓(xùn)練模型的全部或部分?jǐn)?shù)據(jù)用目標(biāo)數(shù)據(jù)集進(jìn)行訓(xùn)練,這樣就可以調(diào)整網(wǎng)絡(luò)各層的數(shù)據(jù)信息,使其更符合實(shí)際要求;后者并不會(huì)全部舍棄預(yù)訓(xùn)練模型的數(shù)據(jù)信息,而是在新的案例數(shù)據(jù)仍有所保留,可將其視為特征提取的原始能力。

3 實(shí)驗(yàn)與結(jié)果分析

3.1 遷移學(xué)習(xí)對(duì)比實(shí)驗(yàn)

CNN-F是本實(shí)驗(yàn)的基礎(chǔ),第一步是處理最后一層網(wǎng)格,讓它的分類器與實(shí)驗(yàn)數(shù)據(jù)集更吻合。訓(xùn)練方法有三種,即An、Bn、Cn,訓(xùn)練的場(chǎng)所是訓(xùn)練集,An是訓(xùn)練前需凍結(jié)預(yù)模型的n層數(shù)據(jù),該方法只是需要初始化7—n層數(shù)據(jù),而不需要調(diào)整參數(shù),Bn方法不會(huì)破壞預(yù)訓(xùn)練模型的數(shù)據(jù)信息,但是需要對(duì)7—n層數(shù)據(jù)進(jìn)行初始化;Cn是要凍結(jié)預(yù)訓(xùn)練模型的n層數(shù)據(jù),同時(shí)不刪除余下7—n層數(shù)據(jù),即n={1,2,…,7}。

當(dāng)n=1時(shí),該層保留模型的參數(shù)用陰影部分表示,初始化部分用白色來(lái)表示,該層凍結(jié)的數(shù)據(jù)用有鎖符號(hào)來(lái)表示。因此,預(yù)訓(xùn)練模型位于第一層,初始化模塊則位于剩下的7層,這7層主要用于初始化訓(xùn)練。B1表示除不初始化第一層外,對(duì)其他層數(shù)據(jù)進(jìn)行初始化,從而達(dá)到對(duì)整個(gè)網(wǎng)絡(luò)訓(xùn)練的目的。C1表示將預(yù)訓(xùn)練模型的第一層數(shù)據(jù)進(jìn)行凍結(jié)后,對(duì)其他層的參數(shù)進(jìn)行局部調(diào)整。

如圖4所示,是在實(shí)驗(yàn)中得到的An,Bn,Cn 三種遷移學(xué)習(xí)方法的訓(xùn)練模型,并進(jìn)行一系列測(cè)試的輸出結(jié)果。

圖4 An、Bn、Cn 分類精度對(duì)比

由圖4可知,紅色菱形點(diǎn)An 的 1—3層,精度會(huì)隨著凍結(jié)層數(shù)的增加而提升,精度的最高點(diǎn)是A3。但是如果凍結(jié)層數(shù)持續(xù)增加,精度并不會(huì)一直調(diào)高,而是呈現(xiàn)出下降趨勢(shì)。由此可見(jiàn),可以通過(guò)調(diào)整預(yù)訓(xùn)練模型的前3層參數(shù),獲取實(shí)驗(yàn)測(cè)試集的整體特性。實(shí)驗(yàn)數(shù)據(jù)集與ImageNet數(shù)據(jù)集存在顯著差別,因此預(yù)訓(xùn)練模型4—7層不能夠很好地呈現(xiàn)出遙感數(shù)據(jù)的本質(zhì)特征。通過(guò)微調(diào)層數(shù),可以得到精準(zhǔn)度更高的黃色三角點(diǎn)Bn,精準(zhǔn)度最高點(diǎn)是B7。由此可見(jiàn),如果ImageNet數(shù)據(jù)集與實(shí)驗(yàn)數(shù)據(jù)集存在著明顯差異,可以通過(guò)對(duì)其他的層次進(jìn)行微調(diào)獲取精準(zhǔn)度更高的遙感影像信息。

由實(shí)驗(yàn)可知,C1與C2可以通過(guò)微調(diào)高層或底層參數(shù)進(jìn)行凍結(jié),由此可以保留預(yù)訓(xùn)練模型的提取能力。在實(shí)際應(yīng)用中只需要對(duì)高層參數(shù)進(jìn)行調(diào)整,就可以完成對(duì)新遙感圖像的甄別。為了了解C1與 C2訓(xùn)練效果的差別,筆者將生產(chǎn)者精度與用戶精度同時(shí)進(jìn)行考量,C1訓(xùn)練方法的生產(chǎn)者精度和用戶精度分別為93.75%和100%,C2的生產(chǎn)者精度和用戶精度分別為100%和94.12%。

3.2 最佳訓(xùn)練方式的適用性實(shí)驗(yàn)

通過(guò)以上的實(shí)驗(yàn)可以看出,最佳的訓(xùn)練方法是將高層參數(shù)進(jìn)行微調(diào)同時(shí)對(duì)底層預(yù)訓(xùn)練模型參數(shù)進(jìn)行凍結(jié)。對(duì)此我們也在CNN模型上進(jìn)行了實(shí)驗(yàn),具體的實(shí)驗(yàn)方法如下。

在ResNet-M中,M是指ResNet-50 預(yù)訓(xùn)練模型被凍結(jié)的是M層以前的參數(shù)(含M層),未被凍結(jié)的數(shù)據(jù)則可以在訓(xùn)練集上進(jìn)行調(diào)整。

圖5為ResNet-conv1識(shí)別的最高精確度。識(shí)別的精確度會(huì)隨著凍結(jié)層數(shù)的增加和殘差塊的產(chǎn)生而下降,所以說(shuō)ResNet-50 模型最適合將高層數(shù)據(jù)進(jìn)行調(diào)整并對(duì)底層數(shù)據(jù)進(jìn)行凍結(jié)。

圖5 ResNet-M 分類精度

實(shí)驗(yàn)通過(guò)對(duì)比可知,ResNet-50 預(yù)訓(xùn)練模型的精準(zhǔn)度雖然會(huì)在調(diào)整高層數(shù)據(jù)并對(duì)底層數(shù)據(jù)進(jìn)行凍結(jié)時(shí)得到改善,但是可發(fā)現(xiàn)生產(chǎn)者精度與總精度并不能滿足CNN-F 預(yù)訓(xùn)練模型的需求。雖然在ImageNet 數(shù)據(jù)集上顯示了ResNet-50 模型的優(yōu)越性,但是筆者認(rèn)為,本文所闡述的遷移學(xué)習(xí)方法最適合CNN-F 模型,這也就說(shuō)明了殘差網(wǎng)絡(luò)的跨層連接可以幫助優(yōu)化網(wǎng)絡(luò)數(shù)據(jù),所以就遷移學(xué)習(xí)在ResNet-50 模型中的效果不顯著。

3.3 遙感信息識(shí)別

應(yīng)用C1在對(duì)開(kāi)采工程進(jìn)行識(shí)別的過(guò)程中,采用CNN-F對(duì)最佳遷移學(xué)習(xí)方式進(jìn)行驗(yàn)證。結(jié)果如下:該算法得出的工程區(qū)域的用戶精度和生產(chǎn)者精度分別為87.5%和100%。如圖6所示為研究區(qū)域解譯圖(a)與本文識(shí)別方法圖(b)對(duì)比結(jié)果,只有A處工程區(qū)域沒(méi)有被本文的算法識(shí)別。本文方法識(shí)別出了多種地貌、地物特征,并得到了良好的數(shù)據(jù)分析資料。因此,充分證明了CNN模型的最佳遷移學(xué)習(xí)方式在開(kāi)采工程遙感信息處理的效果顯著。

圖6 遙感信息識(shí)別結(jié)果對(duì)比

4 結(jié)語(yǔ)

綜上所述,開(kāi)采工程遙感識(shí)別精度不高主要與訓(xùn)練數(shù)據(jù)量不足有關(guān)系。本文通過(guò)不同的對(duì)比實(shí)驗(yàn)可知,如果通過(guò)微調(diào)高層數(shù)據(jù)并同時(shí)對(duì)底層CNN預(yù)訓(xùn)練模型的數(shù)據(jù)進(jìn)行凍結(jié)的遷移學(xué)習(xí)方法,能夠有效地提高CNN模型的識(shí)別精度。遷移學(xué)習(xí)方法對(duì)CNN模型的結(jié)構(gòu)沒(méi)有具體的要求,實(shí)驗(yàn)證明這種方法能夠同時(shí)提高用戶精度和生產(chǎn)者精度。因此,通過(guò)該種方法訓(xùn)練的CNN模型能夠有效識(shí)別開(kāi)采工程區(qū)域的高分遙感影像信息,可以在開(kāi)采工程中廣泛使用。