基于深度學(xué)習(xí)的遙感圖像中地面塌陷識別方法研究

鄭重　張敬東　杜建華

摘要：地面塌陷是在開采礦產(chǎn)資源時(shí)出現(xiàn)的一種具有很強(qiáng)破壞力的自然災(zāi)害，會導(dǎo)致道路改線、道路污染、居民地及水系的改變，使礦區(qū)不能持續(xù)發(fā)展。隨著傳感器技術(shù)、遙感技術(shù)等一系列技術(shù)的快速發(fā)展，極大地提升了遙感圖像處理技術(shù)，特別是在地面塌陷識別方面尤為突出。針對傳統(tǒng)地面塌陷識別方法效率低下問題，提出了基于深度學(xué)習(xí)的地面塌陷遙感識別方法。通過大量實(shí)驗(yàn)對比分類精度、Kappa系數(shù)調(diào)整深度信念網(wǎng)絡(luò)模型的參數(shù)，得到適合地面塌陷識別的參數(shù)設(shè)置，證明了深度學(xué)習(xí)在遙感圖像中地面塌陷識別方法的可行性和高效性，為今后地面塌陷的識別方法提供了新思路。

關(guān)鍵詞：地面塌陷；遙感影像；深度學(xué)習(xí)；深度信念網(wǎng)絡(luò)

中圖分類號：TB文獻(xiàn)標(biāo)識碼：Adoi：10.19311/j.cnki.16723198.2017.35.091

0引言

最近一些年，伴隨著國民經(jīng)濟(jì)的快速發(fā)展，建設(shè)的力度加大，煤礦工業(yè)也進(jìn)入了發(fā)展的快車道。在采煤過程中出現(xiàn)的礦區(qū)沉降的現(xiàn)象非常普遍，因?yàn)樗?jīng)常導(dǎo)致地面塌陷、裂縫、滑坡等一系列地質(zhì)災(zāi)害。為了防止地質(zhì)災(zāi)害的發(fā)生，需要對煤礦區(qū)地面的沉降加大監(jiān)測力度，特別是礦區(qū)塌陷地的狀況已經(jīng)成為礦區(qū)環(huán)境綜合治理的最主要問題。近些年以來遙感技術(shù)一直在快速發(fā)展，但在實(shí)際應(yīng)用中獲取遙感影像中的信息仍然十分困難，基于機(jī)器學(xué)習(xí)的遙感影像識別方法為這個難題的解決提供了可能。2014年，高長鑫和桑農(nóng)提出了一種分層的深度學(xué)習(xí)模型，并針對海量高分遙感影像數(shù)據(jù)進(jìn)行識別。2015年，L. L. Wang等提出了一種用于選擇遙感圖像中最佳波段的最優(yōu)索引因子方法，改善了遙感圖像的空間信息以保持多光譜的特征。同年，X. Li和G. Wang提出了一種改進(jìn)差分演化算法，解決了高光譜數(shù)據(jù)最佳頻段選擇問題，改善了遙感數(shù)據(jù)的處理數(shù)度。H. Zhang等以新疆有理羅布村典型不良地質(zhì)現(xiàn)象為例，分別使用了極限學(xué)習(xí)機(jī)、支持向量機(jī)和K均值三種算法進(jìn)行了遙感圖像的分類識別。2016年，張浩等針對建筑物的遙感影像特征，提出了基于SVM的交叉驗(yàn)證的方法對參數(shù)敏感度進(jìn)行了分析。同年，陳冠宇等提出了基于特征融合的SVM算法，探討了遙感影像中植被識別的方法。安凱等對比了卷積神經(jīng)網(wǎng)絡(luò)、K均值、SVM算法和貝葉斯算法的分類精度，探討了不良地質(zhì)體識別與分類的方法。

1深度學(xué)習(xí)基本模型

1.1受限玻爾茲曼機(jī)（Restricted Boltzmann Machine）

受限玻爾茲曼機(jī)（Restricted Boltzmann Machine，簡稱RBM）是一種玻爾茲曼機(jī)的變體，但限定模型必須為二部圖。

假如我們有一個二部圖，而且同一層節(jié)點(diǎn)之間無連接，其中一層是輸入數(shù)據(jù)層v，另外一層為隱藏層h。如圖1所示，顯示全部節(jié)點(diǎn)都為隨機(jī)的二值變量（即只取0或者1），同時(shí)把全概率分布p（v，h）都看作滿足玻爾茲曼分布，則此模型我們就稱之為受限玻爾茲曼機(jī)（RBM）。

RBM因?yàn)殡[藏節(jié)點(diǎn)間無連接，所以隱藏節(jié)點(diǎn)間條件獨(dú)立。故在已知v的情況下有p（h|v）=p（h1|v）=...=p（hn|v）。此外，可視節(jié)點(diǎn)間也是獨(dú)立的，故在已知隱藏層h的情況下有p（v1|h）=p（v2|h）=...=p（vn|h）。同時(shí)又由于v和h滿足玻爾茲曼分布，因而，在輸入v的時(shí)候，經(jīng)過p（h|v）運(yùn)算能夠獲取隱藏層h，獲得隱藏層h以后，經(jīng)過p（v|h）運(yùn)算又可以獲得可視層。不斷訓(xùn)練參數(shù)，讓隱藏層獲得的v1與以前可視層v幾乎毫無差別，此時(shí)的隱藏層可以認(rèn)為是可視層的一種表現(xiàn)方式了。

1.2深度信念網(wǎng)絡(luò)（Deep Belief Networks）

DBN這個網(wǎng)絡(luò)模型是多層 RBM 構(gòu)成的，其網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。

訓(xùn)練過程：

（1） 起先充分訓(xùn)練第一個受限波爾茲曼機(jī)（RBM）。

（2） 然后我們把第一個 RBM 的權(quán)重以及偏移量固定住，再把它的隱性神經(jīng)元的狀態(tài)當(dāng)作第二個 RBM 輸入向量。

（3） 再讓第二個 RBM得到足夠的訓(xùn)練后，就把第二個 RBM 堆疊放在第一個 RBM 的上面。

（4）把以上三個步驟重復(fù)多次。

（5） 如果在訓(xùn)練集中出現(xiàn)的數(shù)據(jù)有標(biāo)簽，在訓(xùn)練頂層RBM的時(shí)候，這個 RBM 的顯層中不光有顯性神經(jīng)元，還必須有代表分類標(biāo)簽的神經(jīng)元，來一起訓(xùn)練：

①假設(shè)頂層RBM的顯層里面有400個顯性神經(jīng)元，我們把訓(xùn)練數(shù)據(jù)的分類總共分為10 類。

②這樣頂層RBM的顯層就會有410個顯性神經(jīng)元，對每一個訓(xùn)練數(shù)據(jù)，相應(yīng)的標(biāo)簽神經(jīng)元被打開就設(shè)為 1，其他的則被關(guān)閉設(shè)為0。

（6）DBN 被訓(xùn)練好好如圖3所示。

2實(shí)驗(yàn)設(shè)計(jì)

2.1樣本庫的制作

在制作訓(xùn)練樣本數(shù)據(jù)時(shí)以像元為單位，即一個像元為一個訓(xùn)練樣本。先采用ENVI截取選取一張1000*1000大小的影像，如圖4所示，這張影像中既要有塌陷區(qū)域，又要有非塌陷區(qū)域，這樣能避免制作的訓(xùn)練樣本正負(fù)標(biāo)簽差異太大。由于待研究區(qū)域的遙感影像已經(jīng)通過人工解譯的方式得到塌陷區(qū)域分布情況，所以，可用程序讀取原遙感影像文件和解譯結(jié)果文件，將一個像元的三個波段的值和這個像元對應(yīng)的類標(biāo)簽信息綁定在一起，這樣就能在后續(xù)的變換操作中依然保持像元的RGB三個波段的值和像元的類標(biāo)簽對應(yīng)，而不至于混亂。

具體操作步驟如下：

（1）讀取1000*1000的3波段影像文件，得到1000*1000*3的矩陣，轉(zhuǎn)化為1000000*3的矩陣Img，其中每一行都是一個像元。

（2）讀取1000*1000的標(biāo)定數(shù)據(jù)，得到1000*1000的矩陣，和影像文件的像元一一對應(yīng)，這個矩陣的值只有1（塌陷區(qū)）和2（非塌陷區(qū)），同樣將矩陣轉(zhuǎn)化為1000000*2的矩陣Labels，每一行對應(yīng)一個像元，第一列的值表示塌陷區(qū)，第二列為非塌陷區(qū)。endprint

（3）將矩陣Img和矩陣Labels合并，組成新的矩陣Comb，這個矩陣的規(guī)模為1000000*5，每一行對應(yīng)一個像元，前三列為該像元的三個波段的值，后兩列有且只有一個為0和1，表示是否屬于塌陷區(qū)域。

（4）將矩陣Comb的行順序打亂，并按照樣本是否屬于塌陷區(qū)域，將矩陣分為正樣本矩陣P和負(fù)樣本矩陣N，由于負(fù)樣本明顯多余正樣本，所以要刪除一些負(fù)樣本，由于順序已經(jīng)打亂，可以只保留負(fù)樣本中排在前面的那部分樣本N1，使得正負(fù)樣本一樣多，再將正樣本P和保留下來的負(fù)樣本N1合并為Comb1，再次按行打亂。

（5）將合并后的訓(xùn)練樣本Comb1按像元和類標(biāo)簽拆分為n*3的像元屬性矩陣train_x和n*2的類標(biāo)簽矩陣train_y，這樣就得到帶有標(biāo)簽的訓(xùn)練樣本了。

最終得到的測試數(shù)據(jù)分為test_x和test_y兩部分，將以上得到的train_x、train_y、test_x，test_y都保存到mnist_uint8.mat文件中，以備后續(xù)使用。

2.2評價(jià)標(biāo)準(zhǔn)

分類效果分析是分類實(shí)驗(yàn)必不可少的環(huán)節(jié)，比較分類效果之前必須制定評價(jià)標(biāo)準(zhǔn)?？傮w分類精度、Kappa系數(shù)是常用的分析分類效果的手段。本文實(shí)驗(yàn)也從這兩個方面對地面塌陷識別效果進(jìn)行評價(jià)。

（1）總體精度（OverallAccuracy， OA）是基本標(biāo)準(zhǔn)，是對分類結(jié)果的通體評價(jià)，總體精度的高低直接決定分類方法的可行性，一個分類方法的分類精度太低，就缺乏應(yīng)用價(jià)值了。

總體精度等于被正確分類的像素總和除以總的像素個數(shù)。計(jì)算公式如下：

pc=∑mi=1nijN（1）

其中，pc表示總體精度，nij表示第i類判別正確的樣本數(shù)，m表示類別數(shù)，N表示樣本總數(shù)。

（2）Kappa系數(shù)通過把所有地表真實(shí)分類中的像元總數(shù)（N）乘以混淆矩陣對角線（pij）的和，再減去某一類地表真實(shí)像元總數(shù)與被誤分成該類像元總數(shù)之積對所有類別求和的結(jié)果，再除以總像元數(shù)的平方減去某一類中地表真實(shí)像元總數(shù)與該類中被分類像元總數(shù)之積對所有類別求和的結(jié)果所得到的。Kappa系數(shù)的計(jì)算公式是：

k=N∑mi=1nij-∑mi=1（ni*n*j）N2-∑mi=1（ni*nxj）（2）

其中，ni*表示混淆矩陣第i行的和，n*j表示第j列的和。研究認(rèn)為，Kappa系數(shù)與分類精度的關(guān)系如表1所示。

2.3參數(shù)設(shè)置

2.3.1網(wǎng)絡(luò)層數(shù)

之所以任意的非線性映射可以由神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)，是因?yàn)槿我馍窠?jīng)網(wǎng)絡(luò)中都存在隱含層。隱含層的層數(shù)可以影響識別的精度、誤差大小、網(wǎng)絡(luò)訓(xùn)練時(shí)間以及系統(tǒng)的復(fù)雜程度。實(shí)驗(yàn)中，將設(shè)置不同的神經(jīng)網(wǎng)絡(luò)的層數(shù)對比分類效果。

2.3.2隱含層神經(jīng)元個數(shù)

隱含層神經(jīng)元個數(shù)的選擇非常重要，如果神經(jīng)元個數(shù)選擇過少的話，不足以訓(xùn)練該神經(jīng)網(wǎng)絡(luò)，如果神經(jīng)元個數(shù)過多的話，雖然可以提高識別的精度，但是同樣會使系統(tǒng)復(fù)雜化，訓(xùn)練時(shí)間也會非常的長，所以選擇一個合理的神經(jīng)元個數(shù)是非常重要的。

2.3.3學(xué)習(xí)速率的確定

在網(wǎng)絡(luò)訓(xùn)練過程中，權(quán)值的改變量稱作學(xué)習(xí)速率，其作用影響到分類器的訓(xùn)練時(shí)間、收斂時(shí)間和穩(wěn)定性，故系統(tǒng)中設(shè)置過高或過低的學(xué)習(xí)速率是不妥的。所以綜上所述，實(shí)驗(yàn)中設(shè)置學(xué)習(xí)速率為不同的值，觀察學(xué)習(xí)速率對識別效果的影響。

2.3.4迭代次數(shù)

根據(jù)Hinton的研究，設(shè)置batchsize大小為100，由于樣本迭代20遍之后分類準(zhǔn)確率趨于穩(wěn)定，針對不同問題迭代次數(shù)對分類結(jié)果的影響可能不一樣。

2.3.5樣本數(shù)量

樣本數(shù)量對網(wǎng)絡(luò)模型的訓(xùn)練也起著極其重要的影響，樣本數(shù)量多，覆蓋的特征也越全面。但是隨著樣本數(shù)量的增加，訓(xùn)練網(wǎng)絡(luò)就需要更多的時(shí)間，因此訓(xùn)練樣本并不是越多越好，包含特征量相同的情況下，樣本數(shù)量越小越有優(yōu)勢。

3實(shí)驗(yàn)結(jié)果與分析

DBN作為深度學(xué)習(xí)模型，網(wǎng)絡(luò)深度必然會對分類效果有很大的影響，層數(shù)更深的網(wǎng)絡(luò)設(shè)置可以發(fā)掘出更為抽象的特征，但也可能導(dǎo)致過擬合現(xiàn)象。實(shí)驗(yàn)設(shè)置網(wǎng)絡(luò)（不包含輸入層和輸出層）從1層到10層時(shí)，總體分類精度、Kappa系數(shù)的變化情況。實(shí)驗(yàn)中設(shè)置隱含層神經(jīng)元個數(shù)為50，學(xué)習(xí)速率為0.01，迭代次數(shù)為3次，樣本數(shù)量為10000個。實(shí)驗(yàn)結(jié)果如圖5、圖6和圖所示：

因?yàn)槟芰蜁r(shí)間有限，只對網(wǎng)絡(luò)深度變化時(shí)的總體精度和Kappa系數(shù)的不同做了研究。根據(jù)分類精度和Kappa系數(shù)隨著網(wǎng)絡(luò)深度變化的柱形圖可以看出，網(wǎng)絡(luò)深度在4--6時(shí)能較為準(zhǔn)確的識別地面塌陷區(qū)域，分類精度最高為0.982，Kappa系數(shù)最高為0.9545，此時(shí)的網(wǎng)絡(luò)深度為5。所以本實(shí)驗(yàn)中設(shè)置隱含層為5的時(shí)候，總體分類效果比較好。

隨機(jī)選取預(yù)處理之后的遙感影像上的3片1000*1000的區(qū)域進(jìn)行分來效果測試，測試結(jié)果如圖7、圖8所示。由圖可知，深度信念網(wǎng)絡(luò)與地面塌陷識別相結(jié)合，可以有效地進(jìn)行遙感影像上的地面塌陷區(qū)域識別，選擇合適的樣本庫，調(diào)整設(shè)置深度信念網(wǎng)絡(luò)深度參數(shù)，可以得到較好的分類效果。

4結(jié)論

本文針對傳統(tǒng)地面塌陷識別方法效率低下問題，提出了基于深度學(xué)習(xí)的地面塌陷遙感識別方法。主要是將DBN應(yīng)用于實(shí)際應(yīng)用——遙感影像上的地面塌陷區(qū)域識別，從實(shí)驗(yàn)所需的樣本庫的建立，DBN應(yīng)用于地面塌陷識別的效果評價(jià)標(biāo)準(zhǔn)，實(shí)驗(yàn)中DBN的網(wǎng)絡(luò)層數(shù)設(shè)置對實(shí)驗(yàn)結(jié)果的影響，以及對結(jié)果進(jìn)行了分析。實(shí)驗(yàn)證明了DBN運(yùn)用于地面塌陷識別的可行性，改善了傳統(tǒng)地面塌陷判別方法效率低下和遙感影像監(jiān)督分類和非監(jiān)督分類存在的對專業(yè)知識或者數(shù)據(jù)本身特征的依賴性。

參考文獻(xiàn)

[1]高常鑫，桑農(nóng).基于深度學(xué)習(xí)的高分辨率遙感影像目標(biāo)檢測[J].測繪通報(bào)，2014（增刊1）：108111.

[2]X. Li and L. L. Wang. On the study of fusion techniques for bad geological remote sensing image[J].Journal of Ambient intelligence & Humanized Computing，2015，6（1）：9941004.

[3]X. Li and G. Wang. Optimal band selection for hyperspectral data with improved differential evolution[J].Journal of Ambient Intelligence & Humanized Computing，2015，6（5）：675688.

[4]X. Li and H. Zhang. Identification of remote sensing image of adverse geological body based on classification[C].Anon. Bio-inspired computing： Theories and applications. Berlin Heidelberg： Springer， 2015：232241.

[5]張浩，趙云勝，陳冠宇，等.基于支持向量機(jī)的遙感圖像建筑物識別與分類方法研究[J].地質(zhì)科技情報(bào)，2016，35（6）：194199.

[6]陳冠宇，李向，王嶺玲.基于大數(shù)據(jù)的遙感圖像植被識別方法[J].地質(zhì)科技情報(bào)，2016，35（3）： 205211.

[7]陳冠宇，安凱，李向.基于卷積神經(jīng)網(wǎng)絡(luò)的不良地質(zhì)體識別與分類[J].地質(zhì)科技情報(bào)，2015，35（1）：205211.

[8]劉慶玲.基于模糊深度學(xué)習(xí)網(wǎng)絡(luò)算法的短期股價(jià)預(yù)測[D].哈爾濱：哈爾濱工業(yè)大學(xué)，2016.

[9]陳興杰.基于GF-1號衛(wèi)星影像的監(jiān)督分類方法比較[J].礦山測量，2017，45 （3）：1719.endprint