深度學(xué)習(xí)在遙感影像分類(lèi)與識(shí)別中的研究進(jìn)展綜述

王 斌，范冬林

(1. 桂林理工大學(xué)測(cè)繪地理信息學(xué)院，廣西 桂林 541004； 2. 廣西空間信息與測(cè)繪重點(diǎn)實(shí)驗(yàn)室，廣西 桂林 541004)

1 遙感影像與識(shí)別算法發(fā)展歷程

遙感影像分類(lèi)與識(shí)別工作對(duì)于研究物體或現(xiàn)象的發(fā)展過(guò)程和分布規(guī)律有著重要意義，經(jīng)典算法有監(jiān)督分類(lèi)和非監(jiān)督分類(lèi)。監(jiān)督分類(lèi)又稱(chēng)訓(xùn)練場(chǎng)地法，指根據(jù)已知樣本區(qū)類(lèi)別信息對(duì)非樣本區(qū)進(jìn)行判別的方法。常見(jiàn)方法有：最小距離分類(lèi)法、最大似然分類(lèi)法等。非監(jiān)督分類(lèi)也稱(chēng)聚類(lèi)分析，是指無(wú)先驗(yàn)知識(shí)的“盲判”。常見(jiàn)方法包括：分級(jí)集群法、K-均值算法、ISODATA聚類(lèi)法。隨著遙感影像分辨率的不斷提高，以及“同物異譜”和“同譜異物”現(xiàn)象的出現(xiàn)，經(jīng)典算法不再滿(mǎn)足高精度要求，于是，出現(xiàn)大量機(jī)器學(xué)習(xí)算法。早期出現(xiàn)的人工神經(jīng)網(wǎng)絡(luò)(artificial neural network，ANN)是一種數(shù)學(xué)模型的機(jī)器學(xué)習(xí)分類(lèi)方法，其中反向傳播神經(jīng)網(wǎng)絡(luò)(back propagation，BP)在有足夠的隱層和隱層節(jié)點(diǎn)時(shí)，可以映射出任意的非線(xiàn)性關(guān)系。另外，支持向量機(jī)(support vector machine，SVM)最早從最優(yōu)分類(lèi)面問(wèn)題提出，是一種有監(jiān)督的機(jī)器學(xué)習(xí)方法，常用于遙感影像研究。機(jī)器學(xué)習(xí)算法也存在一些問(wèn)題，如BP神經(jīng)網(wǎng)絡(luò)存在收斂速度慢和隱層及隱層節(jié)點(diǎn)難以確定問(wèn)題，SVM在樣本數(shù)量較大時(shí)存在漏分和錯(cuò)分的概率變大[1-2]。近年來(lái)，深度學(xué)習(xí)發(fā)展迅速，在機(jī)器算法中脫穎而出，本文綜合分析深度學(xué)習(xí)算法在遙感影像分類(lèi)與識(shí)別中的應(yīng)用現(xiàn)狀，探討其在分類(lèi)與識(shí)別算法中的發(fā)展趨勢(shì)。

2 深度學(xué)習(xí)算法在遙感影像分類(lèi)與識(shí)別中的研究進(jìn)展

深度學(xué)習(xí)的概念由文獻(xiàn)[3]于2006年首次提出。在遙感領(lǐng)域，深度學(xué)習(xí)在分類(lèi)與識(shí)別方面的應(yīng)用使得分類(lèi)效果得到了進(jìn)一步優(yōu)化，前人利用遙感高分辨率和高光譜影像作出的研究，證明了深度學(xué)習(xí)能夠充分提取遙感影像特征。目前，深度學(xué)習(xí)主流算法模型有4種:受限波爾茲曼機(jī)(restricted boltzmann machine，RBM)、深度信念網(wǎng)絡(luò)(deep belief networks，DBN)、卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks，CNN)以及自動(dòng)編碼器(auto encoder，AE)等。其中AE和DBN算法屬于無(wú)監(jiān)督學(xué)習(xí)，而CNN算法則是一種深度的監(jiān)督學(xué)習(xí)?，F(xiàn)階段深度學(xué)習(xí)在遙感影像分類(lèi)與識(shí)別中應(yīng)用廣泛的主要為DBN、CNN及AE這3種算法，RBM為組成DBN的淺層結(jié)構(gòu)，因此研究者對(duì)于RBM算法主要是加入到DBN算法中應(yīng)用。

2.1 深度信念網(wǎng)絡(luò)在遙感影像分類(lèi)與識(shí)別中的應(yīng)用現(xiàn)狀

2.1.1 DBN算法簡(jiǎn)介

DBN由多個(gè)RBM組成，是具有若干潛變量層的深層無(wú)監(jiān)督學(xué)習(xí)網(wǎng)絡(luò)模型。其中RBM是包含一層可觀察變量和單層潛變量的無(wú)向概率圖模型，它們可以層與層堆疊起來(lái)形成更深的模型(RBM結(jié)構(gòu)如圖1所示)，可見(jiàn)層和隱層中的任何單元之間不允許存在連接。DBN模型對(duì)RBM進(jìn)行單獨(dú)的訓(xùn)練是采用了逐層初始化和整體反饋的方法，以此來(lái)完成整個(gè)網(wǎng)絡(luò)的訓(xùn)練過(guò)程。DBN的訓(xùn)練過(guò)程見(jiàn)表1，通常由預(yù)訓(xùn)練和微調(diào)兩大部分組成。

表1 DBN訓(xùn)練過(guò)程

續(xù)表1

2.1.2 DBN在遙感影像分類(lèi)與識(shí)別中具體應(yīng)用的研究進(jìn)展

文獻(xiàn)[4]2014年首次將DBN模型用于SAR影像中的城市地圖制作，并利用RADARSAT-2衛(wèi)星6d的極化合成SAR影像進(jìn)行了驗(yàn)證試驗(yàn)?；跇O化SAR地物分類(lèi)方法基礎(chǔ)，文獻(xiàn)[5]2015年提出了一種基于稀疏極化DBN的模型，該模型充分利用了極化SAR影像極化信息進(jìn)行特征提取，旨在解決極化SAR影像數(shù)據(jù)復(fù)雜且量大導(dǎo)致的分類(lèi)困難問(wèn)題，試驗(yàn)證明精度效果和訓(xùn)練速率比SVM和NN算法有所提高。同階段，不少研究者研究了單源光譜信息的分類(lèi)局限性。文獻(xiàn)[6]2015年將DBN應(yīng)用在高光譜數(shù)據(jù)分類(lèi)中，分別從光譜、空間及光譜-空間3個(gè)信息角度使用DBN和LR分類(lèi)器結(jié)合方式進(jìn)行數(shù)據(jù)分類(lèi)。利用影像紋理特征信息，文獻(xiàn)[7]將DBN用于準(zhǔn)確地挖掘高分辨率遙感影像的空間分布規(guī)律。針對(duì)高光譜影像圖譜合一、高維度和存在非線(xiàn)性成分?jǐn)?shù)據(jù)，文獻(xiàn)[8]2017年提出一種基于空-譜特征的DBN模型，利用PCA降維重組后的空-譜特征作為DBN的輸入，解決了單源光譜信息在高光譜影像分類(lèi)的局限性。另外，一些研究者在DBN模型結(jié)構(gòu)參數(shù)上進(jìn)行了大量研究。文獻(xiàn)[9]2016年提出了一種快速去噪和DBN結(jié)合的高光譜影像分類(lèi)方法，結(jié)合DBN對(duì)去噪后的圖像進(jìn)行地物分類(lèi)，當(dāng)DBN的參數(shù)設(shè)置為：權(quán)重學(xué)習(xí)率為0.1，可見(jiàn)層和隱藏層偏置學(xué)習(xí)率均為0.1，權(quán)重為0.000 2，初始動(dòng)量為0.5，最終動(dòng)量為0.9，以及當(dāng)?shù)螖?shù)高于80次時(shí)，分類(lèi)效果很好。利用高分辨率遙感影像具有高維、多尺度、異構(gòu)等內(nèi)外部特征和豐富的空間信息，文獻(xiàn)[10]2017年通過(guò)對(duì)比分類(lèi)精度、Kappa系數(shù)以及參數(shù)敏感度，分析出當(dāng)設(shè)置迭代次數(shù)為15，每個(gè)batch大小為100，網(wǎng)絡(luò)深度為3層，每個(gè)隱含層的節(jié)點(diǎn)個(gè)數(shù)為64，學(xué)習(xí)速率為0.01時(shí)，分類(lèi)精度達(dá)到92%左右。前人大量試驗(yàn)結(jié)果顯示，一般將學(xué)習(xí)率設(shè)為0.01或0.1，隱含層設(shè)為3層，隱含層節(jié)點(diǎn)在50-500不等時(shí)，精度基本都達(dá)到90%以上。

2.2 卷積神經(jīng)網(wǎng)絡(luò)在遙感影像識(shí)別與分類(lèi)中的應(yīng)用現(xiàn)狀

2.2.1 CNN算法簡(jiǎn)介

CNN是一種前向反饋神經(jīng)網(wǎng)絡(luò)，它的低隱含層由卷積層、池化層(降采樣層)交替組成，高層通常由全連接層作為分類(lèi)器使用(典型CNN模型結(jié)構(gòu)如圖2所示)。

ANN分類(lèi)方法模擬人腦神經(jīng)系統(tǒng)結(jié)構(gòu)和功能，不需要有關(guān)統(tǒng)計(jì)分布的先驗(yàn)知識(shí)和預(yù)定義各數(shù)據(jù)源的先驗(yàn)權(quán)值。CNN將ANN和深度學(xué)習(xí)相結(jié)合，基于改進(jìn)梯度反向傳播算法來(lái)訓(xùn)練網(wǎng)絡(luò)中的權(quán)重，實(shí)現(xiàn)了深度學(xué)習(xí)的多層過(guò)濾器網(wǎng)絡(luò)結(jié)構(gòu)以及過(guò)濾器和分類(lèi)器結(jié)合的全局訓(xùn)練算法，降低了網(wǎng)絡(luò)模型的復(fù)雜度，減少了權(quán)值的數(shù)量，在影像處理領(lǐng)域的試驗(yàn)，效果良好。

2.2.2 CNN在遙感影像分類(lèi)與識(shí)別中具體應(yīng)用的研究進(jìn)展

CNN在處理高維影像數(shù)據(jù)時(shí)有獨(dú)特的優(yōu)勢(shì)。根據(jù)高光譜影像中包含豐富的空間和光譜信息，文獻(xiàn)[11]提出了將譜信息變換成圖像的方法。一種是轉(zhuǎn)換為灰度圖，利用CNN提取紋理特征進(jìn)行分類(lèi)；另一種是轉(zhuǎn)換為波形圖，利用CNN訓(xùn)練波動(dòng)特征進(jìn)行分類(lèi)。試驗(yàn)表明，在樣本種類(lèi)多時(shí)比PCA降維的高斯核SVM方法優(yōu)越，樣本數(shù)量少時(shí)也有部分優(yōu)越性。同階段，前人在不同高光譜影像特征作為CNN的輸入信息方面展開(kāi)了研究。基于光譜域開(kāi)展的CNN分類(lèi)算法，文獻(xiàn)[12]通過(guò)構(gòu)建5層網(wǎng)絡(luò)結(jié)構(gòu)，繼而逐個(gè)分析像素的光譜信息，在輸入端輸入全光譜段集合，通過(guò)神經(jīng)網(wǎng)絡(luò)對(duì)代價(jià)函數(shù)值進(jìn)行計(jì)算，實(shí)現(xiàn)光譜特征的提取與分類(lèi)，試驗(yàn)正確率達(dá)90.16%。在空間鄰域信息作為輸入端的研究上，文獻(xiàn)[13]將每個(gè)像素點(diǎn)空間鄰域信息作為CNN框架的輸入，同時(shí)為緩解梯度彌散，提高網(wǎng)絡(luò)執(zhí)行效率和分類(lèi)精度，對(duì)激活函數(shù)ReLU進(jìn)行了設(shè)計(jì)，研究表明mini-batch隨機(jī)梯度下降法可以提高CNN框架執(zhí)行效率，試驗(yàn)精度達(dá)到97.57%。CNN也在目標(biāo)檢測(cè)物的檢測(cè)、建筑物的提取中被廣泛應(yīng)用。文獻(xiàn)[14]利用DCNN構(gòu)建水體識(shí)別模型，先利用最大穩(wěn)定極值區(qū)域(MSER)算法對(duì)無(wú)人機(jī)高分辨率遙感影像進(jìn)行分割，通過(guò)輸入待識(shí)別目標(biāo)子區(qū)，導(dǎo)入DCNN水體識(shí)別模型識(shí)別水體，試驗(yàn)證明，識(shí)別精度高達(dá)95.36%。鑒于不同激活函數(shù)下的目標(biāo)檢測(cè)研究差異較大，文獻(xiàn)[15]利用CNN算法在不同激活函數(shù)應(yīng)用下對(duì)SAR影像目標(biāo)進(jìn)行識(shí)別試驗(yàn)，試驗(yàn)精度均達(dá)95%以上，同時(shí)得出ReLu函數(shù)為最適合的激活函數(shù)的結(jié)論。在建筑物的提取識(shí)別與分類(lèi)中，文獻(xiàn)[16]通過(guò)在CaffeNet學(xué)習(xí)框架下的農(nóng)村建筑物和非建筑物的影像進(jìn)行CNN訓(xùn)練和測(cè)試，建筑物識(shí)別率達(dá)到95.00%。當(dāng)然，CNN模型在研究中也存在一些缺陷，文獻(xiàn)[17]利用CNN在水田中提取地物特征進(jìn)行分析，根據(jù)不同的卷積核能提取不同的特征，又對(duì)富錦市遙感影像進(jìn)行了分類(lèi)試驗(yàn)及精度評(píng)價(jià)，但由于CNN的網(wǎng)絡(luò)性質(zhì)和參數(shù)的選擇，使線(xiàn)條特征提取模糊，分類(lèi)邊界粗糙，影響分類(lèi)效果。從上述具體應(yīng)用分析，對(duì)于不同的激活函數(shù)和不同的卷積核都會(huì)使試驗(yàn)精度不同，網(wǎng)絡(luò)性質(zhì)和參數(shù)的選擇也會(huì)有一定影響。

2.3 堆棧自動(dòng)編碼器在遙感影像識(shí)別與分類(lèi)中的應(yīng)用現(xiàn)狀

2.3.1 SAE算法簡(jiǎn)介

AE由編碼器和解碼器共同組成(SAE結(jié)構(gòu)模型如圖3所示)，經(jīng)過(guò)訓(xùn)練后，能夠?qū)⑤斎霃?fù)制到輸出，即編碼器輸入數(shù)據(jù)映射到特征空間，然后通過(guò)解碼器返回特征映射回到數(shù)據(jù)空間。SAE的學(xué)習(xí)過(guò)程取決于網(wǎng)絡(luò)最頂層有無(wú)標(biāo)簽信息而分為無(wú)監(jiān)督學(xué)習(xí)和有監(jiān)督學(xué)習(xí)過(guò)程。

2.3.2 SAE在遙感影像分類(lèi)與識(shí)別中具體應(yīng)用的研究進(jìn)展

SAE既可作為特征提取方法，也可自身作為分類(lèi)模型。早期，文獻(xiàn)[18]提出了AE-SVM和SAE-LR分類(lèi)器兩種分類(lèi)方案。SAE能提取更好的特征為SVM分類(lèi)識(shí)別做準(zhǔn)備，另外利用PCA提取空間信息，融合空-譜特征，利用SAE-LR分類(lèi)器進(jìn)行空-譜分類(lèi)要優(yōu)于SVM。利用空間特征在遙感影像中含有豐富的信息，文獻(xiàn)[19]通過(guò)構(gòu)建SAE來(lái)進(jìn)行高光譜遙感影像的分類(lèi)，并結(jié)合Softmax分類(lèi)器和利用AVIRIS和ROSIS數(shù)據(jù)集進(jìn)行驗(yàn)證，與稀疏多項(xiàng)式邏輯回歸相比，加入空間特征的SAE的方法更好。另外，在SAE算法提取光譜特征中加入能量函數(shù)會(huì)使試驗(yàn)效果更加明顯，文獻(xiàn)[20]采用SAE逐層提取光譜特征，并加入正則項(xiàng)的能量函數(shù)，使之最小化優(yōu)化網(wǎng)絡(luò)，實(shí)現(xiàn)深度空譜特征提取，并在此基礎(chǔ)上進(jìn)行多個(gè)試驗(yàn)，試驗(yàn)精度結(jié)果均明顯。另外，為解決高光譜遙感影像數(shù)據(jù)類(lèi)型復(fù)雜和分類(lèi)效率低等問(wèn)題，文獻(xiàn)[21]提出基于深度極限學(xué)習(xí)機(jī)的高光譜遙感影像分類(lèi)方法，首先將原訓(xùn)練集特征分割，利用SAE變換子特征，然后將SAE變換后的數(shù)據(jù)輸入D-ELM，通過(guò)試驗(yàn)確定D-ELM的隱含層數(shù)，進(jìn)而確定最終模型，其分類(lèi)精度較高。為解決高分辨率極化SAR影像標(biāo)注樣本費(fèi)時(shí)費(fèi)力和淺層算法有限的表達(dá)能力，文獻(xiàn)[22]研究了一種主動(dòng)深度學(xué)習(xí)的極化SAR圖像分類(lèi)方法，主要通過(guò)SAE對(duì)無(wú)標(biāo)記樣本實(shí)現(xiàn)無(wú)監(jiān)督學(xué)習(xí)，同時(shí)，利用少量無(wú)標(biāo)記樣本訓(xùn)練分類(lèi)器與SAE連接，有監(jiān)督地微調(diào)整個(gè)網(wǎng)絡(luò)，再利用分類(lèi)器對(duì)有價(jià)值樣本進(jìn)行人工標(biāo)記，重新訓(xùn)練。

3 深度學(xué)習(xí)在遙感影像識(shí)別與分類(lèi)中的問(wèn)題及發(fā)展趨勢(shì)

深度學(xué)習(xí)在遙感影像處理方面發(fā)展很快，但也存在不少問(wèn)題，總結(jié)闡述如下：

(1) DBN在發(fā)揮無(wú)監(jiān)督學(xué)習(xí)的特點(diǎn)時(shí)，能更好地提取影像特征，而且在遙感影像數(shù)據(jù)復(fù)雜、有限的基礎(chǔ)上，逐漸摸索出的DBN模型結(jié)構(gòu)參數(shù)對(duì)后人研究大有裨益，但是其網(wǎng)絡(luò)參數(shù)選擇需要人工和先驗(yàn)知識(shí)的干預(yù)，難以確定合適的試驗(yàn)參數(shù)。

(2) CNN在處理像高光譜數(shù)據(jù)的高維影像時(shí)優(yōu)勢(shì)明顯，但是遙感影像有限的樣本限制了CNN算法的泛化能力，另外，不同的激活函數(shù)、卷積核及網(wǎng)絡(luò)參數(shù)的選擇都會(huì)對(duì)試驗(yàn)精度和效果有所影響，合適的選擇會(huì)大大加強(qiáng)CNN執(zhí)行效率。

(3) SAE在現(xiàn)實(shí)應(yīng)用中發(fā)揮了無(wú)監(jiān)督分類(lèi)的特點(diǎn)，同時(shí)，在降維跟特征提取方面，比PCA方法產(chǎn)生更少的重構(gòu)誤差，但是仍需與其他分類(lèi)器聯(lián)合才能獲取分類(lèi)與識(shí)別的高精度，而且需要參數(shù)的優(yōu)化和人工標(biāo)記樣本等，這些都使得SAE并不是完全的無(wú)監(jiān)督學(xué)習(xí)。

結(jié)合上述存在的問(wèn)題，對(duì)未來(lái)深度學(xué)習(xí)在遙感影像分類(lèi)與識(shí)別中應(yīng)用的預(yù)測(cè)分析如下：

(1) 進(jìn)一步完善和調(diào)優(yōu)深度學(xué)習(xí)網(wǎng)絡(luò)參數(shù)和函數(shù)。不同的網(wǎng)絡(luò)參數(shù)和函數(shù)選擇會(huì)對(duì)研究項(xiàng)目的精度效果產(chǎn)生不同的影響，合理的選擇會(huì)對(duì)試驗(yàn)起到很大幫助。

(2) 向更深的模型層次和復(fù)雜的模型結(jié)構(gòu)展開(kāi)研究。深層次模型會(huì)帶來(lái)更加精確的結(jié)果，復(fù)雜的結(jié)構(gòu)會(huì)降低過(guò)擬合程度，從而提高模型學(xué)習(xí)能力，也對(duì)大規(guī)模訓(xùn)練數(shù)據(jù)有利。

(3) 深入探討樣本擴(kuò)容問(wèn)題。現(xiàn)有的遙感影像數(shù)據(jù)不滿(mǎn)足深度學(xué)習(xí)訓(xùn)練需求，研究者需結(jié)合圖像數(shù)據(jù)進(jìn)行平移、旋轉(zhuǎn)、縮放等方式產(chǎn)生更多有效數(shù)據(jù)，以提高模型精度。

(4) 搭建多算法結(jié)合的深度學(xué)習(xí)模型結(jié)構(gòu)。目前單一的深度學(xué)習(xí)模型難以達(dá)到遙感影像處理所需的精度，因此研究者多利用改進(jìn)模型提高精度，如SAE與SVM算法的結(jié)合。

4 結(jié) 語(yǔ)

本文簡(jiǎn)要介紹遙感影像分類(lèi)與識(shí)別算法發(fā)展歷程，發(fā)現(xiàn)其不斷向更迭的機(jī)器學(xué)習(xí)算法發(fā)展，然后闡述了深度學(xué)習(xí)的幾個(gè)典型算法，以及在具體遙感應(yīng)用層面算法的研究進(jìn)展，總結(jié)了各學(xué)習(xí)模型的發(fā)展和各自的優(yōu)缺點(diǎn)。通過(guò)與目前存在的其他機(jī)器學(xué)習(xí)算法在遙感分類(lèi)與識(shí)別中的研究相比，深度學(xué)習(xí)算法可以確保分類(lèi)精度并同時(shí)降低運(yùn)算復(fù)雜度。最后指出了深度學(xué)習(xí)應(yīng)用于遙感圖像存在的一些問(wèn)題，并根據(jù)這些問(wèn)題及現(xiàn)階段的深度學(xué)習(xí)發(fā)展預(yù)測(cè)了未來(lái)深度學(xué)習(xí)在遙感領(lǐng)域的研究范疇。