神經(jīng)網(wǎng)絡(luò)支持下的Sentinel-2衛(wèi)星影像自動云檢測

余長慧，于海威，張 文，孟令奎

(武漢大學(xué)遙感信息工程學(xué)院，湖北 武漢 430079)

隨著高分辨率對地觀測技術(shù)的發(fā)展，利用遙感影像快速提取地物信息已成為遙感應(yīng)用領(lǐng)域的重要工作。雖然目前已經(jīng)開發(fā)了許多衛(wèi)星影像分類方法以提取影像信息，但由于受云層遮擋影響，均難以實現(xiàn)精確、自動化提取。云層遮擋問題在光學(xué)影像中很普遍，相關(guān)研究表明，全球表面平均每年云覆蓋量接近66%[1- 2]。云的出現(xiàn)導(dǎo)致遙感影像局部模糊不清，很容易造成信息誤判。云檢測過程本質(zhì)上可視為一種影像分類或分割任務(wù)，近年來大量研究圍繞云檢測展開。文獻(xiàn)[3—4]提出一種Fmask(function of mask)算法用于Landsat 4- 7影像云和云影檢測；文獻(xiàn)[5]通過對比同一區(qū)域有云與無云影像，識別出云覆蓋范圍；文獻(xiàn)[6]將常用機(jī)器學(xué)習(xí)算法用于Sentinel- 2影像，實現(xiàn)云、雪、陰影和水體等對象的檢測；文獻(xiàn)[7]采用高斯混合模型擬合影像灰度直方圖自動確定云像素灰度閾值；文獻(xiàn)[8]采用改進(jìn)的顏色轉(zhuǎn)換模型、閾值分割及強(qiáng)度信息等進(jìn)行云檢測；文獻(xiàn)[9]利用支持向量機(jī)區(qū)分云和非云區(qū)域，采用詞包模型解決云特征多樣化問題；文獻(xiàn)[10]利用光譜、幾何、紋理等特征實現(xiàn)對GF- 1 WFV數(shù)據(jù)的云檢測；文獻(xiàn)[11]提出一種自適應(yīng)池化層嵌入神經(jīng)網(wǎng)絡(luò)模型用于資源三號衛(wèi)星影像云檢測；文獻(xiàn)[12]將GF- 1/2縮略圖分割成圖塊，建立多層卷積神經(jīng)網(wǎng)絡(luò)模型檢測云層覆蓋范圍；文獻(xiàn)[13]提出一種疊加顏色、紋理、結(jié)構(gòu)和統(tǒng)計信息的RGB圖像場景學(xué)習(xí)云檢測方法。

現(xiàn)有云檢測方法基本采用將整景影像分解成圖斑的方式，導(dǎo)致連續(xù)的云覆蓋現(xiàn)象被截斷，產(chǎn)生明顯具有塊狀效應(yīng)的云覆蓋區(qū)域，真實空間精確度低；同時，傳統(tǒng)云檢測方法需要大量人工特征設(shè)計[14]，且測試數(shù)據(jù)過少，存在過擬合問題，難以推廣泛化，實際應(yīng)用仍存在困難。針對以上問題，本文以Sentinel- 2衛(wèi)星影像為數(shù)據(jù)源，首先建立神經(jīng)網(wǎng)絡(luò)模型，通過預(yù)處理的遙感樣本訓(xùn)練得到云檢測模型，然后對影像進(jìn)行像素級分類獲取云覆蓋矩陣，最后結(jié)合云覆蓋矩陣準(zhǔn)確獲取任意感興趣區(qū)影像云量。

1 原理與方法

當(dāng)前各種圖像分類算法已比較成熟，尤其是以神經(jīng)網(wǎng)絡(luò)為代表的深度學(xué)習(xí)分類算法，能夠進(jìn)一步提高遙感影像分類及分割精度[15- 17]。但由于衛(wèi)星影像質(zhì)量難以保證，云層遮擋問題無法避免，遙感信息提取的實際效果始終受到制約?；谝陨蠈嶋H情況，本文著力解決高分辨率遙感影像信息提取中云干擾問題，總體方法流程如圖1所示。

1.1 遙感樣本準(zhǔn)備

神經(jīng)網(wǎng)絡(luò)模型性能在很大程度上受樣本數(shù)據(jù)影響，因此建立一個特征全面、類別均衡的大規(guī)模樣本數(shù)據(jù)集十分重要[18]。對遙感影像分類任務(wù)而言，可靠的驗證與測試數(shù)據(jù)需來源于全球不同地理位置、涉及所有可能地表類型與天氣狀態(tài)的衛(wèi)星影像。驗證數(shù)據(jù)用于在不同模型之間選擇最佳模型，是模型能否應(yīng)用于實際生產(chǎn)的關(guān)鍵，為保證模型對未知數(shù)據(jù)的預(yù)測能力，驗證數(shù)據(jù)必須能代表當(dāng)前業(yè)務(wù)中全面、未知的數(shù)據(jù)。測試數(shù)據(jù)用于評測模型最終效果，在訓(xùn)練過程中不可見，以確保通過測試數(shù)據(jù)評估出的模型性能與真實應(yīng)用場景下對未知數(shù)據(jù)的預(yù)測效果是接近的。本文采用驗證數(shù)據(jù)集、測試數(shù)據(jù)集進(jìn)行模型調(diào)整與測試。

數(shù)據(jù)源采用歐空局光學(xué)衛(wèi)星Sentinel- 2 L1C影像，該衛(wèi)星攜帶一個多光譜成像儀(MSI)，包含13個獨立波段，重訪周期為5 d，覆蓋可見光、近紅外、短波紅外等波譜范圍。本文采用文獻(xiàn)[6]從全球范圍選取的108景不同位置、時間和氣候的Sentinel- 2影像，并將均勻采樣和人工標(biāo)注方式建立的Sentinel- 2影像公開數(shù)據(jù)集作為模型的驗證測試數(shù)據(jù)。將驗證測試數(shù)據(jù)隨機(jī)劃分成互斥且同分布的驗證數(shù)據(jù)集與測試數(shù)據(jù)集，使得模型調(diào)整與測試過程獨立且一致。對于訓(xùn)練數(shù)據(jù)，則選取更大規(guī)模的Sentinel- 2影像建立一個全球性的訓(xùn)練數(shù)據(jù)集。每個樣本由一個像素組成，包含13個波段，空間分辨率為10 m(分辨率不足10 m的波段進(jìn)行重采樣)。樣本數(shù)據(jù)集由14 020 045個樣本組成，包括6 172 820個有云樣本和7 572 929個無云樣本，其中訓(xùn)練集樣本有13 439 636個，驗證集樣本有290 204個，測試集樣本有290 205個。

1.2 云檢測模型

1.2.1 模型架構(gòu)

深度神經(jīng)網(wǎng)絡(luò)(DNN)是一種有監(jiān)督學(xué)習(xí)的多層神經(jīng)網(wǎng)絡(luò)算法，由輸入層、帶有激活函數(shù)的隱藏層和輸出層等組成。網(wǎng)絡(luò)中的多層神經(jīng)元通過一系列非線性計算從原始像素中提取出圖像特征，并將其輸入分類器函數(shù)實現(xiàn)分類。原始像素輸入網(wǎng)絡(luò)后，先執(zhí)行前向傳播過程，每一層神經(jīng)元輸出值經(jīng)過激活函數(shù)計算后作為下一層的輸入，輸出層之后計算損失函數(shù)，并依據(jù)損失值通過梯度下降算法對各層權(quán)重等參數(shù)進(jìn)行迭代更新。

本文構(gòu)建的DNN網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示，該模型包含輸入層、5個隱藏層、輸出層、Softmax分類層。輸入層是一個1×n[0]的輸入向量，為保證模型的泛化性與穩(wěn)定性，該向量直接由重采樣后遙感影像n[0]個波段的原始像素構(gòu)成(n[0]表示輸入層節(jié)點個數(shù))，為降低計算成本，所有像素DN值均作縮小10 000倍處理。經(jīng)大量試驗發(fā)現(xiàn)，輸入層n[0]=4時(輸入向量構(gòu)成為:B02、B03、B04、B08波段)，模型在精確度和穩(wěn)定性上已表現(xiàn)出較優(yōu)性能。隱藏層用于自動計算影像抽象特征，每一層神經(jīng)元以全連接方式與前一層神經(jīng)元聯(lián)系，逐層深化特征提取。隱藏層中每層神經(jīng)元設(shè)置一個非線性激活函數(shù)，由于現(xiàn)實世界中絕大多數(shù)問題都是無法線性分割的，激活函數(shù)的引入可以增加網(wǎng)絡(luò)的復(fù)雜度，提高模型擬合復(fù)雜非線性問題的能力。模型激活函數(shù)采用修正線性單元(rectified linear units，ReLU)，其非飽和性特點能夠使網(wǎng)絡(luò)自行引入稀疏性，加快模型學(xué)習(xí)速度，減弱深層網(wǎng)絡(luò)信息丟失問題[19]。

1.2.2 模型目標(biāo)函數(shù)

云檢測本質(zhì)上是分類問題，DNN模型的原始輸出層是一個數(shù)值向量，每個輸出節(jié)點對應(yīng)一個數(shù)值。通過在神經(jīng)網(wǎng)絡(luò)末層添加Softmax函數(shù)，將前向傳播計算結(jié)果轉(zhuǎn)化為一個類別概率分布，從而實現(xiàn)分類決策。為評價模型輸出向量與期望向量的近似程度，引入代價函數(shù)作為目標(biāo)函數(shù)，計算方法為

(1)

式中，M為一次迭代輸入樣本批量；f為DNN云檢測模型；θ為模型參數(shù)，包括權(quán)重和偏置項；Loss為損失函數(shù)，本文采用交叉熵(cross entropy)損失函數(shù)，定義如下

(2)

式中，x(i)為第i個輸入樣本；f(x(i))為模型輸出的預(yù)測值概率分布；y(i)為對應(yīng)樣本真實標(biāo)簽；j為向量第j個元素。交叉熵函數(shù)刻畫了通過預(yù)測概率f(x)來表達(dá)真實概率y的困難程度，函數(shù)值越小模型輸出越接近真值。深度學(xué)習(xí)模型的學(xué)習(xí)過程本質(zhì)上是通過大量樣本訓(xùn)練，不斷迭代模型參數(shù)θ尋找代價函數(shù)的全局最優(yōu)解，樣本數(shù)據(jù)越全面得到的全局最優(yōu)解越可靠。

好的云檢測模型需要在復(fù)雜性(即對訓(xùn)練樣本的擬合精度)和泛化能力(即正確識別未知數(shù)據(jù)的能力)這對相斥因素之間達(dá)到最佳平衡。模型過于復(fù)雜或樣本數(shù)據(jù)較少很容易產(chǎn)生過擬合問題，這將導(dǎo)致模型記憶訓(xùn)練數(shù)據(jù)的隨機(jī)噪聲部分，對特定數(shù)據(jù)的擬合精度非常高，卻很難推廣泛化到新數(shù)據(jù)上。正則化方法可很好地避免過擬合問題，本文模型采用L2正則化，正則化系數(shù)為0.99，加入正則化后模型損失值計算方法如下

(3)

(4)

式中，JL(θ)為加入L2正則化后的代價函數(shù)，J(θ)由式(2)計算得出；λ為正則化系數(shù)；R(w)為L2正則化項，表示模型復(fù)雜度；L為網(wǎng)絡(luò)總層數(shù)(不包括分類層)；l為當(dāng)前層數(shù)；n[l]為第l層神經(jīng)元數(shù)量；i為上一層神經(jīng)元位置；j為當(dāng)前層神經(jīng)元位置；w為權(quán)重參數(shù)。加入正則化項能夠合理限制權(quán)重大小，避免擬合隨機(jī)噪聲特征，從而訓(xùn)練出更加平滑、通用的云檢測模型。

2 試驗與分析

2.1 模型訓(xùn)練與測試

構(gòu)建好DNN模型之后，批量輸入隨機(jī)打散的訓(xùn)練樣本進(jìn)行迭代訓(xùn)練，單批量樣本規(guī)模為1像素×1像素×4bands×256，試驗環(huán)境為Windows10下TensorFlow1.8。經(jīng)大量試驗發(fā)現(xiàn)，收斂速度更快的Adam等自適應(yīng)學(xué)習(xí)率梯度下降算法，由于在訓(xùn)練后期發(fā)生學(xué)習(xí)率震蕩，模型并未能收斂到全局最優(yōu)解；而結(jié)合SGD(隨機(jī)梯度下降)與學(xué)習(xí)率指數(shù)衰減法的梯度下降法效果更好，該方法能夠以較大的學(xué)習(xí)步長快速得到一個較優(yōu)解，并隨著迭代的進(jìn)行逐步縮小學(xué)習(xí)率，使模型在訓(xùn)練后期更加穩(wěn)定地收斂于全局最優(yōu)解。DNN模型初始化學(xué)習(xí)率為0.01，學(xué)習(xí)率衰減率設(shè)置為0.99。

訓(xùn)練過程中模型在驗證集上的準(zhǔn)確率變化如圖3所示，可以看出在前10 000次迭代中，云檢測DNN模型的準(zhǔn)確率快速增加，并在20 000次后趨于穩(wěn)定，經(jīng)歷200 000次迭代后，模型的最終總體準(zhǔn)確率達(dá)到90.4%。為定量評價云檢測模型在測試集上的性能表現(xiàn)，計算得到模型對290 205個測試數(shù)據(jù)的云像素召回率(Recall)為88.29%，查準(zhǔn)率(Precision)為91.10%。

2.2 云檢測效果

選取5景Sentinel- 2衛(wèi)星影像作為試驗數(shù)據(jù)驗證DNN模型的實際檢測效果，檢測效果如圖4所示。第1行為原始輸入影像，第2行為云檢測結(jié)果，第3行為云檢結(jié)果與原影像疊加效果圖。考慮到地物類型和時間不同對檢測結(jié)果的影響，選取影像覆蓋了不同地物：圖4(a)和圖4(b)主要地物為農(nóng)田和山地，圖4(c)—(e)主要地物為城鎮(zhèn)和水域，其中圖4(a)、(b)和圖4(c)、(d)各為同一區(qū)域不同時間影像。圖4(b)和圖4(d)中主要包含卷云和薄云，圖4(c)和圖4(e)中部分區(qū)域被厚云覆蓋，圖4(a)中分布著大量碎云。

從圖4可以看出：本文提出的云檢測方法，在5組測試數(shù)據(jù)中獲得了良好的云檢測效果，原始影像上的厚云、卷云和絕大多數(shù)薄云均被檢測了出來。圖4(a)—(c)和圖4(e)檢測出的云邊界清晰，總體精度均在95%以上，部分細(xì)小的目視不易察覺的薄云也能被檢測出來，基本不存在誤檢與漏檢現(xiàn)象。圖4(d)的總體精度較低，不足92%，主要是由于誤檢造成的，經(jīng)分析主要有以下兩個因素：一是存在把薄云周圍的非云像素誤檢為云像素的問題，因為標(biāo)注薄云樣本時界限判定會存在誤差，即使人工目視解譯也很難確定薄云的明確界限；二是部分建筑高亮區(qū)域被誤判為云對象，在非建筑區(qū)提取工作中，感興趣區(qū)外檢測值會被掩蓋掉，不參與最終云量計算，對實際應(yīng)用影響較小。根據(jù)上述分析發(fā)現(xiàn)，本文提出的云檢測方法效果較好，能夠識別高分辨率影像中復(fù)雜的云覆蓋特征；空間精度較高，檢測結(jié)果對應(yīng)原始影像空間分辨率，能夠滿足任意不規(guī)則區(qū)域的云檢測任務(wù)。

3 結(jié) 論

針對遙感信息提取工作中含云影像地物誤判問題，本文提出了一種面向地物目標(biāo)范圍的高分辨率衛(wèi)星影像自動云檢測方法。與現(xiàn)有方法相比，本文方法有以下優(yōu)點：①通過DNN自動提取圖像抽象特征，而且提取出的圖像特征具有很強(qiáng)的代表性，無需進(jìn)行煩瑣的人工特征設(shè)計；②云檢測結(jié)果與原影像空間分辨率相同，呈現(xiàn)為連續(xù)的云覆蓋現(xiàn)象，真實空間精度高；③模型基于大規(guī)模遙感樣本訓(xùn)練而成，泛化能力較強(qiáng)，同時由于其數(shù)據(jù)驅(qū)動性特點，計算結(jié)果又可作為補(bǔ)充樣本進(jìn)一步提高模型性能。后續(xù)研究將嘗試采用語義分割法分割出云區(qū)，借助更多語義信息解決高亮建筑區(qū)像素誤判問題，從而進(jìn)一步提高云檢測精度。