數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)的深度學(xué)習(xí)高光譜圖像分類

龔智強(qiáng),胡衛(wèi)東,杜小勇,鐘平,姚雯

(1.軍事科學(xué)院 國(guó)防科技創(chuàng)新研究院,北京 100000;2.國(guó)防科技大學(xué) 電子科學(xué)學(xué)院,長(zhǎng)沙 410073)

0 引言

隨著星載空載傳感器發(fā)展,人們能夠大量獲取含有數(shù)十乃至上百光譜維度的高光譜遙感圖像。此外,高光譜遙感圖像往往同時(shí)有著較高的空間分辨率。豐富的空間以及光譜信息使得高光譜遙感數(shù)據(jù)廣泛應(yīng)用于軍事、精細(xì)化農(nóng)業(yè)、環(huán)境監(jiān)控、城市規(guī)劃等方面[1]。高光譜圖像分類任務(wù)通過(guò)對(duì)高光譜圖像中的像素進(jìn)行類別判定,從而實(shí)現(xiàn)地物類別的自動(dòng)識(shí)別,是高光譜圖像處理過(guò)程中基礎(chǔ)且關(guān)鍵的任務(wù)。高光譜圖像本身特殊的數(shù)據(jù)特點(diǎn),使得高光譜遙感圖像分類方法在應(yīng)用過(guò)程中面臨以下挑戰(zhàn)。首先,類別間相似性高,使得分類任務(wù)具有較高的錯(cuò)誤率。其次,高光譜遙感圖像雖然含有豐富的光譜信息,然而隨著光譜維度的大幅增加,由于維數(shù)災(zāi)難的存在,有限的訓(xùn)練樣本難以確保模型參數(shù)估計(jì)的精度,并產(chǎn)生Hughes現(xiàn)象。此外,高光譜遙感圖像通常需要專家標(biāo)定獲取訓(xùn)練樣本,成本較高,使得帶標(biāo)記訓(xùn)練樣本較為有限,遠(yuǎn)遠(yuǎn)無(wú)法滿足高光譜遙感圖像深度模型訓(xùn)練的需求[2]。

深度學(xué)習(xí)模型以其強(qiáng)大的非線性特征表達(dá)能力,逐漸成為高光譜遙感圖像分類任務(wù)研究的主流方法之一[3]。深度學(xué)習(xí)模型的本質(zhì)是通過(guò)深度學(xué)習(xí)過(guò)程使得深度模型具有從數(shù)據(jù)中提取數(shù)據(jù)自身抽象特征的能力。然而深度學(xué)習(xí)通常都是數(shù)據(jù)驅(qū)動(dòng)的,往往忽略了數(shù)據(jù)內(nèi)在的結(jié)構(gòu)關(guān)系,即類別樣本先驗(yàn)分布知識(shí)。如圖1所示,面向高光譜遙感圖像分類任務(wù)的深度學(xué)習(xí)方法通常采用單個(gè)樣本信息以及基于樣本間關(guān)系構(gòu)造損失函數(shù)兩種方式訓(xùn)練。

圖1 傳統(tǒng)數(shù)據(jù)驅(qū)動(dòng)深度學(xué)習(xí)方法

基于單個(gè)樣本信息構(gòu)造的損失函數(shù)主要通過(guò)度量高光譜遙感圖像樣本預(yù)測(cè)類別標(biāo)簽和真實(shí)樣本標(biāo)簽之間的差異構(gòu)造懲罰項(xiàng)訓(xùn)練深度模型,例如softmax損失函數(shù)及其變種[4]?；跇颖鹃g相互關(guān)系構(gòu)造的損失函數(shù)則主要利用樣本之間關(guān)系構(gòu)造深度學(xué)習(xí)訓(xùn)練方法[5],即利用高光譜遙感圖像樣本間相互關(guān)系訓(xùn)練深度模型,以增加深度模型從不同類別提取特征的顯著性。

以往這些訓(xùn)練方法主要是面向自然圖像處理等任務(wù)提出,然而高光譜遙感圖像有其自身獨(dú)特的特點(diǎn),高光譜遙感數(shù)據(jù)維度高、數(shù)據(jù)量大、訓(xùn)練樣本數(shù)量有限,使得一般深度學(xué)習(xí)方法在應(yīng)用到遙感圖像領(lǐng)域時(shí),其性能受到很大限制。此外,深度學(xué)習(xí)過(guò)程無(wú)法有效地表達(dá)高光譜遙感圖像的光譜維度信息。高光譜遙感圖像通常具有數(shù)十至上百光譜維度,含有豐富的光譜維度信息。然而傳統(tǒng)深度學(xué)習(xí)模型具有從圖像中變分辨率地提取空間信息的結(jié)構(gòu),卻缺少相應(yīng)變分辨率地提取光譜信息的結(jié)構(gòu)。同時(shí)受云層、光照以及傳感器噪聲等因素干擾,高光譜遙感圖像同類別光譜通常具有明顯可變性,不同類別光譜具有明顯光譜重疊性。因此通過(guò)數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)作為類別先驗(yàn)知識(shí)構(gòu)造充分利用其光譜信息的深度學(xué)習(xí)方法,得到適用于高光譜遙感圖像的特征提取模型,不僅能顯著提升分類性能,還能為后續(xù)進(jìn)一步的高光譜遙感圖像處理提供較好的模型,這也是本文的主要研究動(dòng)機(jī)。

總地來(lái)說(shuō),本文有如下創(chuàng)新點(diǎn):在類別先驗(yàn)分布模型基礎(chǔ)上面向高光譜遙感圖像定義數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu),并能夠有效表述并利用高光譜遙感圖像獨(dú)有的類別特性;基于數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu),提出一種面向高光譜遙感圖像分類任務(wù)的新型深度學(xué)習(xí)訓(xùn)練方法;通過(guò)實(shí)驗(yàn)對(duì)比結(jié)果,驗(yàn)證了本文數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法對(duì)于高光譜遙感圖像分類任務(wù)的有效性。

1 高光譜遙感數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)

令{(x1,y1),(x2,y2),…,(xN,yN)}表示高光譜遙感圖像訓(xùn)練樣本集,其中xs(s=1,2,…,N)表示深度模型提取高光譜圖像特征,N表示訓(xùn)練樣本的數(shù)量,ys∈cl是xs的類別標(biāo)簽。cl={c1,c2,…,cΛ}表示類別集合,Xm表示類別cm(m=1,…,Λ)的樣本集合,其中Λ表示高光譜遙感圖像類別數(shù)。

1.1 數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)定義

數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)定義為描述高光譜遙感圖像不同樣本之間、樣本與類別之間以及樣本子集與類別之間相互關(guān)系的模型,且是拓?fù)潢P(guān)系在遙感圖像的具體表現(xiàn)(拓?fù)潢P(guān)系指滿足拓?fù)鋷缀螌W(xué)原理的各空間數(shù)據(jù)之間相互關(guān)系)。為了便于理解,本文從數(shù)學(xué)集合角度闡述數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu),點(diǎn)表示高光譜遙感圖像的不同樣本,集合描述為不同類別樣本集合或其子集,則點(diǎn)與點(diǎn)之間關(guān)系表示高光譜遙感圖像不同樣本之間相互關(guān)系,點(diǎn)與集合之間關(guān)系表示樣本與類別之間關(guān)系,集合與集合之間關(guān)系表示樣本子集與類別之間相互關(guān)系。

點(diǎn)與點(diǎn)之間關(guān)系(point-to-point correlation)是較簡(jiǎn)單的數(shù)據(jù)間關(guān)系,用于描述高光譜遙感圖像樣本與樣本間的相互關(guān)系(圖2(a)),可通過(guò)距離以及相似性關(guān)系等度量衡量其相似性關(guān)系。距離度量通常采用歐氏距離描述樣本間關(guān)系;相似性度量通過(guò)不同樣本特征向量間角度衡量樣本間相似度。然而點(diǎn)與點(diǎn)之間關(guān)系將樣本作為主體考慮數(shù)據(jù)間關(guān)系,忽略了不同數(shù)據(jù)的特殊性,也就是類別整體內(nèi)在拓?fù)浣Y(jié)構(gòu)關(guān)系,即類別先驗(yàn)?zāi)Ｐ托畔ⅰ?/p>

點(diǎn)與集合之間關(guān)系(point-to-set correlation)則通過(guò)單個(gè)樣本同類別整體間關(guān)系考慮數(shù)據(jù)間結(jié)構(gòu)關(guān)系作為先驗(yàn)?zāi)Ｐ?。圖2(b)展示了點(diǎn)與集合間結(jié)構(gòu)關(guān)系模型,其中類別集合用于描述不同的類別樣本集合。如圖所示,樣本同類別集合之間的關(guān)系轉(zhuǎn)化為樣本同類別集合的歸屬關(guān)系,即樣本點(diǎn)是否屬于類別集合。通常類別集合可以采用有參數(shù)(即model-based parametric model)或無(wú)參數(shù)(即model-free non-parametric model)的類別模型進(jìn)行描述。將類別模型作為先驗(yàn)融入深度模型訓(xùn)練過(guò)程中,可以提高模型對(duì)高光譜遙感圖像的表述能力。這種關(guān)系從類別先驗(yàn)的角度出發(fā)探索高光譜遙感數(shù)據(jù)之間的關(guān)系,使得在訓(xùn)練過(guò)程中能更好地利用特定數(shù)據(jù)的內(nèi)蘊(yùn)結(jié)構(gòu)信息,從而提高深度模型的表述能力。

圖2 高光譜遙感圖像數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)

集合與集合之間關(guān)系(set-to-set correlation)以樣本子集為單元考慮構(gòu)建類別關(guān)系模型,形成類別先驗(yàn)?zāi)Ｐ陀糜谏疃饶Ｐ陀?xùn)練,提高模型對(duì)高光譜遙感圖像特征提取能力,如圖2(c)所示。此外,通過(guò)考慮不同類別樣本子集之間相互關(guān)系可以有效表述不同類別之間顯著信息,從而提高深度模型的分類性能。

本文數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法主要利用高光譜遙感圖像類別先驗(yàn)特性,通過(guò)樣本點(diǎn)與類別集合之間關(guān)系以及類別樣本子集與類別集合之間關(guān)系,構(gòu)造新型深度學(xué)習(xí)方法,從而提高分類性能。

1.2 數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)的特殊形式

本文根據(jù)高光譜遙感圖像不同的內(nèi)蘊(yùn)特性,在不同度量空間探索不同的內(nèi)蘊(yùn)結(jié)構(gòu)特性,將數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)抽象為拓?fù)潢P(guān)系在不同度量空間中的特殊表現(xiàn)形式,并根據(jù)不同表現(xiàn)形式分別構(gòu)造了不同數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)的深度學(xué)習(xí)方法。

特殊形式1:基于歐氏距離空間度量,可以直接定義類別中心點(diǎn),從而得到用于描述遙感圖像樣本聚散關(guān)系的廣義聚類特性。

特殊形式2:基于馬氏距離度量,通過(guò)類別樣本均值和方差構(gòu)造基于概率統(tǒng)計(jì)模型的類別模型,描述遙感圖像的統(tǒng)計(jì)特性。特別地,可以利用多元正態(tài)分布作為不同類別的類別模型構(gòu)造數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)模型。

特殊形式3:基于黎曼流形度量,通過(guò)低維流形結(jié)構(gòu)構(gòu)造類別模型,描述高光譜遙感圖像高維空間低維流形特性。基于流形結(jié)構(gòu)構(gòu)造的類別模型是無(wú)參數(shù)模型。通常采用Isomap等基于層級(jí)聚類等方法進(jìn)行流形結(jié)構(gòu)建模[6]。通常基于流形建模,不同類別可以劃分為k個(gè)低維線性流形結(jié)構(gòu)。

2 數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)的深度學(xué)習(xí)方法

2.1 基于點(diǎn)與集合間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系的深度學(xué)習(xí)方法

假設(shè)高光譜遙感圖像特征提取模型為映射φ(·)。類別先驗(yàn)?zāi)Ｐ头謩e為f1(·),f2(·),…,fΛ(·),其中fm(·)表示類別cm的先驗(yàn)?zāi)Ｐ?。則給定樣本xs,針對(duì)不同類別的概率分布可表述為f1(φ(xs)),f2(φ(xs)),…,fΛ(φ(xs))。

基于樣本同類別模型之間適應(yīng)度關(guān)系構(gòu)造。增加點(diǎn)到同類別模型之間適應(yīng)度,減小與其他類別之間適應(yīng)度,基于點(diǎn)與集合間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系構(gòu)造的深度學(xué)習(xí)方法可轉(zhuǎn)化為式(1)。

(1)

式中:I(·)表示示性函數(shù),即當(dāng)條件為真值為1,條件為假值為0。

通過(guò)交叉熵的方法基于類別概率分布構(gòu)造深度學(xué)習(xí)方法。在先驗(yàn)?zāi)Ｐ偷募僭O(shè)下,樣本xs屬于不同類別概率分布可表示為式(2)。

(2)

式中:p(cm)是類別cm的先驗(yàn)分布。這種方法通常需要確切的類別先驗(yàn)?zāi)Ｐ?因此fm(xs)可以采用歐氏距離度量D(xi)、馬氏距離度量N(xs;μm,σm)以及其他一些先驗(yàn)?zāi)Ｐ?。因?樣本在不同類別上的概率分布為{p(c1|xs,f1(·)),p(c2|xs,f2(·)),…,p(cΛ|xs,fΛ(·))}。根據(jù)樣本實(shí)際類別,其真實(shí)概率分布可表示為在實(shí)際類別處概率為1,其余類別概率為0。故基于交叉熵原理,點(diǎn)與集合之間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系驅(qū)動(dòng)深度學(xué)習(xí)方法可表示為式(3)。

(3)

2.2 基于集合與集合間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系的深度學(xué)習(xí)方法

集合與集合之間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系構(gòu)造的深度學(xué)習(xí)方法主要是基于Fisher判別準(zhǔn)則[7]構(gòu)造的。Fisher判別準(zhǔn)則旨在尋求一個(gè)特征映射空間,使得同類別樣本形成特征投影值的距離盡量小,同時(shí)不同類別之間特征投影值距離盡可能大。

給定類別cm和cn,則其類別先驗(yàn)?zāi)Ｐ涂梢苑謩e表示為fm(φ(x)|θm)和fn(φ(x)|θn),其中θm和θn分別表示類別模型參數(shù)。根據(jù)Fisher判別準(zhǔn)則,需要減少類別內(nèi)部樣本之間差異性或樣本同類別模型之間的適應(yīng)性。此外,基于多樣化原則[8],需要增加不同類別模型之間差異性從而提高不同類別之間顯著性?；谏鲜鲈瓌t集合與集合間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系驅(qū)動(dòng)深度學(xué)習(xí)方法可表示為式(4)。

(4)

式中:Df(·)表示度量不同類別之間關(guān)系的度量函數(shù);Ds(·)表示度量同類別樣本子集間關(guān)系的函數(shù);Δ為margin常數(shù)。通常Ds(·)可以采用樣本集合的方差、同類樣本子集之間相似性等來(lái)描述,Df(·)則可通過(guò)不同類樣本子集之間差異性、不同類別均值之間差異性等形式描述。

2.3 具體形式

面向高光譜遙感圖像分類的數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法構(gòu)造方式如圖3所示,其具體表現(xiàn)主要有:點(diǎn)與集合關(guān)系方面,基于距離度量特殊形式1的center loss[9]和基于馬氏距離度量特殊形式2的Gaussian mixture(GM) loss[10];集合與集合關(guān)系方面,基于馬氏距離度量的統(tǒng)計(jì)損失函數(shù)(statistical loss)[11]和基于黎曼流形度量特殊形式3的深度流形嵌入深度學(xué)習(xí)方法[12]。

中心損失函數(shù)是一種基于歐式距離度量構(gòu)造的數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法。該方法通過(guò)定義不同類別中心點(diǎn),并增加點(diǎn)到同類別模型之間適應(yīng)度,提高深度模型對(duì)高光譜遙感圖像特征提取能力。

除此之外,還有利用類別概率分布先驗(yàn)并基于熵構(gòu)造面向高光譜遙感圖像分類任務(wù)的優(yōu)化損失函數(shù),即高斯混合損失函數(shù)。

類似于GM loss,統(tǒng)計(jì)損失函數(shù)同樣是基于高斯模型類別先驗(yàn)假設(shè)。不同的是統(tǒng)計(jì)損失函數(shù)是基于集合與集合間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系構(gòu)造,利用統(tǒng)計(jì)內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系假設(shè)以及Fisher判別準(zhǔn)則,并通過(guò)Lagrange multiplier和多元統(tǒng)計(jì)分析理論,即可構(gòu)造得到。

不同于統(tǒng)計(jì)損失函數(shù),深度流形嵌入(deep manifold embedding method,DMEM)則是利用高光譜遙感圖像高維空間低維流形特性,通過(guò)對(duì)高光譜遙感圖像進(jìn)行流形建模,各個(gè)類別可以建模為多個(gè)低維線性流形?；贔isher判別準(zhǔn)則,DMEM通過(guò)減少同類別不同子類線性流形距離,增加不同類別子類線性流形間距離,提高深度模型對(duì)高光譜遙感圖像的表述能力。

3 實(shí)驗(yàn)

3.1 實(shí)驗(yàn)數(shù)據(jù)集和實(shí)驗(yàn)設(shè)置

實(shí)驗(yàn)主要在通過(guò)ROSIS-3以及AVIRIS等不同傳感器得到的3個(gè)常見高光譜遙感數(shù)據(jù)庫(kù)上進(jìn)行,即Pavia University、Indian Pines和Salinas Scene。其中Pavia University數(shù)據(jù)選取9個(gè)類別42 776個(gè)帶標(biāo)記訓(xùn)練樣本。Indian Pines數(shù)據(jù)選取16個(gè)類別共10 249個(gè)帶標(biāo)記樣本用于實(shí)驗(yàn)。Salinas Scene數(shù)據(jù)選取16個(gè)類別共54 129個(gè)帶標(biāo)記樣本驗(yàn)證本文方法的有效性。

實(shí)驗(yàn)中深度模型結(jié)構(gòu)選擇圖4所示的網(wǎng)絡(luò)模型,并對(duì)比分析softmax loss、點(diǎn)與點(diǎn)之間關(guān)系的學(xué)習(xí)方法(以structured loss為例)、center loss、GM loss、statistical loss DMEM等方法性能。分類性能通過(guò)總體分類精度(overall accuracy,OA)、平均分類精度(average accuracy,AA)、Kappa系數(shù)3個(gè)指標(biāo)評(píng)價(jià)。

圖4 本文數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法采用的CNN結(jié)構(gòu)

3.2 實(shí)驗(yàn)結(jié)果和對(duì)比分析

在Pavia University和Salinas Scene數(shù)據(jù)庫(kù)上,每個(gè)類別分別采用200個(gè)和10個(gè)訓(xùn)練樣本測(cè)試方法的性能,表1和表2分別列出Pavia University數(shù)據(jù)庫(kù)不同訓(xùn)練樣本數(shù)量下高光譜遙感圖像分類性能,圖5則顯示了該數(shù)據(jù)庫(kù)上不同深度學(xué)習(xí)方法訓(xùn)練深度模型分類后的可視化效果圖,類似地,表3和表4及圖6列出了在Salinas Scene數(shù)據(jù)庫(kù)上結(jié)果。在Indian Pines數(shù)據(jù)庫(kù)上,每個(gè)類別分別采用20%和1%訓(xùn)練樣本訓(xùn)練深度模型,表5、表6及圖7則分別顯示了分類結(jié)果和可視化效果圖。

表1 Pavia University數(shù)據(jù)庫(kù)分類結(jié)果(每個(gè)類別使用200個(gè)樣本訓(xùn)練)

表2 Pavia University數(shù)據(jù)庫(kù)分類結(jié)果(每個(gè)類別使用10個(gè)樣本訓(xùn)練)

表3 Salinas Scene數(shù)據(jù)庫(kù)分類結(jié)果(每個(gè)類別使用200個(gè)樣本訓(xùn)練)

表4 Salinas Scene數(shù)據(jù)庫(kù)分類結(jié)果(每個(gè)類別使用10個(gè)樣本訓(xùn)練)

表5 Indian Pines數(shù)據(jù)庫(kù)分類結(jié)果(每個(gè)類別使用20%樣本訓(xùn)練)

表6 Indian Pines數(shù)據(jù)庫(kù)分類結(jié)果(每個(gè)類別使用1%樣本訓(xùn)練)

圖5 Pavia University數(shù)據(jù)庫(kù)分類圖(每個(gè)類別200個(gè)訓(xùn)練樣本)

圖6 Salinas Scene數(shù)據(jù)庫(kù)分類圖(每個(gè)類別200個(gè)訓(xùn)練樣本)

圖7 Indian Pines數(shù)據(jù)庫(kù)分類圖(每個(gè)類別20%訓(xùn)練樣本)

從表1～表6在3個(gè)數(shù)據(jù)庫(kù)上的分類結(jié)果以及分類可視化圖5～圖7可以得到如下結(jié)論。

1)基于數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)的深度學(xué)習(xí)方法顯著優(yōu)于傳統(tǒng)基于點(diǎn)與點(diǎn)之間關(guān)系構(gòu)造的深度學(xué)習(xí)方法。并且,structured loss優(yōu)于傳統(tǒng)softmax loss,基于數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系的新型深度學(xué)習(xí)方法則優(yōu)于structured loss,特別是小樣本情況下。對(duì)于Indian Pines數(shù)據(jù)庫(kù),采用1%訓(xùn)練樣本,GM loss甚至能取得14%的性能優(yōu)勢(shì),對(duì)于Salinas Scene和Pavia University數(shù)據(jù)庫(kù),每個(gè)類別采用10個(gè)訓(xùn)練樣本情況下,statistical loss則可取得4%左右的性能提升。

2)不同度量空間下內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法針對(duì)不同情形分類性能有所異同。從實(shí)驗(yàn)結(jié)果可以知道,基于馬氏距離度量空間的GM loss和statistical loss在較少訓(xùn)練樣本情況下能取得一定性能優(yōu)勢(shì),基于黎曼流形度量空間的manifold loss則在通常訓(xùn)練樣本情況下有一定性能優(yōu)勢(shì)。例如,表2中GM loss和statistical loss分別取得84.39%和86.97%的性能,DMEM則取得83.48%的性能。表6中GM loss和statistical loss則分別取得85.25%和79.60%的性能,DMEM則取得72.51%的性能。表1和表3中DMEM則分別取得99.52%和97.80%的性能優(yōu)于statistical loss和GM loss。此外,基于歐氏距離度量的center loss則有更強(qiáng)的泛化性,甚至可以用于無(wú)監(jiān)督深度學(xué)習(xí)中。

3)集合與集合之間關(guān)系模型利用了類別同類別之間更復(fù)雜內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系模型,能取得優(yōu)于基于點(diǎn)與集合之間內(nèi)蘊(yùn)結(jié)構(gòu)關(guān)系構(gòu)造深度學(xué)習(xí)方法的分類性能。從表1～表6可以發(fā)現(xiàn),同樣是基于馬氏距離度量空間的GM loss和statistical loss,基于集合與集合之間關(guān)系的statistical loss明顯優(yōu)于GM loss。statistical loss比GM loss對(duì)樣本需求量略高,因此1%訓(xùn)練樣本的Indian Pines數(shù)據(jù)庫(kù)(不同類別訓(xùn)練樣本數(shù)近半數(shù)小于等于5個(gè),甚至有幾個(gè)類別采用1個(gè)訓(xùn)練樣本)時(shí),GM loss比statistical loss得到了更優(yōu)的性能。

此外,本文選取CNN-PPF[13]、Contextual DCNN[14]、Deep Spec-Spac[15]、CDSAE[16]、DPP-DML-MS-CNN作為基準(zhǔn)方法,同statistical loss和DMEM進(jìn)行對(duì)比,對(duì)比結(jié)果見表7和表8。從表中結(jié)果可以發(fā)現(xiàn),本文方法訓(xùn)練的深度模型明顯優(yōu)于其他方法,也驗(yàn)證了本文所提數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法的有效性。

表7 Pavia University數(shù)據(jù)庫(kù)上不同方法對(duì)比分析結(jié)果(每個(gè)類別200個(gè)訓(xùn)練樣本)

表8 Salinas Scene數(shù)據(jù)庫(kù)上不同方法對(duì)比分析結(jié)果(每個(gè)類別200個(gè)訓(xùn)練樣本)

4 結(jié)束語(yǔ)

本文提出面向高光譜遙感圖像分類的數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)新型深度學(xué)習(xí)訓(xùn)練方法,從高光譜數(shù)據(jù)本身類別先驗(yàn)?zāi)Ｐ徒嵌瘸霭l(fā)構(gòu)造深度學(xué)習(xí)訓(xùn)練方法,使得深度模型能夠更好地表述高光譜遙感圖像,并提高分類性能。通過(guò)實(shí)驗(yàn)對(duì)比分析,數(shù)據(jù)內(nèi)蘊(yùn)結(jié)構(gòu)驅(qū)動(dòng)深度學(xué)習(xí)方法利用了其內(nèi)在結(jié)構(gòu)關(guān)系,更適用于高光譜遙感圖像分類任務(wù),從而得到更優(yōu)的分類性能。