基于小樣本分類的光譜圖像關(guān)聯(lián)特征降維挖掘

于春霞,車銀超

(1. 黃河科技學(xué)院信息工程學(xué)院,河南 鄭州 450046;2. 河南農(nóng)業(yè)大學(xué)信息與管理科學(xué)學(xué)院,河南 鄭州 450046)

1 引言

高光譜圖像[1-2]憑借其自身豐富的空間-光譜信息在地學(xué)、環(huán)境保護(hù)、國(guó)防軍事等領(lǐng)域具有重要參考價(jià)值。近年來,隨著成像光譜技術(shù)的發(fā)展以及圖像處理技術(shù)、模式識(shí)別技術(shù)領(lǐng)域的深入研究,使光譜圖像處理技術(shù)得到了有效進(jìn)步,顯著提升了高光譜圖像的光譜分辨率以及空間分辨率,圖像中地物辨別信息的增加,突出了光譜圖像波段多、數(shù)據(jù)維度高等問題。

因此對(duì)光譜圖像的關(guān)聯(lián)特征挖掘已經(jīng)成為現(xiàn)階段圖像處理領(lǐng)域亟待解決的問題之一。韓彥嶺等人[3]提出一種基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法。利用主成分分析方法提取光譜圖像中主成分,結(jié)合殘差網(wǎng)絡(luò)抽取圖像中的地物空間譜特征;利用卷積反向算法對(duì)抽取的特征圖像完成擴(kuò)充處理,通過處理結(jié)果將不同維度的圖像特征進(jìn)行特征融合,充分挖掘光譜圖像的深度特征信息,實(shí)現(xiàn)光譜圖像關(guān)聯(lián)特征的準(zhǔn)確挖掘。劉嘉敏等人[4]提出一種基于特征重構(gòu)融合的高光譜圖像分類方法。對(duì)光譜圖像像素點(diǎn)完成LBP提取,獲取圖像的LBP特征值;基于標(biāo)簽信息法去除像素點(diǎn)鄰域空間塊的背景像素,獲取新的領(lǐng)域空間塊,計(jì)算像素權(quán)重構(gòu)建特征值;將提取的LBP特征與重構(gòu)特征融合處理,結(jié)合最近鄰分類器完成特征分類,完成圖像的關(guān)聯(lián)特征挖掘。張因國(guó)[5]提出一種基于特征重要性的高光譜圖像分類方法。建立隨機(jī)森林模型并通過貝葉斯對(duì)其展開優(yōu)化訓(xùn)練,通過優(yōu)化結(jié)果進(jìn)行圖像特征重要性評(píng)估;再根據(jù)評(píng)估結(jié)果選取適量數(shù)目的圖像波段作為訓(xùn)練樣本;通過三維的卷積神經(jīng)網(wǎng)絡(luò)對(duì)波段樣本完成提取分類,實(shí)現(xiàn)光譜圖像的關(guān)聯(lián)特征挖掘。

由于上述已有方法未能在特征挖掘前對(duì)圖像實(shí)現(xiàn)降維,無法實(shí)現(xiàn)光譜圖像相鄰波段的強(qiáng)相關(guān)性,圖像高維特征冗余問題仍較為顯著。為進(jìn)一步解決該問題,本研究提出基于小樣本分類的光譜圖像關(guān)聯(lián)特征挖掘方法。

2 預(yù)處理

2.1 降維

采用蒙特卡羅算法[6,7]對(duì)光譜圖像完成降維處理,建立的概率模型,根據(jù)模擬估計(jì)獲取統(tǒng)計(jì)規(guī)律,并將統(tǒng)計(jì)概率作為衡量參數(shù),從而實(shí)現(xiàn)圖像降維。

(1)

式中,α為概率模型特征波段參數(shù),第i個(gè)訓(xùn)練樣本的波段特征為αi。

利用概率模型特征波段參數(shù),隨機(jī)選取樣本編碼,并結(jié)合剩余未選取樣本建立樣本的編碼向量(Bj),重新計(jì)算光譜圖像樣本特征波段參數(shù),過程如下式所示

(2)

蒙特卡羅算法統(tǒng)計(jì)量的可靠性主要依據(jù)于實(shí)驗(yàn)結(jié)果,因此統(tǒng)計(jì)獨(dú)立隨機(jī)數(shù)是評(píng)定算法效果的關(guān)鍵,利用Logistic方程,獲取大量不重復(fù)分布的隨機(jī)數(shù),對(duì)光譜圖像數(shù)據(jù)信息樣本完成排序,從而保證訓(xùn)練樣本處于均勻分布狀態(tài),過程如下式所示

(3)

2.2 圖像去噪

圖像完成降維后,通過稀疏與低秩矩陣分解方法實(shí)現(xiàn)光譜圖像的去噪[8,9]。

建立光譜圖像的二維矩陣Ψ∈Rm×n,且該矩陣能夠分解成稀疏矩陣C以及低秩矩陣D,矩陣分解公式為

(4)

利用稀疏與低秩矩陣分解方法對(duì)圖像去噪時(shí),通過增廣拉格朗日乘子對(duì)上述展開收斂,從而獲取問題的最優(yōu)解。

將上述矩陣分解流程作為光譜圖像的最優(yōu)化問題,建立增廣拉格朗日函數(shù)如下

(5)

式中,懲罰系數(shù)表述為φ形式,拉格朗日乘子標(biāo)定為γ,矩陣內(nèi)積值描述成(γ,g(x)),懲罰函數(shù)表述為g(x),f(x)表示目標(biāo)優(yōu)化函數(shù),增廣拉格朗日函數(shù)描述為L(zhǎng)(x,γ,φ)。

(6)

式中,L(D,C,γ,φ)表示重建的增廣拉格朗日函數(shù)。在計(jì)算上述時(shí),優(yōu)先對(duì)函數(shù)內(nèi)C、γ、φ參數(shù)完成固定處理,計(jì)算函數(shù)中的最小D值,再固定C、γ、φ參數(shù),計(jì)算稀疏矩陣值,并對(duì)上述流程反復(fù)迭代直至算法收斂,完成光譜圖像的去噪。

計(jì)算C、D時(shí),采用軟閾值方法[10]完成求解

(7)

3 關(guān)聯(lián)特征挖掘

3.1 灰度共生矩陣

灰度共生矩陣[11,12]能夠直觀反映出光譜圖像的中像素灰度的方向、相鄰間隔以及變化等綜合信息,是分析光譜圖像局部模式、排列規(guī)則的基礎(chǔ)。設(shè)定光譜圖像的二維表現(xiàn)圖像為f(m,n),大小為p×q,灰度級(jí)標(biāo)定為Hg,以此建立光譜圖像灰度共生矩陣G(i,j)

(8)

式中,像素集合m中的元素?cái)?shù)量標(biāo)記為#(m)形式,圖像的灰度共生矩陣標(biāo)記為G(i,j),矩陣元素用i,j表述。

根據(jù)建立的灰度共生矩陣,將光譜圖像像素(m1,n1)與(m2,n2)之間距離設(shè)定成l,坐標(biāo)夾角為λ,以此獲取光譜圖像像素間距以及角度的灰度共生矩陣為:

(9)

式中,G(i,j,l,λ)為光譜圖像像素間距以及角度的灰度共生矩陣。

3.2 基于小樣本多次分類的特征挖掘

灰度共生矩陣建立完成后,通過該矩陣獲取光譜圖像角二階矩、相關(guān)性、對(duì)比度、熵、相異性以及逆差矩6大光譜關(guān)聯(lián)特征[13],過程如下式所示。

1)角二階矩獲取

光譜圖像中角二階矩能夠反映圖像的灰度分布以及圖像紋理顆粒的粗細(xì),獲取的光譜圖像角二階矩越大,說明光譜圖像紋理分布越均勻,獲取流程如下式所示

(10)

式中,獲取的光譜圖像角二階矩值標(biāo)定為?ASM,灰度共生矩陣表述為g(i,j)。

2)獲取圖像相關(guān)性

光譜圖像中,圖像相關(guān)度主要反映像素的灰度相關(guān),即為灰度共生矩陣內(nèi)列向量與行向量相似程度如下式所示

(11)

式中,光譜圖像的像素相似性標(biāo)記為?Correlation,均值描述成ηi形式,像素方差為εi、εj。

3)光譜圖像對(duì)比度獲取

光譜圖像中,對(duì)比度主要為圖像清晰度以及紋理深度,在灰度共生矩陣中,圖像灰度相差大的像素點(diǎn)越多,圖像對(duì)比度越大,清晰度越好,光譜圖像對(duì)比度獲取流程如下式所示

(12)

式中,光譜圖像對(duì)比度特征表述為?Contract。

4)熵、相異性以及逆差矩的獲取

光譜圖像內(nèi)的熵可反映圖像紋理復(fù)雜程度,相異性與對(duì)比度類似,逆差矩放映圖像不同區(qū)域之間相異性,差距越大,圖像紋理變化越小,像素分布越均勻,獲取流程如下式所示

(13)

式中,灰度矩陣激活函數(shù)描述為lgg(i,j),獲取的光譜圖像熵表述為?Entropy,相異性值標(biāo)記為?Dissimilarity,?Homogeneity表示逆差矩標(biāo)定。

設(shè)定光譜圖像降維后的主成分最大波段為U,圖像像元為ui,將提取的光譜圖像特征整合成Si=(?ASM,?Correlation,…,?Homogeneity),以此完成整體光譜圖像的紋理-光譜關(guān)聯(lián)特征的提取,表述成ιi=[ti,Sj]形式。

光譜圖像完成關(guān)聯(lián)特征提取后,需要使用支持向量機(jī)分類器[14,15]對(duì)特征完成小樣本分類,通過分類結(jié)果,完成光譜圖像關(guān)聯(lián)特征的挖掘。

利用支持向量機(jī)開展圖像特征小樣本分類時(shí),可通過支持向量機(jī)基本思想,將圖像特征分類問題轉(zhuǎn)化成二次的方程求解問題。將圖像關(guān)聯(lián)特征分類問題的數(shù)學(xué)表述形式,建立目標(biāo)函數(shù)以及相關(guān)約束條件,結(jié)果如下式所示

(14)

式中,yi(w·xi+b)代表圖像關(guān)聯(lián)特征的分類函數(shù),權(quán)值描述為w形式,特征值描述為x,偏置項(xiàng)描述為b,κi為常數(shù),ρ表示懲罰函數(shù),目標(biāo)函數(shù)表述為?(w,κ),0≤υ≤ρ表示約束條件,分類系數(shù)表述為υi。

通過建立的目標(biāo)函數(shù)以及約束條件,尋找支持向量機(jī)最佳分類面,實(shí)現(xiàn)光譜圖像關(guān)聯(lián)特征的分類,結(jié)果如下式所示

(15)

式中,核函數(shù)表述成K(xi×xj),關(guān)聯(lián)特征分類結(jié)果描述為z(υ)。

最后,通過上述光譜圖像關(guān)聯(lián)特征的迭代分類,實(shí)現(xiàn)光譜圖像的關(guān)聯(lián)特征挖掘。

4 研究方法應(yīng)用性能的驗(yàn)證

分別采用基于小樣本分類的光譜圖像關(guān)聯(lián)特征挖掘方法(所提方法)、基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法(文獻(xiàn)[3]方法)、基于特征重構(gòu)融合的高光譜圖像分類方法(文獻(xiàn)[4]方法)測(cè)試;

利用傳感器獲取光譜圖像并根據(jù)上述3種光譜圖像特征挖掘方法挖掘圖像關(guān)聯(lián)特征,通過挖掘結(jié)果,比較3種方法的特征挖掘性能。測(cè)試過程中,根據(jù)光譜圖像數(shù)據(jù)對(duì)圖像中存在的地物類型完成樣本分類,建立訓(xùn)練集以及測(cè)試集;設(shè)定原始圖像中有224個(gè)光譜波段,分辨率大約在10nm,為特征挖掘方法性能測(cè)試做好基礎(chǔ)工作。

1)挖掘錯(cuò)誤率測(cè)試

采用所提方法、基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法以及基于特征重構(gòu)融合的高光譜圖像分類方法挖掘光譜圖像特征時(shí),測(cè)試上述3種方法應(yīng)用下特征分類錯(cuò)誤率,以及檢測(cè)特征挖掘方法的分類識(shí)別能力,測(cè)試結(jié)果如圖1所示。

圖1 不同方法的錯(cuò)誤率對(duì)比

分析圖1可知,3種方法在提取光譜圖像關(guān)聯(lián)特征時(shí),由于圖像光譜信息的壓縮程度不同,測(cè)試出的挖掘錯(cuò)誤率也不相同。其中,基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法雖然最大程度的壓縮了光譜信息,但是由于未能實(shí)現(xiàn)圖像降維,導(dǎo)致該方法提取的特征錯(cuò)誤率高于所提方法測(cè)試結(jié)果,而所提方法不僅能夠最大程度的壓縮圖像內(nèi)的光譜信息,還能夠有效對(duì)光譜圖像完成降維處理,所提該方法在圖像特征挖掘時(shí),挖掘錯(cuò)誤率低于其它兩種特征挖掘方法,基于特征重構(gòu)融合的高光譜圖像分類方法未能對(duì)光譜信息進(jìn)行壓縮,所以測(cè)試結(jié)果較不理想。

2)挖掘特征聚類成團(tuán)效果

基于上述測(cè)試結(jié)果,利用不同方法挖掘光譜圖像特征時(shí),測(cè)試目標(biāo)特征成團(tuán)效果,測(cè)試結(jié)果如圖2所示。

圖2 不同方法的特征成團(tuán)效果對(duì)比

分析圖2可知,在挖掘光譜圖像特征后,所提方法挖掘的圖像特征同類之間互相聚類成團(tuán),且異類之間彼此分離,特征挖掘效果較為優(yōu)越。基于殘差網(wǎng)絡(luò)特征融合的高光譜圖像分類方法挖掘的圖像特征之間雖然能夠保證異類特征相互分離,但是同類特征之間并未聚類成團(tuán),而是呈現(xiàn)多個(gè)聚類分組情況;而基于特征重構(gòu)融合的高光譜圖像分類方法挖掘出的關(guān)聯(lián)特征彼此混雜在一起,挖掘效果較差。

3)去噪效果測(cè)試

基于上述實(shí)驗(yàn)結(jié)果,測(cè)試上述3種方法的圖像去噪效果,結(jié)果如圖3所示。

圖3 不同方法的去噪效果對(duì)比

分析圖3可知,利用不同反方提取光譜圖像特征后時(shí),研究方法的去噪效果優(yōu)于文獻(xiàn)方法,光譜圖像的細(xì)節(jié)得以顯著增強(qiáng),小目標(biāo)特征的清晰度也明顯優(yōu)化。

5 結(jié)束語

針對(duì)光譜圖像同物異譜間影響明顯、相鄰波段相關(guān)性強(qiáng)導(dǎo)致的圖像噪聲較高、特征維度偏高的問題,提出基于小樣本分類的光譜圖像關(guān)聯(lián)特征挖掘方法。基于光譜圖像降維去噪結(jié)果,利用建立的灰度共生矩陣提取圖像關(guān)聯(lián)特征值,最后通過支持向量機(jī)完成特征值的分類,實(shí)現(xiàn)光譜圖像的關(guān)聯(lián)特征挖掘。