周明(遼寧師范大學(xué)城市與環(huán)境學(xué)院,大連116029)
基于RBF神經(jīng)網(wǎng)絡(luò)的高光譜遙感影像降維及分類
周明
(遼寧師范大學(xué)城市與環(huán)境學(xué)院,大連116029)
高光譜遙感影像數(shù)據(jù)量大,針對該特點(diǎn),為盡可能保留數(shù)據(jù)中有價(jià)值的信息,首先采用線性判別分析(Linear Discriminant Analysis,LDA)方法對高光譜遙感影像數(shù)據(jù)進(jìn)行降維,接著應(yīng)用徑向基函數(shù)(Radial Basis Function,RBF)神經(jīng)網(wǎng)絡(luò)方法對其進(jìn)行分類處理。實(shí)驗(yàn)結(jié)果表明,分類精度可達(dá)到70%以上,具有良好的分類效果,證明了該方法的可行性。
徑向基函數(shù);線性判別分析;
高光譜遙感;神經(jīng)網(wǎng)絡(luò);分類
隨著現(xiàn)代遙感技術(shù)的發(fā)展,高光譜遙感已成為遙感領(lǐng)域的前沿技術(shù)。高光譜遙感是高光譜分辨率遙感的簡稱,它是在電磁波譜的可見光,近紅外,中紅外和熱紅外波段范圍內(nèi),獲取許多很窄的光譜連續(xù)的影像數(shù)據(jù)的技術(shù)。高光譜數(shù)據(jù)具有很多光譜波段且光譜分辨率很高。通過成像光譜技術(shù)所獲取的目標(biāo)圖像包含了豐富的空間、輻射、光譜三類信息,提供了比多光譜傳感器更豐富精確的光譜信息[1],極大地提高了遙感影像對地物的分類識別能力,從而具有廣泛的民用和軍事應(yīng)用前景。高光譜遙感影像數(shù)據(jù)具有波段多、數(shù)據(jù)量大、數(shù)據(jù)不確定性等特點(diǎn),且易受Hughes現(xiàn)象影響[2]。
為處理高維遙感影像數(shù)據(jù),通常利用特征提取與特征選擇進(jìn)行降維處理[3]。特征提取可分為線性和非線性特征提取方法。線性判別分析(LDA)是一種有監(jiān)督的線性特征提取方法,主要目的是最小化類內(nèi)距離同時(shí)最大化類間距離,得到最優(yōu)投影以產(chǎn)生分類結(jié)果,其運(yùn)算簡便,能夠產(chǎn)生簡單變換函數(shù)。該算法在多個(gè)領(lǐng)域中都有著重要作用,這些領(lǐng)域包括經(jīng)濟(jì)學(xué)、氣象學(xué)、市場預(yù)測、環(huán)境科學(xué)、農(nóng)林蟲害預(yù)報(bào)、地質(zhì)勘探、人臉檢測、語音識別等。與主成分分析(Principal Component Analysis,PCA)不同,線性判別分析利用了類別標(biāo)簽信息,是一種有監(jiān)督的特征提取方法,與貝葉斯算法不同,線性判別分析方法無需通過概率進(jìn)行數(shù)據(jù)處理。
神經(jīng)網(wǎng)絡(luò)算法可應(yīng)用于高光譜遙感影像數(shù)據(jù)分類處理。人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN)算法具有很大優(yōu)越性,主要表現(xiàn)在具有高度并行處理能力,處理速度快于傳統(tǒng)的序列處理算法,不僅具有自適應(yīng)能力,可根據(jù)學(xué)習(xí)提供的數(shù)據(jù)樣本找出與輸出數(shù)據(jù)的聯(lián)系,而且還具有一定的泛化功能,能處理噪聲數(shù)據(jù)和不完全數(shù)據(jù)。人工神經(jīng)網(wǎng)絡(luò)最初是作為模式識別分類器和聚類技術(shù)應(yīng)用于圖像處理中[4]。后來隨著對神經(jīng)網(wǎng)絡(luò)理論的研究,神經(jīng)網(wǎng)絡(luò)逐步應(yīng)用在各種分類領(lǐng)域中,這些領(lǐng)域包括遙感圖像分類、社會經(jīng)濟(jì)系統(tǒng)分類、光譜分類、環(huán)境質(zhì)量分類、指紋分類、地下水動態(tài)分類等。徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)是一種傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)算法,它是一種將輸入數(shù)據(jù)預(yù)處理到高維空間中的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法[5]。該算法不僅推廣能力良好,而且避免了繁瑣的計(jì)算,使得學(xué)習(xí)速度較快。
本文通過使用美國印第安納州印度松樹測試地的Aviris高光譜遙感影像數(shù)據(jù),采用線性判別分析和徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法,首先利用線性判別分析(LDA)[6]對高光譜遙感影像數(shù)據(jù)進(jìn)行降維處理,其次采用徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)方法對其進(jìn)行分類,其實(shí)驗(yàn)結(jié)果為高光譜遙感影像分類方法提供合理的建議。
2.1線性判別分析(LDA)
線性判別分析在壓縮特征數(shù)據(jù)的同時(shí),將帶類標(biāo)簽的高維數(shù)據(jù)投影到低維空間中,通過類別間分散程度和類內(nèi)分散程度的比值最大化,使投影后類別相同的點(diǎn)在低維空間中聚集成簇,而不同類別的點(diǎn)相對比較分散,從而提高分類性能。對于二分類問題,假設(shè)投影函數(shù)為:
類別i的原始中心點(diǎn)為(Di為類別i的點(diǎn)):
投影后的中心點(diǎn):
投影后類別間分散程度(方差)為:
最終可得表示LDA投影后的損失函數(shù):
上式分母表示類內(nèi)方差和,越小表示類內(nèi)點(diǎn)越集中;分子表示類間距離平方,越大表示類別間越分散。因此,只要最大化J(ω)就可求出最優(yōu)ω。
為求得最優(yōu)ω可使用拉格朗日乘子法。首先定義投影前各類分散程度矩陣:
這是一個(gè)求特征值的問題。
對于N(N>2)分類問題,類內(nèi)距離和類間距離可表示為:
這樣,求出第i大的特征向量,就可對應(yīng)于ωi類。
2.2徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)
徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是Moondy和Darken提出的一種神經(jīng)元網(wǎng)格結(jié)構(gòu)。徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)有三層,分別為輸入層、隱含層和輸出層,網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)見圖1。每層有著不同的作用:輸入層將網(wǎng)絡(luò)與外界連接起來,作用為傳輸信號;隱含層作用是從輸入層到隱含層之間進(jìn)行非線性變換,維數(shù)較高;輸出層是對隱含層的輸出采用線性加權(quán)求和的映射模式??芍?,徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是線性與非線性的統(tǒng)一,即輸入層到隱含層為非線性映射,學(xué)習(xí)速度較慢;隱含層到輸出層則是線性變換,學(xué)習(xí)速度較快。
圖1 網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)
激活函數(shù)采用徑向基函數(shù),其中高斯函數(shù)為最常
用的,公式為:
式中,‖·‖為歐式范數(shù),c為函數(shù)的中心,σ為函數(shù)的方差。徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)模型的輸出是對隱含層神經(jīng)元輸出的線性加權(quán)求和,公式為:
式中,xp為第p個(gè)輸入樣本,p=1,2,…,p,ci為隱含層結(jié)點(diǎn)中心,ωij為隱含層結(jié)點(diǎn)i到輸出層結(jié)點(diǎn)j的權(quán)值,i=1,2,…,h,j=1,2,…,n,yj為第j個(gè)輸出結(jié)點(diǎn)的實(shí)際輸出。
其中隱含層激活函數(shù)所采用的高斯函數(shù)具有以下優(yōu)點(diǎn):(1)表示形式簡單;(2)光滑性較好,任意階導(dǎo)數(shù)都存在;(3)解析性好,便于結(jié)果的理論性分析。
RBF神經(jīng)網(wǎng)絡(luò)具有較好的泛化能力,學(xué)習(xí)收斂速度快,已成功應(yīng)用于逼近非線性函數(shù)、數(shù)據(jù)分類、時(shí)間序列分析、模式識別、信息處理、圖像處理等。該網(wǎng)絡(luò)具有較快運(yùn)算速度、較強(qiáng)非線性映射能力。
實(shí)驗(yàn)環(huán)境為Windows 8操作系統(tǒng),內(nèi)存為8.00GB,使用MatlabR2014a軟件實(shí)現(xiàn)前文提到的降維及分類方法。本文使用美國印第安納州印度松樹測試地的Aviris高光譜遙感影像數(shù)據(jù),該數(shù)據(jù)(圖2)每幅影像為145*145大小,影像由200個(gè)波段組成,地物類別信息見圖3。
實(shí)驗(yàn)將使用該影像的200個(gè)波段、145*145個(gè)像素進(jìn)行降維和分類處理。首先將200個(gè)波段壓縮為10個(gè)波段,再對降維后數(shù)據(jù)進(jìn)行徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)分類處理,將降維后數(shù)據(jù)中的80%作為訓(xùn)練集,20%作為測試集,實(shí)驗(yàn)結(jié)果準(zhǔn)確率為71.22%,耗時(shí)0.271746s,可看出對于高光譜影像采用以上兩種算法可得到較理想的結(jié)果。
圖2 影像樣本
圖3 影像類別
本文首先利用線性判別分析方法對高光譜遙感影像數(shù)據(jù)進(jìn)行降維預(yù)處理,接著應(yīng)用徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)方法對該數(shù)據(jù)進(jìn)行分類處理,實(shí)驗(yàn)結(jié)果表明兩種算法的運(yùn)用結(jié)構(gòu)簡單、訓(xùn)練收斂速度快、分類精度達(dá)到70%以上,表明該兩種算法的結(jié)合具有可行性,是一種有效的高光譜遙感影像分類方法。能否將算法進(jìn)一步改進(jìn),應(yīng)用到大量高光譜遙感數(shù)據(jù)上,使研究結(jié)果具有普適性,同時(shí)進(jìn)一步提高分類精度,減少分類誤差,是進(jìn)一步的研究工作。
[1]何明一,暢文娟,梅少輝.高光譜遙感數(shù)據(jù)特征挖掘技術(shù)研究進(jìn)展[J].航天返回與遙感,2013(01):1-12.
[2]Hughes G P.On the mean accuracy of statistical pattern recognizers[J].Information Theory,IEEE Transactions on,1968,14(1):55-63.
[3]錢進(jìn),鄧喀中,范洪冬,等.基于監(jiān)督等距映射高光譜遙感影像降維[J].計(jì)算機(jī)應(yīng)用與軟件,2012(08):66-69.
[4]時(shí)君偉,胡敏英,武志富,等.基于神經(jīng)網(wǎng)絡(luò)的視覺圖像處理研究[J].安徽農(nóng)業(yè)科學(xué),2009(19):9300-9302.
[5]譚琨,杜培軍.基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的高光譜遙感圖像分類[J].光譜學(xué)與光譜分析,2008(09):2009-2013.
[6]Duda R O,Hart P E.Pattern classification and scene analysis[J]. J.Wiley and Sons,1973.
(2016-01-15收稿劉曉佳編輯)
Dimensionality Reduction and Classification for Hyperspectral Remote Sensing Imagery Based on Radial Basis Function Neural Network
ZHOU Ming
(School of Urban and Environmental Sciences,Liaoning Normal University,Liaoning Dalian 116029,China)
In view of the large amount of hyperspectral remote sensing image data,it is possible to retain the value of the information,F(xiàn)irstly,Linear Discriminant Analysis(LDA)method is used to reduce the high spectral remote sensing image data.Then,Radial Basis Function(RBF)neural network method is used to classify the data.Experimental results show that the classification accuracy can reach more than 70% with good classification results,and it proved the feasibility of the method.
Radial Basis Function; Linear Discriminant Analysis;Hyperspectral remote sensing;Neural Network;Classification
TP79
A
1003-7853(2016)01-0014-03
周明(1991-),女,漢族,遼寧省沈陽市,遼寧師范大學(xué)城市與環(huán)境學(xué)院,碩士研究生,研究方向?yàn)榭臻g數(shù)據(jù)挖掘。