半監(jiān)督局部保持高光譜影像降維算法研究

甘樂　李功權

摘要：由于高維特征空間通常會導致不適定問題，針對高光譜影像的統(tǒng)計模式識別是非常艱巨的任務。隨著波段數(shù)目的增加，高光譜影像分析則面臨Hughes現(xiàn)象等障礙，因此促進了降維方法的發(fā)展，它能夠有效處理有限訓練樣本下的高維數(shù)據(jù)集情形。降維算法的目標是在保持原始數(shù)據(jù)主要本征信息的同時獲取高維數(shù)據(jù)樣本的低維表示。為了能夠有效解決高光譜影像分析中的“維數(shù)災難”問題，從而改進后續(xù)計算復雜度，我們引入一種半監(jiān)督局部保持的降維算法。

關鍵詞：降維；主成分分析；局部費舍爾判別分析；半監(jiān)督局部判別分析

中圖分類號：TP18 文獻標識碼：A 文章編號：1009-3044（2015）02-0169-02

Abstract：Statistical pattern-classification of hyperspectral imagery （HSI） is a difficult endeavor， due to the high-dimensional feature spaces often tend to result in ill-conditioned problem. Obstacles， such as the hughes phenomenon， arise as the data dimensionality increases， thus fostering the development of dimension reduction methods， which are able to deal with high-dimensional data sets and limited training samples. The goal of dimension reduction is to obtain a low-dimensional representation of high-dimensional data samples while preserving most of the 'intrinsic information' contained in the original data. In order to effectively solve the problem of 'dimension disaster'， thereby improving the computational complexity， we introduce a new semi-supervised local discriminant analysis algorithm.

Keywords：Dimension reduction ；Principal component analysis；Local Fisher Discriminant Analysis ；Semi-supervised local discriminant analysis

由于具備數(shù)百個可用波段，高光譜影像能夠為影像分類潛在地能提供更加精確和詳細的信息。在模式識別中分類通常假定有足夠數(shù)量的訓練樣本以獲取高分類精度。眾所周知，高光譜數(shù)據(jù)所表示地物的真實類別過程通常是非常困難且成本高。因此，在高光譜影像分類中，擁有足夠數(shù)量的訓練樣本以定量估計地物是無法滿足的，此問題通常稱作“小樣本問題”[1]。為了解決此問題，一種方法是應用特征抽取或選擇的方法減少原始數(shù)據(jù)的維度；另一種方法是修改分類器以適應小樣本高維度問題。通常高光譜子降維算法主要通過兩種方式實現(xiàn)，即特征選擇和特征抽取。特征選擇是從原始波譜特征中選取部分波譜特征以使特定分類器達到最優(yōu)的分類精度，如克隆選擇法。特征抽取即尋求高維空間到低維子空間之間的最佳投影變換使得關鍵地物信息得到保存的同時最大限度降低原始數(shù)據(jù)維度，如PCA[2]、LDA[3]等算法。

傳統(tǒng)降維算法如PCA和LDA以及其相應變種存在如下限制，即類條件分布必須是高斯分布。然而高光譜影像數(shù)據(jù)通常是非高斯的，極端情況下甚至是強多通道的。另外降維算法通常包括監(jiān)督和無監(jiān)督兩類[4]。在高光譜影像處理領域，標注樣本獲取難度大且代價昂貴，我們只有少量的標注樣本可以利用，由于過擬合問題，監(jiān)督方法通常表現(xiàn)不好，因此，我們需要利用未標注樣本以改進傳統(tǒng)降維算法的表現(xiàn)，我們將引入一種半監(jiān)督局部保持判別分析（SELF）降維算法。

1 半監(jiān)督局部判別分析

2.2 結果與分析

為了驗證SELF算法的有效性，本文將驗證該算法在SVM下的分類表現(xiàn)。SVM僅考慮鄰近類邊界的訓練樣本，在處理小樣本和高維空間數(shù)據(jù)時表現(xiàn)非常高效。作為一種經(jīng)典降維算法，PCA尋求最小二乘準則下原始高維數(shù)據(jù)空間像素點到其嵌入子空間的最佳線性投影變換，通常視為驗證其它降維算法優(yōu)劣的重要標準。因此本文選用PCA算法作為對比算法，驗證SELF的優(yōu)劣。

由于部分地物可用樣本數(shù)量比較少，我們從已知16類地物中選取最多的9類用于試驗，并從每類地物中選取100像素作為訓練樣本，余下的作為測試樣本。所有的算法均在相同的實驗配置下進行，目標維度設置為13，驗證SELF和PCA算法在SVM下的分類表現(xiàn)。圖1為兩種算法在SVM下的分類表現(xiàn)，PCA分類精度僅為67.18%，SELF分類精度為89.56%，不難發(fā)現(xiàn)SELF明顯優(yōu)越于PCA。這主要是由于SELF充分融合LFDA和PCA特征，有效地保持未標注樣本包含的全局信息同時充分利用標注樣本的判別信息。

3 結束語

本文論述了PCA和SELF兩種不同降維算法，在支持向量機分類器下的分類表現(xiàn)，由試驗結果可知，SELF明顯優(yōu)越于PCA算法，這主要是由于其能利用未標注樣本的全局信息同時能夠有效利用少量標注樣本包含的標注信息。本文只是簡單的驗證SELF算法在AVIRIS場景下的分類表現(xiàn)，并未驗證該算法在不同場景下的分類表現(xiàn)，下一步的工作重點是驗證該降維算法在不同高光譜場景和基于不同分類器的分類表現(xiàn)。

參考文獻：

[1] Chang C-I. Hyperspectral Data Processing： Algorithm Design and Analysis [M]. John Wiley & Sons， 2013.

[2] Jolliffe I. Principal component analysis [M]. Wiley Online Library， 2005.IGARSS '01 IEEE 2001 International， 2001： 2893-5 vol.6.

[3] Sugiyama M. Dimensionality Reduction of Multimodal Labeled Data by Local Fisher

Discriminant Analysis [J]. J Mach Learn Res， 2007， 8（1027-61.

[4] Qiao L， Chen S， Tan X. Sparsity preserving projections with applications to face recognition [J].

Pattern Recognition， 2010， 43（1）： 331-41.

[5] Sugiyama M. Local Fisher discriminant analysis for supervised dimensionality reduction [M].

Proceedings of the 23rd international conference on Machine learning. Pittsburgh， Pennsylvania；

ACM. 2006： 905-12.