低秩約束核非負張量分解在高光譜解混中的應用

劉雪松 姚 玲 彭天亮

（1.安徽新華學院移動通信實驗室，安徽 合肥 230088；2.江西省水信息協(xié)同感知與智能處理重點實驗室，江西 南昌 330099）

一、引言

高光譜遙感圖像具有豐富的圖譜信息， 因而被廣泛用于軍用，民用等領域[1-2]。 高光譜遙感圖像中的像元通常是以混合像元的形式呈現(xiàn)[2-3]，這主要是因為地面環(huán)境的復雜多樣和空間分辨率的各種限制。 而混合像元解混的目的就是從中提取出相應的地物信息（端元）， 及這些端元所占像元的比例（豐度）， 從而減少對先驗知識的依賴。 非負矩陣分解（NMF）與線性混合的高光譜模型比較一致，因此在高光譜解混中被廣泛應用。 近年來， 隨著科研工作者開始利用核函數(shù)將經(jīng)典的線性特征提取與分類識別的方法推廣到一般的情況[4]，使得核函數(shù)理論和NMF 理論相結(jié)合得以實現(xiàn)，并且成為高光譜解混的重要研究方向。 目前基于核函數(shù)的核非負矩陣分解（Kernel NMF,KNMF）算法[5]主要有：核非負矩陣分解（no-pure-pixels KNMF,npKNMF）[6]， 該算法不包含純像元。約束的核非負矩陣分解（Constrained KNMF,CKNMF）[7]， 雙目標非負矩陣分解 （Bi-objective NMF）[8]等。 但是，基于傳統(tǒng)的高光譜分解方法往往忽略了在典型的高光譜圖像（HI）中觀察到的光譜特征具有潛在變異性， 從而導致這種分解存在很大的誤差[9]。 為了克服這一問題，通常根據(jù)數(shù)據(jù)所具有的不同屬性， 將其分成不同的子空間， 進而得到高階數(shù)據(jù)的推廣應用，非負張量分解算法（Non-negative Tensor Factorization,NTF）。該方法構(gòu)建的張量空間能夠充分的挖掘數(shù)據(jù)中潛在的信息， 因此張量分解在許多領域得到廣泛應用[10]。

1963 年，Tucker[11]提出了Tucker 分解算法。 所以， 矩陣-張量分解的光譜解混分為典型多態(tài)分解（Canonical Polyadic Decomposition，CPD）[12]、Tucker 分解（Tucker Decomposition，TD） 以及BTD 分解（Block Term Decompositions，BTD）[13]。張量結(jié)構(gòu)存在于許多現(xiàn)實數(shù)據(jù)中，例如圖像數(shù)據(jù)中的圖像值，所以，HIS 自然地被表示并視為張量，因此，基于高光譜圖像的張量分解得以廣泛應用。 但是，它們將解決方案限制在低階張量上， 而低階張量往往不能代表現(xiàn)實世界場景的復雜性，同時，它們?nèi)狈ΡＷC最終成員和豐度能被正確地分解在各自的張量中。 因為，高階（＞2）張量的低秩分解傾向于捕捉張量結(jié)構(gòu)中的同質(zhì)性， 所以讓低秩張量分解這種策略對HU 更有吸引力。 ULTRAV 這種算法[9]被提出，它通過正則化來施加低秩結(jié)構(gòu)，其嚴格性由標量參數(shù)控制。 該方法與最先進的解釋光譜變異性的解混算法相比具有更高的精度。 為了尋求張量低秩分解的廣泛應用， 一些學者開始將張量分解在低秩上的表現(xiàn)與核函數(shù)相結(jié)合， 如Pan等提出了一種基于字典學習的雙張量核表示方法（LRR-TTK）[14]，Xiao 等提出了基于核函數(shù)的低秩表示方法（RKLRR）[15]。

但是，上述方法都存在以下問題：基于核空間下的NMF 模型存在參數(shù)難以確定問題；基于張量分解下的解混算法復雜度高，并且運行效率低。 因此，有必要針對非線性光譜混合模型存在參數(shù)難以確定、自身復雜度及高光譜圖像（HI）中的光譜特征具有潛在變異性等問題來深入研究高光譜解混算法之間的聯(lián)系，改善解混算法性能方面的應用潛力。

二、基于核方法的NMF

（一）線性混合NMF 解混模型

目前，較為應用最廣泛的混合像元分解模型是線性光譜混合模型，該模型表示如下：

其中X=[x1,x2, …，xM]T為單個像素點的接收譜傳感器信號，M 為譜通道數(shù)，（·）T是轉(zhuǎn)置。 A 是端元矩陣，其大小為M×P, P 是端元的個數(shù)，S=[s1,s2,…，sp]T為豐度向量, n 為相應的噪聲向量。 寫成矩陣形式可以寫成如下：

類比上述式子的推導方法， 將其思想引入到多項式核非負矩陣分解中， 同樣可以得到多項式核張量非負矩陣分解算法（PLKTNMF）的加性更新規(guī)則。

（二）核空間下的線性核NMF 模型

核方法的一般過程為首先將模式分析算法調(diào)整為輸入向量內(nèi)積的形式，然后將分析算法與核函數(shù)相結(jié)合，利用核函數(shù)計算特征空間中兩個輸入向量映射的內(nèi)積[16]。 其表示形式為：

治療前兩組患者的神經(jīng)功能缺損評分差異沒有統(tǒng)計學意義（t=0.084，P=0.933）。甲組患者治療后的神經(jīng)功能缺損評分小于治療前，差異有統(tǒng)計學意義（t=28.071，P=0.000）。乙組患者治療后的神經(jīng)功能缺損評分小于治療前，差異有統(tǒng)計學意義（t=17.109，P=0.000）。治療后，甲組患者的神經(jīng)功能缺損評分小于乙組，差異有統(tǒng)計學意義（t=11.687，P=0.000）。如表2。

通過前面更新規(guī)則算法的分析，進而可得出基于加性和乘性更新規(guī)則的多項式核NMF（PLKNMF），C為常數(shù)。

（三）核空間下的多項式核NMF 模型

多項式核理論：k（an,z）=（zTan+c）d，其中c 是非負常數(shù)，c 是用來平衡核函數(shù)中從高階到低階項的影響。 對其求梯度得：

將NMF 理論和核函數(shù)理論結(jié)合，得到核NMF 理論[17-18]。 其代價函數(shù)為：

（1）加性更新：

三、張量分解模型及其改進算法

（一）NTF 模型

其中Sx1是張量S 的模1 展開，1p和1h1×h2表示一個p 維向量和一個h1×h2大小的矩陣，每個元素為1。

其中，A∈?hl×p是端元矩陣，Sn是在A 中對應的系數(shù)向量，n 為噪聲。h1,h2,h3,p 分別是高光譜數(shù)據(jù)的長度、寬度、波段數(shù)和端元數(shù)。 對于整個HSI，它被認為是一個三維張量X， 端元是一個二維矩陣A，因此，豐度S 和噪聲n 也應該是張量的形式。 它可表示為：

其中Sx3是張量S 的模3 展開。 因此，在NTF 框架下的目標函數(shù)為：

根據(jù)LMM，每個像素由所有端成員的線性組合形成。 因此，已知的高光譜數(shù)據(jù)X∈?h1,h2,h3，X 中的每個像素可Xn以表示為：

（二）低秩張量解混算法

曾有學者為了解決HU 問題，捕獲HIS 的低維結(jié)構(gòu)，在NTF 的基礎上提出了一個有效策略將低秩結(jié)構(gòu)強加給豐度張量和端元張量，通過在四維端元張量上引入了一個新的低秩正則化，該張量包含每個像素的一個端元矩陣，以考慮端元的可變性[9]。 低秩張量分解的代價函數(shù)為：

為了有效地施加低秩約束，實現(xiàn)規(guī)律性，并保持建模的小變化和細節(jié)的靈活性。參考已有學者通過引入新的正則化項來修改式（13），新的代價函數(shù)產(chǎn)生了一種迭代算法[9]，稱為低秩張量正則化算法（ULTRAV）。在每次迭代中，ULTRA-V 更新豐度和端元張量的估計以及它們的低秩近似。 其代價函數(shù)為：

四、基于核函數(shù)與張量模型的KTNMF 算法

考慮核NMF 和低秩張量分解算法在高光譜解混中的優(yōu)勢，所以，我們將張量模型引入到核非負矩陣分解中去，將X 和A 以張量形式映射到特征空間H，得到和AΦh1,h2,L,P， 此時端元是一個4-D 張量。則得到KTNMF 的代價函數(shù)模型：

其中，N1，N2，L 分別為HSI 的長、寬和波段數(shù)；P 為端元數(shù)。 對端元張量和豐度張量求導，得到梯度公式如下：

假設在正午時刻太陽的方位角為A，如建筑物在12時刻的向光面坡向為 [A-90，A+90]，據(jù)此分別提取不同時刻的建筑物背光面輪廓(以下以提取時刻為12∶00 的背光面輪廓為例，其他時刻問題不重復說明)。選擇 [Spatial Analyst 工具]→[地圖代數(shù)]→[柵格計算]工具，在對話框中輸入公式：((" aspect 12">=90)&("aspect 12"<=270))&("aspect 12">= 0)，計算12∶00時方位角為180的建筑物背光面輪廓，如圖6。

同理，為了優(yōu)化上述問題，根據(jù)梯度下降理論，得到基于線性核張量非負矩陣分解算法（LKTNMF）的加性更新規(guī)則：

施工準備階段的技術準備工作能夠為施工創(chuàng)造有利的條件，以達到施工任務的順利進行。施工準備階段的技術管理工作的內(nèi)容及基本任務是為了分析建設工程特點、進度和要求，摸清施工的客觀條件，編制施工組織設計并制定合理的施工方案，從而及時地從技術、物資、人力和組織上為工程施工創(chuàng)造一切必要的條件，保證施工過程的連續(xù)均衡進行，保證工程在規(guī)定的工期內(nèi)交付使用，所以施工的組織指導工程項目應加強施工組織設計的編制組織工作，明確對參加編寫的人員的分工，做到責任到人，最后匯總和修改定稿，以此達到施工組織設計在編制依據(jù)，編寫格式和基本內(nèi)容上的統(tǒng)計，最終實行標準化的管理。

加性更新規(guī)則雖然簡單，但是其收斂速度與步長取值有關，并且步長的確定比較困難，為此，我們對加性更新規(guī)則進行改進，進而提高收斂速度，避免參數(shù)的選擇。 令式（18）中的進而可得出LKTNMF 豐度張量的乘性更新規(guī)則：

實驗選取的高光譜圖像空間分辨率為64×64， 端元數(shù)為6。 實驗中七種算法的初始化都是通過VCA-FCLS進行的。 實驗中， 信噪比分配給10dB，20dB，30dB 和40dB。 結(jié)果如圖2 所示。 從整體趨勢來看，幾種算法的SAD 和RMSE 隨著信噪比的增加而降低，混合像元分解的結(jié)果越來越好。 與其他五種算法相比，PLKTNMF 和LKTNMF 在所有情況下都能得到最小的SAD 和RMSE，所以其對噪聲有較強的魯棒性，算法性能最優(yōu)。在SAD 部分，L1/2NMF 較好，MV-NMF 和LKNMF 次之，ULTRA-V 和PLKNMF 最差。在RMSE 方面，L1/2NMF 較好，PLKTNMF 和ULTRA-V、LKNMF 和MV-NMF 相差不大，PLKNMF 最差。 信噪比在20dB 左右是一個臨界點。

上述模型求解的目標函數(shù)如下：

用水總量方面，2013年全市實現(xiàn)GDP 14 500億元，同比增長11.97%，工業(yè)增加值達到5 889億元。在全市經(jīng)濟保持持續(xù)增長的情況下，近三年來用水總量基本持平并呈下降趨勢，全市原水供應總量由2011年的19.55億m3下降到2013年的19.07億m3，下降2.5%。2013年全市自來水供應總量為15.91億m3，與2011年相比下降1.49%。

在園林景觀的設計中，園林植物配置應與周邊環(huán)境氛圍相結(jié)合，例如，學校的景觀設計，應根據(jù)學校的環(huán)境，選擇桃樹和李樹作為主要樹種，如紫葉李、桃樹等，以頌揚教師默默耕耘、無私奉獻的精神；政府機關的設計應根據(jù)政府機關的環(huán)境景觀特點，選擇荷花和竹子作為主要樹種，以表達公務員出淤泥而不染、全心全意為人們服務的精神；居住區(qū)的景觀設計應根據(jù)居住區(qū)的環(huán)境景觀特色，選擇柏樹和梧桐樹作為主要樹種，以代表人們的高潔莊嚴、長壽無疆的寓意。

再由加性更新規(guī)則，設置步長，簡化計算和參數(shù)選擇，推導出相應的乘性更新規(guī)則如下：

截至2018年底，聯(lián)盟網(wǎng)站共發(fā)布各類新聞300余條，聯(lián)盟微信公眾平臺總用戶數(shù)為9434人。發(fā)布2013～2017年《聯(lián)盟年報》共5期，《聯(lián)盟簡報》共17期，《聯(lián)盟海外BIM簡訊》共11期；聯(lián)盟每年發(fā)布年報1期，每季度定期發(fā)布簡報及海外BIM簡訊各1期，介紹聯(lián)盟工作情況及國內(nèi)外BIM最新資訊動態(tài)、科研進展、應用實踐等。

5)綜合木墊板對錨桿預緊力損失、轉(zhuǎn)矩轉(zhuǎn)化效率、預應力擴散效果影響的研究結(jié)論，建議在井下錨桿托盤下盡量不使用木墊板，以免大幅度降低支護效果。

總結(jié)上述描述，算法1 中給出了核張量非負矩陣分解（KTNMF）算法的流程，另外，在算法中設置了兩個終止條件，第一個是誤差容忍程度，如果算法在實驗中連續(xù)迭代誤差的結(jié)果都在容忍誤差之內(nèi)，則迭代終止。第二個是迭代次數(shù)，當?shù)螖?shù)達到上限，迭代也會停止。

Algorithm1：KTNMF 算法偽代碼

五、實驗結(jié)果與分析

實驗方面，本節(jié)分別利用一個模擬的高光譜數(shù)據(jù)和一個真實的高光譜數(shù)據(jù)驗證所提算法的性能，并分別與L1/2NMF[19]、LKNMF[16]、PLKNMF[16]、MV-NTF[20]和ULTRA-V[9]方法獲得的結(jié)果進行比較，其中，L1/2NMF、LKNMF、PLKNMF 是基于NMF 基礎作框架， 而MVNTF 和ULTRA-V 則是基于NTF 基礎作為框架的。所有的算法都是采