平均分布差異最小化的NIR標(biāo)定遷移方法研究

趙煜輝， 蘆鵬程， 羅昱博， 單 鵬

東北大學(xué)秦皇島分校， 河北 秦皇島 066000

引 言

近紅外光譜(NIR)分析技術(shù)具備操作簡(jiǎn)單、 分析數(shù)據(jù)速度快、 成本較低、 不污染樣品等優(yōu)勢(shì)， 已在各領(lǐng)域得到廣泛應(yīng)用， 如農(nóng)產(chǎn)品生產(chǎn)、 化工產(chǎn)品生產(chǎn)、 食品生產(chǎn)以及環(huán)境監(jiān)測(cè)領(lǐng)域[1-4]。 近紅外光譜技術(shù)在定性分析和快速物質(zhì)成分定量分析以及實(shí)現(xiàn)在線檢測(cè)方面具有獨(dú)特優(yōu)勢(shì)[5]。 建立多元校正模型是近紅外光譜分析技術(shù)的重要內(nèi)容。 即通過(guò)一定的數(shù)學(xué)分析方法， 對(duì)近紅外光譜數(shù)據(jù)進(jìn)行分析建模， 從而達(dá)到對(duì)一些指標(biāo)進(jìn)行預(yù)測(cè)的目的， 這是一種根據(jù)已有樣本總結(jié)出規(guī)律生成模型的方法。 但實(shí)際的工業(yè)生產(chǎn)中， 測(cè)量?jī)x器、 環(huán)境和場(chǎng)景通常并不一致， 依據(jù)已有近紅外光譜數(shù)據(jù)建立的模型往往并不適用新的儀器采集的數(shù)據(jù)， 原有模型失效， 并且在測(cè)量環(huán)境或其他條件變化后， 也需更新模型。

標(biāo)定遷移是指在不同測(cè)量?jī)x器或測(cè)量狀態(tài)下的多元標(biāo)定模型遷移方法， 通過(guò)將從光譜數(shù)據(jù)遷移到主光譜數(shù)據(jù)空間， 進(jìn)而實(shí)現(xiàn)主光譜數(shù)據(jù)模型對(duì)從光譜數(shù)據(jù)模型的預(yù)測(cè)， 避免重復(fù)建模[6-7]。

已有標(biāo)定遷移方法[8-9]， 主要是通過(guò)一組標(biāo)準(zhǔn)樣品構(gòu)建遷移模型， 它需要在主儀器和從儀器上分別測(cè)量一組標(biāo)準(zhǔn)樣本， 通過(guò)一組標(biāo)準(zhǔn)樣本來(lái)糾正主儀器和從儀器之間光譜的差異。 分段直接標(biāo)準(zhǔn)化(piecewise direct standardization， PDS)， 主儀器的每個(gè)波長(zhǎng)與從儀器的波長(zhǎng)窗口相關(guān)， 基于每個(gè)窗口間回歸系數(shù)形成帶狀遷移矩陣。 實(shí)驗(yàn)結(jié)果與假設(shè)是一致的， 即在各種遷移方法中， 主儀器和從儀器之間的頻譜相關(guān)性被限制在較小的區(qū)域。 PDS的關(guān)鍵是窗口大小的選擇和標(biāo)準(zhǔn)樣本數(shù)目的確定。 在偏差斜率校正(slope and bias correction， SBC)[10]中， 假設(shè)不同儀器的預(yù)測(cè)值之間存在線性關(guān)系， 先計(jì)算光譜和響應(yīng)值之間的回歸系數(shù)； 并用該系數(shù)分別計(jì)算主儀器和從儀器的預(yù)測(cè)值； 最后， 在預(yù)測(cè)值之間進(jìn)行線性擬合。 SBC算法為一種單變量方法， 因此在測(cè)量?jī)x器和測(cè)量條件變化引起系統(tǒng)化的光譜差異的情況下， 才能取得較好的效果。 現(xiàn)實(shí)生活中， 光譜差異往往比較復(fù)雜， 此時(shí)它的預(yù)測(cè)能力是不確定的。 Liang等提出了基于典型相關(guān)分析(canonical correlation analysis， CCA)的標(biāo)定遷移方法成功地校正了不同光譜之間的差異。 首先， 使用主儀器的標(biāo)定集構(gòu)建PLS模型； 選取主儀器和從儀器的標(biāo)定集的一部分作為標(biāo)準(zhǔn)樣本； 通過(guò)典型相關(guān)分析分別提取特征[11]。

標(biāo)準(zhǔn)樣本要求主從儀器在相同的環(huán)境及條件下測(cè)量同一組樣本。 工業(yè)應(yīng)用中， 由于標(biāo)樣組分的揮發(fā)性及可變性， 使保持標(biāo)準(zhǔn)樣品的完整性很難實(shí)現(xiàn)[12]， 為此， 需建立標(biāo)準(zhǔn)樣本自由的標(biāo)定遷移模型[13]。

Bouveresse等提出的多元散射校正(multiplicative scatter/signal correction， MSC)[14]是一種信號(hào)預(yù)處理方法。 MSC計(jì)算校準(zhǔn)集的平均光譜作為參考光譜， 并在每個(gè)光譜和參考光譜之間找到線性關(guān)系， 得到斜率和偏差， 利用斜率和偏差來(lái)校正從光譜， 雖然不需要標(biāo)準(zhǔn)樣本， 但難以處理復(fù)雜情況， 且模型性能多數(shù)情況較差。

遷移成分回歸(transfer component regression， TCR)也是一種無(wú)標(biāo)準(zhǔn)的遷移方法[13]， 它結(jié)合了遷移成分分析(transfer component analysis， TCA)[15]和普通最小二乘法(ordinary least square， OLS)。 TCA的基本思想是在再生希爾伯特空間中投影兩個(gè)儀器的數(shù)據(jù)， 在這個(gè)空間中， 主儀器和從儀器的數(shù)據(jù)分布盡可能的接近， 同時(shí)保留原始數(shù)據(jù)的關(guān)鍵屬性。 TCR是一個(gè)具有良好泛化能力的穩(wěn)健模型， 但無(wú)法實(shí)現(xiàn)更準(zhǔn)確的預(yù)測(cè)。

針對(duì)標(biāo)準(zhǔn)樣本難以獲得和保存， 現(xiàn)有的標(biāo)準(zhǔn)樣本自由的標(biāo)定遷移方法預(yù)測(cè)能力相對(duì)一般的情況， 提出了一種標(biāo)準(zhǔn)樣本自由的基于最小化平均分布差異的NIR偏最小二乘標(biāo)定遷移方法(minimizing mean distribution discrepancy Calibration Transfer for NIR， MCT)。 此方法在不考慮從儀器標(biāo)準(zhǔn)樣本的情況下， 為去光譜數(shù)據(jù)的多重共線性， 首先假設(shè)存在一個(gè)適用于主從儀器的偏最小二乘子空間， 該子空間通過(guò)后續(xù)優(yōu)化主從儀器在此空間中的分布差異獲得， 接著將主從儀器光譜數(shù)據(jù)分別投影到該假設(shè)的公共子空間； 然后引入平均分布差異最小化算法， 即分別給出主從光譜數(shù)據(jù)在子空間的平均分布(中心點(diǎn))表示函數(shù)， 最小化兩個(gè)光譜平均分布(中心點(diǎn))的差異， 并最大化投影后主儀器光譜的協(xié)方差， 目的是使主儀器投影后的數(shù)據(jù)具有最大相關(guān)性， 推導(dǎo)求解出最佳子空間； 最后， 將主光譜樣本和從光譜預(yù)測(cè)樣本分別投影到該子空間中， 利用主光譜數(shù)據(jù)得到回歸模型， 通過(guò)此回歸系數(shù)計(jì)算出從光譜預(yù)測(cè)濃度。 該方法無(wú)需標(biāo)準(zhǔn)樣本的獲取， 便能縮小主從儀器數(shù)據(jù)間的分布差異， 同時(shí)對(duì)比現(xiàn)有標(biāo)準(zhǔn)自由遷移方法， 更加簡(jiǎn)單高效， 并具有更好的預(yù)測(cè)性能。 本文使用玉米數(shù)據(jù)集和小麥數(shù)據(jù)集， 將MCT的性能與SBC， PDS， CCACT， TCR和MSC進(jìn)行比較。

1 理論知識(shí)

1.1 定義符號(hào)

1.2 偏最小二乘法

在化學(xué)計(jì)量學(xué)中， 偏最小二乘算法(partial least square, PLS)是一種很有效的多元標(biāo)定方法。 PLS算法結(jié)合了多元線性回歸、 主成分分析、 典型相關(guān)分析的優(yōu)點(diǎn)， 被廣泛用于建立輸入空間和響應(yīng)空間之間的關(guān)系。 PLS通過(guò)分?jǐn)?shù)向量建立輸入空間和響應(yīng)空間之間的關(guān)系。 PLS模型的目的是確保最佳的潛變量數(shù)量。 潛變量是原始變量的線性組合。 它包含了關(guān)于X和y之間關(guān)系的最大相關(guān)信息。 在數(shù)學(xué)上， 由式(1)表示目標(biāo)函數(shù)

subject to ‖w‖2=1

(1)

其中w代表權(quán)重向量。 該目標(biāo)函數(shù)是在一個(gè)約束下的最大化問(wèn)題， 可以通過(guò)拉格朗日乘數(shù)法進(jìn)行求解。

在這個(gè)算法中， 第一個(gè)權(quán)重向量必須是矩陣XTyyTX的主要的特征向量。 從第二個(gè)潛變量開(kāi)始， 它要求接下來(lái)的潛變量與前面的潛變量正交(不相關(guān))。 因此， 接下來(lái)的權(quán)重向量也是矩陣的主要特征向量， 重復(fù)這一系列步驟直到收斂。 模型被構(gòu)建通過(guò)如下等式

其中T是得分矩陣，P和Q分別代表X的載荷矩陣和y的載荷矩陣向量;E和F分別表示殘差矩陣;A是PLS模型潛變量的最佳數(shù)量。

最后， 模型的回歸系數(shù)β可寫(xiě)如式(2)

β=W(PTW)-1QT

(2)

式(2)中，W=[w1,w2, ……,wA]為權(quán)重矩陣。

1.3 模型建立

(3)

令T=PTX， 最小化問(wèn)題式(3)可以重新表示為

(4)

為了學(xué)習(xí)得到這樣一個(gè)能使式(4)中的平均分布差異最小化的基變換矩陣P， 還應(yīng)確保投影后的源數(shù)據(jù)XS與源數(shù)據(jù)濃度yS之間的關(guān)系具有最大相關(guān)信息。 因此， 對(duì)于源域的數(shù)據(jù)， 合理的做法是將以下項(xiàng)最大化

(5)

在求解式(5)時(shí)可以看出， 源域數(shù)據(jù)的協(xié)方差在新學(xué)習(xí)的子空間中已經(jīng)被最大化， 那么在這一過(guò)程中就保留了盡可能多的可用信息。

結(jié)合式(4)和式(5)， 可以得到以下優(yōu)化目標(biāo)

(6)

(7)

在式(7)的最大化問(wèn)題中，P有許多的可能解(即并非唯一解)， 為了保證解的唯一性， 式(7)施加了一個(gè)等式約束， 這樣就可以寫(xiě)成

s.t.Tr(PT(μS-μT)(μS-μT)TP)=η

(8)

其中η是一個(gè)常數(shù)。

為了解出式(8)， 將其改為拉格朗日函數(shù)， 見(jiàn)式(9)

γ(Tr(PT(μS-μT)(μS-μT)TP)-η)

(9)

其中γ表示拉格朗日乘子系數(shù)。

接下來(lái)， 將L(P,γ)對(duì)P求偏導(dǎo)， 令其偏導(dǎo)數(shù)為0， 就得到

AP=γP

(10)

由此得出， 最優(yōu)子空間P*表示矩陣A特征值分解后的前k個(gè)最大特征值所對(duì)應(yīng)的特征向量， 而γ表示是一個(gè)對(duì)角矩陣， 對(duì)角線上的值分別為前k個(gè)最大特征值。

為了便于實(shí)現(xiàn)， 將所提出的MCT算法歸納到下列算法描述中。

1.4 MCT的算法描述

輸出： 回歸系數(shù)β。

(2) 計(jì)算矩陣A

(3) 根據(jù)公式AP=γP對(duì)A進(jìn)行特征值分解。

(4) 得最優(yōu)子空間P*=[p1,p2, …,pk]

(5) 計(jì)算投影到子空間后的矩陣

(6) 計(jì)算回歸系數(shù)

MCT算法到此結(jié)束。

(7) 預(yù)測(cè)

2 實(shí)驗(yàn)部分

為了驗(yàn)證算法的準(zhǔn)確性和實(shí)用性， 使用玉米數(shù)據(jù)集和小麥數(shù)據(jù)集作為實(shí)驗(yàn)對(duì)象， 對(duì)數(shù)據(jù)集進(jìn)行了數(shù)據(jù)分析， 來(lái)檢驗(yàn)MCT方法的性能。

2.1 數(shù)據(jù)集介紹

第一個(gè)數(shù)據(jù)集是在三個(gè)近紅外光譜儀(M5， MP5和MP6)上測(cè)量含有80個(gè)樣本的玉米數(shù)據(jù)集。 每個(gè)樣品含有四種成分： 水分， 油， 蛋白質(zhì)和淀粉。 波長(zhǎng)范圍為1 100～2 498 nm， 間隔為2 nm(700個(gè)通道)。 該數(shù)據(jù)集可以從http://www.eigenvector.com/Data/Corn/下載。 使用這三個(gè)近紅外光譜儀和玉米數(shù)據(jù)集成分中的水分進(jìn)行研究討論。 儀器M5和儀器MP5之間的光譜差異如圖1(a)所示； 儀器M5和儀器MP6之間的光譜差異如圖1(c)所示； 儀器MP5和儀器MP6之間的光譜差異如圖1(e)所示。 其中橫軸表示波長(zhǎng)， 縱軸表示吸光度差異， 曲線表示光譜樣本。

圖1 不同儀器之間的光譜差異

小麥數(shù)據(jù)集由制造商A的三個(gè)儀器(A1， A2和A3)測(cè)量的248個(gè)樣本組成。 數(shù)據(jù)集只提供蛋白質(zhì)參考值。 波長(zhǎng)范圍為730～1 100 nm， 間隔為0.5 nm。 可在http://www.idrc-chambersburg.org/獲取。 使用了三個(gè)近紅外光譜儀和蛋白質(zhì)含量進(jìn)行研究討論。 儀器A1和儀器A2之間的光譜差異如圖1(b)所示； 儀器A1和儀器A3之間的光譜差異如圖1(d)所示； 儀器A2和儀器A3之間的光譜差異如圖1(f)所示。 其中橫軸表示波長(zhǎng)， 縱軸表示吸光度差異， 曲線表示光譜樣本。

2.2 數(shù)據(jù)處理

通過(guò)Kennard-Stone算法將玉米數(shù)據(jù)集的80個(gè)樣本分成兩組： 80%用做標(biāo)定集樣本， 20%用做測(cè)試集樣本； 將小麥數(shù)據(jù)集的248個(gè)樣本分成兩組： 80%用作標(biāo)定集樣本， 20%用作測(cè)試集樣本。 對(duì)于有遷移標(biāo)準(zhǔn)的遷移方法， 使用Kennard-Stone算法在標(biāo)定樣本上選擇若干個(gè)標(biāo)準(zhǔn)樣品。

2.3 性能評(píng)估

在該實(shí)驗(yàn)中， 均方根誤差(root mean square error, RMSE)被用作參數(shù)選擇和模型評(píng)估的指標(biāo)。 此外， RMSEC表示標(biāo)定集的訓(xùn)練誤差， RMSEP表示測(cè)試集的預(yù)測(cè)誤差。 RMSE計(jì)算方法寫(xiě)為

(11)

文中RMSEP代表從儀器測(cè)試集。

3 結(jié)果與討論

選用玉米和小麥光譜數(shù)據(jù)集檢驗(yàn)?zāi)Ｐ偷男阅堋?使用SBC， PDS， CCACT， MSC和TCR五種方法進(jìn)行對(duì)比實(shí)驗(yàn)。 對(duì)于SBC， PDS， CCACT和MSC算法均采用PLS算法作為主體算法， 使用主儀器的光譜數(shù)據(jù)建立多元標(biāo)定模型作為參考模型， 用于對(duì)從儀器的待測(cè)樣本進(jìn)行預(yù)測(cè)。 實(shí)驗(yàn)結(jié)果主要包含兩個(gè)部分： (1) MCT和對(duì)比方法的RMSEC和RMSEP比較； (2) MCT和對(duì)比方法預(yù)測(cè)結(jié)果的擬合能力示意圖。

MCT和其他五種標(biāo)定遷移方法的標(biāo)定誤差和預(yù)測(cè)誤差被展示在表1和表2中。

表1 SBC, PDS, TCR, CCACT, MSC和MCT六種遷移方法在玉米數(shù)據(jù)集下的RMSEC， RMSEP

表2 SBC, PDS, TCR, CCACT, MSC和MCT六種遷移方法在小麥數(shù)據(jù)集下的RMSEC， RMSEP

玉米數(shù)據(jù)集實(shí)驗(yàn)結(jié)果分析如下：

對(duì)于儀器MP5到儀器M5的標(biāo)定遷移， MCT的RMSEP小于TCR和MSC這兩種標(biāo)準(zhǔn)樣本自由的方法， 同時(shí)也小于SBC， PDS和CCACT這三種有標(biāo)樣的RMSEP， 并且MCT的RMSEC也低于其他五種遷移方法。 對(duì)于儀器MP6到儀器M5的標(biāo)定遷移， 由SBC， PDS， CCACT， TCR和MSC獲得的最低RMSEP分別為0.36， 0.40, 0.41， 0.47和1.92。 表1中列出的結(jié)果清楚地表明MCT具有比其他五種方法更低的RMSEP和RMSEC。 對(duì)于從MP6到MP5的標(biāo)定遷移， MCT再一次達(dá)到了最小的RMSEP和RMSEC。

小麥數(shù)據(jù)集實(shí)驗(yàn)結(jié)果分析如下：

對(duì)于儀器A1到A2的遷移， 當(dāng)標(biāo)準(zhǔn)樣品數(shù)為35， 25和35時(shí)， SBC， PDS和CCACT分別取到最小值。 從表2中能夠看出方法MCT的RMSEC和RMSEP都小于其他五種方法的最佳結(jié)果。 對(duì)于儀器A2到A3的遷移， 當(dāng)標(biāo)準(zhǔn)樣品數(shù)為35時(shí)， SBC， PDS和CCACT均取到最小值， 由表看出MCT的RMSEP均小于其余五種方法。 對(duì)于儀器A3到A2的遷移， MCT再一次達(dá)到了最小RMSEP和RMSEC。

這六組對(duì)比實(shí)驗(yàn)可以看出， MCT模型在通常情況下能夠取得最優(yōu)的預(yù)測(cè)效果， 并具有更好的魯棒性。

圖2—圖4和圖5， 圖6分別顯示了在玉米集和小麥集中， 六種不同的標(biāo)定遷移方法的預(yù)測(cè)值與測(cè)量值的關(guān)系圖。 預(yù)測(cè)濃度和測(cè)量濃度之間的零差異， 將會(huì)使得樣本點(diǎn)在直線上。 對(duì)于有標(biāo)準(zhǔn)樣本的標(biāo)定遷移方法， 選取預(yù)測(cè)性能最優(yōu)時(shí)的數(shù)據(jù)用于比較， 以便更加充分的體現(xiàn)出MCT能夠取得良好的預(yù)測(cè)性能。 表3是六種遷移方法的預(yù)測(cè)值與測(cè)量值曲線擬合斜率表。

圖2 SBC， PDS， CCACT， TCR， MSC和MCT六種方法在儀器M5和儀器MP5之間預(yù)測(cè)結(jié)果的散點(diǎn)圖

圖3 SBC， PDS， CCACT， TCR， MSC和MCT六種方法在儀器M5和儀器MP6之間預(yù)測(cè)結(jié)果的散點(diǎn)圖

圖4 SBC， PDS， CCACT， TCR， MSC和MCT六種方法在儀器MP5和儀器MP6之間預(yù)測(cè)結(jié)果的散點(diǎn)圖

圖5 SBC， PDS， CCACT， TCR， MSC和MCT六種方法在儀器A2和儀器A1之間預(yù)測(cè)結(jié)果的散點(diǎn)圖

對(duì)于玉米數(shù)據(jù)集表， 圖2—圖4顯示MCT方法的預(yù)測(cè)結(jié)果相比其他五種遷移方法具有更好的預(yù)測(cè)性。 根據(jù)表3中的數(shù)據(jù)也可證明MCT相比其他方法更加接近直線。 通過(guò)上面的陳述， 可以得到結(jié)論： MCT能夠在玉米集所有模型中實(shí)現(xiàn)最佳的預(yù)測(cè)性能， 同時(shí)具有更好的泛化能力。

對(duì)于小麥數(shù)據(jù)集， 圖5—圖7及表3中均可以看出， MCT的樣本點(diǎn)更加接近直線， 相比其他五種方法， 其能夠達(dá)到更好的預(yù)測(cè)效果。 通過(guò)上述對(duì)比， 可以很容易地得到結(jié)論： MCT在小麥集的所有模型中能夠?qū)崿F(xiàn)最佳的預(yù)測(cè)性能， 同時(shí)具有更好的泛化能力。

圖7 SBC， PDS， CCACT， TCR， MSC和MCT六種方法在儀器A2和儀器A3之間預(yù)測(cè)結(jié)果的散點(diǎn)圖

表3 SBC, PDS, TCR, CCACT, MSC和MCT六種遷移方法預(yù)測(cè)結(jié)果斜率對(duì)比表

3 結(jié) 論

提出了一種基于最小化平均分布差異的標(biāo)準(zhǔn)樣本自由NIR偏最小二乘標(biāo)定遷移方法。 該方法學(xué)習(xí)了如何找到能夠使主從儀器數(shù)據(jù)投影后， 兩域平均分布差異最小的同時(shí)， 還能使主光譜投影后的數(shù)據(jù)相關(guān)性最大的一個(gè)公共子空間。 在該子空間中， 主從儀器的數(shù)據(jù)分布得到了極大的校正， 能夠使從儀器共用主儀器模型， 實(shí)現(xiàn)標(biāo)定遷移。

在玉米和小麥數(shù)據(jù)集中， 使用SBC， PDS， CCACT， TCR和MSC作為對(duì)比實(shí)驗(yàn)來(lái)檢驗(yàn)MCT方法的性能， 并且所提出的方法(MCT)通常實(shí)現(xiàn)了最佳的RMSEC和RMSEP。 結(jié)果清楚地表明， MCT能夠成功地用于校正在不同儀器上測(cè)量的光譜之間的差異。 對(duì)于SBC， PDS和CCACT這三種遷移方法， 它們需要標(biāo)準(zhǔn)樣品建立遷移模型。 在TCR中， 從儀器樣品還需要少量的參考值。 這兩個(gè)條件在實(shí)際應(yīng)用中， 都會(huì)產(chǎn)生很昂貴的代價(jià)， 甚至無(wú)法滿足這一條件。 因此， 當(dāng)標(biāo)準(zhǔn)樣品在實(shí)際應(yīng)用中不可獲得時(shí)， 同時(shí)對(duì)比現(xiàn)有標(biāo)準(zhǔn)樣本自由方法， MCT是一種有效的標(biāo)定遷移方法。