改進的鯨魚優(yōu)化算法對牛奶脂肪含量預(yù)測模型的優(yōu)化

李 欣, 劉江平, 2*, 黃 清, 胡鵬偉, 2

1. 內(nèi)蒙古農(nóng)業(yè)大學計算機與信息工程學院, 內(nèi)蒙古 呼和浩特 010018

2. 內(nèi)蒙古自治區(qū)農(nóng)牧業(yè)大數(shù)據(jù)研究與應(yīng)用重點實驗室, 內(nèi)蒙古 呼和浩特 010030

引 言

牛奶含有豐富的營養(yǎng)物質(zhì), 被譽為“白色血液”。 實時、 快速、 準確地檢測牛奶脂肪含量對提高乳制品質(zhì)量具有重要意義[1]。 傳統(tǒng)的牛奶脂肪含量檢測方法多為化學分析方法, 檢測結(jié)果準確, 但過程繁瑣, 成本昂貴[2]。 隨著高光譜成像技術(shù)的不斷發(fā)展, 由于其成本低、 速度快、 無損檢測等特點, 被廣泛應(yīng)用于牛奶中營養(yǎng)物質(zhì)檢測。 趙紫竹[3]等利用高光譜成像技術(shù)結(jié)合偏最小二乘(partial least squares, PLS)、 多維偏最小二乘(multidimensional partial least squares, N-PLS)預(yù)測模型對牛奶中的脂肪含量進行預(yù)測, 結(jié)果表明, 兩種建模方法均可以很好的預(yù)測牛奶中的脂肪含量, 預(yù)測集的相關(guān)系數(shù)分別為0.991和0.997。 胡鵬偉[4]等基于高光譜成像技術(shù), 利用競爭性自適應(yīng)重加權(quán)算法(competitive adapative reweighted sampling, CARS)和連續(xù)投影算法(successive projections algorithm, SPA)結(jié)合多層前饋神經(jīng)網(wǎng)絡(luò)(back propagation, BP)的預(yù)測建模方法建立牛奶蛋白質(zhì)含量的預(yù)測模型, 結(jié)果表明, 預(yù)測集的決定系數(shù)和均方根誤差分別為0.968和0.034, 預(yù)測效果較好。 上述研究證實了高光譜檢測牛奶中營養(yǎng)物質(zhì)的可行性及高效性。

支持向量回歸機[5](support vector regression, SVR)是一種有監(jiān)督的機器學習方法, 主要用來解決回歸問題。 支持向量回歸機(SVR)有兩個重要的參數(shù)—核系數(shù)和正則化參數(shù)。 提高支持向量回歸機預(yù)測模型準確率的前提是選取合適的參數(shù)值。 傳統(tǒng)的優(yōu)化SVR預(yù)測模型的方法有灰狼優(yōu)化算法、 粒子群算法、 螢火蟲優(yōu)化算法等。 潘海珠[6]等發(fā)現(xiàn)用灰狼優(yōu)化算法優(yōu)化SVR預(yù)測模型易陷入局部最優(yōu)解, 搜索能力差, 故提出了改進的灰狼優(yōu)化算法來對SVR預(yù)測模型進行優(yōu)化; 王立文[7]等發(fā)現(xiàn)用粒子群算法對SVR預(yù)測模型的參數(shù)進行優(yōu)化時, 易陷入局部最優(yōu)值、 后期收斂速度緩慢, 故提出了改進的粒子群算法來對SVR預(yù)測模型進行優(yōu)化; 李萍[8]等發(fā)現(xiàn)用螢火蟲優(yōu)化算法對SVR預(yù)測模型進行優(yōu)化時, 種群分布不均勻、 易陷人局部最優(yōu)值, 故提出了改進的螢火蟲優(yōu)化算法來對SVR預(yù)測模型進行優(yōu)化。 鯨魚優(yōu)化算法[9](whale optimization algorithm, WOA)是由Mirjalili等提出的一種新型的算法, 與其他的群智能算法相比較而言, 鯨魚優(yōu)化算法最大的特點就是用隨機個體或最優(yōu)個體來模擬座頭鯨的捕獵行為, 并用螺旋線來模擬座頭鯨的泡泡網(wǎng)攻擊機制。 目前該算法已成功應(yīng)用到電力負荷調(diào)度[10]、 車間調(diào)度[11]、 路徑規(guī)劃[12]等領(lǐng)域。 由于傳統(tǒng)的鯨魚優(yōu)化算法存在易陷入局部最優(yōu)解、 收斂速度慢等缺點, 故以牛奶脂肪含量作為分析指標, 基于高光譜技術(shù), 利用混合策略改進的鯨魚優(yōu)化算法結(jié)合SVR建模方法建立牛奶脂肪含量預(yù)測模型, 實驗結(jié)果驗證了經(jīng)混合策略改進的鯨魚優(yōu)化算法優(yōu)化后的SVR模型具有更好的預(yù)測效果。

1 實驗部分

1.1 樣品

實驗用牛奶樣品為市面購買的蒙牛高鈣牛奶、 特侖蘇牛奶、 伊利脫脂牛奶、 伊利臻濃牛奶、 伊利QQ星, 脂肪含量分別為3.7、 4.4、 0、 4.6和3.7 g·(100 mL)-1。 取適量的樣品, 放置于直徑85 mm的培養(yǎng)皿中, 液面高度為8 mm, 用于高光譜系統(tǒng)生成圖像。 表1為牛奶脂肪含量的數(shù)據(jù)。

表1 牛奶脂肪含量

1.2 圖像采集及校正

利用高光譜成像采集系統(tǒng)進行圖像采集[13], 光譜采集的波長范圍為400～1 000 nm、 分別對每個樣品采集5組圖像。 采集前, 打開圖像采集軟件, 設(shè)置采集參數(shù): 曝光時間、 間距、 掃描方向、 移動速度等。 采集時將牛奶樣品置于采集臺上, 點擊開始采集按鈕, 獲取牛奶樣品的光譜圖像。

由于在數(shù)據(jù)采集過程中, 照明光強分布不均勻和相機暗電流對圖像的采集結(jié)果影響較大, 故需要對采集到的原始光譜圖像進行黑白校正。 校正圖像的獲取公式如式(1)

(1)

式(1)中, I為采集的原始光譜圖像, B為黑校正圖像, W為白校正圖像, R為經(jīng)過黑白校正后的圖像。 校正后的圖像如圖1所示。

圖1 校正后的光譜圖像

1.3 數(shù)據(jù)處理

用ENVI軟件從高光譜圖像中提取感興趣區(qū)域(region of interest, ROI), 最終得到250×125光譜數(shù)據(jù)集。

為了消除噪聲和光散射的影響, 需要對數(shù)據(jù)進行預(yù)處理操作。 采用的預(yù)處理方法[4]包括標準正態(tài)變換(standard normal variate transform, SNV)、 多元散射校正(multiplicative scatter correction, MSC)、 一階導(dǎo)數(shù)(first derivative, FD)、 二階導(dǎo)數(shù)(second derivative, SD)。 通過比較不同的預(yù)處理方法所建立PLSR模型(其中核系數(shù)和正則化參數(shù)都采用默認的值)的預(yù)測效果, 選取最佳的預(yù)處理方法進行后續(xù)的數(shù)據(jù)處理。

1.4 特征提取

光譜數(shù)據(jù)包含的信息量巨大, 其中也含有不少的冗余信息。 為了消除冗余信息對實驗的干擾, 同時減少后期的計算量, 需要對預(yù)處理后的數(shù)據(jù)進行特征提取。 常用的特征提取方法為主成分分析[14](principal component analysis, PCA)。 主成分分析方法使線性相關(guān)的一組變量經(jīng)過正交變換變?yōu)榫€性不相關(guān)的一組變量, 變換后的變量稱為主成分(principal component, PC)。 通過比較不同的主成分個數(shù)所建立SVR模型的均方根誤差(root mean square error, RMSE)的值, 選取最佳的主成分個數(shù)進行后續(xù)的數(shù)據(jù)處理。

1.5 模型建立

建立支持向量回歸機(support vector regression, SVR)模型預(yù)測牛奶脂肪含量。 提出一種基于精英反向?qū)W習和黃金正弦算法混合改進的鯨魚優(yōu)化算法來對SVR預(yù)測模型進行優(yōu)化。

鯨魚優(yōu)化算法[15](WOA)是2016年由Mirjalili等首次提出來的一種新穎的群智能優(yōu)化算法, 與一般的受自然界中生物特征、 生活習慣的啟發(fā)設(shè)計出的智能算法一致。 鯨魚優(yōu)化算法是一種基于群智能的啟發(fā)式全局優(yōu)化算法, 它是模擬海洋中座頭鯨圍捕獵物時的社會行為并引入了氣泡網(wǎng)狩獵策略而提出的算法, 通常被用來尋求最優(yōu)解。 本文利用鯨魚算法的特性為SVR模型尋求一個最優(yōu)的參數(shù), 使得模型的預(yù)測效果達到人們的預(yù)期。 鯨魚優(yōu)化算法主要包括三個部分: 包圍獵物、 氣泡攻擊、 尋找獵物。

精英反向?qū)W習[16](elite opposition-based learning, EOBL)策略旨在增加初始種群的多樣性, 傳統(tǒng)的鯨魚優(yōu)化算法采用隨機生成的方式生成初始種群, 導(dǎo)致初始種群的適應(yīng)度不高, 直接影響后邊迭代的效果。 精英反向?qū)W習策略在隨機生成種群的基礎(chǔ)上, 產(chǎn)生一個反向種群, 分別計算初始種群及反向種群的適應(yīng)度函數(shù)值, 選取適應(yīng)度函數(shù)值最優(yōu)的種群作為初始種群進行接下來的迭代運算。 產(chǎn)生反向種群的數(shù)學公式為

(2)

(3)

黃金正弦算法[17](golden sine algorithm, Gold-SA)是優(yōu)化位置更新方式的一種算法, 由Tanyildizi等于2017年提出。 該算法利用數(shù)學中的正弦函數(shù)進行計算迭代尋優(yōu), 算法的最大優(yōu)點是收斂速度快、 魯棒性好、 易于實現(xiàn)、 調(diào)節(jié)的參數(shù)和運算符少, 因此廣泛應(yīng)用于算法優(yōu)化的各個領(lǐng)域。

Gold-SA的核心過程是其解的更新過程, Gold-SA根據(jù)正弦函數(shù)與單位圓的關(guān)系, 引入黃金分割數(shù)使得搜索和開發(fā)達到良好的平衡。 其位置更新的數(shù)學公式如式(4)

X(t+1)=X(t)|sin(r1)|+r2sin(r1)M

(4)

其中下一次迭代中個體的移動距離和更新方向分別由r1和r2決定,r1是[0, 2π]之間的隨機數(shù),r2是[0, π]之間的隨機數(shù)。

M=|x1X(t)-x2X(t)|

(5)

為了保證其收斂性, 引入系數(shù)x1和x2的計算公式如式(6)

x1=a1t+b1(1-t)

(6)

x2=a1(1-t)+b1t

(7)

針對傳統(tǒng)的鯨魚優(yōu)化算法存在的收斂速度慢、 易陷入局部最優(yōu)解等不足, 提出了基于精英反向?qū)W習策略及黃金正弦算法混合策略改進的鯨魚優(yōu)化算法[17](elite opposition-based golden-sine whale opti-mization algorithm, EGolden-SWOA)。 使用精英反向?qū)W習策略對初始種群的多樣性進行了提升, 將初始種群及反向種群的適應(yīng)度函數(shù)值進行比較, 選取適應(yīng)度好的個體進行下一次的迭代, 選取的個體數(shù)量和設(shè)定的種群規(guī)模一致。 精英反向?qū)W習策略提高了初始種群的質(zhì)量, 增強了算法的尋優(yōu)能力。

此外, 本文提出的混合策略改進的鯨魚優(yōu)化算法保留了傳統(tǒng)鯨魚算法的包圍捕食方式和隨機尋找獵物的方式, 利用黃金正弦算法對鯨魚的螺旋上升式捕食的方式進行了改進, 改進后的位置更新方式如式(4); 引入了黃金分割數(shù), 在每次迭代中, 通過和獵物(當前最優(yōu)解)交流位置信息, 通過參數(shù)r1和r2來控制個體的移動的方向和距離, 使得鯨魚個體更快的趨近于獵物(當前最優(yōu)解)方向, 加快了算法的收斂速度及尋優(yōu)的精度。

EGolden-SWOA優(yōu)化SVR預(yù)測模型的具體執(zhí)行步驟如下:

步驟1: 讀取數(shù)據(jù), 劃分測試集和訓練集, 計算初始的適應(yīng)度函數(shù)值;

步驟2: 設(shè)置參數(shù), 其中包括參數(shù)的上限U、 下限L, 維度dim(和優(yōu)化的參數(shù)個數(shù)有關(guān)), 種群規(guī)模SearchAgents及最大的迭代次數(shù)Max_iter;

步驟3: 種群初始化, 根據(jù)種群規(guī)模和維度來設(shè)定;

步驟4: 根據(jù)精英反向?qū)W習生成反向解, 并計算初始種群和反向種群的適應(yīng)度函數(shù)值;

步驟5: 從初始種群和反向種群中選取適應(yīng)度函數(shù)值好的個體作為最終的初始種群進行迭代, 選取的數(shù)量和設(shè)定的種群規(guī)模SearchAgents一致, 并將最優(yōu)適應(yīng)度的個體位置記Leader_position, 最優(yōu)的適應(yīng)度記為Leader_fitness;

步驟6: 更新參數(shù);

步驟7: 對鯨魚的位置進行更新, 當|A|≥1時, 采用隨機尋找獵物的方式進行更新; 當|A|<1時且p<0.5時, 采用包圍捕食的方式進行更新, 否則, 采用式(4)進行更新;

步驟8: 重復(fù)步驟4—步驟7, 直到達到最大的迭代次數(shù)Max_iter時終止操作。

1.6 模型的評價指標

SVR模型的評價指標包括均方根誤差的倒數(shù)(1/RMSE)、 決定系數(shù)(R2)、 平均絕對誤差的倒數(shù)(1/MAE), 其中1/RMSE值越大,R2值越大, 1/MAE值越大, 表明模型的預(yù)測能力越好。 各個評價指標的計算公式如下:

均方根誤差的倒數(shù)(1/RMSE)計算公式如式(8)

(8)

決定系數(shù)(R2)計算公式如式(9)

(9)

平均絕對誤差的倒數(shù)(1/MAE)計算公式如式(10)

(10)

2 結(jié)果與討論

2.1 參數(shù)設(shè)置及預(yù)處理方法選擇

本研究的宗旨是用改進的鯨魚優(yōu)化算法優(yōu)化SVR預(yù)測模型, 故在開始設(shè)置參數(shù)變化范圍時, 核系數(shù)和正則化參數(shù)的變化范圍都設(shè)置成了[0.01, 100], 鯨魚的初始種群規(guī)模SearchAgents設(shè)置成了50。 由于想要優(yōu)化的參數(shù)為兩個, 所以鯨魚優(yōu)化算法的維度設(shè)置成了2, 迭代次數(shù)統(tǒng)一設(shè)置成50。 以牛奶的脂肪含量作為分析指標。

首先對光譜數(shù)據(jù)進行劃分, 光譜數(shù)據(jù)的7/10劃分為訓練集, 3/10劃分為測試集。 然后將以上數(shù)據(jù)的劃分結(jié)果作為模型的輸入建立偏最小二乘回歸(partial least squares regression, PLSR)牛奶脂肪含量預(yù)測模型。 模型的預(yù)測結(jié)果如表2所示。

表2 四種預(yù)處理方法的比較

由表1可知, 經(jīng)預(yù)處理方法SNV處理得到的預(yù)測模型的評價參數(shù)的值總體上要優(yōu)于其他三種預(yù)處理方法, 故在接下來的結(jié)果分析中, 統(tǒng)一采用SNV預(yù)處理方法對原始數(shù)據(jù)進行預(yù)處理操作。

2.2 特征提取方法

光譜數(shù)據(jù)信息量大且有冗余信息, 需要進行特征提取以減小計算量, 提高模型的優(yōu)化精度。 采用PCA方法對數(shù)據(jù)進行特征提取操作。 在2.1節(jié)中指出最佳牛奶脂肪含量預(yù)測模型的預(yù)處理方法為SNV方法, 故對光譜數(shù)據(jù)進行SNV處理后進行特征提取操作。 預(yù)測模型的RMSE值隨主成分個數(shù)的變化如圖2所示。

圖2 RMSE值隨主成分個數(shù)的變化

由圖2可知, 當主成分個數(shù)為6時, 模型的RMSE的值最小, 故在接下來的結(jié)果分析中, 將主成分個數(shù)設(shè)置為6, 然后對預(yù)處理后的數(shù)據(jù)進行特征提取操作。 每個主成分在原始信息上所占的信息比如表3所示。

表3 每個主成分所占信息比

2.3 預(yù)測模型構(gòu)建及比較

為了研究改進的鯨魚優(yōu)化算法對SVR預(yù)測模型的優(yōu)化效果, 故對特征提取后的數(shù)據(jù)進行了建模操作, 建立的模型包括: 傳統(tǒng)的SVR模型A(SVR)、 鯨魚優(yōu)化算法優(yōu)化的SVR模型B(SWOA-SVR)、 遺傳算法優(yōu)化的SVR模型(GA-SVR)、 精英反向?qū)W習策略改進的鯨魚優(yōu)化算法優(yōu)化的SVR模型F(EOBL-SWOA-SVR)及混合策略改進的鯨魚優(yōu)化算法優(yōu)化的SVR模型G(EGolden-SWOA-SVR), GA-SVR模型中, 交叉率為0.6, 變異率為0.1的預(yù)測模型簡稱為模型C; 交叉率為0.7, 變異率為0.1的預(yù)測模型簡稱為模型D; 交叉率為0.7, 變異率為0.2的預(yù)測模型簡稱為模型E, 結(jié)果如表4所示。

表4 七種模型的性能評價指標

由表4可以看出, SVR模型預(yù)測集參數(shù)R2的值為0.985, 1/RMSE的值為2.533, 1/MAE的值為6.902, 1/RMSE和1/MAE的值較小, 說明SVR模型的預(yù)測效果不是很好, 達不到人們對于預(yù)測模型的基本要求; 對于傳統(tǒng)的鯨魚優(yōu)化算法優(yōu)化后的SVR模型相較于單純的SVR模型性能有了很大的提升; 經(jīng)混合策略改進的SVR預(yù)測模型評價參數(shù)值總體上優(yōu)于傳統(tǒng)鯨魚優(yōu)化算法改進的SVR模型及單策略改進的SVR模型的評價參數(shù)值, 其中混合策略改進的SVR模型預(yù)測集的評價參數(shù)R2的值達到了0.995; 為使得結(jié)果更有說服性, 將改進后的鯨魚優(yōu)化算法和遺傳算法的優(yōu)化結(jié)果進行了比較, 由于遺傳算法的交叉概率及變異概率是人工設(shè)定的固定值, 共采用了[0.7, 0.2]、 [0.7, 0.1]、 [0.6, 0.1]3組值來分別進行測試, 由結(jié)果可以得出, 遺傳算法優(yōu)化SVR模型的效果和變異率、 交叉率的選取有很大的關(guān)系, 而交叉率、 變異率是一個固定值, 需要反復(fù)進行實驗才可以得出一個較好的值, 所以遺傳算法的實驗步驟復(fù)雜, 算法的穩(wěn)定性不高。

綜上, 混合策略改進的鯨魚優(yōu)化算法優(yōu)化SVR預(yù)測模型是可行的, 優(yōu)化過后的SVR模型具有更好的預(yù)測效果。

3 結(jié) 論

利用高光譜成像技術(shù)對牛奶脂肪含量進行了檢測研究。 首先采用不同的預(yù)處理方法對光譜數(shù)據(jù)建立PLSR模型并比較得出最佳的預(yù)處理方法, 然后采用不同的主成分數(shù)對預(yù)處理后的數(shù)據(jù)進行特征提取并建立SVR模型, 通過比較得出最佳的主成分個數(shù); 最后對特征提取后的數(shù)據(jù)建立SVR模型并對建立后的模型進行優(yōu)化。 為了驗證混合策略改進的鯨魚優(yōu)化算法優(yōu)化模型的可行性及優(yōu)越性, 將其優(yōu)化后的模型與精英反向?qū)W習單策略改進 WOA 算法優(yōu)化的模型、 傳統(tǒng)的鯨魚優(yōu)化算法優(yōu)化的模型、 遺傳算法優(yōu)化的模型進行比較, 結(jié)果表明EGolden-SWOA算法優(yōu)化的SVR模型對牛奶中的脂肪含量具有更好的預(yù)測效果。