基于LBFGS神經(jīng)網(wǎng)絡(luò)的水質(zhì)評(píng)價(jià)方法優(yōu)化研究

楊曉峰

摘 要： 漁業(yè)水質(zhì)評(píng)價(jià)智能化對(duì)提高漁業(yè)生產(chǎn)水平起到關(guān)鍵促進(jìn)作用。本文針對(duì)漁業(yè)水質(zhì)評(píng)價(jià)設(shè)計(jì)了基于LBFGS優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型，深入討論選取特征的有效性并優(yōu)化了特征選擇，實(shí)現(xiàn)了模型壓縮，更適合前端嵌入式環(huán)境。實(shí)驗(yàn)表明，本文設(shè)計(jì)模型能夠有效提供水質(zhì)評(píng)價(jià)信息。

關(guān)鍵詞： 水質(zhì); 評(píng)價(jià); LBFGS; 神經(jīng)網(wǎng)絡(luò)

文章編號(hào)： 2095-2163（2021）03-0134-05 中圖分類(lèi)號(hào)： TP183 文獻(xiàn)標(biāo)志碼：A

【Abstract】The intelligent evaluation of water quality plays a key role in increasing the fishery production. In this paper， a neural network model based on LBFGS optimization is designed for fishery water quality evaluation. The effectiveness of features is discussed， and the model is compressed. This mode is more suitable for the front-end embedded environment. Experiments show that the model designed in this paper can effectively provide water quality evaluation information.

【Key words】 water quality; evaluation; limited-memory Broyden-Fletcher-Goldfarb-Shanno; artificial neural network

0 引 言

漁業(yè)水質(zhì)評(píng)價(jià)是對(duì)漁業(yè)養(yǎng)殖池塘內(nèi)水體的情況做出的量化判斷的一種評(píng)價(jià)標(biāo)準(zhǔn)。由于漁業(yè)養(yǎng)殖池塘內(nèi)水體的微生物以及浮游動(dòng)植物的數(shù)量需要保持一定的比例，微生物以及浮游動(dòng)植物的數(shù)量會(huì)影響水體顏色，通常需要通過(guò)觀測(cè)水體顏色來(lái)判別水質(zhì)情況，準(zhǔn)確的水質(zhì)智能化評(píng)價(jià)對(duì)提高漁業(yè)生產(chǎn)水平起到關(guān)鍵促進(jìn)作用。由于帶有主觀性的人工觀測(cè)會(huì)造成一定的偏差，因此有必要將專(zhuān)家漁業(yè)養(yǎng)殖水色判斷經(jīng)驗(yàn)轉(zhuǎn)化為可以量化的評(píng)價(jià)標(biāo)準(zhǔn)，結(jié)合專(zhuān)家經(jīng)驗(yàn)和計(jì)算機(jī)視覺(jué)分析模型，在前端攝像機(jī)內(nèi)采集水體圖像以及分析水色等級(jí)，實(shí)現(xiàn)快速準(zhǔn)確的判斷水質(zhì)情況。目前基于可見(jiàn)光圖像判斷水色的模型特征主要方法有如下2種：采用多種顏色空間分布特征的方法[1]和采用顏色矩特征的方法[2-3]。目前，胡朝瑩等人[1]研究了多種顏色空間分布特征對(duì)水色判斷的穩(wěn)定性;許新華[2]利用RGB空間的顏色矩特征，建立了LM算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)水質(zhì)等級(jí)評(píng)價(jià)。

采用顏色空間分布特征的方法多采用顏色直方圖方法計(jì)算圖像特征，通過(guò)顏色直方圖可以統(tǒng)計(jì)不同顏色在圖象中出現(xiàn)的頻率，但是顏色直方圖無(wú)法描述顏色的空間分布位置信息，并且顏色直方圖特征維數(shù)較高，例如：將32位色圖像的所有顏色都進(jìn)行直方圖統(tǒng)計(jì)將會(huì)有232維特征，特征維度非常高。

顏色矩特征[4]根據(jù)概率統(tǒng)理論利用隨機(jī)變量的矩表示圖像中顏色分布特征。在一幅圖像中，顏色信息具有一定的概率分布，而顏色信息分布就可以用矩的方法來(lái)描述。顏色矩將圖像中的顏色通道信息分別進(jìn)行一階矩、二階矩和三階矩統(tǒng)計(jì)，一幅圖像RGB信息可以使用9個(gè)維度的顏色矩信息表示，相比顏色直方圖特征，特征維度大幅降低，帶來(lái)的好處是特征處理的計(jì)算量將大幅降低，所以最近的水質(zhì)評(píng)價(jià)研究[2]中多使用顏色矩特征。但是文獻(xiàn)[2]在水質(zhì)評(píng)價(jià)研究中并未對(duì)顏色矩的各階特征的有效性做出分析，并且水質(zhì)檢測(cè)準(zhǔn)確率較低（小于90%）。

針對(duì)文獻(xiàn)[2]不足，本文對(duì)顏色矩各階特征做了有效性分析，提高了水質(zhì)檢測(cè)的準(zhǔn)確率，并且優(yōu)化了模型，使模型更適合在前端嵌入式環(huán)境下使用。

1 數(shù)據(jù)準(zhǔn)備

本文使用的漁業(yè)養(yǎng)殖池塘水體數(shù)據(jù)集來(lái)源于文獻(xiàn)[5]，水樣圖像通過(guò)相機(jī)拍攝采集，采集到的圖像樣本中包含了玻璃容器，由于玻璃容器的高亮度反光會(huì)影響水體樣本圖像顏色的分布，因此對(duì)圖像進(jìn)行了裁剪，只保留了圖像中央101×101像素的部分，用于顏色矩特征的提取。數(shù)據(jù)集中不同類(lèi)型水質(zhì)樣本數(shù)量統(tǒng)計(jì)如圖1所示。從圖1中可以看出數(shù)據(jù)集中各種水質(zhì)樣本分布是不均勻的。訓(xùn)練樣本和測(cè)試樣本隨機(jī)選取，比例為8∶2，訓(xùn)練集中的水質(zhì)樣本數(shù)量統(tǒng)計(jì)如圖2所示，測(cè)試集中的水質(zhì)樣本數(shù)量統(tǒng)計(jì)如圖3所示。

2 特征提取

本文選用顏色的一階矩、二階矩以及三階矩分別提取水體樣本圖像特征，顏色矩特征計(jì)算過(guò)程可闡釋表述如下。

（1）顏色的一階矩。表示圖像整體的亮度，具體數(shù)學(xué)公式為：

（2）顏色的二階矩。表示圖像色域的廣度，具體數(shù)學(xué)公式為：

（3）顏色的三階矩。表示圖像顏色分布對(duì)稱性，具體數(shù)學(xué)公式為：

對(duì)預(yù)處理后的圖像提取顏色矩特征，提取的顏色矩特征見(jiàn)表1。

3 模型建立與分析

在神經(jīng)網(wǎng)絡(luò)優(yōu)化算法中，最常見(jiàn)的是隨機(jī)梯度下降法以及其改進(jìn)方法。梯度下降法是一階最優(yōu)化算法，優(yōu)化思想是在當(dāng)前空間點(diǎn)位置的負(fù)梯度方向進(jìn)行搜索，該方向被認(rèn)為是尋找最優(yōu)解的最佳方向。梯度下降法簡(jiǎn)單，適用于凸函數(shù)，但是應(yīng)用于非凸函數(shù)時(shí)很容易落入局部最優(yōu)解。

針對(duì)一階最優(yōu)化算法，牛頓法利用了目標(biāo)函數(shù)的一階導(dǎo)數(shù)信息和二階偏導(dǎo)信息，相對(duì)于一階優(yōu)化算法有更快的收斂速度，更容易從局部最優(yōu)解中逃逸。但是在迭代過(guò)程中，牛頓法每次迭代都需要計(jì)算目標(biāo)函數(shù)的海森矩陣Hessian的逆矩陣，計(jì)算復(fù)雜度很高，并且如果海森矩陣不可逆的時(shí)候出現(xiàn)無(wú)法計(jì)算的情況。

擬牛頓法是對(duì)牛頓法的改進(jìn)方法，是目前非線性問(wèn)題求解最佳方法之一。擬牛頓法避免了海森矩陣逆矩陣的復(fù)雜求解過(guò)程，通過(guò)正定矩陣近似海森矩陣的逆，簡(jiǎn)化運(yùn)算復(fù)雜度。LBFGS優(yōu)化算法就是一種擬牛頓法。本文采用LBFGS算法優(yōu)化神經(jīng)網(wǎng)絡(luò)，保證了網(wǎng)絡(luò)快速優(yōu)化并能夠最大程度接近全局最優(yōu)解，這也是本文后續(xù)特征有效性分析的理論基礎(chǔ)。

本文采用的神經(jīng)網(wǎng)絡(luò)模型，輸入層為9個(gè)節(jié)點(diǎn)，兩個(gè)隱藏層分別為20個(gè)節(jié)點(diǎn)和8個(gè)節(jié)點(diǎn)，輸出層為5個(gè)節(jié)點(diǎn)。模型訓(xùn)練，最大訓(xùn)練次數(shù)設(shè)為3 000，優(yōu)化器參數(shù)設(shè)為lbfgs，random_state設(shè)為1。模型評(píng)價(jià)采用混淆矩陣，訓(xùn)練結(jié)果如圖4所示，測(cè)試結(jié)果如圖5所示。圖4、圖5中，True label表示真實(shí)的分類(lèi)信息，Predicted label表示模型預(yù)測(cè)的分類(lèi)信息，矩陣中對(duì)角線上元素表示各個(gè)分類(lèi)預(yù)測(cè)正確數(shù)量，其他元素表示預(yù)測(cè)錯(cuò)誤的數(shù)量。模型訓(xùn)練準(zhǔn)確率為100%，測(cè)試準(zhǔn)確率為95.43%，與文獻(xiàn)[2]結(jié)果對(duì)比見(jiàn)表2。本文模型相對(duì)于文獻(xiàn)[2]準(zhǔn)確率提高了7個(gè)百分點(diǎn)，說(shuō)明方法有效。

本文設(shè)計(jì)的模型采用了9個(gè)顏色矩特征，其中三階顏色矩特征表示顏色分布的對(duì)稱性，參見(jiàn)公式（3）。經(jīng)過(guò)進(jìn)一步樣本分析發(fā)現(xiàn)，預(yù)處理后的不同類(lèi)別水質(zhì)樣本圖像中顏色分布都很均勻（方框內(nèi)），三階顏色矩特征在水質(zhì)分類(lèi)中貢獻(xiàn)度很小，后續(xù)實(shí)驗(yàn)中也證明這一點(diǎn)，水質(zhì)分析中只需要利用一階顏色矩和二階顏色矩、共6種特征即可，文章后續(xù)實(shí)驗(yàn)對(duì)顏色信息的一階矩、二階矩和三階矩三組圖像特征有效性進(jìn)行了分析。5種水質(zhì)樣本如圖6所示。圖6中方框表示數(shù)據(jù)預(yù)處理后保留的部分。

4 模型優(yōu)化

（1）補(bǔ)充實(shí)驗(yàn)1。特征選取一階顏色矩和二階顏色矩兩組特征，模型選用2層隱藏層，節(jié)點(diǎn)數(shù)分別是9和5，最大訓(xùn)練次數(shù)設(shè)為3 000，優(yōu)化器參數(shù)設(shè)為lbfgs，random_state設(shè)為1。實(shí)驗(yàn)結(jié)果如圖7、圖8所示。

（2）補(bǔ)充實(shí)驗(yàn)2。特征選取一階顏色矩一組特征，模型選用2層隱藏層，節(jié)點(diǎn)數(shù)分別是9和3，最大訓(xùn)練次數(shù)設(shè)為3 000，優(yōu)化器參數(shù)設(shè)為lbfgs，random_state設(shè)為1。實(shí)驗(yàn)結(jié)果如圖9、圖10所示。

（3）補(bǔ)充實(shí)驗(yàn)3。特征選取二階顏色矩一組特征，模型選用2層隱藏層，節(jié)點(diǎn)數(shù)分別是8和4，最大訓(xùn)練次數(shù)設(shè)為3 000，優(yōu)化器參數(shù)設(shè)為lbfgs，random_state設(shè)為1。實(shí)驗(yàn)結(jié)果如圖11、圖12所示。

補(bǔ)充實(shí)驗(yàn)1訓(xùn)練準(zhǔn)確率為100%，測(cè)試準(zhǔn)確率為95.43%，與本文實(shí)驗(yàn)結(jié)果相同，充分證明了上一節(jié)的實(shí)驗(yàn)分析結(jié)論。因此本文方法可以優(yōu)化，減少特征數(shù)量，壓縮模型規(guī)模，提高模型運(yùn)行效率。由于壓縮后的模型與原始模型準(zhǔn)確率相同，所以相對(duì)于原模型，則更符合邊緣計(jì)算的要求，更適合在嵌入式環(huán)境下運(yùn)行。補(bǔ)充實(shí)驗(yàn)2的測(cè)試準(zhǔn)確率為87.81%，補(bǔ)充實(shí)驗(yàn)3的測(cè)試準(zhǔn)確率為51.22%，詳見(jiàn)表3，結(jié)果說(shuō)明在水質(zhì)評(píng)價(jià)中一階顏色矩特征提供了主要信息，也就是水樣的明暗程度對(duì)水質(zhì)評(píng)價(jià)有至關(guān)重要的作用;二階顏色矩特征提供相對(duì)次要的信息，顏色的分布范圍信息對(duì)水質(zhì)評(píng)價(jià)也有一定幫助;三階顏色矩特征貢獻(xiàn)度幾乎為零，顏色分布的對(duì)稱性對(duì)水質(zhì)評(píng)價(jià)不起作用。因此，一階顏色矩特征和二階顏色矩特征可以提供水質(zhì)評(píng)價(jià)的所有信息。

5 結(jié)束語(yǔ)

本文針對(duì)漁業(yè)水質(zhì)評(píng)價(jià)設(shè)計(jì)了基于LBFGS優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型，并對(duì)特征選取進(jìn)行了深入討論，進(jìn)一步壓縮水質(zhì)評(píng)價(jià)模型，并使得準(zhǔn)確率保持不變，因此更適合在前端嵌入式環(huán)境下運(yùn)行。實(shí)驗(yàn)表明，本文設(shè)計(jì)模型能夠有效提供準(zhǔn)確的水質(zhì)評(píng)價(jià)信息。

參考文獻(xiàn)

[1] 胡朝瑩，謝駿，余德光，等. 幾種顏色空間在池塘水色圖像識(shí)別中的穩(wěn)定性研究[C]//大宗淡水魚(yú)類(lèi)產(chǎn)業(yè)技術(shù)可持續(xù)發(fā)展學(xué)術(shù)研討會(huì). 銀川：中國(guó)水產(chǎn)科學(xué)研究院， 2009：17.

[2] 許新華. 基于LM神經(jīng)網(wǎng)絡(luò)水色圖像識(shí)別技術(shù)的水質(zhì)評(píng)價(jià)研究[J]. 科學(xué)技術(shù)創(chuàng)新， 2019（6）：99-100.

[3] 王海英，曹晶，謝駿，等. 基于L-M神經(jīng)網(wǎng)絡(luò)優(yōu)化算法的池塘水色判別系統(tǒng)的初步建立[J]. 漁業(yè)現(xiàn)代化， 2010，37（5）：19-21，37.

[4] STRICKER M A， ORENGO M. Similarity of color images[C]//Proceedings of SPIE-The International Society for Optical Engineering 2420 . SAN JOSE， CA， USA：SPIE，1995：381-392.

[5] 張良均，王路，譚立云，等. Python數(shù)據(jù)分析與挖掘?qū)崙?zhàn)[M]. 北京：機(jī)械工業(yè)出版社， 2016.