主成分分析結(jié)合支持向量機(jī)輔助激光誘導(dǎo)擊穿光譜對(duì)塑料快速分類識(shí)別

劉俊安， 李嘉銘， 趙 楠， 馬瓊雄， 郭 亮， 張慶茂

華南師范大學(xué)信息光電子科技學(xué)院， 廣東省微納光子功能材料與器件重點(diǎn)實(shí)驗(yàn)室， 廣東 廣州 510006

引 言

世界上最早的合成塑料誕生于1907年， 標(biāo)志著全球塑料工業(yè)的開(kāi)端。 截至2015年， 全球大約產(chǎn)生了6 300噸塑料垃圾， 其中只有約9%被回收， 12%被焚燒， 剩余的大部分進(jìn)入環(huán)境當(dāng)中。 如果不能對(duì)塑料進(jìn)行分類回收再利用， 到2050年， 大約有1.2萬(wàn)噸塑料廢物將被扔到垃圾填埋場(chǎng)或自然環(huán)境中[1]。 在塑料回收中有一個(gè)關(guān)鍵環(huán)節(jié)是塑料的分類， 目前多采用傳統(tǒng)的人力分類篩選或是經(jīng)過(guò)復(fù)雜的化學(xué)工藝進(jìn)行分選， 這些方法不但效率低下， 而且易對(duì)人體健康產(chǎn)生危害。 除此之外， 常見(jiàn)的分類方法還有紅外識(shí)別光譜[2-4]， 拉曼光譜[5]， X射線熒光光譜[6]等。 雖然這些技術(shù)在塑料分類方面有較高的識(shí)別精度， 但易受環(huán)境條件和材料表面附著物的影響， 處理工序繁雜， 成本較高， 不能滿足工業(yè)生產(chǎn)的需求。 激光誘導(dǎo)擊穿光譜(laser-induced breakdown spectroscopy， LIBS)技術(shù)是一種原子發(fā)射光譜分析技術(shù)， 能夠在不對(duì)樣品做任何處理的情況下， 采集光譜信息用于大多數(shù)樣品的分析， 靈活方便且具有快速檢測(cè)能力。 目前LIBS技術(shù)被廣泛應(yīng)用于各個(gè)領(lǐng)域， 如生物醫(yī)療[7]， 環(huán)境污水檢測(cè)[8]， 食物元素含量鑒定[9]以及冶金工業(yè)[10]等領(lǐng)域。

近年來(lái)， 國(guó)內(nèi)外有許多學(xué)者已成功將LIBS技術(shù)應(yīng)用于塑料分類領(lǐng)域， 并取得顯著的效果， 主要包括： Myriam Boueri等[11]采用優(yōu)化之后的人工神經(jīng)網(wǎng)絡(luò)(artificial neural networks， ANN)算法， 將LIBS光譜作為ANN的輸入， 實(shí)現(xiàn)了對(duì)8種塑料制品的分類， 準(zhǔn)確率在94%～100%之間； Banaee和Tavassoli等[12]利用CN， C2， N， Cl， O和H的譜線強(qiáng)度進(jìn)行歸一化后作為判別函數(shù)分析(discriminant function analysis, DFA)的輸入。 結(jié)果表明， LIBS結(jié)合DFA對(duì)PET， HPDE等6種商用塑料可以實(shí)現(xiàn)99%以上的識(shí)別率； Yu等[13]提出了光譜權(quán)重調(diào)整結(jié)合激光誘導(dǎo)擊穿光譜， 通過(guò)提高O Ⅰ 777.41 nm, C—N(0, 0)和C—C(0, 0)譜線的強(qiáng)度， 使得原本識(shí)別率較低的四種塑料(PE， PP， PU和PC)都能被100%識(shí)別； Rajendhar Junjuri等[14]用偏最小二乘判別分析法對(duì)10種常見(jiàn)塑料進(jìn)行分類， 總體分類精度達(dá)到了93.30%， 另外還通過(guò)選取C， H， N等元素的譜線強(qiáng)度(譜線利用率占全譜的7.3%)重新建模后， 獲得的分類準(zhǔn)確度與全譜相當(dāng)。 上述研究雖然都得到了很高的準(zhǔn)確率， 但往往需要對(duì)原始數(shù)據(jù)做復(fù)雜的處理， 特別是分類準(zhǔn)確度易受特征譜線選取的影響。 相較于其他算法， 支持向量機(jī)(support vector machines, SVM)是一種基于決策邊界實(shí)現(xiàn)樣本分類的機(jī)器學(xué)習(xí)算法， 特別適合用來(lái)解決復(fù)雜的中小型數(shù)據(jù)集的分類， 而且SVM算法能得到全局最優(yōu)解， 訓(xùn)練和預(yù)測(cè)過(guò)程也比較穩(wěn)定， 但是易受輸入變量和噪聲的影響， 面對(duì)高維數(shù)據(jù)的分類普遍存在耗費(fèi)時(shí)間長(zhǎng)， 無(wú)法有效地去除噪聲帶來(lái)的影響等問(wèn)題。 主成分分析(principal component analysis, PCA)是一種常用的數(shù)據(jù)降維方法。 降維后的數(shù)據(jù)代表了原始數(shù)據(jù)的大部分特征， 而且去除了大部分噪聲。 本文將PCA算法和SVM分類模型結(jié)合起來(lái)， 以實(shí)現(xiàn)又快又準(zhǔn)地對(duì)塑料進(jìn)行分類識(shí)別。

1 實(shí)驗(yàn)部分

1.1 LIBS裝置

激光誘導(dǎo)擊穿光譜實(shí)驗(yàn)裝置如圖1所示。 該系統(tǒng)主要由激光器、 數(shù)字延時(shí)脈沖觸發(fā)器(DG535)、 光譜儀和增強(qiáng)型電荷耦合器件(ICCD)探測(cè)器組成。 數(shù)字觸發(fā)器DG535會(huì)發(fā)出兩路脈沖信號(hào)用來(lái)觸發(fā)激光器和控制ICCD電子開(kāi)關(guān)。 激光脈沖經(jīng)過(guò)反射鏡后， 垂直穿過(guò)焦距為150 mm的聚焦透鏡， 到達(dá)樣品表面， 燒蝕樣品并激發(fā)等離子體。 此時(shí)產(chǎn)生的光譜由采集頭收集并通過(guò)光纖(長(zhǎng)2 m， 芯徑50 μm)傳到光譜儀， 通過(guò)ICCD處理傳到計(jì)算機(jī)進(jìn)行數(shù)據(jù)處理。 本實(shí)驗(yàn)采用的是調(diào)Q開(kāi)關(guān)的Nd∶YAG激光器， 輸出波長(zhǎng)為1 064 nm。 所使用的光譜儀為ME 5000中階梯型光柵光譜儀， 其分辨率為λ/Δλ=5 000， 波長(zhǎng)精度為0.05 nm， 光譜檢測(cè)范圍200～975 nm。 經(jīng)過(guò)對(duì)部分樣品進(jìn)行采樣分析后得到最佳的延遲時(shí)間為2.6 μs， 門寬對(duì)應(yīng)于2 μs。 另外， 實(shí)驗(yàn)樣品是放在一個(gè)可以進(jìn)行三維移動(dòng)的載物臺(tái)上。 采集光譜過(guò)程中將樣品的運(yùn)動(dòng)軌跡設(shè)置為“弓”形。 電腦的處理器為AMD Ryzen 5 2500U with Radeon Vega Mobile Gfx， 核心參數(shù)為14 nm工藝， 四核八線程， 基礎(chǔ)頻率為2.00 GHz， 加速頻率為3.6 GHz， 一級(jí)、 二級(jí)和三級(jí)緩存分別為384 kB, 2 MB和4 MB。 電腦內(nèi)存大小為8.00 GB， 頻率為2 400 MHz。

圖1 LIBS實(shí)驗(yàn)裝置圖

1.2 樣品

實(shí)驗(yàn)樣品均為常用工業(yè)塑料樣品， 從塑料的分子式來(lái)劃分總共有11種， 分別是工程塑料(ABS)， 尼龍(PA)， 有機(jī)玻璃(PMMA)， 聚氯乙烯(PVC)， 聚碳酸酯(PC)， 聚乙烯(PE)， 聚苯乙烯(PS)， 聚甲醛(POM)， 聚氨酯(PU)， 聚四氟乙烯(PTFE)和聚丙烯(PP)。 這些塑料樣品在加工的過(guò)程中， 往往添加某些化合物以改善塑料的外觀和性能， 如增塑劑、 阻燃劑、 著色劑等。 本實(shí)驗(yàn)采取的樣品中有一部分是同一類型但有不同顏色的工業(yè)塑料， 也將它們歸為不同類型， 所以本實(shí)驗(yàn)總共有20種塑料樣品， 見(jiàn)表1。

表1 實(shí)驗(yàn)樣品信息

2 結(jié)果與討論

2.1 光譜數(shù)據(jù)的采集與處理

總共采集了20種塑料的光譜， 每種塑料取100幅光譜圖像， 總共有2 000組數(shù)據(jù)。 樣品光譜范圍為200～980 nm， 共有25 745個(gè)輸入變量。 為降低光譜強(qiáng)度的波動(dòng)， 所有譜線均除以C Ⅰ 247.86 nm譜線強(qiáng)度進(jìn)行歸一化處理。 圖2所示為樣品PVC1的LIBS光譜強(qiáng)度經(jīng)C線歸一化后的全譜圖。

圖2 樣品PVC1的LIBS光譜強(qiáng)度歸一化全譜圖

2.2 支持向量機(jī)結(jié)果分析

為了訓(xùn)練支持向量機(jī)， 提前將原始數(shù)據(jù)集隨機(jī)分成訓(xùn)練集和測(cè)試集， 并為每種塑料設(shè)置相應(yīng)的標(biāo)簽值。 我們將所有數(shù)據(jù)集打亂， 再?gòu)拿糠N塑料光譜中隨機(jī)取出50組數(shù)據(jù)作為訓(xùn)練集， 并將余下50組作為測(cè)試集用來(lái)評(píng)估分類器的效果。 將訓(xùn)練集的1 000組光譜數(shù)據(jù)及它們的標(biāo)簽值作為SVM的輸入， 參與訓(xùn)練SVM模型， 另外的1 000組數(shù)據(jù)(不帶標(biāo)簽值)輸入到訓(xùn)練好的模型中去， 最后得到分類的平均準(zhǔn)確度和每種塑料各自的識(shí)別準(zhǔn)確率。

采用5折交叉驗(yàn)證， 尋得最佳的參數(shù)C=2，g=0.001 953 125， 分類結(jié)果如圖3所示。 藍(lán)色的圓點(diǎn)代表樣品的實(shí)際標(biāo)簽， 紅色的加號(hào)代表樣品的預(yù)測(cè)標(biāo)簽， 當(dāng)這兩種標(biāo)簽相互重疊在一起時(shí)說(shuō)明結(jié)果正確預(yù)測(cè)。 由圖可知， 1 000個(gè)測(cè)試集的樣品， 只有一個(gè)樣品被預(yù)測(cè)錯(cuò)誤， 識(shí)別準(zhǔn)確率達(dá)到99.90%。 這說(shuō)明LIBS結(jié)合SVM算法對(duì)塑料分類識(shí)別具有良好的應(yīng)用前景。

圖3 SVM算法對(duì)測(cè)試集樣品分類結(jié)果(1 000個(gè)樣品)

但是， 在進(jìn)行參數(shù)優(yōu)化過(guò)程中， 為了得到最佳參數(shù)， 訓(xùn)練時(shí)長(zhǎng)總共耗費(fèi)1小時(shí)58分41.13秒， 1 000個(gè)測(cè)試數(shù)據(jù)集預(yù)測(cè)結(jié)果的輸出花了11.96 s。 雖然我們得到了很高的識(shí)別準(zhǔn)確率， 但是為此付出了巨大的時(shí)間代價(jià)， 過(guò)長(zhǎng)的訓(xùn)練時(shí)間顯然不符合現(xiàn)實(shí)當(dāng)中工業(yè)生產(chǎn)的要求。 為了能夠在保證高識(shí)別精度的情況下， 縮短SVM訓(xùn)練的時(shí)間以及預(yù)測(cè)的時(shí)間， 我們提出了主成分分分析結(jié)合支持向量機(jī)模型對(duì)塑料進(jìn)行分類識(shí)別。

2.3 主成分分析結(jié)合支持向量機(jī)算法結(jié)果分析

上述用SVM對(duì)塑料分類過(guò)程中， 是將全譜數(shù)據(jù)作為SVM的輸入， 每種塑料的光譜數(shù)據(jù)有25 000多個(gè)特征， 共有20種塑料樣品， 2 000組數(shù)據(jù)， 由此可知整個(gè)SVM訓(xùn)練和預(yù)測(cè)過(guò)程將需要處理龐大的數(shù)據(jù)， 這造成了運(yùn)算的時(shí)間成本上升， 導(dǎo)致處理速度降低， 這一點(diǎn)在進(jìn)行參數(shù)搜索過(guò)程中表現(xiàn)明顯。 由于在進(jìn)行全譜輸入過(guò)程中引入了大量不相關(guān)的數(shù)據(jù)， 浪費(fèi)了程序運(yùn)行的存儲(chǔ)空間， 同時(shí)也引入大量的背景噪聲， 致使分類識(shí)別的準(zhǔn)確度可能會(huì)降低。

基于以上問(wèn)題， 引入主成分分析法。 在訓(xùn)練模型之前， 將2 000組數(shù)據(jù)進(jìn)行降維處理， 得到前20個(gè)主成分的累計(jì)貢獻(xiàn)率圖4所示， 前兩個(gè)主成分的累計(jì)貢獻(xiàn)率已經(jīng)達(dá)到97.13%， 能夠代表大部分原始數(shù)據(jù)的特征。 當(dāng)主成分個(gè)數(shù)為13或更多時(shí)， 貢獻(xiàn)率的增加逐漸變得緩慢。

圖4 前20個(gè)主成分的累計(jì)貢獻(xiàn)率

為了能更直觀地看到不同數(shù)據(jù)間的重疊程度， 把第一主成分， 第二主成分以及第三主成分各自的貢獻(xiàn)率畫(huà)在三維空間中。 它們的空間的分布如圖5所示， 可以看到20種塑料間的區(qū)分度并不明顯， 彼此交疊在一起難以區(qū)分， 這說(shuō)明用三個(gè)主成分并不能很好地實(shí)現(xiàn)分類。 我們需要要做更進(jìn)一步的分析。

圖5 20種塑料光譜數(shù)據(jù)在前3個(gè)主成分中的散點(diǎn)圖

研究了在不同主成分下對(duì)應(yīng)的分類識(shí)別準(zhǔn)確率， 為盡可能減少樣本分類過(guò)程中的偶然性， 降低實(shí)驗(yàn)誤差， 每個(gè)主成分對(duì)應(yīng)的準(zhǔn)確率均進(jìn)行了10次訓(xùn)練后再取平均的結(jié)果， 具體數(shù)值如圖6所示， 從圖中可以看到， 隨著所取得主成分個(gè)數(shù)的增加， 識(shí)別的準(zhǔn)確度也逐漸增加， 并最后到達(dá)一個(gè)平臺(tái)期。 當(dāng)主成分個(gè)數(shù)為13時(shí)， 采用10次訓(xùn)練求平均的方法， 得到的平均識(shí)別準(zhǔn)確度是99.80%。 選取主成分個(gè)數(shù)為13， 訓(xùn)練得到時(shí)20種塑料的分類結(jié)果如圖7所示。 當(dāng)實(shí)際標(biāo)簽和預(yù)測(cè)標(biāo)簽相互重疊時(shí)， 即說(shuō)明樣品預(yù)測(cè)正確。 由圖可見(jiàn)， 1 000個(gè)光譜數(shù)據(jù)中只有兩個(gè)預(yù)測(cè)錯(cuò)誤， 得到分類識(shí)別準(zhǔn)確度為99.80%。 當(dāng)主成分個(gè)數(shù)超過(guò)13后， 分類識(shí)別的準(zhǔn)確度基本不再變化， 維持在99.90%以上。 由此可見(jiàn)， 經(jīng)過(guò)PCA降維后， 去除了噪聲和大量不相關(guān)數(shù)據(jù)帶來(lái)的影響， 通過(guò)選取前幾個(gè)特征值作為SVM的輸入， 也能夠?qū)崿F(xiàn)很高的分類精確度。

圖6 20種塑料光譜數(shù)據(jù)在不同維度下的平均識(shí)別準(zhǔn)確率數(shù)

圖7 PCA-SVM算法對(duì)測(cè)試集樣品分類結(jié)果 (主成分個(gè)數(shù)為13)

為了分析實(shí)驗(yàn)過(guò)程所用時(shí)間， 本文先是研究將原始數(shù)據(jù)降成不同維度所需時(shí)間， 如圖8所示。 PCA算法對(duì)數(shù)據(jù)的處理速度極快， 將原始數(shù)據(jù)降成13個(gè)維度也只需1.44 s。 雖然隨著主成分個(gè)數(shù)的增加， PCA算法處理數(shù)據(jù)的時(shí)間也會(huì)增加， 但增加速度緩慢， 即使主成分個(gè)數(shù)達(dá)到20， 花費(fèi)時(shí)間也不會(huì)超過(guò)2秒。 這體現(xiàn)了PCA算法在數(shù)據(jù)快速處理領(lǐng)域的優(yōu)勢(shì)。

圖8 PCA算法處理數(shù)據(jù)所需時(shí)間

接著進(jìn)一步研究引入PCA算法后SVM分類器的效果。 將降維后的數(shù)據(jù)， 同樣使用網(wǎng)格搜索和5折交叉驗(yàn)證的方法， 研究了在選取不同主成分個(gè)數(shù)的前提下， 相對(duì)應(yīng)的模型訓(xùn)練所需時(shí)間， 如圖9所示。 即使主成分個(gè)數(shù)已經(jīng)取到20， 訓(xùn)練所耗費(fèi)的平均時(shí)間僅為13.45 s， 這跟上述單純用SVM訓(xùn)練時(shí)長(zhǎng)(1小時(shí)58分41.13秒)相比， 速度提高了非常多。 除了第一主成分的訓(xùn)練時(shí)間波動(dòng)較大外， 其他數(shù)量的主成分每次訓(xùn)練所需時(shí)間大致相同， 每次的訓(xùn)練過(guò)程均比較穩(wěn)定。

圖9 20種塑料光譜數(shù)據(jù)在不同維度的平均建模時(shí)間

最后， 還研究了20種塑料光譜數(shù)據(jù)在不同維度下1 000個(gè)樣本的預(yù)測(cè)時(shí)間， 如圖10所示， 由于預(yù)測(cè)時(shí)間太短， 以至于預(yù)測(cè)時(shí)間在不同測(cè)試集間波動(dòng)較大， 但是總體上1 000個(gè)樣本預(yù)測(cè)所需時(shí)間也不超過(guò)0.04 s。 與上一節(jié)提到的11.96 s相比， 優(yōu)化后SVM的預(yù)測(cè)速度得到很大提高。

圖10 20種塑料光譜數(shù)據(jù)在不同維度下的平均預(yù)測(cè)時(shí)間

為了直觀比較兩種實(shí)驗(yàn)方法在識(shí)別效率和識(shí)別精度上的區(qū)別， 選取主成分個(gè)數(shù)為13， 比較它們各自的識(shí)別時(shí)間和準(zhǔn)確率， 如表2所示。 由表可知， 無(wú)論是實(shí)驗(yàn)過(guò)程的總體時(shí)間， 還是訓(xùn)練時(shí)間和預(yù)測(cè)時(shí)間， PCA算法結(jié)合SVM分類器的實(shí)驗(yàn)方法在分類識(shí)別速度上優(yōu)勢(shì)明顯， 即使其準(zhǔn)確率有些許的降低， 但兩種方法的識(shí)別準(zhǔn)確率仍處于同一水平上， 綜合來(lái)看， 結(jié)合PCA算法利用SVM分類更加符合工業(yè)生產(chǎn)的要求。

表2 當(dāng)主成分個(gè)數(shù)為13時(shí)SVM和PCA+SVM 實(shí)驗(yàn)結(jié)果比較

3 結(jié) 論

主成分分析結(jié)合支持向量機(jī)輔助激光誘導(dǎo)擊穿光譜對(duì)20種塑料進(jìn)行快速識(shí)別， 取得了預(yù)期成果。 在用支持向量機(jī)算法對(duì)塑料進(jìn)行建模分析中， 得到99.90%的識(shí)別準(zhǔn)確度， 訓(xùn)練時(shí)間長(zhǎng)達(dá)1小時(shí)58分41.13秒， 預(yù)測(cè)時(shí)間為11.96 s， 整個(gè)實(shí)驗(yàn)過(guò)程總共花費(fèi)1小時(shí)58分53.09秒。 這說(shuō)明SVM算法分類準(zhǔn)確度很高， 但是需耗費(fèi)大量時(shí)間。 為了優(yōu)化SVM的訓(xùn)練時(shí)間， 引入PCA算法對(duì)數(shù)據(jù)進(jìn)行降維處理， 實(shí)現(xiàn)了分類識(shí)別準(zhǔn)確率達(dá)到99.90%以上， 所需時(shí)間也在十幾秒內(nèi)， 特別是當(dāng)主成分個(gè)數(shù)為13時(shí)， 降維時(shí)間為1.44 s， 訓(xùn)練時(shí)間也只需12.16 s， 相對(duì)應(yīng)的預(yù)測(cè)時(shí)間為0.02 s左右， 從建立模型到輸出預(yù)測(cè)標(biāo)簽所花時(shí)間也不超過(guò)12.18 s， 整個(gè)實(shí)驗(yàn)過(guò)程總共花費(fèi)13.62 s， 而識(shí)別精度達(dá)到了99.80%。

兼顧塑料分類識(shí)別的準(zhǔn)確率和分類識(shí)別速度， 將PCA算法和SVM算法相結(jié)合， 為實(shí)現(xiàn)塑料高效率、 高準(zhǔn)確度自動(dòng)分類提供了一種有效的方法， 有望運(yùn)用在工業(yè)生產(chǎn)中。