基于GBO-LSSVM的多品種小批量產(chǎn)品質(zhì)量預(yù)測(cè)*

高玉明，張?zhí)烊?，?賽

(1.沈陽(yáng)大學(xué)機(jī)械工程學(xué)院，沈陽(yáng) 110044；2.沈陽(yáng)水清環(huán)境工程有限公司，沈陽(yáng) 110136)

0 引言

隨著消費(fèi)者個(gè)性化定制需求日益增長(zhǎng)，制造行業(yè)中的大批量生產(chǎn)方式開(kāi)始向小批量定制逐步轉(zhuǎn)化。此類生產(chǎn)方式因其產(chǎn)品價(jià)值高、生產(chǎn)工藝復(fù)雜等特點(diǎn)對(duì)企業(yè)提出更高要求[1]。產(chǎn)品質(zhì)量的有效把控在能滿足消費(fèi)者對(duì)產(chǎn)品質(zhì)量要求的同時(shí)也為企業(yè)贏得市場(chǎng)競(jìng)爭(zhēng)力。

針對(duì)多品種小批量產(chǎn)品質(zhì)量問(wèn)題，國(guó)內(nèi)外學(xué)者開(kāi)展了大量相關(guān)研究。LIU等[2]針對(duì)訂單驅(qū)動(dòng)的多品種、小批量產(chǎn)品生產(chǎn)，設(shè)計(jì)了一種面向離散制造的實(shí)時(shí)車間數(shù)字化雙調(diào)度平臺(tái)。CHEN等[3]提出了一種將控制圖模式識(shí)別應(yīng)用于異常檢測(cè)的集成模型，在小樣本情況下比其他方法具有更高的分類準(zhǔn)確率。YANG等[4]針對(duì)小批量定制化混合模型裝配生產(chǎn)問(wèn)題，構(gòu)建了一種集在線數(shù)據(jù)采集、自動(dòng)歸并排序(MS)和自適應(yīng)均衡(AE)算法于一體的多目標(biāo)、多約束調(diào)度優(yōu)化模型。陳鑫等[5]針對(duì)多品種小批量生產(chǎn)模式下工序質(zhì)量控制問(wèn)題，基于共軛貝葉斯理論建模作單值-移動(dòng)極差控制圖，實(shí)現(xiàn)對(duì)生產(chǎn)過(guò)程的動(dòng)態(tài)控制。SUN等[6]為解決多品種小批量生產(chǎn)模式下工藝路線靈活、車間調(diào)度方案變化頻繁等問(wèn)題，建立了以碳排放和成本為多目標(biāo)的多工藝路線調(diào)度優(yōu)化模型。上述文獻(xiàn)在一定程度上解決了產(chǎn)品質(zhì)量問(wèn)題，但在多品種小批量產(chǎn)品質(zhì)量控制等方面還有待提高。

當(dāng)前最小二乘支持向量機(jī)(least squares support vector machine，LSSVM)因其求解速度較快而被廣泛應(yīng)用于各種領(lǐng)域的預(yù)測(cè)問(wèn)題。AHANGARI等[7]使用LSSVM和自適應(yīng)神經(jīng)模糊推理系統(tǒng)算法與粒子群優(yōu)化結(jié)合作為一種合適的方法來(lái)增加預(yù)測(cè)地球化學(xué)因素的精度。ZHAO、WU等[8-12]分別將最小二乘支持向量機(jī)與主成分分析、灰狼算法、遺傳算法等人工智能算法相結(jié)合，應(yīng)用于工程造價(jià)、故障診斷、天氣預(yù)測(cè)和環(huán)境監(jiān)測(cè)等領(lǐng)域，預(yù)測(cè)結(jié)果對(duì)生產(chǎn)生活均有良好的指導(dǎo)作用。然而，LSSVM在預(yù)測(cè)過(guò)程中易陷入局部最優(yōu)解?；诖?，本文采用梯度優(yōu)化(gradient-based optimizer，GBO)理論對(duì)LSSVM初始參數(shù)進(jìn)行尋優(yōu)處理，以提高其預(yù)測(cè)精度，并基于實(shí)例構(gòu)建軸套類零件GBO-LSSVM質(zhì)量預(yù)測(cè)模型，通過(guò)仿真對(duì)比驗(yàn)證該模型的可行性和優(yōu)越性。

1 算法理論

1.1 梯度優(yōu)化算法

GBO是AHMADIANFAR等[13]提出的一種基于梯度和種群方法相結(jié)合的元啟發(fā)式優(yōu)化算法。GBO算法通過(guò)牛頓法確定搜索方向，利用向量集和兩個(gè)主要算子(梯度搜索規(guī)則和局部轉(zhuǎn)義算子)探索搜索域。相比其他算法，GBO提供更多最優(yōu)結(jié)果能夠利用具有挑戰(zhàn)性和未知搜索領(lǐng)域優(yōu)化現(xiàn)實(shí)世界問(wèn)題，且該算法具有較強(qiáng)的運(yùn)算能力。GBO結(jié)合使用兩個(gè)主要運(yùn)算符：梯度搜索規(guī)則(gradient search rule，GSR)和局部逃逸算子(local escaping operator，LEO)，共同使用一組向量探索搜索空間。GSR采用坡度算法達(dá)到更優(yōu)位置搜索空間，搜索引擎在GSR和LEO之間實(shí)現(xiàn)了兩個(gè)階段之間的探索和開(kāi)發(fā)，兩個(gè)階段同時(shí)運(yùn)行使該算法達(dá)到最優(yōu)性能。因此，在GSR和LEO之間創(chuàng)造一個(gè)適當(dāng)?shù)钠胶膺^(guò)程至關(guān)重要。目前，GBO已經(jīng)通過(guò)在兩階段間建立適當(dāng)平衡，使優(yōu)化算法雜交性能得到更好探索和開(kāi)發(fā)[14]。在優(yōu)化問(wèn)題中考慮了目標(biāo)函數(shù)的最小化問(wèn)題，且GBO具有較優(yōu)全局收斂能力。

GBO控制參數(shù)包括從探索到開(kāi)發(fā)的轉(zhuǎn)換參數(shù)與概率，種群內(nèi)每個(gè)成員都用向量表示。通常，GBO的初始向量是在D維搜索域中隨機(jī)生成的，可定義為：

Xn=Xmin+rand(0,1)×(Xmax-Xmin)

(1)

式中，Xmax和Xmin分別是決策變量X的上界和下界，是取值于[0,1]的隨機(jī)數(shù)。

GSR是GBO算法最為核心的部分。在梯度搜索規(guī)則中，為了獲得更好的位置控制向量運(yùn)動(dòng)，增強(qiáng)GBO的勘探趨勢(shì)，加速GBO的收斂，以便在可行域中更好地搜索，因此基于梯度算法的概念提出了GSR。鑒于許多優(yōu)化問(wèn)題不可微，因此采用數(shù)值梯度方法代替函數(shù)直接推導(dǎo)。通常，梯度搜索方法從一個(gè)猜測(cè)初始解開(kāi)始，并沿著梯度指定方向向下一個(gè)位置移動(dòng)，根據(jù)等式導(dǎo)出GSR。利用泰勒級(jí)數(shù)計(jì)算一階導(dǎo)函數(shù)f(x+Δx)和f(x-Δx)可以分別表示為：

(2)

(3)

由式(2)和式(3)與中心差分公式可得出以下一階導(dǎo)數(shù)：

(4)

基于式(4)更新位置：

(5)

GSR的職責(zé)是在搜索空間中尋找更佳位置，提高收斂速度加速，GSR表示如下：

(6)

因此，更新當(dāng)前向量位置表達(dá)式為：

(7)

(8)

(9)

(10)

式中，ra和rb是[0,1]中兩個(gè)隨機(jī)數(shù)值。圖1為GBO主要模型的結(jié)構(gòu)。

圖1 GBO主要結(jié)構(gòu)圖

可以看出，GBO從隨機(jī)設(shè)置初始參數(shù)開(kāi)始到最終解位置，根據(jù)梯度指定的方向更新每個(gè)位置向量。為保證顯著搜索空間區(qū)域探索與開(kāi)發(fā)之間的平衡，采用顯著因子ρ1使其接近全局最優(yōu)點(diǎn)。為了更好利用算法，添加使用最佳向量的運(yùn)動(dòng)方向(DM)，這個(gè)過(guò)程創(chuàng)造一個(gè)適合局部搜索趨勢(shì)來(lái)提升GBO算法的收斂速度。

LEO算法能夠解決GBO算法中的復(fù)雜問(wèn)題，有效避免了陷入局部最優(yōu)，提高了GBO算法的收斂速度。LEO包括最佳位置解、兩個(gè)隨機(jī)最佳解和一個(gè)隨機(jī)生成解，LEO的最佳位置解如下：

當(dāng)rand<0.5時(shí)，

(11)

當(dāng)rand≥0.5時(shí)，

(12)

式中，f1為[-1,1]范圍內(nèi)的均勻隨機(jī)數(shù)；f2為均值等于0，標(biāo)準(zhǔn)差等于1的正態(tài)分布的隨機(jī)數(shù)；ρ1為小于0.5的隨機(jī)概率；u1、u2、u3是三個(gè)隨機(jī)數(shù)。

1.2 最小二乘支持向量機(jī)

LSSVM是支持向量機(jī)的一個(gè)實(shí)現(xiàn)，用于分類和模式識(shí)別、回歸分析和學(xué)習(xí)排序函數(shù)的問(wèn)題，適用于多品種小批量研究。LSSVM的優(yōu)點(diǎn)包括高精度、數(shù)學(xué)可處理性和直接的幾何注釋。該算法將輸入和輸出之間的非線性關(guān)系轉(zhuǎn)換為線性關(guān)系。LSSVM使用下面的方程來(lái)表示輸入和輸出之間的關(guān)系：

(13)

式中，M為輸出值；αi為輸入數(shù)據(jù)加權(quán)系數(shù)；b代表偏置；k(x)為非線性映射函數(shù)。

LSSVM盡量減小測(cè)量數(shù)據(jù)和估計(jì)數(shù)據(jù)之間的差異，參數(shù)αi和b的計(jì)算方式如下：

(14)

(15)

用徑向基函數(shù)作為核函數(shù)，如式(16)所示：

(16)

根據(jù)LSSVM的基本特點(diǎn)，構(gòu)建圖2所示多品種小批量產(chǎn)品質(zhì)量預(yù)測(cè)輸出結(jié)構(gòu)示意圖。

圖2 LSSVM單輸出結(jié)構(gòu)圖

圖中，第一層為輸入層，向其中輸入n個(gè)支持向量；第二層為隱藏層，代表核運(yùn)算過(guò)程，本文所選函數(shù)為徑向基核函數(shù)；第三層為輸出層，在預(yù)測(cè)權(quán)值b影響下，得到最終質(zhì)量預(yù)測(cè)函數(shù)。

通過(guò)上述模型以及公式分析，在LSSVM預(yù)測(cè)模型中，最為重要的是影響模型復(fù)雜度和精度的懲罰函數(shù)γ和核函數(shù)δ，因此采用合適的算法尋找參數(shù)勢(shì)在必行。

2 基于GBO-LSSVM質(zhì)量預(yù)測(cè)模型

針對(duì)軸套類零件復(fù)雜度高，樣本量小等特點(diǎn)，本文提出GBO-LSSVM模型。GBO用于軸套類零件參數(shù)提取，集合技術(shù)需要一個(gè)目標(biāo)函數(shù)來(lái)評(píng)估候選解決方案。優(yōu)化問(wèn)題在有界空間內(nèi)定義，具體形式如表1所示。

表1 參數(shù)定義

該軸套類產(chǎn)品難點(diǎn)在于尺寸公差以及對(duì)內(nèi)孔直徑加工時(shí)變形控制難以保證，通常在加工時(shí)會(huì)產(chǎn)生形變，故選取參數(shù)K為估計(jì)變量，利用本文所提出的GBO-LSSVM建模方法，建立該變量的預(yù)測(cè)模型。

懲罰函數(shù)γ和核函數(shù)δ對(duì)LSSVM模型精度有顯著影響，γ影響模型擬合程度以及泛化能力；而δ決定著計(jì)算能力大小與多寡。本文將采用GBO算法對(duì)LSSVM參數(shù)尋優(yōu)。在LSSVM和GBO混合算法中，將LSSVM參數(shù)取值作為決策變量。GBO-LSSVM的偽代碼如表2所示。

表2 GBO偽代碼

LSSVM的預(yù)測(cè)模型中要提高搜索精度以及預(yù)測(cè)準(zhǔn)確度，可以合理選擇懲罰函數(shù)γ和核函數(shù)δ，若預(yù)測(cè)結(jié)果不盡人意，則需考慮重新選擇參數(shù)。梯度優(yōu)化算法能夠利用具有挑戰(zhàn)性和未知的搜索領(lǐng)域優(yōu)化現(xiàn)實(shí)世界的問(wèn)題，致使其能夠以極快的速度參與尋優(yōu)以及收斂。GBO-LSSVM算法用于多品種、小批量基本的步驟描述如下：

(1)從現(xiàn)有數(shù)據(jù)中隨機(jī)選取測(cè)試和訓(xùn)練數(shù)據(jù)；

(2)初始參數(shù)迭代次數(shù)和總體規(guī)模隨機(jī)確定；

(3)初始化LSSVM參數(shù)，GBO算法在搜索空間中找到最優(yōu)參數(shù)γ和δ；

(4)在得到LSSVM參數(shù)最優(yōu)解后，利用訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)得到LSSVM優(yōu)化模型，并對(duì)LSSSVM優(yōu)化模型預(yù)測(cè)能力進(jìn)行評(píng)價(jià)。

3 數(shù)值仿真分析

3.1 參數(shù)設(shè)置

軸套類作為多品種、小批量生產(chǎn)的主要生產(chǎn)類型，其零件種類豐富，根據(jù)用途有不同材料和規(guī)格可供選擇，常見(jiàn)于航空、汽車、泵閥等機(jī)械制造行業(yè)中。隨著國(guó)內(nèi)質(zhì)量要求提高，質(zhì)量控制與預(yù)測(cè)方面的需求受到廣泛重視。對(duì)控制來(lái)說(shuō)，質(zhì)量預(yù)測(cè)能更好地將生產(chǎn)過(guò)程中的不確定因素排查清楚。本文選用某機(jī)加工車間精車某軸類零件左端外圓直徑尺寸作為觀測(cè)數(shù)據(jù)，預(yù)測(cè)其左端外圓直徑加工精度變化。每隔1個(gè)單位時(shí)間記錄1次當(dāng)前直徑數(shù)據(jù)，連續(xù)觀測(cè)30個(gè)單位時(shí)間，擬采用25組數(shù)據(jù)為訓(xùn)練集，5組數(shù)據(jù)為樣本集數(shù)目。

本實(shí)驗(yàn)采用Intel(R) Core(TM) i5-5200U CPU @ 2.20 GHz 2.20 GHz處理器，軟件環(huán)境為Windows 10的實(shí)驗(yàn)設(shè)備。根據(jù)文獻(xiàn)[13]利用MATLAB R2018a設(shè)置各參數(shù)如下：種群大小為N=30，最大迭代次數(shù)為tmax=100，懲罰函數(shù)γ的取值范圍為[0.01,100],核函數(shù)δ的取值范圍為[0.01,1000]，概率pr=0.5，浮點(diǎn)數(shù)絕對(duì)值FADs=0.2，所有實(shí)驗(yàn)獨(dú)立運(yùn)行30次。當(dāng)?shù)螖?shù)t達(dá)到100時(shí)，迭代計(jì)算停止。

3.2 算法對(duì)比

根據(jù)實(shí)際測(cè)得的30組精加工外圓左端直徑數(shù)據(jù)為樣本，將訓(xùn)練集數(shù)據(jù)樣本輸入LSSVM訓(xùn)練，采用GBO優(yōu)化尋求最優(yōu)參數(shù)分別為：γ=103.54，δ=5.11，從而建立該零件質(zhì)量預(yù)測(cè)模型。而后將測(cè)試集樣本數(shù)據(jù)輸入模型中，得到圖3預(yù)測(cè)對(duì)比曲線圖與圖4預(yù)測(cè)偏差統(tǒng)計(jì)圖，并且為驗(yàn)證GBO-LSSVM算法在多品種小批量質(zhì)量預(yù)測(cè)的性能，將與GWO-LSSVM、PSO-LSSVM、GA-LSSVM算法進(jìn)行仿真比較。

圖3 4種算法預(yù)測(cè)模型對(duì)比圖 圖4 4種算法預(yù)測(cè)偏差統(tǒng)計(jì)圖

通過(guò)圖3可以看出4種預(yù)測(cè)模型的擬合程度，所采用4種質(zhì)量預(yù)測(cè)模型均可預(yù)測(cè)出結(jié)果，但在預(yù)測(cè)中，對(duì)比其他3種模型，本文所采用GBO-LSSVM模型在預(yù)測(cè)開(kāi)始就有了另外3種不具備的優(yōu)勢(shì)，其預(yù)測(cè)結(jié)果大幅領(lǐng)先。

通過(guò)圖4可以清晰看出本文所采用GBO-LSSVM模型大致在誤差為零的區(qū)域內(nèi)徘徊，相比本模型，其他3種模型的誤差要大于本模型的誤差。這也證明了應(yīng)用LSSVM模型具有更好的泛化能力，尤其針對(duì)多品種小批量生產(chǎn)過(guò)程中零件群體的分析與處理。而其他3種算法相對(duì)來(lái)講滯后于GBO-LSSVM模型的原因則是GBO利用搜索引擎在GSR和LEO之間實(shí)現(xiàn)了兩個(gè)階段之間的探索和開(kāi)發(fā)，兩個(gè)階段同時(shí)運(yùn)行使該算法達(dá)到最優(yōu)性能，從而獲得了比GWO、PSO和GSA更好的參數(shù)尋優(yōu)效果。

判斷算法收斂速度與精度最直觀的方法就是迭代曲線圖，從圖5中可以看出整個(gè)優(yōu)化過(guò)程中，4種模型分類器仿真的收斂過(guò)程。

圖5 迭代曲線圖

GBO-LSSVM模型在第40次迭代就得到最優(yōu)解，而 GWO-LSSVM、GSA-LSSVM和PSO-LSSVM分別在150、470和770次斂得到最優(yōu)解?？梢钥闯?，其他3種模型收斂速度遠(yuǎn)不及本文采用的GBO-LSSVM模型。因?yàn)橄啾扔谄渌惴?，GBO能夠在保持不同難度和復(fù)雜性的優(yōu)化環(huán)境中執(zhí)行有效搜索，生成的優(yōu)化解決方案具有比原始方法和其他各種競(jìng)爭(zhēng)對(duì)手方法更好的適應(yīng)度值，從而得到收斂速度與搜索精度的極大提升。

3.3 結(jié)果分析

為量化多品種小批量生產(chǎn)質(zhì)量預(yù)測(cè)模型效果，使得各模型之間可以比較，本文使用均方根誤差(root mean square error，RMSE)、平均誤差百分比(mean percentage error，MAPE)和平均絕對(duì)誤差(mean absolute deviation，MAD)衡量產(chǎn)品質(zhì)量輸出與實(shí)際值的差距。若3種誤差過(guò)小，會(huì)出現(xiàn)過(guò)擬合狀態(tài)，導(dǎo)致預(yù)測(cè)失效；若3種誤差過(guò)大，則表明預(yù)測(cè)精度不高，而GBO能夠平衡這兩者之間程度。RMSE是目標(biāo)函數(shù)，必須通過(guò)算法技術(shù)最小化。每次運(yùn)行GBO時(shí)都會(huì)提取X個(gè)決策變量。計(jì)算RMSE、MAPE和MAD的數(shù)學(xué)表達(dá)式定義如下：

(17)

(18)

(19)

式中，N為樣本量；ji為預(yù)測(cè)值；Ji為實(shí)際值。利用RMSE衡量預(yù)測(cè)值與觀測(cè)值之間的誤差，目的是減少陷入局部最優(yōu)概率，并加快求解過(guò)程。圖7為軸套類零件觀測(cè)值與模擬值之間的誤差。

圖6 軸套類零件預(yù)測(cè)值的RMSE、MAPE、MAD箱線圖

為了更直觀地表達(dá)觀測(cè)值與模擬值之間的誤差，表3給出了誤差均值和波動(dòng)情況的數(shù)值對(duì)比。

表3 4種模型的誤差值

由表3可知，GBO-LSSVM模型的MAPE為2.4%，MAD為1.3%，這表明該模型的真值與預(yù)測(cè)值之間的誤差非常小，并且前文提到，GBO算法能夠平衡過(guò)擬合與誤差較大之間的關(guān)系，這說(shuō)明該模型預(yù)測(cè)精度與準(zhǔn)度非常高。其余3種模型MAPE均大于10%，MAD均大于5%，表明誤差值與真值相差較大，預(yù)測(cè)精度較本文所構(gòu)建的模型較低。GBO-LSSVM模型的RMSE為13.54，而其他模型的RMSE均大于30，這說(shuō)明GBO-LSSVM模型的真值與預(yù)測(cè)值離散程度較其他3種模型低，擬合程度更高。由上述分析可知，GBO-LSSVM有較強(qiáng)的預(yù)測(cè)性能。

4 結(jié)論

本文以軸套類零件左端外圓直徑尺寸作為分析數(shù)據(jù)，采用GBO-LSSVM預(yù)測(cè)模型解決多品種小批量質(zhì)量預(yù)測(cè)問(wèn)題，分析研究得到以下結(jié)論：

(1)梯度優(yōu)化算法能夠通過(guò)GSR和LEO運(yùn)算符梯度顯著搜索空間區(qū)域探索與開(kāi)發(fā)之間的平衡，GSR的全局搜索項(xiàng)保證了GBO的全局搜索能力；LEO能夠有效避免陷入局部最優(yōu)的問(wèn)題，提高GBO算法的收斂速度。兩個(gè)階段之間的平衡有效搜索支持向量機(jī)兩個(gè)重要參數(shù)，并提高預(yù)測(cè)精度。

(2)與GWO-LSSVM、PSO-LSSVM、GA-LSSVM模型相比，本文采用GBO-LSSVM模型在進(jìn)行預(yù)測(cè)分析時(shí)具有更佳的全局尋優(yōu)能力和穩(wěn)定性。GBO-LSSVM模型具有精度高、平衡探索與開(kāi)發(fā)、收斂速度快、全局求解能力強(qiáng)、易于實(shí)現(xiàn)等優(yōu)點(diǎn)。

(3)針對(duì)軸套類零件加工問(wèn)題，通過(guò)模型、預(yù)測(cè)圖與預(yù)測(cè)偏差圖分析對(duì)比，表明本文采用方法誤差小于其他3種模型，預(yù)測(cè)值與真值曲線較為接近，驗(yàn)證了本文模型的有效性。另本文數(shù)據(jù)量較少，也是多品種、小批量生產(chǎn)的一個(gè)特點(diǎn)，下一步可以考慮再增加一部分?jǐn)?shù)據(jù)，以達(dá)到更有效的預(yù)測(cè)效果。