基于APSO_LSSVM的模塊化產(chǎn)品設(shè)計時間預(yù)估研究

王兆華，黃麗

(1. 西北工業(yè)大學(xué) 管理學(xué)院， 西安 710072； 2. 江蘇大學(xué) 電氣信息工程學(xué)院， 鎮(zhèn)江 212013)

0 引言

模塊化產(chǎn)品設(shè)計是指在功能分析的基礎(chǔ)上，針對某一產(chǎn)品族設(shè)計出若干個符合要求的通用功能模塊，然后根據(jù)顧客的個性化需求，選擇、重用已有模塊，快速設(shè)計出新產(chǎn)品。該方法不僅能夠最大程度上滿足客戶的不同需求，而且能夠縮短新產(chǎn)品開發(fā)周期以及有效平衡產(chǎn)品種類、規(guī)格多樣化與成本之間的矛盾[1]。

模塊化設(shè)計的優(yōu)勢之一就是縮短新產(chǎn)品開發(fā)周期，減少新產(chǎn)品的設(shè)計時間，從而能夠敏捷地響應(yīng)市場需求，增強(qiáng)產(chǎn)品競爭力。在劃分好產(chǎn)品模塊后，不同模塊組合重用開發(fā)新產(chǎn)品，對其產(chǎn)品設(shè)計時間進(jìn)行精確預(yù)估，是進(jìn)一步需要做的工作。文獻(xiàn)[2, 3]分別采用FNN和FSVM來預(yù)測產(chǎn)品設(shè)計時間，研究結(jié)果表明，神經(jīng)網(wǎng)絡(luò)方法泛化能力不足，模糊支持向量機(jī)沒有考慮異方差噪聲。文獻(xiàn)[4]利用遺傳算法來優(yōu)化產(chǎn)品開發(fā)流程，預(yù)測產(chǎn)品開發(fā)時間，該方法要求仿真的設(shè)計任務(wù)所需時間可靠合理。文獻(xiàn)[5]考慮了產(chǎn)品特征中存在語言變量的問題，提高了設(shè)計時間預(yù)測的精確度。文獻(xiàn)[6, 7]考慮了產(chǎn)品設(shè)計時間預(yù)估中小樣本和異方差噪聲，各自采用基于高斯間距回歸和概率支持向量回歸兩種模型對產(chǎn)品設(shè)計時間實施了預(yù)估。文獻(xiàn)[8, 9]研究了產(chǎn)品設(shè)計難度、客戶協(xié)同難度與設(shè)計時間之間的關(guān)系，構(gòu)建了基于產(chǎn)品設(shè)計難度系數(shù)的設(shè)計時間估計模型。

上述研究都為產(chǎn)品設(shè)計時間的預(yù)估提供了新的思路和方法，但主要是根據(jù)已有產(chǎn)品特征、產(chǎn)品難度或協(xié)同難度與設(shè)計時間之間關(guān)系來構(gòu)建模型預(yù)測設(shè)計時間，而對于模塊化產(chǎn)品設(shè)計時間預(yù)估的研究，目前還未有相關(guān)文章見刊。本文針對打印復(fù)合機(jī)的模塊化設(shè)計，研究模塊組合，增加或減少復(fù)合機(jī)功能模塊設(shè)計，二次開發(fā)新產(chǎn)品對設(shè)計時間變化進(jìn)行預(yù)估，提出用改進(jìn)的自適應(yīng)粒子群最小二乘支持向量機(jī)(APSO_LSSVM)預(yù)估設(shè)計時間的方法。首先以與產(chǎn)品設(shè)計時間最為相關(guān)的參量構(gòu)建打印復(fù)合機(jī)設(shè)計的LSSVM時間預(yù)估模型。其次對時間預(yù)估模型中的正規(guī)化參數(shù)γ和核參數(shù)σ2利用粒子群(PSO)算法加以確定，然而標(biāo)準(zhǔn)PSO算法全局搜索性能弱，容易落入局部最優(yōu)解，收斂速度在進(jìn)化后期減慢，提出改進(jìn)的自適應(yīng)粒子群APSO算法，采用兩種策略改善優(yōu)化性能，其一是引入動態(tài)調(diào)整的慣性權(quán)重替代常規(guī)的固定權(quán)重；其二添加極值擾動，進(jìn)一步擺脫優(yōu)化參數(shù)落入局部最優(yōu)解。最后在打印復(fù)合機(jī)模塊化設(shè)計的時間預(yù)估中應(yīng)用該APSO_LSSVM預(yù)估模型以驗證其可行性。

1 構(gòu)建時間預(yù)估模型

1.1 LSSVM預(yù)估模型建模

Vapnik等人依據(jù)VC維理論及結(jié)構(gòu)風(fēng)險最小化原則，提出了基于數(shù)據(jù)的學(xué)習(xí)算法——支持向量機(jī)(Support Vector Machine，SVM)，該算法能夠?qū)栴}轉(zhuǎn)化為線性規(guī)劃或二次規(guī)劃求解，從而解決了神經(jīng)網(wǎng)絡(luò)可能出現(xiàn)的局部最優(yōu)和過擬合等問題。此后，Suykens等人引入最小二乘線性系統(tǒng)作為損失函數(shù)，將二次規(guī)劃問題求解轉(zhuǎn)化為線性方程組求解提出了最小二乘支持向量機(jī)(LSSVM)算法[10]，該方法簡化了常規(guī)SVM計算的復(fù)雜性，提高了算法的收斂速度，在過程系統(tǒng)建模與控制中被廣泛應(yīng)用。假設(shè)模塊化設(shè)計過程有l(wèi)個訓(xùn)練樣本ui,yi|i=1,2,…,l，將影響模塊化設(shè)計時間最為相關(guān)的參量作為LSSVM模型輸入量ui，ui∈Rn為n維樣本輸入，輸出量yi=Xi，非線性映射函數(shù)φ(·):Rn→RH，將輸入空間映射至Hilbert特征空間，LSSVM模型可表述為式(1)。

(1)

其中w為權(quán)矢量；γ為正規(guī)化參數(shù)；ξi為誤差變量；b為偏差量。

定義如下TLagrangeT泛函為式(2)。

(2)

其中ai為Lagrange乘子。

分別對式中w、b、ξ、a求偏導(dǎo)，并令其等于0，消去w,ξ，得線性方程組為式(3)。

(3)

(4)

其中σ2為核參數(shù)。

由此可得LSSVM模塊化設(shè)計時間預(yù)估模型為式(5)。

(5)

其中ai和b由式(3)計算獲得。

1.2 改進(jìn)的自適應(yīng)粒子群APSO算法

James Kennedy和Russell Eberhart提出了粒子群(PSO)算法，該算法是一種從飛鳥群體活動中得到啟示而模擬自然界生物集群現(xiàn)象的進(jìn)化算法。具有規(guī)則簡單、收斂速度快、易于實現(xiàn)的優(yōu)點，在許多優(yōu)化領(lǐng)域[11-13]已獲得成功應(yīng)用。但基本PSO算法最大缺陷是易落入局部最優(yōu)，進(jìn)化后期收斂速度減慢，一些專家學(xué)者提出變形PSO算法[14, 15]來解決上述問題。本文通過調(diào)整慣性權(quán)重和添加極值擾動算子兩個方面的改進(jìn)來保證種群的多樣性并改善種群的收斂速度。

假設(shè)有一個維數(shù)為D的搜索空間，由m個沒有質(zhì)量、沒有體積的粒子構(gòu)成一個群落，每個粒子均以一定速度在空間中飛行搜索。xi為粒子當(dāng)前位置，由γ和σ2映射得到xi=[γ,σ2]i；pi為個體極值；pg為全局極值；粒子速度表示為vi。

慣性權(quán)重?描述了粒子的前一代速度對當(dāng)前速度產(chǎn)生的影響。調(diào)節(jié)其大小可以改變PSO算法的全局與局部尋優(yōu)能力。在粒子群尋優(yōu)早期，采用較大的慣性權(quán)重，以獲得較好的全局尋優(yōu)能力；而在尋優(yōu)后期，使用較小的慣性權(quán)重，可以使收斂速度加快。因此，慣性權(quán)重的調(diào)整策略可設(shè)定為一個根據(jù)粒子適應(yīng)度值逐步遞減的形式，具體描述為式(6)。

(6)

其中itmax為最大迭代次數(shù)；?max為慣性權(quán)重最大值；?min為慣性權(quán)重最小值；為迭代次數(shù)；F(xi)為當(dāng)前粒子適應(yīng)度值；F(pg)為當(dāng)前粒子最優(yōu)適應(yīng)度值。

因此，對適應(yīng)度值較小的粒子，可以選取較大的慣性權(quán)重?，以激勵這些粒子在更新中起到的積極作用；反之，適應(yīng)度值較大的粒子，慣性權(quán)重?則適當(dāng)調(diào)整降低，則可以適度的削弱這些粒子在更新中所起作用。

為了進(jìn)一步增強(qiáng)自適應(yīng)粒子群APSO性能，以進(jìn)化停滯步數(shù)t作觸發(fā)條件，添加極值擾動算子[16]為式(7)、式(8)。

(7)

(8)

其中tid、tgd分別表示pi和pg進(jìn)化停滯步數(shù)；Tid、Tgd分別表示pi和pg需要擾動的停滯步數(shù)閾值；(7)式、(8)式描述了帶條件的隨機(jī)函數(shù)。

改進(jìn)后的自適應(yīng)粒子群(APSO)算法中，粒子速度和位置的更新可描述為式(9)、式(10)。

(9)

(10)

其中i=1,2,…,m；d=1,2,…,D；為迭代次數(shù)；c1、c2為非負(fù)常數(shù)；r1、r2為U(0,1)區(qū)間服從均勻分布的兩個獨立隨機(jī)數(shù)。

1.3 改進(jìn)的APSO優(yōu)化LSSVM模型參數(shù)

預(yù)測模型的精度往往與數(shù)據(jù)采樣值及模型中正規(guī)化參數(shù)γ、核參數(shù)σ2和慣性權(quán)重?的選擇息息相關(guān)，為保證預(yù)測性能，該模型采用如下處理措施：

(1) 首先須對樣本數(shù)據(jù)進(jìn)行數(shù)據(jù)光滑及數(shù)據(jù)規(guī)范化預(yù)處理，剔除隨機(jī)誤差并進(jìn)行數(shù)據(jù)歸一化，以保證樣本的有效性；

(2) 鑒于預(yù)測模型的性能優(yōu)劣受正規(guī)化參數(shù)γ和核參數(shù)σ2取值影響顯著，為降低常規(guī)交叉驗證法選取模型參數(shù)的耗時和盲目，采用PSO算法完成這兩個參數(shù)的全局尋優(yōu)；

(3) 為了進(jìn)一步避免模型受樣本數(shù)量多少及標(biāo)準(zhǔn)PSO算法全局搜索能力弱等限制而易陷入局部最優(yōu)，特在模型中動態(tài)調(diào)節(jié)慣性權(quán)重?并添加極值擾動算子以提高模型的自適應(yīng)性能，同時提高LSSVM的推廣預(yù)估能力。

該改進(jìn)的APSO算法優(yōu)化LSSVM時間預(yù)估模型參數(shù)，具體實現(xiàn)步驟如下：

1) 設(shè)定粒子群參數(shù)，其中粒子數(shù)m=50，維數(shù)D=2，加速常數(shù)c1=2、c2=1.7，最大迭代次數(shù)itmax=2 000，慣性權(quán)重?max=0.9，?min=0.4，把γ和σ2映射為一群粒子xi=[γ,σ2]i，并設(shè)定γ、σ2的取值范圍分別為0, 1 000和0.001, 10，隨機(jī)初始化r1、r2等參數(shù)；

2) 由 (5) 式構(gòu)建LSSVM時間預(yù)估模型，并使用(11) 式計算粒子適應(yīng)度值為式(11)。

(11)

其中，N為樣本總數(shù)，y為LSSVM時間預(yù)估輸出值；t為目標(biāo)輸出值；

3) 對比各粒子適應(yīng)度值，將當(dāng)前粒子作為pi，選擇粒子群中適應(yīng)度值最小者作為pg；

4) 若k>itmax或error

6) 根據(jù)式(11)計算粒子的適應(yīng)度F，并由式(6)計算調(diào)整慣性權(quán)重；

7) 根據(jù)式(9)、式(10)粒子群算法更新vi和xi：

8) 根據(jù)如下規(guī)則更新粒子的pi和pg：

若F(xi)

若F(pi)

9) 停滯步數(shù)加1；

10) 迭代次數(shù)k+1，返回步驟4)；

11) 輸出pg，并將pg映射為LSSVM時間預(yù)估模型的正規(guī)化參數(shù)γ和核參數(shù)σ2。

2 應(yīng)用實例

本文以打印復(fù)合機(jī)模塊化設(shè)計時間預(yù)估為例，影響模塊化設(shè)計時間的因素很多，在性能方面，如打印機(jī)的預(yù)熱時間Pt、打印速度Ps、打印精度Pr、支持幅面Sw等；在功能模塊方面，如掃描模塊Sf、復(fù)印模塊Cf、傳真模塊Ff、網(wǎng)絡(luò)打印模塊Np、身份證復(fù)印模塊Id、自動進(jìn)紙模塊Af、自動雙面模塊Ad等。根據(jù)相關(guān)度分析[17]，選取與設(shè)計時間最為相關(guān)的7個參量Sw、Sf、Cf、Ff、Np、Af和Ad作為時間因素集，根據(jù) (5) 式構(gòu)建LSSVM時間預(yù)估模型，同時采用改進(jìn)的APSO算法優(yōu)化確定模型參數(shù)。經(jīng)過多個批次的企業(yè)、設(shè)計單位調(diào)研調(diào)查，并對前期數(shù)據(jù)進(jìn)行預(yù)處理，剔除隨機(jī)誤差，最終得到的有效數(shù)據(jù)為83組，將其分成兩個樣本集，其中15%作為測試樣本集，剩余85%作為訓(xùn)練樣本集。

基于APSO_LSSVM的復(fù)合機(jī)模塊化設(shè)計時間預(yù)估模型的實際值與預(yù)估值比較如圖1所示。

圖1 APSO_LSSVM預(yù)估模型實際值與預(yù)估值比較

由圖1可知，該預(yù)估模型中曲線擬合程度好，說明預(yù)估值接近實際值，表明該時間預(yù)估模型對時間的預(yù)估與真實情況基本一致，具有較強(qiáng)的預(yù)估能力。

上述改進(jìn)的APSO_LSSVM時間預(yù)估模型與前期所建的添加極值擾動tPSO_FNN時間預(yù)估模型下所預(yù)估的時間值與誤差對比情況如表1所示。

表1 預(yù)估模型誤差對比

由表1可知APSO_LSSVM預(yù)估模型，時間預(yù)估的最小誤差是0.04%，最大誤差是3.32%，其平均誤差是1.599%。而tPSO_FNN預(yù)估模型下，時間預(yù)估的最小誤差是0.02%，最大誤差是3.93%，平均誤差是2.04%。相比而言，前者雖最小誤差略高于后者，但其他值特別是平均誤差明顯低于后者，說明就總體預(yù)估而言APSO_LSSVM時間預(yù)估模型精度更高，這是由于當(dāng)輸入變量較多時，模糊神經(jīng)網(wǎng)絡(luò)FNN往往面臨著“維數(shù)災(zāi)難”問題，并且傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)是基于大樣本的條件下，泛化能力不強(qiáng)，雖然經(jīng)過tPSO優(yōu)化后的tPSO_FNN時間預(yù)估模型已大大改善其性能，但在樣本有限情況下改進(jìn)的APSO_LSSVM時間預(yù)估模型有著更高的精度，泛化能力更強(qiáng)。

圖2、圖3分別為APSO_LSSVM與tPSO_FNN兩種時間預(yù)估模型下的誤差對比曲線。

圖2 APSO_LSSVM時間預(yù)估誤差曲線

圖3 tPSO_FNN時間預(yù)估誤差曲線

由圖2、圖3可見，前者經(jīng)過519次迭代，模型均方差(MSE)已經(jīng)達(dá)到預(yù)設(shè)的誤差范圍，其值為1.5187×10-6。而后者雖然經(jīng)過175次迭代模型趨于收斂，但誤差值為1.8836×10-5較APSO_LSSVM預(yù)估模型誤差略大、精度略低，綜合評價，APSO_LSSVM預(yù)估模型在較短的時間內(nèi)預(yù)估精度較高，預(yù)估情況與實際打印復(fù)合機(jī)模塊化設(shè)計的真實情況更接近。

3 總結(jié)

通過模塊重組進(jìn)行設(shè)計的時間是產(chǎn)品二次開發(fā)過程中重要的決策數(shù)據(jù)，原先的一些時間預(yù)估方法，對于模塊組合優(yōu)化設(shè)計的適應(yīng)性不強(qiáng)。本文以打印復(fù)合機(jī)的模塊化設(shè)計為研究對象，研究模塊化產(chǎn)品設(shè)計時間預(yù)估問題，提出改進(jìn)后的APSO-LSSVM模塊化設(shè)計時間預(yù)估模型。該模型采用引入可動態(tài)調(diào)節(jié)的慣性權(quán)重并添加極值擾動得到改進(jìn)后的APSO算法，用以優(yōu)化LSSVM時間預(yù)估模型參數(shù)，不僅有效避免模型陷入局部極值，而且提高預(yù)估模型收斂速度。研究結(jié)果表明，該方法針對模塊化產(chǎn)品設(shè)計時間預(yù)估具有較好的適用性和較強(qiáng)的準(zhǔn)確性。