基于Adam神經(jīng)網(wǎng)絡(luò)的顧客滿意度預(yù)測與應(yīng)用

張 楓，杜陽宇，張慶磊

(武漢理工大學(xué) 機電工程學(xué)院,湖北 武漢 430070)

隨著企業(yè)所處的外部環(huán)境的變化，企業(yè)對于顧客滿意度的要求有了新的內(nèi)涵，企業(yè)不僅需要讓顧客買到質(zhì)量好的產(chǎn)品，還需要在交易過程中提供良好而滿意的服務(wù)，從而讓顧客得到心理上的滿足。建材裝備制造企業(yè)為了提高市場占有率和獲得更高的收益，必須提高顧客滿意度并且控制質(zhì)量成本。因此，如何讓企業(yè)以最小的質(zhì)量成本提供最優(yōu)質(zhì)的服務(wù)，贏得更多客戶的認(rèn)同，對于建材裝備制造企業(yè)來說是一個嚴(yán)峻的挑戰(zhàn)。

對于質(zhì)量成本和顧客滿意度國內(nèi)外學(xué)者進(jìn)行了大量的研究。尚姍姍等[1]通過建立系統(tǒng)動力學(xué)仿真模型來研究不同質(zhì)量水平下質(zhì)量成本各組成部分間的關(guān)系，并通過灰色線性回歸組合模型建立質(zhì)量成本與質(zhì)量水平間的關(guān)系模型。羅卉等[2]根據(jù)投入產(chǎn)出理論和數(shù)據(jù)包絡(luò)分析方法，提出了對質(zhì)量成本管理體系進(jìn)行綜合評價的模型，并以實例驗證了該模型的合理性。李成翔等[3]基于六西格瑪理論分析不同質(zhì)量水平對配電網(wǎng)開關(guān)柜質(zhì)量成本的影響程度，為供電企業(yè)在采購配電網(wǎng)開關(guān)柜時提供參考意見。Tim等[4]采用參數(shù)化的距離函數(shù)方法，辯識生產(chǎn)技術(shù)、潛在質(zhì)量費用和其他投入成本之間的關(guān)系。最后證明邊際質(zhì)量成本的改善可以帶來巨大的質(zhì)量提高。Krystel等[5]指出質(zhì)量成本曲線模型應(yīng)該結(jié)合內(nèi)外部因素研究，而不僅限于內(nèi)部成本研究，為質(zhì)量成本研究領(lǐng)域的延伸做出了貢獻(xiàn)。Al-Tmeemy等[6]對空調(diào)裝備公司進(jìn)行調(diào)查，在使用索引技術(shù)的基礎(chǔ)上對企業(yè)質(zhì)量成本控制的結(jié)果加以檢驗和分析，構(gòu)建了企業(yè)質(zhì)量成本控制管理系統(tǒng)。楊瑞[7]在對比分析傳統(tǒng)質(zhì)量成本模型和基于顧客滿意的質(zhì)量成本模型的基礎(chǔ)上，提出了企業(yè)開展持續(xù)質(zhì)量改進(jìn)活動可采取的措施。鄭蓓蓉等[8]分析了顧客滿意度與企業(yè)質(zhì)量成本之間的關(guān)系，并通過實證分析，提出了企業(yè)在降低質(zhì)量成本的同時提升顧客滿意度可以采取的方法和策略。肖靜[9]重新思考顧客滿意視角下質(zhì)量成本管理的涵義并構(gòu)建基于顧客滿意的質(zhì)量成本體系以及以顧客滿意為導(dǎo)向的質(zhì)量成本系統(tǒng)動力學(xué)模型。潘燕華等[10]將顧客滿意度與質(zhì)量成本的關(guān)系用一張“地圖”直觀地演繹出來。蘇笑笑[11]將由于顧客滿意度下降造成的隱形成本損失加入到質(zhì)量成本的構(gòu)成要素，提出了基于顧客滿意度的隱性損失成本的核算公式，并在此基礎(chǔ)上對隱性損失成本控制進(jìn)行分析。張曉冰[12]以質(zhì)量為中介對顧客滿意與質(zhì)量成本控制的關(guān)系進(jìn)行聯(lián)結(jié)，構(gòu)建了包含“基于價值工程的目標(biāo)質(zhì)量成本預(yù)測法—前饋控制、作業(yè)成本法—過程控制、質(zhì)量成本信息報告—反饋控制”的基于顧客滿意的質(zhì)量成本集成控制模型。

筆者在以上學(xué)者的研究基礎(chǔ)上，針對建材裝備制造企業(yè)建立顧客滿意度預(yù)測模型，運用基于Adam神經(jīng)網(wǎng)絡(luò)對顧客滿意度進(jìn)行預(yù)測，利用Adam算法對神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，彌補神經(jīng)網(wǎng)絡(luò)收斂速度慢、容易陷于局部最優(yōu)值、并且參數(shù)難以選取的缺陷。為了驗證算法的有效性，利用SGD(stochastic gradient descent)、帶Nesterov動量的SGD、Adagrad算法對神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，實現(xiàn)顧客滿意度預(yù)測與Adam算法進(jìn)行對比。

1 質(zhì)量成本三級科目建立

目前建材裝備制造企業(yè)不僅對于質(zhì)量成本的概念很模糊，沒有設(shè)立專門的質(zhì)量成本會計科目，混淆生產(chǎn)成本和質(zhì)量成本概念并且忽略對質(zhì)量成本的預(yù)測。筆者從建材裝備制造企業(yè)全生命周期進(jìn)行分析，包含原材料采購，產(chǎn)品研發(fā)設(shè)計、產(chǎn)品生產(chǎn)、產(chǎn)品銷售、產(chǎn)品售后階段，從這幾條主線并考慮滿意度的基礎(chǔ)上來分析影響質(zhì)量成本的主要因素，并對質(zhì)量成本科目進(jìn)行分析。在產(chǎn)品的全生命周期中，影響質(zhì)量成本的5個因素主要是操作者自身專業(yè)素質(zhì)和對質(zhì)量的理解，機器設(shè)備的精度和先進(jìn)性，加工生產(chǎn)方法和工藝流程的合理性，原材料的物理化學(xué)性能，生產(chǎn)廠房的溫度、濕度、雜質(zhì)、照明等環(huán)境因素，概括起來稱為“人、機、法、料、環(huán)”。利用魚骨圖分析法從這5個方面來描述建材裝備制造企業(yè)質(zhì)量成本的主要影響因素。質(zhì)量成本分析魚骨圖如圖1所示。

圖1 質(zhì)量成本分析魚骨圖

從建材裝備制造企業(yè)全生命周期進(jìn)行分析，建材裝備制造企業(yè)基于顧客滿意度的質(zhì)量成本構(gòu)成如圖2所示。

圖2 考慮顧客滿意的質(zhì)量成本3級科目

2 基于Adam神經(jīng)網(wǎng)絡(luò)顧客滿意度建模

2.1 基于Adam神經(jīng)網(wǎng)絡(luò)顧客滿意度相關(guān)分析

在顧客的需要轉(zhuǎn)化為顧客滿意的過程中，當(dāng)從一個步驟到下一個步驟的信息被丟失或歪曲時，將會產(chǎn)生實際質(zhì)量與顧客預(yù)期質(zhì)量的差距。在產(chǎn)品全生命周期，不充分的市場調(diào)研活動可能會誤解真實的顧客需要和期望；由于產(chǎn)品和服務(wù)的設(shè)計者能力有限，可能會設(shè)計出不能正確反映顧客需要的標(biāo)準(zhǔn)；生產(chǎn)部門的活動可能會不符合標(biāo)準(zhǔn)。筆者基于考慮顧客滿意度的質(zhì)量成本因素，從前期準(zhǔn)備成本、質(zhì)量設(shè)計成本、質(zhì)量管理成本(傳統(tǒng)的質(zhì)量成本內(nèi)容，包含預(yù)防成本、鑒定成本、內(nèi)部質(zhì)量損失成本、外部質(zhì)量損失成本)、質(zhì)量服務(wù)成本、間接質(zhì)量損失成本、外部質(zhì)量保證成本、員工質(zhì)量成本作為預(yù)測顧客滿意度的神經(jīng)網(wǎng)絡(luò)輸入層的指標(biāo)，各項指標(biāo)如表1所示，因此神經(jīng)網(wǎng)絡(luò)的輸入層為10個節(jié)點。

假定影響顧客滿意度CS的基本因素集為：V=(v1,v2,…,vn)，并且約定所有的因素相互獨立。將顧客滿意度指標(biāo)劃分為5級，采用市場調(diào)查和專家打分相結(jié)合進(jìn)行量化，量化結(jié)果如表2所示。

S為基本因素的量化集，S=(s1,s2,…,sn)。W為基本因素的權(quán)重，W=(w1,w2,…,wn)。因此，顧客滿意度CS=S·WT=s1w1+s2w2+…+snwn。

2.2 Adam神經(jīng)網(wǎng)絡(luò)顧客滿意度預(yù)測模型設(shè)計

基于Adam神經(jīng)網(wǎng)絡(luò)的顧客滿意度預(yù)測模型主要分為3個階段：第一階段是數(shù)據(jù)處理階段；第二階段是Adam神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計及參數(shù)選擇；第三階段是進(jìn)行Adam神經(jīng)網(wǎng)絡(luò)訓(xùn)練。Adam訓(xùn)練神經(jīng)網(wǎng)絡(luò)主要是在局部優(yōu)化階段，使用Adam代替SGD，讓訓(xùn)練能夠自適應(yīng)地為每個參數(shù)計算學(xué)習(xí)率，降低學(xué)習(xí)率等參數(shù)的選取對算法性能的影響，讓算法實施更加簡單，性能更加穩(wěn)定。

表2 顧客滿意度分值

Adam神經(jīng)網(wǎng)絡(luò)的流程和步驟如下：

(1)數(shù)據(jù)處理。為了防止因奇異樣本數(shù)據(jù)的存在而可能引起的網(wǎng)絡(luò)訓(xùn)練時間增加，網(wǎng)絡(luò)無法收斂等問題，在訓(xùn)練之前對樣本數(shù)據(jù)集進(jìn)行歸一化處理。樣本數(shù)據(jù)的歸一化計算公式為：

(1)

式中：x為未歸一化的一個樣本數(shù)據(jù)；x*為歸一化后的一個樣本數(shù)據(jù)；xmin為樣本數(shù)據(jù)的最小值；xmax為樣本數(shù)據(jù)的最大值。

(2)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計及參數(shù)選擇。BP神經(jīng)網(wǎng)絡(luò)是一種由前端輸入層、中間隱含層、輸出層3層結(jié)構(gòu)組成的基于誤差反向傳播算法的多層前饋網(wǎng)絡(luò)。其拓?fù)浣Y(jié)構(gòu)如圖3所示。

圖3 神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)圖

筆者研究的基于質(zhì)量成本的顧客滿意度預(yù)測，輸入是質(zhì)量成本的10個指標(biāo)，故網(wǎng)絡(luò)的輸入層節(jié)點(神經(jīng)元)個數(shù)即為10個。而網(wǎng)絡(luò)的輸出值即為顧客滿意度，故網(wǎng)絡(luò)的輸出層節(jié)點(神經(jīng)元)個數(shù)為1。因為隱層數(shù)為1的神經(jīng)網(wǎng)絡(luò)已被證明在不限制神經(jīng)網(wǎng)絡(luò)節(jié)點數(shù)的同時，可以實現(xiàn)任意非線性映射而且訓(xùn)練時間相對短，精度能夠達(dá)到要求。故選用單隱含層的網(wǎng)絡(luò)。

本文的顧客滿意度預(yù)測神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點數(shù)為10，輸出層節(jié)點數(shù)為1，即a=10，b=1。根據(jù)上述公式計算可知隱含層節(jié)點數(shù)t的范圍為[3，14]，經(jīng)過試驗對比分析，當(dāng)t=8，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力最強，故確定神經(jīng)網(wǎng)絡(luò)的隱含層節(jié)點數(shù)為8。即選擇的輸入節(jié)點數(shù)為10，隱含層節(jié)點數(shù)為8，輸出層節(jié)點數(shù)為1的三層神經(jīng)網(wǎng)絡(luò)。

顧客滿意度預(yù)測問題實際是一種廣義多元回歸問題，將神經(jīng)網(wǎng)絡(luò)的誤差函數(shù)設(shè)為MSE，選擇均方誤差作為衡量網(wǎng)絡(luò)可靠性的目標(biāo)函數(shù)。其計算公式如下：

(2)

為了使神經(jīng)網(wǎng)絡(luò)具有強大的擬合能力，在網(wǎng)絡(luò)的隱含層和輸出層加入激活函數(shù)對神經(jīng)元的輸出進(jìn)行映射。常用的激活函數(shù)有l(wèi)inear，sigmoid，tanh等。針對顧客滿意度問題，筆者通過實驗比較，選擇tanh函數(shù)為隱含層與輸出層的激活函數(shù)，該函數(shù)不僅具有軟飽和性，能避sigmoid會產(chǎn)生的梯度消失問題，并且tanh收斂速度比sigmoid 更快。tanh計算公式如下：

(3)

(3)Adam神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)及訓(xùn)練。Adam神經(jīng)網(wǎng)絡(luò)的訓(xùn)練包括以下幾個步驟：

①網(wǎng)絡(luò)初始化。用ωij表示輸入層節(jié)點i到隱含層節(jié)點j的權(quán)值，vjk表示隱含層節(jié)點j到輸出層k的權(quán)值；用Aj表示隱含層第j個神經(jīng)元的閾值，用Bk表示輸出層神經(jīng)元的閾值。給各權(quán)值分別賦一個區(qū)間[-1,1]內(nèi)的隨機數(shù)，設(shè)定誤差函數(shù)e，給定計算精度值ε和最大學(xué)習(xí)次數(shù)M。

②隱含層輸出計算。根據(jù)輸入變量X，輸入層和隱含層間連接權(quán)值wij以及隱含層閾值a，計算隱含層輸出H。

設(shè)輸入變量X=(x1,x2,…，xa)，隱含層變量H=(h1,h2,…，ht)，輸出層變量Y=(y1,y2,…，yb)，期望輸出變量O=(o1,o2,…,ob)，則根據(jù)輸入，隱含層每個節(jié)點的輸出為：

(4)

式中：t為隱含層節(jié)點數(shù)；f為激勵函數(shù)。

③輸出層輸出計算。根據(jù)隱含層輸出H，連接權(quán)值vjk和閾值b，計算神經(jīng)網(wǎng)絡(luò)預(yù)測輸出Y。計算公式如下：

(5)

④根據(jù)網(wǎng)絡(luò)預(yù)測輸出Y和期望輸出O，利用式(2)計算網(wǎng)絡(luò)預(yù)測誤差MSE。

(6)

式中：N為樣本數(shù)。

⑤權(quán)值更新和閾值更新。計算出誤差后根據(jù)誤差反向傳播，不斷調(diào)整權(quán)值和閾值，使誤差不斷地減少，直到MES<ε時，訓(xùn)練結(jié)束。

基于梯度下降法BP神經(jīng)網(wǎng)絡(luò)存在局部極小值，如果學(xué)習(xí)率過小或者激活函數(shù)倒數(shù)很小會使得權(quán)值、閾值更新速度變得很慢，網(wǎng)絡(luò)的收斂速度也會很慢，因此利用Adam優(yōu)化算法對權(quán)值和閾值進(jìn)行優(yōu)化更新。

Adam是一種可以替代傳統(tǒng)隨機梯度下降過程的一階優(yōu)化算法，它能基于訓(xùn)練數(shù)據(jù)迭代更新神經(jīng)網(wǎng)絡(luò)權(quán)重。Adam算法根據(jù)損失函數(shù)對每個參數(shù)的梯度的一階矩估計和二階矩估計動態(tài)調(diào)整每個參數(shù)的學(xué)習(xí)速率。Adam也是基于梯度下降的方法，但是每次迭代參數(shù)的學(xué)習(xí)步長都有一個確定的范圍，不會因為很大的梯度導(dǎo)致很大的學(xué)習(xí)步長，參數(shù)值比較穩(wěn)定。Adam算法與Adadelta算法和RMSprop算法一樣存儲了過去梯度的平方指數(shù)衰減平均值vt，也像Momentum算法一樣保持了過去梯度指數(shù)衰減平均值mt，類似物體運動時的慣性，在更新時一定程度上保留之前的更新方向。計算公式如下：

mt=β1mt-1+(1-β1)gt

(7)

(8)

式中：mt為當(dāng)前梯度的一階矩(均值)估計；vt為當(dāng)前梯度的二階矩(有偏方差)估計；gt為當(dāng)前梯度值；β1、β2為系數(shù)。

(9)

(10)

經(jīng)過校正后最終Adam算法的更新公式如下：

(11)

式中：β1的默認(rèn)值為0.9；β2的默認(rèn)值為0.999；η為學(xué)習(xí)率；ε的默認(rèn)值為10-8。

Adam神經(jīng)網(wǎng)絡(luò)流程如圖4所示，Adam神經(jīng)網(wǎng)絡(luò)參數(shù)如表3所示。

3 實例分析

質(zhì)量成本的10項指標(biāo)所對應(yīng)的費用通過對建材裝備制造企業(yè)質(zhì)量成本數(shù)據(jù)進(jìn)行整理歸類得到。由于建材裝備制造企業(yè)重視產(chǎn)品質(zhì)量和服務(wù)質(zhì)量，因此筆者在影響顧客滿意度基本因素中選取產(chǎn)品質(zhì)量、售后服務(wù)這兩個因素進(jìn)行市場調(diào)查，根據(jù)市場調(diào)查選取兩者的權(quán)重分別為0.6，0.4。最后得到質(zhì)量成本對應(yīng)顧客滿意度數(shù)據(jù)如表4所示。

圖4 Adam神經(jīng)網(wǎng)絡(luò)流程圖

表3 Adam神經(jīng)網(wǎng)絡(luò)參數(shù)表

表4 質(zhì)量成本與顧客滿意度數(shù)據(jù)

表4中P1到P10指標(biāo)分別代表質(zhì)量管理成本(傳統(tǒng)的質(zhì)量成本內(nèi)容，包含預(yù)防成本、鑒定成本、內(nèi)部損失、外部損失)、前期準(zhǔn)備成本、質(zhì)量設(shè)計成本、質(zhì)量服務(wù)成本、間接質(zhì)量損失成本、外部質(zhì)量保證成本、員工質(zhì)量成本，CS代表對應(yīng)的顧客滿意度值。

對于當(dāng)前建立的顧客滿意度預(yù)測模型，使用python語言在基于Theano的Keras高層神經(jīng)網(wǎng)絡(luò)API下分別使用4種算法局部優(yōu)化神經(jīng)網(wǎng)絡(luò)，分別是SGD、帶Nesterov動量的SGD、Adagrad、Adam優(yōu)化算法。局部優(yōu)化階段各算法收斂曲線如圖5所示，各算法性能對比如表5所示，各算法訓(xùn)練集和測試集擬合度分別如圖6～圖13所示。

從表5可以看到評價指標(biāo)均方誤差值從SGD優(yōu)化算法0.233降到Adam算法的0.003。由于Adam通過計算梯度的一階矩估計和二階矩估計而為不同的參數(shù)設(shè)計獨立的自適應(yīng)性學(xué)習(xí)率的這種方式，相比一般的自適應(yīng)學(xué)習(xí)率方法能更好地提高神經(jīng)網(wǎng)絡(luò)收斂速度和收斂效果。與其他3種優(yōu)化算法相比，采用Adam算法優(yōu)化神經(jīng)網(wǎng)絡(luò)算法收斂速度更快，可以得到更高的收斂精度。

由表5、圖6～圖13可知，對訓(xùn)練集和測試集的擬合優(yōu)度從SGD到Adam優(yōu)化算法，擬合優(yōu)度從0.801 32，0.862 73提升到0.969 04，0.968 72，擬合程度很高，精度高。并且從SGD算法，Adagrad算法，SGD(Nesterov)到Adam優(yōu)化算法，擬合度是依次提高，說明改進(jìn)學(xué)習(xí)率和更新權(quán)值的研究結(jié)果越來越好。采用Adam優(yōu)化神經(jīng)網(wǎng)絡(luò)可以最小的收斂誤差和最快的收斂避免訓(xùn)練進(jìn)入局部最優(yōu)點，能有效提高訓(xùn)練的精度和對數(shù)據(jù)集的擬合優(yōu)度。說明在企業(yè)實際應(yīng)用中對于顧客滿意度預(yù)測取得了良好的效果。

圖5 訓(xùn)練集各算法收斂曲線

表5 各算法性能比較

圖6 Adagrad神經(jīng)網(wǎng)絡(luò)訓(xùn)練擬合度

圖7 Adagrad神經(jīng)網(wǎng)絡(luò)測試擬合度

圖8 SGD神經(jīng)網(wǎng)絡(luò)訓(xùn)練擬合度

圖9 SGD神經(jīng)網(wǎng)絡(luò)測試擬合度

圖10 SGD(Nesterov)神經(jīng)網(wǎng)絡(luò)訓(xùn)練擬合度

圖11 SGD(Nesterov)神經(jīng)網(wǎng)絡(luò)測試擬合度

圖12 Adam神經(jīng)網(wǎng)絡(luò)訓(xùn)練擬合度

圖13 Adam神經(jīng)網(wǎng)絡(luò)測試擬合度

4 結(jié)論

在文獻(xiàn)研究的基礎(chǔ)上，針對性地創(chuàng)建了符合建材裝備制造企業(yè)實際的考慮顧客滿意度的質(zhì)量成本3級科目；提出了基于Adam神經(jīng)網(wǎng)絡(luò)的顧客滿意度預(yù)測模型，以某建材裝備制造企業(yè)的實際顧客滿意度問題實例進(jìn)行實驗分析，與SGD、帶Nesterov動量的SGD、Adagrad、Adagrad優(yōu)化算法進(jìn)行對比分析。結(jié)果表明，基于Adam神經(jīng)網(wǎng)絡(luò)的顧客滿意度預(yù)測模型更能有效地預(yù)測顧客滿意度，通過這種事前預(yù)測，能更好地指導(dǎo)企業(yè)對整個產(chǎn)品生命周期進(jìn)行質(zhì)量管理和成本管理。