情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)方法研究

豐 凱，劉志中，宋 成，張 麗

1(河南理工大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，河南 焦作 454003)

2(煙臺(tái)大學(xué) 計(jì)算機(jī)與控制工程學(xué)院，山東 煙臺(tái) 264005)

1 引 言

近年來，隨著服務(wù)計(jì)算、物聯(lián)網(wǎng)、智能終端以及5G網(wǎng)絡(luò)的快速發(fā)展與普及，越來越多的用戶可以隨時(shí)隨地訪問來自于不同領(lǐng)域、功能豐富的服務(wù)，完成工作與日常生活事務(wù).隨著網(wǎng)絡(luò)上可用服務(wù)數(shù)量的激增，用戶難以快速及時(shí)地發(fā)現(xiàn)滿足其需求的服務(wù)，嚴(yán)重影響了用戶的滿意度，降低了服務(wù)資源的利用率.主動(dòng)服務(wù)推薦逐漸成為實(shí)現(xiàn)智能服務(wù)的關(guān)鍵技術(shù)，而服務(wù)需求動(dòng)態(tài)預(yù)測(cè)是實(shí)現(xiàn)主動(dòng)服務(wù)推薦的基礎(chǔ).如何實(shí)現(xiàn)服務(wù)需求的動(dòng)態(tài)預(yù)測(cè)已經(jīng)成為智能服務(wù)領(lǐng)域亟需解決的關(guān)鍵問題之一.近年來，國內(nèi)外學(xué)者針對(duì)這一問題開展了研究，并取得了一定的研究成果[1-5].已有的研究工作大都基于協(xié)同過濾[6，7]、支持向量機(jī)[8，9]、矩陣分解[10]以及機(jī)器學(xué)習(xí)[10]方法來實(shí)現(xiàn)用戶服務(wù)需求的預(yù)測(cè).然而，已有的研究工作沒有充分考慮用戶所處的場(chǎng)景對(duì)其服務(wù)需求的影響，導(dǎo)致服務(wù)需求預(yù)測(cè)精度不高.事實(shí)上，用戶的服務(wù)需求與其所處的場(chǎng)景具有密切的關(guān)聯(lián)關(guān)系.用戶所處的場(chǎng)景是觸發(fā)用戶提出服務(wù)需求的重要因素，因此，在進(jìn)行用戶服務(wù)需求預(yù)測(cè)時(shí)，需要充分考慮用戶所處的場(chǎng)景.

在實(shí)際應(yīng)用中，用戶在不同的場(chǎng)景下常常會(huì)提出相同的服務(wù)需求，不同的場(chǎng)景對(duì)服務(wù)需求的影響也是不同的.因此，在進(jìn)行服務(wù)需求預(yù)測(cè)時(shí)，需要考慮多個(gè)不同場(chǎng)景對(duì)服務(wù)需求的影響權(quán)重，從而提高服務(wù)需求預(yù)測(cè)的準(zhǔn)確性.為了簡(jiǎn)化描述，后文用“服務(wù)需求”替代“同一個(gè)服務(wù)需求”.為了實(shí)現(xiàn)高精度的服務(wù)需求預(yù)測(cè)，本文構(gòu)建了一種注意力機(jī)制增強(qiáng)的深度交互神經(jīng)網(wǎng)絡(luò)模型AMEDIN，并基于AMEDIN提出了一種情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)方法.該方法捕獲不同場(chǎng)景與服務(wù)需求之間的交互關(guān)系，并獲取不同場(chǎng)景對(duì)服務(wù)需求的影響權(quán)重，使得與服務(wù)需求關(guān)聯(lián)性較強(qiáng)的場(chǎng)景獲得更高的影響權(quán)重，從而對(duì)情景感知的服務(wù)需求預(yù)測(cè)起到主導(dǎo)作用.本文的創(chuàng)新點(diǎn)主要包括：

1)引入了交互單元.通過交互單元可以顯式地建模多個(gè)場(chǎng)景與服務(wù)需求之間的交互關(guān)系，充分捕獲不同場(chǎng)景與服務(wù)需求之間的非線性關(guān)系，有助于提高服務(wù)需求預(yù)測(cè)的準(zhǔn)確性.

2)通過交互單元與注意力機(jī)制相結(jié)合，動(dòng)態(tài)地獲取不同場(chǎng)景對(duì)服務(wù)需求的影響權(quán)重，挖掘?qū)τ脩舴?wù)需求影響較大的場(chǎng)景特征，從而提高了服務(wù)需求預(yù)測(cè)的可解釋性與精度.

本文組織結(jié)構(gòu)如下：第2節(jié)介紹相關(guān)工作；第3節(jié)介紹情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)方法；第4節(jié)是本文的實(shí)驗(yàn)部分；第5節(jié)對(duì)本文工作進(jìn)行了總結(jié)與展望.

2 相關(guān)工作

隨著近年來個(gè)性化服務(wù)需求信息的增長，國內(nèi)外一些學(xué)者對(duì)用戶服務(wù)需求預(yù)測(cè)進(jìn)行了研究.Yao等[11]針對(duì)現(xiàn)有的出租車需求預(yù)測(cè)只考慮空間或時(shí)間關(guān)系的不足，提出了一種深度多視角時(shí)空網(wǎng)絡(luò)模型，對(duì)空間和時(shí)間關(guān)系進(jìn)行建模并預(yù)測(cè)用戶服務(wù)需求.為了為IaaS提供商選擇長期服務(wù)請(qǐng)求并使其利潤最大化，Mistry等[12]提出了一種基于多變量隱馬爾可夫模型和自回歸綜合移動(dòng)平均模型的資源利用模式預(yù)測(cè)方法，能夠預(yù)測(cè)服務(wù)請(qǐng)求的高頻度和季節(jié)性的長期行為.考慮到許多客戶的不同行為，Koshiba等[13]提出了一種基于客戶分類模型的服務(wù)需求預(yù)測(cè)方法.

為了幫助公司為未來市場(chǎng)生產(chǎn)產(chǎn)品，Song等[14]開發(fā)了一種預(yù)測(cè)客戶需求轉(zhuǎn)變趨勢(shì)的綜合方法.為了降低在快速變化的市場(chǎng)中開發(fā)新產(chǎn)品的風(fēng)險(xiǎn)，Chong等[15]提出了一種基于人工免疫和神經(jīng)系統(tǒng)的用戶需求分析和預(yù)測(cè)系統(tǒng).對(duì)于面向服務(wù)的制造，Cao等[16]提出了一種考慮客戶滿意度的客戶需求預(yù)測(cè)方法，利用結(jié)構(gòu)方程模型定量描述客戶滿意度指標(biāo)與影響因素之間的關(guān)系，并采用最小二乘支持向量機(jī)制進(jìn)行客戶需求預(yù)測(cè).Garg等[17]提出了一種基于時(shí)態(tài)數(shù)據(jù)挖掘的即時(shí)服務(wù)需求自適應(yīng)預(yù)測(cè)系統(tǒng).

雖然上述研究工作取得了較好的成果，然而，已有的研究工作通常將不同的場(chǎng)景對(duì)用戶服務(wù)需求的影響視為同樣重要的，導(dǎo)致模型無法充分學(xué)習(xí)不同場(chǎng)景對(duì)服務(wù)需求的影響，從而降低了服務(wù)需求預(yù)測(cè)的精度.針對(duì)當(dāng)前研究工作存在的不足，本文構(gòu)建了一種注意力機(jī)制增強(qiáng)的深度交互神經(jīng)網(wǎng)絡(luò)模型AMEDIN，并基于AMEDIN提出了一種情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)方法.AMEDIN通過交互單元和注意力機(jī)制自適應(yīng)的學(xué)習(xí)多個(gè)場(chǎng)景特征對(duì)用戶服務(wù)需求特征的影響權(quán)重，解決了上述問題并提高了模型的表達(dá)能力，在一定程度上彌補(bǔ)了當(dāng)前研究工作存在的不足.

3 情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)方法

在服務(wù)使用中，可以通過智能終端、物聯(lián)網(wǎng)以及智能穿戴設(shè)備，獲取用戶的特征信息、所處的場(chǎng)景信息以及提出的服務(wù)需求信息等，從而能夠形成用戶提出服務(wù)需求時(shí)的相關(guān)數(shù)據(jù)，為實(shí)現(xiàn)情景感知的服務(wù)需求預(yù)測(cè)提供數(shù)據(jù)支持.針對(duì)情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)問題，定義服務(wù)使用數(shù)據(jù)模型如公式(1)所示：

SAR=

(1)

其中，UF=表示用戶特征，主要包括用戶的性別、年齡、職業(yè)、經(jīng)濟(jì)收入等.CF=表示場(chǎng)景特征，主要包括服務(wù)需求提出的時(shí)間、位置、天氣、事件、陪伴者等.SRF=表示服務(wù)需求特征，主要包括服務(wù)所屬的領(lǐng)域、服務(wù)名稱、服務(wù)功能、服務(wù)等級(jí)等.上述用戶特征、場(chǎng)景特征以及服務(wù)需求特征向量具有很好擴(kuò)展性，可以根據(jù)需要增加或減去相關(guān)的特征.

為了提高情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)的精度，本文設(shè)計(jì)了一種注意力機(jī)制增強(qiáng)的深度交互神經(jīng)網(wǎng)絡(luò)模型AMEDIN，來獲取不同場(chǎng)景與服務(wù)需求之間的交互關(guān)系，進(jìn)而獲取不同場(chǎng)景對(duì)服務(wù)需求的影響權(quán)重.下面分別介紹AMEDIN模型及其主要運(yùn)行機(jī)制.

3.1 注意力機(jī)制增強(qiáng)的深度交互神經(jīng)網(wǎng)絡(luò)模型(AMEDIN)

AMEDIN模型由交互單元、影響權(quán)重學(xué)習(xí)模塊以及服務(wù)需求預(yù)測(cè)模塊組成，其結(jié)構(gòu)如圖1所示.其中，交互單元與服務(wù)需求預(yù)測(cè)模塊由全連接網(wǎng)絡(luò)構(gòu)成.交互單元用于捕獲不同場(chǎng)景與服務(wù)需求之間的交互關(guān)系；影響權(quán)重學(xué)習(xí)模塊基于注意力機(jī)制學(xué)習(xí)不同場(chǎng)景對(duì)于服務(wù)需求的影響權(quán)重；服務(wù)需求預(yù)測(cè)模塊基于影響權(quán)重學(xué)習(xí)模塊的學(xué)習(xí)結(jié)果，實(shí)現(xiàn)情景感知的服務(wù)需求預(yù)測(cè).下面分別介紹交互關(guān)系的獲取與基于注意力機(jī)制的影響權(quán)重學(xué)習(xí)過程.

圖1 AMEDIN模型結(jié)構(gòu)圖

3.1.1 基于交互單元的交互關(guān)系獲取

(2)

(3)

3.1.2 基于注意力機(jī)制的影響權(quán)重學(xué)習(xí)

(4)

(5)

(6)

3.2 服務(wù)需求的動(dòng)態(tài)預(yù)測(cè)

在獲取對(duì)用戶發(fā)起服務(wù)需求具有較大影響的場(chǎng)景特征之后，基于AMEDIN模型的預(yù)測(cè)模塊實(shí)現(xiàn)服務(wù)需求的預(yù)測(cè).在對(duì)服務(wù)需求預(yù)測(cè)模塊進(jìn)行訓(xùn)練時(shí)，定義模型的輸入數(shù)據(jù)為Ii=，其中，UFi表示用戶特征向量，ECFi，SRFi表示由注意力機(jī)制得到的加權(quán)場(chǎng)景特征，SRFi表示服務(wù)需求特征；yi表示輸入數(shù)據(jù)的標(biāo)簽，yi∈{0，1}，當(dāng)yi=0時(shí)，表示用戶沒有當(dāng)前SRFi對(duì)應(yīng)的服務(wù)需求；當(dāng)yi=1時(shí)，表示用戶有當(dāng)前SRFi對(duì)應(yīng)的服務(wù)需求；服務(wù)需求預(yù)測(cè)模塊的學(xué)習(xí)函數(shù)如公式(7)所示：

(7)

其中，σ表示ReLU激活函數(shù)，W表示權(quán)重矩陣，Ii表示輸入的數(shù)據(jù)，b表示偏置向量.

在AMEDIN模型中，選擇交叉熵?fù)p失函數(shù)(CrossEntro-pyLoss)來優(yōu)化所構(gòu)建的模型，交叉熵?fù)p失函數(shù)如公式(8)所示：

(8)

(9)

算法1.基于AMEDIN的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)

階段1.AMEDIN模型的訓(xùn)練

輸入：D//用于模型訓(xùn)練的數(shù)據(jù)集

1.初始化模型的參數(shù)；

2.repeat

3.fori to ndo//n為批量數(shù)據(jù)的數(shù)量

5.for(j=1 to m)//m為輸入樣本Xi中場(chǎng)景特征的數(shù)量

7.endfor

12.依據(jù)公式(6)計(jì)算注意力機(jī)制的輸出；

14.依據(jù)公式(8)計(jì)算AMEDIN模型的損失值；

15.依據(jù)Adam算法更新AMEDIN模型中的參數(shù)；

16.endfor

17.until{滿足模型訓(xùn)練結(jié)束條件；}

階段2.服務(wù)需求的預(yù)測(cè)

18.輸入：fori to kdo//k為服務(wù)需求特征的數(shù)量

19.endfor

20.執(zhí)行AMEDIN模型；

21.依據(jù)預(yù)測(cè)值為1時(shí)的概率，提取概率值較大的那條數(shù)據(jù)中的服務(wù)需求特征作為預(yù)測(cè)的用戶服務(wù)需求；

22.輸出：預(yù)測(cè)的服務(wù)需求

4 實(shí)驗(yàn)結(jié)果與分析

4.1 實(shí)驗(yàn)數(shù)據(jù)準(zhǔn)備

目前，還不存在用于驗(yàn)證情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)的數(shù)據(jù)集.為了驗(yàn)證本文所提出方法的有效性，本文采用MovieLens數(shù)據(jù)集(1)https：//grouplens.org/datasets/movielens/1m/和天池網(wǎng)站提供的Alibaba數(shù)據(jù)集(2)https：//tianchi.aliyun.com/dataset/dataDetail dataId=56.其中，Movielens數(shù)據(jù)包含來自6000名用戶對(duì)18個(gè)類別4000部電影打分的100萬個(gè)樣本數(shù)據(jù)；Alibaba數(shù)據(jù)集是阿里巴巴公司提供的大量用戶廣告點(diǎn)擊率的數(shù)據(jù).針對(duì)MovieLens數(shù)據(jù)，將用戶特征看成服務(wù)需求預(yù)測(cè)中的用戶特征，將情景特征映射為服務(wù)需求預(yù)測(cè)中的場(chǎng)景特征，將電影特征映射為服務(wù)需求預(yù)測(cè)中服務(wù)需求特征，將用戶對(duì)電影的評(píng)價(jià)值映射為用戶服務(wù)需求的標(biāo)簽；針對(duì)Alibaba數(shù)據(jù)，將用戶特征看成服務(wù)需求預(yù)測(cè)中的用戶特征，將情景特征映射為服務(wù)需求預(yù)測(cè)中的場(chǎng)景特征，將廣告特征映射為服務(wù)需求預(yù)測(cè)中的服務(wù)需求特征，將用戶是否會(huì)點(diǎn)擊廣告的值映射為用戶服務(wù)需求預(yù)測(cè)中的標(biāo)簽.實(shí)驗(yàn)中，本文將Movielens數(shù)據(jù)中的評(píng)分類別轉(zhuǎn)換為二分類，電影的原始用戶評(píng)分是從1到5的連續(xù)值，本文將評(píng)分為4和5的樣本標(biāo)記為正，其余的標(biāo)記為負(fù).由于Alibaba數(shù)據(jù)量比較大，本文從該數(shù)據(jù)中隨機(jī)采樣100萬條數(shù)據(jù)作為實(shí)驗(yàn)數(shù)據(jù).在實(shí)驗(yàn)中，重點(diǎn)考慮了每個(gè)數(shù)據(jù)集中的5種場(chǎng)景特征，Movielens數(shù)據(jù)中的信息如表1所示，Alibaba數(shù)據(jù)中的信息如表2所示.

表1 Movielens數(shù)據(jù)中的信息

表2 Alibaba數(shù)據(jù)中的信息

實(shí)驗(yàn)環(huán)境為個(gè)人電腦，操作系統(tǒng)：Windows 10專業(yè)版64位，CPU：Intel i7 8750H，RAM：8GB.該實(shí)驗(yàn)選擇開源的TensorFlow 2.0 GPU為預(yù)測(cè)模型的實(shí)現(xiàn)框架，采用Python 3.6編程實(shí)現(xiàn)預(yù)測(cè)模型.

4.2 評(píng)估指標(biāo)

本文采用均方根誤差RMSE與平均絕對(duì)誤差MAE和準(zhǔn)確率Acc來計(jì)算服務(wù)需求的預(yù)測(cè)值與真實(shí)值的偏差，從而衡量本文所提出的預(yù)測(cè)方法的有效性.其中，RMSE與MAE的計(jì)算公式如公式(10)與公式(11)所示.

(10)

(11)

其中，RMSE與MAE的值越小，表示模型的預(yù)測(cè)精度越高；Acc的值越大表明模型的預(yù)測(cè)精度越高.

4.3 AMEDIN模型參數(shù)設(shè)置

在AMEDIN模型中，交互單元用于學(xué)習(xí)多個(gè)場(chǎng)景和服務(wù)需求之間的交互關(guān)系，交互單元的網(wǎng)絡(luò)層數(shù)對(duì)模型的性能具有重要影響，為了使得AMEDIN模型具有較好的性能，這里通過實(shí)驗(yàn)的方法來確定層數(shù)的最優(yōu)取值.在實(shí)驗(yàn)中，采用Adam為優(yōu)化算法，初始化學(xué)習(xí)率為0.00001.通過設(shè)置不同的層數(shù)來觀察AMEDIN模型的性能表現(xiàn)，進(jìn)而來確定交互單元中網(wǎng)絡(luò)層數(shù)的最優(yōu)取值.實(shí)驗(yàn)結(jié)果如表3所示.

表3 交互單元網(wǎng)絡(luò)層數(shù)對(duì)AMEDIN模型性能的影響

從表3可以看出，增加交互單元的層數(shù)有助于提高模型預(yù)測(cè)準(zhǔn)確度.但是，隨著層數(shù)的增加，模型性能的提升度有限.同時(shí)，交互單元層數(shù)的增加，會(huì)給模型帶來更多的參數(shù)學(xué)習(xí)開銷，從而增加模型訓(xùn)練的復(fù)雜度以及過擬合風(fēng)險(xiǎn).基于上述實(shí)驗(yàn)結(jié)果，綜合考慮模型的性能與訓(xùn)練消耗，本文確定交互單元的網(wǎng)絡(luò)層數(shù)為4.

此外，在用戶服務(wù)需求預(yù)測(cè)模型中，交互單元中每層網(wǎng)絡(luò)的神經(jīng)元節(jié)點(diǎn)數(shù)目對(duì)模型的性能也有較大的影響，為了使模型具有較好的預(yù)測(cè)能力，該實(shí)驗(yàn)在AMEDIN模型中，分別設(shè)置每層網(wǎng)絡(luò)的神經(jīng)元節(jié)點(diǎn)數(shù)為16、32、64、128與256，執(zhí)行模型并記錄實(shí)驗(yàn)結(jié)果，實(shí)驗(yàn)結(jié)果如表4所示.

表4 交互單元節(jié)點(diǎn)數(shù)對(duì)AMEDIN模型性能的影響

從表4可以看出，隨著神經(jīng)元節(jié)點(diǎn)數(shù)目的增加，模型的性能逐漸得到提升；而當(dāng)節(jié)點(diǎn)數(shù)達(dá)到128時(shí)，模型的性能達(dá)到最優(yōu)；之后，隨著節(jié)點(diǎn)數(shù)量的增加，模型的性能所有下降.同時(shí)，增加神經(jīng)元的節(jié)點(diǎn)數(shù)量，會(huì)增加模型訓(xùn)練的開銷以及過擬合的風(fēng)險(xiǎn).基于實(shí)驗(yàn)結(jié)果，本文將AMEDIN模型交互單元中每層網(wǎng)絡(luò)神經(jīng)元的節(jié)點(diǎn)數(shù)設(shè)置為128.

4.4 對(duì)比模型參數(shù)的設(shè)置

為了驗(yàn)證所提出方法的有效性，該實(shí)驗(yàn)選取了5種典型的深度神經(jīng)網(wǎng)絡(luò)與本文所構(gòu)建的AMEDIN模型進(jìn)行比較.5種典型的深度神經(jīng)網(wǎng)絡(luò)分別為：深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network，DNN)、DeepFM[22]、注意力交互網(wǎng)絡(luò)(Attentive Interaction Network，AIN)[23]、注意力因子分解機(jī)(Attentional Factorization Machine，AFM)[24]與神經(jīng)因子分解機(jī)(Neural Factorization Machine，NFM)[25].

對(duì)于深度神經(jīng)網(wǎng)絡(luò)DNN，分別將用戶特征、場(chǎng)景特征和服務(wù)需求特征經(jīng)過嵌入層(Embedding)之后，輸入到全連接網(wǎng)絡(luò)，預(yù)測(cè)用戶的服務(wù)需求.在實(shí)驗(yàn)中設(shè)置其隱含層數(shù)為3，隱含層節(jié)點(diǎn)數(shù)為32，采用交叉熵?fù)p失函數(shù)，并且采用Adam優(yōu)化算法，初始化學(xué)習(xí)率設(shè)置為0.001.對(duì)于DeepFM，在用戶特征、場(chǎng)景特征和服務(wù)需求特征經(jīng)過嵌入層處理之后，使用因子分解機(jī)(Factorization Machines，F(xiàn)M)提取低階特征，然后使用DNN進(jìn)行高階特征提取之后，輸入到全連接網(wǎng)絡(luò)，預(yù)測(cè)用戶的服務(wù)需求.在該實(shí)驗(yàn)中，DeepFM的參數(shù)設(shè)置與原論文保持一致，設(shè)置Dropout為0.5，選擇Adam作為優(yōu)化算法，設(shè)置初始化學(xué)習(xí)率為0.001.對(duì)于AIN，與原論文保持一致，設(shè)置隱含層數(shù)為2，隱含層節(jié)點(diǎn)數(shù)為128，并且采用Adam為優(yōu)化算法，設(shè)置初始學(xué)習(xí)率為0.001.

對(duì)于AFM模型，依據(jù)原論文設(shè)置Dropout為0.5，使用大小為512的批量訓(xùn)練策略，選擇Adam為優(yōu)化算法，設(shè)置學(xué)習(xí)率的初始值為0.001.NFM是一種用于稀疏數(shù)據(jù)預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)模型，它在神經(jīng)網(wǎng)絡(luò)模型下增強(qiáng)因子分解機(jī)來學(xué)習(xí)高階交互特征，設(shè)置使用大小為512的批量訓(xùn)練策略，并且采用Adam為優(yōu)化算法，初始化學(xué)習(xí)率為0.01.對(duì)于本文提出的AMEDIN模型，交互單元的層數(shù)設(shè)為4，隱含層節(jié)點(diǎn)數(shù)設(shè)置為128，采用Adam為優(yōu)化算法，初始化學(xué)習(xí)率為0.00001.對(duì)于每一個(gè)網(wǎng)絡(luò)模型，都采用Alibaba數(shù)據(jù)集和Movielens數(shù)據(jù)集作為實(shí)驗(yàn)數(shù)據(jù)，設(shè)置最大迭代次數(shù)為300.

4.5 不同模型的性能比較

為了驗(yàn)證本文所提出方法的有效性，該實(shí)驗(yàn)采用數(shù)據(jù)集的80%作為訓(xùn)練數(shù)據(jù)，數(shù)據(jù)集的20%為測(cè)試數(shù)據(jù)，對(duì)多個(gè)模型進(jìn)行訓(xùn)練與測(cè)試.采用4.2節(jié)中給出的評(píng)估指標(biāo)來度量每一個(gè)模型的性能.實(shí)驗(yàn)結(jié)果如表5所示.

表5 不同模型在兩套數(shù)據(jù)集上的性能評(píng)估

從表5可以看出，在進(jìn)行服務(wù)需求預(yù)測(cè)時(shí)，本文提出的AMEDIN模型在評(píng)估指標(biāo)Acc、RMSE和MAE上均優(yōu)于其他方法.在Movielens數(shù)據(jù)集中，AMEDIN模型在評(píng)估指標(biāo)Acc上，分別優(yōu)于其他方法中最優(yōu)結(jié)果1.14%；在指標(biāo)RMSE和MAE上，分別領(lǐng)先于次優(yōu)結(jié)果0.51%和0.5%.在Alibaba數(shù)據(jù)集中，AMEDIN模型在評(píng)估指標(biāo)Acc上分別優(yōu)于其它方法中最優(yōu)結(jié)果1.48%，在指標(biāo)RMSE和MAE上分別領(lǐng)先次優(yōu)結(jié)果1.06%和1.6%.通過上述實(shí)驗(yàn)結(jié)果可以得出，本文所提出的AMEDIN模型通過交互單元和注意力機(jī)制，能夠有效捕捉多個(gè)場(chǎng)景對(duì)服務(wù)需求的不同影響；同時(shí)，通過提取多個(gè)場(chǎng)景和服務(wù)需求的交互特征，能夠有效降低多個(gè)場(chǎng)景和服務(wù)需求之間非線性關(guān)系的損失；另一方面，通過注意力機(jī)制得到對(duì)用戶服務(wù)需求影響權(quán)重最大的場(chǎng)景特征，提高了模型的預(yù)測(cè)精度.

4.6 不同模型的收斂性驗(yàn)證

為了驗(yàn)證本文所提出方法的收斂性，分別對(duì)多個(gè)模型進(jìn)行訓(xùn)練與測(cè)試，多個(gè)模型的參數(shù)設(shè)置與4.3節(jié)中的設(shè)置一致.實(shí)驗(yàn)結(jié)果如圖2和圖3所示.其中，縱坐標(biāo)表示預(yù)測(cè)準(zhǔn)確度，橫坐標(biāo)表示模型的迭代次數(shù).

從圖2和圖3可以看出，隨著迭代次數(shù)的增加，多個(gè)深度神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)準(zhǔn)確率不斷得到提升.從圖2可以看出，在Movielens數(shù)據(jù)集中，NFM模型的性能表現(xiàn)最弱.從圖3可以看出，在Alibaba數(shù)據(jù)集中，DNN模型的性能表現(xiàn)最弱.本文所提出的AMEDIN模型在兩個(gè)數(shù)據(jù)集上都具有較好的預(yù)測(cè)準(zhǔn)確度.通過上述實(shí)驗(yàn)結(jié)果可以得出，AMEDIN模型具有良好的學(xué)習(xí)能力，迭代較少的次數(shù)就能夠獲得較高預(yù)測(cè)準(zhǔn)確率.

圖2 不同模型在Movielens數(shù)據(jù)集上的準(zhǔn)確率

圖3 不同模型在Alibaba數(shù)據(jù)集上的準(zhǔn)確率

4.7 不同模塊對(duì)AMEDIN模型性能的影響分析

為了驗(yàn)證獲取交互關(guān)系、獲取影響權(quán)重對(duì)于提高服務(wù)需求預(yù)測(cè)準(zhǔn)確度的有效性，該實(shí)驗(yàn)通過去掉相關(guān)的操作得到AMEDIN模型不同的變體，通過AMEDIN模型的變體與AMEDIN模型的比較來驗(yàn)證不同模塊對(duì)AMEDIN模型性能的影響.其中，AMEDINNoIta表示不考慮不同場(chǎng)景和服務(wù)需求之間的交互關(guān)系，AMEDINNoPooling表示不考慮池化場(chǎng)景特征與服務(wù)需求之間的交互關(guān)系，AMEDINNoAtt表示不使用注意力機(jī)制.AMEDIN模型與其它變體模型的參數(shù)設(shè)置一致，基于相同數(shù)據(jù)集與實(shí)驗(yàn)平臺(tái)對(duì)4種模型進(jìn)行訓(xùn)練和測(cè)試，

實(shí)驗(yàn)結(jié)果如圖4至圖7所示，其中縱坐標(biāo)分別表示RMSE和MAE，橫坐標(biāo)表示算法的迭代次數(shù).

圖4 不同模型在Movielens數(shù)據(jù)集上的RMSE

從圖4到圖7可以看出，當(dāng)AMEDIN模型不考慮交互關(guān)系與AMEDIN模型不使用注意力機(jī)制時(shí)，AMEDIN的變體模型在RMSE和MAE評(píng)估指標(biāo)數(shù)值有所上升，而AMEDIN模型在RMSE和MAE指標(biāo)上優(yōu)于其他3種變體模型.基述實(shí)驗(yàn)結(jié)果可以得出，考慮不同場(chǎng)景和服務(wù)需求的交互關(guān)系以及考慮不同場(chǎng)景對(duì)服務(wù)需求的影響權(quán)重，有助于提升AMEDIN模型的性能，也即說明，考慮場(chǎng)景和服務(wù)需求之間的交互關(guān)系以及不同場(chǎng)景對(duì)服務(wù)需求的影響權(quán)重，有助于提高服務(wù)需求預(yù)測(cè)的準(zhǔn)確度.

圖5 不同模型在Movielens數(shù)據(jù)集上的MAE

圖6 不同模型在Alibaba數(shù)據(jù)集上的RMSE

圖7 不同模型在Alibaba數(shù)據(jù)集上的MAE

5 總結(jié)與展望

為了實(shí)現(xiàn)情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)，進(jìn)而提高服務(wù)推薦的主動(dòng)性與智能性，本文提出了一種情景感知的服務(wù)需求動(dòng)態(tài)預(yù)測(cè)方法.該研究工作構(gòu)建了一種注意力機(jī)制增強(qiáng)的深度交互神經(jīng)網(wǎng)絡(luò)模型AMEDIN，首先通過AMEDIN模型中的交互單元，捕獲多個(gè)不同場(chǎng)景和服務(wù)需求之間的交互關(guān)系；之后，通過注意力機(jī)制，獲取多個(gè)場(chǎng)景對(duì)服務(wù)需求的影響權(quán)重；最后，基于注意力機(jī)制的輸出構(gòu)建訓(xùn)練數(shù)據(jù)，通過全連接網(wǎng)絡(luò)對(duì)服務(wù)需求進(jìn)行動(dòng)態(tài)預(yù)測(cè).基于真實(shí)的數(shù)據(jù)集進(jìn)行了大量的實(shí)驗(yàn)，驗(yàn)證了本文所提出方法的有效性；同時(shí)還通過實(shí)驗(yàn)驗(yàn)證了交互單元和注意力機(jī)制對(duì)于提升模型預(yù)測(cè)精度的有效性.在后續(xù)的研究工作中，將進(jìn)一步分析影響服務(wù)需求預(yù)測(cè)精度的主要因素，挖掘這些因素對(duì)服務(wù)需求預(yù)測(cè)的影響規(guī)律，基于這些規(guī)律開展服務(wù)需求預(yù)測(cè)的研究，從而提高服務(wù)需求預(yù)測(cè)的靈活性與準(zhǔn)確度.