基于深度學(xué)習(xí)的商品推薦系統(tǒng)研究

杜少波

摘要：隨著移動(dòng)互聯(lián)網(wǎng)和電子商務(wù)的快速發(fā)展，網(wǎng)上購(gòu)物已經(jīng)成為人們生活的一部分。商品推薦系統(tǒng)可以提升用戶體驗(yàn)，同時(shí)增加商品銷售量。深度學(xué)習(xí)技術(shù)更加精準(zhǔn)的分析、計(jì)算用戶曾經(jīng)瀏覽或購(gòu)買的商品，因此基于深度學(xué)習(xí)技術(shù)的商品推薦系統(tǒng)可以更加精準(zhǔn)的為用戶提供服務(wù)。

Abstract： With the rapid development of mobile Internet and e-commerce， online shopping has become a part of people's life. The recommendation system can improve the user experience and increase the sales of goods. Deep learning technology is more accurate in analyzing and calculating the products that users have browsed or purchased. Therefore， the product recommendation system based on deep learning technology can provide more accurate services for users.

關(guān)鍵詞：深度學(xué)習(xí);推薦;神經(jīng)網(wǎng)絡(luò)

Key words： deep learning;recommendation;neural network

中圖分類號(hào)：TP391.3? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文章編號(hào)：1006-4311（2019）26-0237-02

0? 引言

推薦系統(tǒng)的發(fā)展起源于上世紀(jì)90年代協(xié)同過(guò)濾算法的提出，隨后推薦系統(tǒng)逐漸成為一門獨(dú)立學(xué)科進(jìn)行研究。隨著移動(dòng)互聯(lián)網(wǎng)、電子商務(wù)的快速發(fā)展，人們身邊信息呈現(xiàn)爆炸式增長(zhǎng)，新的網(wǎng)絡(luò)購(gòu)物平臺(tái)層出不窮，因此購(gòu)物平臺(tái)上的商品也是數(shù)不勝數(shù)，用戶無(wú)法及時(shí)快速的從平臺(tái)上快速有效的獲取需要的信息，怎樣才能讓用戶快速、準(zhǔn)確的找到想要購(gòu)買的商品，已經(jīng)成為購(gòu)物平臺(tái)是否能夠成功的關(guān)鍵因素，推薦系統(tǒng)成為解決該問(wèn)題的主流方法，這就使得推薦系統(tǒng)成為當(dāng)前研究的熱點(diǎn)。推薦系統(tǒng)利用用戶瀏覽的歷史信息、購(gòu)買記錄、用戶喜好等相關(guān)信息，構(gòu)建用戶喜好模型矩陣，從而生成用戶推薦列表。商品推薦算法主要分為：基于流行度的算法、基于內(nèi)容的算法、基于內(nèi)容的算法、基于模型的算法和混合算法。這些算法模型可以很好的進(jìn)行商品推薦，但是在處理數(shù)據(jù)稀疏性和冷啟動(dòng)問(wèn)題有各自的局限性?；谏疃葘W(xué)習(xí)的商品推薦算法可以較好的克服以上推薦算法的問(wèn)題，同時(shí)可以將更加復(fù)雜的抽象編碼作為更高層的數(shù)據(jù)表示。

1? 深度學(xué)習(xí)

2006年，辛頓等人提出了深度學(xué)習(xí)的概念[1]。按照深度學(xué)習(xí)的概率可以理解為：深度學(xué)習(xí)是一種特殊的機(jī)器學(xué)習(xí)，它具有高的靈活性和性能。它可以通過(guò)網(wǎng)絡(luò)分層學(xué)習(xí)的概率來(lái)表示世界，每個(gè)網(wǎng)絡(luò)層級(jí)與另外一個(gè)網(wǎng)絡(luò)層相連接，形成計(jì)算網(wǎng)絡(luò)。同時(shí)深度學(xué)習(xí)并非是一種單一的技術(shù)或理論，而是結(jié)合了神經(jīng)網(wǎng)絡(luò)多項(xiàng)理論和成果的一套綜合性方法，簡(jiǎn)單地說(shuō)用一句話概括：深度學(xué)習(xí)是在多層的神經(jīng)網(wǎng)絡(luò)中，從原始數(shù)據(jù)開(kāi)始，通過(guò)機(jī)器自主進(jìn)行學(xué)習(xí)并獲得解決問(wèn)題的知識(shí)的方法。深度學(xué)習(xí)主要的特點(diǎn)是機(jī)器自主從原始數(shù)據(jù)開(kāi)始逐步將低層次的特征提取、組合成高層次的特征，并在此基礎(chǔ)上訓(xùn)練學(xué)習(xí)，獲得預(yù)測(cè)同類問(wèn)題答案的能力。為了提高深層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效果，人們對(duì)神經(jīng)元的連接方法以及激活函數(shù)等方面做出了調(diào)整。主要的目的是建立、模擬人腦分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，模仿人腦的機(jī)制來(lái)解釋數(shù)據(jù)，如文本、聲音、圖像。

2? 機(jī)器學(xué)習(xí)與深度學(xué)習(xí)的比較

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支，訓(xùn)練學(xué)習(xí)方法分為監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)。監(jiān)督學(xué)習(xí)是指訓(xùn)練模型在已知相關(guān)訓(xùn)練數(shù)據(jù)和對(duì)應(yīng)結(jié)果的情況對(duì)模型進(jìn)行訓(xùn)練獲得相應(yīng)的參數(shù)。而無(wú)監(jiān)督學(xué)習(xí)則是指只有相關(guān)訓(xùn)練數(shù)據(jù)沒(méi)有對(duì)應(yīng)的結(jié)果。監(jiān)督學(xué)習(xí)需要在已知結(jié)果的情況才能具有良好的性能，通常情況下，獲得的數(shù)據(jù)是無(wú)法知道對(duì)應(yīng)結(jié)果的因此無(wú)監(jiān)督學(xué)習(xí)算法是最常用的學(xué)習(xí)算法。

3? 基于深度學(xué)習(xí)的推薦算法

推薦系統(tǒng)主要目的是通過(guò)分析用戶歷史行為數(shù)據(jù)、商品瀏覽數(shù)據(jù)等，依據(jù)相關(guān)的算法構(gòu)造用戶畫像同時(shí)生成商品推薦列表。例電子商務(wù)平臺(tái)的商品推薦算法、音樂(lè)推薦算法、今日頭條的內(nèi)容推薦算法等。國(guó)內(nèi)外研究學(xué)都在推薦系統(tǒng)方面已經(jīng)具有一定的研究成果，其中包括比較經(jīng)典的基于用戶或物品相似度的計(jì)算，進(jìn)行相關(guān)推薦的協(xié)同過(guò)濾算法;基于物品屬性或用戶的瀏覽行為進(jìn)行的推薦算法;基于矩陣分解方法的推薦算法。因此推薦系統(tǒng)一般可以分為三大類別的方法：基于內(nèi)容的推薦算法（Content-based Recommendations，CB），該類算法根據(jù)用戶的瀏覽歷史信息和商品屬性進(jìn)行推薦。但是基于內(nèi)容的推薦算法需要對(duì)物品進(jìn)行分析建模，需要使用有意義的特征，內(nèi)容結(jié)構(gòu)需要有良好的結(jié)構(gòu)性等要求。基于協(xié)同過(guò)濾的推薦算法（Collaborative Filtering Recommendations，CF），該類算法利用相同興趣和共同經(jīng)驗(yàn)的群體之間的共同愛(ài)好來(lái)推薦滿足用戶的需求信息。該類算法在處理數(shù)據(jù)稀疏性上效果不理想，對(duì)新的用戶不能提供及時(shí)的推薦數(shù)據(jù)?；旌贤扑]算法，該類算法主要目的是處理單一算法自身存在的局陷性的問(wèn)題，比如基于內(nèi)容過(guò)濾的推薦算法需要對(duì)物品進(jìn)行有意義的特征抽取分析，基于協(xié)同過(guò)濾的推薦算法依賴用戶-物品矩陣，會(huì)出現(xiàn)數(shù)據(jù)稀疏性和冷啟動(dòng)的問(wèn)題。而將神經(jīng)網(wǎng)絡(luò)應(yīng)用于推薦系統(tǒng)中是當(dāng)前研究的熱點(diǎn)方向。

3.1 多層感知機(jī)的推薦算法

神經(jīng)網(wǎng)絡(luò)是模擬人類大腦神經(jīng)元而產(chǎn)生的，人工神經(jīng)網(wǎng)絡(luò)通常由輸入層、隱藏層、輸出層構(gòu)成。輸入層主要作用是接收外界信息并將信息傳給下一層。隱藏層又稱為計(jì)算節(jié)點(diǎn)主要作用是將輸入層傳過(guò)來(lái)的數(shù)據(jù)按照某種規(guī)則進(jìn)行計(jì)算。輸出層主要作用是將處理后的數(shù)據(jù)輸出出來(lái)?？梢钥闯鰯?shù)據(jù)的處理過(guò)程是通過(guò)一層層的向前進(jìn)行，因此這類神經(jīng)網(wǎng)絡(luò)稱為多層感知機(jī)（Multi-Layer Perception， MLP）[2]。在多層感知機(jī)神經(jīng)網(wǎng)絡(luò)中需要用到一個(gè)非線性的激活函數(shù)，常用的激活函數(shù)由sigmoid函數(shù)，tanh函數(shù)，ReLU函數(shù)。在使用多層感知機(jī)進(jìn)行商品推薦時(shí)，可以較好的獲取用戶和項(xiàng)目之間的非線性關(guān)系，從而形成基于用戶偏好和項(xiàng)目特性之間的雙向交互[3]。

3.2 自編碼推薦算法

自編碼（Autoencoder，AE）又稱為自編碼器[4]，是在深度神經(jīng)網(wǎng)絡(luò)領(lǐng)域廣泛使用的一種常見(jiàn)基礎(chǔ)性結(jié)構(gòu)。是一種無(wú)監(jiān)督學(xué)習(xí)框架，通過(guò)最小化重構(gòu)誤差，提取系統(tǒng)的重要特征，該編碼器由一個(gè)3層或大于3層的神經(jīng)網(wǎng)絡(luò)組成，編碼器、隱含層和解碼器?；谧跃幋a器的推薦算法可以發(fā)現(xiàn)潛在用戶特征，在通過(guò)用戶評(píng)分矩陣做評(píng)分預(yù)測(cè)分析，通過(guò)逐層計(jì)算分析可以構(gòu)建矩陣中的缺失的部，通過(guò)應(yīng)用構(gòu)建完成的數(shù)據(jù)進(jìn)行商品推薦。

3.3 循環(huán)神經(jīng)網(wǎng)絡(luò)推薦算法

循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks，RNN）[5-6]是深層的神經(jīng)網(wǎng)絡(luò)模型，主要是對(duì)神經(jīng)網(wǎng)絡(luò)增加了隱藏層的數(shù)目，即對(duì)相對(duì)應(yīng)的神經(jīng)元連接權(quán)、閾值等參數(shù)都會(huì)相應(yīng)增加，因此可以擁有很強(qiáng)大的學(xué)習(xí)能力和泛化能力。同時(shí)可以很好的處理各種時(shí)序數(shù)據(jù)，通過(guò)隱藏層循環(huán)結(jié)構(gòu)可以記錄時(shí)序數(shù)據(jù)的歷史信息。這是與普通神經(jīng)網(wǎng)絡(luò)的主要區(qū)別，即當(dāng)前時(shí)刻的輸出不僅與當(dāng)前輸入有關(guān)，還依賴于上一時(shí)刻隱藏層的輸出。在基于循環(huán)神經(jīng)網(wǎng)絡(luò)的推薦算法中，用戶的歷史交互記錄可以抽象為序列數(shù)據(jù)，利用循環(huán)神經(jīng)網(wǎng)絡(luò)可以很好的挖掘出隨著時(shí)間的變化用戶的愛(ài)好、偏好變化趨勢(shì)。

循環(huán)神經(jīng)網(wǎng)絡(luò)中的一個(gè)代表性的模型是LSTM，長(zhǎng)短期記憶網(wǎng)絡(luò)。該網(wǎng)絡(luò)最大的優(yōu)勢(shì)是能夠有效的處理帶有時(shí)間序列特性的數(shù)據(jù)，能夠較好的記憶長(zhǎng)期或短期的數(shù)據(jù)特征，將記住的這些數(shù)據(jù)特征經(jīng)過(guò)學(xué)習(xí)后來(lái)預(yù)測(cè)數(shù)據(jù)。

3.4 受限玻爾茲曼機(jī)推薦算法

受限玻爾茲曼機(jī)（Restricted Boltzmann Machine，RBM）[7-8]本質(zhì)上是一個(gè)編碼解碼器，受限玻爾茲曼機(jī)編碼過(guò)程是將原始輸入數(shù)據(jù)從可視化層映射到隱藏層從而得到原始輸入數(shù)據(jù)的隱因子向量表示。解碼過(guò)程正好相反利用得到的隱藏層向量重新映射回可視層，這樣可以得到新的可視化層數(shù)據(jù)。利用受限玻爾茲曼機(jī)的解碼過(guò)程可以將預(yù)測(cè)數(shù)據(jù)和原始數(shù)據(jù)進(jìn)行比對(duì)，也可以得到已評(píng)分商品新的評(píng)分?jǐn)?shù)據(jù)，也可以對(duì)未評(píng)分商品進(jìn)行評(píng)分預(yù)測(cè)，這樣可以將未評(píng)分商品進(jìn)行預(yù)測(cè)評(píng)分后形成推薦列表[9]。

4? 結(jié)論

在信息量快速增長(zhǎng)的今天，推薦系統(tǒng)是幫助用戶快速獲得有用信息重要手段，得到了廣泛的研究和應(yīng)用。利用深度學(xué)習(xí)技術(shù)，可以更好的將商品推薦給用戶，從而提升用戶體驗(yàn)。深度學(xué)習(xí)技術(shù)可以自動(dòng)進(jìn)行學(xué)習(xí)復(fù)雜高維數(shù)據(jù)特征和具有較好的泛化能力，當(dāng)前研究比較多的是卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)在實(shí)驗(yàn)階段能夠做到較好的推薦工作。

推薦系統(tǒng)是移動(dòng)互聯(lián)網(wǎng)時(shí)代重要的研究領(lǐng)域，具有非常重要的實(shí)用意義。推薦系統(tǒng)在日常生活中不同的領(lǐng)域都有廣泛的應(yīng)用，如社交平臺(tái)、電子商務(wù)平臺(tái)、音樂(lè)平臺(tái)、新聞門戶平臺(tái)、在線視頻點(diǎn)播平臺(tái)等。雖然現(xiàn)有的技術(shù)方法可以較好的應(yīng)用到實(shí)際工作中，但隨著時(shí)間的推移商品和用戶之間的關(guān)聯(lián)和對(duì)應(yīng)關(guān)系還需要進(jìn)一步研究。

參考文獻(xiàn)：

[1]李光.基于循環(huán)神經(jīng)網(wǎng)絡(luò)的推薦算法研究[D].哈爾濱工程大學(xué)，2017.

[2]高茂庭，徐彬源.基于循環(huán)神經(jīng)網(wǎng)絡(luò)的推薦算法[J/OL].計(jì)算機(jī)工程：1-7[2019-07-14].

[3]馮斐.基于深度學(xué)習(xí)的推薦算法研究[D].蘭州大學(xué)，2017.

[4]黃立威，江碧濤，呂守業(yè)，劉艷博，李德毅.基于深度學(xué)習(xí)的推薦系統(tǒng)研究綜述[J].計(jì)算機(jī)學(xué)報(bào)，2018，41（07）：1619-1647.

[5]楊雷.基于機(jī)器學(xué)習(xí)的個(gè)性化推薦算法研究[D].哈爾濱工程大學(xué)，2017.

[6]陳彥韜.基于深度學(xué)習(xí)的協(xié)同過(guò)濾推薦算法的改進(jìn)和優(yōu)化[J].電子制作，2019（12）：40-42.

[7]馮楚瀅，司徒國(guó)強(qiáng)，倪瑋隆.協(xié)同深度學(xué)習(xí)推薦算法研究[J].計(jì)算機(jī)系統(tǒng)應(yīng)用，2019，28（01）：169-175.

[8]王俊淑，張國(guó)明，胡斌.基于深度學(xué)習(xí)的推薦算法研究綜述[J].南京師范大學(xué)學(xué)報(bào)（工程技術(shù)版），2018，18（04）：33-43.

[9]劉姝岐.基于深度學(xué)習(xí)和時(shí)間上下文的推薦算法研究[D].吉林大學(xué)，2018.

[10]郭偉光.我國(guó)B2C電子商務(wù)個(gè)性化商品推薦服務(wù)實(shí)證研究[J].價(jià)值工程，2014，33（30）：25-27.