基于組合差分隱私的社會(huì)化推薦算法研究

王居正　張雪萍　楊俊翔　楊衛(wèi)東

摘要：隨著在線商品、服務(wù)以及信息的爆炸式增長，推薦系統(tǒng)正逐漸成為互聯(lián)網(wǎng)應(yīng)用當(dāng)中一個(gè)不可或缺的部分。然而，推薦系統(tǒng)在給人們帶來便利的同時(shí)，也存在很多潛在風(fēng)險(xiǎn)，其中之一便是隱私泄露問題。文章依托現(xiàn)有傳統(tǒng)推薦算法，通過融入用戶之間的信任關(guān)系，形成社會(huì)化推薦算法，提高了推薦效果。另外，在原有選定4種主要的差分隱私保護(hù)技術(shù)的基礎(chǔ)上，結(jié)合聯(lián)邦學(xué)習(xí)和安全多方計(jì)算等技術(shù)，尋求最優(yōu)的組合差分隱私保護(hù)技術(shù)，增強(qiáng)了隱私保護(hù)的能力。

關(guān)鍵詞：社會(huì)化推薦；差分隱私；聯(lián)邦學(xué)習(xí)；安全多方計(jì)算

中圖分類號(hào)：TP391.3文獻(xiàn)標(biāo)志碼：A文獻(xiàn)標(biāo)志碼0引言隨著國家經(jīng)濟(jì)建設(shè)蓬勃發(fā)展，信息技術(shù)隨之高速發(fā)展，各類社交、音視頻、游戲等軟件應(yīng)運(yùn)而生，極大地豐富了人們的物質(zhì)生活，也滿足了人們?nèi)找嫔叩木裆钚枰?。截?023年1月，全球網(wǎng)民數(shù)量達(dá)到10.93億。網(wǎng)民的廣泛運(yùn)用推動(dòng)了互聯(lián)網(wǎng)信息爆炸式增長，網(wǎng)上現(xiàn)有的目標(biāo)信息被海量的數(shù)據(jù)淹沒?？捎眯畔⑸佟⑷哂嘈畔⒍?，真實(shí)信息少、虛假信息多等問題普遍存在，而推薦系統(tǒng)能夠有效地解決此類問題，幫助網(wǎng)友從浩瀚的信息中找到需要的信息，在日常工作生活中起到了不可替代的作用。對于信息消費(fèi)者而言，推薦系統(tǒng)能幫助他們提高工作效率，快速找到所需的信息，避免時(shí)間浪費(fèi)；對于信息提供者而言，推薦系統(tǒng)能吸引消費(fèi)者、區(qū)別消費(fèi)者、引導(dǎo)消費(fèi)者，實(shí)現(xiàn)利益最大化。

1社會(huì)化推薦算法推薦系統(tǒng)是由信息過載產(chǎn)生，但經(jīng)過多年的發(fā)展，特別是電子商務(wù)的繁榮，其作用也在不斷擴(kuò)展。例如推薦系統(tǒng)從“商品長尾”中挖掘那些受關(guān)注較少的商品推薦給用戶，幫助用戶準(zhǔn)確找到長尾中符合用戶個(gè)性化需求的商品。

1.1推薦算法的分類推薦系統(tǒng)產(chǎn)生于20世紀(jì)90年代，最初的數(shù)據(jù)集MovieLens［1］由美國Minnesota大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院的GroupLens項(xiàng)目組收集整理。推薦算法主要可以分為基于內(nèi)容的推薦算法［2］、基于人口統(tǒng)計(jì)特征的推薦算法［3］、基于協(xié)同過濾的推薦算法［4］、基于聚類的推薦算法和混合推薦算法［5］。

1.2主流的推薦算法近十年主流推薦算法一般分為兩大類，即基于內(nèi)容的推薦算法和基于協(xié)同過濾的推薦算法。其中，基于內(nèi)容的推薦算法的思想是通過匹配與物品相關(guān)的關(guān)鍵字和用戶設(shè)定的關(guān)鍵字，算法相對簡單，因此會(huì)較為廣泛地應(yīng)用于推薦文本領(lǐng)域；而基于協(xié)同過濾的推薦算法的思想則是使用用戶群體曾經(jīng)的行為來預(yù)測各個(gè)用戶可能喜歡的物品，適用于推薦各種種類的物品。

基于協(xié)同過濾的推薦算法主要分為基于模型的協(xié)同過濾算法和基于鄰域的協(xié)同過濾算法。基于模型的協(xié)同過濾算法主要運(yùn)用矩陣分解算法，通過使用用戶－物品矩陣，構(gòu)建一個(gè)預(yù)測模型，其大致的思想是通過用戶－物品矩陣獲得各個(gè)用戶和物品的潛在特征向量，達(dá)到預(yù)測用戶對物品評分的目的。而基于鄰域的協(xié)同過濾算法則直接使用已有用戶對物品的評分?jǐn)?shù)據(jù)來預(yù)測用戶對新物品的評分，又依據(jù)目標(biāo)相似原理將用戶或物品區(qū)分為基于鄰域用戶的方法和基于鄰域物品的方法，并計(jì)算對應(yīng)的相似度。主流推薦算法如圖1所示。

1.3社會(huì)化推薦算法當(dāng)前對推薦系統(tǒng)造成較大影響的主要有數(shù)據(jù)稀疏性、冷啟動(dòng)以及系統(tǒng)本身性能等方面的問題，這些問題影響了推薦效果，降低了推薦精度和準(zhǔn)度。為解決這方面的問題，本文依托傳統(tǒng)推薦系統(tǒng)，通過將用戶之間信任關(guān)系融入，形成社會(huì)化推薦算法，較好地提高了推薦效果。社會(huì)化推薦算法主要的思想是使用目標(biāo)用戶在社會(huì)網(wǎng)絡(luò)中相關(guān)聯(lián)的用戶代替或補(bǔ)充傳統(tǒng)推薦系統(tǒng)中匿名的相似用戶。

社會(huì)化推薦算法能夠?qū)τ脩粜袨檫M(jìn)行更真實(shí)的模擬，并且有利于緩解用戶冷啟動(dòng)和評分?jǐn)?shù)據(jù)稀疏問題。社會(huì)化推薦算法主要有兩個(gè)方面的優(yōu)勢：一方面是信息技術(shù)高速發(fā)展，信息獲取渠道增多，尤其是社交媒體發(fā)展，用戶的社會(huì)屬性信息獲取更加簡單易行；另一方面是人們在生活中，除了自己做決定外，更多地會(huì)借鑒他人的意見，尤其是自己信任的親朋好友，往往他們的意見能夠影響甚至主導(dǎo)自己的決定，也就意味著用戶的社交網(wǎng)絡(luò)關(guān)系可以幫助他們過濾信息。

因此，使用用戶之間信任關(guān)系的社會(huì)化推薦算法中主要的兩大類分別為：基于矩陣分解的社會(huì)化推薦算法和基于鄰域的社會(huì)化推薦算法。

2推薦系統(tǒng)隱私保護(hù)主要技術(shù)推薦系統(tǒng)在給人們帶來便利的同時(shí)，也存在很多潛在風(fēng)險(xiǎn)，其中之一便是隱私泄露問題。

2.1推薦系統(tǒng)隱私保護(hù)主要技術(shù)類別當(dāng)前推薦系統(tǒng)主要的隱私保護(hù)技術(shù)如表1所示。

2.2差分隱私保護(hù)技術(shù)差分隱私保護(hù)技術(shù)［6］是Dwork等人在2006年提出的隱私保護(hù)技術(shù)。差分隱私保護(hù)技術(shù)通過對查詢結(jié)果添加噪聲，確保在數(shù)據(jù)集中增減一條記錄對最終的查詢結(jié)果不會(huì)產(chǎn)生影響，達(dá)到隱私保護(hù)的目的。

2.3差分隱私保護(hù)技術(shù)的分類差分隱私保護(hù)技術(shù)主要分為本地化差分隱私、中心化差分隱私、分布式差分隱私和混合差分隱私4種。各類差分隱私保護(hù)技術(shù)的優(yōu)點(diǎn)和不足如表2所示。

2.4組合差分隱私保護(hù)技術(shù)基于社會(huì)化推薦算法，融入聯(lián)邦學(xué)習(xí)思想和現(xiàn)有4種差分隱私保護(hù)技術(shù)，結(jié)合用來去除參數(shù)服務(wù)器以提高系統(tǒng)整體安全性的多方安全計(jì)算的技術(shù)，并用聯(lián)邦學(xué)習(xí)中本地更新的優(yōu)化方式，研究和設(shè)計(jì)了組合差分隱私保護(hù)技術(shù)，如圖2所示。

組合差分隱私保護(hù)技術(shù)通過使用隨機(jī)梯度下降的求解方法，在梯度上加入高斯噪聲，這樣既避免了攻擊者通過觀察評分預(yù)測結(jié)果來推斷用戶評分?jǐn)?shù)據(jù)，類比在訓(xùn)練數(shù)據(jù)上和在求解特征矩陣的過程中添加噪聲更為有利。

在社會(huì)化推薦算法中，用戶矩陣和物品矩陣的梯度可以根據(jù)用戶數(shù)據(jù)類別分解為兩部分：一是來自評分?jǐn)?shù)據(jù)對梯度的更新，二是來自信任關(guān)系對梯度的更新。先通過評分預(yù)測差值更新用戶矩陣和物品矩陣，再通過用戶信任關(guān)系對用戶矩陣進(jìn)行再次更新。每個(gè)數(shù)據(jù)方依托現(xiàn)有數(shù)據(jù)，通過梯度計(jì)算并經(jīng)過參數(shù)服務(wù)器聚合，得到全局用戶矩陣。

在聯(lián)邦學(xué)習(xí)中，通過引入同態(tài)加密的公鑰的參數(shù)服務(wù)器，避免因梯度暴露導(dǎo)致訓(xùn)練數(shù)據(jù)曝光，實(shí)現(xiàn)了既在加密的情況下更新物品特征向量，也避免了通過參數(shù)服務(wù)器解密梯度的隱患。同時(shí)，在現(xiàn)有基礎(chǔ)上，通過引入一個(gè)半誠實(shí)且獨(dú)立的參數(shù)服務(wù)器，就能進(jìn)一步加強(qiáng)推薦算法整體的安全性。

多方安全計(jì)算［7］可以使得參與計(jì)算的各方在不公開各自輸入值的情況下得到最終的計(jì)算結(jié)果。各個(gè)數(shù)據(jù)方可以通過多方安全計(jì)算求出所有數(shù)據(jù)方對用戶矩陣梯度的平均值，取代原有參數(shù)服務(wù)器進(jìn)行梯度聚合的工作，從而增加聯(lián)邦推薦算法整體的安全性。因此，多方安全計(jì)算可以被用在不另外引入服務(wù)器的情況下，解決聯(lián)邦學(xué)習(xí)中梯度聚合這一問題，如圖3所示。

3結(jié)語本文在傳統(tǒng)推薦算法的基礎(chǔ)上，融入用戶信任關(guān)系構(gòu)建社會(huì)化推薦算法，充分利用聯(lián)邦學(xué)習(xí)和多方安全計(jì)算的技術(shù)優(yōu)勢，研究和設(shè)計(jì)了組合差分隱私的社會(huì)化推薦算法，通過實(shí)驗(yàn)論證，達(dá)到了預(yù)期效果。但在現(xiàn)實(shí)生活中的應(yīng)用差距比較大，下一步計(jì)劃從兩個(gè)方面入手：一方面是對推薦算法中信任關(guān)系的隱私保護(hù)。當(dāng)前的組合差分隱私的社會(huì)化推薦算法沒有對用戶的信任關(guān)系進(jìn)行隱私保護(hù)，下一步將用戶評分和用戶之間的信任關(guān)系都納入隱私保護(hù)范圍；另一方面是實(shí)現(xiàn)跨平臺(tái)推薦?，F(xiàn)有推薦系統(tǒng)適用平臺(tái)較為單一，往往是一個(gè)推薦系統(tǒng)只適用一個(gè)推薦平臺(tái)，各平臺(tái)的數(shù)據(jù)也沒有實(shí)現(xiàn)流通，下一步考慮從強(qiáng)化學(xué)習(xí)和邊緣計(jì)算的角度出發(fā)，研究實(shí)現(xiàn)跨平臺(tái)推薦。

參考文獻(xiàn)

［1］范虎.基于云計(jì)算的協(xié)同過濾推薦系統(tǒng)的研究與應(yīng)用［D］.淮南：安徽理工大學(xué)，2013.

［2］李忠俊，周啟海，帥青紅.一種基于內(nèi)容和協(xié)同過濾同構(gòu)化整合的推薦系統(tǒng)模型［J］.計(jì)算機(jī)科學(xué)，2009（12）：142-145.

［3］PAZZANI M.A framework for collaborative， content-based，and demographic filtering［J］.Artificial Intelligence Review-Special Issue on Data Mining on the Internet 1999（5-6）：393-408.

［4］HERLOCKER J，KONSTAN J，TERVEEN L.Evaluating collaborative filtering recommender system-s ［J］.ACM Transactions on Information Systems，2004（1）：5-53.

［5］張騰季.個(gè)性化混合推薦算法的研究［D］.杭州：浙江大學(xué)，2013.

［6］王爍.基于組合差分隱私的社會(huì)網(wǎng)絡(luò)數(shù)據(jù)發(fā)布研究［D］.保定：河北大學(xué)，2020.

［7］周雪翎.基于差分隱私的社會(huì)化推薦系統(tǒng)研究［D］.合肥：中國科學(xué)技術(shù)大學(xué)，2020.

（編輯 王雪芬）

Research on social recommendation algorithm based on combinatorial difference privacyWang? Juzheng， Zhang? Xueping， Yang? Junxiang， Yang? Weidong

（School of Information Science and Engineering， Henan University of Technology， Zhengzhou 450001， China）Abstract：? With the explosion of goods， services and information online， recommendation systems are becoming an integral part of Internet applications. However， while the recommendation system brings convenience to people， it also has many potential risks， one of which is privacy disclosure. Based on the existing traditional recommendation algorithm， this paper forms a socialized recommendation algorithm by integrating the trust relationship between users， and improves the recommendation effect. In addition， on the basis of the four main differential privacy protection technologies selected previously， combined with federated learning and secure multi-party computing technologies， seeking the best combined differential privacy protection technology， enhancing the ability of privacy protection.

Key words： social recommendation; differential privacy; federal study; security multi-party calculation