基于區(qū)塊鏈隱私增強(qiáng)的聯(lián)邦學(xué)習(xí)可驗(yàn)證安全存儲(chǔ)方案

林慶新，余 鋒，胡志強(qiáng)，曾凌靜

(1.福州大學(xué)至誠(chéng)學(xué)院 計(jì)算機(jī)工程系，福建 福州 350002；2.福建師范大學(xué) 計(jì)算機(jī)與網(wǎng)絡(luò)安全學(xué)院， 福建 福州 350017；3.中國(guó)航天科工集團(tuán)第二研究院 七〇六所，北京 100854； 4.福建船政交通職業(yè)學(xué)院 信息與智慧交通學(xué)院，福建 福州 350004)

0 引 言

聯(lián)邦學(xué)習(xí)作為一個(gè)分布式學(xué)習(xí)框架[1]，可以在不泄露用戶數(shù)據(jù)的前提下完成模型訓(xùn)練，但是在傳統(tǒng)的聯(lián)邦學(xué)習(xí)系統(tǒng)中，中央服務(wù)器在接收到參與方上傳的本地模型后，直接根據(jù)既定策略對(duì)其聚合更新全局模型，而沒(méi)有對(duì)本地模型的合法性進(jìn)行驗(yàn)證，導(dǎo)致后續(xù)模型不可靠，這就是模型存儲(chǔ)可靠性問(wèn)題[2-4]。本文以聯(lián)邦學(xué)習(xí)在數(shù)據(jù)存儲(chǔ)過(guò)程中的模型可靠性需求為目標(biāo)展開(kāi)研究，并結(jié)合區(qū)塊鏈的去中心化、不可篡改、可追溯和可審計(jì)的特性[5]，提出一種基于區(qū)塊鏈隱私增強(qiáng)的聯(lián)邦學(xué)習(xí)可驗(yàn)證安全存儲(chǔ)方案。本文的主要貢獻(xiàn)如下：

(1)將聯(lián)邦學(xué)習(xí)模型的可靠性問(wèn)題，轉(zhuǎn)換為區(qū)塊鏈上驗(yàn)證者對(duì)于模型的驗(yàn)證問(wèn)題。考慮到系統(tǒng)可能存在試圖篡改模型的惡意節(jié)點(diǎn)，所以工人上傳的本地模型可能是不可信的，引入驗(yàn)證者角色并提出一種新穎的驗(yàn)證者投票機(jī)制。該機(jī)制讓驗(yàn)證者接收到來(lái)自工人的交易后，會(huì)對(duì)它的簽名做驗(yàn)證，并提取交易中的本地模型進(jìn)行可靠性投票，從而提升模型可靠性。

(2)當(dāng)惡意節(jié)點(diǎn)成為礦工后，它可能通過(guò)篡改驗(yàn)證者的投票結(jié)果甚至向其開(kāi)采的區(qū)塊中加入噪聲來(lái)干擾全局模型的計(jì)算，繼而影響系統(tǒng)模型的表現(xiàn)。因此，引入一種獎(jiǎng)勵(lì)機(jī)制和角色輪換機(jī)制來(lái)避免惡意節(jié)點(diǎn)開(kāi)采的區(qū)塊成為共識(shí)區(qū)塊，并且根據(jù)節(jié)點(diǎn)各自的角色分配獎(jiǎng)勵(lì)，從而增強(qiáng)了系統(tǒng)的健壯性。

(3)為了驗(yàn)證本方案的有效性，采用PyTorch框架在MNIST數(shù)據(jù)集上進(jìn)行仿真實(shí)驗(yàn)。結(jié)果表明，在設(shè)置一定數(shù)量的惡意節(jié)點(diǎn)下，仍然保持較高的模型準(zhǔn)確性。由于模型準(zhǔn)確性受工人和驗(yàn)證者數(shù)量比例影響，在存在15%的惡意節(jié)點(diǎn)聯(lián)邦學(xué)習(xí)設(shè)置下，對(duì)比基線策略FedAvg和pFedMe，本方案能夠通過(guò)驗(yàn)證機(jī)制剔除惡意模型，確保存儲(chǔ)模型的安全性與可靠性，進(jìn)而保障最終模型的準(zhǔn)確率表現(xiàn)。

1 相關(guān)工作

在聯(lián)邦學(xué)習(xí)的數(shù)據(jù)存儲(chǔ)過(guò)程中，傳統(tǒng)聯(lián)邦學(xué)習(xí)通常是直接聚合參與方上傳的本地模型更新，而未做任何驗(yàn)證以保證上傳模型的可靠性。McMahan等[6]提出FedAvg算法，通過(guò)聯(lián)邦平均來(lái)實(shí)現(xiàn)模型的全局更新，從而在不共享原始數(shù)據(jù)的情況下實(shí)現(xiàn)協(xié)同深度學(xué)習(xí)。Li等[7]提出FedProx算法，它在FedAvg更新策略上做了調(diào)整，在每個(gè)客戶端上引入了一個(gè)正則項(xiàng)，來(lái)平衡平均的全局模型與本地模型的差異。進(jìn)而使得FedAvg算法更加穩(wěn)健。針對(duì)FedProx缺乏形式化問(wèn)題，Li等[8]提出FedLGA算法，它先將系統(tǒng)異構(gòu)聯(lián)邦學(xué)習(xí)問(wèn)題形式化，然后通過(guò)梯度近似來(lái)彌合本地模型更新的分歧。Reisizadeh等[9]提出FedPAQ算法，通過(guò)在迭代過(guò)程中，周期性地對(duì)參與方的模型進(jìn)行平均，在傳輸過(guò)程中將參與方的模型參數(shù)進(jìn)行量化，以減少通信量，同時(shí)保持模型精度。Zhao等[10]指出FedAvg算法在數(shù)據(jù)非獨(dú)立同分布(non-IID)場(chǎng)景下的性能很差，定義并指出權(quán)重差異是導(dǎo)致性能下降的主要原因，進(jìn)一步地，提出了FedShare算法，一種共享部分共有數(shù)據(jù)集的方法，來(lái)提升non-IID場(chǎng)景下FedAvg算法的性能。

同時(shí)，目前有許多工作結(jié)合區(qū)塊鏈提出安全聯(lián)邦學(xué)習(xí)框架。Xu等[11]提出一種安全可驗(yàn)證的聯(lián)邦學(xué)習(xí)框架VerifyNet，首先提出一個(gè)雙掩碼協(xié)議來(lái)保證聯(lián)邦學(xué)習(xí)過(guò)程中用戶本地梯度的機(jī)密性。然后，云服務(wù)器向每個(gè)用戶提供關(guān)于其聚合結(jié)果正確性的證明。Kim等[12]提出的框架實(shí)現(xiàn)了基于區(qū)塊鏈的設(shè)備上聯(lián)邦學(xué)習(xí)(on-device FL)，該方案主要利用礦工對(duì)設(shè)備的本地模型更新的交叉驗(yàn)證機(jī)制以及區(qū)塊鏈的不可篡改和可追溯審計(jì)等特性，以確保模型更新的準(zhǔn)確性和可靠性。Jiang等[13]為數(shù)字孿生網(wǎng)絡(luò)提出一種模型更新鏈，利用有向無(wú)環(huán)圖區(qū)塊鏈來(lái)保護(hù)本地模型和全局模型更新。同時(shí)涉及了一種基于迭代雙拍賣的聯(lián)邦學(xué)習(xí)和本地模型驗(yàn)證模型更新方案，解決了聯(lián)邦學(xué)習(xí)和本地模型驗(yàn)證的最佳統(tǒng)一時(shí)間，以最大化社會(huì)福利。Peng等[14]提出一種基于區(qū)塊鏈系統(tǒng)的可驗(yàn)證和可審計(jì)的聯(lián)邦學(xué)習(xí)框架VFChain。該方案通過(guò)區(qū)塊鏈選擇一個(gè)委員會(huì)來(lái)聚合模型并在區(qū)塊鏈中記錄可驗(yàn)證的證據(jù)來(lái)提供可驗(yàn)證性，同時(shí)，為區(qū)塊鏈提出了一種經(jīng)過(guò)身份驗(yàn)證的數(shù)據(jù)結(jié)構(gòu)，以提高可驗(yàn)證證據(jù)的搜索效率并支持委員會(huì)的安全輪換。Li等[15]提出一種抗拜占庭安全區(qū)塊鏈聯(lián)邦學(xué)習(xí)框架BytoChain。通過(guò)引入驗(yàn)證者并執(zhí)行繁重的驗(yàn)證工作量來(lái)提高模型驗(yàn)證的效率，并通過(guò)抗拜占庭共識(shí)的準(zhǔn)確率證明來(lái)檢測(cè)拜占庭攻擊[16-18]。

然而，現(xiàn)有工作在數(shù)據(jù)存儲(chǔ)過(guò)程中缺少有效的驗(yàn)證機(jī)制和獎(jiǎng)勵(lì)機(jī)制，而聯(lián)邦學(xué)習(xí)中的客戶端或服務(wù)器可能是惡意的，往往存在數(shù)據(jù)被篡改和隱私泄露的風(fēng)險(xiǎn)，無(wú)法保證本地模型存儲(chǔ)的可靠性，影響最終全局模型的表現(xiàn)。

2 BFL4MVSS方案及架構(gòu)設(shè)計(jì)

2.1 BFL4MVSS架構(gòu)

BFL4MVSS的系統(tǒng)架構(gòu)如圖1所示。BFL4MVSS主要包含以下幾種角色：工人w∈W， 驗(yàn)證者v∈V， 礦工m∈M， 其中 |W|+|V|+|M|=|D|，D={d1，d2，…，dn}。

圖1 系統(tǒng)架構(gòu)

安全模型：本文考慮聯(lián)邦學(xué)習(xí)參與者對(duì)于全局模型的投毒攻擊。這種攻擊通過(guò)在本地訓(xùn)練過(guò)程中通過(guò)反轉(zhuǎn)標(biāo)簽等方式訓(xùn)練出異常本地模型，從而最終影響聯(lián)邦學(xué)習(xí)全局模型的可靠性。這種攻擊之所以能夠成功是因?yàn)槁?lián)邦學(xué)習(xí)的本地模型的可靠性沒(méi)有可信的第三方進(jìn)行評(píng)估。另一方面，區(qū)塊鏈中的惡意工人一旦被選舉為礦工會(huì)阻礙區(qū)塊鏈上的共識(shí)的達(dá)成，不但影響區(qū)塊鏈的性能，更會(huì)嚴(yán)重降低區(qū)塊鏈的安全性。此外，對(duì)于異常模型，這些礦工也很有可能采取放任的態(tài)度并讓他們進(jìn)入聯(lián)邦聚合過(guò)程，這終究會(huì)影響聯(lián)邦學(xué)習(xí)的全局模型的可靠性。因此，惡意工人也是本文需要防范的安全威脅之一。

針對(duì)這些安全威脅，本文利用區(qū)塊鏈技術(shù)，提出了驗(yàn)證者投票機(jī)制，驗(yàn)證者先后對(duì)本地模型做評(píng)估與投票，以保證存儲(chǔ)模型的可靠性；同時(shí)引入了一種獎(jiǎng)勵(lì)機(jī)制，允許系統(tǒng)在一定數(shù)量的惡意節(jié)點(diǎn)存在下正常運(yùn)行。

本方案所用到的主要符號(hào)及含義見(jiàn)表1。

2.2 聯(lián)邦學(xué)習(xí)過(guò)程

BFL4MVSS的聯(lián)邦學(xué)習(xí)過(guò)程如圖2所示。具體描述如下：

表1 主要符號(hào)說(shuō)明

(1)角色分配以及初始化：根據(jù)角色隨機(jī)輪轉(zhuǎn)機(jī)制為所有節(jié)點(diǎn)分配角色，全局模型隨機(jī)初始化，并廣播給所有聯(lián)邦學(xué)習(xí)參與方即工人w；

(2)本地模型更新：工人w在私有數(shù)據(jù)集上進(jìn)行本地訓(xùn)練以生成本地模型，然后將本地模型封裝到交易并發(fā)送給驗(yàn)證者v；

(3)本地模型廣播：接著，與工人w關(guān)聯(lián)的驗(yàn)證者v將接收到的交易廣播給其它的驗(yàn)證者；

(4)驗(yàn)證者投票：所有驗(yàn)證者根據(jù)投票機(jī)制對(duì)接收到的交易進(jìn)行投票；

(5)模型聚合：礦工m在聚合得到全局模型后創(chuàng)建并廣播經(jīng)過(guò)基于權(quán)益證明(proof of stake，PoS)共識(shí)后的共識(shí)區(qū)塊；

(6)區(qū)塊添加：具有最多累計(jì)獎(jiǎng)勵(lì)的礦工生成的區(qū)塊被添加到區(qū)塊鏈中。如果未達(dá)到預(yù)設(shè)的通信輪次，那么礦工請(qǐng)求與之關(guān)聯(lián)的設(shè)備下載包含全局模型的公式區(qū)塊，反之，聯(lián)邦學(xué)習(xí)過(guò)程結(jié)束。

重復(fù)以上步驟直到聯(lián)邦學(xué)習(xí)過(guò)程結(jié)束。相比于基礎(chǔ)聯(lián)邦學(xué)習(xí)過(guò)程，本文提出的聯(lián)邦學(xué)習(xí)是建立在工人訓(xùn)練模型、驗(yàn)證者驗(yàn)證模型、礦工聚合模型的基礎(chǔ)上的。因此，模型的可靠性是通過(guò)驗(yàn)證者驗(yàn)證過(guò)的。

圖2 BFL4MVSS的聯(lián)邦學(xué)習(xí)過(guò)程

2.3 驗(yàn)證者投票機(jī)制

算法1：驗(yàn)證者投票機(jī)制

(5)else

2.4 獎(jiǎng)勵(lì)機(jī)制

基于PoS的共識(shí)機(jī)制的保護(hù)會(huì)保護(hù)合法學(xué)習(xí)所得的本地模型和記錄在區(qū)塊鏈上的模型，以用來(lái)更新全局模型。而在本方案中，礦工負(fù)責(zé)投票結(jié)果的匯總和記錄。因此，當(dāng)惡意節(jié)點(diǎn)成為礦工后，它可能通過(guò)篡改驗(yàn)證者的投票結(jié)果甚至向其開(kāi)采的區(qū)塊中加入噪聲來(lái)干擾全局模型的計(jì)算，繼而影響系統(tǒng)模型的表現(xiàn)。因此，我們采用一種獎(jiǎng)勵(lì)機(jī)制和角色輪換機(jī)制來(lái)避免惡意節(jié)點(diǎn)開(kāi)采的區(qū)塊成為共識(shí)區(qū)塊[16]，獎(jiǎng)勵(lì)根據(jù)節(jié)點(diǎn)各自的角色分配，這在一定程度上增強(qiáng)了系統(tǒng)的健壯性。

本方案的節(jié)點(diǎn)分為工人、驗(yàn)證者、礦工3種角色，對(duì)應(yīng)的獎(jiǎng)勵(lì)亦分為3類：工人獎(jiǎng)勵(lì)、驗(yàn)證者獎(jiǎng)勵(lì)和礦工獎(jiǎng)勵(lì)。定義r為一個(gè)單位獎(jiǎng)勵(lì)。

(1)

(2)

(3)

2.5 模型聚合策略

BFL4MVSS采用前述的驗(yàn)證者投票機(jī)制和獎(jiǎng)勵(lì)機(jī)制，能夠抵抗惡意節(jié)點(diǎn)發(fā)起的噪聲攻擊，保障了區(qū)塊中存儲(chǔ)本地模型的可靠性。因此，本方案使用類似FedAvg[5]的聚合策略來(lái)聚合本地模型就可以保障全局模型可靠性，描述如下

(4)

3 實(shí)驗(yàn)及結(jié)果分析

3.1 實(shí)驗(yàn)環(huán)境

本方案的仿真實(shí)驗(yàn)設(shè)備采用20臺(tái)虛擬機(jī)，CPU 8核2.10 GHz、16 G內(nèi)存、300 G硬盤，采用Python 3.8和PyTorch框架實(shí)現(xiàn)本方案的基線算法FedAvg[5]、pFedMe[17]和BFL4MVSS。方案采用MNIST數(shù)據(jù)集[18]進(jìn)行驗(yàn)證。MNIST是一個(gè)手寫體數(shù)字的圖片數(shù)據(jù)集，該數(shù)據(jù)集來(lái)由美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所發(fā)起整理，一共統(tǒng)計(jì)了來(lái)自250個(gè)不同的人手寫數(shù)字圖片，其中50%是高中生，50%來(lái)自人口普查局的工作人員。其中，訓(xùn)練集train一共包含了60 000張圖像和標(biāo)簽，而測(cè)試集一共包含了10 000張圖像和標(biāo)簽。為了處理該數(shù)據(jù)集，本方案使用的CNN模型，它由帶有ReLU激活函數(shù)的兩個(gè)5×5的卷積層，兩個(gè)2×2的池化層，以及兩個(gè)全連接層組成。

我們假設(shè)FedAvg、pFedMe和BFL4MVSS包括20臺(tái)設(shè)備且均參與聯(lián)邦學(xué)習(xí)過(guò)程，將整個(gè)MNIST數(shù)據(jù)集隨機(jī)不重疊等分并分配給每個(gè)參與方。為了簡(jiǎn)化，假設(shè)所有簽名都是驗(yàn)證通過(guò)的。本實(shí)驗(yàn)相關(guān)超參數(shù)設(shè)置見(jiàn)表2。

表2 超參數(shù)設(shè)置

3.2 實(shí)驗(yàn)結(jié)果分析

3.2.1 BFL4MVSS健壯性分析

圖3 12w，5v，3m設(shè)置下的準(zhǔn)確率變化情況

圖4 8w，9v，3m設(shè)置下的準(zhǔn)確率變化情況

圖5 8w，9v，3m設(shè)置下的BFL4MVSS有效性

本實(shí)驗(yàn)中，為了探究BFL4MVSS的健壯性，我們將惡意節(jié)點(diǎn)的數(shù)量設(shè)置為不同的值(即3，4，6，8，10，12，14，16)，工人w數(shù)量和驗(yàn)證者v數(shù)量為12和5，礦工m數(shù)量為3，然后分別記錄系統(tǒng)模型的準(zhǔn)確率，其結(jié)果如圖3所示。我們觀察到，當(dāng)存在少于10個(gè)注入高斯噪聲的惡意節(jié)點(diǎn)時(shí)，BFL4MVSS仍然能夠維持較高的準(zhǔn)確率，尤其是4個(gè)惡意節(jié)點(diǎn)時(shí)，對(duì)應(yīng)的準(zhǔn)確率達(dá)到90%。這表明在此設(shè)置中，BFL4MVSS能夠利用驗(yàn)證者投票機(jī)制，減小惡意模型被存儲(chǔ)的可能性，進(jìn)而抵制惡意節(jié)點(diǎn)數(shù)量占比為40%的高斯噪聲攻擊。進(jìn)一步地，為了探究不同工人數(shù)量和驗(yàn)證者數(shù)量的情況下BFL4MVSS的健壯性，我們將工人w數(shù)量和驗(yàn)證者v數(shù)量調(diào)整為8和9，其它設(shè)置保持不變。其實(shí)驗(yàn)結(jié)果如圖4、圖5所示。當(dāng)且僅當(dāng)惡意節(jié)點(diǎn)數(shù)量不多于4個(gè)的設(shè)置下，BFL4MVSS的準(zhǔn)確率能夠維持在較高水平，即存在3個(gè)惡意節(jié)點(diǎn)時(shí)，模型準(zhǔn)確率為95%，存在4個(gè)惡意節(jié)點(diǎn)時(shí)，模型準(zhǔn)確率為80%。這同樣驗(yàn)證了本系統(tǒng)一定程度的健壯性，且系統(tǒng)的健壯能力是受工人和驗(yàn)證者數(shù)量比例影響的。這是因?yàn)楸静呗酝ㄟ^(guò)獎(jiǎng)勵(lì)激勵(lì)工人的非惡意行為，這樣更多的非惡意工人能夠成為礦工，而一旦成為礦工，他將獲得更多的獎(jiǎng)勵(lì)。此外，工人晉升為礦工是存在競(jìng)爭(zhēng)的，因?yàn)橹挥欣塾?jì)獎(jiǎng)勵(lì)最高的工人才有晉升的機(jī)會(huì)。這意味著工人會(huì)因?yàn)楠?jiǎng)勵(lì)從而不進(jìn)行惡意行為。另一方面，由于驗(yàn)證者的存在，通過(guò)比對(duì)前后輪模型的準(zhǔn)確性，本地模型的可靠性得到顯著的提升。然而，驗(yàn)證者是一個(gè)團(tuán)體而非個(gè)人，因此驗(yàn)證者對(duì)于模型的驗(yàn)證也是一個(gè)團(tuán)體行為，即對(duì)于模型可靠性的驗(yàn)證最終需要通過(guò)團(tuán)體投票決定，而這一決定又和驗(yàn)證者的獎(jiǎng)勵(lì)有直接關(guān)系。這意味著驗(yàn)證者因?yàn)楠?jiǎng)勵(lì)的存在所以對(duì)模型的可靠性進(jìn)行真實(shí)驗(yàn)證，以保證各驗(yàn)證者對(duì)于模型的可靠性的決定接近一致，從而保障了模型的可靠性。以上的分析驗(yàn)證了工人和驗(yàn)證者數(shù)量的比例對(duì)于模型可靠性存在一定的影響。

3.2.2 BFL4MVSS有效性分析

為了驗(yàn)證BFL4MVSS的有效性，我們根據(jù)以下設(shè)置進(jìn)行對(duì)比實(shí)驗(yàn)。20臺(tái)設(shè)備均合法設(shè)置下的FedAvg算法(用FedAvg_0/20表示)，存在3個(gè)惡意節(jié)點(diǎn)的FedAvg算法(用FedAvg_3/20表示)，本方案中存在3個(gè)惡意節(jié)點(diǎn)的設(shè)置(用OurScheme_3/20表示)。我們對(duì)以上每個(gè)設(shè)置進(jìn)行3次實(shí)驗(yàn)，并記錄所有設(shè)備的模型準(zhǔn)確率變化情況。實(shí)驗(yàn)結(jié)果如圖5所示，其中實(shí)線代表3次實(shí)驗(yàn)準(zhǔn)確率的平均值。觀察圖中的兩個(gè)不同設(shè)置的FedAvg算法，F(xiàn)edAvg在無(wú)惡意節(jié)點(diǎn)設(shè)置下的準(zhǔn)確率為96%，然而，在存在15%的惡意節(jié)點(diǎn)設(shè)置下，其準(zhǔn)確率驟降至12%。觀察圖中均為15%惡意節(jié)點(diǎn)設(shè)置下的FedAvg和本方案表現(xiàn)，盡管相比于Fed-Avg，本方案的準(zhǔn)確率下降了10%，但本方案的準(zhǔn)確率仍然能夠達(dá)到86%。這表明了在存在15%比例的惡意節(jié)點(diǎn)聯(lián)邦學(xué)習(xí)設(shè)置下，本方案能夠通過(guò)驗(yàn)證機(jī)制剔除惡意模型，確保存儲(chǔ)模型的安全性與可靠性，進(jìn)而保障最終模型的準(zhǔn)確率表現(xiàn)。

接著，在惡意節(jié)點(diǎn)比例占15%，以及12個(gè)工人、5個(gè)驗(yàn)證者和3個(gè)礦工，8個(gè)工人、9個(gè)驗(yàn)證者和3個(gè)礦工兩種不同角色比例的設(shè)置下，我們對(duì)比了FedAvg、pFedMe和本方案的準(zhǔn)確率表現(xiàn)，相應(yīng)的實(shí)驗(yàn)結(jié)果見(jiàn)表3。我們很容易觀察到本方案的準(zhǔn)確率遠(yuǎn)高于前兩個(gè)對(duì)比算法的準(zhǔn)確率。這又進(jìn)一步驗(yàn)證了：在惡意節(jié)點(diǎn)占比15%的設(shè)置下，相比其它兩種對(duì)比算法，本方案能夠有效保證存儲(chǔ)模型的可靠性，進(jìn)而維持模型準(zhǔn)確率表現(xiàn)。上述實(shí)驗(yàn)結(jié)果符合預(yù)期，這是因?yàn)樽鳛榛€策略FedAvg和pFedMe無(wú)法有效驗(yàn)證惡意模型，這使得全局模型的準(zhǔn)確率低。而本方案利用驗(yàn)證者先后對(duì)本地模型做評(píng)估與投票從而保證存儲(chǔ)模型的可靠性，并引入了獎(jiǎng)勵(lì)機(jī)制，這使得無(wú)論在12個(gè)工人、5個(gè)驗(yàn)證者和3個(gè)礦工還是8個(gè)工人、9個(gè)驗(yàn)證者和3個(gè)礦工兩種不同角色比例設(shè)置下，對(duì)于存在15%的惡意節(jié)點(diǎn)，本方案模型的準(zhǔn)確性都更高。

表3 不同角色比例設(shè)置下的算法準(zhǔn)確率對(duì)比/%

4 結(jié)束語(yǔ)

針對(duì)聯(lián)邦學(xué)習(xí)系統(tǒng)中的模型存儲(chǔ)可靠性問(wèn)題，本文將區(qū)塊鏈技術(shù)引入到聯(lián)邦學(xué)習(xí)中，提出了一種基于區(qū)塊鏈隱私增強(qiáng)的聯(lián)邦學(xué)習(xí)可驗(yàn)證安全存儲(chǔ)方案BFL4MVSS。本方案首先引入驗(yàn)證者角色，提出了一種驗(yàn)證者投票機(jī)制來(lái)剔除系統(tǒng)中可能存在的惡意模型，確保最終模型的可靠性。然后，為了維持系統(tǒng)正常運(yùn)行，引入了獎(jiǎng)勵(lì)機(jī)制來(lái)激勵(lì)節(jié)點(diǎn)，其中擁有最高獎(jiǎng)勵(lì)的礦工具有存儲(chǔ)全局模型的權(quán)利，以維持本系統(tǒng)的正常運(yùn)作。仿真實(shí)驗(yàn)表明，BFL4MVSS能夠有效保護(hù)用戶數(shù)據(jù)隱私，同時(shí)保持了較高的模型準(zhǔn)確率。與現(xiàn)有方案相比，由于驗(yàn)證者投票機(jī)制，惡意模型的存儲(chǔ)比例更低，全局模型的可靠性更高，相應(yīng)的模型準(zhǔn)確率更高。本方案解決聯(lián)邦學(xué)習(xí)系統(tǒng)中存在惡意節(jié)點(diǎn)時(shí)的模型存儲(chǔ)的可靠性問(wèn)題，為健壯的聯(lián)邦學(xué)習(xí)系統(tǒng)提供了一種解決思路。此外，如何將合理的獎(jiǎng)勵(lì)機(jī)制融入高效可靠的共識(shí)機(jī)制的設(shè)計(jì)也是我們未來(lái)的研究方向。