基于聚類的高效(K,L)-匿名隱私保護(hù)

柴瑞敏,馮慧慧

(遼寧工程技術(shù)大學(xué)電子與信息工程學(xué)院,遼寧葫蘆島125105)

基于聚類的高效(K,L)-匿名隱私保護(hù)

柴瑞敏,馮慧慧

(遼寧工程技術(shù)大學(xué)電子與信息工程學(xué)院,遼寧葫蘆島125105)

為防止發(fā)布數(shù)據(jù)中敏感信息泄露,提出一種基于聚類的匿名保護(hù)算法。分析易被忽略的準(zhǔn)標(biāo)識符對敏感屬性的影響,利用改進(jìn)的K-means聚類算法對數(shù)據(jù)進(jìn)行敏感屬性聚類,使類內(nèi)數(shù)據(jù)更相似?？紤]等價(jià)類內(nèi)敏感屬性的多樣性,對待發(fā)布表使用(K,L)-匿名算法進(jìn)行聚類。實(shí)驗(yàn)結(jié)果表明,與傳統(tǒng)K-匿名算法相比,該算法在實(shí)現(xiàn)隱私保護(hù)的同時(shí),數(shù)據(jù)信息損失較少,執(zhí)行時(shí)間較短。

(K,L)-匿名;敏感屬性;隱私保護(hù);信息損失;聚類;K-means算法

1 概述

隨著計(jì)算機(jī)網(wǎng)絡(luò)和數(shù)據(jù)庫等相關(guān)技術(shù)的快速發(fā)展,醫(yī)療、銀行賬戶、電子郵件等各種系統(tǒng)廣泛的滲透于生活應(yīng)用中,應(yīng)用系統(tǒng)數(shù)據(jù)庫中的個(gè)體數(shù)據(jù),被過度地用于數(shù)據(jù)挖掘和數(shù)據(jù)發(fā)布,這就導(dǎo)致個(gè)人的隱私信息極易被暴露,用戶的隱私安全得不到保障,工作生活受到影響,嚴(yán)重的甚至危及生命。因此,個(gè)人的隱私保護(hù)成為丞待解決的問題,許多隱私保護(hù)方法也被提出。常用方法是在數(shù)據(jù)發(fā)布前,先對數(shù)據(jù)預(yù)處理,把能夠顯示身份特征的屬性(如姓名、身份證號等)去掉,該方法雖然有一定功效,但隱私信息泄露仍然存在。文獻(xiàn)[1]研究表明,把美國的選民登記表和去掉身份特征標(biāo)識的醫(yī)療信息表利用郵編、性別、年齡等屬性進(jìn)行鏈接,至少87%的美國公民的個(gè)人信息都可以被檢測出來,造成隱私嚴(yán)重泄露。針對數(shù)據(jù)匿名發(fā)布中的隱私泄露問題,本文提出一種基于聚類的匿名保護(hù)算法,考慮背景知識攻擊和一致性攻擊的影響,減少數(shù)據(jù)匿名后的信息損失。

2 相關(guān)工作

為實(shí)驗(yàn)數(shù)據(jù)隱私保護(hù),1998年,K-匿名(K-anonymity)技術(shù)被Samarati和L.Sweeney在PODS上率先提出,引起很大關(guān)注。K-匿名技術(shù)表現(xiàn)為,將每個(gè)個(gè)體的敏感屬性隱藏在規(guī)模為K的群體中,方法簡單實(shí)用,被廣泛應(yīng)用及研究。2002年L.Sweeney又在此基礎(chǔ)上提出了K-匿名保護(hù)模型[2],將理論高度進(jìn)一步提升。同時(shí),他又在文獻(xiàn)[3]中繼續(xù)提出針對這一技術(shù)的泛化和隱匿方法,此方法在實(shí)際應(yīng)用中,確實(shí)對隱私信息起到很大保護(hù)作用。2004年Meyerson和Williams指出,即便對表中一些元素隱匿,要保證匿名結(jié)果為最佳的K-匿名問題也已經(jīng)被證明是NP完全問題。

防止隱私泄露常用方法為添加噪聲、數(shù)據(jù)交換和數(shù)據(jù)隱匿[4],通過對要發(fā)布的數(shù)據(jù)表添加未知元素、把數(shù)據(jù)隱藏在更寬泛的取值空間內(nèi)等方法,實(shí)現(xiàn)數(shù)據(jù)的隱私保護(hù)目的。從理論上來說,這些方法能起到一定作用,使隱私泄露信息減少,但通常也會(huì)發(fā)生發(fā)布數(shù)據(jù)失真等現(xiàn)象,使數(shù)據(jù)發(fā)布沒有意義。

現(xiàn)有的K-匿名算法大多通過泛化和隱匿技術(shù)來實(shí)現(xiàn)k-匿名化,易忽略信息泄露問題。文獻(xiàn)[5]對K-匿名后的數(shù)據(jù)進(jìn)行分析研究,考慮背景知識的影響來分析信息泄露問題,而不同用戶對背景知識的掌握常常是參差不齊的,且由此要進(jìn)行的數(shù)據(jù)泛化也會(huì)產(chǎn)生影響,結(jié)果可能會(huì)與期望結(jié)果大相徑庭。因此,為防止基于背景知識的攻擊,本文使用基于聚類的高效(K,L)-匿名算法,考慮準(zhǔn)標(biāo)識符屬性對敏感屬性的影響,先將敏感屬性聚類,然后利用K-匿名算法,分析每組數(shù)據(jù)的敏感屬性不同值的個(gè)數(shù)L與K值之間的關(guān)系,有效保護(hù)匿名后的秘密屬性,防止其隱私信息泄漏。

聚類是依據(jù)對象自身的相似性,將一個(gè)對象的集合分割成一系列有意義的子集的過程。聚類完成后特征為:每個(gè)簇內(nèi)高度的同質(zhì)性,每對簇間高度的異質(zhì)性。典型聚類問題如K-means和K-Center[6]。

3 基本概念

定義1(標(biāo)識符屬性) 在發(fā)布的數(shù)據(jù)中,能直接鏈接標(biāo)識一條特定的記錄(個(gè)體),稱之為標(biāo)識符屬性,如姓名、身份證號、銀行卡號。

定義2(準(zhǔn)標(biāo)識符QI) 數(shù)據(jù)表的屬性中,除標(biāo)識符屬性外,能夠與外部屬性相連接的屬性集合,稱為準(zhǔn)標(biāo)識符[7]。

定義3(K-匿名)T(A1,A2,…,An)是一個(gè)表, QI是表T的準(zhǔn)標(biāo)識符,當(dāng)且僅當(dāng)在QI對應(yīng)的每個(gè)等價(jià)類中,出現(xiàn)的屬性個(gè)數(shù)最少為K(K≥2)時(shí),就說表T滿足K-匿名。

定義4(等價(jià)類) K-匿名化后,在準(zhǔn)標(biāo)識符屬性中對應(yīng)的每組至少k個(gè)相同的元組的集合,稱為一個(gè)等價(jià)類。

定義5((K,L)-匿名) 給定一個(gè)表T,如果表T滿足K-匿名的要求,并且在準(zhǔn)標(biāo)識符QI上的值相同的一組等價(jià)類中,敏感屬性不同值至少有L個(gè),則說表T滿足(K,L)-匿名,其中,K≥2,1＜L≤K,L,K均取整數(shù)。

定義6(參考矩陣) 準(zhǔn)標(biāo)識符對敏感屬性影響概率的參考矩陣為J,是m×n型矩陣,其中,m是敏感屬性個(gè)數(shù);n為準(zhǔn)標(biāo)識符個(gè)數(shù);qi(1≤i≤n)是準(zhǔn)標(biāo)識符屬性;pi(1≤i≤m)是敏感屬性。

其中,Jij為第i個(gè)準(zhǔn)標(biāo)識符對第j個(gè)敏感屬性的影響概率。DISab為任一準(zhǔn)標(biāo)識符對第a個(gè)敏感屬性和對第b個(gè)敏感屬性的影響距離:

下面從實(shí)例說明(K,L)-匿名。表1是某原始數(shù)據(jù)表,顯示的是個(gè)人信息及疾病表。表2是滿足表1的2-匿名化表,表3為某人口信息表。表1中對數(shù)據(jù)先進(jìn)行預(yù)處理,標(biāo)識符屬性如姓名、身份證號等已刪除,屬性集合(年齡,國家,郵編,性別)是準(zhǔn)標(biāo)識符,疾病為敏感屬性。由表2可知該表滿足K匿名,且滿足L多樣性(K=2,L=2)。遇到表3鏈接攻擊時(shí),能有效防止信息泄露。如表3中的第2條信息,名字為tiffany的個(gè)人信息與表2鏈接,不能得出它到底得了什么病,個(gè)人隱私得到了有效保護(hù),實(shí)現(xiàn)了K-匿名。但是,它忽略了背景知識攻擊,比如名字為tom的個(gè)人信息與表2鏈接,雖然不能判斷出他得的是什么病,但是通過個(gè)人知識了解到,日本人患心臟病的概率及其低微,那么幾乎可以肯定地推斷出他得的是癌癥,而這種病是tom不想為人知的,他的個(gè)人隱私因此就被泄露了。而且,與表1相比,表2雖然很好地保護(hù)了隱私信息,但是有信息損失。本文的主要研究重點(diǎn)就是要在滿足(K,L)-匿名[8]的同時(shí),使要發(fā)布的表信息損失降到最少。

表1 原始數(shù)據(jù)表

表2 2-匿名數(shù)據(jù)表

表3 人口信息表

4 (K,L)-匿名聚類算法

K-匿名在遇到鏈接攻擊時(shí),能夠有效防御,防止隱私信息泄露,但是在遇到同質(zhì)攻擊和背景知識攻擊時(shí),卻無能為力。為了更好保護(hù)敏感信息,增加對數(shù)據(jù)的L-diversity[9]處理,即(K,L)-匿名聚類算法。

對于輸入的數(shù)據(jù)集,為使發(fā)布的數(shù)據(jù)有意義且使信息損失盡量降低,可分為2個(gè)步驟進(jìn)行:

(1)進(jìn)行數(shù)據(jù)集背景知識參考矩陣的計(jì)算,各個(gè)準(zhǔn)標(biāo)識符對各個(gè)敏感屬性的影響的強(qiáng)弱均可明顯的反應(yīng)出來。據(jù)此對敏感屬性進(jìn)行聚類,本文采用改進(jìn)的K-means算法,使類內(nèi)數(shù)據(jù)更相似,類間數(shù)據(jù)更不同。聚類結(jié)果較傳統(tǒng)K-means算法,數(shù)據(jù)精度更高,能為以下數(shù)據(jù)匿名化作更好的鋪墊。

(2)將數(shù)據(jù)集中的每條記錄初始化為等價(jià)類,依據(jù)第一步的聚類結(jié)果將等價(jià)類進(jìn)行聚類,然后,計(jì)算最小化信息損失,對等價(jià)類進(jìn)行合并,K-匿名化要滿足生成的等價(jià)類大小在K與2K之間。同時(shí)判斷生成的等價(jià)類是否滿足L-diversity匿名化原則,使算法最終滿足(K,L)-匿名化。

4.1 敏感屬性聚類

對敏感屬性值進(jìn)行聚類。令M為敏感屬性值的個(gè)數(shù),L為L-diversity(多樣性)中的參數(shù),則聚類個(gè)數(shù)為G=M/L。在此過程中要求簇內(nèi)元素具有極大的同質(zhì)性,每對簇間元素具有極大的異質(zhì)性。依據(jù)此特點(diǎn),可以提出改進(jìn)的K-means算法來完成,因?yàn)橄啾葌鹘y(tǒng)的K-means算法,改進(jìn)的K-means算法更高效省時(shí)[10]。

傳統(tǒng)的K-means算法步驟為:對于給定的聚類簇?cái)?shù),首先對集群初始化,隨機(jī)選擇初始聚類中心,通過分配每個(gè)數(shù)據(jù)到最近的質(zhì)心,生成新的分區(qū)集群。重復(fù)以上計(jì)算,直到質(zhì)心不再變化。傳統(tǒng) K-means算法雖然能快速處理數(shù)據(jù),且快速簡單,但它存在著局限性:K值需要事先指定,對噪聲和孤立點(diǎn)敏感等,其中最突出的是對初始聚類中心的隨機(jī)選擇,易使聚類結(jié)果不穩(wěn)定,造成結(jié)果陷入局部最優(yōu)解,甚至得到相差甚遠(yuǎn)的聚類結(jié)果。

K-means聚類算法的目的是使簇內(nèi)最大程度的相似,每對簇間數(shù)據(jù)最大程度地不同。聚類結(jié)果的好壞與初始聚類中心的選擇關(guān)系重大。為使聚類效果更好,應(yīng)選擇盡可能離得遠(yuǎn)的對象作為初始聚類中心,以避免在應(yīng)用K-means聚類算法時(shí)由于初始聚類中心選擇的過于鄰近,造成選取的初始聚類中心在同一個(gè)簇中,或小簇被包涵在大簇中等聚類結(jié)果不好的情況。

改進(jìn)的K-means聚類算法具體步驟是:首先計(jì)算n個(gè)數(shù)據(jù)對象間的兩兩距離,找到距離最大的2個(gè)點(diǎn),并分別以它們?yōu)橘|(zhì)心,然后計(jì)算離此2個(gè)質(zhì)心最近距離的數(shù)據(jù)對象,劃分到該簇中,直到達(dá)到閾值。再通過計(jì)算剩余數(shù)據(jù)對象與前2個(gè)質(zhì)心間的最大距離,找第3個(gè)質(zhì)心,以此類推,直到每個(gè)簇的質(zhì)心不再變化。改進(jìn)的K-means聚類算法不需要預(yù)先指定K值,不受隨機(jī)分配初始質(zhì)心的影響,通過選取距離最遠(yuǎn)的數(shù)據(jù)點(diǎn)為質(zhì)心,不會(huì)產(chǎn)生傳統(tǒng)K-means聚類算法中初始質(zhì)心在同一個(gè)簇的情況,將數(shù)據(jù)集劃分的更合理,能更好實(shí)現(xiàn)聚類效果,即簇內(nèi)最大程度的相似,每對簇間數(shù)據(jù)最大程度地不同。

上述步驟對于下一步進(jìn)行的匿名化會(huì)有較大影響,因此,本文提出改進(jìn)的K-means算法對敏感屬性聚類,算法描述如下:

輸入背景知識參考矩陣,敏感屬性值M,L

輸出敏感屬性聚類結(jié)果

(1)先從數(shù)據(jù)集中選擇2組數(shù)據(jù),形成2個(gè)簇。根據(jù)式(2)計(jì)算數(shù)據(jù)中每一對之間的距離,選擇出最遠(yuǎn)的2組數(shù)據(jù)(如d1和d2),這2個(gè)數(shù)據(jù)將被視為初始集群中心。計(jì)算確定離d1最近的數(shù)據(jù)點(diǎn)并且將該數(shù)據(jù)點(diǎn)添加到d1集群,且從數(shù)據(jù)集中刪除該數(shù)據(jù),直到該集群內(nèi)數(shù)量達(dá)到閾值。d2同理,由此,形成2個(gè)簇;

(2)更新2個(gè)新形成簇的質(zhì)心;

(3)第3個(gè)簇的選擇是,同樣由式(2)計(jì)算數(shù)據(jù)集中與前2個(gè)簇距離最遠(yuǎn)的數(shù)據(jù),以此數(shù)據(jù)為中心,生成第3個(gè)簇;

(4)直到形成G個(gè)簇;

(5)計(jì)算集群算術(shù)平均值獲得集群的質(zhì)心;

(6)Until質(zhì)心不再變化。

4.2 (K,L)-匿名聚類算法

為實(shí)現(xiàn)K-匿名,就需要對數(shù)據(jù)進(jìn)行變換,由此就不可避免地會(huì)產(chǎn)生信息損失。對數(shù)值型屬性和分類型屬性,分別按不同的方式進(jìn)行信息損失計(jì)算。設(shè)表T中的準(zhǔn)標(biāo)識符為QI(N1,N2,…,Nn,M1,M2,…,Mm),其中,Ni(1≤i≤n)為第i個(gè)數(shù)值型屬性,Mj(1≤j≤m)為第j個(gè)分類屬性。K-匿名化時(shí),其中一個(gè)元組t=(xN1,xN2,…,xNn,xC1,xC2,…,xCm)被變換成t′=([yN1,zN1],[yN2,zN2],…,[yNn,zNn],DC1,DC2,…,DCm),則其信息損失定義如下[11],令R=(r1,r2,…,rk)為一個(gè)聚類。

定義7(元組信息損失) 元組信息損失定義為:

(K,L)-匿名算法描述如下:

輸入包含N條記錄的表T,參數(shù)K,L。

輸出(K,L)-匿名化的表T′。

(1)將數(shù)據(jù)集中每條記錄初始為等價(jià)類;

(2)從步驟(1)中G個(gè)簇中,每個(gè)簇選一條記錄,作為G個(gè)等價(jià)類的質(zhì)心;

(3)Repeat;

(4)根據(jù)式(3)計(jì)算算法1聚類結(jié)果中同一簇所有記錄轉(zhuǎn)變到對應(yīng)等價(jià)類中的信息損失;

(5)將信息損失最小的記錄分配到對應(yīng)的等價(jià)類;

(6)每個(gè)等價(jià)類內(nèi)記錄個(gè)數(shù)到K,則停止向該等價(jià)類內(nèi)分配,直到只有最后一個(gè)等價(jià)類內(nèi)記錄數(shù)不是K;

(7)更新G個(gè)等價(jià)類的質(zhì)心;

(8)在以上生成的等價(jià)類中,查找敏感屬性個(gè)數(shù)小于L的等價(jià)類;

(9)計(jì)算第G個(gè)記錄中所有記錄轉(zhuǎn)換到該等價(jià)類的最小信息損失;

(10)直到前邊G-i個(gè)等價(jià)類滿足L多樣性;

(11)最后一個(gè)等價(jià)類中記錄數(shù)若不足K,按最小信息損失分配到對應(yīng)等價(jià)類中;

(12)再次更新等價(jià)類的質(zhì)心;

(13)Until質(zhì)心不再變化。

5 實(shí)驗(yàn)結(jié)果與分析

5.1 實(shí)驗(yàn)環(huán)境

本文實(shí)驗(yàn)的驗(yàn)證采取UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫中的Adult數(shù)據(jù)集。該數(shù)據(jù)集應(yīng)用廣泛,在隱私保護(hù)研究中有權(quán)威性,其內(nèi)容包括了部分美國人口普查數(shù)據(jù),數(shù)據(jù)量很大。采用文獻(xiàn)[12]中的數(shù)據(jù)預(yù)處理方法,將含有缺失值的不完整數(shù)據(jù)及有身份特征標(biāo)識的姓名、身份證號碼等信息刪除,得到的實(shí)驗(yàn)數(shù)據(jù)集包含45 222條數(shù)據(jù)記錄。將屬性{age,work class, education,martial status,race,gender,native country}作為準(zhǔn)標(biāo)識符屬性,其中,age和education為數(shù)值型屬性,occupation為敏感屬性,其余5個(gè)屬性為分類型屬性。

5.2 數(shù)據(jù)質(zhì)量

將本文算法與傳統(tǒng)K-匿名算法在信息損失方面進(jìn)行比較,結(jié)果如圖1所示,可以看出,在K值遞增的情況下,本文算法信息損失較小,而且隨著K值的增大,該優(yōu)勢更明顯,數(shù)據(jù)質(zhì)量更高。

圖1 信息損失度量

5.3 運(yùn)行時(shí)間

將本文算法與傳統(tǒng)K-匿名算法在運(yùn)行時(shí)間方面進(jìn)行比較,結(jié)果如圖2所示,可以看出,在K值遞增的情況下,本文算法在運(yùn)行時(shí)間上具有優(yōu)勢。對任意K值,本文算法的運(yùn)行時(shí)間都比傳統(tǒng)K-匿名算法短,且優(yōu)勢明顯,體現(xiàn)了本文算法的高效性。

圖2 運(yùn)行時(shí)間

6 結(jié)束語

本文利用改進(jìn)K-Means算法將待發(fā)布數(shù)據(jù)聚合成K個(gè)簇,簇內(nèi)最大程度相似,每對簇間數(shù)據(jù)最大程度不同,使準(zhǔn)標(biāo)識符對敏感屬性相似的數(shù)據(jù)聚合在一起。根據(jù)聚合結(jié)果對整個(gè)數(shù)據(jù)集進(jìn)行聚類,且使每個(gè)等價(jià)類滿足L-多樣性,以此實(shí)現(xiàn)(K,L)-匿名。實(shí)驗(yàn)從數(shù)據(jù)質(zhì)量和運(yùn)行時(shí)間2個(gè)方面進(jìn)行比較,可以看出,當(dāng)K值增大時(shí),本文算法能獲得高質(zhì)量的結(jié)果,實(shí)現(xiàn)數(shù)據(jù)發(fā)布中敏感屬性的保護(hù)。下一步將研究在面對海量數(shù)據(jù)時(shí)如何實(shí)現(xiàn)數(shù)據(jù)的高效保護(hù)。

[1] LeFevre K,DeWitt D J,Ramakrishnan R.Mondrian Multi Dimensional K-anonymity[EB/OL].[2014-02-10].http//www.cs.wisc.edu/-lefevre/Research.htm.

[2] Sweeney L.K-anonymity:A Modelfor Protecting Privacy[J].International Journal of Uncertainty, Fuzziness and Knowledge-based Systems,2002,10(5): 557-570.

[3] Sweeney L.Achieving k-anonymity Privacy Protection Using Generalization and Suppression[J].International Journal of Uncertainty,Fuzziness,and Knowledge-based Systems,2002,10(5):571-588.

[4] 吳溥峰,張玉清.數(shù)據(jù)庫安全綜述[J].計(jì)算機(jī)工程, 2006,32(12):85-88.

[5] Machanavajjhala A,Gehrke J,KiferD.l-diversity: Privacy Beyond K-anonymity[EB/OL].[2014-02-10]. http://www.cs.cornel.ledu/_mvnak.

[6] 邱保志,許 敏.無參數(shù)聚類邊界檢測算法的研究[J].計(jì)算機(jī)工程,2011,37(15):23-26.

[7] 萬 濤,劉國華.K-匿名數(shù)據(jù)中的數(shù)據(jù)依賴問題研究[J].計(jì)算機(jī)工程,2012,38(20):38-40.

[8] 羅紅薇,劉國華.保護(hù)隱私的(L,K)-匿名[J].計(jì)算機(jī)應(yīng)用研究,2008,25(2):526-528.

[9] 韓建民,于 娟虞慧群,等.面向數(shù)值型敏感屬性的分級l-多樣性模型[J].計(jì)算機(jī)研究與發(fā)展,2011, 48(1):147-158.

[10] 徐義峰,陳春明 徐云青.一種改進(jìn)的K-均值聚類算法[J].計(jì)算機(jī)應(yīng)用與軟件,2008,25(3):275-277.

[11] 傅鶴崗,曾 凱.多維敏感k-匿名隱私保護(hù)模型[J].計(jì)算機(jī)工程,2012,38(3):145-147.

[12] Lefevre K,Dewittd J,Ramakrishnan R.Incognito: Efficient Full-domain k-anonymity[C]//Proceedings of 2005ACM SIGMOD InternationalConferenceon Management of Data.New York,USA:ACM Press, 2005:49-60.

編輯 金胡考

Efficient(K,L)-anonymous Privacy Protection Based on Clustering

CHAI Ruimin,FENG Huihui
(School of Electronic and Information Engineering,Liaoning Technical University,Huludao 125105,China)

In order to prevent sensitive information leakage in the release data,this paper puts forward a kind of anonymous protection algorithm based on clustering.It takes the overlooked influnces of identifier to sensitive attributes into account,clusters the sensitive attribute of data,and makes the modified k-means clustering algorithm apply to this step,to make the data more similar in class.It uses(K,L)-anonymous method for tables which being published, considering of sensitive attribute in the equivalence class,and puts forward the effective methods for privacy protection. Experimental results show that the proposed model has good effect of privacy protection,compared with the traditional K-anonymous methods,it can achieve privacy protection,at the same time,reduce the loss of data information,make the data have a higher accuracy,and the executive time is shorter.

(K,L)-anonymous;sensitive attribute;privacy protection;information loss;clustering;K-means algorithm

1000-3428(2015)01-0139-04

A

TP309

10.3969/j.issn.1000-3428.2015.01.026

柴瑞敏(1969-),女,副教授、碩士,主研方向:信息安全,數(shù)據(jù)庫技術(shù),數(shù)據(jù)挖掘;馮慧慧,碩士研究生。

2014-03-10

2014-05-09 E-mail:656248970@qq.com

中文引用格式:柴瑞敏,馮慧慧.基于聚類的高效(K,L)-匿名隱私保護(hù)[J].計(jì)算機(jī)工程,2015,41(1):139-142.

英文引用格式:Chai Ruimin,Feng Huihui.Efficient(K,L)-anonymous Privacy Protection Based on Clustering[J]. Computer Engineering,2015,41(1):139-142.