基于關(guān)聯(lián)熵系數(shù)的粗糙Vague集相似性度量方法

張倩倩，馬媛媛，徐久成

（1. 河南師范大學(xué) 計(jì)算機(jī)與信息工程學(xué)院，河南 新鄉(xiāng) 453007; 2. “智慧商務(wù)與物聯(lián)網(wǎng)技術(shù)”河南省工程實(shí)驗(yàn)室，河南 新鄉(xiāng) 453007; 3. 河南省高校計(jì)算智能與數(shù)據(jù)挖掘工程技術(shù)研究中心，河南 新鄉(xiāng) 453007）

作為一種有效的知識(shí)表示和處理工具，粗糙集理論[1]的主要思想是在保持分類能力不變的前提下，通過引入上近似和下近似等概念來刻畫知識(shí)的不確定性和模糊性。Vague集[2]是在模糊集基礎(chǔ)上發(fā)展起來的新型理論，與模糊集相比，該理論能同時(shí)表達(dá)支持和反對(duì)的證據(jù)，更加符合人類的直覺，在模式識(shí)別、人工智能、故障診斷等領(lǐng)域的應(yīng)用已取得了顯著效果[3-4]。Atanassov于1986年提出的直覺模糊集[5]理論同時(shí)考慮了對(duì)象的隸屬度、非隸屬度和猶豫度3個(gè)方面的信息，其實(shí)，Bustince等[6]已經(jīng)證明，Vague集和直覺模糊集在定義上是等同的，在本質(zhì)上是一致的。目前，有很多學(xué)者對(duì)粗糙集理論和Vague集理論[7-13]相互融合問題做了大量研究。我們后面的研究內(nèi)容，將不對(duì)Vague集和直覺模糊集的描述方式作區(qū)分，在此統(tǒng)稱為Vague集。

在模糊集、Vague集及粗糙Vague集理論研究中，相似性度量都是研究重點(diǎn)，它是模糊聚類、模式識(shí)別、近似推理等理論研究的基礎(chǔ)[14-16]。權(quán)雙燕等[17]研究了Vague集的偏熵、關(guān)聯(lián)熵和關(guān)聯(lián)熵系數(shù)，將其應(yīng)用于Vague集相似性度量；魏萊等[18]將關(guān)聯(lián)熵和關(guān)聯(lián)熵系數(shù)引入粗糙模糊集，為考慮某種分類知識(shí)R下度量模糊集合之間的相似性程度提供了一種新方法。上述方法僅限于模糊集、Vague集和粗糙模糊集的研究范疇，具有一定的局限性。粗糙Vague集模型是粗糙集和Vauge集相互融合的理論方法，適用于處理現(xiàn)實(shí)世界中兼具不可分辨性和模糊性概念的問題。Namburu等[19]提出了廣義粗糙直覺模糊c均值聚類算法，用于腦磁諧振圖像分割；Liu等[20]通過直覺模糊相似性度量定義了沖突距離測(cè)量方法，用于解決現(xiàn)實(shí)生活中的沖突問題。為了有效度量粗糙Vague集模型的相似性，本文將關(guān)聯(lián)熵、關(guān)聯(lián)熵系數(shù)的應(yīng)用領(lǐng)域進(jìn)一步推廣，為粗糙Vague集相似性度量及模式識(shí)別提供一種新的思路和方法。最后給出的實(shí)例證明，在知識(shí)對(duì)象具有不可分辨關(guān)系的背景下，對(duì)Vague集對(duì)象進(jìn)行聚類分析時(shí)，應(yīng)用粗糙Vague集的關(guān)聯(lián)熵系數(shù)進(jìn)行相似性度量更具合理性。

1 粗糙Vague集理論基礎(chǔ)

定義1[2]設(shè)論域?yàn)橐粋€(gè)對(duì)象空間，元素xi()是所討論的對(duì)象。U上一Vague集A用一個(gè)真隸屬函數(shù)tA和一個(gè)假隸屬函數(shù)fA表示：，。其中tA(xi)是由支持xi的證據(jù)所導(dǎo)出的xi隸屬度的下界，fA(xi)則是由反對(duì)xi的證據(jù)所導(dǎo)出xi的否定隸屬度下界，且。元素xi的隸屬度被區(qū)間[0, 1]的一個(gè)子區(qū)間[tA(xi), 1–fA(xi)]所界定，稱該區(qū)間為xi在A中的Vague值。

定義2[17]假定論域上一Vague集A，我們稱為Vague集A的熵。

一個(gè)Vague集的熵E同時(shí)表征了該Vague集的模糊正熵和模糊負(fù)熵，在定義2中，按慣例規(guī)定 0·ln 0=0，ln 0= –∞。在此定義的 Vague集 A 的熵刻畫了論域U中元素xi與Vague集A之間關(guān)系的不確定性程度，E越大，我們對(duì)x與A的關(guān)系了解得越少。

定義3[17]設(shè)A, B是論域U中任意兩個(gè)Vague集，則A關(guān)于B的偏熵定義為

式中B稱為基準(zhǔn)集。

與Vague集的熵定義類似，偏熵EB(A)也是Vague集A的不確定性程度的一種度量。

定義4[17]兩個(gè)Vague集A與B之間的關(guān)聯(lián)熵定義為它們的偏熵之和，即

顯然 E(A; B)關(guān)于 tA(xi)、tB(xi)和 fA(xi)、fB(xi)是對(duì)稱的，而且是非負(fù)的。關(guān)于Vague集的關(guān)聯(lián)熵的相關(guān)性質(zhì)證明過程請(qǐng)參考文獻(xiàn)[17]。

作為處理不確定信息的兩種工具，Vague集理論的出發(fā)點(diǎn)在于描述和解決概念內(nèi)涵的模糊性和人們對(duì)概念認(rèn)識(shí)不精確性的問題，粗糙集理論則側(cè)重于知識(shí)對(duì)象不可分辨性的不確定性問題的研究。當(dāng)人們所面對(duì)的問題兼具這兩方面的不確定性時(shí)，即概念不但是模糊的，而且是不可分辨的，此時(shí)，需要將粗糙集理論和Vague集理論相互融合，研究粗糙Vauge集[7-8]的理論、方法及其不確定性度量，以彌補(bǔ)它們單獨(dú)在處理實(shí)際問題時(shí)的不足。

定義5[21]設(shè)為一論域，R是U上的等價(jià)關(guān)系，V是U上一Vague集，，由R和V構(gòu)成的粗糙Vague集(RV sets)定義如下：

式中：[x]R表示包含元素x∈U的R等價(jià)類，則上下近似Vague集表示為

定義6[21]設(shè)是給定論域U上的粗糙Vague集，x∈U，定義：

2 粗糙Vague集的偏熵

定義7 設(shè)S=(U, R)為一近似空間，U為論域，R為U上一等價(jià)關(guān)系，RVA, RVB是其上的兩個(gè)粗糙Vague集，定義RVA關(guān)于RVB的偏熵為

如果將RVB看作一個(gè)基準(zhǔn)粗糙Vague集，那么RVA關(guān)于RVB的偏熵表示了粗糙Vague集RVA的一個(gè)不確定性程度，它分別考慮了RVA上近似、RVA下近似的不確定性程度。

下面給出粗糙Vague集RVA關(guān)于粗糙Vague集RVB的偏熵具有的性質(zhì)。

性質(zhì)1(非負(fù)性) 設(shè)S=(U, R)為一近似空間，RVA、RVB是其上的兩個(gè)粗糙Vague集，則有。

性質(zhì)3 設(shè)S=(U, R)為一近似空間，RVA、RVB是其上的兩個(gè)粗糙Vague集，則有：

這些性質(zhì)根據(jù)定義很容易證明，在這里不再贅述。

3 粗糙Vague集的關(guān)聯(lián)熵系數(shù)及相似性度量方法

定義8 粗糙Vague集RVA、RVB的關(guān)聯(lián)熵同時(shí)考慮到兩個(gè)粗糙Vague集的上近似與下近似并且定義為它們的偏熵之和，即

顯然，從定義7可以看出，粗糙Vague集的關(guān)聯(lián)熵系數(shù)E(RVA; RVB)是對(duì)稱的，而且是非負(fù)的，即有如下性質(zhì)：

性質(zhì)5 RVA、RVB是粗糙Vague集，則有

在此，需要分4種情況進(jìn)行討論：

其他3種情況證明類似。

定義9 粗糙Vague集RVA、RVB的關(guān)聯(lián)熵系數(shù)定義為

為了進(jìn)一步利用關(guān)聯(lián)熵系數(shù)來度量粗糙Vague集的相似性，下面我們先給出粗糙Vague集相似度的定義。

定義10 設(shè)論域U是一個(gè)非空集合，R是U上的一個(gè)等價(jià)關(guān)系，A、B是U上兩個(gè)Vague集，由R和A、B構(gòu)成的粗糙Vague集分別為RVA和RVB，其中，，如果M(RVA, RVB)滿足性質(zhì)：

1) 0 ≤ M(RVA, RVB) ≤ 1；

2) 如果 RVA= RVB，則 M(RVA, RVB) = 1；

3) M(RVA, RVB) = M(RVB, RVA)，

則稱M(RVA, RVB)為粗糙Vague集RVA與RVB的相似度。

顯然，粗糙Vague集RVA、RVB的關(guān)聯(lián)熵系數(shù)ρ(RVA; RVB)是對(duì)稱的，而且是非負(fù)的，即粗糙Vague集的關(guān)聯(lián)熵系數(shù)具有如下性質(zhì)：

證明 由定義6可知，當(dāng)RVA=RVB時(shí)，有，；且，，所以根據(jù)粗糙Vague集關(guān)聯(lián)熵定義即有ρ(RVA; RVB)=1。

從性質(zhì)6和性質(zhì)7可以看出，粗糙Vague集的關(guān)聯(lián)熵系數(shù)ρ(RVA; RVB)滿足定義10中粗糙Vague集相似度的定義。

性質(zhì)7 RVA, RVB是任意的粗糙Vague集，則有；當(dāng)且僅當(dāng)RVA=RVB時(shí)，ρ(RVA; RVB)=1。

與Fuzzy集、粗糙模糊集的關(guān)聯(lián)熵系數(shù)類似，在定義9中粗糙Vague集RVA、RVB的關(guān)聯(lián)熵系數(shù)的定義中，是對(duì)兩個(gè)粗糙Vague集RVA, RVB上近似相似程度的度量，是對(duì)兩個(gè)粗糙Vague集RVA、RVB下近似相似性度量。為了有效度量兩個(gè)粗糙Vague集間的相似性，關(guān)聯(lián)熵系數(shù)ρ(RVA; RVB)同時(shí)考慮了上、下近似相似性程度，具有一定的合理性。

證明方法同性質(zhì)5的證明類似，這里不再贅述。

粗糙Vague集是針對(duì)現(xiàn)實(shí)世界中所研究對(duì)象兼具模糊性和不可分辨性特點(diǎn)的新的理論方法，研究粗糙Vague集的關(guān)聯(lián)熵和關(guān)聯(lián)熵系數(shù)可為粗糙Vague集相似性度量提供一種新思路。

4 實(shí)例分析與比較

對(duì)于每個(gè)對(duì)象Vague取值的依據(jù)，這里暫不做討論，有時(shí)候是憑借專家經(jīng)驗(yàn)。由粗糙Vague集的定義可知，論域U上的兩個(gè)Vague集A、B在不分明關(guān)系R上的下、上近似Vague集分別為：

式中：gi分別代表論域U上的對(duì)象在等價(jià)關(guān)系R下的等價(jià)類。這樣，，分別為等價(jià)關(guān)系R下的兩個(gè)粗糙Vague集。

由粗糙Vague集關(guān)聯(lián)熵系數(shù)的定義，經(jīng)計(jì)算可得：

則RVA和RVB的關(guān)聯(lián)熵系數(shù)，即在論域U中知識(shí)具有不可分辨關(guān)系的背景下，兩個(gè)Vague集A和B具有極高的相似度，難以區(qū)分。

同樣可以計(jì)算，若不考慮知識(shí)背景R時(shí)，Vauge集A和Vague集B的關(guān)聯(lián)熵系數(shù)ρ(VA; VB) = 0.84，則在模式識(shí)別或者聚類分析應(yīng)用領(lǐng)域，若研究對(duì)象空間的粒度很細(xì)，即所研究對(duì)象可精確分辨的背景下，Vague集A和B相對(duì)容易區(qū)分。

為了進(jìn)一步說明問題，下面和文獻(xiàn)[22-23]中有關(guān)直覺模糊集相似度在模式識(shí)別方面的應(yīng)用來做對(duì)比分析。

例2 設(shè)有3個(gè)已知模式P1、P2與P3，分別被標(biāo)注為 C1、C2與 C3類。3個(gè)模式 P1、P2與 P3是定義在論域U ={x1, x2, x3, x4}上的直覺模糊集。在此，我們將此例中的直覺模糊集用Vague集的形式表示，則有：

為了知道Q被劃分到C1、C2與C3的哪一個(gè)類，需要分別計(jì)算Q與3個(gè)已知模式P1、P2與P3的相似度。

在例2中，可以認(rèn)為是最細(xì)粒度的粗糙Vague集，即每個(gè)對(duì)象xi都是可區(qū)分的。因此，只需要分別計(jì)算Q與P1、P2、P3的關(guān)聯(lián)熵系數(shù)即可。由定義 9 計(jì)算得知 ρ(P1; Q) = 0.96，ρ(P2; Q) = 0.97，ρ(P3; Q)=0.79。

其中，在計(jì)算ρ(P3; Q)過程中，由于P3在x2上的假隸屬度fx=0，因此在計(jì)算中使用了一個(gè)較小的數(shù)，這里用0.01來替換，得出P3與Q的關(guān)聯(lián)熵系數(shù)為0.79。如果用來替換的數(shù)值更小，關(guān)聯(lián)熵系數(shù)越小。因此，使用關(guān)聯(lián)熵系數(shù)來度量Vague集的相似度時(shí)，將Q識(shí)別為C2類，得到了和文獻(xiàn)[23]一致的結(jié)論。此外，Q與C1類之間的相似度和Q與C2類之間的相似度差別較小，這就是為什么在文獻(xiàn)[23]中，會(huì)出現(xiàn)采用某些度量方法將Q識(shí)別為C1類，有些度量方法將Q識(shí)別為C2類。

可見，文中采用關(guān)聯(lián)熵系數(shù)來度量粗糙Vague集相似度的方法，是Vague集相似度度量方法的推廣。當(dāng)Vague集中對(duì)象之間完全可區(qū)分時(shí)，即可用來度量兩個(gè)Vague集的相似度；當(dāng)Vague集中對(duì)象之間具有不可分辨關(guān)系時(shí)，即可用關(guān)聯(lián)熵系數(shù)來度量粗糙Vague集的相似度，此時(shí)，需要同時(shí)考慮上近似和下近似的相似程度。

5 結(jié)束語

若考慮一定的知識(shí)背景，即所研究對(duì)象在某種程度上不可分辨時(shí)，單純度量模糊集或者Vague集之間相似性的度量方法具有一定的局限性。有學(xué)者通過引入粗糙模糊集的關(guān)聯(lián)熵系數(shù)，用于度量粗糙模糊集的相似性程度就比較合理。當(dāng)實(shí)際應(yīng)用中所面對(duì)的研究對(duì)象為更符合人類直覺的Vague集時(shí)，本文提出了基于關(guān)聯(lián)熵系數(shù)的粗糙Vague集模型相似性度量方法，并通過實(shí)例驗(yàn)證了方法的有效性，為粗糙Vague集的相似性度量提供一種新思路。在以后的研究中，將進(jìn)一步討論粗糙Vague集相似性度量方法在真實(shí)數(shù)據(jù)集上的相關(guān)應(yīng)用，為Vague集聚類分析、模式識(shí)別和大數(shù)據(jù)挖掘提供理論基礎(chǔ)。