基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法研究

黃素葉

（閩西職業(yè)技術(shù)學(xué)院 信息與制造學(xué)院，福建 龍巖 364021）

目前信息時代不斷發(fā)展，面對海量的數(shù)據(jù)信息，分類標(biāo)記成為一種應(yīng)用廣泛的數(shù)據(jù)挖掘技術(shù)［1］.該項技術(shù)的作用就是在數(shù)據(jù)被標(biāo)記后，通過標(biāo)簽?zāi)軌蚩焖俚孬@取需要的信息［2］.面對種類豐富且規(guī)模較大的數(shù)據(jù)時，分類標(biāo)記已經(jīng)無法滿足相關(guān)任務(wù)需求，必須進(jìn)行深入研究.

文獻(xiàn)［3］采用多層極限學(xué)習(xí)機自動編碼器，優(yōu)化輸入權(quán)重，提取電能質(zhì)量擾動信號特征，采用多標(biāo)簽排位分類算法，結(jié)合各標(biāo)簽相關(guān)性，實現(xiàn)電能質(zhì)量擾動分類，該算法具有較高的分類效率，但分類誤差較大.文獻(xiàn)［4］提出基于標(biāo)簽關(guān)聯(lián)性的多標(biāo)簽分類算法，建立多標(biāo)簽Scratch分類模型，提取Block使用特征，計算思維技能和復(fù)雜度分類特征，按照多標(biāo)簽之間關(guān)聯(lián)性，劃分標(biāo)簽子集，訓(xùn)練標(biāo)簽集子分類器，實現(xiàn)多標(biāo)簽分類，該算法的具有較強的適用性，但分類效果較差.針對上述問題，提出基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法研究，由于其具有迭代次數(shù)少并且數(shù)據(jù)收斂性較高的特點，被率先在電路優(yōu)化項目中，此后逐漸被應(yīng)用到數(shù)據(jù)標(biāo)記領(lǐng)域.

1 基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法研究

1.1 獲取多標(biāo)簽分類指標(biāo)

多標(biāo)簽分類主要是將待分類的文本歸檔到一個或多個標(biāo)簽中的過程.設(shè)定左側(cè)空間A中包含n個實例，右側(cè)標(biāo)簽空間B中包含q個類別標(biāo)簽，通過對應(yīng)的訓(xùn)練集得出標(biāo)簽結(jié)果，當(dāng)標(biāo)簽數(shù)量較多時，這個過程就是多標(biāo)簽分類［5］.多標(biāo)簽分類任務(wù)是建立在標(biāo)簽的基礎(chǔ)上，先考慮單個標(biāo)簽在所有樣本上的結(jié)果，然后選取平均值進(jìn)行標(biāo)簽分類［6-7］.由于標(biāo)簽類別不平衡存在正例和負(fù)例問題，因此選擇二分類損失焦點函數(shù)作為多標(biāo)簽分類指標(biāo)獲取的有效手段.公式如下：

其中，β與α為超參數(shù)，當(dāng)k=1時，表示標(biāo)簽類別為正例，k=0時，表示標(biāo)簽類型為負(fù)例.通常情況下，β表示損失函數(shù)更注重樣本數(shù)較少的正例樣本，α一般為大于0的正數(shù)，表示損失函數(shù)需重點處理難分類的樣本.假設(shè)兩個正例樣本經(jīng)過預(yù)測后的概率分別0.4和0.8，由于0.8的數(shù)值較大，因此更容易被分辨，融入系數(shù)α后，其損失前函數(shù)表示為0.2α；概率為0.4的樣本損失前系數(shù)為0.6α，根據(jù)指數(shù)為正的冪函數(shù)的單調(diào)遞增特性，得出概率較小的正例系數(shù)更大的結(jié)論［8-10］.k的數(shù)值越小，曲線越平滑，符合焦點損失函數(shù)特征，多標(biāo)簽分類指標(biāo)獲取完成.

1.2 提取聯(lián)合嵌入式多標(biāo)簽參數(shù)特征

根據(jù)多標(biāo)簽分類指標(biāo)，提取聯(lián)合嵌入式多標(biāo)簽參數(shù)特征，對標(biāo)簽空間B進(jìn)行聯(lián)合嵌入學(xué)習(xí)，采用矩陣分解的方式得到標(biāo)簽空間B的潛在表示項Q和對應(yīng)的解碼矩陣W，即：

其中，B表示標(biāo)簽空間，bgh指的是空間B中第g行第h列的元素，Pos（ug）表示（ug）包含的標(biāo)簽集合，經(jīng)過上述處理后，對實例空間A與標(biāo)簽空間B進(jìn)行緊密耦合，使二者在空間布局中具有最大相關(guān)性，具體計算公式為：

其中，Em∈Rns是指單位矩陣，ns表示潛在空間的維度，K表示聯(lián)合嵌入向量.對矩陣分解部分進(jìn)行參數(shù)優(yōu)化，以便后續(xù)進(jìn)行特征提取，表現(xiàn)為在對某個具體參數(shù)進(jìn)行優(yōu)化時，同時固定其它所有參數(shù)［11］.將公式（1）的損失函數(shù)的參數(shù)變量置0，則聯(lián)合嵌入式多標(biāo)簽參數(shù)可表達(dá)為：

其中，L和H空間維度，η表示多標(biāo)簽分類的學(xué)習(xí)速率，▽LΩ表示目標(biāo)函數(shù)Ω對權(quán)值矩陣L的梯度，▽H Ω表示的是目標(biāo)函數(shù)對權(quán)值矩陣H的梯度.經(jīng)過矩陣分解等步驟，完成對多標(biāo)簽參數(shù)特征的提取.

1.3 基于隱空間映射構(gòu)建分類算法

由于隱空間映射算法的映射關(guān)系在粗糙結(jié)構(gòu)中難以被分辨，因此，需要將粗糙結(jié)構(gòu)和空間映射關(guān)系融為一個整體，定義為替代結(jié)構(gòu)，針對替代結(jié)構(gòu)進(jìn)行呼叫即可得到響應(yīng)［12-13］.隱空間映射關(guān)系是通過對多標(biāo)簽參數(shù)的指標(biāo)和特征進(jìn)行提取并加以處理，以及對多標(biāo)簽參數(shù)進(jìn)行篩選優(yōu)化，保證粗糙結(jié)構(gòu)與精確結(jié)構(gòu)的響應(yīng)方式一致，在處理后的粗糙結(jié)構(gòu)中繼續(xù)優(yōu)化其他參數(shù)［14-15］.設(shè)定在第p次迭代過程中，將設(shè)定為第p次粗糙結(jié)構(gòu)的標(biāo)簽參數(shù)，將作為第p次優(yōu)化后滿足結(jié)果的粗糙結(jié)構(gòu)標(biāo)簽參數(shù)，x（p）表示第p次的預(yù)選參數(shù)量，因此，第p次粗糙結(jié)構(gòu)的響應(yīng)表示為，第p次迭代的目的是為了對標(biāo)參數(shù)xe、xa與x之間的映射關(guān)系S，具體表現(xiàn)為：

在公式（5）中，獲取x（p）的過程在隱空間算法中是參數(shù)處理的過程，則：

在滿足公式（6）的前提下，則下述公式成立：

根據(jù)公式（5）~（7），得出基于隱空間映多標(biāo)簽分類算法，先將參數(shù)x=0代入算法，如果不滿足條件，則對x+1進(jìn)行迭代計算，直到得出符合條件的參數(shù).將隱空間映射作為多標(biāo)簽分類算法的基礎(chǔ)，其主要思想是對原始標(biāo)簽參數(shù)進(jìn)行迭代計算，基于以上步驟，完成多標(biāo)簽分類算法構(gòu)建.

2 實驗研究

2.1 定位多標(biāo)簽坐標(biāo)

為了驗證基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法的有效性，在Intel（R）Core（TM）i3-2120 CPU @ 3.30 GHz，8.00 GB 內(nèi)存，32 位 Window 7 操作系統(tǒng)的電腦上運行，對多標(biāo)簽位置進(jìn)行定位，為進(jìn)行多標(biāo)簽分類效果測試提供數(shù)據(jù)基礎(chǔ).設(shè)定多標(biāo)簽組在基站的三維立體坐標(biāo)表示為（ai，bi，ci），由此得到基站i（i=1，2，3…）到基站m（m=1，2，3…）之間的水平距離di，m的表達(dá)公式為：

已知基站A的三維坐標(biāo)位置為（a1，b1，c1）、基站B的三維坐標(biāo)位置為（a2，b2，c2），把兩個基站內(nèi)的標(biāo)簽坐標(biāo)映射到二維水平面上，其坐標(biāo)分別表示為（a1，b1），（a2，b2）根據(jù)余弦定理公式進(jìn)行求解：

其中，si表示的是標(biāo)簽到基站A之間的水平距離，sm表示的標(biāo)簽到基站B的距離，di，m表示的是基站i到基站m之間的距離，待定位標(biāo)簽節(jié)點投影到基站A和基站B之間的所在直線，得到該標(biāo)簽的投影標(biāo)簽，該投影標(biāo)簽的坐標(biāo)在基站A和基站B的所在直線上，其坐標(biāo)表示為（a'，b'），得到待定標(biāo)簽的位置.

2.2 多標(biāo)簽分類測試

在此基礎(chǔ)上，隨機選取8、16組標(biāo)簽，分別采用文獻(xiàn)［3］算法、文獻(xiàn)［4］算法和本文算法，對比在不同條件下的多標(biāo)簽分類算法的分類效果.根據(jù)簡單條件下不同算法的多標(biāo)簽分類對比結(jié)果可看出，在簡單條件下一共有8組標(biāo)簽，本文算法能夠?qū)臻g內(nèi)的標(biāo)簽進(jìn)行有效分類，并且沒有丟失，而文獻(xiàn)［3］算法和文獻(xiàn)［4］算法都丟失了2組標(biāo)簽（見圖1）.

圖1 在簡單條件下不同算法的分類效果對比

根據(jù)復(fù)雜條件下不同算法的多標(biāo)簽分類對比結(jié)果可看出，在復(fù)雜條件下一共有16組標(biāo)簽，本文算法均對16組標(biāo)簽進(jìn)行了有效分類，而文獻(xiàn)［3］算法丟失了4組標(biāo)簽，文獻(xiàn)［4］算法丟失了5組標(biāo)簽，由此可知，該算法的分類效果較好（見圖2）.為了進(jìn)一步驗證本文算法的分類精度，將Hammningloss、MicroF1以及Accuracyde分類指標(biāo)作為8組標(biāo)簽的評價指標(biāo)，對比3種分類算法的分類誤差，誤差數(shù)值越小，表明分類精度越好，其對比結(jié)果見表1.

表1 不同分類指標(biāo)分類誤差對比結(jié)果

圖2 在復(fù)雜條件下不同算法的分類效果對比

由表1可知，本文算法的分類誤差值均小于文獻(xiàn)［3］算法和文獻(xiàn)［4］算法，由此可知，該算法的分類精度較高.

3 結(jié)語

筆者提出了基于隱空間映射的聯(lián)合嵌入式多標(biāo)簽分類算法，在一定程度上提高了聯(lián)合嵌入式多標(biāo)簽分類精度，確保了分類效果.但由于研究條件有限，此次設(shè)計的分類算法對稀疏標(biāo)簽的處理能力還有待提高.