基于多通道卷積神經(jīng)網(wǎng)絡(luò)的非結(jié)構(gòu)化數(shù)據(jù)標(biāo)注

米啟超，趙紅梅，林麗萍

(1. 河南城建學(xué)院電氣與控制工程學(xué)院，河南 平頂 467036；2. 西安交通大學(xué)化工學(xué)院，山西 西安 710049)

1 引言

早期的數(shù)據(jù)標(biāo)注工作中，所標(biāo)注的數(shù)據(jù)通常由相關(guān)領(lǐng)域內(nèi)的專家，或使用計算機進行標(biāo)注。雖然可以保證標(biāo)注質(zhì)量，但往往效率低下，延誤研究，同時成本較高[1-2]。眾包模式下，大任務(wù)較為復(fù)雜，通過拆分成小任務(wù)的方式降低復(fù)雜度，依據(jù)互聯(lián)網(wǎng)接口，網(wǎng)絡(luò)用戶得以使用，通過零散時間即可完成小任務(wù)，獲取報酬。眾包模式可以充分體現(xiàn)群眾智慧，潛能巨大，具有較為重要的商業(yè)價值，利用群體智慧，解決社會資源冗余問題。

基于此原因，提出了眾包標(biāo)注方法，該方法通過較高的任務(wù)開放性，提高了標(biāo)注速度，并降低了成本[3-5]。但該方法標(biāo)注質(zhì)量較低，需要依賴算法和函數(shù)來添加眾表標(biāo)注的標(biāo)簽，來改善標(biāo)注數(shù)據(jù)的質(zhì)量，需要確定標(biāo)注中的任務(wù)函數(shù)，并建立相關(guān)模型。早期研究者采用EM算法，對標(biāo)注者進行混淆矩陣計算，后續(xù)又采取了RY真值推斷算法，并利用其中的敏感性參數(shù)來提高標(biāo)注任務(wù)函數(shù)的準(zhǔn)確度[6-8]。但該方法無法具體的體現(xiàn)出標(biāo)注者的差異性，獲取的標(biāo)注函數(shù)可靠性不高。而考慮到標(biāo)注者的特性和差異性問題，運用多通道卷積神經(jīng)網(wǎng)絡(luò)技術(shù)，可以對其進行深入的運算，具有較高的研究前景。

2 基于多通道卷積神經(jīng)網(wǎng)絡(luò)的非結(jié)構(gòu)化數(shù)據(jù)標(biāo)注方法設(shè)計

2.1 非結(jié)構(gòu)化數(shù)據(jù)查詢處理

在進行標(biāo)注之前，需要對所需標(biāo)注的數(shù)據(jù)進行確認查詢處理，確定與被標(biāo)注數(shù)據(jù)的關(guān)聯(lián)數(shù)據(jù)，避免出現(xiàn)漏標(biāo)或錯標(biāo)[9-10]。在進行非結(jié)構(gòu)化的數(shù)據(jù)查詢處理中，采用Hive分布式查詢框架進行數(shù)據(jù)查詢處理。框架結(jié)構(gòu)如圖1所示。

圖1 Hive查詢框架結(jié)構(gòu)示意圖

如圖1所示，圖一中Driver模塊對非結(jié)構(gòu)化數(shù)據(jù)進行編譯，并優(yōu)化其中的執(zhí)行語句。而Compiler模塊由Driver模塊進行控制和調(diào)用，并將獲取到執(zhí)行語句轉(zhuǎn)為MapReduce執(zhí)行策略，轉(zhuǎn)換完成后傳輸回Driver模塊中。而Hadoop模塊作為策略的執(zhí)行引擎，通過Dricver將從MapReduce策略數(shù)據(jù)導(dǎo)入至Hadoop中，并進行查詢。并設(shè)置Compiler將獲取到的數(shù)據(jù)轉(zhuǎn)換至一組一元操作符，并獲取到抽象語法樹，然后利用框架中的Semantic Analyzer對語法書中數(shù)據(jù)進行語法分析。同時利用相似性檢索技術(shù)進行查詢，通過給定的元素(在本文中，該元素為需要進行標(biāo)注的數(shù)據(jù))，并尋找其中相似的元素，數(shù)據(jù)集設(shè)為A而查詢元素則設(shè)為s，相似性檢索即為

SS(A，s)={a|θs(a，b)，a∈A}

(1)

其中，不同集合下的相似度計算則如下所示

(2)

其中SimJaccard(S，T)的結(jié)果代表集合S以及集合T的相似度，|S∩T|代表集合S與集合T之間的交集，|S∩T|則代表集合S與集合T之間的并集。通過對其中標(biāo)注數(shù)據(jù)相似度的查詢，確定標(biāo)注數(shù)據(jù)有關(guān)信息，利于開展進一步的標(biāo)注。

2.2 眾包標(biāo)注集

(3)

(4)

通過式(4)可以將標(biāo)注任務(wù)形式化，但通過該方法后，標(biāo)注時對標(biāo)注者沒有體現(xiàn)出差異性，因此需要對其進行進一步的推算。

2.3 多通道卷積神經(jīng)網(wǎng)絡(luò)差異性識別

利用多通道卷積神經(jīng)網(wǎng)絡(luò)對其中的神經(jīng)元結(jié)構(gòu)帶入標(biāo)注任務(wù)和標(biāo)注者，并得出其中的最適應(yīng)標(biāo)注任務(wù)分配，同時給出不同標(biāo)注者的差異性[11-12]。根據(jù)卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，得到網(wǎng)絡(luò)輸出公式h，公式為

(5)

在式(5)中，xi代表神經(jīng)元中的第i個輸入，wi代表在神經(jīng)元中的第i個輸入權(quán)重，b代表偏置值，f代表神經(jīng)元激活函數(shù)，h代表輸出公式。當(dāng)其中的WTx的結(jié)果作為線性結(jié)果，同時其中的激活函數(shù)引入了WTx的結(jié)果映射。而在多通道的卷積神經(jīng)元網(wǎng)絡(luò)中，假設(shè)其中網(wǎng)絡(luò)的輸入值為x，網(wǎng)絡(luò)中的權(quán)值矩陣為w以及偏置矩陣則為b，輸出為hw，b，在網(wǎng)絡(luò)進行反向傳播中，將網(wǎng)絡(luò)中的期望輸出值設(shè)為y(x)。所訓(xùn)練的樣本個數(shù)為n，根據(jù)網(wǎng)絡(luò)反向傳播理論，在反向傳播中會出現(xiàn)損失函數(shù)，本文將損失函數(shù)設(shè)為E，則損失函數(shù)在神經(jīng)網(wǎng)絡(luò)中的平方誤差為

(6)

而在網(wǎng)絡(luò)的訓(xùn)練中，需要首先對其中的權(quán)重值w以及偏置值b進行初始化。而在訓(xùn)練中，由于選取了反向傳播來帶入標(biāo)注指示函數(shù)，并對神經(jīng)網(wǎng)絡(luò)中的參數(shù)進行更新，而在該過程中，網(wǎng)絡(luò)呈梯度下降的過程，如下圖所示：

圖2 神經(jīng)網(wǎng)絡(luò)中的梯度下降圖

根據(jù)在多通道卷積神經(jīng)網(wǎng)絡(luò)的梯度下降理論，可以根據(jù)梯度下降方向得出的神經(jīng)網(wǎng)絡(luò)的權(quán)重值w以及偏置值b，并更新得出的w以及b值。獲得的更新公式如下

(7)

(8)

2.4 任務(wù)標(biāo)注模型

(9)

在(9)中αk系數(shù)代表標(biāo)注值能力的系數(shù)，βi系數(shù)代表標(biāo)注任務(wù)的難度，而當(dāng)其中的βi參數(shù)為固定參數(shù)，而αk數(shù)值越大則反映標(biāo)注者的標(biāo)注能力越好。而當(dāng)αk數(shù)值為0時，說明該任務(wù)里，標(biāo)注者的正確標(biāo)注概率僅為50%。而通過將雙標(biāo)簽任務(wù)擴展到多標(biāo)簽任務(wù)標(biāo)注中時，首先假設(shè)一共存在J種標(biāo)注類型，并建立標(biāo)注集合C={cj|j=1，2，3，…，J}來表示，而當(dāng)標(biāo)注目標(biāo)i的標(biāo)注真值為m時，則該標(biāo)注者k的標(biāo)注正確率為

(10)

(11)

在式(11)中，存在的隱變量T的和對數(shù)，運用Q函數(shù)，而在累加形式下，表示出期望狀態(tài)，代表了完全數(shù)據(jù)下的標(biāo)注似然函數(shù)InP(V，T|θ)，而其中的觀測數(shù)據(jù)V在對估計參數(shù)θn下的為觀測數(shù)據(jù)T的后驗概率分布P(T|V，θn)的期望值

(12)

由此得出在(12)中，算法的迭代過程等價與Q(θ，θn)函數(shù)。借由此得出標(biāo)注函數(shù)的解值，根據(jù)解值，確定標(biāo)注模型參數(shù)，依據(jù)標(biāo)注模型完成數(shù)據(jù)標(biāo)注方法設(shè)計。

3 實驗論證分析

為了測試本文設(shè)計的非結(jié)構(gòu)化數(shù)據(jù)標(biāo)注方法的有效性，本文選取了Airfares、Music、Hotel以及Books等4個領(lǐng)域中的非結(jié)構(gòu)化數(shù)據(jù)，共160個WDB數(shù)據(jù)集，進行標(biāo)注統(tǒng)計分析。并與文獻[1]、文獻[2]中的標(biāo)注方法進行對比實驗。

表1 硬件配置表

3.1 實驗標(biāo)注數(shù)據(jù)

由于目前對非結(jié)構(gòu)化數(shù)據(jù)標(biāo)注方法缺乏相關(guān)的測試標(biāo)注設(shè)計，因此本文數(shù)據(jù)資源通過搜索引擎下載獲得，實驗中使用的數(shù)據(jù)集情況如下表2所示。

表2 實驗測試數(shù)據(jù)集

為了減低實驗困難程度，閾值標(biāo)注通過專家給定，黃金標(biāo)簽個數(shù)為1000個，經(jīng)過深度學(xué)習(xí)進行標(biāo)簽預(yù)處理操作，標(biāo)注對象個數(shù)為11270個，實驗共收集10名標(biāo)注者信息，判斷修改標(biāo)簽域與標(biāo)簽值。

3.2 實驗評價標(biāo)準(zhǔn)

在進行數(shù)據(jù)標(biāo)注中，標(biāo)注的基準(zhǔn)值是通過手工方式得出的數(shù)據(jù)標(biāo)注結(jié)果，并計算其中的標(biāo)注正確率、召回率以及F-measure數(shù)值來進行評價。

而標(biāo)注正確率代表正確標(biāo)注的數(shù)據(jù)塊個數(shù)以及經(jīng)過查詢得出的數(shù)據(jù)個數(shù)比值召回率代表在標(biāo)注時得到的正確標(biāo)注數(shù)據(jù)個數(shù)和查詢得到數(shù)據(jù)塊個數(shù)比值。而F-measure則代表標(biāo)準(zhǔn)的數(shù)據(jù)標(biāo)注能力評判值，數(shù)值越接近100%，代表性能越優(yōu)秀。本文實驗將運用上述中的三種指標(biāo)進行實驗結(jié)果評價。

3.3 實驗結(jié)果

在運用數(shù)據(jù)標(biāo)注方法實驗中使用的數(shù)據(jù)集分別進行數(shù)據(jù)標(biāo)注后，對獲得的標(biāo)注結(jié)果進行評價。獲得的標(biāo)注結(jié)果如表3所示。

表3 標(biāo)注方法間的性能比較表

依據(jù)表3中的數(shù)據(jù)中可以發(fā)現(xiàn)，本文設(shè)計的數(shù)據(jù)標(biāo)注方法在標(biāo)注的正確率、召回率以及F-measure上均高于其它標(biāo)注方法。證明本文設(shè)計的數(shù)據(jù)標(biāo)注方法存在較高的可行性。

為直觀判斷標(biāo)注效果，在對象標(biāo)注界面中，包括了標(biāo)注者當(dāng)前任務(wù)完成情況，當(dāng)前可選擇標(biāo)注的標(biāo)簽，以及待標(biāo)注的圖片，標(biāo)注者只需先選中標(biāo)簽，就可以在圖片中快速框選對象，并為對象打上此標(biāo)簽。 對象判斷任務(wù)中，用戶可以判斷此標(biāo)簽是否包含有效的對象。

圖3 標(biāo)注對象圖

邊框調(diào)整模塊可以對標(biāo)簽范圍框進行調(diào)整，將內(nèi)邊距較大的標(biāo)注范圍框調(diào)整為緊貼標(biāo)注對象，提高標(biāo)注質(zhì)量。

圖4展示了標(biāo)注者的標(biāo)注點分布，以及通過 原始聚類和本文卷積神經(jīng)網(wǎng)絡(luò)的聚類效果對比。

圖4 聚類算法效果圖

由上圖可以看出，本文方法聚類效果較好，標(biāo)注對象選中密度較大，傳統(tǒng)方法的標(biāo)簽域范圍較大。主要原因在于本文方法建立Hive分布式查詢框架，對其中與標(biāo)注目標(biāo)相關(guān)的數(shù)據(jù)進行相似性查找，同時建立眾包標(biāo)注集，確定相關(guān)標(biāo)注概念。對標(biāo)注集中的標(biāo)注差異性，利用多通道卷積神經(jīng)網(wǎng)絡(luò)對其差異性進行確認，提高了標(biāo)注準(zhǔn)去率。

4 結(jié)束語

在本文中，利用多通道卷積神經(jīng)網(wǎng)絡(luò)技術(shù)，對標(biāo)注者的差異性進行了深入挖掘，獲得了標(biāo)注任務(wù)函數(shù)，并根據(jù)函數(shù)建立了任務(wù)標(biāo)注模型，得出了非結(jié)構(gòu)化的數(shù)據(jù)標(biāo)注方法，該方法下標(biāo)注質(zhì)量較高性能較好。但本文研究中，只考慮了對標(biāo)注者給出的任務(wù)標(biāo)簽數(shù)據(jù)的情況，而在實際中，往往會提供額外的特征信息條件。因此后續(xù)的研究中，將會研究與額外的數(shù)據(jù)標(biāo)注信息進行結(jié)合，進一步改善數(shù)據(jù)標(biāo)注質(zhì)量。