• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于深度學(xué)習(xí)的文本情感分析并行化算法

    2019-07-11 07:09:16翟東海侯佳林劉月
    西南交通大學(xué)學(xué)報 2019年3期
    關(guān)鍵詞:數(shù)據(jù)量個數(shù)向量

    翟東海 ,侯佳林 ,劉月

    (西南交通大學(xué)信息科學(xué)與技術(shù)學(xué)院,四川 成都 611756)

    文本情感分析是利用計(jì)算機(jī)技術(shù)對“人們關(guān)于產(chǎn)品、服務(wù)、事件等實(shí)體的評論”等文本進(jìn)行分析處理以獲得其表達(dá)的主觀情感信息的過程.其主要包括:情感信息分類、情感信息抽取、情感分析技術(shù)應(yīng)用等[1-3].傳統(tǒng)的情感分析方法包括支持向量機(jī)、條件隨機(jī)場、信息熵等,且均采用詞袋模型.如文獻(xiàn)[4]采用SVM (support vector machine)對句子進(jìn)行情感識別及分類.但這種淺層模型在處理海量數(shù)據(jù)時通常存在著數(shù)據(jù)稀疏性以及數(shù)據(jù)維度高等問題.Geoffrey Hinton 等[5-6]于2006年提出的深度學(xué)習(xí)模型為解決這些問題提供了新思路.當(dāng)前,在文本情感分析任務(wù)上應(yīng)用較多的神經(jīng)網(wǎng)絡(luò)模型有卷積神經(jīng)網(wǎng)絡(luò)(CNN)、基于序列的模型(RNN)和樹型結(jié)構(gòu)模型(RAE)等.如文獻(xiàn)[7]采用CNN 進(jìn)行情感極性分類;文獻(xiàn)[8]采用雙向序列模型(BLSTM)進(jìn)行中文文本分類研究.因樹形結(jié)構(gòu)模型(如深度學(xué)習(xí)中的遞歸自編碼算法)在文本特征提取、情感分析中表現(xiàn)優(yōu)異,受到了學(xué)者們的廣泛關(guān)注,如文獻(xiàn)[9-11]都是遞歸自編碼算法的典型應(yīng)用范例.

    神經(jīng)網(wǎng)絡(luò)模型雖然能夠極大程度地學(xué)習(xí)到文本內(nèi)容所隱含的語義信息,顯著提高分類的準(zhǔn)確率,但深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練時耗時、收斂慢的問題也逐漸受到了研究者們的關(guān)注.文獻(xiàn)[12]通過開發(fā)新的計(jì)算框架DistBelief 來實(shí)現(xiàn)大規(guī)模神經(jīng)網(wǎng)絡(luò)的訓(xùn)練;文獻(xiàn)[13]中使用GPU 來訓(xùn)練深度玻爾茲曼機(jī),但GPU因受內(nèi)存所限,數(shù)據(jù)量大時效果也不太理想.

    隨著并行計(jì)算的興起,在處理大規(guī)模數(shù)據(jù)、復(fù)雜計(jì)算時,研究人員往往向其尋求幫助.Berkeley AMP lab 的Spark[14]、谷歌的TensorFlow[15]、微軟的Dryad[16]以及谷歌的MapReduce[17]都是該領(lǐng)域內(nèi)的佼佼者.而MapReduce 框架以其較強(qiáng)的可擴(kuò)展性、良好的可用性、較好的容錯能力,成為研究者關(guān)注的熱點(diǎn)[18].在諸多MapReduce 的實(shí)現(xiàn)中,Apache Hadoo 因良好的開源性深受業(yè)界青睞.因此,利用Apache Hadoop中的MapReduce 并行計(jì)算框架對神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化加速也吸引了諸多學(xué)者的研究興趣.神經(jīng)網(wǎng)絡(luò)的并行化加速是在分布式集群上,用多個集群節(jié)點(diǎn)同時對一個神經(jīng)網(wǎng)絡(luò)進(jìn)行并行化處理,以提高此網(wǎng)絡(luò)的訓(xùn)練速度.網(wǎng)絡(luò)的并行化方式分為兩種:節(jié)點(diǎn)并行化和數(shù)據(jù)并行化.但由于開發(fā)者對MapReduce 框架的底層實(shí)現(xiàn)并不清楚,因此開發(fā)者不能明確地將某項(xiàng)任務(wù)交由某個節(jié)點(diǎn)處理.且對海量數(shù)據(jù)集的節(jié)點(diǎn)并行化處理會使得I/O 開銷過大.因此,在MapReduce 框架中采用的是數(shù)據(jù)并行方式來加速網(wǎng)絡(luò)訓(xùn)練.文獻(xiàn)[19-21]皆是基于Hadoop 中的MapReduce 所做的不同并行化處理的例子,證明了利用MapReduce可以有效加快網(wǎng)絡(luò)訓(xùn)練速度,從而大大縮短神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時間.

    本文針對Socher 等提出的Semi-Supervised 文本情感分析算法[9],使用開源Hadoop 中的MapReduce并行框架提出并行優(yōu)化策略,綜合利用集群節(jié)點(diǎn)的計(jì)算資源,使其在處理大規(guī)模文本時更加高效.

    1 相關(guān)工作

    1.1 MapReduce

    Google 提出的MapReduce 以其優(yōu)越的整合計(jì)算節(jié)點(diǎn)的能力所著稱,此處對其做簡要介紹.MapReduce 采用“分而治之”的思想,通過主節(jié)點(diǎn)調(diào)度,將任務(wù)分配到其下的子節(jié)點(diǎn)中,并行處理后輸出最終結(jié)果.總的來說,MapReduce 是通過用戶編寫Map 函數(shù)和Reduce 函數(shù)來實(shí)現(xiàn)結(jié)果計(jì)算的,用戶只需關(guān)注這兩個函數(shù)的編寫,其他的問題,諸如容錯、負(fù)載均衡、調(diào)度都交給框架處理.在MapReduce中,一個任務(wù)首先被分成許多輸入鍵值對<kin,vin>,然后在Map 函數(shù)作用下生成中間結(jié)果<kmid,vmid>,這些中間結(jié)果存放于內(nèi)存之中.接著,這些中間結(jié)果將作為Reduce 函數(shù)的輸入,根據(jù)Reduce 中的用戶邏輯輸出最終結(jié)果<kout,vout>.其流程如圖1所示,圖中:M為數(shù)據(jù)存儲數(shù);m為中間結(jié)果鍵值對數(shù)目.

    圖1 MapReduce 工作流程Fig.1 Workflow chart of MapReduce

    1.2 Semi-Supervised RAE 文本情感分析

    1.2.1 用詞向量表示詞語

    不同于以往的詞袋模型[22],Semi-Supervised RAE用詞向量表示詞語并作為神經(jīng)網(wǎng)絡(luò)的輸入,如(0,1,0,0)表示“大學(xué)生”,(1,1,0,1)表示“教師”.若一個句子x含m個詞,則第k個詞為xk,1 ≤k≤m.將詞xk以標(biāo)準(zhǔn)正態(tài)分布的形式映射到n維實(shí)向量空間上,可表示為xk∈Rn.所有詞的詞向量存儲在一個詞嵌入矩陣L∈Rn×|V|中,V為詞匯表的大小.則xk的向量表示為

    式中:bk為一個維度為詞表大小、值為0 或1 的二值向量,除了第k個索引之外的所有位置都是0.

    1.2.2 有監(jiān)督遞歸自編碼

    在獲取句子的低維向量表示時,傳統(tǒng)的自編碼方法需要將句子的樹形結(jié)構(gòu)作為先驗(yàn)知識,這種編碼方法稱為有監(jiān)督遞歸自編碼.假設(shè)一個句子用向量表示為x= (x1,x2,···,xm),已知子節(jié)點(diǎn)c1、c2的輸入詞向量為x1、x2,則父節(jié)點(diǎn)pi的計(jì)算方法為

    式中:i=1 ,2,···;C= [c1;c2]表示c1、c2的詞向量拼接矩陣;f(·)為 網(wǎng)絡(luò)的激活函數(shù);wfi和bfi分別為計(jì)算父節(jié)點(diǎn)時的權(quán)重和偏置參數(shù).

    為了測試父節(jié)點(diǎn)對子節(jié)點(diǎn)的表示能力,在各父節(jié)點(diǎn)上添加其對應(yīng)子節(jié)點(diǎn)的重構(gòu)層(圖2),根據(jù)原始節(jié)點(diǎn)與重構(gòu)節(jié)點(diǎn)的差值來表示誤差.

    圖2 有監(jiān)督遞歸自編碼結(jié)構(gòu)Fig.2 Structure of supervised RAE

    重構(gòu)節(jié)點(diǎn)計(jì)算方法為

    式中:j=1 ,2,···;C′=[c′1;c′2]為c1、c2的重構(gòu)節(jié)點(diǎn)c′1、c′2的詞向量拼接矩陣;brj為偏置項(xiàng);wrj為權(quán)重參數(shù)矩陣.

    詞向量采用歐式距離計(jì)算重構(gòu)誤差,即

    1.2.3 無監(jiān)督遞歸自編碼

    通常情況下,句子的樹形結(jié)構(gòu)往往未知,這種需要自主學(xué)習(xí)樹形結(jié)構(gòu)的自編碼方法稱為無監(jiān)督遞歸自編碼.樹形結(jié)構(gòu)預(yù)測過程的優(yōu)化目標(biāo)函數(shù)為

    式中:Rθ(x)為句子x的最優(yōu)樹型結(jié)構(gòu)模型,θ為參數(shù)集;集合A(x)為句子x所有可能的樹形結(jié)構(gòu)集合;y為其中的一種結(jié)構(gòu);s為計(jì)算過程中非終端節(jié)點(diǎn)的三元結(jié)構(gòu)(由2 個子節(jié)點(diǎn)cs1、cs2和1 個父節(jié)點(diǎn)Ps組成);Cs=[cs1,cs2];T(y)為這種三元結(jié)構(gòu)的檢索函數(shù).

    不同詞語對句子整體含義的貢獻(xiàn)度不同,為了體現(xiàn)這種差異在計(jì)算重構(gòu)誤差時給不同的詞語賦予不同的權(quán)重,

    式中:n1、n2為當(dāng)前子節(jié)點(diǎn)c1、c2下面的詞數(shù).

    為了防止遞歸自編碼算法在不斷迭代減小重構(gòu)誤差時計(jì)算出的父節(jié)點(diǎn)過小,為后續(xù)計(jì)算造成不必要的麻煩,此處對式(2)進(jìn)行歸一化處理:

    1.2.4 半監(jiān)督遞歸自編碼

    得到句子的向量表示后,為計(jì)算整體語句的情感傾向,在網(wǎng)絡(luò)結(jié)構(gòu)上增加softmax(·)分類器:

    式中:l為當(dāng)前的情感種類;wl為參數(shù)矩陣.

    若有K種情感,則d∈RK,且分類層交叉熵誤差計(jì)算方法為

    式中:t為標(biāo)簽的分布;tk為第k種情感的標(biāo)簽分布;dk為條件概率,且

    因此,半監(jiān)督遞歸自編碼在數(shù)據(jù)集上的優(yōu)化目標(biāo)函數(shù)為

    式中:N為訓(xùn)練數(shù)據(jù)集大?。沪藶長2正則項(xiàng)系數(shù);

    并且,此時每個非終端節(jié)點(diǎn)的誤差變?yōu)橹貥?gòu)誤差與交叉熵誤差的加權(quán)和為

    式中:α為權(quán)衡重構(gòu)誤差和交叉熵誤差的調(diào)節(jié)參數(shù).

    采用L-BFGS (limited-memory Broyden-Fletcher-Goldfarb-Shanno)算法求解優(yōu)化目標(biāo)函數(shù)式(11)的最優(yōu)解,其中所用的梯度為

    式中:θ= {wfi,bfi,wrj,brj,wl,L}.

    2 Semi-Supervised RAE 模型的并行化

    在使用Semi-Supervised RAE 算法進(jìn)行文本情感分析時,往往需要先根據(jù)訓(xùn)練數(shù)據(jù)集,訓(xùn)練出較好的模型,然后再將此模型應(yīng)用于情感分析.因此,針對Semi-Supervised RAE 模型的并行化也將分為兩步:首先是針對大量訓(xùn)練數(shù)據(jù)集的并行化研究,當(dāng)模型訓(xùn)練好后,利用其并調(diào)用相應(yīng)的并行化算法,進(jìn)行測試數(shù)據(jù)集的文本情感分析.

    2.1 大量訓(xùn)練數(shù)據(jù)集情況下

    在Semi-Supervised RAE 的訓(xùn)練階段,通過貪心算法構(gòu)建句子的最優(yōu)樹結(jié)構(gòu)以獲得該語句的向量編碼,接著通過優(yōu)化目標(biāo)函數(shù)式(11)迭代得到最優(yōu)的參數(shù)集,為獲得最佳文本情感分析結(jié)果做好準(zhǔn)備.

    本文采用MapReduce 并行框架來加快訓(xùn)練速度以便解決原模型在大數(shù)據(jù)量的情況下訓(xùn)練時間過長的問題.首先對總的訓(xùn)練數(shù)據(jù)集進(jìn)行分塊,并將每一個數(shù)據(jù)塊分派給不同的Map 節(jié)點(diǎn).利用這些數(shù)據(jù)塊,Map 節(jié)點(diǎn)依次計(jì)算相應(yīng)數(shù)據(jù)塊中每一個句子x的最優(yōu)樹結(jié)構(gòu),并計(jì)算相應(yīng)句子的誤差,直至數(shù)據(jù)塊中所有語句誤差計(jì)算完畢并暫存在緩沖區(qū).Reduce階段,節(jié)點(diǎn)累加緩沖區(qū)的塊誤差來計(jì)算得到這個數(shù)據(jù)集的誤差和并利用L-BFGS 算法求出最優(yōu)參數(shù)集.算法整體流程如圖3所示.該算法的主要計(jì)算量集中于Map 階段,為了克服并行化后神經(jīng)網(wǎng)絡(luò)出現(xiàn)弱化現(xiàn)象[19],集群只設(shè)置了一個Reduce 節(jié)點(diǎn)如圖3所示,圖中Nt為訓(xùn)練數(shù)據(jù)集合塊數(shù).

    2.2 大量測試數(shù)據(jù)集情況下

    當(dāng)模型訓(xùn)練好后,本文針對測試數(shù)據(jù)集較大情況下測試結(jié)果輸出慢的特點(diǎn),也設(shè)計(jì)了相應(yīng)的并行化算法.首先,將測試數(shù)據(jù)集分塊,用訓(xùn)練階段得到的最優(yōu)參數(shù)集來初始化節(jié)點(diǎn).在Map 階段,求出每條語句的向量表示,并輸出到緩沖區(qū).在Reduce 階段,softmax(·)分類器利用每條語句的向量表示輸出句子ID 及其情感標(biāo)簽,算法流程如圖4所示,圖中,Nc為測試數(shù)據(jù)集合塊數(shù).

    圖3 大量訓(xùn)練集并行化算法Fig.3 Parallel Computing based on a big training dataset

    圖4 大量測試集并行化算法Fig.4 Parallel Computing based on a big test datasets

    3 實(shí)驗(yàn)結(jié)果與分析

    實(shí)驗(yàn)中用到的節(jié)點(diǎn)皆為AMD 雙核2.5 GHz 處理器,內(nèi)存4 GB.節(jié)點(diǎn)操作系統(tǒng)為Ubuntu14.04,Hadoop版本為1.0.2,Java 版本為1.6.0_33.此次實(shí)驗(yàn)中,詞向量選用100 維,算法最大迭代次數(shù)為1 000,權(quán)衡重構(gòu)誤差和交叉熵誤差的調(diào)節(jié)參數(shù)α設(shè)為0.2.

    為了克服現(xiàn)有的情感分析語料庫數(shù)據(jù)量較小[23-24]的問題,本文采用爬蟲程序從美國亞馬遜購物網(wǎng)站上抓取了12 萬條商品評論數(shù)據(jù),構(gòu)建了兩個語料庫AmazonCorpus2 和AmazonCorpus10,用以測試并行化后的加速效果.此外,Movie Reviews(MR)[25]數(shù)據(jù)集也用于本文實(shí)例驗(yàn)證中,以分析算法分類準(zhǔn)確率時與原算法作對比(如表1所示).

    表1 語料庫信息Tab.1 Corpus information

    根據(jù)商品質(zhì)量的優(yōu)劣,美國亞馬遜購物網(wǎng)站將用戶對商品的評分設(shè)置為1~5 級.為了便于情感分析與模型訓(xùn)練,在本文制作的語料庫中將1~5 級轉(zhuǎn)化為負(fù)面、中性、正面3 類評價,轉(zhuǎn)換規(guī)則如下:1~2 級評分為負(fù)面評價記為-1,3 級評分為中性評價記為0,4~5 級評分為正面評價記為1.

    MR 數(shù)據(jù)集僅被分為兩類,即正面評價記為1,和負(fù)面評價記為 -1.詳情如表2、3 所示.

    表2 AmazonCorpus 語料庫樣例Tab.2 Samples of the AmazonCorpus

    表3 MR 語料庫樣例Tab.3 Samples of the MR corpus

    3.1 算法分類精確度分析

    此處選用MR 和AmazonCorpus2 兩個語料庫,將并行化算法與原始模型及兩個在情感分析任務(wù)上應(yīng)用較為廣泛的baseline 模型——CNN 和BLSTM做精確度對比試驗(yàn).試驗(yàn)時,并行化訓(xùn)練算法的Map節(jié)點(diǎn)設(shè)為3,Reduce 節(jié)點(diǎn)為1,試驗(yàn)結(jié)果如表4所示.從表4中可看出,并行化算法和原始算法擁有幾乎相同的精確度(精確度 = 預(yù)測正確樣本量/樣本總量),均高于CNN 和BLSTM 模型,但并行化算法訓(xùn)練時間遠(yuǎn)小于其它算法的訓(xùn)練時間.這是因?yàn)镃NN雖然具有較強(qiáng)的捕獲局部特征的能力,但它忽略了文本的上下文語義及結(jié)構(gòu)特征,使得模型的訓(xùn)練效果容易收斂到局部最小值而非全局最小值.而BLSTM通過一個正向LSTM 和一個反向LSTM 來學(xué)習(xí)文本的上下文語義特征的同時引入了較多的冗余特征信息,這些冗余信息會影響模型的精確度;且LSTM 內(nèi)部的門結(jié)構(gòu)和記憶單元使得模型的時間復(fù)雜度較大.

    表4 算法精確度對比表Tab.4 Accuracy comparison of algorithms

    3.2 算法執(zhí)行效率分析

    對于并行化算法的執(zhí)行效率,此處分別針對并行化訓(xùn)練算法和并行化測試算法進(jìn)行分析.首先,用AmazonCorpus10 語料庫進(jìn)行并行化訓(xùn)練算法的仿真.集群節(jié)點(diǎn)個數(shù)分別為1、2 (1 個Mapper,1 個Reducer)、3 (2 個Mapper,1 個Reducer)、5 (4 個Mapper,1 個Reducer)、9 (8 個Mapper,1 個Reducer)、17(16 個Mapper,1 個Reducer),33 (32 個Mapper,1 個Reducer),節(jié)點(diǎn)個數(shù)為1 時,表示原始算法的訓(xùn)練;其余集群中Reduce 節(jié)點(diǎn)個數(shù)均為1.實(shí)驗(yàn)結(jié)果如圖5所示.

    圖5 不同節(jié)點(diǎn)并行化訓(xùn)練時間對比Fig.5 Parallel training time comparison among different nodes

    從圖5可得,當(dāng)集群中節(jié)點(diǎn)個數(shù)為2 時,并行化算法沒有原始算法效率高,其原因主要是節(jié)點(diǎn)初始化、任務(wù)調(diào)度及算法迭代時更新參數(shù)集均需要消耗一定量的時間.但隨著節(jié)點(diǎn)逐漸增多,耗時量幾乎線性下降,說明并行化算法效果良好.當(dāng)節(jié)點(diǎn)增加到9 個以后,耗時量下降變緩,說明訓(xùn)練時間受節(jié)點(diǎn)數(shù)量的制約開始減弱,此時算法瓶頸已不再為Map 節(jié)點(diǎn)個數(shù).

    其次,利用上述AmazonCorpus10 語料庫的訓(xùn)練得到的參數(shù)集來初始化“并行化測試算法”.測試集是在AmazonCorpus2 語料庫的基礎(chǔ)上,對其數(shù)據(jù)量作20、40、80、160 倍擴(kuò)展的大數(shù)據(jù)集,即本次測試的數(shù)據(jù)量為40、80、160、320 萬條語句.針對這些數(shù)據(jù),分別選擇1、3、4、6、10、18,34 個節(jié)點(diǎn)對其做并行化,其中節(jié)點(diǎn)個數(shù)為1 表示原始算法,其余集群中Reduce 節(jié)點(diǎn)個數(shù)均為2,實(shí)驗(yàn)結(jié)果如圖6所示.

    圖6 不同數(shù)據(jù)量測試時間對比Fig.6 Test time comparison among different data volumes

    從圖6可得出,當(dāng)數(shù)據(jù)量增大時,并行化測試算法可大大縮短數(shù)據(jù)集的執(zhí)行時間,如在語句數(shù)據(jù)量為40 萬條時,34 個節(jié)點(diǎn)所需執(zhí)行時間約是原始算法的1/10.但數(shù)據(jù)量較大時,增加Map 節(jié)點(diǎn)個數(shù),算法加速效果逐漸變?nèi)酰@種情況在語句數(shù)據(jù)量為320 萬條時較為明顯.通過對集群節(jié)點(diǎn)計(jì)算量分析可知,此時影響算法效率的主要因素是Reduce 節(jié)點(diǎn)個數(shù).

    為了進(jìn)一步探索Reduce 節(jié)點(diǎn)個數(shù)對加速效果的影響,此次在Map 節(jié)點(diǎn)為8、16、32 個時,通過增加Reduce 節(jié)點(diǎn)個數(shù),分別測量語句數(shù)據(jù)量為320、640、1 280 萬 條(AmazonCorpus2 語 料 庫 作160、320、640 倍擴(kuò)展)時的并行化算法加速效果.實(shí)驗(yàn)結(jié)果如圖7所示.

    從圖7、8、9 中可明顯得出,當(dāng)Map 節(jié)點(diǎn)達(dá)到一定量后,增加Reduce 節(jié)點(diǎn)個數(shù),可顯著提高算法執(zhí)行效率.如圖7中Map 節(jié)點(diǎn)為32 時,相同語句數(shù)據(jù)量Reduce 節(jié)點(diǎn)個數(shù)為5 時的測試時間約是2 時的一半,可見當(dāng)Map 節(jié)點(diǎn)足夠多時,適當(dāng)增加Reduce節(jié)點(diǎn)個數(shù)可以提高算法的執(zhí)行效率.

    圖8 640 萬條語句數(shù)據(jù)量加速效果對比Fig.8 Acceleration effect comparison on 6.4 million data

    圖9 1 280 萬條語句數(shù)據(jù)量加速效果對比Fig.9 Acceleration effect comparison on 12.8 million data

    4 結(jié)束語

    本文基于MapReduce 并行化可擴(kuò)展計(jì)算框架提出了半監(jiān)督遞歸自編碼文本情感分析模型的優(yōu)化算法:針對模型在大訓(xùn)練數(shù)據(jù)集上收斂速度緩慢的問題,本文優(yōu)化算法首先采用“分而治之”的思想對數(shù)據(jù)集做分塊處理后輸入Map 節(jié)點(diǎn)計(jì)算塊誤差,接著將塊誤差輸出到緩沖區(qū)中匯總,而Reduce 節(jié)點(diǎn)先利用塊誤差計(jì)算出優(yōu)化目標(biāo)函數(shù),然后調(diào)用LBFGS 算法更新模型參數(shù)集,迭代上述訓(xùn)練過程直至目標(biāo)函數(shù)收斂,從而得到模型最優(yōu)參數(shù)集;針對模型在大測試數(shù)據(jù)集上測試結(jié)果輸出緩慢的問題,本文優(yōu)化算法在利用最優(yōu)參數(shù)集初始化模型后,在Map 節(jié)點(diǎn)中計(jì)算出各句子的向量表示,并存儲于緩沖區(qū)中.然后Reduce 節(jié)點(diǎn)中的分類器利用緩沖區(qū)中的向量表示計(jì)算各語句的情感標(biāo)簽.從實(shí)驗(yàn)結(jié)果可得出,本文算法明顯提高了原始算法的運(yùn)行效率.然而本文算法也有不足之處,如在訓(xùn)練階段,并行化算法中Reduce 節(jié)點(diǎn)一次最多只能運(yùn)行一個,這將成為大規(guī)模并行訓(xùn)練時算法的瓶頸;在測試階段,當(dāng)數(shù)據(jù)量大時Reduce 節(jié)點(diǎn)個數(shù)的選擇也直接影響了算法的效率,此時急需一種有效的調(diào)節(jié)機(jī)制,能夠均衡當(dāng)前集群中的Reduce 節(jié)點(diǎn)個數(shù),以上這些都將成為今后進(jìn)一步研究的重點(diǎn).

    猜你喜歡
    數(shù)據(jù)量個數(shù)向量
    向量的分解
    怎樣數(shù)出小正方體的個數(shù)
    基于大數(shù)據(jù)量的初至層析成像算法優(yōu)化
    計(jì)算Lyapunov指數(shù)的模糊C均值聚類小數(shù)據(jù)量法
    聚焦“向量與三角”創(chuàng)新題
    高刷新率不容易顯示器需求與接口標(biāo)準(zhǔn)帶寬
    寬帶信號采集與大數(shù)據(jù)量傳輸系統(tǒng)設(shè)計(jì)與研究
    電子制作(2019年13期)2020-01-14 03:15:18
    等腰三角形個數(shù)探索
    怎樣數(shù)出小木塊的個數(shù)
    怎樣數(shù)出小正方體的個數(shù)
    18禁在线播放成人免费| 色哟哟哟哟哟哟| 亚洲久久久久久中文字幕| 亚洲久久久久久中文字幕| 99久久成人亚洲精品观看| 日韩一区二区视频免费看| 久久亚洲国产成人精品v| 免费av观看视频| 欧美不卡视频在线免费观看| 国产精品乱码一区二三区的特点| 日韩一区二区视频免费看| 亚洲精华国产精华液的使用体验 | 亚洲三级黄色毛片| 尾随美女入室| 国产成人freesex在线 | 国产美女午夜福利| 一本精品99久久精品77| 亚洲成av人片在线播放无| 亚洲国产高清在线一区二区三| 国产男靠女视频免费网站| 亚洲国产精品sss在线观看| 香蕉av资源在线| АⅤ资源中文在线天堂| 日韩强制内射视频| a级毛片a级免费在线| 少妇猛男粗大的猛烈进出视频 | 97人妻精品一区二区三区麻豆| 精华霜和精华液先用哪个| 精品一区二区免费观看| 哪里可以看免费的av片| 一夜夜www| 欧美成人a在线观看| 99在线视频只有这里精品首页| 欧美丝袜亚洲另类| 午夜福利成人在线免费观看| 天堂影院成人在线观看| 国产欧美日韩精品一区二区| 一个人看视频在线观看www免费| h日本视频在线播放| 成人av一区二区三区在线看| 深夜a级毛片| 日韩中字成人| 99久久中文字幕三级久久日本| 久久精品夜夜夜夜夜久久蜜豆| www日本黄色视频网| 亚洲av.av天堂| 国产一区二区激情短视频| 少妇裸体淫交视频免费看高清| 在线观看午夜福利视频| 别揉我奶头~嗯~啊~动态视频| 麻豆精品久久久久久蜜桃| 最近中文字幕高清免费大全6| 久久韩国三级中文字幕| 欧美色视频一区免费| 国产亚洲欧美98| 精品久久久久久久久久久久久| 可以在线观看毛片的网站| 高清午夜精品一区二区三区 | 中文字幕av成人在线电影| 少妇被粗大猛烈的视频| 91久久精品国产一区二区成人| 99久国产av精品| 黄色一级大片看看| 国产真实伦视频高清在线观看| 听说在线观看完整版免费高清| 中文字幕精品亚洲无线码一区| 日本一本二区三区精品| 大型黄色视频在线免费观看| 一个人免费在线观看电影| 成人鲁丝片一二三区免费| 亚洲性久久影院| 无遮挡黄片免费观看| 国产黄色小视频在线观看| 成人二区视频| av天堂中文字幕网| 精品久久久久久久久av| 日本黄色片子视频| 看免费成人av毛片| 99久久中文字幕三级久久日本| 国产亚洲av嫩草精品影院| 久久久a久久爽久久v久久| 人人妻人人看人人澡| 久久精品91蜜桃| 国产午夜精品久久久久久一区二区三区 | 俄罗斯特黄特色一大片| 精品午夜福利视频在线观看一区| 欧美区成人在线视频| 丰满人妻一区二区三区视频av| 美女cb高潮喷水在线观看| 人妻丰满熟妇av一区二区三区| av在线蜜桃| 国产伦精品一区二区三区视频9| 国产精品综合久久久久久久免费| 中文亚洲av片在线观看爽| 蜜臀久久99精品久久宅男| 欧美精品国产亚洲| 久久综合国产亚洲精品| 别揉我奶头~嗯~啊~动态视频| 老师上课跳d突然被开到最大视频| 特级一级黄色大片| 国产男靠女视频免费网站| 变态另类丝袜制服| 最近中文字幕高清免费大全6| 最近在线观看免费完整版| 欧美成人免费av一区二区三区| 啦啦啦韩国在线观看视频| 免费无遮挡裸体视频| 欧美+亚洲+日韩+国产| 久久中文看片网| 一夜夜www| 最近2019中文字幕mv第一页| 亚洲第一电影网av| 国产精品亚洲美女久久久| 亚洲第一区二区三区不卡| 最好的美女福利视频网| 亚洲熟妇中文字幕五十中出| 99国产精品一区二区蜜桃av| 久久久久性生活片| 久久久精品大字幕| 亚洲专区国产一区二区| 精品久久久久久久久av| 成年av动漫网址| 熟女电影av网| 亚洲av成人av| 免费看日本二区| 一个人看的www免费观看视频| 国产精品免费一区二区三区在线| 精品无人区乱码1区二区| 国产免费男女视频| 久久精品夜夜夜夜夜久久蜜豆| 男插女下体视频免费在线播放| 人妻丰满熟妇av一区二区三区| 亚洲av中文av极速乱| 亚洲av一区综合| 色尼玛亚洲综合影院| 亚洲第一区二区三区不卡| 色综合站精品国产| 九九爱精品视频在线观看| av.在线天堂| 国产一区二区在线av高清观看| 在线看三级毛片| 国产精品99久久久久久久久| 色综合亚洲欧美另类图片| 午夜精品在线福利| 亚洲最大成人中文| 欧美精品国产亚洲| 一卡2卡三卡四卡精品乱码亚洲| 精品不卡国产一区二区三区| 亚洲熟妇熟女久久| 男人的好看免费观看在线视频| 国产淫片久久久久久久久| 国产亚洲91精品色在线| а√天堂www在线а√下载| 毛片女人毛片| 尤物成人国产欧美一区二区三区| 日韩国内少妇激情av| 男人舔奶头视频| 国产欧美日韩精品亚洲av| videossex国产| 成年女人毛片免费观看观看9| 91狼人影院| 日韩精品青青久久久久久| 九色成人免费人妻av| 美女cb高潮喷水在线观看| 天堂影院成人在线观看| 欧美区成人在线视频| 九九久久精品国产亚洲av麻豆| 久久韩国三级中文字幕| 亚洲人成网站在线播| 两性午夜刺激爽爽歪歪视频在线观看| av天堂在线播放| 色综合站精品国产| 热99re8久久精品国产| 久久鲁丝午夜福利片| 免费电影在线观看免费观看| 国产亚洲欧美98| 欧美日韩综合久久久久久| 国产av不卡久久| 欧美丝袜亚洲另类| 亚洲成人av在线免费| 国产黄a三级三级三级人| 在线免费观看不下载黄p国产| 国产精品乱码一区二三区的特点| 国产一区二区激情短视频| 午夜福利成人在线免费观看| 国产精品久久久久久亚洲av鲁大| 性色avwww在线观看| 少妇的逼水好多| 久久精品国产自在天天线| 亚洲av免费高清在线观看| 亚洲国产日韩欧美精品在线观看| 五月玫瑰六月丁香| 国产91av在线免费观看| 国产男靠女视频免费网站| 在线观看午夜福利视频| 久久亚洲国产成人精品v| 菩萨蛮人人尽说江南好唐韦庄 | 一区二区三区高清视频在线| 国产精品久久视频播放| 国产精品亚洲美女久久久| 久久久久久久久大av| 99热全是精品| 永久网站在线| 亚洲五月天丁香| 联通29元200g的流量卡| 亚洲欧美日韩无卡精品| 99久久精品国产国产毛片| 亚洲性久久影院| 免费电影在线观看免费观看| 午夜精品国产一区二区电影 | 精品久久久久久久久亚洲| 亚洲av免费高清在线观看| 伊人久久精品亚洲午夜| 成人特级av手机在线观看| 亚洲不卡免费看| 亚洲国产高清在线一区二区三| 久久综合国产亚洲精品| 天堂av国产一区二区熟女人妻| 一区福利在线观看| 久久人人爽人人片av| 亚洲成人av在线免费| 欧美性猛交╳xxx乱大交人| 国产大屁股一区二区在线视频| 国产精品久久久久久亚洲av鲁大| 国产亚洲精品久久久com| 欧美日韩国产亚洲二区| 成年女人永久免费观看视频| 国产综合懂色| 男女下面进入的视频免费午夜| 久99久视频精品免费| 白带黄色成豆腐渣| 99九九线精品视频在线观看视频| 国产精品野战在线观看| 少妇人妻一区二区三区视频| 日韩成人av中文字幕在线观看 | 悠悠久久av| 91午夜精品亚洲一区二区三区| 国产精品av视频在线免费观看| 91久久精品国产一区二区三区| 美女 人体艺术 gogo| 看黄色毛片网站| 国产高潮美女av| 亚洲熟妇熟女久久| 日韩 亚洲 欧美在线| 在线播放无遮挡| 国产av在哪里看| 一夜夜www| 在线播放国产精品三级| 小说图片视频综合网站| 深夜精品福利| 简卡轻食公司| 国产伦一二天堂av在线观看| 欧美日韩精品成人综合77777| av卡一久久| 精品国内亚洲2022精品成人| 男人舔奶头视频| 嫩草影院新地址| 成熟少妇高潮喷水视频| 国产高清不卡午夜福利| 久久中文看片网| 国产精品美女特级片免费视频播放器| 久久久欧美国产精品| 亚洲成人精品中文字幕电影| 夜夜爽天天搞| 国产高清三级在线| 国产精品久久久久久精品电影| 桃色一区二区三区在线观看| 男人舔奶头视频| 99久国产av精品国产电影| 欧美激情久久久久久爽电影| 免费大片18禁| 亚洲三级黄色毛片| 深夜精品福利| 国产色爽女视频免费观看| 少妇被粗大猛烈的视频| 亚洲最大成人手机在线| 国产av一区在线观看免费| 三级国产精品欧美在线观看| 亚洲七黄色美女视频| 日韩欧美在线乱码| 有码 亚洲区| 午夜久久久久精精品| 国产一区二区在线观看日韩| 国产日本99.免费观看| 成年女人看的毛片在线观看| 一边摸一边抽搐一进一小说| 国产毛片a区久久久久| 99九九线精品视频在线观看视频| 日韩在线高清观看一区二区三区| АⅤ资源中文在线天堂| 人妻丰满熟妇av一区二区三区| 精品一区二区免费观看| 色尼玛亚洲综合影院| 欧美又色又爽又黄视频| 日日干狠狠操夜夜爽| 一卡2卡三卡四卡精品乱码亚洲| 久久久久国产精品人妻aⅴ院| 搡老岳熟女国产| 中文字幕熟女人妻在线| 特大巨黑吊av在线直播| 波野结衣二区三区在线| 高清日韩中文字幕在线| 国产精品一区www在线观看| 国产精品不卡视频一区二区| 五月伊人婷婷丁香| 午夜老司机福利剧场| 国产探花在线观看一区二区| 久久人人精品亚洲av| 亚洲高清免费不卡视频| 欧美潮喷喷水| 国产午夜精品久久久久久一区二区三区 | 一级毛片电影观看 | 一区二区三区免费毛片| 成年版毛片免费区| 99国产精品一区二区蜜桃av| 国产毛片a区久久久久| 综合色丁香网| 伊人久久精品亚洲午夜| 免费观看人在逋| 日韩欧美在线乱码| 黄色视频,在线免费观看| 亚洲av中文字字幕乱码综合| 免费高清视频大片| 亚洲欧美日韩高清在线视频| 五月玫瑰六月丁香| 久久人妻av系列| 国产av麻豆久久久久久久| 美女免费视频网站| 一级av片app| 国产av在哪里看| 美女 人体艺术 gogo| 22中文网久久字幕| 可以在线观看的亚洲视频| 麻豆久久精品国产亚洲av| 久久久久九九精品影院| 亚洲电影在线观看av| 18禁裸乳无遮挡免费网站照片| 亚洲精品一卡2卡三卡4卡5卡| 久久6这里有精品| 成人永久免费在线观看视频| 午夜亚洲福利在线播放| 久久久久国产网址| 久久6这里有精品| 国产成人freesex在线 | 免费观看在线日韩| 好男人在线观看高清免费视频| 国产熟女欧美一区二区| 日本欧美国产在线视频| 国产精品综合久久久久久久免费| 51国产日韩欧美| 99久久久亚洲精品蜜臀av| 午夜精品在线福利| 国产精品综合久久久久久久免费| 最近的中文字幕免费完整| 久久热精品热| 在线看三级毛片| 国产av在哪里看| 欧美色欧美亚洲另类二区| 欧美+亚洲+日韩+国产| 狂野欧美白嫩少妇大欣赏| 精品福利观看| 中国国产av一级| 亚洲在线自拍视频| 国产精品一区二区三区四区久久| 成人亚洲精品av一区二区| 久久热精品热| 99热这里只有是精品在线观看| 日本五十路高清| 国产日本99.免费观看| 国产av在哪里看| 国产亚洲欧美98| 亚洲自拍偷在线| 免费看av在线观看网站| 深夜a级毛片| 久久草成人影院| www日本黄色视频网| 午夜福利成人在线免费观看| 精品一区二区免费观看| 国产成人a区在线观看| 99热只有精品国产| 精品国内亚洲2022精品成人| 露出奶头的视频| 日韩欧美在线乱码| 日韩成人av中文字幕在线观看 | 国内精品宾馆在线| 午夜福利高清视频| 非洲黑人性xxxx精品又粗又长| 国产乱人视频| 狂野欧美白嫩少妇大欣赏| 男人舔奶头视频| 国产精品一二三区在线看| 日本与韩国留学比较| 色视频www国产| 国产 一区精品| 一级av片app| 久久精品国产自在天天线| 欧洲精品卡2卡3卡4卡5卡区| 免费电影在线观看免费观看| 啦啦啦韩国在线观看视频| 久久精品综合一区二区三区| 国产精品人妻久久久久久| 乱人视频在线观看| 久久久久国产精品人妻aⅴ院| 国产精品久久久久久av不卡| 免费观看在线日韩| 狂野欧美白嫩少妇大欣赏| 人人妻人人澡欧美一区二区| 一卡2卡三卡四卡精品乱码亚洲| 久久这里只有精品中国| 亚洲在线自拍视频| 国产精品爽爽va在线观看网站| 尾随美女入室| 免费搜索国产男女视频| 亚洲电影在线观看av| 国产淫片久久久久久久久| 日韩一本色道免费dvd| 国产精品一二三区在线看| 亚洲成人中文字幕在线播放| 尤物成人国产欧美一区二区三区| 欧美精品国产亚洲| 中文资源天堂在线| 少妇猛男粗大的猛烈进出视频 | 国产亚洲91精品色在线| 国产精品人妻久久久久久| 18禁在线播放成人免费| 少妇熟女aⅴ在线视频| 亚洲精品影视一区二区三区av| 亚洲中文字幕日韩| 最近的中文字幕免费完整| 久久人人精品亚洲av| 欧美另类亚洲清纯唯美| 亚洲精品色激情综合| 免费一级毛片在线播放高清视频| 国产精品女同一区二区软件| 欧美激情久久久久久爽电影| 美女cb高潮喷水在线观看| 一进一出抽搐gif免费好疼| 久久久久性生活片| 一区福利在线观看| 亚洲欧美日韩高清在线视频| av在线天堂中文字幕| 国产精品一区二区三区四区免费观看 | 亚洲国产日韩欧美精品在线观看| 69av精品久久久久久| 中文亚洲av片在线观看爽| 简卡轻食公司| 国产 一区精品| 久久精品国产亚洲av天美| 亚洲自偷自拍三级| 久久亚洲国产成人精品v| 女人十人毛片免费观看3o分钟| 国产伦在线观看视频一区| 大型黄色视频在线免费观看| 99久国产av精品国产电影| 蜜桃久久精品国产亚洲av| 国产v大片淫在线免费观看| 午夜老司机福利剧场| 欧美最新免费一区二区三区| 嫩草影院精品99| 欧美潮喷喷水| 在线免费观看的www视频| 精品99又大又爽又粗少妇毛片| 人人妻,人人澡人人爽秒播| av女优亚洲男人天堂| 高清午夜精品一区二区三区 | 亚洲欧美中文字幕日韩二区| 国产毛片a区久久久久| 嫩草影院新地址| 亚洲无线观看免费| a级毛片a级免费在线| 麻豆一二三区av精品| 国产精品三级大全| 99热精品在线国产| АⅤ资源中文在线天堂| 黄色欧美视频在线观看| 精品乱码久久久久久99久播| 亚洲天堂国产精品一区在线| 精品一区二区免费观看| 免费黄网站久久成人精品| 精品久久久久久久久亚洲| 夜夜夜夜夜久久久久| 亚洲av中文av极速乱| 日韩 亚洲 欧美在线| 日本免费一区二区三区高清不卡| 欧美色视频一区免费| 1000部很黄的大片| 国产成人aa在线观看| 韩国av在线不卡| 国产精品福利在线免费观看| 亚洲久久久久久中文字幕| 十八禁网站免费在线| 国产亚洲精品综合一区在线观看| 嫩草影院入口| 国产乱人视频| 内地一区二区视频在线| 男女边吃奶边做爰视频| 欧美+日韩+精品| 性色avwww在线观看| 国产三级中文精品| 中文字幕免费在线视频6| 欧美精品国产亚洲| 日韩,欧美,国产一区二区三区 | 91久久精品国产一区二区成人| 在线天堂最新版资源| 久久精品国产亚洲网站| 婷婷六月久久综合丁香| 精品久久久久久久人妻蜜臀av| 久久6这里有精品| 麻豆久久精品国产亚洲av| 欧美中文日本在线观看视频| 久久中文看片网| 国产亚洲精品av在线| 国模一区二区三区四区视频| 日日啪夜夜撸| 日韩欧美国产在线观看| 成人漫画全彩无遮挡| 亚洲专区国产一区二区| 秋霞在线观看毛片| www.色视频.com| 久久久欧美国产精品| 亚洲婷婷狠狠爱综合网| 22中文网久久字幕| 亚洲不卡免费看| 国国产精品蜜臀av免费| 色综合色国产| 午夜爱爱视频在线播放| 久久精品夜夜夜夜夜久久蜜豆| 可以在线观看毛片的网站| 日日干狠狠操夜夜爽| 我的老师免费观看完整版| 国产精品伦人一区二区| 亚洲自偷自拍三级| 两性午夜刺激爽爽歪歪视频在线观看| 久久午夜亚洲精品久久| 精品久久久久久久久亚洲| 日韩大尺度精品在线看网址| 少妇裸体淫交视频免费看高清| 高清午夜精品一区二区三区 | 成人高潮视频无遮挡免费网站| 禁无遮挡网站| 国产 一区精品| 人妻丰满熟妇av一区二区三区| 狠狠狠狠99中文字幕| 成人av一区二区三区在线看| 欧美成人精品欧美一级黄| 国产欧美日韩精品亚洲av| 成人高潮视频无遮挡免费网站| 国产欧美日韩一区二区精品| 美女免费视频网站| 可以在线观看毛片的网站| 久久韩国三级中文字幕| 久久欧美精品欧美久久欧美| 久久精品国产鲁丝片午夜精品| 噜噜噜噜噜久久久久久91| 一级黄色大片毛片| 美女高潮的动态| 天堂动漫精品| 亚洲国产精品合色在线| 在线免费十八禁| 色噜噜av男人的天堂激情| 真人做人爱边吃奶动态| 成人无遮挡网站| 人人妻,人人澡人人爽秒播| 观看免费一级毛片| 一个人免费在线观看电影| av在线蜜桃| 九九爱精品视频在线观看| 国产精品爽爽va在线观看网站| 国产视频一区二区在线看| 亚洲成a人片在线一区二区| 免费不卡的大黄色大毛片视频在线观看 | 日本 av在线| 国产在线男女| 国模一区二区三区四区视频| 色在线成人网| 成人一区二区视频在线观看| 免费搜索国产男女视频| 国产av在哪里看| 久久久精品大字幕| 亚洲国产精品成人综合色| 欧美又色又爽又黄视频| 99热这里只有是精品50| 91久久精品国产一区二区成人| 久久欧美精品欧美久久欧美| 又黄又爽又刺激的免费视频.| 日本免费a在线| 午夜福利在线观看免费完整高清在 | 久久精品国产亚洲av天美| 我要看日韩黄色一级片| 国产成人精品久久久久久| 亚洲一区高清亚洲精品| 床上黄色一级片| 国产老妇女一区| 蜜桃亚洲精品一区二区三区| 久久久久久久午夜电影| 国产伦一二天堂av在线观看| 亚洲欧美中文字幕日韩二区| 亚洲综合色惰| 国产精品乱码一区二三区的特点| 最近的中文字幕免费完整| 99热只有精品国产| 99久久九九国产精品国产免费| 久久精品国产亚洲网站| 国产男人的电影天堂91| 欧美最新免费一区二区三区| 成人二区视频| 九九热线精品视视频播放| 国产午夜福利久久久久久| 欧洲精品卡2卡3卡4卡5卡区| 免费大片18禁| 成人毛片a级毛片在线播放| 直男gayav资源| 一夜夜www| 亚洲精品日韩在线中文字幕 | 国产精品综合久久久久久久免费|