• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于多通道圖卷積網(wǎng)絡(luò)的節(jié)點(diǎn)聚類

    2023-03-17 01:34:00孫艷豐杜鵬飛
    關(guān)鍵詞:拓?fù)鋱D編碼器聚類

    孫艷豐, 杜鵬飛

    (1.北京工業(yè)大學(xué)信息學(xué)部, 北京 100124; 2.北京工業(yè)大學(xué)多媒體與智能軟件技術(shù)北京市重點(diǎn)實(shí)驗(yàn)室, 北京 100124)

    聚類是數(shù)據(jù)分析的一項(xiàng)基本任務(wù),將樣本按照相似性關(guān)系分到不同的類別中[1]. 最近,由于深度網(wǎng)絡(luò)所展現(xiàn)出的強(qiáng)大的數(shù)據(jù)表示學(xué)習(xí)能力,應(yīng)用深度網(wǎng)絡(luò)來解決聚類問題受到人們的關(guān)注. 目前,一些深度聚類算法已經(jīng)成功地在各種實(shí)際中進(jìn)行應(yīng)用,例如文本聚類[2]、圖像聚類[3-4]等. 挖掘數(shù)據(jù)原始特征空間中的屬性信息以獲得有判別力的數(shù)據(jù)表示是深度聚類中的一個(gè)關(guān)鍵步驟,例如:Hinton等[5]通過自動(dòng)編碼器(auto-encoder,AE)網(wǎng)絡(luò)驅(qū)動(dòng)表征學(xué)習(xí);Xie等[6]提出了深度編碼聚類(deep embedded clustering,DEC)方法,將原始數(shù)據(jù)空間經(jīng)過參數(shù)化非線性映射到低維特征空間,在低維特征空間優(yōu)化聚類目標(biāo)來學(xué)習(xí)節(jié)點(diǎn)表示;Guo等[7]提出了改進(jìn)的通過保持局部結(jié)構(gòu)進(jìn)行聚類的網(wǎng)絡(luò),該網(wǎng)絡(luò)引入了重構(gòu)損失、融合聚類損失和AE的重構(gòu)損失,從而學(xué)習(xí)到具有局部結(jié)構(gòu)約束的特征. 然而,這些模型只是針對(duì)結(jié)構(gòu)化的數(shù)據(jù)學(xué)習(xí)原始節(jié)點(diǎn)屬性信息,在處理非結(jié)構(gòu)化的圖關(guān)系數(shù)據(jù)聚類時(shí)表現(xiàn)不佳.

    針對(duì)圖結(jié)構(gòu)數(shù)據(jù)的聚類問題,最近的研究工作集中于學(xué)習(xí)圖拓?fù)浣Y(jié)構(gòu)的編碼表示,將圖拓?fù)浣Y(jié)構(gòu)與原始節(jié)點(diǎn)屬性更好地結(jié)合. 新興的圖卷積網(wǎng)絡(luò)(graph convolutional network,GCN)[8]給這一工作帶來了巨大的突破. GCN基于圖的拓?fù)浣Y(jié)構(gòu)和節(jié)點(diǎn)屬性信息,通過聚合來自相鄰節(jié)點(diǎn)的特征迭代更新節(jié)點(diǎn)編碼. 在此基礎(chǔ)上,Kipf 等[9]提出了圖自動(dòng)編碼器(graph auto-encoder,GAE)和變分圖自動(dòng)編碼器(variational graph auto-encoder,VGAE),GAE利用GCN作為編碼器獲得節(jié)點(diǎn)的表示,VGAE使學(xué)習(xí)到的表示符合高斯先驗(yàn)分布;Fatemi等[10]提出了一種利用高階圖卷積自適應(yīng)地捕獲全局結(jié)構(gòu)信息來學(xué)習(xí)節(jié)點(diǎn)表示的方法;Wang等[11]使用圖注意力融合網(wǎng)絡(luò)作為編碼器來融合圖結(jié)構(gòu)信息和節(jié)點(diǎn)屬性;Pan等[12]進(jìn)一步提出了一種對(duì)抗性正則化圖自動(dòng)編碼器(adversarially regularized graph auto-encoder,ARGA)用于學(xué)習(xí)潛在的節(jié)點(diǎn)表示;Bo等[13]提出了深度結(jié)構(gòu)化聚類網(wǎng)絡(luò)(structural deep clustering network,SDCN),利用深度AE和GCN分別學(xué)習(xí)節(jié)點(diǎn)屬性信息和圖結(jié)構(gòu)信息表示,并通過自監(jiān)督機(jī)制將它們集成到一個(gè)統(tǒng)一的框架中. Peng等[14]提出了注意力驅(qū)動(dòng)的圖聚類網(wǎng)絡(luò)(attention-driven graph clustering network,AGCN),將圖結(jié)構(gòu)信息和節(jié)點(diǎn)屬性信息通過注意力機(jī)制進(jìn)行融合以獲得更利于聚類的節(jié)點(diǎn)表示. 現(xiàn)有的方法都是從原始圖結(jié)構(gòu)和節(jié)點(diǎn)特征中學(xué)習(xí)優(yōu)質(zhì)的嵌入表示,然而,原始的圖結(jié)構(gòu)關(guān)系由于數(shù)據(jù)噪聲或度量的不準(zhǔn)確可能導(dǎo)致關(guān)系描述不精確. 另外,有研究表明,GCN在從圖拓?fù)湫畔⒑凸?jié)點(diǎn)屬性信息中學(xué)習(xí)嵌入表示時(shí)表現(xiàn)出來的性能并不是特別令人滿意[15],因此,如何獲得更準(zhǔn)確的嵌入表示是一個(gè)關(guān)鍵問題.

    針對(duì)以上提出的不足之處,本文提出一種深度聚類網(wǎng)絡(luò),即基于多通道圖卷積網(wǎng)絡(luò)(multi-channel graph convolutional network, McGCN)的節(jié)點(diǎn)聚類.

    1 McGCN的節(jié)點(diǎn)聚類模型

    1.1 符號(hào)定義及任務(wù)說明

    首先介紹一些符號(hào)及概念,屬性圖可以表示為G={V,E,X},其中:V是節(jié)點(diǎn)集合;E是邊集合;X∈Rn×m是節(jié)點(diǎn)的屬性矩陣,n表示節(jié)點(diǎn)數(shù),m表示特征的維數(shù).圖的鄰接矩陣表示為A∈Rn×n,如果Vi和Vj之間有邊,則Aij=1,否則為0.給定一個(gè)圖G和聚類數(shù)k,屬性圖聚類的目的是把圖G中的節(jié)點(diǎn)劃分到k個(gè)不相交的簇中.任務(wù)說明如圖1所示,黃色和藍(lán)色分別表示2種類別的節(jié)點(diǎn),聚類模型根據(jù)拓?fù)湫畔⒑吞卣餍畔⑺鼈兎值?個(gè)簇中.

    圖1 屬性圖聚類示例Fig.1 Example of attributed graph clustering

    1.2 整體框架

    對(duì)于圖數(shù)據(jù)集,本文把原始的拓?fù)鋱D結(jié)構(gòu)稱為拓?fù)鋱D,把基于節(jié)點(diǎn)特征相似度通過K-近鄰(K-nearest neighbor,KNN)算法構(gòu)建的圖結(jié)構(gòu)稱為特征圖.然后,使用AE提取節(jié)點(diǎn)特征的數(shù)據(jù)表示,使用GCN從拓?fù)鋱D和特征圖中提取圖的數(shù)據(jù)表示,以便在不同的空間學(xué)習(xí)嵌入表示.最后,通過一個(gè)自適應(yīng)融合模塊將3個(gè)通道得到的節(jié)點(diǎn)編碼進(jìn)行融合.此外,采用了自監(jiān)督機(jī)制和編碼之間的差異性約束來監(jiān)督訓(xùn)練過程,模型整體框架如圖2所示.

    圖2 多通道圖卷積聚類網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Structure of multi-channel graph convolution clustering network

    1.2.1 節(jié)點(diǎn)特征的編碼模塊

    不考慮節(jié)點(diǎn)之間的連接關(guān)系,只考慮節(jié)點(diǎn)的特征,將節(jié)點(diǎn)特征嵌入到低維空間有很多方法,如去噪自動(dòng)編碼器(denoising auto-encoder,DAE)、稀疏自動(dòng)編碼器(sparse auto-encoder, SAE)、變分自動(dòng)編碼器(variational auto-encoder, VAE)等.本文使用最基本的AE,其主要由2個(gè)部分組成,即將輸入映射到中間層表示的編碼器以及將中間層映射到輸出的解碼器,通過最小化原始特征與重構(gòu)特征之間的重構(gòu)損失來學(xué)習(xí)編碼表示.它的編碼、解碼和重構(gòu)損失公式分別可以表示為

    (1)

    (2)

    (3)

    1.2.2 圖結(jié)構(gòu)的編碼模塊

    GAE的目標(biāo)是根據(jù)節(jié)點(diǎn)特征和圖鄰接關(guān)系學(xué)習(xí)圖的低維節(jié)點(diǎn)嵌入.近年來,GCN在處理圖數(shù)據(jù)上表現(xiàn)出來的性能得到了廣泛的認(rèn)可,基本思想是根據(jù)鄰接關(guān)系聚合鄰居節(jié)點(diǎn)的特征信息,通過堆疊多層的圖網(wǎng)絡(luò)學(xué)習(xí)更深層次的表示.給定一個(gè)節(jié)點(diǎn)特征矩陣X和鄰接矩陣A,GCN通過A和X生成新的節(jié)點(diǎn)表示,第l層輸出可以表示為

    (4)

    對(duì)于圖數(shù)據(jù),原始圖關(guān)系可能存在誤差,使得通過原始拓?fù)鋱D和節(jié)點(diǎn)特征得到的嵌入表示并不是令人滿意的,因此,使用節(jié)點(diǎn)之間的特征相似度構(gòu)建特征圖,拓?fù)鋱D和特征圖同時(shí)被用來提取圖數(shù)據(jù)的嵌入表示.這種方法可更充分地從特征空間中挖掘可靠信息.另外,為了使算法能夠適應(yīng)非圖數(shù)據(jù),采用不同K值下KNN算法生成的鄰接關(guān)系來表示拓?fù)鋱D和特征圖.

    1.2.3 融合模塊

    如何融合這些來自不同通道的節(jié)點(diǎn)編碼是一個(gè)挑戰(zhàn),常用的方法有加權(quán)求和、拼接和注意力機(jī)制等.為了充分融合由AE和GCN得到的嵌入表示,采用了一種基于注意力的動(dòng)態(tài)融合機(jī)制,使得上述3個(gè)通道得到的節(jié)點(diǎn)表示充分交互.具體的圖示如圖2所示,首先將來自3個(gè)通道的嵌入表示(Zae,Zfg,Ztg)兩兩加權(quán)求和進(jìn)行初步融合,得到3個(gè)新的嵌入表示(Zae-fg,Zae-tg,Zfg-tg),融合規(guī)則用公式表示為

    Zae-fg=α·Zae+(1-α)·Zfg
    Zae-tg=β·Zae+(1-β)·Ztg
    Zfg-tg=γ·Zfg+(1-γ)·Ztg

    (5)

    式中α、β、γ表示融合的超參數(shù).之后,對(duì)Zae-fg、Zae-tg、Zfg-tg應(yīng)用注意力機(jī)制以實(shí)現(xiàn)自適應(yīng)融合,通過全連接層挖掘不同表示之間的關(guān)系,使用tanh(·)激活函數(shù),并且進(jìn)行softmax歸一化,將得到的每個(gè)嵌入表示系數(shù)與對(duì)應(yīng)的嵌入表示加權(quán)求和,得到融合之后的嵌入表示.融合規(guī)則的公式為

    Ztemp=[Zae-fg‖Zae-tg‖Zfg-tg]

    (6)

    ω=W2(tanh(W1·Ztemp+b))

    (7)

    (8)

    式中:Ztemp∈Rn×3×d表示把待融合的嵌入表示(Zae-fg,Zae-tg,Zfg-tg)拼接到一起;W1、W2均為全連接層的權(quán)重;b為偏置;ω∈Rn×3×1表示嵌入表示的融合系數(shù);θ∈Rn×3×1為對(duì)系數(shù)歸一化的結(jié)果.由此可以得到最終的融合表示,將融合后的表示通過softmax函數(shù)得到n個(gè)樣本屬于k個(gè)簇的概率分布Z∈Rn×k,這一過程用公式表述為

    Z=softmax(θ1·Zae-fg+θ2·Zae-tg+θ3·Zfg-tg)

    (9)

    對(duì)網(wǎng)絡(luò)訓(xùn)練后,可以通過Z得到預(yù)測(cè)的簇標(biāo)簽,公式為

    yi=arg maxzi

    (10)

    式中:yi表示第i個(gè)樣本預(yù)測(cè)的簇標(biāo)簽;zi表示Z的第i個(gè)樣本.

    由于特征空間的圖結(jié)構(gòu)是通過KNN算法從原始節(jié)點(diǎn)屬性X生成的,為了充分挖掘特征空間的信息,應(yīng)訓(xùn)練編碼器在節(jié)點(diǎn)屬性空間和特征圖空間學(xué)習(xí)到有差異的嵌入表示,同時(shí)也約束節(jié)點(diǎn)屬性空間和拓?fù)鋱D空間的嵌入表示有差異性.為此,本文使用希爾伯特- 施密特獨(dú)立性準(zhǔn)則(Hilbert-Schmidt independence criterion,HSIC)進(jìn)行約束.HSIC是一種基于核的獨(dú)立性度量方法,主要功能是衡量2個(gè)變量的分布差異,其公式可以描述為

    LHSIC(Zae,Zfg)=(n-1)-2tr(RKaeRKfg)

    (11)

    LHSIC(Zae,Ztg)=(n-1)-2tr(RKaeRKtg)

    (12)

    1.2.4 自監(jiān)督模塊

    獲得融合的嵌入表示后,借鑒文獻(xiàn)[16]中的策略,對(duì)融合后的嵌入表示增加約束,以便更好地實(shí)現(xiàn)聚類任務(wù),這也成為現(xiàn)在許多深度聚類方法中實(shí)現(xiàn)聚類的最常用策略[17].其詳細(xì)過程如下:首先,使用Student-t分布作為核來度量由AE學(xué)習(xí)到的嵌入表示中第i個(gè)樣本和第j個(gè)聚類質(zhì)心之間的相似性,計(jì)算公式為

    (13)

    式中:qij表示樣本zae,i分配到聚類中心μj的概率;zae,i表示AE學(xué)習(xí)到的嵌入表示Zae的第i個(gè)樣本;μj是通過對(duì)Zae進(jìn)行K-means計(jì)算得到的聚類中心;α表示自由度,是一個(gè)超參數(shù),本文實(shí)驗(yàn)中設(shè)置為1.對(duì)每個(gè)樣本進(jìn)行計(jì)算,得到所有樣本分配分布,稱之為聚類軟分配分布Q.

    為了增加聚類的內(nèi)聚力,使Q的數(shù)據(jù)表示更接近聚類中心,求得Q的歸一化分布P為

    (14)

    最后,為了使融合后的分布與融合前的分布相一致,在目標(biāo)分布P的協(xié)助下通過優(yōu)化融合后的嵌入表示分布Z與AE學(xué)習(xí)到的嵌入表示分布Q之間的KL(Kullback-Leibler)散度達(dá)到這一目的,在此使用了2個(gè)約束項(xiàng)

    (15)

    (16)

    式中LKL(PQ)、LKL(PZ)分別表示聚類軟分配分布Q和融合后嵌入表示分布Z與歸一化分布P之間的KL散度.

    通過最小化式(15)(16)可以使融合后的分布Z和融合前的分布Q很好地對(duì)齊,由于P是通過Q生成的,而P又反過來監(jiān)督Q的更新,整個(gè)過程中沒有人為的引導(dǎo),因此,稱為自監(jiān)督方式.P、Q和Z之間的約束正則項(xiàng)如圖2中紅色虛線標(biāo)注所示.

    本文通過這一監(jiān)督方法把AE和GCN整合到一個(gè)網(wǎng)絡(luò)中,實(shí)現(xiàn)端到端的訓(xùn)練.在對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練之后,通過融合后的表示分布Z可以直接得到預(yù)測(cè)聚類結(jié)果,最終,整個(gè)網(wǎng)絡(luò)的損失函數(shù)設(shè)計(jì)為

    L=λ1·LR+λ2·LKL(PQae)+λ3·LKL(PZ)+
    λ4·LHSIC(Zae,Zfg)+λ5·LHSIC(Zae,Ztg)

    (17)

    式中:LR表示AE的重構(gòu)損失;LHSIC(Zae,Zfg)、LHSIC(Zae,Ztg)分別表示對(duì)節(jié)點(diǎn)屬性與特征圖和拓?fù)鋱D編碼得到的嵌入表示之間的差異性損失.

    整個(gè)模型的算法步驟如下.

    2 實(shí)驗(yàn)

    2.1 實(shí)驗(yàn)數(shù)據(jù)

    本文在6個(gè)常用的基準(zhǔn)數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn),包括1個(gè)圖像數(shù)據(jù)集USPS、1個(gè)人類活動(dòng)識(shí)別記錄數(shù)據(jù)集HHAR、1個(gè)文本數(shù)據(jù)集Reuters和3個(gè)圖數(shù)據(jù)集ACM、DBLP、CiteSeer,數(shù)據(jù)集的簡(jiǎn)要描述如表1所示.

    表1 數(shù)據(jù)集描述

    USPS數(shù)據(jù)集包括9 298個(gè)灰度手寫數(shù)字圖像,共10個(gè)類別(即0~9).

    HHAR數(shù)據(jù)集包含智能手表的10 299條傳感器記錄. 樣本被劃分為6類人類活動(dòng)(騎自行車、坐、站、走、上樓梯和下樓梯).

    Reuters數(shù)據(jù)集包含大約81萬篇英語(yǔ)新聞故事,并按類別進(jìn)行標(biāo)記. 使用公司/工業(yè)、政府/社會(huì)、市場(chǎng)和經(jīng)濟(jì)作為標(biāo)簽.

    ACM數(shù)據(jù)集是來自ACM數(shù)字圖書館的一個(gè)論文網(wǎng)絡(luò)數(shù)據(jù)集,其中邊表示同一作者撰寫. 特征是關(guān)鍵詞的詞袋表示. 樣本按照研究領(lǐng)域分成3類(數(shù)據(jù)庫(kù)、無線通信、數(shù)據(jù)挖掘).

    DBLP數(shù)據(jù)集是一個(gè)作者網(wǎng)絡(luò)數(shù)據(jù)集. 節(jié)點(diǎn)表示作者,邊表示作者合作完成的論文. 作者分為4個(gè)領(lǐng)域:數(shù)據(jù)庫(kù)、數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)和信息檢索.

    CiteSeer數(shù)據(jù)集是一個(gè)引文網(wǎng)絡(luò)數(shù)據(jù)集,包含每個(gè)文檔的稀疏詞匯特征向量包和文檔之間的引文鏈接列表. 標(biāo)簽包含6個(gè)領(lǐng)域:代理、人工智能、數(shù)據(jù)庫(kù)、信息檢索、機(jī)器語(yǔ)言和人機(jī)交互.

    2.2 對(duì)比方法

    本文將提出的方法與8種方法進(jìn)行了對(duì)比,其中前3種是基于AE的非圖數(shù)據(jù)聚類方法,后5種是基于GCN的圖數(shù)據(jù)聚類方法.

    1) AE方法:對(duì)AE從原始數(shù)據(jù)中學(xué)習(xí)到的嵌入表示執(zhí)行K-means聚類.

    2) DEC方法:在上述AE方法基礎(chǔ)上加入約束項(xiàng),將編碼器學(xué)習(xí)嵌入表示和聚類分配兩部分聯(lián)合后進(jìn)行優(yōu)化,不再把兩部分割裂開,從而提高聚類.

    3) IDEC方法:在DEC上增加了一個(gè)自編碼器的重構(gòu)損失以更好地學(xué)習(xí)嵌入表示,提高聚類效果.

    4) GAE方法:結(jié)合GCN和AE設(shè)計(jì),用于學(xué)習(xí)數(shù)據(jù)表示.

    5) VGAE方法:在GAE的基礎(chǔ)上,從原始數(shù)據(jù)中學(xué)習(xí)到一個(gè)分布,從這個(gè)分布中采樣一組數(shù)據(jù)作為嵌入表示進(jìn)行聚類.

    6) DAEGC方法:使用GAT網(wǎng)絡(luò)來學(xué)習(xí)嵌入表示,并生成目標(biāo)分布,使其指導(dǎo)嵌入表示進(jìn)行更新.

    7) SDCN方法:通過AE學(xué)習(xí)節(jié)點(diǎn)特征表示,并通過GCN學(xué)習(xí)圖結(jié)構(gòu)表示,把這兩部分的嵌入表示融合,進(jìn)行聚類任務(wù).

    8) AGCN方法:在SDCN的基礎(chǔ)上,在兩部分嵌入表示融合時(shí)使用了注意力機(jī)制,得到更利于聚類的節(jié)點(diǎn)表示.

    9) McGCN方法:即本文提出的方法.

    2.3 聚類結(jié)果

    本文的方法和8種對(duì)比方法在6個(gè)基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果如表2所示. 表中:ACC表示聚類結(jié)果的準(zhǔn)確度;NMI表示聚類結(jié)果中正確聚類信息的數(shù)量;ARI表示類別劃分的重疊程度;F1是模型準(zhǔn)確率和召回率的調(diào)和平均值.

    根據(jù)表中數(shù)據(jù)可以觀察到:本文方法在6個(gè)數(shù)據(jù)集的比較中大部分指標(biāo)都獲得了最好的聚類性能. 精度提升顯著的原因有3個(gè)方面:首先,文中的方法增加了一個(gè)新的圖結(jié)構(gòu),提供了更豐富的信息;其次,加入差異性約束模塊后顯著地增加了節(jié)點(diǎn)表示的多樣性,使其從不同角度學(xué)習(xí)到有區(qū)別的嵌入表示;最后,基于注意力機(jī)制融合模塊,自適應(yīng)地融合了來自各個(gè)通道的嵌入表示,充分地利用了每個(gè)通道中的信息. 在ACM、DBLP數(shù)據(jù)集中,本文提出的方法性能改進(jìn)不明顯. 通過對(duì)模型算法及實(shí)驗(yàn)結(jié)果進(jìn)行分析,認(rèn)為這個(gè)數(shù)據(jù)集的拓?fù)鋱D與特征圖結(jié)構(gòu)比較一致,增加特征圖結(jié)構(gòu)并不能有效地提高聚類精度.

    2.4 消融實(shí)驗(yàn)

    針對(duì)模型中的差異性約束HSIC,本文進(jìn)行了消融實(shí)驗(yàn)來檢驗(yàn)它的作用,實(shí)驗(yàn)結(jié)果如表3所示. 表中:McGCN表示本文提出的具有HSIC約束的模型;McGCN-HSIC表示去掉HSIC約束的模型. 可以發(fā)現(xiàn),擁有HSIC約束的要明顯優(yōu)于沒有HSIC的模型. 這一觀察結(jié)果表明,HSIC約束能夠約束2個(gè)通道中的編碼器,使其學(xué)習(xí)不同的嵌入表示,從而利用更全面的信息來提高網(wǎng)絡(luò)的聚類性能.

    表3 HSIC約束對(duì)模型的影響

    2.5 訓(xùn)練過程分析

    通過實(shí)驗(yàn)對(duì)McGCN的訓(xùn)練過程進(jìn)行了分析,并與之前的SDCN方法做比較,實(shí)驗(yàn)結(jié)果見圖3.

    圖3 正確率與訓(xùn)練次數(shù)的關(guān)系Fig.3 Relationship between accuracy and training times

    在Reuters和HHAR的訓(xùn)練過程中存在一些波動(dòng),分析原因是3個(gè)通道學(xué)習(xí)到的嵌入表示差異性較大且沒有一個(gè)具有主導(dǎo)性的嵌入表示,導(dǎo)致在自適應(yīng)融合時(shí)權(quán)重分配多樣化,進(jìn)而表現(xiàn)出正確率波動(dòng). 但是,隨著訓(xùn)練的進(jìn)行,最終的聚類結(jié)果都趨于穩(wěn)定.

    3 結(jié)論

    1) 本文提出的McGCN方法基于AE和GCN在原始節(jié)點(diǎn)特征空間、拓?fù)鋱D空間和特征圖空間進(jìn)行嵌入表示的學(xué)習(xí),并且通過一個(gè)基于注意力機(jī)制的融合模塊將節(jié)點(diǎn)編碼融合,應(yīng)用Student-t分布得到樣本的軟分配分布,通過自監(jiān)督的方式優(yōu)化軟分配分布與目標(biāo)分布之間的差異,執(zhí)行端到端的訓(xùn)練.

    2) 在常用的基準(zhǔn)數(shù)據(jù)集上對(duì)提出的方法進(jìn)行評(píng)估,結(jié)果表明該方法有效地提高了聚類精度.

    3) 雖然本文方法已經(jīng)取得了較好的性能,但由于圖結(jié)構(gòu)編碼采用的是GCN,它本質(zhì)上是平等地聚合鄰居節(jié)點(diǎn)信息,沒有更好地結(jié)合節(jié)點(diǎn)的結(jié)構(gòu)關(guān)系屬性,存在一定局限性,未來將探索更有效的圖結(jié)構(gòu)編碼方式.

    猜你喜歡
    拓?fù)鋱D編碼器聚類
    低壓配網(wǎng)拓?fù)鋱D自動(dòng)成圖關(guān)鍵技術(shù)的研究與設(shè)計(jì)
    簡(jiǎn)單拓?fù)鋱D及幾乎交錯(cuò)鏈環(huán)補(bǔ)中的閉曲面
    基于含圈非連通圖優(yōu)美性的拓?fù)鋱D密碼
    基于FPGA的同步機(jī)軸角編碼器
    基于DBSACN聚類算法的XML文檔聚類
    基于PRBS檢測(cè)的8B/IOB編碼器設(shè)計(jì)
    JESD204B接口協(xié)議中的8B10B編碼器設(shè)計(jì)
    電子器件(2015年5期)2015-12-29 08:42:24
    基于改進(jìn)的遺傳算法的模糊聚類算法
    一種層次初始的聚類個(gè)數(shù)自適應(yīng)的聚類方法研究
    多總線式光電編碼器的設(shè)計(jì)與應(yīng)用
    日韩中字成人| 国产乱人偷精品视频| 国产成人精品婷婷| 亚洲欧美日韩无卡精品| 麻豆久久精品国产亚洲av| 夜夜看夜夜爽夜夜摸| 三级经典国产精品| 伦精品一区二区三区| 亚洲三级黄色毛片| 老女人水多毛片| 99久久成人亚洲精品观看| 极品教师在线视频| 国内精品宾馆在线| 国产精品久久久久久av不卡| 日本爱情动作片www.在线观看| 亚洲精品国产成人久久av| 亚州av有码| 亚洲一级一片aⅴ在线观看| 亚洲综合色惰| 国产午夜精品久久久久久一区二区三区| 免费av不卡在线播放| 国产精品一区二区性色av| 人人妻人人澡人人爽人人夜夜 | 亚洲av不卡在线观看| 午夜激情欧美在线| 国产麻豆成人av免费视频| 51国产日韩欧美| 秋霞在线观看毛片| 一区二区三区免费毛片| 亚洲欧美日韩高清专用| 男人和女人高潮做爰伦理| 国产真实乱freesex| 好男人在线观看高清免费视频| 久久久久九九精品影院| 日韩高清综合在线| 午夜精品在线福利| 久久久久网色| av视频在线观看入口| videossex国产| 九色成人免费人妻av| 国产精品精品国产色婷婷| 久久综合国产亚洲精品| 毛片一级片免费看久久久久| 一个人免费在线观看电影| 国产黄色小视频在线观看| 成人无遮挡网站| av女优亚洲男人天堂| 亚洲欧美日韩高清专用| 午夜激情福利司机影院| 麻豆乱淫一区二区| 最近2019中文字幕mv第一页| 国产精品美女特级片免费视频播放器| 国产成人aa在线观看| 午夜爱爱视频在线播放| 人妻少妇偷人精品九色| 国产精品久久久久久精品电影小说 | 97热精品久久久久久| 少妇猛男粗大的猛烈进出视频 | 欧美色欧美亚洲另类二区| 在线免费观看不下载黄p国产| 国产精品嫩草影院av在线观看| 亚洲五月天丁香| 禁无遮挡网站| 最近的中文字幕免费完整| 热99re8久久精品国产| 国产精品一二三区在线看| 日韩亚洲欧美综合| 国产一级毛片在线| 非洲黑人性xxxx精品又粗又长| 美女高潮的动态| 久久精品国产鲁丝片午夜精品| 久久久a久久爽久久v久久| 在线播放国产精品三级| 国产成人精品一,二区 | 又粗又硬又长又爽又黄的视频 | 欧美丝袜亚洲另类| 少妇人妻精品综合一区二区 | 美女被艹到高潮喷水动态| 天堂网av新在线| 尾随美女入室| 少妇高潮的动态图| 三级经典国产精品| 寂寞人妻少妇视频99o| 成人毛片60女人毛片免费| 大型黄色视频在线免费观看| 日韩人妻高清精品专区| 色噜噜av男人的天堂激情| 天堂√8在线中文| 成人漫画全彩无遮挡| 久久6这里有精品| 精品欧美国产一区二区三| 可以在线观看的亚洲视频| 国产v大片淫在线免费观看| 久久久a久久爽久久v久久| 成人午夜精彩视频在线观看| 在线播放无遮挡| 黄色日韩在线| 精品人妻偷拍中文字幕| 黄片wwwwww| 亚洲av免费在线观看| 最近视频中文字幕2019在线8| 日日摸夜夜添夜夜爱| 97热精品久久久久久| 日韩 亚洲 欧美在线| 夜夜夜夜夜久久久久| 99热全是精品| 成人亚洲精品av一区二区| 黄色欧美视频在线观看| 小蜜桃在线观看免费完整版高清| 亚洲欧美日韩东京热| 成年版毛片免费区| 欧美三级亚洲精品| 亚洲av中文av极速乱| 日日啪夜夜撸| 搡女人真爽免费视频火全软件| 久久久久久久久久成人| 免费黄网站久久成人精品| 国产成人a区在线观看| 亚洲在久久综合| 亚洲成人av在线免费| 国产一级毛片七仙女欲春2| 欧美又色又爽又黄视频| 亚洲欧洲国产日韩| 亚洲国产欧美在线一区| АⅤ资源中文在线天堂| 久久久精品94久久精品| 一夜夜www| 简卡轻食公司| 日本撒尿小便嘘嘘汇集6| 亚洲在线自拍视频| av在线亚洲专区| 色综合色国产| 悠悠久久av| 色噜噜av男人的天堂激情| 亚洲内射少妇av| 亚洲av熟女| 国产精品一区www在线观看| 精品人妻熟女av久视频| 久久久国产成人精品二区| 国产伦精品一区二区三区四那| 黄色日韩在线| 欧美日韩在线观看h| 免费电影在线观看免费观看| 乱人视频在线观看| 亚洲五月天丁香| 成年免费大片在线观看| 老女人水多毛片| 中国美白少妇内射xxxbb| 免费无遮挡裸体视频| 日本黄大片高清| www日本黄色视频网| 九色成人免费人妻av| 18禁裸乳无遮挡免费网站照片| 人妻系列 视频| 啦啦啦啦在线视频资源| 成年av动漫网址| 精品国内亚洲2022精品成人| 日本熟妇午夜| 日韩欧美 国产精品| 久久婷婷人人爽人人干人人爱| 国产一区二区三区在线臀色熟女| 美女内射精品一级片tv| 禁无遮挡网站| 欧美成人精品欧美一级黄| 国产又黄又爽又无遮挡在线| 亚洲成av人片在线播放无| 国内精品一区二区在线观看| 日本免费一区二区三区高清不卡| 少妇被粗大猛烈的视频| 亚洲国产欧洲综合997久久,| 日韩av在线大香蕉| 麻豆成人午夜福利视频| 日本三级黄在线观看| 日韩成人伦理影院| 亚洲经典国产精华液单| 久久热精品热| 少妇人妻一区二区三区视频| 国产精品国产三级国产av玫瑰| 哪里可以看免费的av片| 午夜亚洲福利在线播放| 一边摸一边抽搐一进一小说| 热99re8久久精品国产| 久久久a久久爽久久v久久| 午夜免费男女啪啪视频观看| 黄色日韩在线| 久久国产乱子免费精品| 少妇的逼好多水| 性色avwww在线观看| 99热6这里只有精品| 久久人妻av系列| 亚洲最大成人中文| 男人舔奶头视频| 中文精品一卡2卡3卡4更新| 狠狠狠狠99中文字幕| 午夜激情福利司机影院| 精品久久久噜噜| 国产精品99久久久久久久久| 天堂中文最新版在线下载 | 国产高潮美女av| 男女做爰动态图高潮gif福利片| 亚洲精品国产成人久久av| 老司机影院成人| 国产久久久一区二区三区| 99久久九九国产精品国产免费| 亚洲激情五月婷婷啪啪| 热99在线观看视频| 综合色av麻豆| 国产美女午夜福利| 成人一区二区视频在线观看| av.在线天堂| 亚洲精品日韩av片在线观看| a级毛片免费高清观看在线播放| 久久韩国三级中文字幕| 国产日本99.免费观看| 如何舔出高潮| 亚洲国产日韩欧美精品在线观看| 看十八女毛片水多多多| 亚洲自拍偷在线| 成人特级av手机在线观看| 可以在线观看的亚洲视频| 日韩视频在线欧美| 精品不卡国产一区二区三区| 男女做爰动态图高潮gif福利片| 超碰av人人做人人爽久久| 能在线免费观看的黄片| 级片在线观看| av福利片在线观看| 国产精品乱码一区二三区的特点| 国产色爽女视频免费观看| 欧美最新免费一区二区三区| 波多野结衣高清无吗| 国产精品一区二区三区四区久久| 午夜老司机福利剧场| 亚洲不卡免费看| 亚洲国产精品合色在线| 精品久久久久久久久亚洲| 97在线视频观看| 国产人妻一区二区三区在| 99热这里只有是精品50| 日本黄色视频三级网站网址| 婷婷六月久久综合丁香| 夜夜爽天天搞| 如何舔出高潮| 日韩成人伦理影院| 国产爱豆传媒在线观看| 亚洲自偷自拍三级| 国产成人影院久久av| 老女人水多毛片| 国产高清不卡午夜福利| 草草在线视频免费看| 日日干狠狠操夜夜爽| 最近的中文字幕免费完整| 啦啦啦韩国在线观看视频| 日韩人妻高清精品专区| 99在线人妻在线中文字幕| 中国美女看黄片| 亚洲图色成人| 人妻制服诱惑在线中文字幕| 国产三级在线视频| 久久综合国产亚洲精品| 青春草国产在线视频 | 欧美最新免费一区二区三区| 18禁黄网站禁片免费观看直播| 免费观看人在逋| 最近的中文字幕免费完整| 欧美变态另类bdsm刘玥| 91久久精品电影网| 深夜a级毛片| 天堂√8在线中文| 狂野欧美白嫩少妇大欣赏| 亚洲人成网站在线观看播放| h日本视频在线播放| 在线观看一区二区三区| 性插视频无遮挡在线免费观看| 精品人妻熟女av久视频| 亚洲av成人精品一区久久| 三级国产精品欧美在线观看| 亚洲av成人av| 亚洲四区av| 欧美最黄视频在线播放免费| av在线蜜桃| av在线天堂中文字幕| 一级黄片播放器| 国产精品人妻久久久久久| 精品人妻偷拍中文字幕| 中文字幕熟女人妻在线| 99热这里只有是精品在线观看| 91精品一卡2卡3卡4卡| 国产三级在线视频| 欧美性猛交╳xxx乱大交人| 国产精品蜜桃在线观看 | 日产精品乱码卡一卡2卡三| 日韩强制内射视频| 午夜激情福利司机影院| 熟妇人妻久久中文字幕3abv| 少妇被粗大猛烈的视频| 色播亚洲综合网| 国产大屁股一区二区在线视频| 国产成人freesex在线| 97人妻精品一区二区三区麻豆| 少妇猛男粗大的猛烈进出视频 | 观看免费一级毛片| 午夜福利高清视频| 亚洲国产欧美人成| 免费看日本二区| 女同久久另类99精品国产91| 中文精品一卡2卡3卡4更新| 男人和女人高潮做爰伦理| 国产精品人妻久久久久久| 人人妻人人澡欧美一区二区| 国产精品女同一区二区软件| 午夜激情福利司机影院| 国产成人一区二区在线| 亚洲欧美精品专区久久| 丰满乱子伦码专区| 又爽又黄无遮挡网站| 免费无遮挡裸体视频| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 丰满乱子伦码专区| 美女高潮的动态| 九九在线视频观看精品| 亚洲国产欧美在线一区| 99久国产av精品国产电影| 大又大粗又爽又黄少妇毛片口| 美女脱内裤让男人舔精品视频 | 日本一二三区视频观看| 成人综合一区亚洲| 悠悠久久av| 免费观看人在逋| 一本精品99久久精品77| 国产免费一级a男人的天堂| 国国产精品蜜臀av免费| 日韩 亚洲 欧美在线| 日韩在线高清观看一区二区三区| 亚洲精品日韩在线中文字幕 | 久久亚洲国产成人精品v| 亚洲自拍偷在线| 成人无遮挡网站| 国产av麻豆久久久久久久| 深夜a级毛片| 日韩av在线大香蕉| 国产在视频线在精品| 国产高清不卡午夜福利| 国产成人91sexporn| 日本一二三区视频观看| 看片在线看免费视频| 18禁黄网站禁片免费观看直播| 一区二区三区免费毛片| 十八禁国产超污无遮挡网站| 高清午夜精品一区二区三区 | 国产精品电影一区二区三区| 大型黄色视频在线免费观看| av在线老鸭窝| 国产伦一二天堂av在线观看| 看非洲黑人一级黄片| 丝袜美腿在线中文| 日本一本二区三区精品| 亚洲av中文av极速乱| 噜噜噜噜噜久久久久久91| 中文字幕制服av| 国产熟女欧美一区二区| 亚洲av免费在线观看| 51国产日韩欧美| 亚洲欧美日韩东京热| 在线免费观看的www视频| 最近的中文字幕免费完整| 两性午夜刺激爽爽歪歪视频在线观看| 一区福利在线观看| 久久久久九九精品影院| 中国美白少妇内射xxxbb| 哪个播放器可以免费观看大片| 色播亚洲综合网| 欧美一级a爱片免费观看看| 国产 一区精品| 美女内射精品一级片tv| 国产日韩欧美在线精品| 欧美精品一区二区大全| 日韩强制内射视频| 国产69精品久久久久777片| 中文亚洲av片在线观看爽| 深爱激情五月婷婷| 老女人水多毛片| 国产女主播在线喷水免费视频网站 | 一夜夜www| 观看免费一级毛片| 波多野结衣高清无吗| 天天躁日日操中文字幕| 国产av麻豆久久久久久久| 看非洲黑人一级黄片| 日韩高清综合在线| 国产伦精品一区二区三区四那| 黄片wwwwww| 99久国产av精品国产电影| 久久久欧美国产精品| 亚洲欧洲国产日韩| 在线免费十八禁| 久久精品国产亚洲av涩爱 | 一本精品99久久精品77| 欧美又色又爽又黄视频| 久久午夜福利片| 成人欧美大片| 一区福利在线观看| 国产麻豆成人av免费视频| 国产老妇女一区| 激情 狠狠 欧美| 性欧美人与动物交配| 日本黄色视频三级网站网址| 日本免费a在线| 久久人妻av系列| 午夜福利在线观看免费完整高清在 | 欧美三级亚洲精品| 97超碰精品成人国产| av女优亚洲男人天堂| 午夜福利在线在线| a级一级毛片免费在线观看| 国产高清不卡午夜福利| 国产午夜精品久久久久久一区二区三区| 一级毛片电影观看 | 午夜亚洲福利在线播放| 久久久a久久爽久久v久久| 久久热精品热| 日日摸夜夜添夜夜爱| 国产成人精品一,二区 | 麻豆av噜噜一区二区三区| 波野结衣二区三区在线| 久久精品影院6| 亚洲不卡免费看| 亚洲精品日韩在线中文字幕 | 天天一区二区日本电影三级| 国产男人的电影天堂91| 欧美色欧美亚洲另类二区| 亚洲一区二区三区色噜噜| 亚洲国产精品成人综合色| 日韩欧美在线乱码| 99热网站在线观看| 国产麻豆成人av免费视频| 日本成人三级电影网站| 国产精品精品国产色婷婷| 又黄又爽又刺激的免费视频.| 国产爱豆传媒在线观看| 久久午夜福利片| 可以在线观看毛片的网站| 菩萨蛮人人尽说江南好唐韦庄 | 长腿黑丝高跟| 欧美高清性xxxxhd video| 国产精品久久久久久久电影| 免费看美女性在线毛片视频| 亚洲在线观看片| 五月伊人婷婷丁香| 一区二区三区免费毛片| 一本精品99久久精品77| 深夜a级毛片| 一区二区三区免费毛片| 日韩在线高清观看一区二区三区| 男的添女的下面高潮视频| 国产精品国产三级国产av玫瑰| 可以在线观看的亚洲视频| 小蜜桃在线观看免费完整版高清| 国产一区二区在线观看日韩| 春色校园在线视频观看| 国产乱人偷精品视频| 亚洲精华国产精华液的使用体验 | 国产v大片淫在线免费观看| 成人毛片60女人毛片免费| av在线播放精品| 欧美最黄视频在线播放免费| 国产成人91sexporn| 波野结衣二区三区在线| 3wmmmm亚洲av在线观看| 最近2019中文字幕mv第一页| 亚洲国产精品合色在线| or卡值多少钱| 亚洲av成人精品一区久久| 国产一区二区在线观看日韩| 老司机影院成人| 久久精品国产亚洲av涩爱 | 亚洲在线自拍视频| 国产精品av视频在线免费观看| 成人鲁丝片一二三区免费| 欧美精品一区二区大全| 69av精品久久久久久| 亚洲成av人片在线播放无| 国产精品一区二区三区四区久久| 成年av动漫网址| 男女啪啪激烈高潮av片| 日韩欧美精品免费久久| 国产午夜精品论理片| 男女边吃奶边做爰视频| 国产精品久久电影中文字幕| 久久久午夜欧美精品| 能在线免费看毛片的网站| 亚洲在久久综合| 有码 亚洲区| 日本一本二区三区精品| 国产高清激情床上av| 一级av片app| 国产乱人视频| 毛片女人毛片| 亚洲av二区三区四区| 丰满乱子伦码专区| 国产在线精品亚洲第一网站| 亚洲综合色惰| 91精品国产九色| 日韩精品青青久久久久久| 国产精品嫩草影院av在线观看| 免费无遮挡裸体视频| 国国产精品蜜臀av免费| 午夜久久久久精精品| 久久亚洲精品不卡| 极品教师在线视频| 亚洲精品日韩在线中文字幕 | av.在线天堂| 岛国在线免费视频观看| 国产午夜精品论理片| 亚洲最大成人av| 天堂网av新在线| 久久中文看片网| 日韩欧美国产在线观看| 男女做爰动态图高潮gif福利片| 老司机福利观看| 精华霜和精华液先用哪个| 国产视频内射| 日日啪夜夜撸| 99久国产av精品国产电影| 欧美不卡视频在线免费观看| 一夜夜www| 亚洲在久久综合| 久久久久久久午夜电影| 啦啦啦韩国在线观看视频| 97超视频在线观看视频| 最近最新中文字幕大全电影3| 高清日韩中文字幕在线| 亚洲国产精品国产精品| 国产 一区精品| 日韩 亚洲 欧美在线| 日本黄大片高清| 99久国产av精品国产电影| 精品不卡国产一区二区三区| 亚洲婷婷狠狠爱综合网| 亚洲最大成人中文| 成人午夜高清在线视频| 亚洲色图av天堂| 亚洲精品影视一区二区三区av| 人人妻人人澡人人爽人人夜夜 | 最近最新中文字幕大全电影3| 午夜a级毛片| 极品教师在线视频| 免费看a级黄色片| 夜夜夜夜夜久久久久| 日本色播在线视频| 亚洲人与动物交配视频| 国产乱人视频| 麻豆精品久久久久久蜜桃| 欧美一区二区精品小视频在线| 国产精品美女特级片免费视频播放器| 国内少妇人妻偷人精品xxx网站| 亚洲人与动物交配视频| 久久99精品国语久久久| 国产黄色视频一区二区在线观看 | 日韩人妻高清精品专区| 狂野欧美白嫩少妇大欣赏| 男的添女的下面高潮视频| 久久久久网色| 天堂中文最新版在线下载 | 免费人成视频x8x8入口观看| 国产黄片美女视频| 欧美成人一区二区免费高清观看| 一级黄色大片毛片| 国产成人影院久久av| 在线a可以看的网站| 99久国产av精品国产电影| 免费观看在线日韩| videossex国产| 夫妻性生交免费视频一级片| 亚洲av第一区精品v没综合| 91精品一卡2卡3卡4卡| 国产亚洲91精品色在线| 夜夜夜夜夜久久久久| 久久欧美精品欧美久久欧美| a级毛色黄片| 91aial.com中文字幕在线观看| 日本黄色片子视频| 18禁黄网站禁片免费观看直播| 亚洲图色成人| 精品一区二区免费观看| 国产在视频线在精品| 爱豆传媒免费全集在线观看| 国产精品麻豆人妻色哟哟久久 | a级一级毛片免费在线观看| 综合色av麻豆| 伊人久久精品亚洲午夜| 国产精品久久视频播放| 永久网站在线| 麻豆国产av国片精品| 欧美又色又爽又黄视频| 桃色一区二区三区在线观看| 五月伊人婷婷丁香| 日韩欧美国产在线观看| 麻豆国产97在线/欧美| av在线亚洲专区| 日韩成人av中文字幕在线观看| 中国美白少妇内射xxxbb| 美女xxoo啪啪120秒动态图| 特级一级黄色大片| 亚洲aⅴ乱码一区二区在线播放| 一个人看的www免费观看视频| 国产亚洲精品久久久com| 日韩av不卡免费在线播放| 中文字幕精品亚洲无线码一区| 国产一区二区三区av在线 | 亚洲欧美日韩无卡精品| 日本三级黄在线观看| 国产成年人精品一区二区| kizo精华| 超碰av人人做人人爽久久|