• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于KL散度和近鄰點間距離的球面嵌入算法

    2017-05-24 14:45:22張變蘭路永鋼張海濤
    計算機應(yīng)用 2017年3期
    關(guān)鍵詞:點間均勻分布球面

    張變蘭,路永鋼,張海濤

    (蘭州大學(xué) 信息科學(xué)與工程學(xué)院,蘭州 730000) (*通信作者電子郵箱ylu@lzu.edu.cn)

    基于KL散度和近鄰點間距離的球面嵌入算法

    張變蘭,路永鋼*,張海濤

    (蘭州大學(xué) 信息科學(xué)與工程學(xué)院,蘭州 730000) (*通信作者電子郵箱ylu@lzu.edu.cn)

    針對現(xiàn)有球面嵌入算法在非近鄰點間的距離度量不準(zhǔn)確或缺失的情況下,不能有效地進行低維嵌入的問題,提出了一種新的球面嵌入算法,它能夠只利用近鄰點間的距離,將任何尺度的高維數(shù)據(jù)嵌入到單位球面上,同時求出適合原始數(shù)據(jù)分布的球面半徑。該算法從一個隨機產(chǎn)生的球面分布開始,利用KL散度衡量每對近鄰點間的歸一化距離在原始空間和球面空間中的差異,并基于此差異構(gòu)建出目標(biāo)函數(shù),然后再用帶有動量的隨機梯度下降法,不斷優(yōu)化球面上點的分布,直到結(jié)果穩(wěn)定。為了測試算法,模擬產(chǎn)生了兩類球面分布數(shù)據(jù):分別是球面均勻分布和球面正態(tài)分布的數(shù)據(jù)。實驗結(jié)果表明,對于球面均勻分布的數(shù)據(jù),即使在近鄰點個數(shù)很少的情況下,仍然能夠?qū)?shù)據(jù)準(zhǔn)確地嵌入球面空間,嵌入后的數(shù)據(jù)分布與原始數(shù)據(jù)分布的均方根誤差(RMSE)低于0.000 01,且球面半徑的估算誤差低于0.000 001;而對于球面正態(tài)分布的數(shù)據(jù),在近鄰點個數(shù)較多的情況下,該算法也可以將數(shù)據(jù)較準(zhǔn)確地嵌入球面空間。因此,在非近鄰點間距離缺失的情況下,所提方法仍然可以較準(zhǔn)確地對數(shù)據(jù)進行低維嵌入,這非常有利于數(shù)據(jù)的可視化研究。

    球面嵌入;KL散度;隨機梯度下降法;最近鄰

    0 引言

    近年來,數(shù)據(jù)可視化分析已經(jīng)成為處理大數(shù)據(jù)的重要方法之一。研究表明,人們從外界接收的各種信息中80%以上是通過視覺獲得的[1]。通過對大數(shù)據(jù)可視化,人們可以對數(shù)據(jù)產(chǎn)生直觀的理解,以便對其進行分析和研究,因此,數(shù)據(jù)可視化在大數(shù)據(jù)分析中正起著越來越重要的作用。為了避免維數(shù)災(zāi)難帶來的影響,以及更好地對大數(shù)據(jù)進行可視化分析[2],數(shù)據(jù)降維方法常被用來產(chǎn)生數(shù)據(jù)的一個低維可視化表示。

    在計算機視覺和模式識別中,許多問題都是基于樣本點間的距離的,例如手勢識別和形狀識別等。在這些問題中,只知道樣本點間的相似性或者距離度量,而不知道樣本在原始空間的坐標(biāo)或者其對應(yīng)的特征向量。這時,可以使用嵌入算法來得到樣本點在對應(yīng)空間中的坐標(biāo)分布。在嵌入低維的情況下,也可以通過降維得到樣本的可視化表示。處理該類問題的嵌入算法有多維尺度分析(MultiDimensional Scaling, MDS)[3]、最 大 方 差 展 開 (Maximum Variance Unfolding, MVU)[4]、等距映射(Isometric Mapping, IsoMap)[5]和t分布隨機鄰域嵌入(t-Distributed Stochastic Neighbor Embedding, t-SNE)[6]等,它們都是利用所有樣本間的相似性或者距離信息來構(gòu)建樣本的低維表示,并使得樣本在低維空間中的結(jié)構(gòu)與高維空間的分布盡量保持一致[3,7]。

    然而,這類算法大部分都是將數(shù)據(jù)嵌入線性空間。在計算機視覺中,對于很多類型的數(shù)據(jù),其樣本都是分布在高維非線性空間中的,因此,將這些數(shù)據(jù)嵌入至低維線性空間是不可行的[8-9]。針對上述問題,出現(xiàn)了很多基于曲面的嵌入算法,例如將數(shù)據(jù)嵌入環(huán)形表面或者球面,以便對此類數(shù)據(jù)進行可視化研究。其中,關(guān)于球面嵌入的研究更為廣泛,而且球面嵌入算法有很多實際應(yīng)用,例如在地球模型表面的數(shù)據(jù)表示,或類球狀物表面的紋理貼圖等[8,10]。文獻[10-11] 中的算法都能夠有效地將數(shù)據(jù)嵌入至球面空間,它們都是基于MDS算法的改進,最終成功將數(shù)據(jù)嵌入到非線性空間[8]。這類算法的關(guān)鍵步驟是優(yōu)化過程,它們首先定義一個衡量嵌入質(zhì)量的目標(biāo)函數(shù)[8,10-11],然后通過優(yōu)化算法不斷調(diào)整低維空間中樣本點的位置來優(yōu)化目標(biāo)函數(shù)。文獻[11]中提出了一種球面MDS的嵌入算法,這是最早提出球面嵌入算法的論文之一。它用球面極坐標(biāo)來表示樣本點,用克魯斯克系數(shù)(Kruskal Stress)[11]構(gòu)造目標(biāo)函數(shù)。算法采用了最速下降法進行優(yōu)化,通過調(diào)整點在球面的位置來使目標(biāo)函數(shù)最小。文獻[8]中,提出了一種曲面流形嵌入算法,將已知的所有點對間距離的數(shù)據(jù)集嵌入恒定曲率的曲面空間,如球面或雙曲面,并且可求出該曲面空間的曲率半徑;該算法還可以將數(shù)據(jù)嵌入超球面空間。該算法的最大優(yōu)點是,在無需任何優(yōu)化的情況下,根據(jù)已知的對稱距離矩陣可以快速有效地將數(shù)據(jù)嵌入曲面空間,并估計出曲面空間的曲率半徑;但是,現(xiàn)有的球面嵌入算法的共同缺點是,必須利用所有點間的相似性或距離信息來進行嵌入。

    而對于許多高維數(shù)據(jù)來說,只有近鄰點間的相似性度量是比較可靠的,所以大多數(shù)非線性降維算法只采用近鄰點間的距離進行低維嵌入,例如MVU[4]、IsoMap[5]和局部線性嵌入(Locally Linear Embedding, LLE)[12]等。這些算法的本質(zhì)是,先找到每個樣本點的前K個近鄰點,通過優(yōu)化目標(biāo)函數(shù),使得近鄰點間的距離盡量保持不變,從而將非線性數(shù)據(jù)嵌入至線性空間。

    本文提出了一種新的球面嵌入算法,能夠在只知道近鄰點間距離的情況下將數(shù)據(jù)集嵌入到單位球面上,并盡量保持近鄰點間的結(jié)構(gòu)。這樣就實現(xiàn)了只利用近鄰點間的相似性信息,將非線性數(shù)據(jù)嵌入至球面空間。據(jù)考證,目前還沒有類似的算法,而本文是首次提出了基于近鄰點間距離的球面半徑未知情況下的球面嵌入算法。該方法用KL散度[13-14]來計算嵌入球面前后每對近鄰點間的相對分布差異,并基于此差異構(gòu)建出目標(biāo)函數(shù)。然后利用帶有動量的隨機梯度下降法[15-16]進行優(yōu)化,使得所有近鄰點間相對分布的差異之和最小。這樣就可以將任意尺度的高維數(shù)據(jù)嵌入到單位球面上。最后,利用嵌入前后所有近鄰點間的距離之和的比值,就可估計出適合原始數(shù)據(jù)分布的球面半徑。

    1 球面嵌入算法

    1.1 球面上的距離計算

    在球面坐標(biāo)系中,球面上的點的坐標(biāo)為xi=(θi,φi),極角θi表示向量xi與z軸的夾角,方位角φi表示向量xi與x軸的夾角。在球面上,兩點間的距離為兩向量間夾角對應(yīng)的球面上的弧長。若在半徑為r的球面上,兩點間的夾角記為Θij,則它們在此球面上的距離可表示為:

    dij=rΘij

    (1)

    Θij=cos-1(cosθicosθj+sinθisinθjcos(φi-φj))

    (2)

    1.2 球面嵌入算法

    首先,該算法將輸入的所有近鄰間的距離整體歸一化。對于樣本點xi和點xj,其歸一化距離為pij:

    (3)

    dij=‖xi-xj‖

    (4)

    嵌入單位球面空間后,用同樣的歸一化方法,可得到點yi與點yj的歸一化距離qij:

    (5)

    Θij=‖yi-yj‖

    (6)

    其中:Θij表示嵌入到單位球面上的兩點間的距離,也就是兩點對應(yīng)的向量間的夾角。另外,該算法中定義了一個系數(shù)因子w,當(dāng)點xi和點xj為近鄰時,wij=1,否則wij=0。算法將只利用wij=1的這部分歸一化距離進行數(shù)據(jù)嵌入。

    對于任意wij=1對應(yīng)的兩個近鄰點,如果嵌入單位球面后的歸一化距離qij和原始樣本點間的歸一化距離pij相等,就意味著嵌入前后這兩點的相對分布一致,因此,該算法的目標(biāo)就是在嵌入的球面空間中調(diào)整近鄰點的位置分布,使得每對近鄰點之間pij和qij的差異最小,進而使得所有近鄰點間的歸一化距離在嵌入前后的差異之和達到最小。本文利用KL散度作為衡量pij和qij間差異的指標(biāo),因此,所有近鄰點之間的KL散度之和構(gòu)成目標(biāo)函數(shù):

    (7)

    此目標(biāo)函數(shù)的梯度為:

    (8)

    (9)

    (10)

    (11)

    (12)

    (13)

    在該球面嵌入算法中,首先將單位球面上隨機產(chǎn)生的樣本點分布作為嵌入空間中的初始分布,然后采用帶有動量的隨機梯度下降法進行優(yōu)化,具體的迭代過程為:

    (14)

    (15)

    (16)

    (17)

    (18)

    式(16)中,α表示動量;k表示迭代次數(shù);Δyi表示在每次迭代后樣本點i的位置的變化量,帶動量的隨機梯度下降法每次都記錄這個位置變化,并利用梯度和前一次的位置變化量的組合得出新的位置變化量;ρ(k)表示第k次迭代的最佳步長,確定最佳步長的計算過程見式(18)。在式(18)中,D(yi) 為C(yi)的二階偏導(dǎo)數(shù)矩陣,詳細(xì)計算過程為:。

    (19)

    其中:

    (20)

    (21)

    (22)

    (23)

    (24)

    (25)

    (26)

    最后,在求得嵌入單位球面的樣本之后,即可利用嵌入前后近鄰點間的距離之和的比值,求出原始樣本分布的球面半徑R,公式如下:

    (27)

    2 實驗和結(jié)果分析

    為了驗證本文提出的球面嵌入算法的正確性,文中設(shè)計了兩類模擬數(shù)據(jù)進行測試,一類是球面均勻分布的數(shù)據(jù)集,另一類是球面正態(tài)分布的數(shù)據(jù)集。下面將在2.1節(jié)中詳細(xì)介紹產(chǎn)生這兩類模擬數(shù)據(jù)的過程,在2.2節(jié)中詳細(xì)介紹實驗過程和評價結(jié)果。

    2.1 模擬數(shù)據(jù)的產(chǎn)生

    下面介紹兩類模擬數(shù)據(jù)集:球面均勻分布的數(shù)據(jù)集和球面正態(tài)分布的數(shù)據(jù)集的產(chǎn)生過程。

    2.1.1 球面均勻分布的模擬數(shù)據(jù)集

    每個樣本點可表示為xi=(θi,φi),i=1,2,…,N,其中θi∈[0,π],φi∈[0,2π],N為樣本總數(shù)。首先模擬產(chǎn)生了隨機均勻分布于單位球面的N=2 000個樣本,然后利用式(2)計算出這些樣本兩兩間的夾角Θij,設(shè)半徑r為0.5,利用式(1),即可得到均勻分布于半徑為0.5的球面上的數(shù)據(jù)對應(yīng)的距離矩陣。

    2.1.2 球面正態(tài)分布的模擬數(shù)據(jù)集

    本實驗用Kent分布[17]模擬產(chǎn)生了位于單位球面上的正態(tài)分布數(shù)據(jù)。這個數(shù)據(jù)集(N=913)主要由三部分組成,一部分是呈圓形的正態(tài)分布,另兩部分都是呈橢圓形的正態(tài)分布,而且這兩個橢圓形分布的數(shù)據(jù),其分布大小和密度都不同。之后,得到一個分布于半徑為2的球面上的包含3個不同Kent分布的數(shù)據(jù)集對應(yīng)的距離矩陣。

    2.2 實驗結(jié)果

    在實驗中,先取每個樣本點和其前nn(nn∈[0,N])個近鄰點的距離構(gòu)成稀疏距離矩陣,將此作為球面嵌入算法的輸入。算法的輸出為所有樣本點在單位球面上的坐標(biāo)。通過此坐標(biāo)可以計算出嵌入單位球面空間后樣本點間的夾角Θij,然后利用式(27)計算出適合原始數(shù)據(jù)分布的球面半徑R。最后以均方根誤差(Root Mean Square Error, RMSE)為指標(biāo),衡量所有的原始數(shù)據(jù)兩兩間的夾角dij/r與嵌入球面后對應(yīng)的數(shù)據(jù)兩兩間的夾角Θij間的誤差,見式(28)。用近鄰均方根誤差(Root Mean Square Error between Nearest Neighbors, NN_RMSE)來表示原始數(shù)據(jù)的近鄰點間的夾角與嵌入球面后對應(yīng)的夾角之間的誤差,見式(29)。另外,半徑的估算誤差(Radius estimation Error, R_Error)計算見式(30)。

    (28)

    (29)

    (30)

    若這三個值越小,則說明將樣本嵌入球面空間的效果越好。

    對于球面均勻分布的數(shù)據(jù)集,設(shè)置近鄰點個數(shù)nn={N,0.75N,0.5N,0.25N,0.05N}進行實驗,由于該算法的初始化是隨機的,因此在每個參數(shù)設(shè)置下同一個實驗都重復(fù)運行3次。最后,對于半徑為r=0.5的數(shù)據(jù)的實驗結(jié)果匯總于表1。

    從表1中可以看出,針對不同的近鄰點個數(shù)設(shè)置,本文提出的嵌入算法都能得到較準(zhǔn)確的結(jié)果,所有的均方根誤差(RMSE)基本都小于0.000 01,并且,當(dāng)每個樣本點擁有的近鄰點數(shù)目越多,則算法嵌入的效果越好,得到的整體數(shù)據(jù)在單位球面上的分布與原始空間中的分布的一致性也越高。

    另外,對于半徑r=3.2 的球面均勻分布的數(shù)據(jù)也做了相同的實驗,并得到了類似的測試結(jié)果??梢妼鶆蚍植加谇蛎娴臄?shù)據(jù),該算法即使在非近鄰點間距離信息缺失較多的情況下,仍然能夠較準(zhǔn)確地還原出球面空間中數(shù)據(jù)的分布結(jié)構(gòu);而且算法還可以較精確地估算出適合數(shù)據(jù)分布的球面半徑。

    接著,對球面正態(tài)分布(Kent分布)的數(shù)據(jù)也進行了類似的測試,其球面半徑的設(shè)置為r=2,并取近鄰點個數(shù)nn={N,700,500,300},在每個參數(shù)設(shè)置下都重復(fù)運行3次,實驗結(jié)果見表1。在nn=300時,第一次運行的球面嵌入結(jié)果如圖1(a)所示。作為參照,圖1(b)顯示了原始數(shù)據(jù)的分布。

    表1 嵌入算法對兩類模擬數(shù)據(jù)的處理結(jié)果

    圖1 球面正態(tài)分布的數(shù)據(jù)

    實驗結(jié)果表明,對于球面正態(tài)分布的數(shù)據(jù),從圖1和表1都可以看出,其嵌入球面后的整體分布與原始分布比較接近,但是,整體嵌入后的誤差都明顯比表1中球面均勻分布數(shù)據(jù)的誤差大很多。另外,隨著近鄰點數(shù)目的減少,算法將其嵌入單位球面空間后,雖然可以較好地保持其近鄰點結(jié)構(gòu),但是非近鄰點間的分布卻與原始數(shù)據(jù)中的分布相差較大。例如表1中,對于球面正態(tài)分布的數(shù)據(jù)nn=300時,NN_RMSE都小于0.113,然而RMSE的值則都大于0.331;同時,對于適合原始數(shù)據(jù)分布的球面半徑的估算誤差也隨近鄰數(shù)的減小而增大。

    此外,由于初始化是隨機的,本文提出的算法有時會陷入局部極小,因此導(dǎo)致實驗結(jié)果的不穩(wěn)定。例如,表1中,對于球面均勻分布的數(shù)據(jù)nn=1 500時,三次運行結(jié)果波動很大,第三次實驗的運行結(jié)果中RMSE和NN_RMSE比前兩次對應(yīng)的誤差分別高了8個數(shù)量級。另外表1中, 對于球面正態(tài)分布的數(shù)據(jù)nn=913時,第二次運行結(jié)果的RMSE和NN_RMSE明顯比其他兩次運行結(jié)果的誤差低了8個數(shù)量級。所以,為保證實驗結(jié)果的準(zhǔn)確性和正確性,每個實驗都要經(jīng)過多次運算。

    3 結(jié)語

    本文首次提出了一種針對球面半徑未知且原始數(shù)據(jù)間的非近鄰距離缺失情況下的球面嵌入算法。該算法能夠在只已知近鄰點間距離的情況下,將任意尺度的數(shù)據(jù)嵌入至單位球面,還可以估算出適合原始數(shù)據(jù)分布的球面半徑。

    本文提出的算法對于球面均勻分布的數(shù)據(jù),在非近鄰點間距離信息缺失較多的情況下,仍然能得到較準(zhǔn)確的球面嵌入結(jié)果;但是,對于非均勻分布的數(shù)據(jù),嵌入球面空間后,雖然近鄰點間的相對位置可以較好地保持,但是無法準(zhǔn)確地還原非近鄰點間的相對位置,因此對于非均勻分布的數(shù)據(jù),球面嵌入算法還有待改進。

    )

    [1] 田守財,孫喜利,路永鋼.基于最近鄰的隨機非線性降維[J].計算機應(yīng)用,2016,36(2):377-381.(TIANSC,SUNXL,LUYG.Stochasticnonlineardimensionalityreductionbasedonnearestneighbors[J].JournalofComputerApplications, 2016, 36(2): 377-381.)

    [2] 郝曉軍,閆京海,樊友誼.大數(shù)據(jù)分析過程中的降維方法[J].航天電子對抗,2014(4):58-60.(HAOXJ,YANJH,FANYY.Dimensionalityreductionoflargevolumesofdataanalysis[J].AerospaceElectronicWarfare, 2014(4): 58-60).

    [3]COXMAA,COXTF.Multidimensionalscaling[J].EconometricInstituteResearchPapers, 2014, 46(2): 1050-1057.

    [4]WEINBERGERKQ,SAULLK.Unsupervisedlearningofimagemanifoldsbysemidefiniteprogramming[C]//Proceedingsofthe2004IEEEComputerSocietyConferenceonComputerVisionandPatternRecognition.Washington,DC:IEEEComputerSociety, 2004: 988-995.

    [5]TENENBAUMJB,DESILVAV,LANGFORDJC.Aglobalgeometricframeworkfornonlineardimensionalityreduction[J].Science, 2000, 290(5500): 2319-2323.

    [6]VANDERMAATENL,HINTONG.Visualizingdatausingt-SNE[J].JournalofMachineLearningResearch, 2008, 9(11): 2579-2605.

    [7]VANDERMAATENLJP,POSTMAEO,VANDENHERIKHJ.Dimensionalityreduction:acomparativereview[EB/OL]. [2016- 03- 08].https://static.aminer.org/pdf/PDF/000/272/419/comparative_investigation_on_dimension_reduction_and_regression_in_three_layer.pdf.

    [8]WILSONRC,HANCOCKER,PEKALSKAE,etal.Sphericalandhyperbolicembeddingsofdata[J].IEEETransactionsonPatternAnalysisandMachineIntelligence, 2014, 36(11): 2255-2269.

    [9]WILSONRC,HANCOCKER.Sphericalembeddingandclassification[C]//Proceedingsofthe2010JointIAPRInternationalConferenceonStructural,Syntactic,andStatisticalPatternRecognition.Berlin:Springer, 2010: 589-599.

    [10] ELAD A, KELLER Y, KIMMEL R. Texture mapping via spherical multi-dimensional scaling [C]// Scale Space and PDE Methods in Computer Vision, LNCS 3459. Berlin: Springer, 2005: 443-455.

    [11] COX M A A, COX T F. Multidimensional scaling on the sphere [M]// EDWARDS D, RAUN N E. Compstat. Berlin: Springer, 1988: 323-328.

    [12] ROWEIS S T, SAUL L K. Nonlinear dimensionality reduction by locally linear embedding [J]. Science, 2000, 290(5500):2323-2326.

    [13] KULLBACK S, LEIBLER R A. On information and sufficiency [J]. Annals of Mathematical Statistics, 1951, 22(1): 79-86.

    [14] KULLBACK S. Information Theory and Statistics [M]. Hoboken, NJ: John Wiley and Sons, 1959.

    [15] SUTSKEVER I. Training recurrent neural networks [EB/OL]. [2016- 02- 09]. http://www.cs.utoronto.ca/~ilya/pubs/ilya_sutskever_phd_thesis.pdf.

    [16] SUTSKEVER I, MARTENS J, DAHL G, et al. On the importance of initialization and momentum in deep learning [EB/OL]. [2016- 02- 09]. http://www.cs.toronto.edu/~hinton/absps/momentum.pdf.

    [17] KENT J T. The Fisher-Bingham distribution on the sphere [J]. Journal of the Royal Statistical Society, 1982, 44(1): 71-80.

    This work is partially supported by the National Natural Science Foundation of China (61272213), the Fundamental Research Funds for the Central Universities (lzujbky-2016-k07, lzujbky-2016-142).

    ZHANG Bianlan, born in 1991, M.S. candidate. Her research interests include pattern recognition.

    LU Yonggang, born in 1974, Ph.D., professor. His research interests include pattern recognition, artificial intelligence, bioinformatics.

    ZHANG Haitao, born in 1986, Ph.D. Her research interests include pattern recognition, software engineering.

    Spherical embedding algorithm based on Kullback-Leibler divergence and distances between nearest neighbor points

    ZHANG Bianlan, LU Yonggang*, ZHANG Haitao

    (SchoolofInformationScienceandEngineering,LanzhouUniversity,LanzhouGansu730000,China)

    Aiming at the problem that the existing spherical embedding algorithm cannot effectively embed the data into the low-dimensional space in the case that the distances between points far apart are inaccurate or absent, a new spherical embedding method was proposed, which can take the distances between the nearest neighbor points as input, and embeds high dimensional data of any scale onto the unit sphere, and then estimates the radius of the sphere which fit the distribution of the original data. Starting from a randomly generated spherical distribution, the Kullback-Leibler (KL) divergence was used to measure the difference of the normalized distance between each pair of neighboring points in the original space and the spherical space. Based on the difference, the objective function was constructed. Then, the stochastic gradient descent method with momentum was used to optimize the distribution of the points on the sphere until the result is stable. To test the algorithm, two types of spherical distribution data sets were simulated: which are spherical uniform distribution and Kent distribution on the unit sphere. The experimental results show that, for the uniformly distributed data, the data can be accurately embedded in the spherical space even if the number of neighbors is very small, the Root Mean Square Error (RMSE) of the embedded data distribution and the original data distribution is less than 0.000 01, and the spherical radius of the estimated error is less than 0.000 001; for spherical normal distribution data, the data can be embedded into the spherical space accurately when the number of neighbors is large. Therefore, in the case that the distance between points far apart are absent, the proposed method can still be quite accurate for low-dimensional data embedding, which is very helpful for the visualization of data.

    spherical embedding; Kullback-Leibler (KL) divergence; stochastic gradient descent method; nearest neighbor

    2016- 09- 19;

    2016- 11- 11。

    國家自然科學(xué)基金面上項目(61272213);中央高?;究蒲袠I(yè)務(wù)費專項資金資助項目(lzujbky-2016-k07,lzujbky-2016-142)。

    張變蘭 (1991—),女,山西呂梁人,碩士研究生,主要研究方向:模式識別; 路永鋼 (1974—),男,甘肅隴南人,教授,博士,CCF會員,主要研究方向:模式識別、人工智能、生物信息; 張海濤 (1986—),男,甘肅蘭州人,博士,主要研究方向:模式識別、軟件工程。

    1001- 9081(2017)03- 0680- 04

    10.11772/j.issn.1001- 9081.2017.03.680

    TP181

    A

    猜你喜歡
    點間均勻分布球面
    不在現(xiàn)場
    接觸壓力非均勻分布下彎曲孔道摩阻損失分析
    球面檢測量具的開發(fā)
    運營高鐵精測網(wǎng)復(fù)測線上CPⅡ更新判定指標(biāo)研究
    電磁感應(yīng)綜合應(yīng)用檢測題
    Heisenberg群上移動球面法的應(yīng)用——一類半線性方程的Liouville型定理
    圓錐曲線點間的最值問題
    考試周刊(2015年24期)2015-09-10 07:22:44
    球面穩(wěn)定同倫群中的ξn-相關(guān)元素的非平凡性
    隨機型值點間的插值軌跡規(guī)劃研究
    機械與電子(2014年3期)2014-02-28 02:07:48
    拉伸筋在球面拉伸件拉伸模具中的應(yīng)用
    河南科技(2014年6期)2014-02-27 14:06:32
    亚洲,欧美,日韩| 97在线人人人人妻| av在线老鸭窝| 人人妻人人澡人人爽人人夜夜| av在线观看视频网站免费| 国产av不卡久久| 毛片一级片免费看久久久久| 亚洲av不卡在线观看| 国产又色又爽无遮挡免| 精品国产一区二区三区久久久樱花 | 亚洲欧美一区二区三区国产| 久久这里有精品视频免费| 人体艺术视频欧美日本| 99热国产这里只有精品6| 欧美一区二区亚洲| 亚洲欧美日韩另类电影网站 | 熟女av电影| 身体一侧抽搐| 少妇丰满av| 18禁在线播放成人免费| 亚洲精品第二区| av专区在线播放| 日本黄大片高清| 七月丁香在线播放| 日韩成人av中文字幕在线观看| 春色校园在线视频观看| 亚洲国产精品国产精品| 成人免费观看视频高清| 久久国产乱子免费精品| 听说在线观看完整版免费高清| 最近2019中文字幕mv第一页| av专区在线播放| 交换朋友夫妻互换小说| 国产av不卡久久| 在线 av 中文字幕| av在线老鸭窝| 久久热精品热| 18禁在线播放成人免费| 人妻系列 视频| 人人妻人人看人人澡| 久久久久久九九精品二区国产| 国产欧美另类精品又又久久亚洲欧美| 久久久色成人| 成年女人在线观看亚洲视频 | 青春草国产在线视频| 成人午夜精彩视频在线观看| 2021天堂中文幕一二区在线观| 噜噜噜噜噜久久久久久91| 午夜激情福利司机影院| 一级毛片aaaaaa免费看小| 三级国产精品欧美在线观看| 欧美少妇被猛烈插入视频| 亚洲欧美中文字幕日韩二区| 国产成人午夜福利电影在线观看| 国产黄频视频在线观看| 成人漫画全彩无遮挡| 一级黄片播放器| 亚洲人成网站在线观看播放| 黄片无遮挡物在线观看| 美女xxoo啪啪120秒动态图| a级毛色黄片| 在线播放无遮挡| 午夜福利在线在线| 亚洲最大成人av| 久久久久性生活片| 在线播放无遮挡| 久久99蜜桃精品久久| 久久综合国产亚洲精品| 婷婷色av中文字幕| 精品少妇黑人巨大在线播放| 国产精品av视频在线免费观看| 性插视频无遮挡在线免费观看| 亚洲精品乱码久久久v下载方式| 少妇高潮的动态图| 欧美bdsm另类| 午夜福利视频1000在线观看| 少妇的逼水好多| 2022亚洲国产成人精品| 欧美性猛交╳xxx乱大交人| 久久久久国产精品人妻一区二区| 不卡视频在线观看欧美| 亚洲精品成人久久久久久| 国产高清有码在线观看视频| 内地一区二区视频在线| 黄色日韩在线| 国产av不卡久久| 亚洲欧美一区二区三区国产| 新久久久久国产一级毛片| 久久精品国产亚洲av天美| 国产成年人精品一区二区| 精品一区在线观看国产| 亚洲国产精品成人综合色| 亚洲va在线va天堂va国产| 日韩人妻高清精品专区| 亚洲av国产av综合av卡| 亚洲精品aⅴ在线观看| 午夜福利在线在线| 久久综合国产亚洲精品| 亚洲国产成人一精品久久久| 国产av码专区亚洲av| 日韩三级伦理在线观看| 男人爽女人下面视频在线观看| 亚洲三级黄色毛片| 国产爱豆传媒在线观看| 中国国产av一级| 香蕉精品网在线| 成人免费观看视频高清| 最近最新中文字幕免费大全7| 久久国内精品自在自线图片| 欧美日本视频| 日韩制服骚丝袜av| 一区二区三区免费毛片| 丝袜喷水一区| 交换朋友夫妻互换小说| 听说在线观看完整版免费高清| 嘟嘟电影网在线观看| 国产白丝娇喘喷水9色精品| 菩萨蛮人人尽说江南好唐韦庄| 亚洲四区av| 美女被艹到高潮喷水动态| 亚洲一区二区三区欧美精品 | 成人欧美大片| 欧美bdsm另类| 女人十人毛片免费观看3o分钟| 亚洲aⅴ乱码一区二区在线播放| 亚洲电影在线观看av| 天天躁夜夜躁狠狠久久av| 国产成人91sexporn| 美女xxoo啪啪120秒动态图| 国语对白做爰xxxⅹ性视频网站| 久久久久国产精品人妻一区二区| 精品人妻一区二区三区麻豆| 欧美激情国产日韩精品一区| 交换朋友夫妻互换小说| 一本色道久久久久久精品综合| 69av精品久久久久久| 建设人人有责人人尽责人人享有的 | 搡女人真爽免费视频火全软件| 嫩草影院精品99| 国产精品久久久久久精品电影小说 | 五月天丁香电影| 老女人水多毛片| 国产亚洲av片在线观看秒播厂| 麻豆久久精品国产亚洲av| 久久久久久久午夜电影| 欧美3d第一页| 全区人妻精品视频| 一级a做视频免费观看| 韩国高清视频一区二区三区| 最近中文字幕2019免费版| 777米奇影视久久| 一级黄片播放器| 国产毛片a区久久久久| 国产成人免费观看mmmm| 下体分泌物呈黄色| av在线亚洲专区| 亚洲av成人精品一二三区| 亚洲最大成人手机在线| 国产精品人妻久久久久久| 3wmmmm亚洲av在线观看| 春色校园在线视频观看| 亚洲精品一二三| 精品久久久久久久久亚洲| 亚洲国产最新在线播放| 日韩电影二区| 日韩不卡一区二区三区视频在线| 欧美xxxx性猛交bbbb| 国产一区二区三区综合在线观看 | 日韩免费高清中文字幕av| 久久这里有精品视频免费| 哪个播放器可以免费观看大片| 能在线免费看毛片的网站| 亚洲丝袜综合中文字幕| av免费观看日本| 最近手机中文字幕大全| 国产精品国产av在线观看| 黄片wwwwww| 亚洲精品国产av成人精品| 看黄色毛片网站| 久久精品久久久久久噜噜老黄| 高清欧美精品videossex| 熟女av电影| www.色视频.com| 久久精品夜色国产| 精品少妇黑人巨大在线播放| 精品午夜福利在线看| 成人鲁丝片一二三区免费| 国产高清不卡午夜福利| 国产一区二区亚洲精品在线观看| 蜜桃久久精品国产亚洲av| 我的老师免费观看完整版| 综合色丁香网| 美女被艹到高潮喷水动态| 婷婷色综合大香蕉| 亚洲四区av| 特级一级黄色大片| av又黄又爽大尺度在线免费看| 国产精品国产三级国产专区5o| 成人亚洲欧美一区二区av| 国产精品爽爽va在线观看网站| 亚洲精品乱码久久久v下载方式| 国内少妇人妻偷人精品xxx网站| 69av精品久久久久久| 欧美潮喷喷水| 美女国产视频在线观看| 人妻系列 视频| 人体艺术视频欧美日本| 我要看日韩黄色一级片| 又爽又黄a免费视频| 婷婷色麻豆天堂久久| 91精品伊人久久大香线蕉| 一级毛片aaaaaa免费看小| 男女下面进入的视频免费午夜| 精品一区二区三区视频在线| 国产老妇女一区| 听说在线观看完整版免费高清| 国产乱人偷精品视频| 只有这里有精品99| 婷婷色综合www| 高清视频免费观看一区二区| 亚洲欧洲日产国产| 亚洲精品乱码久久久v下载方式| 日韩人妻高清精品专区| 18禁在线无遮挡免费观看视频| 赤兔流量卡办理| 亚洲国产精品专区欧美| 久久99热6这里只有精品| 九九在线视频观看精品| 国产综合精华液| 国产高清三级在线| 五月伊人婷婷丁香| 最近2019中文字幕mv第一页| 大话2 男鬼变身卡| 最近中文字幕高清免费大全6| 黄色欧美视频在线观看| 亚洲精品成人久久久久久| 丝袜脚勾引网站| 白带黄色成豆腐渣| 男女国产视频网站| 又爽又黄a免费视频| 国产精品福利在线免费观看| 水蜜桃什么品种好| 美女脱内裤让男人舔精品视频| 久久综合国产亚洲精品| 成人综合一区亚洲| 99热国产这里只有精品6| 少妇 在线观看| 在线天堂最新版资源| 超碰av人人做人人爽久久| 丝袜喷水一区| 国产精品久久久久久精品电影| 天堂俺去俺来也www色官网| 国内精品美女久久久久久| 国产成人免费无遮挡视频| 少妇的逼水好多| 日韩大片免费观看网站| 成人鲁丝片一二三区免费| 国产高潮美女av| 亚洲婷婷狠狠爱综合网| 中文资源天堂在线| 777米奇影视久久| 免费黄网站久久成人精品| freevideosex欧美| 99久久精品国产国产毛片| 国产毛片a区久久久久| 狂野欧美激情性xxxx在线观看| 老师上课跳d突然被开到最大视频| 久久国产乱子免费精品| 18禁裸乳无遮挡免费网站照片| 久久久久久久亚洲中文字幕| 国产 一区 欧美 日韩| 国内精品美女久久久久久| 亚洲av免费在线观看| 最后的刺客免费高清国语| 特大巨黑吊av在线直播| 精品酒店卫生间| 免费av毛片视频| 王馨瑶露胸无遮挡在线观看| 亚洲天堂国产精品一区在线| 国产黄片美女视频| 97超视频在线观看视频| 一级毛片我不卡| 男女无遮挡免费网站观看| 亚洲精品亚洲一区二区| 免费大片18禁| 亚洲精品乱码久久久v下载方式| 欧美三级亚洲精品| 有码 亚洲区| 亚洲精品中文字幕在线视频 | 啦啦啦啦在线视频资源| 欧美精品一区二区大全| 国产在视频线精品| 色综合色国产| 精品国产一区二区三区久久久樱花 | 蜜桃久久精品国产亚洲av| 最近的中文字幕免费完整| 五月开心婷婷网| 高清av免费在线| 久久久久性生活片| 欧美区成人在线视频| 97人妻精品一区二区三区麻豆| 精品久久久久久久末码| 国产伦精品一区二区三区四那| 亚洲天堂av无毛| 亚洲四区av| 特级一级黄色大片| 18禁裸乳无遮挡动漫免费视频 | 亚洲国产高清在线一区二区三| 午夜免费鲁丝| 少妇的逼水好多| www.色视频.com| 久久精品久久久久久久性| 伦理电影大哥的女人| xxx大片免费视频| 中文字幕制服av| 国产高潮美女av| 亚洲高清免费不卡视频| 亚洲av中文字字幕乱码综合| 欧美日韩精品成人综合77777| 亚洲国产精品成人久久小说| 久久久久国产网址| 久久人人爽人人爽人人片va| 亚洲av不卡在线观看| 精品国产露脸久久av麻豆| 国国产精品蜜臀av免费| 成人亚洲精品av一区二区| 你懂的网址亚洲精品在线观看| av一本久久久久| 久久久久性生活片| 不卡视频在线观看欧美| 色哟哟·www| 蜜桃久久精品国产亚洲av| 2022亚洲国产成人精品| 国模一区二区三区四区视频| 国产日韩欧美在线精品| 国产极品天堂在线| 男男h啪啪无遮挡| 可以在线观看毛片的网站| 少妇人妻一区二区三区视频| 一本久久精品| 成人美女网站在线观看视频| 久久99精品国语久久久| 日韩欧美精品免费久久| 久久久精品免费免费高清| 日韩伦理黄色片| 水蜜桃什么品种好| 一个人看的www免费观看视频| 亚洲国产欧美人成| 国产爽快片一区二区三区| 麻豆久久精品国产亚洲av| 天美传媒精品一区二区| 一级爰片在线观看| 日韩av在线免费看完整版不卡| 一区二区三区乱码不卡18| 久久久久久久久久人人人人人人| 国模一区二区三区四区视频| av.在线天堂| 久久久久九九精品影院| 欧美区成人在线视频| 日韩欧美精品免费久久| 国产有黄有色有爽视频| 一级毛片我不卡| 九九在线视频观看精品| 插阴视频在线观看视频| 免费观看在线日韩| 日本一二三区视频观看| 免费观看av网站的网址| 春色校园在线视频观看| 欧美xxⅹ黑人| 亚洲成人久久爱视频| 日韩一本色道免费dvd| 人妻少妇偷人精品九色| 22中文网久久字幕| 亚洲人与动物交配视频| 亚洲av国产av综合av卡| 国产视频内射| 少妇人妻一区二区三区视频| 蜜桃久久精品国产亚洲av| 亚洲美女视频黄频| 尤物成人国产欧美一区二区三区| 99久久中文字幕三级久久日本| 国产亚洲av片在线观看秒播厂| 99久久中文字幕三级久久日本| 观看免费一级毛片| 中文精品一卡2卡3卡4更新| 日韩电影二区| 我要看日韩黄色一级片| 99re6热这里在线精品视频| 久久久久久久精品精品| 精品酒店卫生间| 大片免费播放器 马上看| 亚洲av二区三区四区| 欧美成人a在线观看| 国产老妇女一区| 日本一二三区视频观看| 1000部很黄的大片| 狂野欧美激情性bbbbbb| 日产精品乱码卡一卡2卡三| 欧美3d第一页| 少妇人妻 视频| 国产日韩欧美亚洲二区| 国产一区亚洲一区在线观看| 精品久久久久久久人妻蜜臀av| 激情 狠狠 欧美| 人妻一区二区av| 91在线精品国自产拍蜜月| 女人久久www免费人成看片| 国产免费视频播放在线视频| 国产精品久久久久久久电影| 简卡轻食公司| 国产精品成人在线| 女的被弄到高潮叫床怎么办| 久久久久久久久大av| 我要看日韩黄色一级片| kizo精华| 国精品久久久久久国模美| 黄色日韩在线| 春色校园在线视频观看| 久久久久久九九精品二区国产| 一级黄片播放器| 国产 一区精品| 中文字幕免费在线视频6| 成人国产麻豆网| 最近最新中文字幕大全电影3| 亚洲自偷自拍三级| 欧美变态另类bdsm刘玥| 久久影院123| 国产探花极品一区二区| 嫩草影院入口| 日本-黄色视频高清免费观看| 亚洲精品日本国产第一区| 91午夜精品亚洲一区二区三区| 免费在线观看成人毛片| 国产精品无大码| 欧美高清性xxxxhd video| 国产成人免费观看mmmm| 中文字幕久久专区| 我要看日韩黄色一级片| 国产成人精品福利久久| 亚洲精品国产av成人精品| 人妻夜夜爽99麻豆av| 亚洲精品第二区| 亚洲天堂av无毛| 国产爽快片一区二区三区| 亚洲成人中文字幕在线播放| 精品亚洲乱码少妇综合久久| 国产黄a三级三级三级人| 熟女av电影| 国产黄片视频在线免费观看| 精品国产露脸久久av麻豆| 在线免费十八禁| 亚洲一区二区三区欧美精品 | 欧美日韩在线观看h| 久久久久久久大尺度免费视频| 99久久精品热视频| 久久久a久久爽久久v久久| 欧美国产精品一级二级三级 | 国产又色又爽无遮挡免| 国精品久久久久久国模美| 国产熟女欧美一区二区| 亚洲成人久久爱视频| 精品人妻视频免费看| 蜜桃久久精品国产亚洲av| 五月玫瑰六月丁香| 亚洲精华国产精华液的使用体验| 深爱激情五月婷婷| 久久国内精品自在自线图片| 欧美日本视频| videossex国产| 亚洲欧美一区二区三区黑人 | 欧美成人一区二区免费高清观看| 国产午夜福利久久久久久| 日韩 亚洲 欧美在线| 日本色播在线视频| 中文在线观看免费www的网站| 亚洲欧洲日产国产| 国产一区二区三区综合在线观看 | 蜜桃久久精品国产亚洲av| 国产精品人妻久久久影院| 国产精品国产av在线观看| 女人十人毛片免费观看3o分钟| 欧美日韩一区二区视频在线观看视频在线 | 亚洲人成网站高清观看| 日韩强制内射视频| 亚洲经典国产精华液单| 精品人妻熟女av久视频| 美女主播在线视频| 成人综合一区亚洲| 男女边吃奶边做爰视频| 欧美一级a爱片免费观看看| 成人毛片a级毛片在线播放| 亚洲av日韩在线播放| 日韩欧美精品免费久久| 搞女人的毛片| 嫩草影院精品99| 在线精品无人区一区二区三 | freevideosex欧美| 国模一区二区三区四区视频| 精品少妇黑人巨大在线播放| 成人特级av手机在线观看| 午夜免费观看性视频| 国产亚洲午夜精品一区二区久久 | 18禁裸乳无遮挡动漫免费视频 | 亚洲av成人精品一二三区| 蜜桃久久精品国产亚洲av| 欧美bdsm另类| 丝瓜视频免费看黄片| 欧美bdsm另类| 丝瓜视频免费看黄片| 国产精品秋霞免费鲁丝片| 国产精品蜜桃在线观看| 黄片无遮挡物在线观看| 男人狂女人下面高潮的视频| 国产 一区精品| 中文字幕制服av| 26uuu在线亚洲综合色| 别揉我奶头 嗯啊视频| 亚洲伊人久久精品综合| 高清在线视频一区二区三区| 最新中文字幕久久久久| 精品99又大又爽又粗少妇毛片| 最新中文字幕久久久久| 久久精品国产鲁丝片午夜精品| 我的女老师完整版在线观看| 男女那种视频在线观看| 中文精品一卡2卡3卡4更新| 99久久精品一区二区三区| 激情五月婷婷亚洲| 亚洲精华国产精华液的使用体验| 一个人观看的视频www高清免费观看| 亚洲第一区二区三区不卡| 天堂俺去俺来也www色官网| 色吧在线观看| 亚洲国产精品999| 精品久久久精品久久久| 亚洲精品自拍成人| av线在线观看网站| 丰满乱子伦码专区| av福利片在线观看| 青春草国产在线视频| 丰满人妻一区二区三区视频av| 国产毛片在线视频| 美女cb高潮喷水在线观看| 国产精品成人在线| 国产成人a区在线观看| 日本爱情动作片www.在线观看| 大话2 男鬼变身卡| 欧美极品一区二区三区四区| 97在线视频观看| av天堂中文字幕网| 韩国高清视频一区二区三区| 日日撸夜夜添| 国产伦在线观看视频一区| 国模一区二区三区四区视频| 久久久午夜欧美精品| 老女人水多毛片| 18禁在线播放成人免费| 国产午夜福利久久久久久| 香蕉精品网在线| 麻豆国产97在线/欧美| 久久女婷五月综合色啪小说 | 欧美区成人在线视频| 成年免费大片在线观看| 中国三级夫妇交换| 日韩,欧美,国产一区二区三区| 麻豆成人午夜福利视频| 一区二区av电影网| 尾随美女入室| 在线 av 中文字幕| 少妇人妻 视频| 91精品一卡2卡3卡4卡| 禁无遮挡网站| 精品国产乱码久久久久久小说| av专区在线播放| 欧美日韩国产mv在线观看视频 | 超碰av人人做人人爽久久| 国产成人精品久久久久久| 国产精品蜜桃在线观看| 久久精品综合一区二区三区| 99视频精品全部免费 在线| 国产亚洲一区二区精品| 久久人人爽人人爽人人片va| 国产成人freesex在线| 国语对白做爰xxxⅹ性视频网站| 国产精品偷伦视频观看了| 黄色欧美视频在线观看| 国产精品久久久久久av不卡| 2021天堂中文幕一二区在线观| 国产免费又黄又爽又色| 国产成人a∨麻豆精品| 只有这里有精品99| 中文字幕久久专区| 久久午夜福利片| 亚洲欧美日韩无卡精品| 成年女人在线观看亚洲视频 | 欧美精品人与动牲交sv欧美| 亚洲不卡免费看| 免费大片18禁| 人妻夜夜爽99麻豆av| 久久精品国产a三级三级三级| 超碰av人人做人人爽久久| 91久久精品电影网| 尤物成人国产欧美一区二区三区| 午夜亚洲福利在线播放| 日韩人妻高清精品专区| av在线老鸭窝| 久久韩国三级中文字幕| 亚洲欧美精品专区久久| 可以在线观看毛片的网站| 能在线免费看毛片的网站| 日本午夜av视频| 可以在线观看毛片的网站| 18禁裸乳无遮挡免费网站照片| 亚洲欧美日韩无卡精品| 精品久久久久久久人妻蜜臀av|