• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    非平坦函數(shù)概率密度估計(jì)*

    2016-05-25 07:59:01汪洪橋蔡艷寧付光遠(yuǎn)王仕成
    計(jì)算機(jī)與生活 2016年4期
    關(guān)鍵詞:支持向量機(jī)

    汪洪橋,蔡艷寧,付光遠(yuǎn),王仕成

    1.第二炮兵工程大學(xué)信息工程系,西安7100252.第二炮兵工程大學(xué)理學(xué)院,西安7100253.第二炮兵工程大學(xué)控制工程系,西安710025

    ISSN 1673-9418 CODEN JKYTA8

    Journal of Frontiers of Computer Science and Technology

    1673-9418/2016/10(04)-0589-11

    ?

    非平坦函數(shù)概率密度估計(jì)*

    汪洪橋1+,蔡艷寧2,付光遠(yuǎn)1,王仕成3

    1.第二炮兵工程大學(xué)信息工程系,西安710025
    2.第二炮兵工程大學(xué)理學(xué)院,西安710025
    3.第二炮兵工程大學(xué)控制工程系,西安710025

    ISSN 1673-9418 CODEN JKYTA8

    Journal of Frontiers of Computer Science and Technology

    1673-9418/2016/10(04)-0589-11

    E-mail: fcst@vip.163.com

    http://www.ceaj.org

    Tel: +86-10-89056056

    * The National Natural Science Foundation for Young Scientists of China under Grant Nos. 61202332, 61403397 (國(guó)家自然科學(xué)青年基金); the Postdoctoral Science Foundation of China under Grant No. 2012M521905 (中國(guó)博士后科學(xué)基金); the Natural Science Foundation of Shaanxi Province under Grant No. 2015JM6313 (陜西省自然科學(xué)基礎(chǔ)研究計(jì)劃項(xiàng)目).

    Received 2015-04,Accepted 2015-06.

    CNKI網(wǎng)絡(luò)優(yōu)先出版: 2015-06-10, http://www.cnki.net/kcms/detail/11.5602.TP.20150610.1708.003.html

    Key words: probability density estimation; support vector machine (SVM); multiple kernel learning; non-flat function

    摘要:針對(duì)非平坦函數(shù)的概率密度估計(jì)問(wèn)題,通過(guò)改進(jìn)支持向量機(jī)(support vector machine,SVM)概率密度估計(jì)模型約束條件的形式,并引入多尺度核方法,構(gòu)建了一種單松弛因子多尺度核支持向量機(jī)概率密度估計(jì)模型。該模型采用合并的單個(gè)松弛因子來(lái)控制支持向量機(jī)的學(xué)習(xí)誤差,減小了模型的計(jì)算復(fù)雜度;同時(shí)引入了多尺度核方法,使得模型既能適應(yīng)函數(shù)劇烈變化的區(qū)域,也能適應(yīng)平緩變化的區(qū)域?;趲追N典型非平坦函數(shù)進(jìn)行概率密度估計(jì)實(shí)驗(yàn),結(jié)果證明,單松弛因子概率密度估計(jì)模型比常規(guī)支持向量機(jī)概率密度估計(jì)模型具有更快的學(xué)習(xí)速度;且相比于單核方法,多尺度核支持向量機(jī)概率密度估計(jì)模型具有更優(yōu)的估計(jì)精度。

    關(guān)鍵詞:概率密度估計(jì);支持向量機(jī)(SVM);多核學(xué)習(xí);非平坦函數(shù)

    1 引言

    概率密度具有廣泛的應(yīng)用,比如可用于數(shù)據(jù)挖掘中的聚類分析以及電子器件壽命估計(jì)和排隊(duì)論。在一些情況下人們可以知道密度服從的分布,如電子器件壽命服從指數(shù)分布以及排隊(duì)理論服從泊松分布,它們的密度可以通過(guò)樣本矩估計(jì)或極大似然估計(jì)等參數(shù)估計(jì)方法得到概率密度。但在實(shí)際應(yīng)用中很多時(shí)候人們并不知道概率密度服從的分布,這時(shí)可根據(jù)樣本進(jìn)行回歸估計(jì)得到實(shí)際概率密度的一個(gè)近似估計(jì)。

    概率密度估計(jì)方法可分為參數(shù)估計(jì)和非參數(shù)估計(jì)兩大類。參數(shù)估計(jì)的代表方法為極大似然法,該方法有一定的局限性,比如無(wú)法估計(jì)幾個(gè)正態(tài)分布混合而成的概率密度函數(shù)[1-2]。相比之下,非參數(shù)概率密度估計(jì)具有更廣泛的應(yīng)用范圍,最具有代表性的方法為Parzen窗密度估計(jì)器[3],它是一類經(jīng)典的核密度估計(jì)器。該方法的缺點(diǎn)為不具備稀疏性,當(dāng)要預(yù)測(cè)新樣本的概率密度值時(shí),需要涉及樣本集中的所有樣本,計(jì)算量大。因此,長(zhǎng)期以來(lái)人們希望尋求一種方法,只使用訓(xùn)練樣本中的某一些對(duì)概率密度估計(jì)影響較大的樣本,而不是全部訓(xùn)練樣本來(lái)估計(jì)概率密度,即尋求一種稀疏解[4],以減少計(jì)算量,縮短運(yùn)算時(shí)間,增強(qiáng)實(shí)用性。

    支持向量機(jī)(support vector machine,SVM)的解只與訓(xùn)練樣本中的支持向量有關(guān),因此它提供了一種良好的得到稀疏解的方法[5]。該方法的思路很簡(jiǎn)單:首先從經(jīng)驗(yàn)累積的分布函數(shù)值估計(jì)一個(gè)近似的分布函數(shù),然后對(duì)它微分,即可得到密度函數(shù)。其中用到了SVM求解線性算子方程的方法,通過(guò)該方法可以得到形式類似于Parzen窗的稀疏概率密度估計(jì)[6-7]。基于簡(jiǎn)單核函數(shù)的支持向量估計(jì)在眾多的應(yīng)用領(lǐng)域有效并且實(shí)用,但都是基于單個(gè)特征空間的單核方法。由于不同的核函數(shù)具有的特性并不相同,從而使得在不同的應(yīng)用場(chǎng)合,核函數(shù)的性能表現(xiàn)差別很大,且核函數(shù)的構(gòu)造或選擇至今沒(méi)有完善的理論依據(jù)。此外,當(dāng)樣本特征分布含有異構(gòu)特性或數(shù)據(jù)在特征空間分布不平坦[8-9]時(shí),采用單個(gè)簡(jiǎn)單核進(jìn)行映射的方式對(duì)樣本特征統(tǒng)一進(jìn)行處理并不合理。對(duì)于密度估計(jì)問(wèn)題也是一樣,比如概率密度函數(shù)往往可能由多個(gè)函數(shù)混合而成,其結(jié)果是函數(shù)自身同時(shí)包含了快速變化和平緩變化,這樣的函數(shù)稱為非平坦函數(shù)(non-flat function)。因此,要解決非平坦函數(shù)的概率密度估計(jì)問(wèn)題,簡(jiǎn)單的單核函數(shù)支持向量機(jī)模型可能并不能獲得最優(yōu)的結(jié)果。

    為有效解決非平坦函數(shù)的概率密度估計(jì)問(wèn)題,本文采用改進(jìn)支持向量機(jī)概率密度估計(jì)模型約束條件形式的方法,構(gòu)建了一種單松弛因子支持向量機(jī)概率密度估計(jì)模型。在此基礎(chǔ)上,通過(guò)引入多尺度核方法,提出了單松弛因子多尺度核支持向量機(jī)模型,并將其用于非平坦函數(shù)的概率密度估計(jì)。仿真實(shí)驗(yàn)證明,單松弛因子概率密度估計(jì)模型比常規(guī)支持向量機(jī)概率密度估計(jì)模型具有更快的學(xué)習(xí)速度。同時(shí),相比于單核方法,多尺度核支持向量機(jī)概率密度估計(jì)模型具有更優(yōu)的估計(jì)精度。

    本文組織結(jié)構(gòu)如下:第2章對(duì)支持向量機(jī)概率密度估計(jì)的原理進(jìn)行簡(jiǎn)要介紹;第3章詳述了單松弛因子支持向量機(jī)和單松弛因子多尺度核支持向量機(jī)概率密度估計(jì)模型,并分析了算法復(fù)雜度;第4章構(gòu)建了幾組非平坦概率密度函數(shù)仿真實(shí)例,利用新建模型進(jìn)行了實(shí)驗(yàn);最后對(duì)全文進(jìn)行了總結(jié)。

    2 支持向量機(jī)概率密度估計(jì)

    其中,θ(u)的取值為:

    Kolmogorov-Smirnov分布解釋了真實(shí)分布F(x)與經(jīng)驗(yàn)分布Fl(x)間的關(guān)系[10]。

    設(shè)樣本集D={x1,x2,…,xl}中樣本的概率密度為p(x),令xi={xi,1,xi,2,…,xi,m}?Rm,i=1,2,…,l,滿足獨(dú)立同分布。支持向量機(jī)概率密度估計(jì)問(wèn)題的目標(biāo)為以核密度的形式估計(jì)未知的概率密度p(x),其形式為:

    約束條件為:

    其分布函數(shù)的估計(jì)形式為:

    其中,k(x,xi)和K(x,xi)滿足關(guān)系:

    在支持向量機(jī)概率密度估計(jì)方法中,欲尋求p(x)的一種稀疏表示,即大部分的βi為0,βi不為0的樣本xi決定了概率密度函數(shù)p(x)的形式。該函數(shù)所滿足的條件為:

    約束條件為:

    借鑒采用ε不敏感損失函數(shù)支持向量回歸機(jī)的思想,概率密度估計(jì)問(wèn)題轉(zhuǎn)化為以下二次規(guī)劃問(wèn)題[13]:

    核函數(shù)k(x,xi)和K(x,xi)常用的形式為:

    當(dāng)k(×,×)取式(12)的形式時(shí),K(×,×)應(yīng)滿足式(13):

    其中,Q(x)滿足:

    當(dāng)k(×,×)取式(15)的形式時(shí),相應(yīng)的K(×,×)如式(16)所示:

    3 單松弛因子多尺度核支持向量機(jī)概率密度估計(jì)

    3.1單松弛因子支持向量機(jī)概率密度估計(jì)模型

    文獻(xiàn)[14]針對(duì)支持向量機(jī)的分類和回歸的二次規(guī)劃和線性規(guī)劃問(wèn)題對(duì)松弛因子進(jìn)行了合并。借鑒這種思想,本文對(duì)支持向量機(jī)概率密度估計(jì)模型進(jìn)行了簡(jiǎn)化,提出了單松弛因子概率密度估計(jì)模型。支持向量機(jī)概率密度估計(jì)模型的對(duì)偶形式并不能提高優(yōu)化問(wèn)題的結(jié)構(gòu),因此采用的是對(duì)原模型直接進(jìn)行優(yōu)化的方式,松弛因子也在解的尋優(yōu)范圍內(nèi)。因此如能在不影響概率密度形式的前提下將兩類松弛因子進(jìn)行合并,那么模型的計(jì)算復(fù)雜度將會(huì)減小。在支持向量機(jī)概率密度估計(jì)問(wèn)題(11)中引入兩個(gè)松弛因子ξ和ξ*來(lái)控制誤差的大小。在單松弛因子概率密度估計(jì)模型中采用單個(gè)松弛因子ξ來(lái)控制誤差,給出單松弛因子概率密度估計(jì)模型如式(17)所示。

    定理1支持向量機(jī)概率密度估計(jì)模型(11)與單松弛因子支持向量機(jī)概率密度估計(jì)模型(17)等價(jià),且關(guān)于β=(β1,β2,…,βl)的最優(yōu)解相同。

    證明當(dāng)優(yōu)化問(wèn)題(11)取最優(yōu)解時(shí),有下式成立:

    式(11)的目標(biāo)函數(shù)可寫(xiě)成:

    該式等價(jià)于:

    當(dāng)單松弛因子支持向量機(jī)概率密度估計(jì)模型取最優(yōu)解時(shí),有下式成立:

    因此單松弛因子支持向量機(jī)概率密度估計(jì)模型與原模型的目標(biāo)函數(shù)等價(jià)。

    因此兩個(gè)問(wèn)題的約束條件也等價(jià)。

    其中,(ξ1')i=(|d1i|-εi,0)+,(ξ2')i=(-d2i-εi)+,(ξ*2')i= (d2i-εi)+。

    因?yàn)?β1,ξ1,ξ*1)為優(yōu)化問(wèn)題(11)的最優(yōu)解,所以有:

    將式(25)和(26)聯(lián)立,可以得出:

    因?yàn)?β2,ξ2)為優(yōu)化問(wèn)題(17)的最優(yōu)解,所以有下式成立:

    聯(lián)合式(27)和式(28)可以得出W2(β2,ξ2)=W2(β1,ξ1')。因?yàn)閮?yōu)化問(wèn)題(17)解唯一,所以有β1=β2成立?!?/p>

    將單松弛因子支持向量機(jī)概率密度估計(jì)模型寫(xiě)成矩陣的形式為:

    其中c、A、s、F的形式分別為:

    式(30)中,β=(β1,β2,…,βl),ξ=(ξ1,ξ2,…,ξl),1表示l′1的全1向量,I表示l′l的單位矩陣,ε=(ε1, ε2,…,εl)T,F(xiàn)l=(Fl(x1),Fl(x2),…,Fl(xl))T,ki,j=k(xi,xj),Ki,j=K(xi,xj),i,j=1,2,…,l。

    3.2單松弛因子多尺度核支持向量機(jī)概率密度估計(jì)模型

    基于多核學(xué)習(xí)方法[15-16]構(gòu)建的多核模型,是一類靈活性更強(qiáng)的基于核的學(xué)習(xí)模型。近來(lái)的理論和應(yīng)用已經(jīng)證明利用多核代替單核能增強(qiáng)決策函數(shù)的解釋能力(interpretability),并提高性能。構(gòu)造多核模型,最簡(jiǎn)單也最常用的一種方法就是考慮多個(gè)基本核函數(shù)的凸組合,形如:

    這里Kj是基本核函數(shù);m是基本核的總個(gè)數(shù);βj是權(quán)系數(shù)。因此,在多核框架下,樣本在特征空間中的表示問(wèn)題轉(zhuǎn)化成為基本核與權(quán)系數(shù)的選擇問(wèn)題。

    多核學(xué)習(xí)方法的一種特殊化情形就是將多個(gè)尺度的核進(jìn)行融合[17-18]。這種方法更具靈活性,并且能比合成核方法提供更完備的尺度選擇。此外,隨著多尺度分析理論的不斷成熟與完善,多尺度核方法通過(guò)引入尺度空間,使其具有很好的理論背景,對(duì)基于核方法的機(jī)器學(xué)習(xí)又是一次大的擴(kuò)展。多尺度核方法的基礎(chǔ)就是要找到一組具有多尺度表示能力的核函數(shù)。在被廣泛使用的核函數(shù)中,高斯徑向基核是最受歡迎的,因?yàn)樗哂型ㄓ闷毡榈慕颇芰?,同時(shí)也是一種典型的可多尺度化核。

    對(duì)于概率密度估計(jì)問(wèn)題中的合成概率密度,對(duì)應(yīng)的,可以構(gòu)建多尺度核支持向量機(jī)概率密度估計(jì)模型,其概率密度的形式為:

    其中kr(×,×)為具有多尺度表示能力的核函數(shù)。令與kr(×,×)相對(duì)應(yīng)的核寬度為ρr,則求取p(x)需要求解的線性規(guī)劃的形式為:

    定理2多尺度核支持向量機(jī)概率密度估計(jì)模型(33)可以簡(jiǎn)化為:

    定理2的證明思路與定理1類似,不再贅述?!?/p>

    式(34)即為單松弛因子多尺度核概率密度估計(jì)模型,將其寫(xiě)成矩陣的形式為:

    其中c、A、s、F的形式為:

    式(36)中,βr=(β1,r,β2,r,…,βl,r),ξ=(ξ1,ξ2,…,ξl),1表示l′1的全1向量,I表示l′l的單位矩陣,ε= (ε1,ε2,…,εl)T,F(xiàn)l=(Fl(x1),Fl(x2),…,Fl(xl))T,(Kr)i,j= Kr(xi,xj),i,j=1,2,…,l,r=1,2,…,n。

    3.3算法復(fù)雜度分析

    單松弛因子支持向量機(jī)概率密度估計(jì)模型(17)的本質(zhì)為二次規(guī)劃問(wèn)題。令訓(xùn)練集中樣本的個(gè)數(shù)為l,則該問(wèn)題含有2l個(gè)變量。求解該問(wèn)題的空間復(fù)雜度主要體現(xiàn)在對(duì)式(29)中k和A的存儲(chǔ)上,存儲(chǔ)k的空間復(fù)雜度為O(l2),存儲(chǔ)A的空間復(fù)雜度為O(4l2),時(shí)間復(fù)雜度為O(8l3)。該模型需優(yōu)化的變量的個(gè)數(shù)只為原模型(11)的2/3。單松弛因子多尺度核支持向量機(jī)概率密度估計(jì)模型的本質(zhì)為線性規(guī)劃問(wèn)題。令模型中含有n個(gè)核函數(shù),則需要優(yōu)化的變量個(gè)數(shù)為(n+1)l個(gè),而原優(yōu)化問(wèn)題(35)需要優(yōu)化的變量的個(gè)數(shù)為(n+2)l。因此選取的核函數(shù)越少,前者的優(yōu)勢(shì)越明顯。非耦合數(shù)據(jù)合成概率密度估計(jì)方法的本質(zhì)為利用數(shù)據(jù)樣本集合的先驗(yàn)知識(shí),將合成概率密度估計(jì)問(wèn)題轉(zhuǎn)化成一系列子問(wèn)題進(jìn)行求解,從而簡(jiǎn)化了優(yōu)化問(wèn)題的規(guī)模。

    4 仿真實(shí)驗(yàn)及結(jié)果分析

    下面通過(guò)3種典型的非平坦函數(shù),對(duì)單松弛因子多尺度核支持向量機(jī)概率密度估計(jì)模型進(jìn)行仿真實(shí)驗(yàn)。

    4.1非平坦高斯分布函數(shù)仿真實(shí)例

    由分布密度(37)構(gòu)建非平坦高斯分布函數(shù),并產(chǎn)生100個(gè)隨機(jī)樣本。

    取μ1=0,σ1=1,μ2=6,σ2=3。SVM模型訓(xùn)練時(shí),多尺度核選取兩尺度的高斯核函數(shù),其尺度參數(shù)分別為ρ1=2,ρ2=1,訓(xùn)練支持向量機(jī)模型時(shí)懲罰系數(shù)C=30,觀察式(37)可知,x以先驗(yàn)概率0.2和0.8所屬于兩類。首先按照先驗(yàn)概率和類分布情況已知的情形對(duì)p(x)進(jìn)行估計(jì),采用單松弛因子多尺度核概率密度估計(jì)結(jié)果如圖1所示。假定由概率密度(37)生成的樣本集合的子類分布及先驗(yàn)概率未知,選取兩個(gè)具有不同尺度的核函數(shù)(12),采用單松弛因子多尺度核概率密度估計(jì)方法(34)所得的估計(jì)結(jié)果如圖2所示。

    常規(guī)SVM概率密度估計(jì)模型、單松弛因子SVM概率密度估計(jì)模型和單松弛因子多尺度核概率密度估計(jì)模型各運(yùn)行20次,3種模型的運(yùn)行時(shí)間如圖3所示。通過(guò)取平均值,常規(guī)SVM算法的平均運(yùn)行時(shí)間為1.99 s,單松弛因子模型為1.31 s,單松弛因子多尺度核模型為1.33 s,可見(jiàn)改進(jìn)后的單松弛因子模型提高了運(yùn)算效率。雖然多尺度核模型增加了一個(gè)核函數(shù),但SVM的運(yùn)算量絕大部分都在其優(yōu)化過(guò)程,多核方法帶來(lái)的時(shí)間變化不大,損失可忽略不計(jì)。

    Fig.1 Probability distribution and probability density estimation results with known classification圖1 分類已知條件下概率分布和密度估計(jì)結(jié)果

    Fig.2 Probability distribution and probability density estimation results with unknown classification圖2 分類未知條件下概率分布和密度估計(jì)結(jié)果

    Fig.3 Time comparison of three models圖3 各模型運(yùn)行時(shí)間對(duì)比

    4.2非平坦瑞利分布函數(shù)仿真實(shí)例

    由分布密度(38)構(gòu)建非平坦瑞利分布函數(shù),產(chǎn)生300個(gè)隨機(jī)樣本進(jìn)行實(shí)驗(yàn),其中100個(gè)樣本進(jìn)行訓(xùn)練,200個(gè)樣本進(jìn)行測(cè)試。

    實(shí)驗(yàn)中,參數(shù)σ1=10,σ2=2;多尺度核選取兩尺度的高斯核函數(shù),其尺度參數(shù)分別為ρ1=3,ρ2=1,訓(xùn)練支持向量機(jī)模型時(shí)懲罰系數(shù)C=20。在實(shí)際情況中,往往并不知道混合密度中兩類函數(shù)的比例,因此實(shí)驗(yàn)中假定子類分布及先驗(yàn)概率未知。通過(guò)訓(xùn)練,采用單個(gè)尺度核函數(shù)ρ=1時(shí),單松弛因子模型的概率分布和密度估計(jì)結(jié)果如圖4所示,采用單松弛因子兩尺度核概率密度估計(jì)模型對(duì)測(cè)試樣本的概率分布和密度估計(jì)結(jié)果如圖5所示。

    Fig.4 Results of non-flat Rayleigh distribution using single kernel model圖4 單核模型的非平坦瑞利分布估計(jì)結(jié)果

    Fig.5 Results of non-flat Rayleigh distribution using multi-scale kernel model圖5 多尺度核模型的非平坦瑞利分布估計(jì)結(jié)果

    采用如下指標(biāo)來(lái)表征兩種算法的估計(jì)精度:

    Table 1 Estimation precision of probability distribution and probability density on non-flat Rayleigh distribution表1 非平坦瑞利分布概率分布和密度估計(jì)精度

    4.3非平坦對(duì)數(shù)正態(tài)分布函數(shù)仿真實(shí)例

    由分布密度(39)構(gòu)建非平坦對(duì)數(shù)正態(tài)分布函數(shù),采用同4.2節(jié)中類似的方法進(jìn)行實(shí)驗(yàn)。

    實(shí)驗(yàn)中,參數(shù)μ1=0,μ2=2,σ1=0.2,σ2=0.4;多尺度核選取兩尺度的高斯核函數(shù),其尺度參數(shù)分別為ρ1=0.8,ρ2=1.2,訓(xùn)練支持向量機(jī)模型時(shí)懲罰系數(shù)C=20;假定子類分布及先驗(yàn)概率未知。通過(guò)訓(xùn)練,采用單個(gè)尺度核函數(shù)ρ=0.8時(shí),單松弛因子模型的概率分布和密度估計(jì)結(jié)果如圖6所示,采用單松弛因子兩尺度核概率密度估計(jì)模型對(duì)測(cè)試樣本的概率分布和密度估計(jì)結(jié)果如圖7所示。從估計(jì)曲線和表2中數(shù)據(jù)可以看出,多尺度核模型的精度相對(duì)單核模型要高。但由于對(duì)數(shù)正態(tài)分布函數(shù)變量取較小值時(shí),其概率密度的變化非常劇烈,跳躍明顯,不適合采用連續(xù)函數(shù)模型擬合,從而誤差較大;隨著變量增大,正態(tài)分布函數(shù)的概率密度變化趨于平緩,因此估計(jì)精度有所提升。

    Table 2 Estimation precision of probability distribution and probability density on non-flat lognormal distribution表2 非平坦對(duì)數(shù)正態(tài)分布概率分布和密度估計(jì)精度

    5 結(jié)束語(yǔ)

    Fig.6 Results of non-flat lognormal distribution using single kernel model圖6 單核模型的非平坦對(duì)數(shù)正態(tài)分布估計(jì)結(jié)果

    非平坦函數(shù)是混合概率密度估計(jì)的一種典型情形。為了解決這類問(wèn)題,通過(guò)對(duì)支持向量機(jī)概率密度估計(jì)模型進(jìn)行改進(jìn),提出了單松弛因子多尺度核支持向量機(jī)概率密度估計(jì)模型,并證明了本文模型與原模型的等價(jià)性。仿真實(shí)驗(yàn)也證明本文模型減小了計(jì)算復(fù)雜度,具有更高的效率,同時(shí)估計(jì)精度也較高。本文模型還可應(yīng)用于復(fù)雜系統(tǒng)故障預(yù)測(cè)和可靠性評(píng)估領(lǐng)域,解決在沒(méi)有任何故障先驗(yàn)數(shù)據(jù)和故障先驗(yàn)知識(shí)情況下的系統(tǒng)異常程度衡量問(wèn)題。

    Fig.7 Results of non-flat lognormal distribution function using multi-scale kernel model圖7 多尺度核模型的非平坦對(duì)數(shù)正態(tài)分布估計(jì)結(jié)果

    References:

    [1] Kim H E, Tan AC C, Mathew J, et al. Bearing fault prognosis based on health state probability estimation[J]. Expert Systems with Applications, 2012, 39(5): 5200-5213.

    [2] He Yulin, Wang Ran, Kwong S, et al. Bayesian classifiers based on probability density estimation and their applications to simultaneous fault diagnosis[J]. Information Sciences, 2014, 259: 252-268.

    [3] Parzen E. On estimation of a probability density and mode[J]. Annals of Mathematical Statistics,1962,33(3): 1065-1076.

    [4] Motoki S, Voot T, Masashi S. Direct conditional probability density estimation with sparse feature selection[J]. Machine Learning, 2015, 100(2): 161-182.

    [5] Wang Shitong, Wang Jun, Chung Fulai. Kernel density estimation, kernel methods, and fast learning in large data sets[J]. IEEE Transactions on Cybernetics, 2014, 44(1): 1-20.

    [6] Mohamed R M, El-Baz A, Farag A A. Probability density estimation using advanced support vector machines and the EM algorithm[J]. International Journal of Computer, Electrical, Automation, Control and Information Engineering, 2007, 1(2): 441-444.

    [7] Girolami M, He Chao. Probability density estimation from optimally condensed data samples[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2003, 25(10): 1253-1264.

    [8] Zheng Danian, Wang Jiaxin, Zhao Yannan. Non-flat function estimation with a multi-scale support vector regession[J]. Neurocomputing, 2006, 70(1/3): 420-429.

    [9] JooSeuk K, Clayton D S. Robust kernel density estimation[J]. The Journal of Machine Learning Research, 2012, 13(1): 2529-2565.

    [10] Paramasamy S. On multivariate Kolmogoro-Smirnov distribution[J]. Statistics & Probability Letter, 1992, 15: 140-155.

    [11] Nischenko I, Jordaan E M. Confidence of SVM predictions using a strangeness measure[C]//Proceedings of the 2006 International Joint Conference on Neural Networks, Vancouver, Canada, 2006: 1239-1246.

    [12] Paolo M, Gabriele M, Sebastiano B S. Partially supervised classification of remote sensing images through SVM based probability density estimation[J]. IEEE Transactions on Geoscience and Remote Sensing, 2005, 43(3): 559-570.

    [13] Weston J, Gammerman A, Stitson M O, et al. Support vector density estimation[M]//Advances in Kernel Methods. Cambridge, USA: MIT Press, 1999.

    [14] Sun Deshan. Research on support vector machine classification and regression methods[D]. Guangzhou: Sun Yat-sen University, 2004.

    [15] G?nen M, Alpaydin E. Multiple kernel learning algorithms[J]. The Journal of Machine Learning Research, 2011, 12: 2211-2268.

    [16] Bach F R. Consistency of the group Lasso and multiple kernel learning[J]. The Journal of Machine Learning Research, 2008, 9(6): 1179-1225.

    [17] Kingsbury N, Tay D B H, Palaniswami M. Multi-scale kernel methods for classification[C]//Proceedings of the 2005 IEEE Workshop on Machine Learning for Signal Processing, Mystic, USA, Sep 2005. Piscataway, USA: IEEE, 2005: 43-48.

    [18] Wang Hongqiao, Sun Fuchun, Cai Yanning, et al. On multiple kernel learning methods[J]. Acta Automatica Sinica, 2010, 36(8): 1037-1050.

    附中文參考文獻(xiàn):

    [14]孫德山.支持向量機(jī)分類與回歸方法研究[D].廣州:中山大學(xué), 2004.

    [18]汪洪橋,孫富春,蔡艷寧,等.多核學(xué)習(xí)方法[J].自動(dòng)化學(xué)報(bào), 2010, 36(8): 1037-1050.

    WANG Honqiao was born in 1979. He received the Ph.D. degree in computer application technologies from the Second Artillery Engineering University in 2010. Now he is a lecturer at the Second Artillery Engineering University. His research interests include machine learning, pattern recognition and intelligent information processing, etc.

    汪洪橋(1979—),男,湖北云夢(mèng)人,2010年于第二炮兵工程大學(xué)計(jì)算機(jī)應(yīng)用專業(yè)獲得博士學(xué)位,現(xiàn)為第二炮兵工程大學(xué)講師,主要研究領(lǐng)域?yàn)闄C(jī)器學(xué)習(xí),模式識(shí)別,智能信息處理等。發(fā)表學(xué)術(shù)論文20余篇,其中SCI檢索5篇,EI檢索12篇,先后承擔(dān)和參與國(guó)家、軍隊(duì)重點(diǎn)項(xiàng)目10余項(xiàng),獲得軍隊(duì)科技進(jìn)步二等獎(jiǎng)兩項(xiàng)。

    CAI Yanning was born in 1980. She received the Ph.D. degree in computer application technologies from the Second Artillery Engineering University in 2009. Now she is a lecturer at the Second Artillery Engineering University. Her research interests include machine learning and support vector machine, etc.

    蔡艷寧(1980—),女,遼寧瓦房店人,2009年于第二炮兵工程大學(xué)計(jì)算機(jī)應(yīng)用專業(yè)獲得博士學(xué)位,現(xiàn)為第二炮兵工程大學(xué)講師,主要研究領(lǐng)域?yàn)闄C(jī)器學(xué)習(xí),支持向量機(jī)等。發(fā)表學(xué)術(shù)論文20余篇,先后承擔(dān)和參與國(guó)家、軍隊(duì)重點(diǎn)項(xiàng)目10余項(xiàng),獲得軍隊(duì)科技進(jìn)步二等獎(jiǎng)1項(xiàng)。

    FU Guangyuan was born in 1966. He received the Ph.D. degree in navigation guidance and control from the Second Artillery Engineering University in 2004. Now he is a professor and Ph.D. supervisor at the Second Artillery Engineering University. His research interests include artificial intelligence and intelligent information processing, etc.

    付光遠(yuǎn)(1966—),男,四川成都人,2004年于第二炮兵工程大學(xué)獲得博士學(xué)位,現(xiàn)為第二炮兵工程大學(xué)教授、博士生導(dǎo)師,主要研究領(lǐng)域?yàn)槿斯ぶ悄?,智能信息處理等。發(fā)表學(xué)術(shù)論文50余篇,先后主持完成國(guó)家、軍隊(duì)重點(diǎn)課題20余項(xiàng),獲軍隊(duì)科技進(jìn)步二等獎(jiǎng)5項(xiàng)。

    WANG Shicheng was born in 1962. He received the Ph.D. degree in navigation guidance and control from the Second Artillery Engineering University in 1998. Now he is a professor and Ph.D. supervisor at the Second Artillery Engineering University. His research interests include precise guidance technologies and intelligent information processing, etc.

    王仕成(1962—),男,山東單縣人,1998年于第二炮兵工程大學(xué)獲得博士學(xué)位,現(xiàn)為第二炮兵工程大學(xué)教授、博士生導(dǎo)師,主要研究領(lǐng)域?yàn)榫_制導(dǎo)技術(shù),智能信息處理等。發(fā)表學(xué)術(shù)論文140余篇,先后獲國(guó)家科技進(jìn)步二等獎(jiǎng)3項(xiàng),軍隊(duì)科技進(jìn)步一等獎(jiǎng)4項(xiàng),軍隊(duì)科技進(jìn)步二等獎(jiǎng)4項(xiàng)。

    Probability Density Estimation for Non-flat Functions?

    WANG Hongqiao1+, CAI Yanning2, FU Guangyuan1, WANG Shicheng3
    1. Department of Information Engineering, the Second Artillery Engineering University, Xi’an 710025, China
    2. College of Science, the Second Artillery Engineering University, Xi’an 710025, China
    3. Department of Control Engineering, the Second Artillery Engineering University, Xi’an 710025, China

    + Corresponding author: E-mail: ep.hqwang@gmail.com

    WANG Hongqiao, CAI Yanning, FU Guangyuan, et al. Probability density estimation for non-flat functions. Journal of Frontiers of Computer Science and Technology, 2016, 10(4):589-599.

    Abstract:Aiming at the probability density estimation problem for non-flat functions, this paper constructs a single slack factor multi-scale kernel support vector machine (SVM) probability density estimation model, by improving the form of constraint condition of the traditional SVM model and introducing the multi-scale kernel method. In the model, a single slack factor instead of two types of slack factors is used to control the learning error of SVM, which reduces the computational complexity of model. At the same time, by introducing the multi-scale kernel method, the model can well fit the functions with both the fiercely changed region and the flatly changed region. Through several probability density estimation experiments with typical non-flat functions, the results show that the single slack probability density estimation model has faster learning speed than the common SVM model. And compared with the single kernel method, the multi-scale kernel SVM probability density estimation model has better estimation precision.

    文獻(xiàn)標(biāo)志碼:A

    中圖分類號(hào):TP301

    doi:10.3778/j.issn.1673-9418.1505046

    猜你喜歡
    支持向量機(jī)
    基于改進(jìn)支持向量機(jī)的船舶縱搖預(yù)報(bào)模型
    基于SVM的煙草銷售量預(yù)測(cè)
    動(dòng)態(tài)場(chǎng)景中的視覺(jué)目標(biāo)識(shí)別方法分析
    論提高裝備故障預(yù)測(cè)準(zhǔn)確度的方法途徑
    基于熵技術(shù)的公共事業(yè)費(fèi)最優(yōu)組合預(yù)測(cè)
    基于支持向量機(jī)的金融數(shù)據(jù)分析研究
    两个人看的免费小视频| 国产乱来视频区| 久久午夜福利片| 观看美女的网站| 最近中文字幕高清免费大全6| 91精品国产国语对白视频| 99热6这里只有精品| 精品视频人人做人人爽| 中文字幕人妻丝袜制服| 美女国产视频在线观看| 国产av国产精品国产| 丝袜美足系列| 亚洲国产精品国产精品| 99精国产麻豆久久婷婷| 午夜av观看不卡| 欧美精品av麻豆av| 国产精品国产三级国产专区5o| 日韩电影二区| 亚洲欧美一区二区三区黑人 | 久久午夜综合久久蜜桃| 丝袜脚勾引网站| 国产日韩欧美在线精品| 久久99一区二区三区| 国产精品国产三级国产av玫瑰| 亚洲高清免费不卡视频| 涩涩av久久男人的天堂| 日本黄大片高清| 欧美激情极品国产一区二区三区 | 久久久久国产精品人妻一区二区| 日韩欧美一区视频在线观看| 亚洲精品乱码久久久久久按摩| 一边亲一边摸免费视频| 中文乱码字字幕精品一区二区三区| 国产色爽女视频免费观看| 免费大片黄手机在线观看| 欧美精品一区二区免费开放| 国产片内射在线| 97人妻天天添夜夜摸| 精品一区二区三卡| 90打野战视频偷拍视频| 国产毛片在线视频| 视频中文字幕在线观看| 久久青草综合色| 久久综合国产亚洲精品| 亚洲欧美日韩卡通动漫| 咕卡用的链子| www日本在线高清视频| 中文乱码字字幕精品一区二区三区| 欧美 亚洲 国产 日韩一| 大片免费播放器 马上看| 久久国内精品自在自线图片| a 毛片基地| 丝袜脚勾引网站| 青春草国产在线视频| 九九爱精品视频在线观看| 韩国精品一区二区三区 | 亚洲美女黄色视频免费看| www.色视频.com| 精品午夜福利在线看| 热99国产精品久久久久久7| 久久久a久久爽久久v久久| 看免费成人av毛片| 午夜日本视频在线| 青青草视频在线视频观看| 黄色怎么调成土黄色| 青春草国产在线视频| 久久av网站| 免费人妻精品一区二区三区视频| 久久99热这里只频精品6学生| 亚洲精品中文字幕在线视频| 不卡视频在线观看欧美| 亚洲综合色惰| a级毛片黄视频| 男人添女人高潮全过程视频| 午夜福利网站1000一区二区三区| 国产精品免费大片| 999精品在线视频| 久久久久精品人妻al黑| 最新中文字幕久久久久| 美国免费a级毛片| 一个人免费看片子| 成人毛片a级毛片在线播放| 国产精品三级大全| 亚洲精品456在线播放app| 九草在线视频观看| 免费不卡的大黄色大毛片视频在线观看| 欧美人与性动交α欧美软件 | 亚洲欧洲精品一区二区精品久久久 | 国产在线免费精品| 亚洲成国产人片在线观看| 一本久久精品| 欧美97在线视频| 久久久久久久久久久久大奶| √禁漫天堂资源中文www| 在线免费观看不下载黄p国产| a级片在线免费高清观看视频| 丝袜人妻中文字幕| 国产av国产精品国产| 亚洲美女搞黄在线观看| 亚洲一码二码三码区别大吗| 黑人欧美特级aaaaaa片| 亚洲国产精品国产精品| 欧美日韩综合久久久久久| 一本色道久久久久久精品综合| 高清欧美精品videossex| 国产xxxxx性猛交| 国产永久视频网站| 久久人人爽av亚洲精品天堂| 国产深夜福利视频在线观看| 男的添女的下面高潮视频| 久久久国产一区二区| 欧美日韩av久久| 18禁国产床啪视频网站| 91aial.com中文字幕在线观看| 日日爽夜夜爽网站| 乱人伦中国视频| 中文字幕另类日韩欧美亚洲嫩草| 日韩av免费高清视频| 亚洲精品第二区| 99re6热这里在线精品视频| 26uuu在线亚洲综合色| 亚洲国产最新在线播放| 一区二区日韩欧美中文字幕 | 亚洲av免费高清在线观看| 精品一品国产午夜福利视频| 99香蕉大伊视频| 亚洲成人手机| 少妇的逼水好多| 日本av免费视频播放| 91精品伊人久久大香线蕉| 91成人精品电影| 人成视频在线观看免费观看| 久久精品久久精品一区二区三区| 丝袜喷水一区| 男女边摸边吃奶| 人人澡人人妻人| 亚洲图色成人| freevideosex欧美| av国产久精品久网站免费入址| 国产精品久久久av美女十八| 日韩av不卡免费在线播放| 亚洲情色 制服丝袜| 亚洲精品国产av蜜桃| 中文字幕另类日韩欧美亚洲嫩草| 黄片播放在线免费| 91成人精品电影| 永久免费av网站大全| 亚洲av电影在线观看一区二区三区| 女的被弄到高潮叫床怎么办| 交换朋友夫妻互换小说| 卡戴珊不雅视频在线播放| 男女午夜视频在线观看 | 久热久热在线精品观看| 寂寞人妻少妇视频99o| 国产欧美另类精品又又久久亚洲欧美| 一级黄片播放器| 欧美日本中文国产一区发布| 日韩av免费高清视频| 在线观看www视频免费| 90打野战视频偷拍视频| 中文字幕最新亚洲高清| 十八禁高潮呻吟视频| 纵有疾风起免费观看全集完整版| 久久热在线av| 丁香六月天网| 亚洲熟女精品中文字幕| 亚洲国产色片| 女性生殖器流出的白浆| 七月丁香在线播放| 妹子高潮喷水视频| 欧美日韩综合久久久久久| 精品久久国产蜜桃| 久久精品国产鲁丝片午夜精品| 天堂中文最新版在线下载| 久久久久人妻精品一区果冻| 成年av动漫网址| 久久人妻熟女aⅴ| 久久午夜综合久久蜜桃| 久久久a久久爽久久v久久| 男女啪啪激烈高潮av片| 国产1区2区3区精品| 精品一区二区三卡| 免费观看av网站的网址| 亚洲av国产av综合av卡| 久久精品国产a三级三级三级| 午夜福利视频在线观看免费| 大香蕉久久网| av网站免费在线观看视频| 日本wwww免费看| 国产成人av激情在线播放| 国产片特级美女逼逼视频| 欧美3d第一页| 97超碰精品成人国产| 午夜福利在线观看免费完整高清在| 香蕉国产在线看| 日本猛色少妇xxxxx猛交久久| 精品少妇内射三级| 建设人人有责人人尽责人人享有的| 在线观看一区二区三区激情| 欧美日本中文国产一区发布| 2022亚洲国产成人精品| 桃花免费在线播放| 一二三四中文在线观看免费高清| 超碰97精品在线观看| 插逼视频在线观看| 青青草视频在线视频观看| 免费黄频网站在线观看国产| 国产一区二区在线观看日韩| 免费黄色在线免费观看| 插逼视频在线观看| 日日爽夜夜爽网站| 午夜免费男女啪啪视频观看| 久久久久视频综合| 天天躁夜夜躁狠狠躁躁| 大香蕉久久成人网| 亚洲精品日本国产第一区| 亚洲精品美女久久久久99蜜臀 | 午夜精品国产一区二区电影| 亚洲成人av在线免费| 黑人高潮一二区| 伊人亚洲综合成人网| 成人毛片60女人毛片免费| 国产精品一国产av| 日本av手机在线免费观看| 欧美3d第一页| 国产成人精品福利久久| 1024视频免费在线观看| 又粗又硬又长又爽又黄的视频| 精品国产国语对白av| 国产无遮挡羞羞视频在线观看| 国产淫语在线视频| 亚洲欧美一区二区三区黑人 | 日本午夜av视频| 丰满迷人的少妇在线观看| a 毛片基地| 精品视频人人做人人爽| 国产免费福利视频在线观看| 精品一区二区三区四区五区乱码 | 午夜激情av网站| 女性生殖器流出的白浆| 一级毛片电影观看| 又黄又爽又刺激的免费视频.| 国产精品无大码| 中文乱码字字幕精品一区二区三区| 国产一区二区激情短视频 | 下体分泌物呈黄色| 在线天堂最新版资源| 国产精品女同一区二区软件| 久久婷婷青草| 少妇人妻久久综合中文| 久久99热6这里只有精品| 亚洲第一区二区三区不卡| 两个人看的免费小视频| 久久国产精品男人的天堂亚洲 | 日本91视频免费播放| 国产一区二区三区av在线| 国产老妇伦熟女老妇高清| 五月开心婷婷网| 成人国语在线视频| 最近中文字幕高清免费大全6| 久久精品久久久久久噜噜老黄| 在线观看三级黄色| 日韩 亚洲 欧美在线| 亚洲性久久影院| 免费在线观看黄色视频的| 成人无遮挡网站| 熟女人妻精品中文字幕| 午夜福利影视在线免费观看| 秋霞伦理黄片| 免费播放大片免费观看视频在线观看| 亚洲国产精品成人久久小说| 亚洲精品久久成人aⅴ小说| 日本av免费视频播放| 日韩免费高清中文字幕av| av视频免费观看在线观看| 国产精品秋霞免费鲁丝片| 97人妻天天添夜夜摸| 大香蕉久久网| 色吧在线观看| 韩国高清视频一区二区三区| 在线天堂最新版资源| 亚洲内射少妇av| 曰老女人黄片| 久久鲁丝午夜福利片| 中国三级夫妇交换| 午夜激情av网站| 亚洲高清免费不卡视频| 男女午夜视频在线观看 | 视频区图区小说| 国产视频首页在线观看| 久久人人爽人人片av| 亚洲精品一二三| 香蕉国产在线看| 欧美日韩视频高清一区二区三区二| 在线观看www视频免费| 亚洲,欧美,日韩| 久久99蜜桃精品久久| xxxhd国产人妻xxx| 国产无遮挡羞羞视频在线观看| 捣出白浆h1v1| av在线观看视频网站免费| 日本爱情动作片www.在线观看| 精品亚洲成a人片在线观看| 欧美人与性动交α欧美精品济南到 | 免费久久久久久久精品成人欧美视频 | 国产一区二区三区综合在线观看 | 人妻一区二区av| 国产精品免费大片| h视频一区二区三区| 最近最新中文字幕免费大全7| 亚洲美女搞黄在线观看| 99香蕉大伊视频| 热99国产精品久久久久久7| 国产精品不卡视频一区二区| 亚洲天堂av无毛| 精品久久国产蜜桃| 99久国产av精品国产电影| 男女无遮挡免费网站观看| 国产女主播在线喷水免费视频网站| 国产一区亚洲一区在线观看| 欧美xxxx性猛交bbbb| 不卡视频在线观看欧美| 十分钟在线观看高清视频www| 老司机亚洲免费影院| 99re6热这里在线精品视频| 亚洲精品色激情综合| 我要看黄色一级片免费的| 国产xxxxx性猛交| 天堂中文最新版在线下载| 男女国产视频网站| 三级国产精品片| 国产精品不卡视频一区二区| 欧美日韩视频精品一区| 一区二区三区乱码不卡18| 少妇精品久久久久久久| 久久久久久久久久久久大奶| 黄片播放在线免费| 欧美成人精品欧美一级黄| 亚洲经典国产精华液单| 免费av中文字幕在线| 少妇熟女欧美另类| 成人亚洲欧美一区二区av| 精品久久蜜臀av无| 99热6这里只有精品| 久久女婷五月综合色啪小说| 国产国拍精品亚洲av在线观看| 婷婷色av中文字幕| 免费观看av网站的网址| 男女边吃奶边做爰视频| 两个人免费观看高清视频| 国产成人精品婷婷| h视频一区二区三区| 欧美精品国产亚洲| h视频一区二区三区| 亚洲国产欧美在线一区| 免费人成在线观看视频色| 亚洲精品色激情综合| 国产精品麻豆人妻色哟哟久久| 日韩大片免费观看网站| 国产一区有黄有色的免费视频| 最近最新中文字幕免费大全7| 亚洲av在线观看美女高潮| 精品一区二区三区四区五区乱码 | 母亲3免费完整高清在线观看 | 婷婷色av中文字幕| 波多野结衣一区麻豆| 美女视频免费永久观看网站| 99香蕉大伊视频| 女人被躁到高潮嗷嗷叫费观| 久久精品国产自在天天线| 午夜精品国产一区二区电影| 国产麻豆69| 亚洲美女搞黄在线观看| 色吧在线观看| 巨乳人妻的诱惑在线观看| xxx大片免费视频| 国产一区有黄有色的免费视频| 日韩三级伦理在线观看| 在线观看免费视频网站a站| 一级片'在线观看视频| 国产淫语在线视频| 久久久国产一区二区| 成年动漫av网址| 欧美国产精品一级二级三级| 少妇被粗大的猛进出69影院 | 美女中出高潮动态图| 自拍欧美九色日韩亚洲蝌蚪91| 久久久久久久亚洲中文字幕| 精品久久国产蜜桃| 18+在线观看网站| 成人漫画全彩无遮挡| 欧美激情 高清一区二区三区| 青春草亚洲视频在线观看| 午夜福利,免费看| 9色porny在线观看| 黄色一级大片看看| 王馨瑶露胸无遮挡在线观看| 成年美女黄网站色视频大全免费| 人妻少妇偷人精品九色| a级毛片在线看网站| 秋霞在线观看毛片| 日本午夜av视频| 欧美日韩亚洲高清精品| 亚洲欧洲国产日韩| 亚洲成人一二三区av| 少妇被粗大猛烈的视频| 男女午夜视频在线观看 | 免费看不卡的av| 中文字幕最新亚洲高清| 欧美日本中文国产一区发布| 国产男女内射视频| 免费看不卡的av| 天堂8中文在线网| 91精品三级在线观看| 看免费av毛片| 国产av精品麻豆| 婷婷色综合www| 国产成人精品无人区| 亚洲人与动物交配视频| 久久99蜜桃精品久久| 久久久久久久大尺度免费视频| 日韩伦理黄色片| 韩国精品一区二区三区 | 宅男免费午夜| 久久久久久久精品精品| 国产精品.久久久| 美国免费a级毛片| 国产免费一级a男人的天堂| 97人妻天天添夜夜摸| av在线观看视频网站免费| 免费看av在线观看网站| 亚洲国产av影院在线观看| 精品亚洲成a人片在线观看| 日韩三级伦理在线观看| 热99久久久久精品小说推荐| 精品少妇久久久久久888优播| 国产免费现黄频在线看| 国产精品熟女久久久久浪| 男的添女的下面高潮视频| 麻豆精品久久久久久蜜桃| 午夜av观看不卡| 亚洲图色成人| 久久人人爽人人爽人人片va| 天天影视国产精品| 久久影院123| 欧美激情极品国产一区二区三区 | 久久久亚洲精品成人影院| 麻豆精品久久久久久蜜桃| 最黄视频免费看| 精品亚洲成a人片在线观看| 日韩中文字幕视频在线看片| 久久久欧美国产精品| 在线观看美女被高潮喷水网站| 午夜福利影视在线免费观看| 欧美精品人与动牲交sv欧美| 美女视频免费永久观看网站| 中国三级夫妇交换| 两个人免费观看高清视频| 精品少妇久久久久久888优播| 欧美激情国产日韩精品一区| 天美传媒精品一区二区| 熟女电影av网| 最近2019中文字幕mv第一页| 中文字幕人妻熟女乱码| 亚洲欧美色中文字幕在线| 欧美国产精品一级二级三级| 日韩,欧美,国产一区二区三区| 日韩欧美精品免费久久| 亚洲av欧美aⅴ国产| 另类精品久久| 色婷婷av一区二区三区视频| h视频一区二区三区| 综合色丁香网| 色网站视频免费| 午夜激情av网站| 欧美精品一区二区免费开放| 精品人妻一区二区三区麻豆| 男女高潮啪啪啪动态图| 久久久久国产网址| 老司机亚洲免费影院| 一区二区三区精品91| 丝袜在线中文字幕| 各种免费的搞黄视频| 国产精品国产av在线观看| 精品少妇久久久久久888优播| 美女脱内裤让男人舔精品视频| 亚洲欧美一区二区三区国产| 观看av在线不卡| 精品亚洲成a人片在线观看| 多毛熟女@视频| 久久久久国产网址| 色婷婷久久久亚洲欧美| 午夜av观看不卡| 国产亚洲av片在线观看秒播厂| 黑人猛操日本美女一级片| 久久精品国产亚洲av涩爱| 一本久久精品| 一区二区三区精品91| 国产在线一区二区三区精| 国产亚洲午夜精品一区二区久久| 精品人妻熟女毛片av久久网站| 日韩免费高清中文字幕av| 18在线观看网站| 久久精品国产亚洲av天美| 久久久国产一区二区| 亚洲精品美女久久久久99蜜臀 | 亚洲精品自拍成人| 女的被弄到高潮叫床怎么办| 亚洲精品色激情综合| 久久av网站| 精品卡一卡二卡四卡免费| 欧美精品人与动牲交sv欧美| 亚洲精品国产av蜜桃| 在线观看三级黄色| 精品人妻熟女毛片av久久网站| 一区二区三区乱码不卡18| 丝袜人妻中文字幕| 97在线人人人人妻| 男女高潮啪啪啪动态图| 亚洲av电影在线进入| 熟女人妻精品中文字幕| 中文字幕人妻熟女乱码| 在线观看免费视频网站a站| 亚洲精品久久午夜乱码| 久久99一区二区三区| 黄色 视频免费看| 一本色道久久久久久精品综合| 久久亚洲国产成人精品v| 王馨瑶露胸无遮挡在线观看| 丝袜人妻中文字幕| 精品亚洲成国产av| 丰满迷人的少妇在线观看| 插逼视频在线观看| 啦啦啦啦在线视频资源| 成人国语在线视频| 亚洲久久久国产精品| av不卡在线播放| 街头女战士在线观看网站| 又黄又爽又刺激的免费视频.| 中国国产av一级| 全区人妻精品视频| 超碰97精品在线观看| 亚洲成国产人片在线观看| 深夜精品福利| 老司机影院成人| 日本色播在线视频| 日韩精品免费视频一区二区三区 | 熟女av电影| 一本久久精品| 日本与韩国留学比较| 亚洲国产毛片av蜜桃av| 日本爱情动作片www.在线观看| 亚洲欧美精品自产自拍| 中文字幕亚洲精品专区| 国产精品免费大片| 波野结衣二区三区在线| 99热这里只有是精品在线观看| 亚洲av.av天堂| 人人妻人人爽人人添夜夜欢视频| 大香蕉97超碰在线| 哪个播放器可以免费观看大片| 久久狼人影院| 热re99久久国产66热| 1024视频免费在线观看| 91成人精品电影| 人人妻人人添人人爽欧美一区卜| 成年美女黄网站色视频大全免费| 晚上一个人看的免费电影| 高清av免费在线| 亚洲成色77777| 99热这里只有是精品在线观看| 成人国语在线视频| 亚洲国产日韩一区二区| 日韩 亚洲 欧美在线| 亚洲国产av影院在线观看| 尾随美女入室| 亚洲精品日本国产第一区| 日韩中字成人| 国产午夜精品一二区理论片| 最近手机中文字幕大全| 成人黄色视频免费在线看| 午夜福利乱码中文字幕| 99九九在线精品视频| 在线观看免费日韩欧美大片| 亚洲欧美色中文字幕在线| 中文字幕av电影在线播放| 精品人妻偷拍中文字幕| 国产亚洲精品第一综合不卡 | 免费观看在线日韩| 亚洲国产欧美日韩在线播放| 男女边吃奶边做爰视频| 看十八女毛片水多多多| 久久99热6这里只有精品| 中文精品一卡2卡3卡4更新| 大香蕉久久网| 欧美 亚洲 国产 日韩一| 国产精品 国内视频| 欧美亚洲日本最大视频资源| 巨乳人妻的诱惑在线观看| 极品人妻少妇av视频| 亚洲第一av免费看| 97在线视频观看| 色5月婷婷丁香| 国精品久久久久久国模美| 久久久国产精品麻豆| 精品久久久精品久久久| 日本-黄色视频高清免费观看| 亚洲国产色片| 久久99精品国语久久久| 自线自在国产av| 国产一区二区在线观看av| 国产免费又黄又爽又色| 国产片内射在线| 国产精品.久久久| 国内精品宾馆在线|