• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    第二十六講 支持向量機(jī)(SVM)簡介及DPS應(yīng)用操作

    2018-09-01 06:20:16徐靜安
    關(guān)鍵詞:離群線性向量

    徐靜安 吳 芳

    2014年11月上?;ぱ芯吭夯瘷C(jī)所組織學(xué)術(shù)報告會,在彭東輝副總征集的論文集初稿中讀到“難過濾物料過濾過程的理論研究與實踐”。在實驗數(shù)據(jù)處理部分采用比較前沿的數(shù)據(jù)驅(qū)動算法之一的支持向量機(jī)(SVM)算法對實驗數(shù)據(jù)進(jìn)行非線性求解,預(yù)測一定過濾條件下的濾餅過濾性能。

    筆者曾帶教2009級學(xué)術(shù)碩士陳玉巖,該同學(xué)學(xué)習(xí)能力較強(qiáng),探索應(yīng)用人工神經(jīng)網(wǎng)絡(luò)及遺傳算法技術(shù),“倒逼”導(dǎo)師學(xué)習(xí),教學(xué)相長。由此我惡補(bǔ)了幾本書,其中人工神經(jīng)網(wǎng)絡(luò)著作的部分內(nèi)容涉及SVM算法,所以看到上?;ぱ芯吭喉椖繎?yīng)用SVM的信息,盡管“小荷才露尖尖角”,也是倍感興奮的。

    兩年前吳芳碩士從天津大學(xué)畢業(yè)來上海化工研究院工作,我曾調(diào)閱她的碩士論文《橡膠混煉過程在線質(zhì)量監(jiān)控技術(shù)的應(yīng)用研究》,了解到她有應(yīng)用數(shù)學(xué)基礎(chǔ)。我就主動聯(lián)系,希望我們把SVM算法靜下來再學(xué)習(xí),加深理解,以利于推廣應(yīng)用,以免“以其昏昏,使人昭昭”。

    為此,她先后幫我下載了兩本專著:鄧乃揚(yáng)、田英杰著《數(shù)據(jù)挖掘中的新方法——支持向量機(jī)》(科學(xué)出版社,2004年出版);李國正、王猛、曾華軍譯《支持向量機(jī)導(dǎo)論》(電子工業(yè)出版社,2004年出版)等。我推薦她閱讀《DPS數(shù)據(jù)處理系統(tǒng)——實驗設(shè)計、統(tǒng)計分析及數(shù)據(jù)挖掘》第43章“神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)”,以及周春光、梁艷春編著的《計算智能——人工神經(jīng)網(wǎng)絡(luò)、模糊系統(tǒng)、進(jìn)化計算》(吉林大學(xué)出版社,2009年)等。我們還多次討論了SVM算法原理、應(yīng)用案例、不同計算方法的比較分析。

    自2014年12月至今,在我工作摘記中有記載的討論共有13次,所以我們共同完成本講座的講義編寫。

    一 支持向量機(jī)的概念和原理

    計算智能(Computational Intelligence,CI)通俗來講是指:不依賴于專業(yè)知識或經(jīng)驗,不需要事先知曉系統(tǒng)或過程的精確數(shù)學(xué)模型,而是從數(shù)據(jù)的角度出發(fā)對系統(tǒng)或過程進(jìn)行分析的技術(shù)。

    SVM(Support Vector Machine)是計算智能范疇中一種較常用的算法,由Corinna Cortes和Vapnik等在20世紀(jì)90年代提出。SVM基于統(tǒng)計學(xué)習(xí)理論,其基本思想是利用有限的數(shù)據(jù),在模型的復(fù)雜性(回歸問題中指方程的顯著性)和預(yù)測能力(回歸問題中指方程的預(yù)測精度)之間尋求最佳折衷,目的是使模型具有最好的泛化推廣能力。實現(xiàn)方法是尋找一個滿足分類要求的最優(yōu)分類超平面,使得該超平面在保證分類精度的同時,能夠使其兩側(cè)的空白區(qū)域最大化。SVM在解決小樣本、多因素、非線性問題中表現(xiàn)出特有的優(yōu)勢,是一種數(shù)據(jù)驅(qū)動算法。SVM常用于模式分類(支持向量分類Support Vector Classification,SVC)和非線性回歸(支持向量回歸Support Vector Regression,SVR),本文重點討論SVM用于SVR。

    1SVM的由來——解決線性分類問題

    SVM是從線性可分情況下的最優(yōu)分類面(在二分類問題中即為分類線)發(fā)展而來的,基本思想見圖1。以二分類為例,要求分類線不但能將兩類正確分開(分類錯誤率為0),而且保證兩類之間的分類間隔最大,該分類方法稱為最大間隔分類法。其中H為分類線,H1,H2分別為過各類中離分類線最近的樣本且平行于分類線的線,同時要保證分類線H離H1,H2是等距的,它們之間的距離叫做分類間隔(margin)。推廣到多類分類問題中,就是尋找最優(yōu)分類面或分類超平面。

    圖1 SVM算法的最優(yōu)分類平面

    設(shè)訓(xùn)練集{xi,yi},xi是特征變量,yi是樣本對應(yīng)的類別標(biāo)簽:當(dāng)樣本xi屬于第一類時,yi為+1;當(dāng)xi屬于第二類時,yi為-1。將最優(yōu)分類面方程定義為w·x+b=0,其中w是法向量(亦可稱為權(quán)重向量),b是截距(亦可稱為偏置),則有:

    分類面H滿足其到H1和H2之間的間隔相等且最大的條件,根據(jù)距離公式得到分類間隔H1與H2之間的距離為2/||w||,將目標(biāo)函數(shù)定為:求2/||w||的最大值,即等價于求min||w||2的最小值,那么分類問題可以表達(dá)成:

    其中||w||為二階范數(shù),表示向量w的長度。

    采用拉格朗日方法求解上述不等式,由于直接處理不等式約束比較困難,通常將拉格朗日原始問題進(jìn)行對偶處理(對偶方法可以減少未知量個數(shù),保證數(shù)據(jù)總以成對的內(nèi)積形式出現(xiàn),為后面核函數(shù)的引入提供可能),并求解得到:

    可以看出w,b(分類平面)僅僅依賴于拉格朗日乘子αi不為零的輸入點,因此將αi≠0對應(yīng)的輸入xi稱作支持向量。由圖1可以直觀地看出,在輸入樣本中,僅有部分輸入xi為支持向量(加黑的點)對算法作出貢獻(xiàn),具有稀疏性。支持向量這個特性的物理意義就是遠(yuǎn)離分類平面的數(shù)據(jù)點將不影響分類結(jié)果,所以可用于小樣本問題。至此分類平面已求出,即建立了二分類的線性分類器,三類及以上分類問題的求解同上述方法一致。

    2SVM推廣到非線性分類——引入核函數(shù)(Kernel Function)

    實際上,大多數(shù)據(jù)之間都存在非線性關(guān)系,如圖2(a)所示,二維空間中的兩類非線性相關(guān)的數(shù)據(jù)無法用任意方向的一條直線區(qū)分開來。這種情況下,采用支持向量機(jī)進(jìn)行分類需要引入核函數(shù)。

    Φ為非線性映射函數(shù):x→Φ(x∈X為原始低維空間,Φ∈F為高維空間),如果輸入空間中的函數(shù)K(xi,xj)等于變換后的特征空間中的內(nèi)積,即滿足K(xi,xj)=〈Φ(xi),Φ(xj)〉,則為核函數(shù)。

    也就是核函數(shù)K(xi,xj)可以實現(xiàn)將低維輸入空間中的非線性問題轉(zhuǎn)換為高維特征空間中的線性問題來求解,如圖2(b)所示,二維數(shù)據(jù)映射到三維空間后,可以通過一個分離超平面實現(xiàn)類別劃分。接下來只需要在高維特征空間中利用類似線性求解分類平面的方法進(jìn)行求解,即可以解決該非線性分類問題。

    圖2 非線性問題到線性問題的轉(zhuǎn)換

    核函數(shù)將高維空間的內(nèi)積運(yùn)算轉(zhuǎn)化為低維輸入空間的核函數(shù)計算,那么計算時只需要確定核函數(shù)K(xi,xj),而不需要知道映射函數(shù)Φ(x),從而巧妙地避免了在高維特征空間中容易產(chǎn)生的“維數(shù)災(zāi)難”等問題。

    常用核函數(shù)有以下幾種:

    多項式核函數(shù)K(xi,xj)=[(xi,xj)+c]d,d=1為線性核函數(shù),d>1為多項式核函數(shù)

    高斯核函數(shù)K(xi,xj)=exp[-(||xi,xj||2)/2σ2],又叫徑向基函數(shù)(Radial Basis Function,RBF)。

    Sigmoid核函數(shù)K(xi,xj)=tanh(p<xi,xj>+c),S曲線函數(shù)。

    σ,c都是核函數(shù)的參數(shù),簡稱核參數(shù),主要影響樣本數(shù)據(jù)在高維特征空間中分布的復(fù)雜程度,從而決定置信范圍,最終影響結(jié)構(gòu)風(fēng)險范圍。核參數(shù)的取值通常根據(jù)經(jīng)驗而定,對RBF核函數(shù),σ取值在0.5~2之間。

    選擇一個恰當(dāng)?shù)膬?nèi)積核,SVM就可以自動計算所有重要的網(wǎng)絡(luò)參數(shù),如選RBF核函數(shù),那么SVM的體系結(jié)構(gòu)——網(wǎng)絡(luò)中RBF函數(shù)的數(shù)目和它們的中心、線性權(quán)值和偏置水平都自動計算生成。

    為了直觀地理解SVM的體系結(jié)構(gòu),引用Simon Haykin著,葉世文、史忠植譯《神經(jīng)網(wǎng)絡(luò)原理》,體系結(jié)構(gòu)圖示見圖3。

    圖3 支持向量機(jī)的體系結(jié)構(gòu)圖

    3SVM求解近似線性可分問題——引入松弛變量

    對于近似線性可分的問題(包括線性問題或通過核函數(shù)將非線性問題映射到高維空間中的線性問題),由于各種原因,數(shù)據(jù)存在離群點或壞點,導(dǎo)致任何劃分超平面都不能達(dá)到正確分類。如圖4所示,框和圈是不同的兩類,在H1面右上方的一個框偏離了自己原本所應(yīng)該在的半個空間,如果直接忽略,H可以認(rèn)為是分類平面,那么該分類問題可以很容易地得到解決,但是由于該壞點的出現(xiàn)無法構(gòu)造分類超平面。而且在計算的時候,數(shù)學(xué)方法無法辨認(rèn)出壞點或離群點,此時分類問題容易受極少數(shù)點的干擾。解決方法是允許一些點到分類平面的距離不滿足原先的要求,在約束條件中引入容錯性,給閾值加一個松弛變量,即允許y[i(wx)i+b]≥1-ζi,ζi>0。松弛變量的值表示允許對應(yīng)的點離群有多遠(yuǎn),值越大,表示離群越遠(yuǎn)。同時松弛變量 ζ=(ζ1,ζ2,...,ζ)iT的引入體現(xiàn)了訓(xùn)練集允許被錯分的情況,放棄了對離群點的精確分類。采用 ξi作為度量,描述訓(xùn)練集被錯分的程度,那么錯分程度 ξi最小化也應(yīng)該是目標(biāo)函數(shù)之一,近似線性可分問題變?yōu)椋?/p>

    圖4 近似線性可分問題

    C為懲罰參數(shù),是用戶事先給定的值,它決定了離群點帶來的損失,是間隔的最大化與分類誤差之間的折衷,可以理解為權(quán)重。C值定得越大,表示越不想放棄離群點,最極端的情況是把C定為無限大,這樣只要有一個離群點,目標(biāo)函數(shù)的值馬上變成無窮大,問題就無解了,C值的選取在后面有介紹。

    近似線性可分問題的優(yōu)化式與線性可分問題的形式相近,同樣采用拉格朗日法進(jìn)行求解。

    4SVM解決回歸問題——ε不敏感損失函數(shù)的引入

    回歸問題中訓(xùn)練集 {xi,yi},xi為輸入或影響因素,yi為輸出或指標(biāo),求解回歸問題就是尋找一個實值函數(shù)f(x)來表示x與y之間的對應(yīng)關(guān)系。實際上回歸問題是分類問題的延伸,不同的是,回歸問題中yi并不限定取1或者-1,而是實際測量或記錄的目標(biāo)函數(shù)值。

    在SVM的回歸問題中,輸出是實值,輸出值與實測值之間的偏差不再是離散的,需要定義一個損失函數(shù),這個損失函數(shù)可以忽略真實值上下一定范圍內(nèi)的誤差。最常采用的是ε不敏感損失函數(shù),該函數(shù)認(rèn)為在ε不敏感區(qū)內(nèi)的訓(xùn)練點誤差為0,這個概念和經(jīng)典的基于最小二乘法的回歸處理是截然不同的。以一般線性回歸問題為例,如圖5所示,在ε不敏感帶內(nèi)的樣本點(xi,yi)不會影響決策函數(shù)f(x)。ε不敏感損失函數(shù)的范圍為|y-f(x)ε|=max{0,|y-f(x)|-ε}。

    圖5 ε不敏感帶

    由于最小二乘估計算法對離群點非常敏感,SVR求解非線性回歸的魯棒性——穩(wěn)健性算法是利用絕對誤差作為被最小化的量,構(gòu)成損失函數(shù)。

    對于非線性回歸問題,同非線性分類問題一樣,采用核函數(shù)將低維輸入空間中的非線性問題映射到高維空間中,使之成為線性問題,再采用求解線性回歸問題的方法進(jìn)行求解即可。

    5SVM的特點

    相比其他統(tǒng)計學(xué)習(xí)方法,SVM有其獨特之處,具體表現(xiàn)如下:

    (1)SVM建立在結(jié)構(gòu)風(fēng)險最小化原則的基礎(chǔ)上,其他統(tǒng)計學(xué)方法,如神經(jīng)網(wǎng)絡(luò)的優(yōu)化目標(biāo)是基于經(jīng)驗風(fēng)險(學(xué)習(xí)誤差)最小化,容易陷入局部最優(yōu),訓(xùn)練結(jié)果不穩(wěn)定,需要大量樣本才能得到較好的統(tǒng)計效果。結(jié)構(gòu)風(fēng)險最小化包括兩方面:一是經(jīng)驗風(fēng)險(學(xué)習(xí)誤差)最小化,SVM尋找最優(yōu)分類超平面滿足分類精度,使經(jīng)驗風(fēng)險最?。欢侵眯欧秶钚』▽W(xué)習(xí)機(jī)器的復(fù)雜性),采用支持向量作為分類的依

    應(yīng)用處理線性可分問題的最大間隔法構(gòu)造回歸問題中的超平面,成為最大間隔回歸法,經(jīng)過推導(dǎo),求回歸問題轉(zhuǎn)化為如下最優(yōu)化問題:據(jù),滿足學(xué)習(xí)機(jī)器簡單。因此計算不會陷入局部極值,避免了過學(xué)習(xí)和欠學(xué)習(xí)問題,且推廣能力好。

    (2)SVM適用于求解全局最優(yōu)化問題,算法求解的是一個凸優(yōu)化問題,局部最優(yōu)解一定是全局最優(yōu)解。

    (3)核函數(shù)的引入,將低維空間中的非線性數(shù)據(jù)映射到高維空間,解決了非線性不可求解的問題,且不增加可調(diào)參數(shù)的個數(shù);同時只需要確定輸入空間的核函數(shù),計算速度不受維數(shù)大小的影響,避免了在高維特征空間中計算的“維數(shù)災(zāi)難”問題;根據(jù)選取核函數(shù)形式的不同,可以有效地解決線性和非線性回歸和分類問題。

    (4)適用于求解小樣本問題:SVM基于結(jié)構(gòu)風(fēng)險最小化原則,泛化能力強(qiáng),算法具有全局最優(yōu)性,是針對小樣本統(tǒng)計的理論。

    (5)SVM可用于解決缺失數(shù)據(jù)問題:在工程實際中,由于各因素的影響,如測量難度大、成本高、人為因素等都可能會導(dǎo)致數(shù)據(jù)缺失,一般的回歸算法都不能直接處理數(shù)據(jù)缺失問題,SVM可以用于缺失問題的求解。

    (6)當(dāng)然,SVM算法也有其局限性,具體表現(xiàn)在兩方面:核函數(shù)和核參數(shù)的選取在更大程度上依賴于對計算結(jié)果的分析和經(jīng)驗;求解二次規(guī)劃涉及N階矩陣的計算(N為樣本個數(shù)),當(dāng)N數(shù)目很大時,N階矩陣的存儲和計算將耗費大量的機(jī)器內(nèi)存和運(yùn)算時間。因此樣本量較大時,SVM算法計算速度較慢。

    二 DPS數(shù)據(jù)處理系統(tǒng)中SVR操作界面

    在DPS電子表格中,SVR分析數(shù)據(jù)的格式為數(shù)據(jù)按一行一個樣本、一列一個變量的格式依次輸入,最右邊一列為輸出指標(biāo)(因變量),并選中數(shù)據(jù),以便分析。對于待判別樣本,可按下Ctrl鍵的同時,選中第2個數(shù)據(jù)塊。然后在菜單下選擇“多元分析”-“支持向量機(jī)(SVM)”-“SVM回歸”,這時系統(tǒng)會出現(xiàn)圖6所示用戶界面。

    1SVR 的類型

    SVM回歸常用ε-SVR回歸和ν-SVR回歸,兩種回歸算法的概念、原理相同,ν-SVR是ε-SVR的一種變形,差異是:在ε-SVR回歸中,通過設(shè)置ε-數(shù)據(jù)不敏感波動帶影響決策函數(shù);在ν-SVR回歸中,通過控制支持向量數(shù)量(支持向量個數(shù)占訓(xùn)練樣本的百分比)來影響決策函數(shù)。在DPS系統(tǒng)中默認(rèn)ε-SVR回歸。

    2核函數(shù)類型

    引入核函數(shù)把低維空間中的非線性問題轉(zhuǎn)化為高維空間中的線性問題,不同的核函數(shù)就有不同的映射、不同的內(nèi)積,及最終不同的計算結(jié)果。DPS系統(tǒng)默認(rèn)的是RBF核函數(shù)。如果在RBF函數(shù)應(yīng)用效果不佳時,再試用Sigmoid核函數(shù)等。

    3 計算參數(shù)

    (1)degree,只有選擇核函數(shù)為多項式時,此值起作用,設(shè)置默認(rèn)為3,表示多項式的階數(shù)或次方數(shù),即三次多項式的處理精度已經(jīng)足夠;(2)Gamma,核函數(shù)選為RBF時,本文高斯函數(shù)與DPS系統(tǒng)中的計算參數(shù)關(guān)系γ=,σ 取值 0.5~2,設(shè)置默認(rèn)為 γ=0.5;(3)coef0,核函數(shù)為多項式時,計算參數(shù)c=0為齊次多項式,c>0為非齊次多項式;核函數(shù)為 Sigmoid 時,c>0,默認(rèn)為 0.001;(4)cost,支持向量ε-SVR回歸和ν-SVR回歸中的懲罰系數(shù)C取值范圍為(0,100],取值大小決定離群點對決策函數(shù)的影響:對社會統(tǒng)計性數(shù)據(jù),通常取0.5~1,默認(rèn)為1;對誤差相對可控的實驗數(shù)據(jù)可取較大值,僅有限的小樣本,生成更多的支持向量,擬合預(yù)報更穩(wěn)定;(5)nu,ν-SVR回歸中的參數(shù),控制支持向量數(shù)量,取值范圍為(0,1],默認(rèn)為0.5,表示支持向量達(dá)到樣本量的50%。其它省缺值大都和計算內(nèi)存、計算迭代精度及輸出有關(guān),按DPS系統(tǒng)默認(rèn)值選用。其中shrinking指是否使用啟發(fā)式,即SVM有啟發(fā)式選擇算法,能提高優(yōu)化目標(biāo)函數(shù)時迭代的收斂速度,默認(rèn)為1,意為使用啟發(fā)式算法的功能。

    三 計算實例——橡膠質(zhì)量參數(shù)的預(yù)測

    案例數(shù)據(jù)選自吳芳(天津大學(xué))碩士學(xué)位論文“橡膠混煉過程在線質(zhì)量監(jiān)控技術(shù)的應(yīng)用研究(2013)”中的部分?jǐn)?shù)據(jù)。

    門尼黏度是橡膠質(zhì)量檢測的關(guān)鍵參數(shù),它是衡量膠料黏度特性、可加工特性和壓延特性等多方面性能的綜合物性指標(biāo)。門尼黏度的測量十分復(fù)雜,且存在嚴(yán)重的測量滯后,不能有效地指導(dǎo)實際生產(chǎn)。流變參數(shù)作為混煉膠的另一個重要性能參數(shù)可以由在線流變儀測量得到(約2 min之內(nèi)準(zhǔn)確測得),用于制造半鋼子午線輪胎的橡膠流變參數(shù)主要包括5個,具體參數(shù)含義由表1所示。

    表1 混煉膠流變參數(shù)含義表

    考慮到門尼儀和流變儀工作原理的相似性,門尼黏度與流變參數(shù)之間必然存在著很強(qiáng)的相關(guān)性。因此可以采用數(shù)學(xué)方法建立門尼黏度和流變參數(shù)之間的回歸模型或方程,用可以在線獲得的參數(shù)對難測量參數(shù)進(jìn)行預(yù)測,減輕繁重的測試工作量、節(jié)約生產(chǎn)成本。

    在化工科研、生產(chǎn)中存在難測量參數(shù)、測量周期長、結(jié)果滯后、破壞性檢測、測量成本高等現(xiàn)象,根據(jù)不同專業(yè)建立間接測量方法是共性的需求。

    表2為混煉膠的20組實測數(shù)據(jù),其中5個流變參數(shù)作為因素,門尼黏度作為考核指標(biāo)。分別采用二次多項式逐步回歸算法和SVM對前16組數(shù)據(jù)進(jìn)行回歸模型建立,用后4組數(shù)據(jù)對模型精度進(jìn)行測試。

    1 二次多項式逐步回歸算法計算結(jié)果

    DPS數(shù)據(jù)處理系統(tǒng)中進(jìn)行二次多項式逐步回歸計算的步驟如下:

    (1)打開DPS數(shù)據(jù)處理系統(tǒng)。

    (2)將20組數(shù)據(jù)輸入工作窗口中的電子表格,鼠標(biāo)左鍵框選前16組數(shù)據(jù)。

    (3)點擊菜單欄“多元分析”-“回歸分析”-“二次多項式逐步回歸”,出現(xiàn)如圖7中的子選擇窗口。

    表2 混煉膠質(zhì)量參數(shù)數(shù)據(jù)表

    (4)如果因子的p<0.05,則引入變量,選擇Yes,否則選No,直至選擇完畢,點OK。最終計算結(jié)果在新生成的一頁表格中顯示出來,如圖8所示。

    圖7 因子選擇窗口

    計算得到回歸方程:

    Y=7.196 400 96+1.601 129 519 2×X4+

    方差分析結(jié)果(見表3)。

    回歸系數(shù)顯著性檢驗結(jié)果(見表4)。

    回歸方程顯著性檢驗結(jié)果(見表5)。

    回歸方程對17~20組數(shù)據(jù)的預(yù)測結(jié)果見表6。

    表3 方差分析表

    表4 回歸系數(shù)顯著性檢驗表

    表5 回歸方程顯著性檢驗表

    表6 回歸方程對17~20組數(shù)據(jù)的預(yù)測結(jié)果

    2 SVR預(yù)測結(jié)果

    DPS數(shù)據(jù)處理系統(tǒng)中進(jìn)行SVR計算步驟如下:

    (1)打開DPS數(shù)據(jù)處理系統(tǒng)。

    (2)選中訓(xùn)練和測試樣本:鼠標(biāo)左鍵選中前16組數(shù)據(jù)作為訓(xùn)練樣本,按Ctrl繼續(xù)選中后4組數(shù)據(jù)的輸入?yún)?shù)作為測試樣本。

    (3)在菜單欄點擊“多元分析”-“支持向量機(jī)(SVM)”-“SVM回歸”,出現(xiàn)SVR參數(shù)設(shè)置窗口,如圖9所示。

    SVM TYPE默認(rèn)ε-SVR回歸,核類型默認(rèn)RBF核函數(shù),此時需要設(shè)置的參數(shù)為Gamma和Cost,取Gamma=0.3(σ=1.3),Cost=20,點“確定”進(jìn)行計算,在新生成一頁電子表格中顯示SVR回歸計算結(jié)果。

    相關(guān)系數(shù)R=0.980 2,決定系數(shù)R2=0.960 8。

    (4)SVR對17~20組數(shù)據(jù)的預(yù)測結(jié)果見表7。

    圖9 SVR參數(shù)設(shè)置窗口

    表7 SVR對17~20組數(shù)據(jù)的預(yù)測結(jié)果

    3 預(yù)測結(jié)果對比

    將上述二次多項式逐步回歸和SVR方法對17~20組橡膠混煉數(shù)據(jù)的門尼黏度預(yù)測結(jié)果進(jìn)行對比,結(jié)果如表8所示。

    表8 17~20組橡膠混煉數(shù)據(jù)的門尼黏度預(yù)測結(jié)果對比

    根據(jù)經(jīng)驗規(guī)則,對沒有試驗設(shè)計為基礎(chǔ)的隨機(jī)樣本進(jìn)行回歸統(tǒng)計建模時,要求樣本量N≥5 m(m為變量個數(shù))。本例中的橡膠混煉數(shù)據(jù)包含5個因素,訓(xùn)練樣本為16組數(shù)據(jù),因此可認(rèn)為是小樣本數(shù)據(jù)。從計算對比結(jié)果可以看出,針對這組數(shù)據(jù),用SVR算法的R值及預(yù)測結(jié)果驗證S值明顯優(yōu)于二次多項式逐步回歸算法。

    猜你喜歡
    離群線性向量
    漸近線性Klein-Gordon-Maxwell系統(tǒng)正解的存在性
    向量的分解
    線性回歸方程的求解與應(yīng)用
    聚焦“向量與三角”創(chuàng)新題
    二階線性微分方程的解法
    向量垂直在解析幾何中的應(yīng)用
    離群數(shù)據(jù)挖掘在發(fā)現(xiàn)房產(chǎn)銷售潛在客戶中的應(yīng)用
    向量五種“變身” 玩轉(zhuǎn)圓錐曲線
    離群的小雞
    應(yīng)用相似度測量的圖離群點檢測方法
    51午夜福利影视在线观看| 妹子高潮喷水视频| 精品一区二区三区av网在线观看 | 国产免费现黄频在线看| 国产精品麻豆人妻色哟哟久久| 色老头精品视频在线观看| 老熟妇乱子伦视频在线观看| 黑人巨大精品欧美一区二区mp4| 亚洲成人手机| 怎么达到女性高潮| 国产1区2区3区精品| 老司机午夜十八禁免费视频| 国产一区二区在线观看av| 三级毛片av免费| 夜夜爽天天搞| a级毛片在线看网站| 国产精品一区二区在线观看99| 啦啦啦免费观看视频1| 一级a爱视频在线免费观看| 热re99久久精品国产66热6| 久久婷婷成人综合色麻豆| 欧美+亚洲+日韩+国产| 纯流量卡能插随身wifi吗| 亚洲精品在线观看二区| 免费看a级黄色片| 国产日韩欧美在线精品| 久久精品熟女亚洲av麻豆精品| 成人特级黄色片久久久久久久 | 亚洲熟女毛片儿| 老司机深夜福利视频在线观看| 国产老妇伦熟女老妇高清| 下体分泌物呈黄色| 欧美成人午夜精品| 国产一区二区三区视频了| 免费在线观看影片大全网站| 天天躁夜夜躁狠狠躁躁| 日本五十路高清| 国产真人三级小视频在线观看| 国产真人三级小视频在线观看| 久久毛片免费看一区二区三区| 日韩欧美三级三区| 亚洲精品一二三| 一二三四社区在线视频社区8| 91精品三级在线观看| 国产男女超爽视频在线观看| 叶爱在线成人免费视频播放| 在线看a的网站| 欧美日韩成人在线一区二区| 免费人妻精品一区二区三区视频| 免费观看a级毛片全部| 亚洲国产av新网站| aaaaa片日本免费| 午夜激情久久久久久久| 午夜久久久在线观看| 久久ye,这里只有精品| 国产成人免费无遮挡视频| 高清欧美精品videossex| 老熟妇乱子伦视频在线观看| 国产亚洲av高清不卡| 另类精品久久| 97在线人人人人妻| 久久精品国产亚洲av香蕉五月 | 天堂动漫精品| 久久国产精品大桥未久av| 99国产精品一区二区蜜桃av | 麻豆av在线久日| 美女主播在线视频| 十分钟在线观看高清视频www| 777米奇影视久久| 久久ye,这里只有精品| 啦啦啦在线免费观看视频4| 香蕉久久夜色| 老熟妇乱子伦视频在线观看| 亚洲欧美激情在线| 三上悠亚av全集在线观看| 一个人免费看片子| 精品人妻在线不人妻| 人人妻人人爽人人添夜夜欢视频| 女性生殖器流出的白浆| 色94色欧美一区二区| 午夜福利在线免费观看网站| 国产成人精品久久二区二区91| 一级片免费观看大全| 日本一区二区免费在线视频| 十分钟在线观看高清视频www| 成人三级做爰电影| 久久久久久久久免费视频了| 王馨瑶露胸无遮挡在线观看| 99久久99久久久精品蜜桃| 亚洲精品粉嫩美女一区| 黄频高清免费视频| 精品久久久精品久久久| 丝袜喷水一区| 久久精品成人免费网站| 麻豆成人av在线观看| 欧美成狂野欧美在线观看| 中文欧美无线码| 热99re8久久精品国产| 精品欧美一区二区三区在线| www.精华液| 午夜福利视频精品| www日本在线高清视频| 麻豆成人av在线观看| 中文字幕制服av| 国产又爽黄色视频| 人人妻人人爽人人添夜夜欢视频| 久久久国产精品麻豆| 亚洲精品中文字幕一二三四区 | 欧美乱码精品一区二区三区| 欧美精品亚洲一区二区| 自线自在国产av| 日韩欧美一区视频在线观看| 在线天堂中文资源库| 国产伦人伦偷精品视频| 一级,二级,三级黄色视频| 黄色片一级片一级黄色片| 成人国产av品久久久| 国产日韩欧美视频二区| 欧美亚洲日本最大视频资源| 人人妻,人人澡人人爽秒播| 午夜福利欧美成人| 免费在线观看完整版高清| av有码第一页| 亚洲欧美一区二区三区黑人| 热99久久久久精品小说推荐| 女人高潮潮喷娇喘18禁视频| 日韩 欧美 亚洲 中文字幕| 捣出白浆h1v1| 狠狠狠狠99中文字幕| 国产黄色免费在线视频| 国产国语露脸激情在线看| 精品欧美一区二区三区在线| 淫妇啪啪啪对白视频| 午夜福利影视在线免费观看| 亚洲欧美日韩另类电影网站| 极品少妇高潮喷水抽搐| 国产一区有黄有色的免费视频| 久久精品aⅴ一区二区三区四区| 热99久久久久精品小说推荐| av有码第一页| 69av精品久久久久久 | 亚洲精品成人av观看孕妇| 丝袜在线中文字幕| 国产淫语在线视频| 老汉色av国产亚洲站长工具| 日本a在线网址| 99riav亚洲国产免费| 日韩大片免费观看网站| 最新美女视频免费是黄的| 美国免费a级毛片| 国产精品亚洲一级av第二区| 大型黄色视频在线免费观看| 成年动漫av网址| 在线天堂中文资源库| 日韩人妻精品一区2区三区| 精品久久久久久电影网| 多毛熟女@视频| 一级毛片女人18水好多| 欧美精品啪啪一区二区三区| 久久久久久久大尺度免费视频| 国产主播在线观看一区二区| 亚洲av电影在线进入| 丝袜人妻中文字幕| 两人在一起打扑克的视频| 精品一区二区三区av网在线观看 | 老熟妇仑乱视频hdxx| 他把我摸到了高潮在线观看 | 男女高潮啪啪啪动态图| 午夜福利视频精品| 水蜜桃什么品种好| 免费看a级黄色片| 99久久人妻综合| 免费黄频网站在线观看国产| 999久久久国产精品视频| 一个人免费看片子| 国产午夜精品久久久久久| 久久中文字幕人妻熟女| 中文字幕人妻熟女乱码| 夫妻午夜视频| 丁香六月欧美| 午夜两性在线视频| 搡老岳熟女国产| 国产精品av久久久久免费| 成年人黄色毛片网站| 中文字幕最新亚洲高清| 久久精品亚洲精品国产色婷小说| 不卡一级毛片| av视频免费观看在线观看| 中文字幕另类日韩欧美亚洲嫩草| 91国产中文字幕| 亚洲欧洲精品一区二区精品久久久| 老司机亚洲免费影院| 免费黄频网站在线观看国产| 一本一本久久a久久精品综合妖精| 男女下面插进去视频免费观看| 两人在一起打扑克的视频| 高潮久久久久久久久久久不卡| 757午夜福利合集在线观看| 精品人妻1区二区| 五月开心婷婷网| 欧美乱妇无乱码| 国产高清videossex| 久久精品亚洲熟妇少妇任你| 国产深夜福利视频在线观看| www.999成人在线观看| a级毛片在线看网站| 亚洲综合色网址| 色综合婷婷激情| 久久久精品区二区三区| 美女午夜性视频免费| 亚洲七黄色美女视频| 日韩有码中文字幕| 我的亚洲天堂| 日韩一区二区三区影片| 精品亚洲成国产av| 国产午夜精品久久久久久| 国产av又大| 国产成人啪精品午夜网站| 岛国在线观看网站| 国产成人系列免费观看| 日韩欧美免费精品| 日本一区二区免费在线视频| 一级毛片女人18水好多| 在线观看www视频免费| 国产精品国产av在线观看| 亚洲精品中文字幕一二三四区 | 老熟女久久久| 亚洲精品粉嫩美女一区| 久久久国产成人免费| 国产一区二区 视频在线| 欧美成人午夜精品| 国产高清激情床上av| 国产免费福利视频在线观看| 国产97色在线日韩免费| 亚洲欧美一区二区三区久久| 亚洲国产欧美日韩在线播放| 免费在线观看完整版高清| 这个男人来自地球电影免费观看| 亚洲国产中文字幕在线视频| 男女免费视频国产| 视频在线观看一区二区三区| 桃花免费在线播放| 丰满迷人的少妇在线观看| 欧美日韩精品网址| 国产精品香港三级国产av潘金莲| 国产精品自产拍在线观看55亚洲 | 一级,二级,三级黄色视频| 人妻久久中文字幕网| 女性被躁到高潮视频| 一个人免费看片子| 久久人妻熟女aⅴ| 国产成人欧美在线观看 | 成年人午夜在线观看视频| www.自偷自拍.com| 精品久久久久久久毛片微露脸| 69精品国产乱码久久久| 免费一级毛片在线播放高清视频 | 日韩欧美一区视频在线观看| 欧美在线一区亚洲| 国产精品 欧美亚洲| 欧美精品啪啪一区二区三区| 国产一区有黄有色的免费视频| 91av网站免费观看| 国产单亲对白刺激| 免费日韩欧美在线观看| 久久久国产欧美日韩av| 亚洲九九香蕉| 免费不卡黄色视频| av电影中文网址| 国产亚洲精品第一综合不卡| 久久久国产精品麻豆| 性少妇av在线| 五月天丁香电影| 日韩 欧美 亚洲 中文字幕| 精品福利永久在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 91九色精品人成在线观看| 涩涩av久久男人的天堂| 91成年电影在线观看| 夜夜夜夜夜久久久久| 欧美 亚洲 国产 日韩一| 午夜福利视频在线观看免费| 日韩视频一区二区在线观看| 桃花免费在线播放| 我要看黄色一级片免费的| 天天影视国产精品| 狠狠狠狠99中文字幕| 夫妻午夜视频| 亚洲精品成人av观看孕妇| 亚洲,欧美精品.| 久久久国产成人免费| 久久国产亚洲av麻豆专区| www.自偷自拍.com| 90打野战视频偷拍视频| 国产成人免费观看mmmm| 高清欧美精品videossex| 国产亚洲精品第一综合不卡| 大型av网站在线播放| www.熟女人妻精品国产| 另类精品久久| 捣出白浆h1v1| 国产极品粉嫩免费观看在线| 午夜日韩欧美国产| 亚洲伊人色综图| 亚洲九九香蕉| 精品久久蜜臀av无| 一级黄色大片毛片| 1024香蕉在线观看| 男人操女人黄网站| 午夜福利视频精品| 韩国精品一区二区三区| 精品国产一区二区三区久久久樱花| 操美女的视频在线观看| 两性午夜刺激爽爽歪歪视频在线观看 | 亚洲精品国产色婷婷电影| 一二三四在线观看免费中文在| 国产av一区二区精品久久| 久久性视频一级片| 黄色a级毛片大全视频| 亚洲专区中文字幕在线| 老司机影院毛片| 高清av免费在线| 麻豆成人av在线观看| 十八禁网站网址无遮挡| 久久久精品国产亚洲av高清涩受| 老司机深夜福利视频在线观看| 精品视频人人做人人爽| 欧美日韩成人在线一区二区| 国产精品电影一区二区三区 | 亚洲伊人色综图| 最近最新中文字幕大全免费视频| 午夜成年电影在线免费观看| 一二三四在线观看免费中文在| 深夜精品福利| 午夜老司机福利片| 我要看黄色一级片免费的| 欧美av亚洲av综合av国产av| 久久久久久久精品吃奶| 伦理电影免费视频| 亚洲专区中文字幕在线| 一个人免费在线观看的高清视频| 精品久久蜜臀av无| 女同久久另类99精品国产91| 国产精品九九99| 十分钟在线观看高清视频www| 水蜜桃什么品种好| 亚洲久久久国产精品| 黄色片一级片一级黄色片| 两性午夜刺激爽爽歪歪视频在线观看 | 一级黄色大片毛片| 国产欧美日韩一区二区三| 亚洲熟女精品中文字幕| 亚洲av成人一区二区三| 天天影视国产精品| 超色免费av| 国产成人精品久久二区二区免费| 日韩 欧美 亚洲 中文字幕| tocl精华| 美国免费a级毛片| 精品人妻在线不人妻| 男人操女人黄网站| av天堂在线播放| 国产男靠女视频免费网站| 亚洲中文av在线| 国产成人欧美在线观看 | 国产亚洲精品一区二区www | 国产一卡二卡三卡精品| 精品熟女少妇八av免费久了| 一区二区三区乱码不卡18| 久久亚洲精品不卡| 国产精品成人在线| 男男h啪啪无遮挡| 在线观看一区二区三区激情| 久久精品91无色码中文字幕| 久久 成人 亚洲| 久久国产精品男人的天堂亚洲| 久久午夜亚洲精品久久| 精品高清国产在线一区| 国产在线观看jvid| 久久精品亚洲av国产电影网| 午夜日韩欧美国产| 国产一卡二卡三卡精品| 热99re8久久精品国产| 国产亚洲精品一区二区www | 18禁国产床啪视频网站| 操出白浆在线播放| 国产老妇伦熟女老妇高清| 亚洲久久久国产精品| 首页视频小说图片口味搜索| 中文亚洲av片在线观看爽 | 黑丝袜美女国产一区| 成人18禁在线播放| 国产无遮挡羞羞视频在线观看| 日韩视频一区二区在线观看| 久久久久精品国产欧美久久久| 午夜免费成人在线视频| av网站免费在线观看视频| 中文字幕av电影在线播放| 国产高清激情床上av| 热99re8久久精品国产| 亚洲欧美精品综合一区二区三区| 岛国毛片在线播放| 多毛熟女@视频| 女人被躁到高潮嗷嗷叫费观| 亚洲一码二码三码区别大吗| 亚洲精品久久午夜乱码| 国产不卡一卡二| 欧美日韩一级在线毛片| av免费在线观看网站| 精品国产一区二区三区久久久樱花| 久久久久久久久免费视频了| 国产真人三级小视频在线观看| 国产欧美日韩综合在线一区二区| 国产精品免费视频内射| 精品国产一区二区三区久久久樱花| 久久午夜综合久久蜜桃| 丁香六月天网| 国产黄频视频在线观看| 欧美人与性动交α欧美软件| 大香蕉久久网| 亚洲精品国产色婷婷电影| 国产在线一区二区三区精| 黄频高清免费视频| 操美女的视频在线观看| 天堂俺去俺来也www色官网| 叶爱在线成人免费视频播放| 欧美大码av| 纯流量卡能插随身wifi吗| 老汉色av国产亚洲站长工具| 国产精品亚洲av一区麻豆| 国产成+人综合+亚洲专区| 色在线成人网| 日本av免费视频播放| 下体分泌物呈黄色| 午夜福利在线免费观看网站| 久久久久精品国产欧美久久久| 涩涩av久久男人的天堂| 麻豆国产av国片精品| 99国产精品一区二区三区| 日本黄色日本黄色录像| 法律面前人人平等表现在哪些方面| 大型黄色视频在线免费观看| 大香蕉久久成人网| 超碰成人久久| 久久精品人人爽人人爽视色| 久久人妻av系列| 国产成人欧美| 啦啦啦免费观看视频1| 69av精品久久久久久 | 伊人久久大香线蕉亚洲五| 久久人妻熟女aⅴ| 中文字幕av电影在线播放| 久久天堂一区二区三区四区| 国产精品亚洲av一区麻豆| 飞空精品影院首页| 1024视频免费在线观看| 免费在线观看视频国产中文字幕亚洲| 精品欧美一区二区三区在线| 一二三四在线观看免费中文在| 亚洲欧美一区二区三区黑人| 成人精品一区二区免费| 丁香欧美五月| 热99re8久久精品国产| 黄色成人免费大全| 久久中文字幕一级| 在线观看免费高清a一片| 一本一本久久a久久精品综合妖精| 国产精品久久电影中文字幕 | 国产精品久久久久成人av| av有码第一页| www.熟女人妻精品国产| 一个人免费看片子| 久久这里只有精品19| 悠悠久久av| 久久精品亚洲av国产电影网| 欧美激情久久久久久爽电影 | 午夜福利在线观看吧| 欧美激情久久久久久爽电影 | 国产精品偷伦视频观看了| 在线十欧美十亚洲十日本专区| 欧美激情极品国产一区二区三区| 制服人妻中文乱码| 精品一区二区三卡| 日韩大片免费观看网站| 乱人伦中国视频| 日本一区二区免费在线视频| 不卡一级毛片| 日韩大码丰满熟妇| a级毛片黄视频| 天堂中文最新版在线下载| 亚洲午夜理论影院| 亚洲av日韩精品久久久久久密| 高潮久久久久久久久久久不卡| 国产一卡二卡三卡精品| 自拍欧美九色日韩亚洲蝌蚪91| 18禁观看日本| 免费观看a级毛片全部| 日本黄色视频三级网站网址 | 久久久久国内视频| 国产精品国产高清国产av | 亚洲av日韩在线播放| av电影中文网址| 国产成人精品在线电影| 日日摸夜夜添夜夜添小说| 精品少妇黑人巨大在线播放| 国产高清国产精品国产三级| 精品视频人人做人人爽| 国产单亲对白刺激| 丝瓜视频免费看黄片| 国产欧美日韩一区二区精品| 丰满饥渴人妻一区二区三| 国产精品自产拍在线观看55亚洲 | 亚洲欧洲精品一区二区精品久久久| avwww免费| 一个人免费看片子| 亚洲国产av新网站| videos熟女内射| 两人在一起打扑克的视频| www.自偷自拍.com| 最黄视频免费看| 亚洲国产欧美日韩在线播放| av福利片在线| 欧美 日韩 精品 国产| 中文欧美无线码| 亚洲中文字幕日韩| 欧美精品人与动牲交sv欧美| 国产老妇伦熟女老妇高清| 天堂中文最新版在线下载| 欧美精品啪啪一区二区三区| 狠狠婷婷综合久久久久久88av| 高清欧美精品videossex| 91av网站免费观看| 国产亚洲精品一区二区www | 成人国产一区最新在线观看| 99热国产这里只有精品6| 男人舔女人的私密视频| 一进一出抽搐动态| 久久精品国产a三级三级三级| 两人在一起打扑克的视频| 无遮挡黄片免费观看| 老司机福利观看| 精品视频人人做人人爽| 大片电影免费在线观看免费| 男女无遮挡免费网站观看| 国产亚洲欧美精品永久| 精品视频人人做人人爽| 熟女少妇亚洲综合色aaa.| 国产在线观看jvid| 大片电影免费在线观看免费| 日韩 欧美 亚洲 中文字幕| 成人三级做爰电影| 99re在线观看精品视频| 精品欧美一区二区三区在线| 日韩 欧美 亚洲 中文字幕| 熟女少妇亚洲综合色aaa.| 欧美黑人精品巨大| 国产片内射在线| 亚洲视频免费观看视频| 久久ye,这里只有精品| 国产一卡二卡三卡精品| 9色porny在线观看| 十八禁网站免费在线| 50天的宝宝边吃奶边哭怎么回事| 国产精品二区激情视频| 一级毛片精品| 露出奶头的视频| 精品国产国语对白av| 久久中文字幕人妻熟女| 国产精品熟女久久久久浪| 男女下面插进去视频免费观看| 亚洲色图av天堂| 麻豆av在线久日| 麻豆乱淫一区二区| 如日韩欧美国产精品一区二区三区| 国产无遮挡羞羞视频在线观看| 麻豆国产av国片精品| 天天躁夜夜躁狠狠躁躁| 性少妇av在线| 国产在线观看jvid| 色尼玛亚洲综合影院| a级片在线免费高清观看视频| 色视频在线一区二区三区| 大香蕉久久网| 黑人操中国人逼视频| 久久精品国产亚洲av高清一级| 欧美精品亚洲一区二区| a在线观看视频网站| 国产成人欧美| 日本一区二区免费在线视频| 韩国精品一区二区三区| 成人国产av品久久久| 久久中文字幕一级| 欧美日韩av久久| 两性夫妻黄色片| 老熟女久久久| 欧美日韩亚洲国产一区二区在线观看 | 一本—道久久a久久精品蜜桃钙片| av在线播放免费不卡| 91大片在线观看| 19禁男女啪啪无遮挡网站| 91九色精品人成在线观看| 纵有疾风起免费观看全集完整版| 午夜激情av网站| 久久性视频一级片| 久久婷婷成人综合色麻豆| 国产极品粉嫩免费观看在线| videos熟女内射| 成人18禁在线播放| 一二三四社区在线视频社区8| 丁香六月欧美| 免费观看人在逋| 手机成人av网站| 亚洲人成电影观看| 国产成人欧美| 色婷婷av一区二区三区视频|