• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    結(jié)合深度學(xué)習(xí)和分解算法的股票價格預(yù)測研究

    2021-03-09 16:41:04張倩玉嚴(yán)冬梅韓佳彤
    計算機(jī)工程與應(yīng)用 2021年5期
    關(guān)鍵詞:股票價格注意力神經(jīng)網(wǎng)絡(luò)

    張倩玉,嚴(yán)冬梅,韓佳彤

    天津財經(jīng)大學(xué) 理工學(xué)院,天津300222

    股票市場是投資市場最重要的組成部分之一。與其他行業(yè)相比,股票市場有著更高的投資回報率,同時也存在著更高的風(fēng)險,股票市場預(yù)測一直是投資者密切關(guān)注的問題。因此,對股票市場預(yù)測方法的研究以及如何減小股票價格預(yù)測的誤差成為了國內(nèi)外眾多學(xué)者的研究熱點。目前,常見的股票預(yù)測方法包括計量經(jīng)濟(jì)學(xué)方法和機(jī)器學(xué)習(xí)方法。

    計量經(jīng)濟(jì)學(xué)方法是人們根據(jù)統(tǒng)計學(xué)理論,應(yīng)用統(tǒng)計分析模型對股票價格進(jìn)行預(yù)測。常用的模型有自回歸滑動平均模型(Autoregressive Moving Average,ARMA)、差分整合移動平均自回歸模型(Autoregressive Integrated Moving Average,ARIMA)、廣義自回歸條件異方差模型(Autoregressive Conditional Heteroskedasticity,GRACH)。吳玉霞等人[1]通過建立ARIMA模型對創(chuàng)業(yè)板市場股票價格的變動規(guī)律和趨勢進(jìn)行了預(yù)測。楊琦等人[2]對數(shù)據(jù)初步分析并建立了ARMA模型,后通過加入GARCH項來消除模型中的條件異方差性,得到ARMA-GARCH模型對大眾公用股票價格進(jìn)行分析預(yù)測。計量經(jīng)濟(jì)學(xué)模型雖然比較客觀,有良好的理論支撐,但其優(yōu)勢體現(xiàn)在處理線性數(shù)據(jù)上且需要嚴(yán)格的基礎(chǔ)假設(shè),而股票價格序列是一種復(fù)雜的非線性時間序列,因此使用傳統(tǒng)的計量經(jīng)濟(jì)模型無法達(dá)到最理想的預(yù)測效果。

    與計量經(jīng)濟(jì)模型相比,機(jī)器學(xué)習(xí)方法可直接從數(shù)據(jù)中挖掘有價值的信息,無需預(yù)先制定假設(shè),并且機(jī)器學(xué)習(xí)方法能更好地處理非線性數(shù)據(jù),因此被廣泛應(yīng)用于股票價格預(yù)測。常用的機(jī)器學(xué)習(xí)方法包括決策樹、支持向量機(jī)(Support Vector Machine,SVM)、支持向量回歸機(jī)(Support Vactor Regression,SVR)、神經(jīng)網(wǎng)絡(luò)等。其中,神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機(jī)制使其擁有更強(qiáng)大的學(xué)習(xí)能力和非線性擬合能力,在股票價格預(yù)測領(lǐng)域更具有優(yōu)勢。

    神經(jīng)網(wǎng)絡(luò)概念的提出要追溯到20世紀(jì)40年代,但由于網(wǎng)絡(luò)自身的局限性,人們對神經(jīng)網(wǎng)絡(luò)的研究一度陷入了低潮,直到20世紀(jì)80年代玻爾茲曼機(jī)和反向傳播(Backpropagation,BP)算法[3]的出現(xiàn)解決了多層網(wǎng)絡(luò)的訓(xùn)練問題,神經(jīng)網(wǎng)絡(luò)重新成為了研究熱點。隨后,國內(nèi)外眾多學(xué)者開始利用神經(jīng)網(wǎng)絡(luò)進(jìn)行股票價格預(yù)測。White等人[4]將BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于股票價格預(yù)測,并使用IBM個股作為實驗對象,但由于出現(xiàn)了梯度爆炸現(xiàn)象,使參數(shù)陷入局部最小值,因此沒有達(dá)到預(yù)想的預(yù)測效果,但作者指出可以通過對網(wǎng)絡(luò)進(jìn)行調(diào)整以及對優(yōu)化算法進(jìn)行改造來提升模型性能。向小東等人[5]提出一種激勵函數(shù)來加速BP算法的收斂,通過調(diào)整參數(shù)并結(jié)合BP算法對股票價格進(jìn)行預(yù)測。張坤等人[6]使用小波分解將股票價格數(shù)據(jù)分解為不同的尺度,利用Elman神經(jīng)網(wǎng)絡(luò)分別對不同尺度的數(shù)據(jù)進(jìn)行預(yù)測,最后對各尺度數(shù)據(jù)的預(yù)測結(jié)果使用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行合成得到最終預(yù)測結(jié)果。肖菁等人[7]為避免算法陷入局部最優(yōu),基于LM算法建立了三層BP神經(jīng)網(wǎng)絡(luò)對股價進(jìn)行預(yù)測,并利用遺傳算法優(yōu)化網(wǎng)絡(luò)的權(quán)重和閾值,提高網(wǎng)絡(luò)的預(yù)測精度。于卓熙等人[8]運用主成分分析法對影響股票價格的指標(biāo)進(jìn)行降維,并使用廣義回歸神經(jīng)網(wǎng)絡(luò)對股票價格進(jìn)行預(yù)測,與ARIMA模型相比,該模型得到了更優(yōu)的預(yù)測結(jié)果。鄧烜堃等人[9]使用了深度自編碼器(Deep Autoencoder,DAE)對高維數(shù)據(jù)進(jìn)行壓縮并結(jié)合BP神經(jīng)網(wǎng)絡(luò)建立預(yù)測模型,實驗證明該模型可以有效減少計算開銷,并提高了預(yù)測精度。

    人們通過對網(wǎng)絡(luò)進(jìn)行優(yōu)化一定程度上避免了使參數(shù)陷入局部解,通過對輸入數(shù)據(jù)進(jìn)行降維,減少了訓(xùn)練開銷并提高了模型的預(yù)測準(zhǔn)確率,但傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)往往泛化能力不強(qiáng),容易出現(xiàn)過擬合等問題。

    近年來,隨著大數(shù)據(jù)技術(shù)的不斷發(fā)展以及計算機(jī)運算能力的提升,深度學(xué)習(xí)技術(shù)受到了國內(nèi)外學(xué)者的廣泛關(guān)注。與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)相比,深度學(xué)習(xí)模型層數(shù)更多,特征提取能力更強(qiáng)。以深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks,DNN)、卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)、循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)等為代表的深度學(xué)習(xí)技術(shù),在股票預(yù)測領(lǐng)域取得了進(jìn)展。但由于股票數(shù)據(jù)的復(fù)雜性及其存在的長期依賴問題,使傳統(tǒng)的RNN模型的預(yù)測性能無法進(jìn)一步提升,因此長短期記憶網(wǎng)絡(luò)(Long Short Term Memory Network,LSTM)成為了目前股票預(yù)測的主流模型。

    Wei等人[10]利用小波變換對股票價格時間序列進(jìn)行分解,消除噪聲干擾,利用堆疊式自動編碼器(Stacked Autoencoderm,SAE)提取深層特征,將高級去噪特征輸入LSTM預(yù)測股票價格。Huang等人[11]以LSTM作為股票預(yù)測主體模型,采用貝葉斯優(yōu)化方法對參數(shù)進(jìn)行動態(tài)選擇,確定最優(yōu)單元數(shù),與傳統(tǒng)LSTM相比預(yù)測準(zhǔn)確率提高25%。任君等人[12]從優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)的角度入手,采用正則化方法修改LSTM模型的目標(biāo)函數(shù),得到泛化能力強(qiáng)的彈性正則化LSTM,并使用該模型預(yù)測道瓊斯指數(shù)價格,得到了較好的預(yù)測效果。陳佳等人[13]從特征參數(shù)選取角度,對股票的15個參數(shù)指標(biāo)通過先分類后降維的思想篩選出最終的輸入?yún)?shù),并使用LSTM對股票指數(shù)價格進(jìn)行預(yù)測,該模型在速度和預(yù)測準(zhǔn)確性方面都得到了提升。

    為了進(jìn)一步減小股票價格的預(yù)測誤差,本文引入深度學(xué)習(xí)中的注意力機(jī)制并結(jié)合門控循環(huán)單元(Gated Recurrent Unit,GRU)神經(jīng)網(wǎng)絡(luò)對蘋果、亞馬遜、百度和貴州茅臺四家公司的股票價格及上證指數(shù)進(jìn)行預(yù)測,并且應(yīng)用經(jīng)驗?zāi)B(tài)分解(Empirical Mode Decomposition,EMD)算法和自適應(yīng)噪聲的完整集成經(jīng)驗?zāi)B(tài)分解(Complete Ensemble Empirical Mode Decomposition with Adaptive Noise,CEEMDAN)算法對原始股票價格時間序列進(jìn)行分解,對各分解信號分別進(jìn)行預(yù)測,最后將各分量的預(yù)測值相加得到最終預(yù)測結(jié)果。通過與其他模型進(jìn)行實驗對比,驗證模型的有效性。

    1 結(jié)合注意力機(jī)制的GRU神經(jīng)網(wǎng)絡(luò)股票價格預(yù)測

    1.1 GRU神經(jīng)網(wǎng)絡(luò)

    1.1.1 循環(huán)神經(jīng)網(wǎng)路

    RNN被廣泛應(yīng)用于語音識別、語言翻譯、時序數(shù)據(jù)預(yù)測等領(lǐng)域。RNN結(jié)構(gòu)如圖1所示,在t時刻,xt為網(wǎng)絡(luò)的輸入向量,st為網(wǎng)絡(luò)隱藏層值,οt為網(wǎng)絡(luò)的輸出向量,U、V、W為網(wǎng)絡(luò)的權(quán)重矩陣。網(wǎng)絡(luò)中的隱藏層節(jié)點相互連接,st的值不僅取決于當(dāng)前時刻的輸入xt,還取決于上一時刻隱藏層的輸出st-1。這種結(jié)構(gòu)使得網(wǎng)絡(luò)在t時刻的輸出與t時刻之前的輸入相關(guān)聯(lián),并能從之前的輸入中獲取到有效信息,因此RNN是一種具有記憶功能的神經(jīng)網(wǎng)絡(luò)。

    圖1 RNN結(jié)構(gòu)圖

    盡管RNN能夠有效地處理時間序列,但由于原始RNN隱藏單元的權(quán)重對網(wǎng)絡(luò)的訓(xùn)練影響較大,導(dǎo)致網(wǎng)絡(luò)存在梯度消失和梯度爆炸現(xiàn)象,這使得RNN不能很好地解決長距離依賴。為了解決這一問題,Hochreiter和Schmidhuber提出了LSTM神經(jīng)網(wǎng)絡(luò)模型[14]。

    LSTM神經(jīng)網(wǎng)絡(luò)是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)。與傳統(tǒng)RNN相比,LSTM網(wǎng)絡(luò)的神經(jīng)元中增加了能夠保存長期狀態(tài)的單元狀態(tài)(CellState)結(jié)構(gòu),以及三個對單元狀態(tài)進(jìn)行控制的門(Gate)結(jié)構(gòu),分別是遺忘門(Forget Gate)、輸入門(Input Gate)和輸出門(Output Gate)。

    LSTM神經(jīng)元的內(nèi)部結(jié)構(gòu)如圖2所示,在t時刻,xt是LSTM單元的輸入數(shù)據(jù),ht-1是LSTM單元在前一時刻的輸出,xt是單元狀態(tài)的值,ht是LSTM單元在當(dāng)前時刻的輸出。

    圖2 LSTM神經(jīng)元結(jié)構(gòu)

    1.1.2 GRU神經(jīng)網(wǎng)絡(luò)

    GRU神經(jīng)網(wǎng)絡(luò)[15]由Cho等人于2014年首次提出,是目前LSTM神經(jīng)網(wǎng)絡(luò)最成功的變體之一。與LSTM相比,GRU結(jié)構(gòu)更簡單,參數(shù)更少,而且還能保持著和LSTM相同的效果。

    GRU對LSTM做了兩個改動:(1)將輸入門、遺忘門、輸出門變?yōu)閮蓚€門——更新門(Update Gate)zt和重置門(Reset Gate)rt;(2)將LSTM的單元狀態(tài)ct與輸出合并為一個狀態(tài)ht,圖3為GRU神經(jīng)元的內(nèi)部結(jié)構(gòu)。

    圖3 GRU神經(jīng)元結(jié)構(gòu)

    更新門zt的作用是決定上一時刻隱藏層狀態(tài)中有多少信息傳遞到當(dāng)前時刻隱藏層狀態(tài)ht中,重置門rt的作用是決定上一時刻隱藏層狀態(tài)中的信息有多少是需要被遺忘的為當(dāng)前時刻的隱藏層的候選狀態(tài),使用重置門決定當(dāng)前候選狀態(tài)中要遺忘多少上一時刻隱藏狀態(tài)ht-1的內(nèi)容,ht表示當(dāng)前時刻隱藏層狀態(tài)。W為權(quán)重矩陣,[ht-1,xt]表示兩個向量的連接,σ是激活函數(shù)。

    GRU單元的計算公式見式(7)~(10):

    1.2 注意力機(jī)制

    注意力機(jī)制(Attention Mechanism)的靈感來源于對人類視覺注意力機(jī)制的研究。當(dāng)人類的視覺在感知眼前的場景時,由于人的注意力有限,所以不會對場景中的所有物體投入同等的關(guān)注度,而是快速捕捉到需要重點關(guān)注的區(qū)域,對重要區(qū)域給予更多的注意力,而忽略其他非重要區(qū)域,這一機(jī)制使人類能夠利用有限的注意力從大量信息中篩選出更高價值的信息,提高了人類在視覺信息處理時的效率和準(zhǔn)確率。

    結(jié)合注意力機(jī)制的模型近年來在圖像處理、語音識別和自然語言處理等領(lǐng)域被廣泛應(yīng)用。Mnih等人[16]將RNN模型與注意力機(jī)制結(jié)合來進(jìn)行圖像分類,Bahdanau等人[17]首次將注意力機(jī)制應(yīng)用到機(jī)器翻譯任務(wù)中。

    深度學(xué)習(xí)中的注意力機(jī)制和人類的視覺注意力機(jī)制類似,它的核心就是從輸入的序列中學(xué)習(xí)每一個輸入元素對目標(biāo)元素的重要程度,即注意力權(quán)重,使神經(jīng)網(wǎng)絡(luò)可以專注于選定好的對目標(biāo)任務(wù)更有效的輸入,在計算資源不足的情況下,將有限的資源分配給更重要的特征。

    1.3 結(jié)合注意力機(jī)制的GRU神經(jīng)網(wǎng)絡(luò)模型

    受啟發(fā)于Qin等人[18]提出的結(jié)合注意力機(jī)制的時間序列預(yù)測模型,本文對原始輸入序列引入注意力機(jī)制并結(jié)合GRU神經(jīng)網(wǎng)絡(luò)對股票價格進(jìn)行預(yù)測。

    對于給出的N個長度為T的時間序列,輸入矩陣表示輸入數(shù)據(jù)的特征數(shù),T表示設(shè)置的時間步長度,xk=表示第k個長度為T的時間序列表示在t時刻輸入的長度為N的序列。

    目標(biāo)序列的歷史數(shù)據(jù)表示為(y1,y2,…,yT)T,yi∈R,輸入序列的歷史數(shù)據(jù)表示為(x1,x2,…,xT)T,xi∈R,i={1,2,…,T}。結(jié)合了注意力機(jī)制的GRU神經(jīng)網(wǎng)絡(luò)模型的目標(biāo)就是給定時間步長T,根據(jù)輸入序列和目標(biāo)序列歷史數(shù)據(jù),學(xué)習(xí)一個從輸入序列到目標(biāo)序列的非線性映射。

    根據(jù)結(jié)合注意力機(jī)制的GRU神經(jīng)網(wǎng)絡(luò)的思想,針對t時刻而言,根據(jù)輸入矩陣X=(x1,x2,…,xT)T,學(xué)習(xí)一個從原始輸入序列xt到GRU神經(jīng)網(wǎng)絡(luò)隱藏層ht的映射,即:

    其中,ht∈Rm表示GRU網(wǎng)絡(luò)在t時刻的隱藏層的值,m為隱藏節(jié)點的個數(shù)。

    將ht和第k個輸入時間序列RT做相應(yīng)的計算,得到:

    2 基于EMD和CEEMDAN的股票價格預(yù)測

    2.1 EMD、CEEMDAN算法

    信號分解算法在處理非線性、非平穩(wěn)信號領(lǐng)域具有廣泛應(yīng)用。股票作為一種典型的非線性時序數(shù)據(jù),應(yīng)用EMD、CEEMDAN算法處理原始輸入序列S(t)可以有效地捕獲到原始價格序列在不同時間尺度上的特征。

    2.1.1 EMD算法原理

    EMD算法是Huang等人[19]提出的一種自適應(yīng)信號時頻處理方法,與傳統(tǒng)的傅里葉變換方法相比,EMD根據(jù)數(shù)據(jù)本身的時間尺度特征對信號進(jìn)行分解,通過自適應(yīng)得到基函數(shù),無需預(yù)先設(shè)定。

    EMD將原始信號分解為有限個本征模函數(shù)(Intrinsic Mode Function,IMF),每個IMF分量表示原始信號在不同時間尺度上的不同特征。IMF可以是線性函數(shù)也可以是非線性函數(shù),每個分解得到的IMF需滿足以下兩個條件:IMF函數(shù)在其定義域中,極值點的個數(shù)與零點個數(shù)相差不能超過1;由IMF的局部極大值定義的包絡(luò)函數(shù)和由IMF的局部極小值定義的包絡(luò)函數(shù)的和恒為0。

    EMD算法的具體步驟如下:

    步驟1找出原數(shù)據(jù)序列S(t)的極大值和極小值點。

    步驟2通過三次樣條插值過程對上包絡(luò)線U(t)和下包絡(luò)線L(t)的極值點進(jìn)行擬合。

    圖4 結(jié)合注意力機(jī)制的GRU模型

    步驟3根據(jù)m(t)=(U(t)+L(t))/2計算上包絡(luò)和下包絡(luò)的平均值m(t)。

    步驟4從原始序列S(t)中減去m(t),得到一個新的序列h(t)=S(t)-m(t)。

    步驟5重復(fù)步驟1到步驟4,以h(t)作為新的輸入序列,直到h(t)的均值接近于零為止,得到第i個IMF,表示為Ci(t)。

    步驟6將Ci(t)與原始序列S(t)分離,得到一個不含高頻分量的差分序列rI(t)=S(t)-Ci(t)。

    步驟7重復(fù)步驟1至步驟6,以rI(t)作為新的輸入序列,直到滿足終止條件。

    通過上述步驟,篩選出一組IMF,記作Ci(t)=(i=1,2,…,N)。根據(jù)式(15),原始信號S(t)由這組IMF重構(gòu)得到。

    其中,RN(t)為殘差,代表時間序列的趨勢。

    2.1.2 CEEMDAN算法原理

    通常情況下,EMD算法在處理非平穩(wěn)和非線性信號方面有很大的優(yōu)勢,但仍然存在“模式混合”問題。模式混合是指在不同的模式中存在相似的振蕩,或在一個模式中存在明顯不同的振幅。通過向信號中添加高斯白噪聲,集成經(jīng)驗?zāi)B(tài)分解(Ensemble Empirical Mode Decomposition,EEMD)算法[20]在一定程度上消除了EMD算法中存在的模式混合問題。但是,EEMD算法不能完全消除信號重構(gòu)后由于高斯白噪聲造成的重構(gòu)誤差。

    為了解決這個問題,提出了CEEMDAN算法[21]作為EEMD的改進(jìn)版本。定義運算符Ej(?)表示由EMD生成的第j個模式,設(shè)ωi(t)是正態(tài)分布N(0,1)的白噪聲。CEEMDAN算法的具體步驟如下:

    步驟1用EMD分解每個Si(t)=S(t)+ε0ωi(t),提取第一個IMF,其中ε0是噪聲系數(shù),i=1,2,…,I;并將第一種模式定義為

    步驟2計算第一殘差

    步驟3分解殘差r1(t)+ε1E1(ωi(t))獲得第二種模式:

    步驟4重復(fù)上述步驟得到另一個IMF,直到得到最終的殘差,最終的殘差可以表示為:

    其中,M為IMFS的總數(shù)。IMFS共同構(gòu)成了原始信號在不同時間尺度上的特征,殘差代表了原始序列的趨勢。

    2.2 基于EMD和CEEMDAN的股票預(yù)測模型

    為了進(jìn)一步提高股票預(yù)測模型的性能,提出了基于EMD和CEEMDAN的股票市場預(yù)測模型(EMD-aGRU、CEEMDAN-aGRU)。該模型包含兩個部分,第一部分是通過EMD和CEEMDAN算法,將原始股票價格序列分解為多個IMF序列和殘差序列,第二部分應(yīng)用了結(jié)合注意力機(jī)制的GRU模型(aGRU),將分解后得到的各個序列作為aGRU網(wǎng)絡(luò)模型的輸入數(shù)據(jù)進(jìn)行訓(xùn)練預(yù)測。實現(xiàn)步驟如圖5所示。

    圖5 股市預(yù)測流程模型

    步驟1利用EMD和CEEMDAN將原始股票價格序列S(t)分解為多個IMF序列Ci(t)(i=1,2,…,M)和殘差RM(t)。

    步驟2將所獲得的IMF和殘差作為aGRU預(yù)測模型的輸入數(shù)據(jù)進(jìn)行訓(xùn)練得到各IMF的預(yù)測結(jié)果。測試集的預(yù)測結(jié)果分別表示為

    步驟3根據(jù)式(17)對每個IMF和殘差的預(yù)測結(jié)果進(jìn)行重構(gòu),得到最終的預(yù)測價格序列。

    其中,L是測試集的長度是每個IMF的預(yù)測序列序列,S是殘差的預(yù)測?(t)表示測試集的最終預(yù)測結(jié)果。

    2.3 實驗分析

    2.3.1 數(shù)據(jù)來源及預(yù)處理

    本文選取的股票和股指數(shù)據(jù)(下載自Yahoo財經(jīng)),包含每天的開盤價(Open)、最高價(High)、最低價(Low)、收盤價(Close)、交易量(Volume)和調(diào)整后的收盤價(Adj Close),其中將調(diào)整后的收盤價作為目標(biāo)變量。

    由于將股票的價格數(shù)據(jù)和交易量數(shù)據(jù)同時作為輸入的特征參數(shù),而兩者的數(shù)值差異巨大,為了消除指標(biāo)間的量綱影響,提升模型精度和收斂速度,本文對數(shù)據(jù)進(jìn)行了歸一化處理。

    將處理后的數(shù)據(jù)按順序分成訓(xùn)練集和測試集,其中前80%的數(shù)據(jù)作為訓(xùn)練集用來訓(xùn)練模型,后20%的數(shù)據(jù)作為測試集對模型預(yù)測效果進(jìn)行評估。

    2.3.2模型構(gòu)建與參數(shù)設(shè)置

    本文實驗?zāi)P驮赑ython 3.7中的Keras框架下搭建并完成計算過程,Keras版本為2.2.4,采用Keras中的Sequential模型結(jié)構(gòu),將一層GRU層與一層Dense層相結(jié)合建立預(yù)測模型。在模型參數(shù)設(shè)置方面,通過進(jìn)行多次實驗最終確定實驗?zāi)P偷纳窠?jīng)元個數(shù)為128,批處理大?。╞atch_size)為128,迭代次數(shù)(epoch)為500,損失函數(shù)(loss)設(shè)置為平均絕對誤差損失函數(shù)(mae),優(yōu)化器(optimizer)為adam,參考文獻(xiàn)[18],將時間步長T設(shè)置為10。

    2.3.3 評價指標(biāo)

    為了評估CEEMDAN-aGRU模型對股票價格的預(yù)測性能,本文采用均方根誤差(RMSE)、平均絕對誤差(MAE)和R-平方(R2)三種回歸評價指標(biāo)來量化模型性能,三種指標(biāo)計算如公式(18)~(20)所示:

    其中,yi為真實值,yi為預(yù)測值,yˉ為真實值的均值,m為樣本數(shù)。RMSE和MAE用來度量真實值與預(yù)測值間的偏差,其值越小表明預(yù)測值越接近真實值,R2用來度量模型擬合程度,越接近1表明模型擬合越好。

    2.3.4 股票時間序列的EMD和CEEMDAN

    將股票的原始價格序列通過EMD和CEEMDAN算法分解成若干個IMF序列和一個殘差序列,根據(jù)實驗結(jié)果顯示,CEEMDAN生成的IMF的數(shù)量往往小于EMD算法生成的IMF的數(shù)量,為了更直觀地比較兩種算法的分解效果,實驗限制了EMD生成的IMF數(shù)量與CEEMDAN相同。圖6(a)和(b)展示了亞馬遜公司股票收盤價序列的分解結(jié)果。

    每個IMF從高頻到低頻排列,前幾個IMF代表原始序列中的高頻分量,可以看出EMD算法的分解結(jié)果存在“模式混合”現(xiàn)象,而通過CEEMDAN算法進(jìn)行分解這一問題有了明顯的改善,所得到的IMF有了明顯的頻差。

    2.3.5 股票價格預(yù)測

    將本文提出的CEEMDAN-aGRU模型應(yīng)用于蘋果(AAPL)、亞馬遜(AMZN)、百度(BIDU)和貴州茅臺(600519)四家公司的股票價格預(yù)測中,數(shù)據(jù)集所選時間范圍均為2009年1月1日至2018年12月31日,每只股票包含2 517條股價數(shù)據(jù)。圖7(a)、(b)、(c)、(d)分別為模型對蘋果、亞馬遜、百度和貴州茅臺四只股票的預(yù)測結(jié)果。

    圖6 亞馬遜公司股票收盤價序列分解結(jié)果

    為了驗證本文模型的性能,將CEEMDAN-aGRU模型與RNN、LSTM神經(jīng)網(wǎng)絡(luò)、GRU神經(jīng)網(wǎng)絡(luò)、結(jié)合注意力機(jī)制的LSTM網(wǎng)絡(luò)(aLSTM)、aGRU模型和EMDaGRU模型進(jìn)行了對比實驗,觀察不同模型對四只股票數(shù)據(jù)集的預(yù)測效果。為了消除一次實驗帶來的結(jié)果偶然性,對每個模型在不同數(shù)據(jù)集上分別進(jìn)行10次實驗,取多次結(jié)果的平均值,得到最終的實驗結(jié)果,實驗結(jié)果如表1所示。

    由表1可知,EMD-aGRU和CEEMDAN-aGRU模型在四只個股數(shù)據(jù)集上實驗得到的RMSE和MAE均小于其他模型,R2更接近1,說明與其他模型相比,EMDaGRU模型和CEEMDAN-aGRU模型預(yù)測的股票價格更接近真實值,模型擬合更好。證明針對股票價格預(yù)測問題,使用分解算法對原始序列進(jìn)行分解后再進(jìn)行預(yù)測,可以有效提升模型預(yù)測性能。其中,CEEMDANaGRU模型對股票的預(yù)測誤差小于EMD-aGRU模型,這是由于CEEMDAN從原始數(shù)據(jù)中提取了更有效的特征,因此預(yù)測誤差較小。

    圖7 CEEMDAN-aGRU模型對四只股票測試集預(yù)測結(jié)果

    表1 不同模型在四只股票測試集的預(yù)測性能

    圖8 (a)、(b)、(c)、(d)分別展示了aGRU模型和CEEMDAN-aGRU模型對蘋果、亞馬遜、百度和貴州茅臺四只股票前50天的預(yù)測結(jié)果。可以看出,與aGRU模型相比,CEEMDAN-aGRU模型的預(yù)測結(jié)果更接近股票價格的真實值,誤差更小。

    2.3.6 股票指數(shù)預(yù)測

    2018年Zhou等人[22]提出了EMD2FNN模型,該模型應(yīng)用EMD算法與FNN模型對股票指數(shù)進(jìn)行了預(yù)測。為了進(jìn)一步驗證CEEMDAN-aGRU模型的預(yù)測性能,將CEEMDAN-aGRU模型與EMD2FNN模型進(jìn)行實驗對比。本節(jié)實驗選擇上海證券交易所綜合指數(shù)(SSEC)作為實驗數(shù)據(jù),根據(jù)文獻(xiàn)[22]將數(shù)據(jù)集時間范圍選取為2012年1月4日至2016年1月30日,共1 214個交易日,實驗結(jié)果如表2所示,本文提出的CEEMDAN-aGRU模型在各項指標(biāo)上均優(yōu)于EMD2FNN模型。圖9展示了CEEMDAN-aGRU模型對SSEC測試集的預(yù)測結(jié)果,圖10展示了aGRU模型和CEEMDAN-aGRU模型對SSEC測試集前50天的預(yù)測結(jié)果。

    3 結(jié)語

    本文首先提出了結(jié)合注意力機(jī)制的GRU神經(jīng)網(wǎng)絡(luò)模型,即通過使用注意力機(jī)制對輸入特征參數(shù)進(jìn)行加權(quán),使網(wǎng)絡(luò)聚焦于更重要的輸入特征,將加權(quán)后的參數(shù)作為新的輸入,并使用GRU神經(jīng)網(wǎng)絡(luò)作為預(yù)測主體模型。后引入EMD和CEEMDAN算法來減小股票價格序列的非平穩(wěn)性、非線性對預(yù)測結(jié)果的影響。實驗對蘋果等四家公司的股票價格和上證指數(shù)進(jìn)行預(yù)測。結(jié)果表明:與其他網(wǎng)絡(luò)模型相比,本文提出的CEEMDANaGRU模型預(yù)測效果更好,模型擬合程度更高,證明了應(yīng)用信號分解算法能進(jìn)一步提升模型的預(yù)測性能,減小預(yù)測誤差。目前存在的問題是模型選擇的輸入特征參數(shù)較為單一,后期可以考慮增加模型的訓(xùn)練特征,從特征選取的角度進(jìn)一步提升模型的預(yù)測性能。

    圖8 aGRU和CEEMDAN-aGRU模型對四只股票前50天的預(yù)測結(jié)果

    圖9 SSEC測試集預(yù)測結(jié)果

    表2 不同模型在SSEC測試集的預(yù)測性能

    圖10 SSEC測試集前50天預(yù)測結(jié)果

    猜你喜歡
    股票價格注意力神經(jīng)網(wǎng)絡(luò)
    讓注意力“飛”回來
    基于GARCH族模型的重慶啤酒股票價格波動研究
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    “揚眼”APP:讓注意力“變現(xiàn)”
    傳媒評論(2017年3期)2017-06-13 09:18:10
    A Beautiful Way Of Looking At Things
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
    論股票價格準(zhǔn)確性的社會效益
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    我國股票價格指數(shù)與“克強(qiáng)指數(shù)”的關(guān)系研究
    基于支持向量機(jī)回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
    亚洲天堂av无毛| a级片在线免费高清观看视频| 久久久欧美国产精品| 国产精品一区二区在线观看99| 成人毛片60女人毛片免费| 亚洲综合色惰| 咕卡用的链子| 欧美成人午夜免费资源| 黄色配什么色好看| 最新中文字幕久久久久| 日本爱情动作片www.在线观看| 侵犯人妻中文字幕一二三四区| tube8黄色片| 国产探花极品一区二区| av福利片在线| 国精品久久久久久国模美| 三级国产精品片| h视频一区二区三区| 婷婷色av中文字幕| 欧美97在线视频| 国产男女超爽视频在线观看| 国产极品粉嫩免费观看在线| 卡戴珊不雅视频在线播放| 欧美亚洲日本最大视频资源| 免费大片黄手机在线观看| 超色免费av| √禁漫天堂资源中文www| 中文字幕精品免费在线观看视频| 91成人精品电影| 亚洲人成77777在线视频| 26uuu在线亚洲综合色| 9色porny在线观看| 啦啦啦啦在线视频资源| 亚洲国产日韩一区二区| 日韩不卡一区二区三区视频在线| videossex国产| 成年av动漫网址| 亚洲在久久综合| 免费高清在线观看视频在线观看| 成人国语在线视频| 日日爽夜夜爽网站| 中文字幕制服av| 涩涩av久久男人的天堂| 久久精品国产亚洲av涩爱| www.av在线官网国产| 久久精品人人爽人人爽视色| 飞空精品影院首页| 少妇被粗大猛烈的视频| 色视频在线一区二区三区| 黑人欧美特级aaaaaa片| 天天躁日日躁夜夜躁夜夜| www日本在线高清视频| 新久久久久国产一级毛片| h视频一区二区三区| 亚洲精品aⅴ在线观看| 欧美bdsm另类| 国产日韩一区二区三区精品不卡| 国产无遮挡羞羞视频在线观看| videos熟女内射| 免费少妇av软件| 久久久久国产网址| 极品人妻少妇av视频| 精品一区在线观看国产| 国产精品久久久久久精品电影小说| 999久久久国产精品视频| 老汉色av国产亚洲站长工具| 一级片免费观看大全| 欧美人与性动交α欧美精品济南到 | 99国产综合亚洲精品| 亚洲精品日韩在线中文字幕| 精品一区二区免费观看| 国产精品熟女久久久久浪| 国产成人精品无人区| 成人毛片a级毛片在线播放| 免费人妻精品一区二区三区视频| 国产男人的电影天堂91| 国产 精品1| 亚洲精品久久成人aⅴ小说| 精品福利永久在线观看| 久久午夜综合久久蜜桃| 美女国产高潮福利片在线看| 亚洲国产看品久久| 国产男女超爽视频在线观看| 看非洲黑人一级黄片| 国产一区二区 视频在线| 中文字幕精品免费在线观看视频| 在线观看免费视频网站a站| 亚洲成色77777| 1024视频免费在线观看| 久久久久久久久免费视频了| 国产精品嫩草影院av在线观看| 午夜精品国产一区二区电影| 91aial.com中文字幕在线观看| 久久久久国产精品人妻一区二区| 97精品久久久久久久久久精品| 国产日韩欧美亚洲二区| 岛国毛片在线播放| 桃花免费在线播放| 国产人伦9x9x在线观看 | 香蕉国产在线看| www.av在线官网国产| 看免费成人av毛片| 一级片免费观看大全| 国产成人91sexporn| 国产日韩一区二区三区精品不卡| 午夜激情av网站| 男人舔女人的私密视频| 欧美+日韩+精品| 肉色欧美久久久久久久蜜桃| 婷婷色麻豆天堂久久| 视频在线观看一区二区三区| 可以免费在线观看a视频的电影网站 | 一区二区三区精品91| 国产男人的电影天堂91| 午夜福利影视在线免费观看| 在线亚洲精品国产二区图片欧美| 欧美黄色片欧美黄色片| 人人妻人人澡人人看| 国产日韩一区二区三区精品不卡| 一边摸一边做爽爽视频免费| 男女无遮挡免费网站观看| 日本免费在线观看一区| 精品一区二区免费观看| 一边亲一边摸免费视频| 一级片免费观看大全| 成人影院久久| 2018国产大陆天天弄谢| 欧美日韩成人在线一区二区| 一边亲一边摸免费视频| 国产精品久久久久久精品电影小说| 久久毛片免费看一区二区三区| 成年美女黄网站色视频大全免费| av又黄又爽大尺度在线免费看| a级毛片黄视频| 在线观看人妻少妇| 国产av码专区亚洲av| av免费在线看不卡| 日韩三级伦理在线观看| 欧美日韩成人在线一区二区| 丝袜人妻中文字幕| 交换朋友夫妻互换小说| 欧美激情高清一区二区三区 | 亚洲综合精品二区| 9色porny在线观看| 伦理电影免费视频| 各种免费的搞黄视频| 最近最新中文字幕免费大全7| 日韩一卡2卡3卡4卡2021年| 久久久久久久精品精品| 久久久久久久亚洲中文字幕| av.在线天堂| 亚洲美女视频黄频| 欧美日韩精品网址| 日韩一区二区视频免费看| 夫妻性生交免费视频一级片| 成年女人毛片免费观看观看9 | 女人被躁到高潮嗷嗷叫费观| 深夜精品福利| 欧美bdsm另类| 国产av国产精品国产| 如何舔出高潮| 伦精品一区二区三区| 男的添女的下面高潮视频| 菩萨蛮人人尽说江南好唐韦庄| 精品少妇久久久久久888优播| 人妻系列 视频| 精品人妻在线不人妻| 寂寞人妻少妇视频99o| 性少妇av在线| 亚洲四区av| 十八禁高潮呻吟视频| 成人免费观看视频高清| 国产麻豆69| 中文字幕av电影在线播放| 国产日韩欧美视频二区| a级片在线免费高清观看视频| 最新中文字幕久久久久| 久久午夜福利片| 999久久久国产精品视频| 亚洲国产日韩一区二区| 少妇人妻 视频| 久久久精品94久久精品| 久久久久久伊人网av| 亚洲一区中文字幕在线| 97人妻天天添夜夜摸| 久久久久国产精品人妻一区二区| 久久精品久久久久久久性| 99热全是精品| 美女午夜性视频免费| 叶爱在线成人免费视频播放| 777米奇影视久久| 男男h啪啪无遮挡| 妹子高潮喷水视频| 亚洲中文av在线| 视频在线观看一区二区三区| 亚洲综合精品二区| 国产淫语在线视频| 亚洲精品日韩在线中文字幕| av不卡在线播放| 高清在线视频一区二区三区| 国产av精品麻豆| 欧美精品国产亚洲| 少妇熟女欧美另类| 成年人免费黄色播放视频| 一本色道久久久久久精品综合| 午夜91福利影院| 久久精品国产亚洲av天美| 欧美人与善性xxx| 一本—道久久a久久精品蜜桃钙片| 日韩免费高清中文字幕av| 亚洲视频免费观看视频| 香蕉国产在线看| 2018国产大陆天天弄谢| 一区二区三区激情视频| av有码第一页| 搡老乐熟女国产| 一本久久精品| 亚洲精品国产av蜜桃| 国产精品.久久久| 人人妻人人澡人人看| 最近2019中文字幕mv第一页| 人人妻人人爽人人添夜夜欢视频| 欧美日韩亚洲国产一区二区在线观看 | 777久久人妻少妇嫩草av网站| 波多野结衣av一区二区av| 汤姆久久久久久久影院中文字幕| 看免费av毛片| 久久久国产欧美日韩av| 日本av免费视频播放| 亚洲色图综合在线观看| 精品亚洲成a人片在线观看| 国产欧美亚洲国产| 国产成人精品无人区| 一区二区三区四区激情视频| 国产野战对白在线观看| 欧美xxⅹ黑人| 亚洲av电影在线观看一区二区三区| 一级黄片播放器| 精品一区二区三卡| 日韩人妻精品一区2区三区| 亚洲精品久久午夜乱码| 久久精品国产a三级三级三级| 不卡视频在线观看欧美| 极品人妻少妇av视频| 国产97色在线日韩免费| 少妇熟女欧美另类| 黑丝袜美女国产一区| 男人操女人黄网站| 青春草亚洲视频在线观看| 人妻系列 视频| 久久久欧美国产精品| 男人操女人黄网站| 婷婷色综合www| 性色av一级| 欧美精品高潮呻吟av久久| 丝袜人妻中文字幕| 99久久综合免费| 婷婷色av中文字幕| 久久精品人人爽人人爽视色| 人人妻人人添人人爽欧美一区卜| 精品人妻一区二区三区麻豆| 黄片无遮挡物在线观看| 精品卡一卡二卡四卡免费| 久久精品国产a三级三级三级| 欧美精品人与动牲交sv欧美| 亚洲色图综合在线观看| 少妇精品久久久久久久| 亚洲美女视频黄频| 亚洲精品日本国产第一区| 看十八女毛片水多多多| 又大又黄又爽视频免费| 毛片一级片免费看久久久久| 十八禁网站网址无遮挡| 精品国产乱码久久久久久小说| 欧美少妇被猛烈插入视频| 春色校园在线视频观看| 久久国产精品男人的天堂亚洲| av有码第一页| 欧美日韩视频精品一区| 亚洲精品av麻豆狂野| 欧美成人午夜精品| www.av在线官网国产| 美女大奶头黄色视频| 亚洲欧洲国产日韩| 咕卡用的链子| 亚洲少妇的诱惑av| 久久婷婷青草| 久久99蜜桃精品久久| 色吧在线观看| 久久久精品94久久精品| 日韩伦理黄色片| 一级毛片我不卡| 亚洲伊人久久精品综合| 国产成人午夜福利电影在线观看| 女人被躁到高潮嗷嗷叫费观| 久久久久久免费高清国产稀缺| 国产日韩欧美视频二区| 久久人人爽人人片av| 免费黄色在线免费观看| www.熟女人妻精品国产| 日韩大片免费观看网站| 搡老乐熟女国产| xxxhd国产人妻xxx| 亚洲国产精品成人久久小说| 国产日韩欧美亚洲二区| 美女高潮到喷水免费观看| 亚洲精品久久久久久婷婷小说| 一本色道久久久久久精品综合| 免费观看无遮挡的男女| 久久精品夜色国产| 欧美av亚洲av综合av国产av | av片东京热男人的天堂| 街头女战士在线观看网站| 亚洲国产av影院在线观看| 18禁裸乳无遮挡动漫免费视频| 亚洲精品久久午夜乱码| 最近中文字幕高清免费大全6| a级毛片黄视频| 国产一级毛片在线| 国产精品香港三级国产av潘金莲 | 久久人人爽人人片av| 不卡av一区二区三区| 欧美成人午夜精品| 国产精品蜜桃在线观看| 97精品久久久久久久久久精品| 观看美女的网站| 啦啦啦在线免费观看视频4| 午夜老司机福利剧场| 777久久人妻少妇嫩草av网站| 在线观看www视频免费| 伊人久久大香线蕉亚洲五| 亚洲精品久久成人aⅴ小说| 久久久久久人妻| 精品人妻在线不人妻| 深夜精品福利| videosex国产| 久久精品人人爽人人爽视色| 国产精品av久久久久免费| 亚洲欧美一区二区三区黑人 | 久久99精品国语久久久| 自拍欧美九色日韩亚洲蝌蚪91| 18禁动态无遮挡网站| 欧美黄色片欧美黄色片| 中文字幕另类日韩欧美亚洲嫩草| 午夜久久久在线观看| 亚洲国产最新在线播放| 欧美成人午夜精品| 国产精品国产av在线观看| 母亲3免费完整高清在线观看 | 亚洲欧洲国产日韩| 9色porny在线观看| 性色avwww在线观看| 春色校园在线视频观看| 国产老妇伦熟女老妇高清| 精品视频人人做人人爽| 欧美人与性动交α欧美精品济南到 | 新久久久久国产一级毛片| 蜜桃在线观看..| 国产av一区二区精品久久| 十八禁网站网址无遮挡| 婷婷色麻豆天堂久久| 最近最新中文字幕免费大全7| 青青草视频在线视频观看| 又黄又粗又硬又大视频| 乱人伦中国视频| 性高湖久久久久久久久免费观看| 久久99蜜桃精品久久| 国产男女内射视频| 亚洲国产最新在线播放| 在线观看www视频免费| 午夜福利一区二区在线看| 亚洲欧美一区二区三区黑人 | 国产日韩一区二区三区精品不卡| 高清不卡的av网站| a 毛片基地| 天天躁夜夜躁狠狠躁躁| 秋霞伦理黄片| 亚洲经典国产精华液单| 纵有疾风起免费观看全集完整版| 91aial.com中文字幕在线观看| 日韩不卡一区二区三区视频在线| 精品国产乱码久久久久久男人| 久久久久久久久久久久大奶| 亚洲欧美一区二区三区黑人 | 成人毛片60女人毛片免费| 久久99精品国语久久久| 亚洲美女视频黄频| 色哟哟·www| 亚洲精品久久午夜乱码| 欧美 亚洲 国产 日韩一| 热99国产精品久久久久久7| 久久精品久久久久久久性| 女的被弄到高潮叫床怎么办| 一级爰片在线观看| 美女高潮到喷水免费观看| 美女大奶头黄色视频| 久久精品国产自在天天线| 日韩中文字幕视频在线看片| 国产成人a∨麻豆精品| 日韩一区二区三区影片| h视频一区二区三区| 叶爱在线成人免费视频播放| 纵有疾风起免费观看全集完整版| 最新的欧美精品一区二区| 欧美精品av麻豆av| 精品少妇一区二区三区视频日本电影 | 成人国产av品久久久| 精品国产一区二区三区四区第35| 午夜福利视频在线观看免费| 亚洲av电影在线进入| 日本av免费视频播放| 青青草视频在线视频观看| 欧美精品高潮呻吟av久久| 美女国产视频在线观看| 超碰97精品在线观看| av免费观看日本| 国产 精品1| 最近中文字幕2019免费版| 久久韩国三级中文字幕| 深夜精品福利| xxxhd国产人妻xxx| 久久久欧美国产精品| 久久热在线av| 久久精品熟女亚洲av麻豆精品| 久久久久视频综合| 欧美成人午夜免费资源| 日本vs欧美在线观看视频| 亚洲欧美中文字幕日韩二区| 欧美变态另类bdsm刘玥| 美女国产视频在线观看| 狂野欧美激情性bbbbbb| 国产又色又爽无遮挡免| 可以免费在线观看a视频的电影网站 | 男人操女人黄网站| 王馨瑶露胸无遮挡在线观看| 国产在线一区二区三区精| 满18在线观看网站| 国产精品免费大片| 一个人免费看片子| 亚洲一区二区三区欧美精品| 免费在线观看视频国产中文字幕亚洲 | 好男人视频免费观看在线| 欧美av亚洲av综合av国产av | av.在线天堂| 国产精品女同一区二区软件| 精品酒店卫生间| 成人漫画全彩无遮挡| 一级片'在线观看视频| 97在线人人人人妻| 少妇人妻 视频| 午夜福利视频在线观看免费| 少妇人妻久久综合中文| 婷婷成人精品国产| 国产熟女午夜一区二区三区| 国产免费又黄又爽又色| 老司机影院毛片| 欧美xxⅹ黑人| 中文字幕人妻丝袜制服| 亚洲综合色惰| 热99国产精品久久久久久7| 国产日韩欧美在线精品| 欧美精品一区二区免费开放| av国产久精品久网站免费入址| 国产欧美日韩一区二区三区在线| 男女免费视频国产| 久久久久久久久免费视频了| 久久久久久人人人人人| 欧美日韩一区二区视频在线观看视频在线| 亚洲av成人精品一二三区| 91久久精品国产一区二区三区| 少妇精品久久久久久久| 亚洲精品视频女| 日日摸夜夜添夜夜爱| 久久精品国产鲁丝片午夜精品| 亚洲激情五月婷婷啪啪| 欧美日韩一级在线毛片| 日日爽夜夜爽网站| 亚洲欧美色中文字幕在线| 人体艺术视频欧美日本| 久久精品亚洲av国产电影网| 久久久久国产一级毛片高清牌| 色播在线永久视频| 一级a爱视频在线免费观看| 国产日韩欧美视频二区| 新久久久久国产一级毛片| 老汉色av国产亚洲站长工具| av.在线天堂| 极品人妻少妇av视频| 色视频在线一区二区三区| 色播在线永久视频| 伊人久久大香线蕉亚洲五| 久久久久精品人妻al黑| 欧美日韩视频精品一区| 欧美国产精品一级二级三级| av国产精品久久久久影院| 免费看av在线观看网站| 久久久国产欧美日韩av| 蜜桃在线观看..| 色网站视频免费| 日本wwww免费看| 91在线精品国自产拍蜜月| 国产片特级美女逼逼视频| 97精品久久久久久久久久精品| 日日啪夜夜爽| 亚洲,欧美,日韩| 美女脱内裤让男人舔精品视频| 丝袜人妻中文字幕| 午夜91福利影院| 久久精品国产a三级三级三级| 国产av码专区亚洲av| 亚洲内射少妇av| 免费少妇av软件| 午夜日本视频在线| 久久综合国产亚洲精品| 亚洲精品第二区| 亚洲欧美成人精品一区二区| 日产精品乱码卡一卡2卡三| 看免费av毛片| 激情视频va一区二区三区| 久久久欧美国产精品| 这个男人来自地球电影免费观看 | 久久人人爽av亚洲精品天堂| 水蜜桃什么品种好| 蜜桃国产av成人99| 国产精品二区激情视频| 欧美日韩一级在线毛片| 黄色毛片三级朝国网站| 婷婷色av中文字幕| 捣出白浆h1v1| 亚洲伊人久久精品综合| 老司机亚洲免费影院| 岛国毛片在线播放| 久久久久久久久免费视频了| 少妇的逼水好多| 久久久久人妻精品一区果冻| 秋霞伦理黄片| 色哟哟·www| 国产成人午夜福利电影在线观看| 亚洲欧洲日产国产| 久热这里只有精品99| 亚洲,欧美,日韩| av网站在线播放免费| h视频一区二区三区| 男女边吃奶边做爰视频| 美女中出高潮动态图| 免费av中文字幕在线| 亚洲欧美成人精品一区二区| 丰满迷人的少妇在线观看| 久久女婷五月综合色啪小说| 狂野欧美激情性bbbbbb| 精品久久久久久电影网| 国产精品不卡视频一区二区| 人人澡人人妻人| 99久久人妻综合| 欧美日韩一级在线毛片| 男女无遮挡免费网站观看| 欧美日韩亚洲国产一区二区在线观看 | 久久久国产精品麻豆| 国产成人免费无遮挡视频| 欧美激情极品国产一区二区三区| 91精品伊人久久大香线蕉| 国产成人精品久久二区二区91 | 男女下面插进去视频免费观看| 啦啦啦啦在线视频资源| 最黄视频免费看| 纯流量卡能插随身wifi吗| 免费在线观看黄色视频的| 人妻 亚洲 视频| 中文字幕最新亚洲高清| 日本免费在线观看一区| 婷婷色av中文字幕| 亚洲欧洲国产日韩| 亚洲精品久久成人aⅴ小说| 搡老乐熟女国产| 久久国产精品男人的天堂亚洲| 亚洲,一卡二卡三卡| 亚洲成色77777| 少妇人妻精品综合一区二区| 大香蕉久久成人网| 午夜影院在线不卡| 亚洲内射少妇av| 午夜福利乱码中文字幕| 久久午夜福利片| 久久女婷五月综合色啪小说| 中文字幕精品免费在线观看视频| 国产淫语在线视频| 人人妻人人澡人人看| 亚洲av免费高清在线观看| 欧美 日韩 精品 国产| 国产成人午夜福利电影在线观看| 最近2019中文字幕mv第一页| 免费大片黄手机在线观看| 又粗又硬又长又爽又黄的视频| 久热久热在线精品观看| 国产女主播在线喷水免费视频网站| 美女福利国产在线| 午夜福利一区二区在线看| av国产精品久久久久影院| 国产精品不卡视频一区二区| 中文精品一卡2卡3卡4更新| 伊人久久大香线蕉亚洲五| 十分钟在线观看高清视频www| 国产一级毛片在线| 亚洲国产av影院在线观看| 欧美亚洲日本最大视频资源| 香蕉丝袜av| 啦啦啦在线免费观看视频4| 99精国产麻豆久久婷婷| 老汉色∧v一级毛片| 久久久亚洲精品成人影院| 免费黄频网站在线观看国产| 亚洲美女视频黄频| 成年动漫av网址| 国产成人精品婷婷| 国产淫语在线视频|