基于Dropout神經(jīng)網(wǎng)絡(luò)的農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)研究

張榮臻 胡堅(jiān)

摘要：本文探究了Dropout神經(jīng)網(wǎng)絡(luò)在農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)的應(yīng)用，改進(jìn)預(yù)測(cè)效果。實(shí)驗(yàn)表明，同等網(wǎng)絡(luò)結(jié)構(gòu)情況下，Dropout神經(jīng)網(wǎng)絡(luò)的農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)優(yōu)于普通神經(jīng)網(wǎng)絡(luò)。

關(guān)鍵詞：價(jià)格預(yù)測(cè);Dropout;神經(jīng)網(wǎng)絡(luò)

中圖分類(lèi)號(hào)：TP391.41 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9416（2018）11-0049-01

隨著計(jì)量經(jīng)濟(jì)學(xué)方法在農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)領(lǐng)域的逐漸推廣與應(yīng)用，定量研究方法逐漸居于主導(dǎo)地位。定量分析方法是借助一定的數(shù)學(xué)方法，將歷史統(tǒng)計(jì)數(shù)據(jù)進(jìn)行加工整理，揭示變量與變量么間的規(guī)律性聯(lián)系[1]。對(duì)農(nóng)產(chǎn)品價(jià)格進(jìn)行預(yù)測(cè)的方法很多，主要包括：回歸分析方法、時(shí)間序列預(yù)測(cè)法、組合預(yù)測(cè)方法、智能預(yù)測(cè)方法、集成預(yù)測(cè)方法等[2]。不同的預(yù)測(cè)方法各有其優(yōu)缺點(diǎn)，但是隨著神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展，特別是深度學(xué)習(xí)的發(fā)展，使用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)成為一種性能較高的方法。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)規(guī)模較小，預(yù)測(cè)精度不容易達(dá)到要求，所以擴(kuò)大神經(jīng)網(wǎng)絡(luò)規(guī)模是提升精度的一個(gè)有效途徑。但是農(nóng)產(chǎn)品價(jià)格數(shù)據(jù)的數(shù)據(jù)規(guī)模通常較小，在這種情況下訓(xùn)練一個(gè)大型的神經(jīng)網(wǎng)絡(luò)，通常很容易引起過(guò)擬合，即在測(cè)試集上的精度很低。本文探究了Dropout神經(jīng)網(wǎng)絡(luò)模型在農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)方面的應(yīng)用效果，以期找到提升農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)準(zhǔn)確率的一種新方法。

1 研究方法

1.1 Dropout神經(jīng)網(wǎng)絡(luò)原理

深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練中，需要去克服的兩大缺點(diǎn)：容易過(guò)擬合、訓(xùn)練時(shí)間長(zhǎng)。根據(jù)Geoffrey E.Hinton的研究，Dropout可以比較有效的緩解過(guò)擬合的發(fā)生，同時(shí)也減少了模型訓(xùn)練的時(shí)間。圖1（a）所示描述了一個(gè)普通神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，圖1（b）所示描述了一個(gè)Dropout神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。

對(duì)比圖中的兩種神經(jīng)網(wǎng)絡(luò)，Dropout神經(jīng)網(wǎng)絡(luò)在每輪網(wǎng)絡(luò)訓(xùn)練的過(guò)程中會(huì)隨機(jī)（臨時(shí)）刪掉網(wǎng)絡(luò)中一部分的隱藏神經(jīng)元，圖1（b）中虛線節(jié)點(diǎn)表示臨時(shí)被刪除的神經(jīng)元，根據(jù)臨時(shí)的神經(jīng)網(wǎng)絡(luò)進(jìn)行前向傳播和修正權(quán)重w。通過(guò)Dropout方法訓(xùn)練出來(lái)的神經(jīng)網(wǎng)絡(luò)，由于神經(jīng)元節(jié)點(diǎn)減少權(quán)重w會(huì)被放大。而在預(yù)測(cè)階段需要用到所有神經(jīng)元，所以權(quán)重w需要乘以刪除節(jié)點(diǎn)的概率p，以保障預(yù)測(cè)的效果。

1.2 模型設(shè)計(jì)

農(nóng)產(chǎn)品價(jià)格波動(dòng)性強(qiáng)，淺層的神經(jīng)網(wǎng)絡(luò)并不能很好地去擬合價(jià)格曲線，因此通過(guò)加大網(wǎng)絡(luò)深度來(lái)進(jìn)行農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)。模型一共有7層，輸入層的神經(jīng)元個(gè)數(shù)與輸入數(shù)據(jù)的維度相對(duì)應(yīng)。由于網(wǎng)絡(luò)層數(shù)變多，模型的擬合能力增強(qiáng)了，使用普通的訓(xùn)練方法容易導(dǎo)致過(guò)擬合，因此采用了Dropout訓(xùn)練方式。

2 實(shí)驗(yàn)及結(jié)果評(píng)價(jià)

實(shí)驗(yàn)數(shù)據(jù)來(lái)源于國(guó)家統(tǒng)計(jì)局的全國(guó)居民消費(fèi)價(jià)格指數(shù)數(shù)據(jù)，實(shí)驗(yàn)中選用了2009年11月到2018年10月期間的月度數(shù)據(jù)（上月為基），包含鮮菜類(lèi)、糧食類(lèi)、蛋類(lèi)、水產(chǎn)品類(lèi)、鮮果類(lèi)等類(lèi)別的價(jià)格指數(shù)數(shù)據(jù)。經(jīng)處理后，保留原有數(shù)據(jù)的同時(shí)，計(jì)算出了以2009年10月各類(lèi)居民消費(fèi)價(jià)格為基準(zhǔn)的數(shù)據(jù)，并以鮮菜類(lèi)價(jià)格指數(shù)（2009年10月為基）作為預(yù)測(cè)目標(biāo)值。其中2009年到2016年的數(shù)據(jù)作為訓(xùn)練樣本，2017年到2018年的數(shù)據(jù)作為測(cè)試樣本。

實(shí)驗(yàn)使用上述數(shù)據(jù)開(kāi)展，分別對(duì)普通神經(jīng)網(wǎng)絡(luò)和Dropout神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，之后分別進(jìn)行價(jià)格預(yù)測(cè)并對(duì)比預(yù)測(cè)效果。實(shí)驗(yàn)程序在Anaconda環(huán)境下，使用Python語(yǔ)言編寫(xiě)。

2.1 特征工程

農(nóng)產(chǎn)品價(jià)格波動(dòng)頻繁，其中隱藏著周期性。因此在特征提取的時(shí)候，通過(guò)不同的時(shí)間窗口的數(shù)據(jù)提取，間接地反映數(shù)據(jù)變化規(guī)律。這里主要提取不同時(shí)間窗口內(nèi)的平均值和標(biāo)準(zhǔn)差。另外保留相對(duì)數(shù)據(jù)，更加直觀地反映其趨勢(shì)特征?？傆?jì)提取了80維的特征，如表1所示。

2.2 實(shí)驗(yàn)結(jié)果及分析

使用訓(xùn)練樣本和測(cè)試樣本，分別對(duì)普通神經(jīng)網(wǎng)絡(luò)和Dropout神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和預(yù)測(cè)。當(dāng)誤差控制在0.02后終止訓(xùn)練，使用所得的模型進(jìn)行預(yù)測(cè)，得到的預(yù)測(cè)效果如圖2所示。從圖中可以看出，Dropout神經(jīng)網(wǎng)絡(luò)的誤差更小一些，具有較優(yōu)的預(yù)測(cè)精度和穩(wěn)定性。

3 結(jié)語(yǔ)

基于Dropout神經(jīng)網(wǎng)絡(luò)的農(nóng)產(chǎn)品價(jià)格預(yù)測(cè)模型，能較好地對(duì)農(nóng)產(chǎn)品價(jià)格的波動(dòng)做出預(yù)測(cè)。相比普通方法訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型，使用Dropout訓(xùn)練方法的預(yù)測(cè)精度有明顯的提升。由于數(shù)據(jù)集規(guī)模較小，模型的訓(xùn)練效果受限，下一步需在較大規(guī)模的數(shù)據(jù)集上驗(yàn)證模型的預(yù)測(cè)效果。

參考文獻(xiàn)

[1]任偉宏.農(nóng)產(chǎn)品市場(chǎng)價(jià)格預(yù)測(cè)方法探析[J].中國(guó)農(nóng)學(xué)通報(bào)，2011，（26）：209-212.

[2]牛超.農(nóng)產(chǎn)品市場(chǎng)價(jià)格的集成預(yù)測(cè)方法研究[D].華中師范大學(xué)，2016.

Price Prediction of Agricultural Products Based on Dropout Neural Network

ZHANG Rong-zhen， HU Jian

（Zhejiang Institute of Economics and Trade， Hangzhou Zhejiang? 310000）

Abstract：This paper explores the application of Dropout neural network in agricultural product price forecasting， improve the prediction effect. experiments show that， In the case of the same network structure， dropout neural network is superior to ordinary neural network in price forecasting of agricultural products.

Key words：price forecasting; Dropout; neural network