基于擴張因果卷積模型的冷庫商品銷售量預(yù)測

王天潤 蔣洪偉

摘? 要：疫情環(huán)境下，供應(yīng)鏈受到不良影響，庫存及市場投入量關(guān)乎著社會以及民生的穩(wěn)定。但是供給與需求無法達到完全一致的現(xiàn)象普遍存在，這使存儲管理上面臨兩方面難題：要么庫存過剩增加成本，要么庫存不足造成供給短缺。在這種情況下，對商品銷售量預(yù)測進行深入的研究是一件非常重要的事情。傳統(tǒng)的一維卷積神經(jīng)網(wǎng)絡(luò)（CNN）在銷售量預(yù)測上存在信息泄露的問題，且其結(jié)構(gòu)難以獲取較長的記憶。文中提出擴張因果卷積神經(jīng)網(wǎng)絡(luò)（Dilated Causal Convolution）來優(yōu)化模型解決問題，其中擴張卷積可以增加卷積模型的感受野大小，獲取序列的長時記憶;同時引入因果卷積來解決信息泄露問題。實驗結(jié)果表明文中提出的擴張因果卷積在銷售量預(yù)測方面有著較好的預(yù)測效果。

關(guān)鍵詞：銷售量預(yù)測;空洞卷積模型;因果卷積模型;深度學(xué)習

中圖分類號：F253? ? 文獻標志碼：A? ? DOI：10.13714/j.cnki.1002-3100.2023.15.017

Abstract： Under the epidemic situation， the supply chain is adversely affected. Inventory and market input are related to the stability of society and people's livelihood. However， the phenomenon that supply and demand cannot be completely consistent is widespread， which makes storage management face two problems： Either excess inventory increases costs， or insufficient inventory causes supply shortage. In this case， it is very important to make an in-depth study on the forecast of commodity sales. The traditional one-dimensional convolutional neural network（CNN）has the problem of information leakage in sales forecasting， and its structure is difficult to obtain a long memory. In this paper， a modified causal convolution neural network is proposed to optimize the model to solve the problem. The expanded convolution can increase the receptive field size of the convolution model and obtain the long-term memory of the sequence; at the same time， causal convolution is introduced to solve the problem of information leakage. The experimental results show that the extended causal convolution proposed in this paper has a good prediction effect in sales volume prediction.

Key words： sales volume forecast; void convolution model; causal convolution model; deep learning

0? 引? 言

疫情以來，我國各地相繼采取隔離措施，與此同時，居民的吃飯問題成為了民生保障的重中之重。其中不少副食品常溫不易保存，但是冷庫倉儲空間有限。目前國內(nèi)企業(yè)在運營中很多時候是根據(jù)平日的經(jīng)驗和簡單輔助工具來進行銷售量預(yù)測[1]，根據(jù)專家經(jīng)驗的預(yù)測會造成部分商品缺貨的同時部分商品存在積壓等問題。所以建立有效準確的銷售量預(yù)測模型能夠有效維持冷庫貨品的出入庫平衡，增加存儲空間利用率。因此，銷售量預(yù)測作為冷庫供應(yīng)鏈管理的一個環(huán)節(jié)顯得格外重要。

銷售量預(yù)測作為物流領(lǐng)域一個非?；A(chǔ)的研究方向，很多學(xué)者都進行了相關(guān)研究。從時間維度來看，銷售量預(yù)測問題就是經(jīng)典的時間序列預(yù)測問題，時間序列預(yù)測問題的重點是從過去的信息中挖掘?qū)ふ页鲭S時間不斷變化的一種趨勢，從而對未來的數(shù)據(jù)進行預(yù)測。近幾十年來學(xué)者對時間序列預(yù)測算法進行了大量研究，在許多方面取得良好成績。目前主要的研究方法分類有兩種，一種是基于統(tǒng)計學(xué)的方法，一種是基于機器學(xué)習的方法。

傳統(tǒng)時間序列預(yù)測模型，通常指用于時間序列分析/預(yù)測的統(tǒng)計學(xué)模型，比如常用的有均值回歸、ARIMA、指數(shù)平滑預(yù)測法等，優(yōu)點是復(fù)雜度低、計算速度快，但是有其局限性。通過實驗，發(fā)現(xiàn)由于真實應(yīng)用場景的復(fù)雜多樣性（現(xiàn)實世界的時間序列往往受到各種不同因素的限制與影響，而難以預(yù)測），比如受到營銷計劃、自然災(zāi)害等影響，傳統(tǒng)的單一統(tǒng)計學(xué)模型的準確率相對來說會比機器學(xué)習差，而機器學(xué)習模型相對更復(fù)雜，其集成模型會有更好的效果。

在機器學(xué)習的預(yù)測方法中，相對于傳統(tǒng)的樹模型需要人工構(gòu)建相關(guān)模型特征，神經(jīng)網(wǎng)絡(luò)模型通常需要輸入大量的數(shù)據(jù)來進行訓(xùn)練，因此如果同類時序的數(shù)據(jù)量夠多（有夠多的彼此間相關(guān)性較強的時序），那么訓(xùn)練一個通用型的端對端的神經(jīng)網(wǎng)絡(luò)預(yù)測會有不錯的效果。

深度學(xué)習是機器學(xué)習的一個分支，它利用深層體系學(xué)習數(shù)據(jù)的特征[2-3]，非常善于發(fā)現(xiàn)高維數(shù)據(jù)中的復(fù)雜結(jié)構(gòu)[4-5]，它的興起以及預(yù)測模型的組合帶來了許多新的預(yù)測思路。

例如Aburto、Weber結(jié)合神經(jīng)網(wǎng)絡(luò)和SARIMA模型組合來預(yù)測食品銷售[6];Zhang在研究中認為，當數(shù)據(jù)的時間序列被反季節(jié)性和反趨勢化時，神經(jīng)網(wǎng)絡(luò)的預(yù)測性能有了大幅提高[7]。Kou等人嘗試將遺傳算法與神經(jīng)網(wǎng)絡(luò)模型相結(jié)合，來預(yù)測某次某便利店的奶制品銷量，發(fā)現(xiàn)將不同的模型組合優(yōu)化后的模型在預(yù)測上的表現(xiàn)優(yōu)于傳統(tǒng)統(tǒng)計方法以及單一的神經(jīng)網(wǎng)絡(luò)預(yù)測模型[8]。

近年來，研究人員對銷售量預(yù)測模型進行了更深入的研究，為了解決人工提取特征時主觀性強且既費時又費力的問題，嘗試用卷積神經(jīng)網(wǎng)絡(luò)讓模型自動提取特征，并驗證了該方法是可行的[9]。

因果卷積（Causal Convolution）是一種重要的卷積網(wǎng)絡(luò)，早在1989年該結(jié)構(gòu)便已經(jīng)出現(xiàn)[10]。近來，這一模型在聲音處理、自然語言處理、機器視覺等領(lǐng)域都有了比較好的應(yīng)用。因果卷積結(jié)構(gòu)能夠保證計算時僅涉及之前時刻的信息，非常適于解決預(yù)測問題[11]。

1? 擴張因果卷積模型

1.1? 因果卷積。信息泄露是指針對帶有時間序列信息的數(shù)據(jù)處理時的問題，需要確保模型可以按順序使用數(shù)據(jù)，即在模型預(yù)測t時刻時，不會用到t+1，t+2等未來時刻數(shù)據(jù)。而傳統(tǒng)的CNN模型中，每層神經(jīng)元的連接是全連接（fully connected）的形式，不難發(fā)現(xiàn)，全連接恰恰違背了時間先后的基本約束，因為輸出的靠前的（前一時刻）神經(jīng)元與輸入靠后的（后一時刻）神經(jīng)元相互產(chǎn)生了連接，這應(yīng)該是不被允許的，因此做銷售量預(yù)測需要使用因果卷積模型。因果卷積解決的是時序預(yù)測中的信息泄露（leakage）問題，因果卷積的原理如圖1所示[12]。

從上面結(jié)構(gòu)可以看出，與傳統(tǒng)的CNN相比，因果卷積只能使用過去的數(shù)據(jù)，而不會使用到未來的數(shù)據(jù)，所以很好地解決了信息泄露問題。一維因果卷積在pytorch中一般通過Padding實現(xiàn)，序列前端填充相應(yīng)位數(shù)的零，而序列末端不進行填充。因為因果卷積是單向結(jié)構(gòu)的，所以它不能看到未來的數(shù)據(jù)，也就是只能從前面的數(shù)據(jù)來預(yù)測后面的數(shù)據(jù)，是一種嚴格的時間約束模型。模型在t時刻輸出的預(yù)測不會依賴任何一個未來時刻的數(shù)據(jù)，只依賴于下一層t時刻及其之前的值。

但是由于每一層的輸出都是由前一層對應(yīng)位置的輸入及其前一個位置的輸入共同得到，并且如果輸出層和輸入層之前有很多的隱藏層，那么一個輸出對應(yīng)的所有輸入就越多，如果每層的卷積核大小一定，空洞率一定，那么為了提高感受野，就要大幅增加網(wǎng)絡(luò)的深度。這樣會增加卷積的層數(shù)，而卷積層數(shù)的增加就帶來諸如梯度消失，訓(xùn)練復(fù)雜，模型過擬合等問題。

1.2? 擴張卷積。針對商品銷售量預(yù)測等序列任務(wù)，需要對之前一段時間內(nèi)的商品銷售量數(shù)據(jù)進行統(tǒng)計建模，不能僅僅依靠前一天的商品銷售量來預(yù)測第二天的出貨量。而傳統(tǒng)全連接神經(jīng)網(wǎng)絡(luò)的連接結(jié)構(gòu)丟棄了數(shù)據(jù)的時間序列、時間的先后關(guān)系等基于順序的信息。卷積神經(jīng)網(wǎng)絡(luò)可以通過卷積計算獲取數(shù)據(jù)序列關(guān)系，形成“記憶”，感受野的大小反映了使用多少數(shù)據(jù)生成“記憶”。在時間序列預(yù)測任務(wù)上使用卷積神經(jīng)網(wǎng)絡(luò)最大的問題是如何有效的提取長時間的記憶信息。

在卷積神經(jīng)網(wǎng)絡(luò)中，感受野指的是每一層輸出的特征圖（Feature Map）上的節(jié)點在原始輸入圖片上映射區(qū)域的大小。為了更好地獲取長時記憶，關(guān)鍵就是擴大感受野。當卷積層數(shù)為l，每層卷積核大小為k時，感受野大小為k-1×l+1。卷積神經(jīng)網(wǎng)絡(luò)的感受野大小與卷積核大小、卷積層數(shù)呈線性關(guān)系。因此，增加卷積層或者增大卷積核均能擴大感受野。但更深的卷積層數(shù)以及更大的卷積核，將會使網(wǎng)絡(luò)過于龐大，難以完成訓(xùn)練[13]。

在卷積神經(jīng)網(wǎng)絡(luò)中，較大的卷積核對運算的算力要求增加而且模型訓(xùn)練變慢，這是由于卷積核每增大一點，網(wǎng)絡(luò)的參數(shù)都會急劇增加。所以通常使用小的卷積核。另外一種較好的獲取長時記憶的方法就是使用擴張卷積，與傳統(tǒng)的卷積相比，擴張卷積除了卷積核大小外，還有一個參數(shù)是用來表示擴張大小的擴張系數(shù)（Dilation Rate）。

擴張卷積（Dilated Convolution）也被稱為空洞卷積或者膨脹卷積，是在標準的卷積核中注入空洞，以此來增加模型的感受野（Reception Field）。相比原來的正常卷積操作，擴張卷積多了一個參數(shù)：Dilation Rate，指的是卷積核的點的間隔數(shù)量。擴張卷積主要作用是可以指數(shù)倍擴大視野，通過在每一層乘法來實現(xiàn)層深和感受野大小間的指數(shù)關(guān)系?？梢钥吹诫S著擴展系數(shù)（Dilated）擴大，視野距也在擴大，其原理如圖2所示。

對于一維輸入的X， X∈R，濾波器f：0，…，k-1→R擴張卷積的計算F定義公式為：

Fs=X*dfs=∑fiX? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （1）

式中：d表示擴張系數(shù)，k表示卷積核大小，s-d*i表示上一層的感受野。當d為1 時，擴張卷積退化為普通卷積，通過控制d的大小，可以在計算量不變的前提下拓寬感受野。

一般的擴張卷積，隨著網(wǎng)絡(luò)深度的增加，擴張系數(shù)呈指數(shù)增大，這樣可以保證越深的卷積核能獲取到的歷史信息越長。

1.3? 擴張因果卷積。將因果卷積與擴張卷積思想結(jié)合，得到擴張因果卷積（Dilated Causal Convolution），原理如圖3所示。擴張因果卷積的擴張系數(shù)分別為1、2、4。擴張系數(shù)呈指數(shù)增長，使得感受野大小也呈指數(shù)增長，這樣在卷積層數(shù)不高的情況下，也能獲得很好的感受野，同時少的卷積層數(shù)還保證了模型的計算效率。

1.4? 擴張因果卷積模型結(jié)構(gòu)。本文模型由一組殘差單元構(gòu)成，如圖4所示。每個殘差單元是一個具有殘差連接的小型神經(jīng)網(wǎng)絡(luò)，通過殘差連接可以加快深層網(wǎng)絡(luò)反饋以及收斂，解決因為網(wǎng)絡(luò)層次的增加而造成的模型退化。

每一個殘差單元包括兩個卷積單元和一個1*1cov。卷積單元通過擴張系數(shù)的調(diào)整來實現(xiàn)更大的感受野，從而讓網(wǎng)絡(luò)能夠記憶足夠長的信息，且只對需要預(yù)測時刻t前的輸入數(shù)據(jù)進行卷積得到t時刻的輸出，確保不會發(fā)生信息泄露;然后對權(quán)重進行歸一化處理，使用ReLU函數(shù)為激活函數(shù);最后用Dropout操作來隨即丟棄一些神經(jīng)元，來加速模型訓(xùn)練并防止過擬合。1*1cov的作用是在殘差單元的輸入和輸出具有不同的維度時，對高維數(shù)據(jù)進行降維。

2? 實驗與結(jié)果分析

2.1? 環(huán)境設(shè)置。為了驗證本文所提擴張因果卷積模型的性能，利用Pytorch軟件進行算法編譯，仿真環(huán)境為處理器i7-10875H CPU 4.5GHz RAM16GB Win10操作系統(tǒng)的筆記本電腦。

2.2? 數(shù)據(jù)的選取與劃分。本文選用了某企業(yè)2020年7月1日到2021年1月31日共6個月的每日冷庫貨品銷售量作為實驗數(shù)據(jù)集，選取其中畜肉類商品，計算出每日銷售量作為實驗數(shù)據(jù)，部分數(shù)據(jù)如表1所示。

訓(xùn)練數(shù)據(jù)從2020年7月1日到2021年1月31日六個月數(shù)據(jù)，預(yù)處理后共131 112條完整樣本。其中20%作為驗證集，驗證集大小為26 222，測試集從2021年1月1日到2021年1月31日，總樣本量為21 452。

2.3? 實驗設(shè)計

（1）首先將冷庫產(chǎn)品銷售量數(shù)據(jù)進行處理，去除掉個別差錯數(shù)據(jù)，然后將每天的銷售量計算出來，以時間步為16天來對數(shù)據(jù)進行滑窗化處理，以便根據(jù)每一天的產(chǎn)品銷售量來預(yù)測下一天的產(chǎn)品銷售量;（2）數(shù)據(jù)進行預(yù)處理并劃分訓(xùn)練集與測試集;（3）將訓(xùn)練集輸入擴張因果卷積模型進行訓(xùn)練，模型輸入序列長度為16，卷積層數(shù)為4;（4）利用訓(xùn)練好的模型預(yù)測測試集冷庫出貨量并計算誤差。

本文使用模型進行了兩種情況的預(yù)測實驗。

為了檢驗擴張因果卷積對銷售量預(yù)測準確度，本文采用了平均絕對百分比誤差MAPE為指標來評價模型的擬合精度。MAPE的計算公式如公式（2）所示：

MAPE=∑×100%? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （2）

式中：xk為預(yù)測值，k為實際值;ek=xk-k， k=1，2，3，…，n。

MAPE的評價標準如表2所示。

實驗一：使用32天的數(shù)據(jù)，對接下來一天的銷售量進行預(yù)測，得到結(jié)果后與實際銷售量進行對比并計算MAPE。

實驗二：使用32天數(shù)據(jù)，對接下來七天的銷售量進行預(yù)測，

由于預(yù)測接下來一天的銷售量時輸入數(shù)據(jù)將模型訓(xùn)練之后進行預(yù)測，網(wǎng)絡(luò)輸出的最后一個數(shù)字就是對接下來一天的銷售量預(yù)測，所以在連續(xù)預(yù)測多天時，可以首先按照預(yù)測一天的流程預(yù)測，將得到的結(jié)果拼接到輸入數(shù)據(jù)中并在輸入數(shù)據(jù)中去掉第一位來預(yù)測接下來一天。如此循環(huán)至預(yù)測滿需要預(yù)測的七天這個時間段。

2.4? 實驗結(jié)果及分析

2.4.1? 實驗一。本文應(yīng)用的擴張因果卷積模型，隨機抽取日期，根據(jù)過去32天的銷售量預(yù)測未來一天的貨品銷售量，實驗結(jié)果如表3所示。

2.4.2? 實驗二。應(yīng)用擴張因果卷積。抽取了2021.01.09日為起始日期，以之前32天的銷售量來預(yù)測接下來一周的銷售量，得到數(shù)據(jù)如表4所示。

從表3中數(shù)據(jù)可以看出利用擴張因果卷積模型得到的銷售量預(yù)測模型的MAPE值為4.03，說明其精度更高。

從表4中數(shù)據(jù)可看出利用擴張因果卷積模型通過過去30天來預(yù)測，接下來七天得到的冷庫畜肉出貨量預(yù)測MAPE為5.01%，說明其預(yù)測精準度依然較高。根據(jù)表2中評價標準及對比實驗一可知，擴張因果卷積模型在預(yù)測未來七天的銷售量數(shù)據(jù)時，雖然精確度沒有預(yù)測未來一天的時候高，但其擬合精度仍為優(yōu)。

3? 結(jié)? 論

本文針對銷售量的預(yù)測有天然時空依賴性，構(gòu)建擴張因果卷積模型，使用擴張卷積來增加感受野大小，從而獲取序列的長時記憶;同時引入因果卷積來確保數(shù)據(jù)的時序性解決信息泄露問題。設(shè)計了預(yù)測一天和預(yù)測七天兩個實驗。通過對比MAPE指標，驗證了模型具有良好的精確性。

過去十幾年，神經(jīng)網(wǎng)絡(luò)在圖像識別、順序處理等方面都展現(xiàn)了良好的性能，在預(yù)測方向，神經(jīng)網(wǎng)絡(luò)模型也得到了更多的應(yīng)用，相信隨著研究的深入，基于卷積的神經(jīng)網(wǎng)絡(luò)模型也可以推動冷庫商品銷售量預(yù)測的進一步發(fā)展。

參考文獻：

[1] 蔣文武. 基于WaveNet-LSTM網(wǎng)絡(luò)的商品銷量預(yù)測研究[D]. 廣州：廣東工業(yè)大學(xué)，2019.

[2]? CHEN X W， LIN X. Big data deep learning： Challenges and perspectives[J]. Quality Control Transactions， 2014，2（2）：514-525.

[3]? GUO Y， LIU Y， OERLEMANS A， et al. Deep learning for visual understanding： A review[J]. Neurocomputing， 2016，187（26）：27-48.

[4]? LECUN Y， BENGIO Y， HINTON G. Deep learning[J]. Nature， 2015，521：436-444.

[5]? LITJENS G， KOOI T， BEJNORDI B E， et al. A survey on deep learning in medical image analysis[J]. Medical Image Analysis， 2017，42（9）：60-88.

[6]? ABURTO L， WEBER R. Improved supply chain management based on hybrid demand forecasts[J]. Applied Soft Computing， 2007，7（1）：136-144.

[7]? ZHANG G P， QI M. Neural netw ork forecasting for seasonal and trend time series[J]. European Journal of Operational Research， 2005，160（2）：501-514.

[8]? KUO R J. A sales forecasting system based on fuzzy neural network with initial weights generated by genetic algorithm[J]. European Joumal of Operational Research， 2001，129（3）：496-517.

[9] 釗魁. 基于卷積神經(jīng)網(wǎng)絡(luò)的電商數(shù)據(jù)深度挖掘[D]. 杭州：浙江大學(xué)，，2017.

[10]? WAIBEL A， HANAZAWA T， HINTON G， et al. Phoneme recognition using time-delay neural networks[J]. IEEE Transactions on Acoustics， Speech， and Signal Processing， 1989，37（3）：328-339.

[11] 劉宇杰. 基于因果卷積的預(yù)測算法研究[D]. 哈爾濱：哈爾濱工程大學(xué)，2020.

[12] 翟劍鋒. 基于TCN的時序數(shù)據(jù)研究[J]. 電子技術(shù)與軟件工程，2021（2）：196-198.

[13] 袁華，陳澤濠. 基于時間卷積神經(jīng)網(wǎng)絡(luò)的短時交通流預(yù)測算法[J]. 華南理工大學(xué)學(xué)報（自然科學(xué)版），2020，48（11）：107-113，122.

收稿日期：2022-11-23

作者簡介：王天潤（1998—），男，遼寧沈陽人，北京信息科技大學(xué)信息管理學(xué)院碩士研究生，研究方向：大數(shù)據(jù)與智慧物流;蔣洪偉（1972—），本文通信作者，男，遼寧沈陽人，北京信息科技大學(xué)信息管理學(xué)院，副教授，研究方向：數(shù)據(jù)分析與數(shù)據(jù)挖掘。

引文格式：王天潤，蔣洪偉. 基于擴張因果卷積模型的冷庫商品銷售量預(yù)測[J]. 物流科技，2023，46（15）：72-75.