基于LSTM 神經(jīng)網(wǎng)絡(luò)的創(chuàng)新創(chuàng)業(yè)發(fā)展預(yù)測與區(qū)域發(fā)展比較
——以陜西與四川為對(duì)象

查 博

（西安財(cái)經(jīng)大學(xué)商學(xué)院，陜西西安 710100）

創(chuàng)新是社會(huì)發(fā)展進(jìn)步的靈魂，創(chuàng)業(yè)是促進(jìn)經(jīng)濟(jì)與社會(huì)實(shí)現(xiàn)快速發(fā)展、改善民生水平的重要途徑，創(chuàng)新和創(chuàng)業(yè)其實(shí)是連為一體、共生共存的關(guān)系。2018 年印發(fā)的《國務(wù)院關(guān)于推動(dòng)創(chuàng)新創(chuàng)業(yè)高質(zhì)量發(fā)展打造“雙創(chuàng)”升級(jí)版的意見》（國發(fā)［2018］32 號(hào)），明確指出切實(shí)促進(jìn)大眾創(chuàng)業(yè)、萬眾創(chuàng)新的目標(biāo)發(fā)展，是我國創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略得以實(shí)施的重要支持，是深入推進(jìn)供給側(cè)結(jié)構(gòu)性改革的重要路徑。打造“雙創(chuàng)”的升級(jí)版，推進(jìn)創(chuàng)新創(chuàng)業(yè)實(shí)現(xiàn)高質(zhì)量快速度的發(fā)展，有利于促進(jìn)并增強(qiáng)以創(chuàng)業(yè)帶動(dòng)就業(yè)的能力，有利于提升科技的創(chuàng)新水平和產(chǎn)業(yè)的發(fā)展活力，有利于創(chuàng)造并提供優(yōu)質(zhì)資源供給和擴(kuò)大有效的市場需求，對(duì)我國經(jīng)濟(jì)實(shí)現(xiàn)快速良性的發(fā)展，具有重要的內(nèi)生動(dòng)力意義。

在國家和政府對(duì)創(chuàng)新創(chuàng)業(yè)事業(yè)的大力扶持下，我國創(chuàng)新創(chuàng)業(yè)的發(fā)展水平不斷的提升，這關(guān)系到國家創(chuàng)新創(chuàng)業(yè)總體方針與相應(yīng)政策能否得到落實(shí)并是否獲得成功的重要反應(yīng)和持續(xù)性結(jié)果。而創(chuàng)新創(chuàng)業(yè)未來的發(fā)展特點(diǎn)及趨勢(shì)如何，直接影響著我國創(chuàng)新型國家建設(shè)以及以創(chuàng)業(yè)推動(dòng)就業(yè)水平提升的目標(biāo)與號(hào)召。因此有必要對(duì)創(chuàng)新創(chuàng)業(yè)的發(fā)展水平及其趨勢(shì)進(jìn)行科學(xué)的預(yù)測，并以預(yù)測結(jié)果與展現(xiàn)出的發(fā)展特點(diǎn)為基準(zhǔn)來制定未來創(chuàng)新創(chuàng)業(yè)的發(fā)展目標(biāo)和保障政策。

國內(nèi)學(xué)者在相關(guān)研究領(lǐng)域有著一些研究成果。宋傅天［1］認(rèn)為在實(shí)踐中，大學(xué)生雙創(chuàng)規(guī)模發(fā)展?jié)摿薮?、?chuàng)業(yè)成功率不斷提高、區(qū)域分布逐漸優(yōu)化，但存在技術(shù)創(chuàng)新能力不足、商業(yè)模式尚不完善、融資方案的設(shè)計(jì)經(jīng)驗(yàn)不足等顯著問題。針對(duì)這些問題及其各自的成因，政府、學(xué)校與學(xué)生等實(shí)施主體應(yīng)該盡職盡責(zé)，激勵(lì)相融，大力營造良好的政策環(huán)境、加強(qiáng)“雙創(chuàng)”教育、提高自身能力，努力推進(jìn)大學(xué)投身于創(chuàng)新創(chuàng)業(yè)事業(yè)中來。韓立［2］認(rèn)為我國高校創(chuàng)新創(chuàng)業(yè)教育發(fā)展中還面臨一些問題和不足，采取切實(shí)有效的相關(guān)措施，不斷改進(jìn)與完善大學(xué)生創(chuàng)新創(chuàng)業(yè)課程體系，明確創(chuàng)新創(chuàng)業(yè)人才培養(yǎng)目標(biāo)，對(duì)改善高校創(chuàng)新創(chuàng)業(yè)教育現(xiàn)狀、提高人才培養(yǎng)質(zhì)量具有重要的意義。張秀峰等［3］通過對(duì)北京市31 所高校大學(xué)生創(chuàng)新創(chuàng)業(yè)教育相關(guān)課程、課外實(shí)踐活動(dòng)現(xiàn)狀進(jìn)行實(shí)證調(diào)查后發(fā)現(xiàn)：大學(xué)生創(chuàng)新創(chuàng)業(yè)教育存在創(chuàng)業(yè)教育課程未能很好地融入教學(xué)體系、創(chuàng)新創(chuàng)業(yè)實(shí)踐教學(xué)環(huán)節(jié)同質(zhì)化嚴(yán)重、創(chuàng)業(yè)環(huán)境不夠完善、創(chuàng)新創(chuàng)業(yè)的興趣還需進(jìn)一步激發(fā)等問題。雷朝滋［4］認(rèn)為做好創(chuàng)新創(chuàng)業(yè)工作是落實(shí)國家戰(zhàn)略的重要舉措。大力推進(jìn)創(chuàng)新創(chuàng)業(yè)工作是我國高等教育自身改革發(fā)展的根本需要。加強(qiáng)創(chuàng)新創(chuàng)業(yè)教育是減輕高等學(xué)校畢業(yè)生就業(yè)壓力問題的一劑良方。王偉忠［5］構(gòu)建了大學(xué)生創(chuàng)業(yè)指導(dǎo)服務(wù)“三維聯(lián)動(dòng)”的工作機(jī)制和“要素協(xié)同”的運(yùn)行模式，切實(shí)發(fā)揮政府、高校、市場（社會(huì)）等主體和多要素在大學(xué)生創(chuàng)業(yè)指導(dǎo)服務(wù)中的引導(dǎo)、培育和支持功能，有利于推動(dòng)和提升大學(xué)生創(chuàng)業(yè)指導(dǎo)服務(wù)的能力建設(shè)，促進(jìn)大學(xué)生創(chuàng)新創(chuàng)業(yè)進(jìn)程實(shí)現(xiàn)可持續(xù)發(fā)展，提高大學(xué)生創(chuàng)新創(chuàng)業(yè)的成功率和發(fā)展質(zhì)量。趙軍等［6］在對(duì)“互聯(lián)網(wǎng)+”與創(chuàng)新創(chuàng)業(yè)國家戰(zhàn)略的實(shí)施背景進(jìn)行研究的基礎(chǔ)上，闡述了“互聯(lián)網(wǎng)+”的含義和本質(zhì)，分析了“互聯(lián)網(wǎng)+”環(huán)境下大學(xué)生創(chuàng)新創(chuàng)業(yè)信息平臺(tái)構(gòu)建的必要性，運(yùn)用專家訪談和問卷調(diào)查的方法，分析了“互聯(lián)網(wǎng)+”環(huán)境下大學(xué)生創(chuàng)新創(chuàng)業(yè)的需求和平臺(tái)的設(shè)計(jì)功能，最后提出了基于“云平臺(tái)”的三層架構(gòu)。查博等［7］從創(chuàng)業(yè)投資角度探討了分階段投資中創(chuàng)業(yè)企業(yè)面對(duì)不完全資本市場和創(chuàng)投公司面對(duì)道德風(fēng)險(xiǎn)及不確定性時(shí)的模型，分析了分階段投資在模型中作用。在對(duì)比初期一次性投資和分階段投資后，結(jié)合再談判行為的特性，發(fā)現(xiàn)了一些有意義的結(jié)論。

外文文獻(xiàn)在相關(guān)研究領(lǐng)域有著一些研究成果。Satish Nambisan 等［8］認(rèn)為強(qiáng)大的數(shù)字技術(shù)、數(shù)字平臺(tái)和數(shù)字基礎(chǔ)設(shè)施的出現(xiàn)，在很大程度上改變了創(chuàng)新和創(chuàng)業(yè)。數(shù)字技術(shù)不僅為創(chuàng)新者和企業(yè)家提供了新的機(jī)遇，還對(duì)價(jià)值創(chuàng)造和價(jià)值獲取具有更廣泛的影響。Lei Cheng 等［9］試圖調(diào)和政治關(guān)系對(duì)企業(yè)創(chuàng)新的混合效應(yīng)。利用中國雇主—雇員調(diào)查（CEES），發(fā)現(xiàn)政治聯(lián)系有助于那些有創(chuàng)新企業(yè)家的企業(yè)開展創(chuàng)新活動(dòng)，但阻礙了那些沒有創(chuàng)新企業(yè)家的企業(yè)開展創(chuàng)新活動(dòng)。Erasmia Leonidou 等［10］認(rèn)為利益相關(guān)者參與創(chuàng)新管理和后續(xù)創(chuàng)業(yè)發(fā)展的先行作用是相互關(guān)聯(lián)的。通過系統(tǒng)的方法回顧和框架開發(fā)，可以更全面、更深入地了解企業(yè)家與各利益相關(guān)者之間的互動(dòng)關(guān)系，從而促進(jìn)創(chuàng)新管理和創(chuàng)業(yè)發(fā)展。Chirantan Chatterjee 等［11］認(rèn)為盡管印度的創(chuàng)新、創(chuàng)業(yè)和科技活動(dòng)越來越多地由女性主導(dǎo)，但在實(shí)現(xiàn)男女平等之前，仍然存在著巨大的差距。Giuseppe 等［12］以文化創(chuàng)新理論為基礎(chǔ)，以一家新近成立的消費(fèi)者創(chuàng)業(yè)企業(yè)為例，分析了該企業(yè)在本土競爭中所追求的文化定位。歷時(shí)兩年的縱向案例研究將縱向案例分析與積極的研究結(jié)合起來，得出了一些發(fā)現(xiàn)，這些發(fā)現(xiàn)揭示了消費(fèi)者如何認(rèn)識(shí)到文化機(jī)會(huì)的存在，如何制定文化戰(zhàn)略，以及如何構(gòu)建一家公司來從商業(yè)上利用這一機(jī)會(huì)。AdrianTantau 等［13］旨在評(píng)估通過投資可再生能源而擴(kuò)大活動(dòng)領(lǐng)域的公司的創(chuàng)新特征，并確定哪些組織支持因素對(duì)這些特征的影響最大。該分析基于對(duì)30 家遵循企業(yè)創(chuàng)業(yè)戰(zhàn)略投資于可再生能源的公司的研究。結(jié)果表明，管理層對(duì)企業(yè)創(chuàng)業(yè)和工作自主性的支持是支持這些多元化企業(yè)創(chuàng)新的組織因素。Chih-WenWu 等［14］以獨(dú)到的視角和先進(jìn)的知識(shí)探討全球創(chuàng)業(yè)創(chuàng)新。企業(yè)家精神在創(chuàng)造價(jià)值、創(chuàng)造財(cái)富和就業(yè)方面發(fā)揮著關(guān)鍵作用。企業(yè)創(chuàng)業(yè)是一個(gè)日益增長的研究領(lǐng)域，在過去的幾十年中受到越來越多的關(guān)注。在全球經(jīng)濟(jì)尋求保持和提高競爭優(yōu)勢(shì)的過程中，創(chuàng)新非常重要。企業(yè)家和創(chuàng)新者都將新發(fā)明引入生產(chǎn)活動(dòng)中。Mónica Edwards 等［15］提出了社會(huì)認(rèn)知理論和社會(huì)建構(gòu)主義的充分性論點(diǎn)來解釋創(chuàng)造力、創(chuàng)新和創(chuàng)業(yè)（CIE）作為一種元能力的發(fā)展。實(shí)證結(jié)果表明，大多數(shù)學(xué)生認(rèn)為自己是有創(chuàng)造力的人，并認(rèn)為創(chuàng)造力與創(chuàng)新和創(chuàng)業(yè)精神密切相關(guān)，在企業(yè)家能力中創(chuàng)造力的相關(guān)性方面，美國學(xué)生比西班牙學(xué)生更相信這一點(diǎn)。Domingo 等［16］認(rèn)為創(chuàng)新被認(rèn)為是創(chuàng)業(yè)的一種具體手段。創(chuàng)業(yè)是創(chuàng)新發(fā)展到一定程度必然出現(xiàn)的結(jié)果，兩者是不可分離的。Mihai Talmaciu［17］探討促進(jìn)一種發(fā)展模式的可能性，這種模式能夠利用羅馬尼亞各區(qū)域，特別是東北區(qū)域的能力作為推動(dòng)因素，通過創(chuàng)新、發(fā)展領(lǐng)先技術(shù)和刺激企業(yè)家精神來獲得競爭優(yōu)勢(shì)和可持續(xù)發(fā)展。

過去的研究，基本上是從創(chuàng)新創(chuàng)業(yè)教育、創(chuàng)新創(chuàng)業(yè)影響作用、創(chuàng)新創(chuàng)業(yè)與企業(yè)家精神和如何促進(jìn)其發(fā)展的角度來進(jìn)行研究與分析的，而對(duì)于創(chuàng)新創(chuàng)業(yè)發(fā)展水平及趨勢(shì)的預(yù)測與分析，目前少有學(xué)者進(jìn)行研究。對(duì)創(chuàng)新創(chuàng)業(yè)發(fā)展水平的合理預(yù)測，才能為其日后的發(fā)展提供具有前瞻性及合理性的決策，并為創(chuàng)新創(chuàng)業(yè)未來的發(fā)展打下良好的定量研究基礎(chǔ)。因此本文提出建立基于LSTM 神經(jīng)網(wǎng)絡(luò)的創(chuàng)新創(chuàng)業(yè)發(fā)展預(yù)測模型，在對(duì)比傳統(tǒng)回歸預(yù)測模型和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)預(yù)測模型的基礎(chǔ)上，探究LSTM 模型在反應(yīng)創(chuàng)新創(chuàng)業(yè)發(fā)展水平指標(biāo)預(yù)測研究中的先進(jìn)性和前瞻性。這有助于反應(yīng)創(chuàng)新創(chuàng)業(yè)在其發(fā)展中體現(xiàn)的特點(diǎn)，進(jìn)而有助于國家相關(guān)部門制定更加科學(xué)合理的決策。通過對(duì)比同處中國西部的兩個(gè)重要省份（陜西省和四川?。┑膭?chuàng)新創(chuàng)業(yè)發(fā)展情況，能夠得出其各自發(fā)展過程中表現(xiàn)的特點(diǎn)如何，進(jìn)而對(duì)其發(fā)展原因有所探究。通過分析發(fā)展原因，給出相應(yīng)的政策建議，為促進(jìn)區(qū)域創(chuàng)新創(chuàng)業(yè)的發(fā)展打下良好的研究基礎(chǔ)。

1 創(chuàng)新創(chuàng)業(yè)發(fā)展影響因素和指標(biāo)選取

1.1 創(chuàng)新創(chuàng)業(yè)發(fā)展影響因素及數(shù)據(jù)

創(chuàng)新創(chuàng)業(yè)的發(fā)展過程，受很多因素的影響，本文通過分析創(chuàng)新創(chuàng)業(yè)的基本流程，來確定影響區(qū)域創(chuàng)新創(chuàng)業(yè)發(fā)展水平的諸多因素，具體如下圖1 所示。創(chuàng)新創(chuàng)業(yè)需要相當(dāng)大的投資作為支撐動(dòng)力，雙創(chuàng)人員在得到了投資后，會(huì)做出研發(fā)的行為，通過研發(fā)行為，進(jìn)而實(shí)現(xiàn)相應(yīng)科學(xué)技術(shù)上的提升，而這些新的創(chuàng)新型科學(xué)技術(shù)，最終都會(huì)導(dǎo)致區(qū)域社會(huì)生產(chǎn)力的增長，比如人的購買力、人均生產(chǎn)水平和就業(yè)率等。而生產(chǎn)力的增長，反過來又會(huì)促進(jìn)從投資到研發(fā)，從研發(fā)進(jìn)而產(chǎn)生科學(xué)技術(shù)飛躍的整個(gè)過程。

圖1 創(chuàng)新創(chuàng)業(yè)發(fā)展流程

因此創(chuàng)新創(chuàng)業(yè)的發(fā)展，其實(shí)就是一個(gè)較為典型的閉環(huán)式投入產(chǎn)出系統(tǒng)，在流程上應(yīng)該包含4 個(gè)階段，即：投資——研發(fā)——提升科學(xué)技術(shù)——轉(zhuǎn)化生產(chǎn)力。

在能夠收集到數(shù)據(jù)的前提下，盡可能多地考慮影響創(chuàng)新創(chuàng)業(yè)發(fā)展的相關(guān)數(shù)據(jù)。本文使用的數(shù)據(jù)指標(biāo)包括：用R&D 經(jīng)費(fèi)內(nèi)部支出、R&D 人員、R&D項(xiàng)目數(shù)、科技研發(fā)機(jī)構(gòu)數(shù)、專業(yè)技術(shù)人才來衡量研發(fā)水平；用專利項(xiàng)目授權(quán)量、全省地方登記的科技成果、各類技術(shù)合同數(shù)、各類技術(shù)合同成交額來衡量科學(xué)技術(shù)水平；用全社會(huì)固定資產(chǎn)投資來衡量投資水平；用就業(yè)率、國內(nèi)生產(chǎn)總值、人均國內(nèi)生產(chǎn)總值、人均可支配收入來衡量生產(chǎn)力水平。所使用數(shù)據(jù)來自于陜西省統(tǒng)計(jì)局及四川省統(tǒng)計(jì)局1999—2019 年的數(shù)據(jù)。創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)是通過邀請(qǐng)20 位創(chuàng)新創(chuàng)業(yè)研究領(lǐng)域的專家打分得來。

1.2 創(chuàng)新創(chuàng)業(yè)預(yù)測指標(biāo)

創(chuàng)新創(chuàng)業(yè)發(fā)展水平的衡量指標(biāo)，一般包括投資、研發(fā)、科學(xué)技術(shù)和生產(chǎn)力轉(zhuǎn)化四項(xiàng)。出于數(shù)據(jù)的準(zhǔn)確度考慮，創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)由行業(yè)專家打分來決定，具體評(píng)分等級(jí)如表1 所示，通過專家打分并加權(quán)得出的創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)，通過歸一化處理后，其可靠性較高，具有良好的適應(yīng)性。所以本文僅使用創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)作為創(chuàng)新創(chuàng)業(yè)發(fā)展水平的評(píng)估和預(yù)測指標(biāo)。創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)的評(píng)價(jià)等級(jí)如下表1 所示。

表1 創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)的評(píng)價(jià)等級(jí)

1.3 性能評(píng)價(jià)指標(biāo)

為了反映模型預(yù)測的偏離水平，使用誤差率與均方根誤差來表示。為了說明模型擬合水平，選用均方根對(duì)數(shù)誤差與決定系數(shù)來表示。

誤差率E 和均方根誤差RMSE 的運(yùn)算為：

1.4 變量關(guān)聯(lián)分析

如果數(shù)據(jù)中相關(guān)信息有噪聲或不相關(guān)，則預(yù)測所得數(shù)據(jù)可能會(huì)受到某種程度的影響。比較每一組變量的卡方值和相關(guān)系數(shù)，可以用來優(yōu)化和篩選變量。這樣可以達(dá)到優(yōu)化預(yù)測結(jié)果的目標(biāo)?？ǚ街档挠?jì)算公式如下：

卡方檢驗(yàn)?zāi)苡?jì)算并表示樣本之間的偏離程度，卡方檢驗(yàn)的值越大，表示存在的關(guān)聯(lián)就越明顯。皮爾森相關(guān)系數(shù)能夠粗略地表達(dá)變量之間的關(guān)聯(lián)程度如何?？ǚ街蹬c相關(guān)系數(shù)越大，說明相關(guān)性越高。

根據(jù)下表2，本文最終使用14 個(gè)相關(guān)的自變量和區(qū)域創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)作為輸入變量，共15 個(gè)變量。

表2 卡方值和皮爾森系數(shù)值

表2（續(xù)）

2 創(chuàng)新創(chuàng)業(yè)發(fā)展預(yù)測的LSTM 模型——基于陜西數(shù)據(jù)

LSTM 模型是遞歸神經(jīng)網(wǎng)絡(luò)的一個(gè)變型［18-19］。它搭建了特殊的記憶存儲(chǔ)型單元，通過時(shí)間逆向傳播算法對(duì)已知數(shù)據(jù)進(jìn)行反復(fù)的訓(xùn)練［20］，這可以解決遞歸神經(jīng)網(wǎng)絡(luò)所產(chǎn)生并存在的梯度消失及無長期依賴的問題。

2.1 歸一化處理

本文用以下方法對(duì)原始數(shù)據(jù)做歸一化處理，通過線性轉(zhuǎn)化可以使得結(jié)果能夠落到［0,1］區(qū)間，轉(zhuǎn)換公式如下：

上式（7）中，min 與max 分別為樣本數(shù)據(jù)特征值的最小值與最大值。x與X分別為原始數(shù)據(jù)及歸一化后的數(shù)據(jù)。

2.2 隱藏層節(jié)點(diǎn)個(gè)數(shù)

隱藏層中的節(jié)點(diǎn)個(gè)數(shù)，學(xué)術(shù)界到目前為止并沒有明確的理論來進(jìn)行規(guī)定。通常情況下使用下列公式來確定節(jié)點(diǎn)個(gè)數(shù)：

上式中，N是隱藏節(jié)點(diǎn)數(shù)，n是輸入節(jié)點(diǎn)數(shù)，m是輸出節(jié)點(diǎn)數(shù)，a為1～10 之間的常數(shù)。

根據(jù)本文所選變量的個(gè)數(shù)，可以知道輸入節(jié)點(diǎn)為15，輸出節(jié)點(diǎn)為1，由上式（8）可知隱藏節(jié)點(diǎn)為5 至14。運(yùn)用1 層LSTM 模型，試驗(yàn)并確定從5 至14 個(gè)節(jié)點(diǎn)所對(duì)應(yīng)的誤差率及誤差平方和，并以此來判斷模型的偏離程度。進(jìn)而選取合適的隱藏層節(jié)點(diǎn)個(gè)數(shù)。

實(shí)驗(yàn)結(jié)果可以得出使用11 個(gè)隱藏節(jié)點(diǎn)的LSTM模型，其對(duì)應(yīng)的RMSE 值最小，因此這樣的預(yù)測效果最好。測試集的誤差率與均方根誤差結(jié)果如下表3 所示。

表3 不同隱藏節(jié)點(diǎn)的創(chuàng)新創(chuàng)業(yè)發(fā)展預(yù)測

表3（續(xù)）

2.3 模型深度

本文所選的年份僅有21 條數(shù)據(jù)記錄，用1 至5層的模型，每層仍包括11 個(gè)隱藏單元，以此來做一對(duì)比。通過實(shí)驗(yàn)計(jì)算出的RMSLE 與R2來判斷哪一層模型的擬合能力最佳。RMSLE 值越小，R2值越接近1，說明模型的擬合能力越強(qiáng)。

具體擬合效果如下表4 所示。根據(jù)下表4 中的結(jié)果可知，2 層LSTM 模型的數(shù)據(jù)擬合能力為最佳。

表4 不同層數(shù)模型均方根對(duì)數(shù)誤差和決定系數(shù)

2.4 網(wǎng)絡(luò)結(jié)構(gòu)

通過以上的實(shí)驗(yàn)分析，可以知道擁有2 個(gè)隱藏層并且每個(gè)隱藏層中擁有11 個(gè)隱藏節(jié)點(diǎn)的LSTM 模型，是本文要選取的最優(yōu)LSTM 模型。數(shù)據(jù)集包含14 個(gè)輸入型變量和1 個(gè)輸出型變量。學(xué)習(xí)率設(shè)置成0.02，權(quán)重W*、U*與偏移向量b*，以上參數(shù)全部實(shí)現(xiàn)初始化隨機(jī)應(yīng)用。為了更新權(quán)重與偏差度，需要不斷的訓(xùn)練序列來實(shí)現(xiàn)。選用平均絕對(duì)誤差（mae）來表示所用LSTM 模型中損失函數(shù)的修正誤差，并使用Adam優(yōu)化器，促使網(wǎng)絡(luò)實(shí)現(xiàn)最優(yōu)化學(xué)習(xí)。

3 實(shí)驗(yàn)對(duì)比分析——基于陜西數(shù)據(jù)

3.1 實(shí)驗(yàn)環(huán)境

本例實(shí)驗(yàn)環(huán)境為LENOVO 臺(tái)式機(jī)，CPU：AMD 3600@3.60GHz，內(nèi)存為16GB，操作系統(tǒng)為Windows10 企業(yè)版，開發(fā)環(huán)境為使用python3.5 語言的PyCharm 集成開發(fā)工具，使用LSTM 等神經(jīng)網(wǎng)絡(luò)模型。

3.2 實(shí)驗(yàn)設(shè)計(jì)及結(jié)果分析

本文設(shè)計(jì)包括傳統(tǒng)的回歸模型與神經(jīng)網(wǎng)絡(luò)模型的三組實(shí)驗(yàn)，實(shí)驗(yàn)項(xiàng)分別為多元非線性回歸（MUL）、BP 神經(jīng)網(wǎng)絡(luò)模型以及長短期記憶神經(jīng)網(wǎng)絡(luò)模型（LSTM）。分別將1999—2015 年的17 條數(shù)據(jù)以及2016—2019 年的4 條數(shù)據(jù)作為訓(xùn)練集和測試集。用前一年的數(shù)據(jù)做輸入樣本，預(yù)測未來一年的創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)。圖2 為1999—2019 年實(shí)際創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)的趨勢(shì)圖。

圖2 1999—2019 年陜西創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)

經(jīng)過實(shí)驗(yàn)訓(xùn)練，LSTM 模型、MUL 模型以及BP模型在測試集中的預(yù)測結(jié)果如表5 所示。

表5 測試集預(yù)測結(jié)果

測試集中的預(yù)測結(jié)果顯示，BP 神經(jīng)網(wǎng)絡(luò)和MUL回歸模型無明顯的規(guī)律，預(yù)測精度也不高。而LSTM在2016、2017、2018 年和2019 年的準(zhǔn)確率較高。分析圖3 中的創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)的趨勢(shì)可得到，LSTM 對(duì)趨勢(shì)的預(yù)測效果較佳。同時(shí)也證明出LSTM模型確實(shí)學(xué)習(xí)到了數(shù)據(jù)中的時(shí)間依賴信息。

圖3 1999—2019 年陜西創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)和各模型的擬合效果

根據(jù)1.3 節(jié)所提到的性能評(píng)價(jià)指標(biāo)，對(duì)各模型擬合所有數(shù)據(jù)的效果進(jìn)行測評(píng)，在此基礎(chǔ)上加入模型的訓(xùn)練耗時(shí)指標(biāo)進(jìn)行對(duì)比，各模型的性能指標(biāo)如表6 所示。

表6 各模型的性能指標(biāo)

表6 中不同模型的性能指標(biāo)顯示，LSTM 模型的RMSLE 值最小，R-square 值最接近1，模型擬合效果最好。在訓(xùn)練時(shí)間方面，LSTM 的訓(xùn)練時(shí)間最慢，但其與BP 訓(xùn)練時(shí)間的差距要遠(yuǎn)小于BP 與MUL 之間訓(xùn)練時(shí)間的差距。所以綜合看來LSTM 模型的性能最好。

運(yùn)用LSTM 神經(jīng)網(wǎng)絡(luò)預(yù)測2020—2024 年的陜西創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)，并將其輸入創(chuàng)新創(chuàng)業(yè)發(fā)展模型，得出2020—2024 年陜西創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)，結(jié)果見表7。

表7 陜西創(chuàng)新創(chuàng)業(yè)發(fā)展影響因素及創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)的預(yù)測

根據(jù)預(yù)測結(jié)果，將2020—2024 年的陜西創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)及各分指標(biāo)與往年情況對(duì)比可知：R&D人員數(shù)、R&D 項(xiàng)目數(shù)及專利項(xiàng)目授權(quán)量沒有了之前年份呈現(xiàn)出的較大波動(dòng)性，轉(zhuǎn)為平穩(wěn)的增漲態(tài)勢(shì)；全省各類技術(shù)合同數(shù)沒有了之前跨越式的增漲方式，呈現(xiàn)出平穩(wěn)提升的發(fā)展?fàn)顟B(tài)；就業(yè)率與全省地方登記的科技成果數(shù)從原來持續(xù)低迷的發(fā)展態(tài)勢(shì)中恢復(fù)過來，轉(zhuǎn)變?yōu)榫徛仙陌l(fā)展趨勢(shì)；專業(yè)技術(shù)人才數(shù)量呈現(xiàn)出平穩(wěn)上升的發(fā)展態(tài)勢(shì)；R&D 經(jīng)費(fèi)內(nèi)部支出、科技研發(fā)機(jī)構(gòu)數(shù)、各類技術(shù)合同成交額、全社會(huì)固定資產(chǎn)投資、國內(nèi)生產(chǎn)總值、人均國內(nèi)生產(chǎn)總值和人均可支配收入穩(wěn)步提高。從2020 年到2024 年，陜西創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)預(yù)測值逐步提升，達(dá)到了良好的評(píng)價(jià)等級(jí)（等級(jí)劃分標(biāo)準(zhǔn)參看表1），朝著優(yōu)秀的標(biāo)準(zhǔn)逐步邁進(jìn)。這一對(duì)比結(jié)果說明了我國大眾創(chuàng)業(yè)萬眾創(chuàng)新的目標(biāo)和措施初見成效。預(yù)計(jì)經(jīng)過“第十四個(gè)五年規(guī)劃”，陜西創(chuàng)新創(chuàng)業(yè)水平會(huì)實(shí)現(xiàn)平穩(wěn)且良好的上升態(tài)勢(shì)。

3.3 魯棒性分析

創(chuàng)新創(chuàng)業(yè)的發(fā)展，所受到的影響因素眾多，各種條件狀態(tài)的表現(xiàn)十分復(fù)雜。預(yù)測模型如果能夠較為穩(wěn)定精確地對(duì)復(fù)雜多變的狀況進(jìn)行合理的預(yù)測，就能說明模型具備良好的魯棒性。分析本實(shí)驗(yàn)中模型的魯棒性時(shí)，應(yīng)著重考慮兩個(gè)方面的情況：第一，內(nèi)部影響因素，模型訓(xùn)練所用的數(shù)據(jù)是否存在異常性波動(dòng)。第二，外部影響因素，社會(huì)層面上出現(xiàn)的政策調(diào)控，會(huì)對(duì)預(yù)測數(shù)據(jù)產(chǎn)生促進(jìn)或抑制的影響作用。無論內(nèi)部影響因素還是外部影響因素，重點(diǎn)都在數(shù)據(jù)上。針對(duì)模型訓(xùn)練數(shù)據(jù)來講，最難以控制的就是外部影響因素。外部影響因素的作用仍然是間接影響訓(xùn)練所需數(shù)據(jù)的主要因素，在預(yù)測效果上就可以得到體現(xiàn)。

本文采用以下方法來進(jìn)行魯棒性分析。第一，對(duì)異常數(shù)據(jù)應(yīng)當(dāng)進(jìn)行可視化研究，觀測每一個(gè)變量的均勻程度，并對(duì)顯示不均勻的數(shù)據(jù)進(jìn)行相應(yīng)處理，例如：使用lg 對(duì)數(shù)函數(shù)進(jìn)行相應(yīng)的處理。第二，對(duì)存在異常波動(dòng)的變量采取分類處理的策略，待完成相關(guān)性分析后，分別建立若干個(gè)相應(yīng)模型來訓(xùn)練預(yù)測。最后將對(duì)應(yīng)若干個(gè)模型的預(yù)測結(jié)果進(jìn)行疊加。模型針對(duì)特定數(shù)據(jù)的分類訓(xùn)練，也能夠提高預(yù)測的精準(zhǔn)度，從而提高該預(yù)測模型的魯棒性。

4 區(qū)域創(chuàng)新創(chuàng)業(yè)發(fā)展的比較分析——基于陜西與四川的數(shù)據(jù)

4.1 陜西與四川創(chuàng)新創(chuàng)業(yè)發(fā)展各指標(biāo)的數(shù)據(jù)比較

陜西與四川創(chuàng)新創(chuàng)業(yè)發(fā)展各指標(biāo)的數(shù)據(jù)對(duì)比如下圖4 所示。

圖4 1999-2019 年陜西與四川創(chuàng)新創(chuàng)業(yè)發(fā)展各指標(biāo)的數(shù)據(jù)比較

4.2 比較結(jié)果與原因分析

如上圖4 所示，對(duì)比陜西與四川創(chuàng)新創(chuàng)業(yè)發(fā)展的14 項(xiàng)分指標(biāo)后發(fā)現(xiàn)，四川省近些年在影響創(chuàng)新創(chuàng)業(yè)發(fā)展的指標(biāo)（R&D 經(jīng)費(fèi)內(nèi)部支出、R&D 人員、科技研發(fā)機(jī)構(gòu)數(shù)、專業(yè)技術(shù)人才、全社會(huì)固定資產(chǎn)投資、國內(nèi)生產(chǎn)總值、人均可支配收入）的數(shù)值上，要比陜西省創(chuàng)新創(chuàng)業(yè)發(fā)展指標(biāo)對(duì)應(yīng)的數(shù)據(jù)要高。陜西省近些年在創(chuàng)新創(chuàng)業(yè)發(fā)展的影響指標(biāo)（R&D 研發(fā)項(xiàng)目數(shù)、專利項(xiàng)目授權(quán)量、全省地方登記的科技成果、各類技術(shù)合同數(shù)、各類技術(shù)合同成交額、人均國內(nèi)生產(chǎn)總值）對(duì)應(yīng)的數(shù)據(jù)上，要比四川省創(chuàng)新創(chuàng)業(yè)發(fā)展指標(biāo)高。初始年份時(shí)各指標(biāo)的相差并不大，最近幾年兩個(gè)省份在創(chuàng)新創(chuàng)業(yè)方面的投入和產(chǎn)出分別領(lǐng)先對(duì)方（如表8 所示），這樣的差距似乎有不斷加大的趨勢(shì)。在就業(yè)率指標(biāo)上，兩者的差距并不明顯。總體上來講四川與陜西各有其發(fā)展的優(yōu)勢(shì)。在創(chuàng)新創(chuàng)業(yè)的發(fā)展指數(shù)反映上，四川省的創(chuàng)新創(chuàng)業(yè)發(fā)展指數(shù)略高于陜西省，可這種差距并不明顯，說明在目前中國“大眾創(chuàng)業(yè)萬眾創(chuàng)新”的大環(huán)境下，陜西省與四川省各個(gè)評(píng)價(jià)指標(biāo)在數(shù)量大小上互有勝負(fù)，但同處于中國西部的兩個(gè)大省卻有著較為相近的創(chuàng)新創(chuàng)業(yè)總體發(fā)展水平。

表8 陜西省與四川省綜合近五年創(chuàng)新創(chuàng)業(yè)發(fā)展領(lǐng)先指標(biāo)

從具體衡量指標(biāo)上來看，陜西省和四川省各自創(chuàng)新創(chuàng)業(yè)發(fā)展的側(cè)重點(diǎn)是不同的。四川省擁有著豐厚的技術(shù)人才與研發(fā)人員，科研機(jī)構(gòu)也比較多，截止2019 年7 月，世界500 強(qiáng)中有超過一半的企業(yè)集團(tuán)入駐了四川?。?1］，其高科技的研發(fā)支出與固定資產(chǎn)投資也相對(duì)較多，這能為創(chuàng)新創(chuàng)業(yè)的發(fā)展奠定良好的人力物力基礎(chǔ)。陜西省在以上幾個(gè)方面不如四川省，但其在創(chuàng)新技術(shù)的成果數(shù)量和成交額上卻獲得領(lǐng)先。陜西省在國內(nèi)生產(chǎn)總值方面不如四川省，人均生產(chǎn)總值卻更多，這能為陜西創(chuàng)新創(chuàng)業(yè)的發(fā)展提供更大的推動(dòng)力，說明陜西創(chuàng)新創(chuàng)業(yè)發(fā)展的效率要比四川強(qiáng)大，較高的效率彌補(bǔ)了人力物力在投入數(shù)量上的不足。

近些年來，四川憑借著西部振興計(jì)劃的深入實(shí)施、國家對(duì)社會(huì)發(fā)展的大力投入和自身堅(jiān)持不懈的努力，成功帶動(dòng)了更多的人進(jìn)行創(chuàng)新創(chuàng)業(yè)，國內(nèi)生產(chǎn)總值的基數(shù)與增速不斷加大，只是由于其人口基數(shù)更大，因此人均生產(chǎn)總值不如陜西省。在2015 年國家提出大力發(fā)展雙創(chuàng)經(jīng)濟(jì)的大背景下，四川省就業(yè)率在目前中國經(jīng)濟(jì)正在實(shí)現(xiàn)逐步轉(zhuǎn)型的時(shí)期，仍出現(xiàn)上升的勢(shì)頭。陜西省作為西北五省發(fā)展的龍頭省份，憑借著其悠久璀璨的歷史文化優(yōu)勢(shì)，加上深厚的軍事工業(yè)科技基礎(chǔ)與強(qiáng)大的高?？蒲心芰Γ瑸殛兾鲃?chuàng)新創(chuàng)業(yè)的發(fā)展提供了源源不斷的推動(dòng)力。

因此可以看出，四川在創(chuàng)新創(chuàng)業(yè)的發(fā)展中擁有著更好的基礎(chǔ)性投入，陜西在創(chuàng)新創(chuàng)業(yè)的發(fā)展中擁有著更強(qiáng)的技術(shù)產(chǎn)出，綜合來講兩者有著相近的創(chuàng)新創(chuàng)業(yè)總體發(fā)展水平，但具體發(fā)展細(xì)節(jié)與側(cè)重點(diǎn)則各有不同。

5 結(jié)論與建議

本文建立了基于LSTM 神經(jīng)網(wǎng)絡(luò)的創(chuàng)新創(chuàng)業(yè)發(fā)展預(yù)測模型，通過與傳統(tǒng)的回歸模型與BP 神經(jīng)網(wǎng)絡(luò)模型對(duì)比后，認(rèn)為LSTM 神經(jīng)網(wǎng)絡(luò)模型對(duì)創(chuàng)新創(chuàng)業(yè)發(fā)展水平的趨勢(shì)具有更好的預(yù)測能力，能為政府部門提供更為準(zhǔn)確的預(yù)測指標(biāo)數(shù)值，從而使有關(guān)部門能制定更加科學(xué)準(zhǔn)確的促進(jìn)方案，對(duì)我國創(chuàng)新創(chuàng)業(yè)的發(fā)展評(píng)價(jià)亦有一定的指導(dǎo)意義。

在比較1999 至2019 年陜西省和四川省創(chuàng)新創(chuàng)業(yè)發(fā)展影響指標(biāo)的數(shù)值后發(fā)現(xiàn)，雖然兩個(gè)省份有著相近的創(chuàng)新創(chuàng)業(yè)總體發(fā)展水平，但具體發(fā)展細(xì)節(jié)與側(cè)重點(diǎn)則各有不同。四川在創(chuàng)新創(chuàng)業(yè)的發(fā)展中擁有著更好更大的基礎(chǔ)性投入，而陜西在創(chuàng)新創(chuàng)業(yè)的發(fā)展中擁有著更高更強(qiáng)的技術(shù)產(chǎn)出水平，可以看出陜西創(chuàng)新創(chuàng)業(yè)發(fā)展的效率要比四川強(qiáng)大，較高的效率彌補(bǔ)了人力物力在投入數(shù)量上的不足。

結(jié)合以上對(duì)陜西省與四川省創(chuàng)新創(chuàng)業(yè)發(fā)展的比較分析，本文對(duì)創(chuàng)新創(chuàng)業(yè)發(fā)展的建議如下：

（1）認(rèn)清自身創(chuàng)新創(chuàng)業(yè)的發(fā)展現(xiàn)狀和特點(diǎn)，突出其發(fā)展優(yōu)勢(shì)。應(yīng)該準(zhǔn)確把握其經(jīng)濟(jì)發(fā)展的優(yōu)勢(shì)環(huán)節(jié)，重點(diǎn)關(guān)注其在軍事工業(yè)，農(nóng)商領(lǐng)域，科技與民生產(chǎn)業(yè)，教育事業(yè)以及服務(wù)型行業(yè)等領(lǐng)域創(chuàng)新創(chuàng)業(yè)的發(fā)展水平，將自身發(fā)展優(yōu)勢(shì)充分得到利用，以各自的產(chǎn)業(yè)優(yōu)勢(shì)帶動(dòng)創(chuàng)新創(chuàng)業(yè)的發(fā)展，發(fā)揮產(chǎn)業(yè)優(yōu)勢(shì)的指向性作用，為創(chuàng)新創(chuàng)業(yè)的發(fā)展提供強(qiáng)有力的基礎(chǔ)性支撐。

（2）彌補(bǔ)自身創(chuàng)新創(chuàng)業(yè)發(fā)展中的不足，實(shí)現(xiàn)其均衡穩(wěn)定發(fā)展。在實(shí)現(xiàn)優(yōu)勢(shì)產(chǎn)業(yè)帶動(dòng)創(chuàng)新創(chuàng)業(yè)的同時(shí)，也要關(guān)注并不斷解決自身在創(chuàng)新創(chuàng)業(yè)發(fā)展中的不足之處，通過與自身對(duì)比，與產(chǎn)業(yè)發(fā)展互補(bǔ)型兄弟省市的對(duì)比，汲取其他省市在創(chuàng)新創(chuàng)業(yè)發(fā)展中所遇到的問題、獲得的寶貴經(jīng)驗(yàn)以及成長的性質(zhì)特點(diǎn)等經(jīng)驗(yàn)，認(rèn)識(shí)和改善自身在創(chuàng)新創(chuàng)業(yè)發(fā)展中的不足，實(shí)現(xiàn)創(chuàng)新創(chuàng)業(yè)的穩(wěn)定均衡發(fā)展。

（3）深入貫徹國家雙創(chuàng)精神，提升國家創(chuàng)新創(chuàng)業(yè)政策的落實(shí)水平。充分抓住國家對(duì)創(chuàng)新創(chuàng)業(yè)的政策扶持機(jī)會(huì)，在貫徹國家雙創(chuàng)相關(guān)精神思想的同時(shí)，享用國家對(duì)創(chuàng)新創(chuàng)業(yè)培育與支持所帶來的紅利，并且制定符合各省實(shí)際情況的創(chuàng)新創(chuàng)業(yè)政策，將落實(shí)國家及各省創(chuàng)新創(chuàng)業(yè)政策的任務(wù)放在發(fā)展創(chuàng)新創(chuàng)業(yè)的首要位置，以政策驅(qū)動(dòng)、實(shí)際發(fā)展和總結(jié)經(jīng)驗(yàn)為階段來促進(jìn)創(chuàng)新創(chuàng)業(yè)事業(yè)實(shí)現(xiàn)快速良好的發(fā)展。