• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      基于深度神經(jīng)網(wǎng)絡(luò)AdaMod優(yōu)化模型的來(lái)襲目標(biāo)攻擊意圖識(shí)別

      2023-07-06 12:42:22王家鑫王瑞琪孟海波藺紅明陳天群
      關(guān)鍵詞:意圖神經(jīng)網(wǎng)絡(luò)深度

      王家鑫,王瑞琪,孟海波,藺紅明,陳天群

      (1.海裝駐上海地區(qū)某部,上海 201109;2.上海機(jī)電工程研究所,上海 201109)

      0 引言

      在目前日益緊張的國(guó)際局勢(shì)中,制海權(quán)一直是大國(guó)之間博弈的重點(diǎn),海上艦艇編隊(duì)的進(jìn)攻與防御體系的建立是掌握制海權(quán)的關(guān)鍵,也是各國(guó)一直以來(lái)研究的重點(diǎn)。在海上作戰(zhàn)時(shí),防空反導(dǎo)一直是主要防御手段,防空導(dǎo)彈自20世紀(jì)50 年代問(wèn)世以來(lái),就引起了世界各國(guó)的高度關(guān)注。在進(jìn)入21世紀(jì)后,隨著技術(shù)的不斷進(jìn)步與更新迭代,海上防空體系與高強(qiáng)度空襲體系間的對(duì)抗強(qiáng)度愈發(fā)激烈,如何識(shí)別敵方來(lái)襲目標(biāo)的攻擊意圖是提升海上防空反導(dǎo)攔截效率的必要手段。在當(dāng)下信息化戰(zhàn)爭(zhēng)時(shí)代,海上戰(zhàn)場(chǎng)環(huán)境日益復(fù)雜,在軍事需求和信_(tái)息技術(shù)雙輪驅(qū)動(dòng)下,海上艦艇編隊(duì)作戰(zhàn)針對(duì)來(lái)襲目標(biāo)攻擊意圖識(shí)別是目前態(tài)勢(shì)分析領(lǐng)域研究的熱點(diǎn),是防空反導(dǎo)作戰(zhàn)中指揮控制決策[1]的重要依據(jù)。戰(zhàn)場(chǎng)的復(fù)雜性、瞬時(shí)性的影響使得作戰(zhàn)指揮控制系統(tǒng)在短時(shí)間內(nèi)無(wú)法處理大量戰(zhàn)場(chǎng)信息,指戰(zhàn)員無(wú)法做出最優(yōu)決策,因此需要智能化作戰(zhàn)指揮控制系統(tǒng)輔助指戰(zhàn)員決策。智能化輔助決策系統(tǒng)提供的分析結(jié)果和預(yù)測(cè)模型可以提高指戰(zhàn)員的決策效率與準(zhǔn)確性,提升指揮控制質(zhì)量。隨著分布式殺傷、馬賽克戰(zhàn)、頻譜戰(zhàn)等新型作戰(zhàn)樣式與新型武器的應(yīng)用,強(qiáng)敵海上作戰(zhàn)體系具備較強(qiáng)的多域體系作戰(zhàn)和網(wǎng)絡(luò)中心作戰(zhàn)能力,對(duì)我國(guó)領(lǐng)海安全構(gòu)成重大威脅。強(qiáng)敵新型作戰(zhàn)概念與方式的運(yùn)用,增加了海上防空反導(dǎo)指戰(zhàn)員對(duì)于來(lái)襲目標(biāo)攻擊意圖的識(shí)別在短時(shí)間內(nèi)做出準(zhǔn)確判斷的難度,對(duì)作戰(zhàn)指揮控制的戰(zhàn)略戰(zhàn)術(shù)安排產(chǎn)生了至關(guān)重要的影響。

      目標(biāo)攻擊意圖識(shí)別是通過(guò)量化分析來(lái)襲目標(biāo)的各項(xiàng)參數(shù)指標(biāo),以此判斷來(lái)襲目標(biāo)可能鎖定打擊的我方艦艇,進(jìn)而輔助防空反導(dǎo)指戰(zhàn)員根據(jù)敵方作戰(zhàn)意圖制定作戰(zhàn)決策,從而提高防空反導(dǎo)攔截效率以及減少我方艦艇作戰(zhàn)損耗。根據(jù)目標(biāo)的攻擊意圖生成合理的防空反導(dǎo)攔截方案是防空作戰(zhàn)的重要組成部分。由于分析過(guò)程會(huì)受到未知與不確定因素的影響,現(xiàn)有模型的預(yù)測(cè)準(zhǔn)確率得不到很好的驗(yàn)證?,F(xiàn)有研究主要基于模板匹配[2]、專(zhuān)家經(jīng)驗(yàn)?zāi)P停?-4]、層析分析法等[5-6]、彈道預(yù)測(cè)等[7],嚴(yán)重依賴(lài)專(zhuān)家經(jīng)驗(yàn)生成的權(quán)重系數(shù),不僅過(guò)于主觀,也不適用新的作戰(zhàn)樣式。

      2016年提出使用神經(jīng)網(wǎng)絡(luò)自適應(yīng)學(xué)習(xí)能力[8],從訓(xùn)練數(shù)據(jù)中提取特征規(guī)則并用于目標(biāo)攻擊意圖識(shí)別[9-10]。此方法能夠解決先驗(yàn)知識(shí)及專(zhuān)家經(jīng)驗(yàn)不足情況下分析與識(shí)別目標(biāo)攻擊意圖的難點(diǎn)[11],但是由于采用了簡(jiǎn)單的BP(反向傳播算法)算法,不僅收斂速度慢,而且容易達(dá)到局部最優(yōu),無(wú)法收斂到最優(yōu)解。2018年有學(xué)者使用深度神經(jīng)網(wǎng)絡(luò)對(duì)空中目標(biāo)的作戰(zhàn)意圖進(jìn)行識(shí)別,采用了Adam 優(yōu)化器和ReLu(rectified linear unit)[12-20]激活函數(shù),但是存在Relu激活函數(shù)在學(xué)習(xí)率較大的情況下容易導(dǎo)致神經(jīng)元壞死的問(wèn)題,同時(shí)Adam 優(yōu)化器在這類(lèi)問(wèn)題可能出現(xiàn)無(wú)法收斂到最優(yōu)解的問(wèn)題。

      文中提出了一種針對(duì)深度神經(jīng)網(wǎng)絡(luò)優(yōu)化后的預(yù)測(cè)模型[13-14],分析了來(lái)襲目標(biāo)對(duì)我方單個(gè)目標(biāo)的打擊概率,綜合考慮各項(xiàng)參數(shù)量化分析結(jié)果得出來(lái)襲目標(biāo)的攻擊意圖識(shí)別,有效解決以往評(píng)估方法的不足[17]。文中采用GeLUs[18]激活函數(shù)(Gaussian error linear units)作為激活函數(shù)解決梯度爆炸和梯度消失問(wèn)題,并提升模型訓(xùn)練速度。同時(shí)采用AdaMod優(yōu)化算法(adaptive and momental bound)[15]加快模型收斂,并解決了Adam 模型可能無(wú)法收斂到最優(yōu)解的問(wèn)題。文中采取的方法可以更好地解決在先驗(yàn)知識(shí)不足的情況下識(shí)別目標(biāo)攻擊意圖的問(wèn)題。

      1 攻擊意圖特征提取

      現(xiàn)有的海上防空反導(dǎo)攻擊意圖提取方法存在特征識(shí)別單一,不能充分利用獲取到的目標(biāo)信息,信息深度挖掘不夠,導(dǎo)致對(duì)攻擊意圖的深層次分析不足,攻擊意圖識(shí)別的穩(wěn)定性與準(zhǔn)確度都不夠,導(dǎo)致往往攻擊意圖識(shí)別出來(lái)的結(jié)果給與決策者一個(gè)錯(cuò)誤的判斷或者根本沒(méi)法使用。如何挖掘現(xiàn)有目標(biāo)信息的各個(gè)屬性參數(shù)信息,是目前攻擊意圖識(shí)別的難點(diǎn),文中從多個(gè)角度對(duì)攻擊意圖特征進(jìn)行提取。

      針對(duì)敵方來(lái)襲目標(biāo)的攻擊行為會(huì)遵從一定的規(guī)則:搜索目標(biāo)、發(fā)現(xiàn)目標(biāo)、鎖定目標(biāo)、打擊目標(biāo)。來(lái)襲目標(biāo)不同的作戰(zhàn)行動(dòng)與攻擊行為表現(xiàn)為目標(biāo)態(tài)勢(shì)信息的改變,直觀表現(xiàn)為目標(biāo)的各項(xiàng)運(yùn)動(dòng)參數(shù)及狀態(tài)發(fā)生變化,可以用來(lái)識(shí)別其攻擊意圖。敵方來(lái)襲目標(biāo)在搜索目標(biāo)和發(fā)現(xiàn)目標(biāo)階段往往無(wú)法識(shí)別其攻擊意圖,直到其鎖定目標(biāo)并實(shí)行打擊過(guò)程階段,其攻擊意圖才有明顯的特征。由于敵方來(lái)襲目標(biāo)的攻擊意圖的顯現(xiàn)是一個(gè)動(dòng)態(tài)的過(guò)程,在不同的階段會(huì)有不同的特征表象,僅依賴(lài)某時(shí)刻的目標(biāo)態(tài)勢(shì)信息識(shí)別其攻擊意圖具有片面性和不確定性。

      充分識(shí)別來(lái)襲目標(biāo)特征屬性,了解目標(biāo)的特殊屬性與攻擊意圖,以達(dá)到充分挖掘信息的目的,可以依據(jù)不同階段,各個(gè)特征點(diǎn)屬性不同來(lái)得到不同的數(shù)據(jù)集,可以更好地優(yōu)化屬性得到更理想的結(jié)果。

      由于敵方來(lái)襲目標(biāo)的意圖和狀態(tài)間存在特定的聯(lián)系,文中根據(jù)專(zhuān)家經(jīng)驗(yàn)選取了部分參數(shù):目標(biāo)坐標(biāo)(x,y,z)、目標(biāo)速度Vt、速度方向φt、目標(biāo)加速度at、加速度方向φt、目標(biāo)俯沖角θt,目標(biāo)徑向速度Vr,目標(biāo)徑向到達(dá)時(shí)間Tr,我方艦艇坐標(biāo)((xi,yi,zi)i∈1,…,k,k為我方編隊(duì)艦艇數(shù)量)。文中選取艦艇數(shù)量為5的典型編隊(duì)配置,訓(xùn)練樣本數(shù)據(jù)集(data)的每一項(xiàng)為5*25形狀。根據(jù)訓(xùn)練樣本數(shù)據(jù)集在不同階段得到的特征不同,但是攻擊意圖識(shí)別的結(jié)果相同,就可以優(yōu)化模型參數(shù),提取其重要特征,以達(dá)到相對(duì)較好的結(jié)果,為攻擊意圖的預(yù)測(cè)提供有效的數(shù)據(jù)訓(xùn)練基礎(chǔ)。

      1.1 歸一化處理

      文中選取的特征數(shù)據(jù)均為數(shù)值數(shù)據(jù),可以使用神經(jīng)網(wǎng)絡(luò)直接處理。由于數(shù)據(jù)在各評(píng)價(jià)指標(biāo)下的性質(zhì)不同,通常具有不同量綱和數(shù)量級(jí),為保證結(jié)果可靠性,加快數(shù)據(jù)收斂速度,以及降低奇異數(shù)據(jù)的對(duì)算法的敏感度,需要對(duì)原始數(shù)據(jù)進(jìn)行歸一化處理。數(shù)據(jù)的歸一化是將數(shù)據(jù)按比例縮放到一個(gè)特定區(qū)間,將數(shù)據(jù)統(tǒng)一映射到[0 1]區(qū)間上。設(shè)MinA和MaxA分別是屬性A的最小值和最大值,將A的一個(gè)原始值x映射到區(qū)間[0 1]的值x′的公式如下:

      式(1)用于模型訓(xùn)練的數(shù)據(jù)集中的數(shù)據(jù)全部進(jìn)行歸一化處理。轉(zhuǎn)化后用于模型的學(xué)習(xí)數(shù)據(jù)為矩陣A(n),矩陣A(n)的行數(shù)為5,列數(shù)為25,歸一化處理后的A(n)為:

      1.2 生成攻擊意圖標(biāo)簽

      在未來(lái)智能化時(shí)代,戰(zhàn)場(chǎng)數(shù)據(jù)呈現(xiàn)海量形態(tài),智能化的指揮與輔助決策手段將被廣泛運(yùn)用,作戰(zhàn)空間由物理域、信息域向認(rèn)知域加速拓展,對(duì)指揮控制的精確性、時(shí)效性、實(shí)用性提出了更高的要求。由于戰(zhàn)場(chǎng)環(huán)境復(fù)雜,信息量巨大,敵方攻擊行為和作戰(zhàn)樣式不斷涌現(xiàn)并且復(fù)雜多變,僅依賴(lài)領(lǐng)域?qū)<译y以在短時(shí)間對(duì)目標(biāo)信息進(jìn)行分析。以下兩種數(shù)據(jù)來(lái)源可用于生成目標(biāo)攻擊意圖識(shí)別標(biāo)簽:

      1)由真實(shí)作戰(zhàn)或?qū)崙?zhàn)演練數(shù)據(jù)提供的來(lái)襲目標(biāo)攻擊意圖記錄;

      2)由領(lǐng)域?qū)<腋鶕?jù)不同的態(tài)勢(shì)判斷敵方目標(biāo)的攻擊意圖;

      如圖1所示,典型水面艦艇編隊(duì)配置如下,每艘艦艇都擁有相應(yīng)編號(hào)。

      圖1 水面艦艇編隊(duì)配置

      圖2 深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

      樣本數(shù)據(jù)對(duì)應(yīng)的攻擊意圖轉(zhuǎn)化后用于模型學(xué)習(xí)的標(biāo)簽數(shù)據(jù)為矩陣S(n),由專(zhuān)家識(shí)別或記錄后標(biāo)記的矩陣為:

      其中數(shù)據(jù)的索引值對(duì)應(yīng)艦艇編號(hào),數(shù)值1代表攻擊意圖識(shí)別分析結(jié)果識(shí)別對(duì)應(yīng)編號(hào)的艦艇被敵方鎖定攻擊,數(shù)值0代表未被鎖定。來(lái)襲目標(biāo)攻擊意圖的識(shí)別結(jié)果同樣為格式相同,數(shù)據(jù)不同的矩陣,數(shù)值為0~1之間的概率值。經(jīng)過(guò)one-hot處理后生成的識(shí)別結(jié)果與標(biāo)簽數(shù)據(jù)完全一致。

      2 攻擊意圖識(shí)別模型構(gòu)建

      傳統(tǒng)基于來(lái)襲目標(biāo)攻擊意圖特征識(shí)別來(lái)輔助指揮者決策的方法,是需要大量的領(lǐng)域內(nèi)專(zhuān)家經(jīng)驗(yàn)對(duì)來(lái)襲目標(biāo)攻擊意圖特征的權(quán)重、先驗(yàn)概率等進(jìn)行先驗(yàn)量化,明確目標(biāo)攻擊意圖特征之間的對(duì)應(yīng)關(guān)系,但是戰(zhàn)場(chǎng)形式一旦發(fā)生變化,此種方法會(huì)由于缺乏靈活性與自由度,往往會(huì)導(dǎo)致指揮者決策失誤,這是基于先驗(yàn)知識(shí)確定來(lái)襲目標(biāo)攻擊意圖特征的最大不足。

      而深度神經(jīng)網(wǎng)絡(luò)可以在領(lǐng)域?qū)<蚁闰?yàn)知識(shí)不足條件下,通過(guò)自身訓(xùn)練得到來(lái)襲目標(biāo)攻擊意圖特征之間的規(guī)則。針對(duì)傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)算法在更新網(wǎng)絡(luò)節(jié)點(diǎn)權(quán)值時(shí)收斂速度慢、容易陷入局部最優(yōu)的問(wèn)題,通過(guò)引入GeLUs激活函數(shù)和AdaMod優(yōu)化算法,設(shè)計(jì)了基于深度神經(jīng)網(wǎng)絡(luò)的來(lái)襲目標(biāo)攻擊意圖識(shí)別模型。

      2.1 深度神經(jīng)網(wǎng)絡(luò)

      人工神經(jīng)網(wǎng)絡(luò)由稱(chēng)為神經(jīng)元的簡(jiǎn)單元素構(gòu)成,這些元素具有真實(shí)值,乘以權(quán)重,然后通過(guò)非線性激活函數(shù)運(yùn)行。深度神經(jīng)網(wǎng)絡(luò)(DNN)具有多個(gè)處理輸入的神經(jīng)元 “隱藏層”,隱藏層中的每個(gè)神經(jīng)元都會(huì)接收部分輸入變量,然后將其結(jié)果傳遞給下一層,網(wǎng)絡(luò)可以學(xué)習(xí)非常復(fù)雜的功能。深度學(xué)習(xí)網(wǎng)絡(luò)更準(zhǔn)確,隨著添加更多的神經(jīng)元層可以進(jìn)一步提高準(zhǔn)確性。只要有足夠的計(jì)算能力,神經(jīng)網(wǎng)絡(luò)就能夠?qū)W習(xí)任何函數(shù)的形狀。神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)是對(duì)于高維問(wèn)題非常有效,能夠處理變量之間的復(fù)雜關(guān)系,可以更好的提取數(shù)據(jù)特征,在領(lǐng)域?qū)<蚁闰?yàn)知識(shí)不足的條件下根據(jù)態(tài)勢(shì)數(shù)據(jù)進(jìn)行訓(xùn)練,用于來(lái)襲目標(biāo)攻擊意圖識(shí)別。強(qiáng)大的調(diào)整選項(xiàng)可防止過(guò)擬合(over-fitting)和擬合不足(under-fitting),防止領(lǐng)域?qū)<业闹饔^性對(duì)訓(xùn)練結(jié)果產(chǎn)生影響。

      2.2 Gelus激活函數(shù)

      深層神經(jīng)網(wǎng)絡(luò)存在梯度消失和梯度爆炸的問(wèn)題,都是因?yàn)榫W(wǎng)絡(luò)層數(shù)太深而引發(fā)的梯度反向傳播中的連乘效應(yīng),其連乘后結(jié)果變得很小導(dǎo)致梯度消失。Sigmoid激活函數(shù)[19]在深層神經(jīng)網(wǎng)絡(luò)中極大概率會(huì)引起梯度消失,還有很小的概率出現(xiàn)梯度爆炸。常用的Relu激活函數(shù)解決了梯度消失的問(wèn)題,但是可能導(dǎo)致神經(jīng)元死亡,權(quán)重?zé)o法更新。近期的Leaky-ReLU 解決了Relu中的神經(jīng)元死亡問(wèn)題,但是其中的超參數(shù)α需要人工調(diào)整。后期的PReLU 和RRelu激活函數(shù)都是針對(duì)超參數(shù)α進(jìn)行優(yōu)化調(diào)整[12]。ELUs是試圖將激活函數(shù)的平均值接近零,從而加快學(xué)習(xí)的速度。同時(shí)通過(guò)正值的標(biāo)識(shí)來(lái)避免梯度消失的問(wèn)題。

      為改善深層神經(jīng)網(wǎng)絡(luò)的性能,需要一種新的激活函數(shù)模型,使其在學(xué)習(xí)過(guò)程中,能同時(shí)對(duì)激活函數(shù)的陡度,位置及映射范圍進(jìn)行調(diào)節(jié),降低深層神經(jīng)網(wǎng)絡(luò)存在梯度消失和梯度爆炸的問(wèn)題發(fā)生率,且具有更強(qiáng)的自我修復(fù)能力,提高模型的擬合能力與收斂速度。

      GeLUs是一個(gè)新的激活函數(shù),它引入了隨機(jī)正則的思想,直觀上更加符合高斯分布,實(shí)驗(yàn)效果強(qiáng)于Relus。GELUs不僅解決了深層神經(jīng)網(wǎng)絡(luò)的梯度消失和爆炸問(wèn)題,同時(shí)對(duì)于模型的擬合能力和收斂速度起著至關(guān)重要的重用,公式如下:

      其中:Φ(x)指的是x的高斯正態(tài)分布的累積分布。

      式(2)可近似表示為:

      其中:σ的選擇比較關(guān)鍵。

      3 基于AdaMod算法的深度神經(jīng)網(wǎng)絡(luò)模型

      3.1 Adam 優(yōu)化器

      深度學(xué)習(xí)通常需要大量時(shí)間和計(jì)算機(jī)資源進(jìn)行訓(xùn)練,這也是困擾深度學(xué)習(xí)算法發(fā)展的主要原因。優(yōu)化算法可以使用更少資源并使得模型收斂更快,從根本上提高了機(jī)器學(xué)習(xí)的速度和有效性。Adam 算法就是以為快速收斂為目的而設(shè)計(jì)的。自適應(yīng)矩估計(jì)(Adam)是一種在神經(jīng)網(wǎng)絡(luò)中被廣泛采用的優(yōu)化器,是一種對(duì)隨機(jī)目標(biāo)函數(shù)執(zhí)行梯度優(yōu)化的算法。由于Adam 算法梯度的對(duì)角縮放(diagonal rescaling)的不變性,適用解決大規(guī)模參數(shù)以及稀疏梯度的非穩(wěn)態(tài)問(wèn)題。Adam 算法只需要一階梯度和很小的內(nèi)存,通過(guò)第一第二梯度的估計(jì)來(lái)計(jì)算不同參數(shù)的自適應(yīng)學(xué)習(xí)速率。此外Adam 算法的超參數(shù)可以直觀的解釋?zhuān)恍枰罅空{(diào)參。

      3.2 AdaMod優(yōu)化器

      由于Adam 算法的收斂性較差,為了保證更優(yōu)的結(jié)果,文中采用了名為AdaMod的優(yōu)化算法,這是一種基于Adam的改進(jìn)優(yōu)化器,可以在訓(xùn)練的同時(shí)計(jì)算自適應(yīng)學(xué)習(xí)率的指數(shù)長(zhǎng)期平均值,根據(jù)長(zhǎng)期平均值對(duì)學(xué)習(xí)率進(jìn)行修剪,去除過(guò)高的學(xué)習(xí)率。相比Adam 優(yōu)化器,AdaMod能夠從訓(xùn)練開(kāi)始就控制自適應(yīng)學(xué)習(xí)率的變化,無(wú)需預(yù)熱。AdaMod優(yōu)化器不僅能夠使用更少資源加快模型收斂,同時(shí)也不需要進(jìn)行大量調(diào)參就可以使模型得到一個(gè)穩(wěn)定可靠的結(jié)果。

      3.3 算法實(shí)現(xiàn)

      AdaMod算法比Adam 算法多出的第九步操作St=β3st-1+(1-β3)ηt,其中β3定義了記憶長(zhǎng)度。定義了當(dāng)前平滑值和過(guò)去 “長(zhǎng)期記憶”(long-term-memory)的關(guān)系,之后從當(dāng)前學(xué)習(xí)率ηt中選擇最小值從而剔除高學(xué)習(xí)率。當(dāng)β3=0時(shí),AdaMod等價(jià)于Adam。

      4 目標(biāo)攻擊意圖識(shí)別流程

      訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)模型并輸入目標(biāo)態(tài)勢(shì)對(duì)目標(biāo)攻擊意圖進(jìn)行識(shí)別,步驟如下:

      1)從數(shù)據(jù)記錄系統(tǒng)中提取目標(biāo)參數(shù),經(jīng)轉(zhuǎn)換后提取目標(biāo)特征數(shù)據(jù),并根據(jù)作戰(zhàn)實(shí)際結(jié)果記錄以及領(lǐng)域?qū)<覍?duì)結(jié)果的判斷生成標(biāo)簽,數(shù)據(jù)結(jié)構(gòu)形如[0,1,0,0,0]。其中被敵方鎖定的我方艦船標(biāo)記為1。

      2)將數(shù)據(jù)集隨機(jī)打亂,并采用10折交叉驗(yàn)證(Crossvalidation)進(jìn)行訓(xùn)練。實(shí)現(xiàn)方式為將初始樣本分割為10個(gè)子樣本,其中10%的子樣本作為測(cè)試集,其余90%樣本用于訓(xùn)練。交叉驗(yàn)證重復(fù)10次,每個(gè)子樣本驗(yàn)證一次。

      3)調(diào)整深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),設(shè)置隱藏層數(shù)和節(jié)點(diǎn)數(shù)。

      4)輸入訓(xùn)練數(shù)據(jù)到構(gòu)建的好的神經(jīng)網(wǎng)絡(luò)中,并調(diào)整參數(shù)。在計(jì)算資源充足的情況下并行調(diào)試多個(gè)模型,選取最優(yōu)的模型迭代優(yōu)化。

      5)將待識(shí)別目標(biāo)特征數(shù)據(jù)輸入訓(xùn)練完成的模型,對(duì)敵方目標(biāo)攻擊意圖做出預(yù)測(cè)。

      5 模型分析與參數(shù)設(shè)置

      5.1 超參數(shù)設(shè)置

      不同的參數(shù)和超參數(shù)設(shè)置決定了模型的精確度。在普通的模型中,由于剛開(kāi)始訓(xùn)練時(shí),模型的權(quán)重(weight)是隨機(jī)初始化的,此時(shí)若選擇較大的學(xué)習(xí)率,可能帶來(lái)模型的不穩(wěn)定。通常會(huì)選擇預(yù)熱(Warmup)學(xué)習(xí)率的方式,在最初訓(xùn)練的幾個(gè)epoches中使用較小的學(xué)習(xí)率,在預(yù)熱的小學(xué)習(xí)率下,模型可以慢慢趨于穩(wěn)定,等模型相對(duì)穩(wěn)定后再選擇預(yù)先設(shè)置的學(xué)習(xí)率進(jìn)行訓(xùn)練,使得模型的收斂速度更快,模型效果更佳。文中采用了AdaMod優(yōu)化器,它的優(yōu)點(diǎn)是對(duì)學(xué)習(xí)率超參數(shù)不敏感,訓(xùn)練曲線更平滑,并且不需要預(yù)熱(Warmup)。從圖3可以看到即使學(xué)習(xí)率相差兩個(gè)量級(jí),也能收斂到同一個(gè)結(jié)果。而其他的優(yōu)化器例如Adam,如果不預(yù)熱,效果可能非常差,不能保證達(dá)到可用標(biāo)準(zhǔn)?;诖颂攸c(diǎn),設(shè)置神經(jīng)網(wǎng)路的學(xué)習(xí)率α=0.05,超參數(shù)β1=0.9,β2=0.99,β3=0.999,平滑項(xiàng)ε=10-7。

      圖3 不同學(xué)習(xí)率下AdaMod優(yōu)化器的精確度

      實(shí)驗(yàn)結(jié)果表明,通過(guò)對(duì)模型進(jìn)行并行訓(xùn)練得到在迭代次數(shù)為200次左右時(shí),設(shè)置神經(jīng)網(wǎng)路的學(xué)習(xí)率α=0.05的模型表現(xiàn)最好。

      此外,神經(jīng)網(wǎng)絡(luò)隱藏層結(jié)構(gòu)層數(shù)的設(shè)計(jì)會(huì)影響模型識(shí)別的準(zhǔn)確度。圖4與圖5分別使用了不同層級(jí)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)層數(shù)來(lái)驗(yàn)證使用AdaMod優(yōu)化器的模型對(duì)來(lái)襲目標(biāo)攻擊意圖識(shí)別的準(zhǔn)確率。從圖中可以看到在訓(xùn)練次數(shù)50 次之后,使用AdaMod優(yōu)化器的模型驗(yàn)證的準(zhǔn)確率基本趨于穩(wěn)定。隱藏層設(shè)置為3層的準(zhǔn)確度相比于隱藏層設(shè)置為1層的準(zhǔn)確度更加的穩(wěn)定于準(zhǔn)確。當(dāng)然,如果隱藏層設(shè)置的層數(shù)越多,其預(yù)測(cè)的準(zhǔn)確度與穩(wěn)定性也開(kāi)始下降。原因是層數(shù)越多,節(jié)點(diǎn)越多,雖然在訓(xùn)練模型上的效果越好,但隨之帶來(lái)模型過(guò)擬合問(wèn)題,會(huì)造成穩(wěn)定性變差,準(zhǔn)確度下降。

      圖4 三層節(jié)點(diǎn)神經(jīng)網(wǎng)絡(luò)準(zhǔn)確率

      圖5 五層節(jié)點(diǎn)神經(jīng)網(wǎng)絡(luò)準(zhǔn)確率

      5.2 模型精度實(shí)驗(yàn)

      為驗(yàn)證最終模型的精確度,將原數(shù)據(jù)集再次隨機(jī)打亂,并抽取前90%作為訓(xùn)練樣本,剩余的10%數(shù)據(jù)作為測(cè)試樣本。將訓(xùn)練樣本作為模型輸入并用測(cè)試樣本檢測(cè)模型精確度,測(cè)試結(jié)果如圖6所示。在迭代次數(shù)為250次的情況下,模型的準(zhǔn)確率高于98.4%。從識(shí)別結(jié)果可以得出結(jié)論,該深度神經(jīng)網(wǎng)絡(luò)模型在現(xiàn)有樣本的條件下可以有效識(shí)別來(lái)襲空中目標(biāo)的攻擊意圖,同時(shí)模型準(zhǔn)確率高于98%,識(shí)別可靠性高。

      圖6 訓(xùn)練后的模型準(zhǔn)確率

      5.3 實(shí)驗(yàn)結(jié)果與分析

      實(shí)驗(yàn)中所提出的激活函數(shù)和優(yōu)化器配置對(duì)比基于單層BP神經(jīng)網(wǎng)絡(luò)模型,普通深度神經(jīng)網(wǎng)絡(luò)模型,Sigmiod激活函數(shù)與Adam 優(yōu)化器深度神經(jīng)網(wǎng)絡(luò)模型,ReLu激活函數(shù)與Adam 優(yōu)化器深度神經(jīng)網(wǎng)絡(luò)模型的識(shí)別效果對(duì)比如圖7所示。

      圖7 不同模型準(zhǔn)確度對(duì)比

      由圖7可知,文中提出的GELUs激活函數(shù)與AdaMod優(yōu)化器改進(jìn)的深度神經(jīng)網(wǎng)絡(luò)模型在同樣的數(shù)據(jù)集上能得到比其他模型更好的識(shí)別效果。其中使用Adam 優(yōu)化器的深度神經(jīng)網(wǎng)絡(luò)模型特定學(xué)習(xí)率參數(shù)設(shè)置下收斂存在問(wèn)題,出現(xiàn)了無(wú)法收斂的情況。在不預(yù)熱的情況下,模型準(zhǔn)確率過(guò)低,如圖8所示。作為對(duì)比,文中提出的深度神經(jīng)網(wǎng)絡(luò)模型不存在無(wú)法收斂到最優(yōu)解的問(wèn)題,同時(shí)收斂的速度更快,識(shí)別效果更好。在保證精度問(wèn)題的同時(shí),還解決了訓(xùn)練數(shù)據(jù)量不足的情況下,其他模型訓(xùn)練結(jié)果不理想的情況。

      圖8 無(wú)預(yù)熱情況下模型準(zhǔn)確度對(duì)比

      通過(guò)上述的模型分析與實(shí)驗(yàn)對(duì)比可以發(fā)現(xiàn),文中提出的GELUs激活函數(shù)對(duì)神經(jīng)網(wǎng)絡(luò)具有更好的泛化能力,可以需要更少的訓(xùn)練樣本,得到更好的預(yù)測(cè)效果,而AdaMod優(yōu)化器讓模型有了更好的收斂性與收斂速度,只需要一個(gè)較小的樣本集對(duì)模型進(jìn)行訓(xùn)練,就可以讓敵方空襲目標(biāo)意圖識(shí)別結(jié)果穩(wěn)定可靠、準(zhǔn)確率高。

      故此,采用AdaMod優(yōu)化器與深層神經(jīng)網(wǎng)絡(luò)GeLUs激活函數(shù)的來(lái)襲目標(biāo)攻擊意圖識(shí)別模型有以下幾個(gè)特點(diǎn):

      1)模型魯棒性性好,結(jié)果輸出穩(wěn)定;

      2)收斂速度快,樣本集需求少;

      3)攻擊意圖特征提取充分,數(shù)據(jù)挖掘比較完全;

      4)模型訓(xùn)練結(jié)果可靠性高,準(zhǔn)確度高。

      當(dāng)然,由于戰(zhàn)場(chǎng)態(tài)勢(shì)千變?nèi)f化,戰(zhàn)場(chǎng)信息錯(cuò)綜復(fù)雜,受神經(jīng)網(wǎng)絡(luò)各參數(shù)的初始化數(shù)據(jù)影響較大,小樣本集的訓(xùn)練可能會(huì)有所偏差,所以此模型有待進(jìn)一步的改進(jìn)與提高。

      6 結(jié)束語(yǔ)

      文中結(jié)合了敵方空襲目標(biāo)意圖識(shí)別問(wèn)題的特點(diǎn),提出采用自適應(yīng)學(xué)習(xí)率的深度神經(jīng)網(wǎng)絡(luò)來(lái)解決特征數(shù)據(jù)龐大,領(lǐng)域?qū)<抑R(shí)不足條件下的攻擊意圖識(shí)別問(wèn)題。

      文中選擇了當(dāng)前較為新穎同時(shí)效果更好的GeLUs激活函數(shù)和AdaMod優(yōu)化器對(duì)深度神經(jīng)網(wǎng)路模型進(jìn)行優(yōu)化,最大程度降低了初始學(xué)習(xí)率設(shè)置對(duì)模型的影響,提高了模型收斂速度,降低訓(xùn)練時(shí)間,同時(shí)提高了模型識(shí)別效果。此外,文中設(shè)計(jì)的模型對(duì)訓(xùn)練樣本的數(shù)量要求更低,解決了當(dāng)前樣本不足的難點(diǎn)。

      深度神經(jīng)網(wǎng)絡(luò)模型能夠很好地對(duì)來(lái)襲目標(biāo)攻擊意圖進(jìn)行識(shí)別,有著優(yōu)異的準(zhǔn)確性和可靠性。同時(shí)實(shí)驗(yàn)結(jié)果顯示,該模型的表現(xiàn)由于其他常用模型,解決了使用Adam 模型可能出現(xiàn)無(wú)法收斂到最優(yōu)解的問(wèn)題。

      猜你喜歡
      意圖神經(jīng)網(wǎng)絡(luò)深度
      原始意圖、對(duì)抗主義和非解釋主義
      法律方法(2022年2期)2022-10-20 06:42:20
      陸游詩(shī)寫(xiě)意圖(國(guó)畫(huà))
      制定法解釋與立法意圖的反事實(shí)檢驗(yàn)
      法律方法(2021年3期)2021-03-16 05:56:58
      深度理解一元一次方程
      神經(jīng)網(wǎng)絡(luò)抑制無(wú)線通信干擾探究
      電子制作(2019年19期)2019-11-23 08:42:00
      深度觀察
      深度觀察
      深度觀察
      基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
      復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
      鄂托克旗| 城口县| 宝清县| 濮阳市| 卫辉市| 安丘市| 根河市| 阳城县| 琼结县| 邵东县| 沾化县| 台前县| 德钦县| 哈尔滨市| 水富县| 贡山| 辽阳市| 于都县| 宜宾县| 北票市| 运城市| 天津市| 常熟市| 盖州市| 甘孜| 达尔| 静海县| 诸城市| 巨鹿县| 道真| 娄底市| 漳浦县| 梅河口市| 陵川县| 田阳县| 乌海市| 九寨沟县| 大方县| 安仁县| 长葛市| 南华县|