• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于函數(shù)逼近的強化學習FANET 路由優(yōu)化算法

    2021-11-18 02:19:10謝勇盛楊余旺邱修林王吟吟
    計算機工程 2021年11期
    關鍵詞:時隙原型路由

    謝勇盛,楊余旺,邱修林,王吟吟

    (南京理工大學計算機科學與工程學院,南京 210094)

    0 概述

    近年來,無人機群在森林防火、智能農業(yè)、滲透偵察、火力打擊等民用和軍用領域具有廣泛應用。為完成復雜的協(xié)同任務,穩(wěn)健的通信方式是必不可少的。移動自組網(wǎng)(Mobile Ad-Hoc Network,MANET)[1]作為一種無中心、多跳、自治的無線網(wǎng)絡,被認為是最適合無人機的通信方式之一[2-3]。在MANET 中,每個節(jié)點不僅作為終端主機,也充當轉發(fā)消息的路由器。但由于節(jié)點是移動的,這導致通信鏈路的頻繁變化,因此需要一個能夠幫助網(wǎng)絡組網(wǎng)和維護鏈路穩(wěn)定的路由協(xié)議。目前,對MANET 路由協(xié)議的研究已經(jīng)有了很大的發(fā)展,根據(jù)不同的路由策略,可將路由協(xié)議分為主動路由協(xié)議、按需路由協(xié)議和混合路由協(xié)議。在主動路由協(xié)議中,在進行業(yè)務傳輸前,節(jié)點主動探測周邊鄰居節(jié)點并維護鏈路信息。這種優(yōu)先確定路由鏈路的方式相較按需路由協(xié)議和混合路由協(xié)議具有更高的實時性[4]。但由于無人機節(jié)點移動速度快,網(wǎng)絡拓撲變化迅速,傳統(tǒng)的MANET 路由協(xié)議已經(jīng)難以滿足無人機通信組網(wǎng)的需求,為此研究人員提出飛行自組網(wǎng)(Flying Ad-Hoc Network,F(xiàn)ANET)[5],因此探究適用于FANET 環(huán)境的路由技術對改善網(wǎng)絡性能具有著重要的意義。

    FANET 雖源于MANET,但 比MANET 有著更復雜的應用環(huán)境,具有高動態(tài)性、高稀疏性、鏈路質量多變等通信特點,為建立穩(wěn)定鏈路帶來很大困難。因此,F(xiàn)ANET 路由協(xié)議應綜合考慮無人機應用、服務器性質、節(jié)點高速移動等特性。常見的FANET 路由協(xié)議設計思路源于對傳統(tǒng)的MANET 路由協(xié)議進行適當改進。MANET 研究初期的路由協(xié)議對節(jié)點移動性并不敏感,若要使網(wǎng)絡適應飛行節(jié)點的動態(tài)特性,則需要節(jié)點自身能夠通過問候消息(即HELLO 消息)或鏈路層反饋機制探測和維護可連通鄰居節(jié)點,以此保障鏈路暢通。與鏈路反饋機制相比,通過路由協(xié)議定期交換問候消息更優(yōu),因為前者并不受限于任何特定的鏈路層技術[6]。這種主動發(fā)送探測包的路由技術在MANET 中被稱為主動路由協(xié)議,其中應用較廣泛的為最優(yōu)鏈路狀態(tài)路由(Optimal Link State Routing,OLSR)[4]協(xié)議。

    但對于高動態(tài)FANET 而言,這種定期交換HELLO 消息的路由協(xié)議難以適應多變的網(wǎng)絡環(huán)境。在主動路由協(xié)議中,HELLO 消息時隙的選擇對于鏈路的發(fā)現(xiàn)起著決定性的作用[3]。時隙越短,越有助于快速檢測新鄰居或鏈路中斷,但會產生更高的開銷,阻礙正常數(shù)據(jù)包的發(fā)送。時隙越長,開銷會越少,但會限制鄰居發(fā)現(xiàn)和鏈接中斷檢測能力。在高動態(tài)FANET 中,需要在實時感知環(huán)境的同時自適應修改HELLO 時隙并優(yōu)化整個網(wǎng)絡性能[7-8]。針對FANET 高動態(tài)網(wǎng)絡場景下的節(jié)點鏈路探測問題,本文對傳統(tǒng)OLSR 算法進行改進,提出一種基于強化學習的自適應鏈路狀態(tài)路由算法QLA-OLSR。通過感知動態(tài)環(huán)境下節(jié)點鄰居數(shù)量變化程度和業(yè)務負載能力,獲取最優(yōu)HELLO 時隙決策,并利用自學習不斷調整和完善這一決策,以達到優(yōu)化網(wǎng)絡性能的目的。

    1 相關工作

    主動路由協(xié)議節(jié)點定期發(fā)送HELLO 消息,探測周圍鏈路情況,能幫助網(wǎng)絡更快地適應環(huán)境。但無人機高速移動和分布稀疏的特性又造成了節(jié)點交匯的時間減少、相遇的可能性降低等問題。針對傳統(tǒng)MANET 路由協(xié)議的HELLO 時隙改進以適應節(jié)點高速運動,一些研究人員提出了不同的方案。

    MAHMUD 等[7]提出一 種EE-OLSR 路由協(xié) 議,通過計算網(wǎng)絡密度,感知節(jié)點能量消耗、綜合節(jié)點密度等多種參量達到選擇時隙的目的。

    HERNANDEZ-CONS 等[9]提出一種基于鏈路變化率的自適應HELLO 時隙方法。節(jié)點統(tǒng)計單位時間內添加或刪除的鏈路總數(shù)作為衡量鏈路變化的標準,如果鏈路變化率高,則鄰居變化快,探測消息時隙縮短,反之,增加時隙。

    GIRUKA 等[10]提出另一種解決方案,節(jié)點感知自身運動速度,在特定速度時采用響應的時隙發(fā)送HELLO 消息。由于節(jié)點具有不同速度,因此為高速節(jié)點分配了較短的探測報文時隙,為低速節(jié)點分配了較長的探測報文時隙,且局部采用最優(yōu)時隙,達到整個網(wǎng)絡性能的均衡穩(wěn)定。

    HAN 等[11]提出一種用于鄰居發(fā)現(xiàn)的自適應HELLO 消息傳遞方案。該方案利用平均事件間隔,即節(jié)點上兩個連續(xù)事件(發(fā)送或接收數(shù)據(jù)包)之間的平均時間間隔,估計節(jié)點在發(fā)送或轉發(fā)中的活躍程度。如果某個節(jié)點在給定時間內未參與任何通信,則無需維護鏈路狀態(tài),在此期間廣播HELLO 消息是不必要的,因為抑制不必要的問候消息可節(jié)省能量,并且能持續(xù)對鏈路狀態(tài)進行檢測。

    2 QLA-OLSR 算法

    2.1 Q 學習算法流程

    Q 學習[12]是一種智能體在可控馬爾科夫域中選取并執(zhí)行最優(yōu)動作的強化學習算法,類似于一種動態(tài)規(guī)劃的增量方法,通過不斷獲取特定狀態(tài)下特定動作的累計獎懲值,為下一次遇到相似環(huán)境狀態(tài)時選擇最優(yōu)動作提供依據(jù)。強化學習不同于機器學習,學習過程沒有監(jiān)督者,智能體通過接收環(huán)境反饋獎勵信號來評估動作價值,并且反饋是延遲的,表現(xiàn)為一系列狀態(tài)價值函數(shù)對下一步動作的影響。

    圖1 給出了強化學習流程。智能體通過與環(huán)境進行交互獲得回報來修正動作,其行為步驟可以表示為一個馬爾科夫決策(Markov Decision Process,MDP)過程。MDP 可以描述為一個三元組其基本流程是:當t時刻智能體的狀態(tài)為st(st∈S)時,智能體會收到環(huán)境給予它的回報rt(rt∈R);智能體根據(jù)累計的回報值,做出決策選擇動作at(at∈A)并執(zhí)行;智能體進入新的狀態(tài)st+1。循環(huán)執(zhí)行這些操作,達到在特定環(huán)境下選擇最優(yōu)策略的目的。

    圖1 強化學習流程Fig.1 Procedure of reinforcement learning

    2.2 模型構建

    在使用強化學習優(yōu)化OLSR 路由協(xié)議前,需要先將HELLO 時隙調整問題描述為MDP 過程。

    2.2.1 狀態(tài)

    無人機節(jié)點具有高動態(tài)特點,網(wǎng)絡拓撲變化可能很復雜,尤其是考慮到網(wǎng)絡一直在運行,可用于表示網(wǎng)絡的連續(xù)高維狀態(tài)空間,可以生成幾乎無限數(shù)量的狀態(tài)。因此,無人機節(jié)點需要確定適當?shù)臓顟B(tài)變量,以捕獲節(jié)點選擇時隙帶來的性能差異并保障學習過程中的易處理性。本文選擇以下3 個狀態(tài)變量:

    1)snbr,表示當前節(jié)點時間步長Δt內鄰居節(jié)點變化程度。snbr計算如式(1)所示:

    其中:nt表示t時刻鄰居表中的節(jié)點數(shù)目。

    2)sload,表示節(jié)點接口隊列中待發(fā)送的數(shù)據(jù)包個數(shù)。

    3)ssolt,表示當前節(jié)點的HELLO 時隙長度。

    節(jié)點主要是通過與鄰居節(jié)點交互HELLO 消息來發(fā)現(xiàn)連通鏈路。頻繁的HELLO 消息可以讓節(jié)點更快地探測出鄰居節(jié)點的存在,并改變鄰居表中節(jié)點的數(shù)目,但是這也必然會增加網(wǎng)絡負載,阻礙節(jié)點數(shù)據(jù)隊列中數(shù)據(jù)的發(fā)送。本文通過QLA-OLSR 權衡兩者之間的關系,使其處于一個平衡的狀態(tài)。

    2.2.2 動作

    選擇下一動作是Q 學習的主要目標,也是影響協(xié)議性能的關鍵因素。在本文中動作指定為智能體感知鄰居節(jié)點拓撲變化和周邊環(huán)境的變化來更改其HELLO 消息發(fā)送時隙。本文使用3 個動作來簡化動作空間,如表1 所示。動作指定節(jié)點為響應網(wǎng)絡環(huán)境的變化需要改變其感知時隙,減少時隙必然能加快鄰居節(jié)點的感知速度,但是隨之會帶來網(wǎng)絡開銷的增長,節(jié)點通過接收到的獎勵來選擇一個動作,從而達到感知速度快與網(wǎng)絡開銷低之間的均衡。

    表1 QLA-OLSR 動作Table 1 QLA-OLSR action

    2.2.3 效用函數(shù)和回報函數(shù)

    學習的目標是找到調整HELLO 時隙的調整策略,采取決策動作后,接收環(huán)境反饋的回報,累計此回報值作為下一次決策的依據(jù)。為此,需要根據(jù)環(huán)境給出回報正負價值的衡量標準,并定義如下效用函數(shù):

    其中:C表示節(jié)點在時間步t內鄰居節(jié)點的數(shù)量變化程度,計算公式如式(3)所示;L表示當前節(jié)點的業(yè)務負載能力[13-14],計算公式如式(4)所示,其中l(wèi)表示節(jié)點的隊列緩存長度;α和δ表示鄰居節(jié)點變化程度和業(yè)務負載能力的相對權重,在本文中分別設置為50%。可以直觀地看出,該函數(shù)能夠表示在最大程度上快速平穩(wěn)鄰居節(jié)點探測并最大化保留節(jié)點轉發(fā)業(yè)務數(shù)據(jù)的能力。

    在連續(xù)的效用值中,通過其差值來定義如下回報函數(shù):

    其中:ζ表現(xiàn)為一個可調參數(shù)。當連續(xù)時刻效用函數(shù)差值大于ζ時,取兩者之差為回報函數(shù),若回報函數(shù)為正值,則表現(xiàn)為獎勵,若回報函數(shù)為負值時,則表現(xiàn)為懲罰。

    2.3 算法訓練

    訓練QLA-OLSR 算法試圖找到一種策略,該策略選定特定狀態(tài)下的動作執(zhí)行,并使智能體所接收到的長期獎勵值最大。在QLA-OLSR 中,獎勵通過效用值函數(shù),訓練策略的目的是自適應調整HELLO時隙變化策略,在高拓撲變化情況下,以最大程度地提高節(jié)點感知鄰居的速度,達到更高的吞吐量,同時在低拓撲變化情況下,最大程度地減少網(wǎng)絡開銷。因此,訓練算法的學習速度和質量是QLA-OLSR 性能的關鍵。

    Q 學習用一個簡單的迭代值去更新決策過程,決策動作記錄在一個Q 表中。在時間步t時,對應有一個狀態(tài)st和一個動作at。算法計算出該時間步的預期折扣獎勵Q(st,at),更新規(guī)則如下:

    其中:α為學習率,滿足0 ≤α≤1;γ為折扣因子,滿足0<γ≤1。在Q 學習中所有狀態(tài)下的Q(st,at)存儲在Q 表中。

    Q 學習為小規(guī)模、離散狀態(tài)空間問題提供了一個良好的解決方案,并且表現(xiàn)出較好的學習性和收斂性,但在大規(guī)模、非離散狀態(tài)空間中的伸縮性非常差。因為在這種情況下,枚舉狀態(tài)量是無限的,使用Q 表記錄每個狀態(tài)或狀態(tài)動作的價值函數(shù)是不切實際的。為了減少存儲大Q 表所需的內存和更新訪問狀態(tài)或動作狀態(tài)對應的Q值所需的訓練時間,在采用RL 算法時,使用函數(shù)逼近將相似狀態(tài)之間的值關聯(lián)起來,使連續(xù)狀態(tài)空間能夠映射到有限的域,添加函數(shù)逼近方式后的強化學習流程如圖2 所示。

    圖2 基于函數(shù)逼近的強化學習流程Fig.2 Procedure of reinforcement learning based on function approximation

    3 基于函數(shù)逼近的QLA-OLSR 算法

    節(jié)點可感知的狀態(tài)空間是極大且連續(xù)的,對于Q 學習算法而言,迭代出完整的Q 表是極具挑戰(zhàn)性的。為此,本文采用Kanerva 編碼的函數(shù)逼近策略,以減少訓練所需的狀態(tài)數(shù)量,可以在存在高維連續(xù)狀態(tài)空間的情況下簡化Q 學習[15]。

    3.1 Kanerva 編碼算法

    在Kanerva 編碼算法中,選擇一組原型狀態(tài),并用于估計值函數(shù),其中狀態(tài)值是通過本地原型狀態(tài)值的線性組合來估算的。在每次迭代中,只有與輸入狀態(tài)相鄰的原型狀態(tài)才會被更新。原型狀態(tài)由一系列狀態(tài)變量描述,每個狀態(tài)變量都有一定的數(shù)值范圍。在迭代學習之前選擇k個原型作為狀態(tài)集。假設給定狀態(tài)s和原型狀態(tài)pi,‖s-pi‖表示兩者數(shù)值差值,如果相差小于某一定值ε,則認為狀態(tài)s和原型狀態(tài)pi相鄰,定義s與pi的隸屬度μ(s,pi)如下:

    若相差大于給定值,則μ(s,pi)=0??紤]到原型狀態(tài)pi的Q值由其相鄰狀態(tài)共同決定,因此使每一個原型狀態(tài)pi和動作a維護一個θ(pi,a),則狀態(tài)-動作對應的為狀態(tài)s與動作a的相鄰原型狀態(tài)的θ值之和,具體定義如下:

    當智能體在狀態(tài)s時采取動作a、獲得獎勵r并進入下一狀態(tài)s′時,在新的狀態(tài)下已經(jīng)選擇出了新的動作a′,每個原型pi與動作a維護的θ值更新規(guī)則如下:

    其中:N是狀態(tài)s的相鄰原型的數(shù)量。

    對于原型狀態(tài)集,Kanerva 編碼通常從整個狀態(tài)空間中隨機選擇一組初始原型開始學習。然而,原型的選擇對Kanerva 編碼的性能有著重要影響,即估計并分配原型集對于逼近函數(shù)能力是非常敏感的,如果原型不能很好地分布在狀態(tài)空間區(qū)域中,可能造成許多輸入樣本找不到足夠的相鄰原型,這樣很難估計它們的Q值。若原型設置不合理,則會造成大量原型碰撞,使得在強化學習過程中遇到兩個不同的狀態(tài)動作具有相同的隸屬度[16]。

    3.2 優(yōu)化的Kanerva 編碼算法

    由上文可知,每個原型狀態(tài)pi維護一個半徑為ε的接收場,接收場的大小反映原型狀態(tài)的泛化程度。文獻[17]提出一種自適應鄰接法,為每個原型接收場調整大小。以該方式管理泛化能力,代替整個學習過程中的固定接收場,但需要在原型饑餓時(接收場過小難以起到函數(shù)逼近的功能),將其與避免過度概括進行權衡。

    為進一步提高Kanerva 的性能,本文提出一種狀態(tài)相似度機制(State Similarity Mechanism,SSM),它能夠準確測量出多維連續(xù)狀態(tài)空間中的狀態(tài)相似性,并計算出輸入狀態(tài)與原型狀態(tài)的相似度等級,以此代替二進制隸屬度,具體步驟如下:

    1)定義相似距離dij(s,pi),表示為多維狀態(tài)空間中n維輸入狀態(tài)與原型狀態(tài)p=在第j維上的差值平方除以一個恒定方差σ2,如式(10)所示:

    2)對相似距離進行歸一化處理,表示為相似度等級mij。相似度等級mij在2 個狀態(tài)變量相同時數(shù)值為1,2 個狀態(tài)變量相差很大時數(shù)值接近0,如式(11)所示:

    3)在s和p的所有維度中選擇最小狀態(tài)等級作為狀態(tài)s與原型p的隸屬度μ(s,pi),如式(12)所示:

    3.3 算法步驟

    將每個節(jié)點看作是一個獨立的智能體,智能體以當前HELLO 報文時隙為周期感知自身所在狀態(tài),并根據(jù)當前狀態(tài)下的Q值選擇調整時隙的下一決策,以此進入下一狀態(tài),具體算法流程如下:

    算法1基于Kanerva 編碼函數(shù)逼近的時隙決策

    對于每個智能體,循環(huán)感知自身所在狀態(tài),并通過上述算法做出下一步的HELLO 報文時隙調整策略,與此同時不停更新θ值,計算出新的Q值。

    4 仿真結果與性能分析

    實驗選取傳統(tǒng)OLSR算法、EE-OLSR算法[7]作為本文QLA-OLSR 算法的比較對象。通過仿真實驗對比分析各算法之間的吞吐量與網(wǎng)絡開銷這兩個網(wǎng)絡性能指標,根據(jù)路由算法在不同迭代次數(shù)下的性能表現(xiàn),驗證算法的穩(wěn)定性與收斂性。

    4.1 仿真設置

    實驗采用NS2 仿真工具進行建模仿真,將每個節(jié)點看作是智能體,即要求每個節(jié)點有相應的計算能力。在仿真實驗中,為方便起見,將每個節(jié)點的狀態(tài)輸入到一個智能體中,輸出各自不同的時隙結果,有利于智能體獲得更多的狀態(tài),并且學習效果更好,如圖3 所示。

    圖3 建模仿真框架Fig.3 Framework of modeling and simulation

    為體現(xiàn)網(wǎng)絡拓撲的高動態(tài)性,貼合真實情況下無人機群飛行場景,實驗選用高斯馬爾科夫模型(Gauss Markov Model,GMM)模擬無人機飛行場景[18-20],仿真參數(shù)設置如表2 所示。

    表2 仿真參數(shù)設置Table 2 Setting of simulation parameters

    4.2 性能分析

    4.2.1 網(wǎng)絡動態(tài)拓撲分析

    實驗節(jié)點以不同速度在GMM 模型下運動仿真無人機飛行實際場景,其中以速度這一變量來直觀表示高動態(tài)網(wǎng)絡拓撲的變化程度[21]。實驗目的是在相同業(yè)務負載下,模擬QLA-OLSR 算法在高動態(tài)FANET 場景下的性能表現(xiàn),并與EE-OLSR[7]、傳統(tǒng)OLSR 算法進行比較,分析各協(xié)議的吞吐量與網(wǎng)絡開銷。

    無人機在不同節(jié)點移動速度下的網(wǎng)絡吞吐量與網(wǎng)絡開銷如圖4 所示,可以看出吞吐量受節(jié)點移動速度的影響較大。隨著節(jié)點移動速度的增加,網(wǎng)絡拓撲變化隨之加快,原來穩(wěn)定的鏈路由于節(jié)點離開而斷開,新來的節(jié)點由于HELLO 消息時隙長而未被發(fā)現(xiàn),節(jié)點路由表跟不上鏈路的變化,因此網(wǎng)絡吞吐量降低。但是,在QLA-OLSR 算法中節(jié)點能夠更快速地感知鏈路變化,維護新的鏈路,保持較優(yōu)的吞吐量。對于網(wǎng)絡開銷,固定時隙的OLSR 協(xié)議在相同時刻發(fā)送的HELLO 消息應該是相近的,QLA-OLSR和EE-OLSR 算法在節(jié)點移動速度增加時相應的節(jié)點需減少時隙,導致開銷增加,并且節(jié)點在感知鏈路變化的同時也會感知業(yè)務負載,低業(yè)務負載的節(jié)點會減少HELLO 時隙。由此可見,在不同節(jié)點移動速度下,QLA-OLSR 算法相比OLSR 與EE-OLSR 算法具有更優(yōu)的網(wǎng)絡吞吐量和網(wǎng)絡開銷。

    圖4 不同節(jié)點移動速度下的網(wǎng)絡吞吐量和網(wǎng)絡開銷對比Fig.4 Comparison of network throughput and overhead at different node moving speeds

    4.2.2 網(wǎng)絡負載分析

    實驗仿真在不同節(jié)點負載任務下,通過調整任務節(jié)點的發(fā)送數(shù)據(jù)量,分析相同節(jié)點移動速度下各協(xié)議的網(wǎng)絡吞吐量與網(wǎng)絡開銷。

    無人機在不同IP 業(yè)務負載下的網(wǎng)絡吞吐量與網(wǎng)絡開銷如圖5 所示,可以看出隨著業(yè)務負載的增加吞吐量隨之增加,但由于網(wǎng)絡容量的限制會達到峰值,但在QLA-OLSR 算法中,在不影響網(wǎng)絡性能的同時,會減少網(wǎng)絡開銷以增加網(wǎng)絡容量,因此峰值會在更靠后時刻到來。關于網(wǎng)絡開銷,OLSR 和EE-OLSR算法對于業(yè)務負載不形成依賴,因此它們的網(wǎng)絡開銷變化不明顯,但QLA-OLSR 算法在高業(yè)務負載時會更傾向于發(fā)送業(yè)務數(shù)據(jù)包,從而通過增加時隙來減少HELLO 消息的發(fā)送。由此可見,在不同節(jié)點業(yè)務負載下,QLA-OLSR 算法相比OLSR 與EE-OLSR協(xié)議具有更優(yōu)的網(wǎng)絡吞吐量和網(wǎng)絡開銷。

    圖5 不同IP 業(yè)務負載下的網(wǎng)絡吞吐量和網(wǎng)絡開銷對比Fig.5 Comparison of network throughput and overhead at different IP business loads

    4.2.3 算法性能分析

    強化學習算法是通過學習過往經(jīng)驗來優(yōu)化當前動作,當算法穩(wěn)定后節(jié)點只需查找Q值來對下一動作進行選擇。Kanerva 編碼方式可優(yōu)化網(wǎng)絡狀態(tài)空間,加快算法收斂,提高算法效率。為驗證Kanerva編碼方式的優(yōu)化效果,實驗給出了QLA-OLSR 算法的網(wǎng)絡性能隨迭代次數(shù)的變化情況。

    如表3 所示,在選定節(jié)點移動速度為100 m/s、IP業(yè)務負載為50 kb/s 的場景下,QLA-OLSR 算法初始時的性能表現(xiàn)并不好,此時算法隨機性較大,但隨著學習迭代次數(shù)的增加,吞吐量開始逐步上升,網(wǎng)絡開銷亦逐步下降,當?shù)揭欢ù螖?shù)時逐步趨于穩(wěn)定,在沒有較大網(wǎng)絡波動下算法收斂,可見QLA-OLSR算法具有較好的適應性。

    表3 QLA-OLSR 算法性能隨迭代次數(shù)的變化情況Table 3 The changes of QLA-OLSR algorithm performance with the number of iterations

    5 結束語

    本文提出一種基于強化學習的自適應鏈路狀態(tài)路由算法QLA-OLSR,利用強化學習算法對傳統(tǒng)OLSR 協(xié)議的HELLO 時隙算法進行優(yōu)化,使得節(jié)點對環(huán)境有認知能力,并采用最大回報的方式選擇調整時隙的決策。仿真結果表明:相比傳統(tǒng)OLSR、EE-OLSR 算法,QLA-OLSR 算法在高動態(tài)網(wǎng)絡拓撲場景下能夠更快適應環(huán)境,具有更高的吞吐量和更低的丟包率;在平穩(wěn)的網(wǎng)絡拓撲場景下,在保持較高網(wǎng)絡吞吐量的同時,降低了網(wǎng)絡開銷,為環(huán)境多變的FANET 通信提供了有效的解決方案。但由于拓撲控制分組傳輸也是影響QLA-OLSR 算法性能的重要因素,因此后續(xù)將優(yōu)化拓撲控制分組發(fā)送方式,并在時隙算法中考慮無人機在實際場景中節(jié)點能量受限這一因素,進一步提升網(wǎng)絡性能。

    猜你喜歡
    時隙原型路由
    包裹的一切
    復用段單節(jié)點失效造成業(yè)務時隙錯連處理
    探究路由與環(huán)路的問題
    《哈姆雷特》的《圣經(jīng)》敘事原型考證
    一種高速通信系統(tǒng)動態(tài)時隙分配設計
    時隙寬度約束下網(wǎng)絡零售配送時隙定價研究
    論《西藏隱秘歲月》的原型復現(xiàn)
    劍南文學(2016年14期)2016-08-22 03:37:42
    原型理論分析“門”
    人間(2015年20期)2016-01-04 12:47:08
    基于TDMA的無沖突動態(tài)時隙分配算法
    PRIME和G3-PLC路由機制對比
    国产精品永久免费网站| 夜夜夜夜夜久久久久| 在线免费观看的www视频| 观看美女的网站| a在线观看视频网站| 一级作爱视频免费观看| 夜夜夜夜夜久久久久| 最新美女视频免费是黄的| 啦啦啦韩国在线观看视频| 人人妻人人看人人澡| 午夜免费男女啪啪视频观看 | 久久久久久久亚洲中文字幕 | 国产精品影院久久| 少妇高潮的动态图| 日本黄色片子视频| 亚洲av电影不卡..在线观看| 欧美日韩亚洲国产一区二区在线观看| 特大巨黑吊av在线直播| 国产视频内射| 久久久久性生活片| 免费看光身美女| 91久久精品电影网| 欧美在线黄色| 深夜精品福利| 国产蜜桃级精品一区二区三区| 中文字幕av成人在线电影| 久久精品夜夜夜夜夜久久蜜豆| 天堂√8在线中文| 日本免费a在线| 亚洲精品影视一区二区三区av| 久久久久九九精品影院| 久久天躁狠狠躁夜夜2o2o| 99在线视频只有这里精品首页| 亚洲一区高清亚洲精品| 两人在一起打扑克的视频| 国产在视频线在精品| 欧美极品一区二区三区四区| av专区在线播放| 国产高清videossex| 人妻丰满熟妇av一区二区三区| 欧美高清成人免费视频www| 国产乱人伦免费视频| 国产高潮美女av| 搡老岳熟女国产| 97超视频在线观看视频| 丰满乱子伦码专区| 午夜老司机福利剧场| 日本撒尿小便嘘嘘汇集6| 亚洲在线自拍视频| 国产老妇女一区| 丰满的人妻完整版| 久久午夜亚洲精品久久| 欧美一级a爱片免费观看看| 日本黄色视频三级网站网址| 亚洲国产欧美人成| 午夜激情福利司机影院| 搞女人的毛片| 啦啦啦免费观看视频1| 搡老妇女老女人老熟妇| 成人18禁在线播放| 又紧又爽又黄一区二区| 国产欧美日韩精品亚洲av| 日韩亚洲欧美综合| 99久久99久久久精品蜜桃| 日韩精品青青久久久久久| 午夜福利免费观看在线| 91麻豆av在线| 欧美区成人在线视频| 香蕉av资源在线| 性色avwww在线观看| 两个人看的免费小视频| 亚洲精品亚洲一区二区| 舔av片在线| 国产69精品久久久久777片| 国产免费男女视频| www.色视频.com| 欧美黑人巨大hd| 国产高清videossex| 国产精品久久久久久久电影 | 99在线视频只有这里精品首页| 窝窝影院91人妻| 日韩人妻高清精品专区| 狠狠狠狠99中文字幕| 成年女人毛片免费观看观看9| 伊人久久精品亚洲午夜| 婷婷六月久久综合丁香| 最近在线观看免费完整版| 99精品在免费线老司机午夜| 亚洲精品一区av在线观看| 日韩欧美免费精品| 久久久久精品国产欧美久久久| 精品不卡国产一区二区三区| 岛国视频午夜一区免费看| 亚洲最大成人手机在线| av专区在线播放| 亚洲精品在线观看二区| 中亚洲国语对白在线视频| 欧美日韩亚洲国产一区二区在线观看| 久久精品国产综合久久久| 男人舔奶头视频| 午夜福利免费观看在线| 欧美另类亚洲清纯唯美| 欧美+日韩+精品| 我的老师免费观看完整版| 香蕉av资源在线| 中文字幕熟女人妻在线| 欧美另类亚洲清纯唯美| av在线蜜桃| 琪琪午夜伦伦电影理论片6080| 在线免费观看不下载黄p国产 | 亚洲在线自拍视频| 最好的美女福利视频网| 最近最新免费中文字幕在线| 国产精品一区二区免费欧美| 国产精品久久久久久亚洲av鲁大| 91久久精品国产一区二区成人 | 国产真实伦视频高清在线观看 | 欧美bdsm另类| av中文乱码字幕在线| 免费看光身美女| 12—13女人毛片做爰片一| 免费av毛片视频| 久久久精品欧美日韩精品| 18美女黄网站色大片免费观看| 国产97色在线日韩免费| 中文字幕久久专区| 少妇高潮的动态图| 亚洲美女黄片视频| www.999成人在线观看| 两个人视频免费观看高清| 久99久视频精品免费| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 男人的好看免费观看在线视频| 一卡2卡三卡四卡精品乱码亚洲| 国产亚洲精品av在线| 99久久久亚洲精品蜜臀av| 欧美黄色片欧美黄色片| 亚洲av免费高清在线观看| 国产综合懂色| 午夜免费男女啪啪视频观看 | 亚洲精华国产精华精| 国产精品嫩草影院av在线观看 | 国产精品亚洲一级av第二区| 日韩 欧美 亚洲 中文字幕| 中文字幕熟女人妻在线| x7x7x7水蜜桃| 真人做人爱边吃奶动态| 伊人久久大香线蕉亚洲五| 亚洲,欧美精品.| 国产高清有码在线观看视频| e午夜精品久久久久久久| 午夜视频国产福利| 91字幕亚洲| 久久久久久大精品| 少妇人妻精品综合一区二区 | 欧美一区二区亚洲| 51国产日韩欧美| 精品国内亚洲2022精品成人| 一区二区三区高清视频在线| 国产精品三级大全| xxxwww97欧美| 欧美绝顶高潮抽搐喷水| 91九色精品人成在线观看| 婷婷精品国产亚洲av| 成人国产一区最新在线观看| 中文字幕人妻丝袜一区二区| 90打野战视频偷拍视频| 99riav亚洲国产免费| 国产欧美日韩一区二区精品| 精品日产1卡2卡| 九色国产91popny在线| 中文资源天堂在线| 欧美三级亚洲精品| 日韩欧美精品v在线| 搡女人真爽免费视频火全软件 | 一个人观看的视频www高清免费观看| 国产精品嫩草影院av在线观看 | 好男人电影高清在线观看| 亚洲国产欧洲综合997久久,| 国模一区二区三区四区视频| 日本撒尿小便嘘嘘汇集6| 看免费av毛片| 免费看光身美女| 91久久精品电影网| 欧美一区二区精品小视频在线| 男女下面进入的视频免费午夜| 国产一区二区激情短视频| 亚洲av电影在线进入| 国产一区二区亚洲精品在线观看| 狠狠狠狠99中文字幕| 中文字幕精品亚洲无线码一区| 久久久久精品国产欧美久久久| 看黄色毛片网站| 亚洲国产精品合色在线| 每晚都被弄得嗷嗷叫到高潮| av欧美777| 中文字幕人妻丝袜一区二区| 日本免费a在线| 欧美黄色淫秽网站| 久久久久免费精品人妻一区二区| 久久精品国产综合久久久| 日韩免费av在线播放| 岛国视频午夜一区免费看| 国产伦人伦偷精品视频| av女优亚洲男人天堂| 中出人妻视频一区二区| 一个人看视频在线观看www免费 | 国产黄色小视频在线观看| av视频在线观看入口| 男人和女人高潮做爰伦理| 亚洲欧美激情综合另类| 韩国av一区二区三区四区| 好男人电影高清在线观看| 18禁国产床啪视频网站| 最近最新免费中文字幕在线| 久久久久精品国产欧美久久久| 岛国在线观看网站| 3wmmmm亚洲av在线观看| 男女视频在线观看网站免费| 热99re8久久精品国产| av专区在线播放| 好男人电影高清在线观看| 久久精品影院6| 国产成人影院久久av| 蜜桃久久精品国产亚洲av| 亚洲欧美日韩东京热| 国产爱豆传媒在线观看| 亚洲av美国av| 久久6这里有精品| 美女 人体艺术 gogo| 亚洲第一电影网av| 国产免费男女视频| 日本黄色视频三级网站网址| 亚洲欧美日韩无卡精品| 国产精品免费一区二区三区在线| 欧美成人一区二区免费高清观看| 欧美国产日韩亚洲一区| 国产亚洲精品av在线| 精品人妻1区二区| 黄色视频,在线免费观看| 国产成人aa在线观看| 国产成人av激情在线播放| 国产伦一二天堂av在线观看| 手机成人av网站| 久久婷婷人人爽人人干人人爱| 欧美一区二区亚洲| 日韩国内少妇激情av| 看免费av毛片| 两性午夜刺激爽爽歪歪视频在线观看| 日韩免费av在线播放| 制服丝袜大香蕉在线| 黄片大片在线免费观看| 国内精品久久久久精免费| 欧美又色又爽又黄视频| 一个人免费在线观看的高清视频| bbb黄色大片| 久久久久久久久中文| 亚洲精品一区av在线观看| 午夜福利欧美成人| 欧美高清成人免费视频www| 3wmmmm亚洲av在线观看| 中亚洲国语对白在线视频| 国产伦精品一区二区三区四那| 99国产极品粉嫩在线观看| 精品久久久久久久末码| 免费一级毛片在线播放高清视频| 美女大奶头视频| 国产精华一区二区三区| 国产亚洲精品av在线| 大型黄色视频在线免费观看| 一个人免费在线观看的高清视频| 亚洲国产精品久久男人天堂| 日本免费一区二区三区高清不卡| 免费大片18禁| 国产中年淑女户外野战色| 国产精品98久久久久久宅男小说| 女同久久另类99精品国产91| 淫秽高清视频在线观看| 欧美中文日本在线观看视频| 午夜两性在线视频| 叶爱在线成人免费视频播放| 中文在线观看免费www的网站| 国产免费一级a男人的天堂| 亚洲av电影在线进入| 黄色丝袜av网址大全| 欧美+亚洲+日韩+国产| 国产高清有码在线观看视频| 国产探花在线观看一区二区| 国产成人系列免费观看| 嫁个100分男人电影在线观看| 欧美乱码精品一区二区三区| 宅男免费午夜| 国内精品久久久久久久电影| 国产老妇女一区| 午夜福利免费观看在线| 国产成人啪精品午夜网站| 老熟妇仑乱视频hdxx| 亚洲av第一区精品v没综合| 亚洲在线自拍视频| 男人舔女人下体高潮全视频| 国产淫片久久久久久久久 | 人妻久久中文字幕网| 国产精品久久久久久久电影 | 国产激情偷乱视频一区二区| 啦啦啦免费观看视频1| 欧美成人一区二区免费高清观看| 国产亚洲精品av在线| 色综合亚洲欧美另类图片| 在线免费观看不下载黄p国产 | 日本一本二区三区精品| 亚洲精品成人久久久久久| 国产淫片久久久久久久久 | 色综合欧美亚洲国产小说| 婷婷精品国产亚洲av| 亚洲熟妇熟女久久| xxxwww97欧美| 99国产精品一区二区三区| 久久亚洲精品不卡| 给我免费播放毛片高清在线观看| 一级毛片高清免费大全| 啦啦啦免费观看视频1| 成年人黄色毛片网站| 一本综合久久免费| 18禁国产床啪视频网站| 美女 人体艺术 gogo| 亚洲色图av天堂| 国产国拍精品亚洲av在线观看 | 757午夜福利合集在线观看| 亚洲av免费在线观看| 国产日本99.免费观看| 免费无遮挡裸体视频| АⅤ资源中文在线天堂| 欧美一级毛片孕妇| 1000部很黄的大片| 99久久无色码亚洲精品果冻| 小蜜桃在线观看免费完整版高清| 黄片小视频在线播放| 色视频www国产| 国产亚洲精品久久久久久毛片| 97超视频在线观看视频| www国产在线视频色| 国产三级中文精品| 国产伦精品一区二区三区视频9 | 精品久久久久久久久久免费视频| 亚洲精品日韩av片在线观看 | 51国产日韩欧美| 国产欧美日韩精品一区二区| 久久久久亚洲av毛片大全| 午夜福利在线观看吧| 9191精品国产免费久久| 美女高潮喷水抽搐中文字幕| 桃色一区二区三区在线观看| 日本黄色视频三级网站网址| а√天堂www在线а√下载| 日日摸夜夜添夜夜添小说| www日本黄色视频网| 99在线视频只有这里精品首页| 国产精品乱码一区二三区的特点| 免费高清视频大片| 亚洲男人的天堂狠狠| 国产爱豆传媒在线观看| 岛国在线免费视频观看| 国产色爽女视频免费观看| 午夜福利18| 日韩亚洲欧美综合| 乱人视频在线观看| 亚洲人成网站高清观看| 好男人电影高清在线观看| 色播亚洲综合网| 午夜精品一区二区三区免费看| 美女大奶头视频| 久久久久九九精品影院| 欧美日韩国产亚洲二区| 日本精品一区二区三区蜜桃| 亚洲国产精品久久男人天堂| 欧美+亚洲+日韩+国产| 极品教师在线免费播放| 国产精品永久免费网站| 国产99白浆流出| 舔av片在线| 久久人妻av系列| 亚洲国产精品sss在线观看| 少妇的逼好多水| 中出人妻视频一区二区| 亚洲精品在线美女| 18禁美女被吸乳视频| 亚洲欧美日韩高清在线视频| 久久精品夜夜夜夜夜久久蜜豆| 一进一出抽搐动态| 一级黄色大片毛片| 久久久精品欧美日韩精品| 中文在线观看免费www的网站| 久久国产乱子伦精品免费另类| 欧美色视频一区免费| 一个人看的www免费观看视频| 午夜福利免费观看在线| 久久国产精品人妻蜜桃| 久久人人精品亚洲av| 日韩高清综合在线| www日本在线高清视频| 亚洲av熟女| 亚洲av五月六月丁香网| 欧美黑人巨大hd| 小说图片视频综合网站| 好男人在线观看高清免费视频| 91久久精品电影网| 国产视频内射| 少妇人妻一区二区三区视频| 非洲黑人性xxxx精品又粗又长| 全区人妻精品视频| 国产精品,欧美在线| 亚洲内射少妇av| 真实男女啪啪啪动态图| 亚洲成人精品中文字幕电影| 精品一区二区三区视频在线 | 九色成人免费人妻av| 国产精品一区二区免费欧美| 国产精品久久久人人做人人爽| 久久草成人影院| 午夜福利18| 欧美色欧美亚洲另类二区| 在线天堂最新版资源| 18禁裸乳无遮挡免费网站照片| 亚洲精品一卡2卡三卡4卡5卡| 俄罗斯特黄特色一大片| 中文字幕久久专区| 国产男靠女视频免费网站| 男插女下体视频免费在线播放| 日本熟妇午夜| 亚洲精品美女久久久久99蜜臀| 亚洲欧美精品综合久久99| 国产老妇女一区| 免费看美女性在线毛片视频| 国产伦人伦偷精品视频| 小蜜桃在线观看免费完整版高清| 亚洲18禁久久av| 级片在线观看| 男女做爰动态图高潮gif福利片| 久久草成人影院| 亚洲精品一区av在线观看| 日韩有码中文字幕| 午夜福利在线观看免费完整高清在 | 欧美3d第一页| 国产三级中文精品| 熟女人妻精品中文字幕| 午夜两性在线视频| 偷拍熟女少妇极品色| 欧洲精品卡2卡3卡4卡5卡区| 亚洲精品一区av在线观看| 国产精华一区二区三区| 天天一区二区日本电影三级| 国产亚洲欧美在线一区二区| 精品久久久久久久久久久久久| 婷婷精品国产亚洲av在线| 亚洲精品粉嫩美女一区| 欧美一区二区国产精品久久精品| 日韩亚洲欧美综合| 变态另类成人亚洲欧美熟女| а√天堂www在线а√下载| 亚洲av免费高清在线观看| 日本成人三级电影网站| 少妇裸体淫交视频免费看高清| 午夜视频国产福利| 亚洲熟妇熟女久久| 国产 一区 欧美 日韩| 欧美午夜高清在线| 高清在线国产一区| 色吧在线观看| 99久久精品一区二区三区| 国产一区二区三区视频了| 国产精品久久视频播放| 黄色成人免费大全| 中亚洲国语对白在线视频| 国产乱人伦免费视频| 亚洲黑人精品在线| 婷婷亚洲欧美| 国产伦人伦偷精品视频| 国产伦在线观看视频一区| 午夜福利免费观看在线| 真人做人爱边吃奶动态| 亚洲熟妇熟女久久| 窝窝影院91人妻| 国产精品三级大全| 99国产精品一区二区三区| 18禁裸乳无遮挡免费网站照片| 中文字幕av成人在线电影| 特大巨黑吊av在线直播| 波多野结衣高清作品| 国产亚洲精品av在线| 国产精品 国内视频| 国内精品美女久久久久久| 亚洲欧美激情综合另类| 欧美bdsm另类| 免费观看精品视频网站| 亚洲欧美一区二区三区黑人| 午夜福利在线观看免费完整高清在 | 成人永久免费在线观看视频| 亚洲精品粉嫩美女一区| 黑人欧美特级aaaaaa片| 国产成人福利小说| 国产欧美日韩精品一区二区| 日本精品一区二区三区蜜桃| 怎么达到女性高潮| 黄片小视频在线播放| 亚洲av不卡在线观看| 国产三级在线视频| 少妇人妻精品综合一区二区 | 亚洲国产色片| 悠悠久久av| 精品一区二区三区视频在线 | 欧美xxxx黑人xx丫x性爽| 国产精品99久久99久久久不卡| 色播亚洲综合网| 老司机在亚洲福利影院| 啪啪无遮挡十八禁网站| 老司机在亚洲福利影院| 夜夜爽天天搞| 国产精品国产高清国产av| 亚洲七黄色美女视频| 国内精品一区二区在线观看| 久久午夜亚洲精品久久| 丁香欧美五月| 啦啦啦观看免费观看视频高清| 国内毛片毛片毛片毛片毛片| 亚洲电影在线观看av| 国产69精品久久久久777片| 午夜免费观看网址| 好看av亚洲va欧美ⅴa在| 国产精品久久视频播放| 亚洲精品在线观看二区| 精品人妻一区二区三区麻豆 | x7x7x7水蜜桃| 午夜福利高清视频| 国产欧美日韩一区二区精品| av中文乱码字幕在线| 97超级碰碰碰精品色视频在线观看| 午夜免费成人在线视频| 色视频www国产| 人人妻人人澡欧美一区二区| 老司机福利观看| 宅男免费午夜| 看黄色毛片网站| 欧美性感艳星| 白带黄色成豆腐渣| 男人的好看免费观看在线视频| 在线观看av片永久免费下载| 国产精品亚洲av一区麻豆| 国产高清激情床上av| 91麻豆av在线| 日韩欧美三级三区| 国产伦精品一区二区三区四那| 欧美性猛交╳xxx乱大交人| 亚洲国产精品合色在线| 久久久久九九精品影院| 久久久久久九九精品二区国产| 首页视频小说图片口味搜索| 国产蜜桃级精品一区二区三区| 中文字幕久久专区| 欧美性感艳星| 激情在线观看视频在线高清| 给我免费播放毛片高清在线观看| 中文字幕av成人在线电影| www国产在线视频色| 久久久久久久久大av| 国产 一区 欧美 日韩| 亚洲熟妇熟女久久| 在线国产一区二区在线| 免费人成视频x8x8入口观看| 日韩中文字幕欧美一区二区| 久久久色成人| 波多野结衣高清无吗| 国产精品久久久久久久久免 | 日本黄大片高清| 在线观看日韩欧美| 午夜免费成人在线视频| 色综合欧美亚洲国产小说| 午夜a级毛片| av黄色大香蕉| 日本精品一区二区三区蜜桃| 国产av麻豆久久久久久久| 最近视频中文字幕2019在线8| 在线观看舔阴道视频| 岛国在线免费视频观看| 国产老妇女一区| 麻豆国产av国片精品| 精品人妻偷拍中文字幕| e午夜精品久久久久久久| 国产一区二区在线观看日韩 | 熟女电影av网| 久久久色成人| 婷婷精品国产亚洲av在线| 老司机福利观看| 国产91精品成人一区二区三区| 免费一级毛片在线播放高清视频| 露出奶头的视频| 岛国在线观看网站| 午夜福利在线观看吧| 亚洲成人久久性| 国产亚洲欧美98| 男女下面进入的视频免费午夜| 观看免费一级毛片| 亚洲内射少妇av| 又黄又爽又免费观看的视频| x7x7x7水蜜桃| 亚洲精品美女久久久久99蜜臀| 国产精品98久久久久久宅男小说| 欧美黄色淫秽网站| 成年女人永久免费观看视频| 久久香蕉精品热| 欧美日韩亚洲国产一区二区在线观看| 国产一区二区三区在线臀色熟女| 国产极品精品免费视频能看的| 亚洲不卡免费看| 午夜亚洲福利在线播放| 成人国产一区最新在线观看|