• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    不確定環(huán)境下的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制①

    2022-11-06 06:06:18禹鑫燚杜丹楓歐林林
    高技術(shù)通訊 2022年8期
    關(guān)鍵詞:隊(duì)形編隊(duì)障礙物

    禹鑫燚 杜丹楓 歐林林

    (浙江工業(yè)大學(xué)信息工程學(xué)院 杭州310023)

    0 引言

    多智能體系統(tǒng)在軍事、衛(wèi)星群協(xié)同控制、無(wú)人機(jī)編隊(duì)控制等方面都有廣闊的應(yīng)用前景[1-3],因此得到了各界學(xué)者的廣泛關(guān)注[4]。其優(yōu)點(diǎn)在于利用多個(gè)智能體協(xié)作完成單個(gè)智能體無(wú)法完成的復(fù)雜任務(wù)。多智能體的編隊(duì)一直是多智能體系統(tǒng)的研究熱點(diǎn)[5-6],它要求智能體以特定的幾何形狀形成集群或者以期望的隊(duì)形完成特定的任務(wù)。如何使多智能體系統(tǒng)在避開(kāi)障礙物的同時(shí)保持隊(duì)形,是多智能體編隊(duì)控制的關(guān)鍵問(wèn)題。

    已有的編隊(duì)控制方法有領(lǐng)航跟隨法[7]、虛擬結(jié)構(gòu)法[8]、基于行為法[9]和基于圖論法[10]等。文獻(xiàn)[11]研究了一種基于視覺(jué)的領(lǐng)航跟隨跟蹤策略。文獻(xiàn)[12]設(shè)計(jì)了一種基于虛擬結(jié)構(gòu)的避障方法,為每個(gè)機(jī)器人生成基本軌跡。文獻(xiàn)[13]基于圖論提出了一種新穎的自適應(yīng)編隊(duì)控制方法,用于解決非線性多智能體系統(tǒng)的編隊(duì)控制問(wèn)題。雖然多智能體編隊(duì)控制已經(jīng)取得了一系列的研究成果,但是在面對(duì)復(fù)雜環(huán)境或者動(dòng)態(tài)環(huán)境時(shí)適應(yīng)能力不足。在不確定環(huán)境中,多智能體編隊(duì)的避障不夠靈活,智能體之間的碰撞避免以及智能體與障礙物的碰撞避免,給多智能體編隊(duì)避障控制帶來(lái)了挑戰(zhàn)。

    深度強(qiáng)化學(xué)習(xí)[14-16]可以不依賴環(huán)境模型,適用于未知環(huán)境中的決策控制問(wèn)題。同時(shí)由于深度強(qiáng)化學(xué)習(xí)擁有強(qiáng)大的感知和學(xué)習(xí)能力[17-18],在多智能體領(lǐng)域已經(jīng)取得了較為成功的應(yīng)用[19-22]?;趶?qiáng)化學(xué)習(xí)的多智能體編隊(duì)控制具有傳統(tǒng)編隊(duì)方法所不具備的優(yōu)點(diǎn),可以在不斷的試錯(cuò)中進(jìn)行學(xué)習(xí)來(lái)解決編隊(duì)避障控制問(wèn)題。目前已有諸多學(xué)者將深度強(qiáng)化學(xué)習(xí)與傳統(tǒng)編隊(duì)控制相結(jié)合,并且取得了較好的成果。針對(duì)動(dòng)力學(xué)未知的非線性多智能體編隊(duì)控制,文獻(xiàn)[23]提出了結(jié)合模糊邏輯系統(tǒng)和強(qiáng)化學(xué)習(xí)的優(yōu)化控制方案來(lái)實(shí)現(xiàn)編隊(duì)控制。文獻(xiàn)[24]提出了一種基于深度學(xué)習(xí)的無(wú)人機(jī)編隊(duì)協(xié)調(diào)控制算法,使得無(wú)人機(jī)能夠在大規(guī)模復(fù)雜環(huán)境中形成特定隊(duì)形并執(zhí)行導(dǎo)航任務(wù)??紤]到編隊(duì)過(guò)程中的碰撞避免問(wèn)題,文獻(xiàn)[25,26]使用深度強(qiáng)化學(xué)習(xí)方法優(yōu)化領(lǐng)航跟隨算法,實(shí)現(xiàn)了多智能體的編隊(duì)避障控制。文獻(xiàn)[27]將基于行為的控制方法和深度強(qiáng)化學(xué)習(xí)相結(jié)合,使編隊(duì)可以在保持隊(duì)形的同時(shí)避開(kāi)障礙物。為了進(jìn)一步提高編隊(duì)避障的成功率,文獻(xiàn)[28]和[29]利用深度強(qiáng)化學(xué)習(xí)強(qiáng)大的學(xué)習(xí)能力,訓(xùn)練了一種多智能體編隊(duì)避障策略,有效降低了智能體之間的碰撞概率。文獻(xiàn)[30]將深度學(xué)習(xí)方法與傳統(tǒng)碰撞回避算法相結(jié)合,在編隊(duì)的過(guò)程中,采用長(zhǎng)短期記憶來(lái)感知任意數(shù)量的障礙物信息,并設(shè)計(jì)了復(fù)合獎(jiǎng)勵(lì)函數(shù)來(lái)提高編隊(duì)避障的成功率。上述文獻(xiàn)基于深度強(qiáng)化學(xué)習(xí)實(shí)現(xiàn)了多智能體的編隊(duì)避障控制,并且在不同方面做出了優(yōu)化,但是對(duì)于多個(gè)智能體的學(xué)習(xí)過(guò)程長(zhǎng)、學(xué)習(xí)速率慢的問(wèn)題,目前研究還不夠深入。

    為進(jìn)一步縮短編隊(duì)過(guò)程中智能體的學(xué)習(xí)時(shí)間,并且加快智能體學(xué)習(xí)效率,本文提出了一種不確定環(huán)境下的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制方法。首先,在智能體學(xué)習(xí)的初始階段,建立了價(jià)值評(píng)估網(wǎng)絡(luò),增加智能體選擇觸碰障礙物或者到達(dá)期望位置這些特殊動(dòng)作的經(jīng)驗(yàn)。其次,在智能體選擇動(dòng)作時(shí),基于貪心策略,改進(jìn)動(dòng)作選擇策略,提高了算法的學(xué)習(xí)效率。然后設(shè)計(jì)了樣本存儲(chǔ)空間,增加樣本的利用率。最終,結(jié)合多步學(xué)習(xí)算法,使價(jià)值估計(jì)更準(zhǔn)確。通過(guò)本文提出的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制方法,智能體可以在不確定環(huán)境中通過(guò)學(xué)習(xí)完成編隊(duì)避障任務(wù)。為驗(yàn)證本文方法在不確定環(huán)境下的有效性,本文設(shè)置了不同的障礙物環(huán)境進(jìn)行仿真實(shí)驗(yàn)。仿真結(jié)果表明本文所提算法能夠使多個(gè)智能體在不確定環(huán)境下較好地實(shí)現(xiàn)編隊(duì)避障任務(wù)。

    1 問(wèn)題描述

    本文所要解決的主要問(wèn)題是確定每個(gè)智能體的最優(yōu)控制策略,使得智能體到達(dá)各自的期望位置形成隊(duì)形,并且能在維持隊(duì)形不變的情況下有效避開(kāi)障礙物。假設(shè)存在N(N≥2) 個(gè)智能體隨機(jī)分布在二維空間內(nèi),每個(gè)智能體對(duì)應(yīng)著不同的期望位置。在多智能體編隊(duì)過(guò)程中,位置坐標(biāo)表示智能體i的狀態(tài),并且朝著期望位置Gi(i=1,2,…,N) 運(yùn)動(dòng),同時(shí)智能體互相之間不發(fā)生碰撞并且能有效避開(kāi)障礙物。智能體i在運(yùn)動(dòng)過(guò)程中有5 種可能的動(dòng)作可供選擇,即動(dòng)作集合Ai(s) 為{前,后,左,右,保持原地}。

    將上述多智能體編隊(duì)避障控制問(wèn)題表述為強(qiáng)化學(xué)習(xí)問(wèn)題。在不確定環(huán)境下的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制問(wèn)題中,對(duì)于每個(gè)智能體,st和at分別表示t時(shí)刻的狀態(tài)和動(dòng)作。智能體i的位置坐標(biāo)為pt,i=速度為,期望位置的坐標(biāo)為可觀測(cè)的智能體狀態(tài)為st,i其中g(shù)t,i表示智能體是否到達(dá)期望位置。獎(jiǎng)勵(lì)值函數(shù)的設(shè)計(jì)為R=[rO,rG,rF],其中rO表示智能體觸碰障礙物的獎(jiǎng)勵(lì)值,rG表示智能體到達(dá)目標(biāo)位置的獎(jiǎng)勵(lì)值,rF表示多個(gè)智能體保持隊(duì)形的獎(jiǎng)勵(lì)值。如果目標(biāo)編隊(duì)完成,即智能體到達(dá)相應(yīng)的目標(biāo)位置時(shí),會(huì)獲得正向的獎(jiǎng)勵(lì)值,而智能體觸碰障礙物或者智能體隊(duì)形被破壞則會(huì)得到負(fù)向的懲罰。根據(jù)上述定義,本文使用一個(gè)五元組<I,S,Ai(s),P,{ri}>來(lái)表示多智能體編隊(duì)避障控制過(guò)程,其中,I為有限個(gè)智能體的集合;S為每個(gè)智能體可觀測(cè)狀態(tài)的集合;Ai(s) 為第i個(gè)智能體在狀態(tài)s∈S下可以選擇的動(dòng)作集合;P為狀態(tài)轉(zhuǎn)移函數(shù),是指給定智能體在當(dāng)前狀態(tài)和聯(lián)合行為時(shí),下一狀態(tài)的概率分布;{ri} 表示多個(gè)智能體在采取不同動(dòng)作之后的獎(jiǎng)勵(lì)值的集合。多個(gè)智能體在s狀態(tài)下的聯(lián)合動(dòng)作可以表示為A(s)=A1(s)×A2(s)×A3(s)…×AN(s)。在學(xué)習(xí)過(guò)程中,每個(gè)智能體與環(huán)境不斷進(jìn)行交互,獲取智能體自身的狀態(tài)信息。多個(gè)智能體的狀態(tài)信息組合成聯(lián)合狀態(tài)輸入到神經(jīng)網(wǎng)絡(luò),智能體根據(jù)動(dòng)作選擇策略選取自身的動(dòng)作,獲得下一時(shí)刻的狀態(tài)和獎(jiǎng)勵(lì)值函數(shù)值。智能體與環(huán)境交互產(chǎn)生的數(shù)據(jù)元組{st,i,at,i,rt+1,i,st+1,i}被存儲(chǔ)到經(jīng)驗(yàn)池中。在每一回合,從經(jīng)驗(yàn)池中進(jìn)行采樣學(xué)習(xí),最終智能體通過(guò)學(xué)習(xí)確定最優(yōu)控制策略π,為隊(duì)形保持和碰撞避免選擇最優(yōu)動(dòng)作。當(dāng)智能體執(zhí)行策略π時(shí),可以最大化智能體的獎(jiǎng)勵(lì)總和Ri,其中γ是折扣因子,t表示時(shí)間,T是終止時(shí)間。

    2 不確定環(huán)境下的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制方法

    將多智能體編隊(duì)避障控制問(wèn)題抽象為強(qiáng)化學(xué)習(xí)過(guò)程,目的是通過(guò)學(xué)習(xí)得到最優(yōu)策略,使智能體在保持隊(duì)形的同時(shí)避免碰撞并到達(dá)期望位置。本文建立了價(jià)值評(píng)估網(wǎng)絡(luò),改進(jìn)了智能體動(dòng)作選擇策略,設(shè)計(jì)了樣本存儲(chǔ)空間,同時(shí)結(jié)合了多步學(xué)習(xí)算法,提出了不確定環(huán)境下的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制方法。

    2.1 獎(jiǎng)勵(lì)值和動(dòng)作選擇策略的設(shè)計(jì)

    獎(jiǎng)勵(lì)函數(shù)的設(shè)計(jì)對(duì)深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制任務(wù)尤為重要。在本文中,智能體互相之間發(fā)生碰撞或者觸碰障礙物以及無(wú)法保持隊(duì)形會(huì)獲得一個(gè)負(fù)的獎(jiǎng)勵(lì)值,智能體到達(dá)各自的期望位置則會(huì)獲得一個(gè)正的獎(jiǎng)勵(lì)值,其他時(shí)刻獎(jiǎng)勵(lì)值為0。

    其中rcrash是智能體之間發(fā)生碰撞或者觸碰到障礙物的獎(jiǎng)勵(lì)值;rreach是智能體到達(dá)期望位置的獎(jiǎng)勵(lì)值;rformation表示多智能體無(wú)法維持隊(duì)形時(shí)的獎(jiǎng)勵(lì)值。

    合理而有效的動(dòng)作選擇策略設(shè)計(jì)可以減少學(xué)習(xí)的時(shí)間。將貪心策略用于動(dòng)作選擇,來(lái)平衡學(xué)習(xí)過(guò)程中的探索與利用,求解出接近真實(shí)的價(jià)值模型。貪心策略定義如下:

    其中μ∈[0,1] 是每個(gè)回合產(chǎn)生的隨機(jī)值,ε是探索速率,是動(dòng)作空間A中的一個(gè)隨機(jī)動(dòng)作。貪心策略可以使每個(gè)智能體有1-ε的概率隨機(jī)選擇動(dòng)作。在訓(xùn)練前期,智能體需要多次探索,以獲取不同的動(dòng)作價(jià)值,避免陷入局部最優(yōu);而經(jīng)過(guò)一段時(shí)間訓(xùn)練之后,智能體逐漸學(xué)習(xí)到最優(yōu)策略,就可直接選擇正確的動(dòng)作,盡可能獲取更多的獎(jiǎng)勵(lì)值。ε的取值隨著迭代次數(shù)的增加而增加,最終值為1。

    當(dāng)智能體選擇動(dòng)作時(shí),在保留一定概率隨機(jī)選擇動(dòng)作的基礎(chǔ)上,對(duì)貪心策略作了改進(jìn)。為了加快智能體在前期的探索效率,本文建立了一個(gè)價(jià)值評(píng)估網(wǎng)絡(luò)使智能體更快地理解環(huán)境。智能體在選擇碰撞或者到達(dá)期望位置等特殊動(dòng)作時(shí),會(huì)產(chǎn)生特殊經(jīng)驗(yàn),價(jià)值評(píng)估網(wǎng)絡(luò)被用來(lái)評(píng)價(jià)選擇的特殊動(dòng)作的價(jià)值。該網(wǎng)絡(luò)E的損失函數(shù)定義為

    價(jià)值評(píng)估網(wǎng)絡(luò)E的訓(xùn)練需在網(wǎng)絡(luò)Q之前完成,然后幫助選擇動(dòng)作。結(jié)合貪心策略,將動(dòng)作選擇策略設(shè)計(jì)為

    式(5)中,e(st,at;) 可以增加智能體特殊經(jīng)驗(yàn)的比例,即在訓(xùn)練前期,鼓勵(lì)智能體選擇下一步的碰撞或者到達(dá)期望位置的動(dòng)作。當(dāng)Q(st,at;θt) 開(kāi)始正確識(shí)別障礙物時(shí),e(st,at;) 可以抑制碰撞,鼓勵(lì)智能體探索更多的位置。

    2.2 樣本存儲(chǔ)空間設(shè)計(jì)

    通過(guò)2.1 節(jié)中的動(dòng)作選擇策略,智能體與環(huán)境進(jìn)行交互產(chǎn)生學(xué)習(xí)樣本,存入樣本存儲(chǔ)空間中。樣本存儲(chǔ)空間具備采樣功能,通過(guò)計(jì)算每個(gè)樣本的時(shí)間差分誤差(temporal difference error,TD-Error),即樣本的估計(jì)值和實(shí)際值之間的差距,將其作為當(dāng)前樣本的采樣權(quán)重。越大的TD-Error 表示樣本的估計(jì)值和實(shí)際值之間的差距越大,樣本越有價(jià)值。智能體編隊(duì)避障控制過(guò)程中的TD-Error 的定義為

    其中,rt+1是t +1 時(shí)刻的獎(jiǎng)勵(lì)值,γ是折扣因子,s和a是智能體的狀態(tài)和動(dòng)作,θt是神經(jīng)網(wǎng)絡(luò)參數(shù)。使用隨機(jī)采樣算法,在以TD-Error 為權(quán)重的采樣和均勻采樣之間進(jìn)行插值。根據(jù)式(6),將樣本i的采樣概率P表示為

    其中pi和pk表示樣本i和k的TD-Error,α可以調(diào)整TD-Error 的權(quán)重。為了在提高樣本利用率的同時(shí)確保不會(huì)有太大的偏差,結(jié)合重要性采樣定理對(duì)原來(lái)的概率計(jì)算增加權(quán)重:

    其中N是存儲(chǔ)的樣本數(shù)量。在整個(gè)訓(xùn)練過(guò)程中,β的初始值為0,并且隨著迭代學(xué)習(xí)的進(jìn)行,線性增長(zhǎng)為1。

    樣本存儲(chǔ)空間的功能可以描述為:當(dāng)智能體通過(guò)動(dòng)作選擇策略與環(huán)境交互產(chǎn)生樣本存入樣本存儲(chǔ)空間時(shí),計(jì)算每個(gè)樣本i的采樣概率P(i);在樣本取出時(shí),以概率P(i) 進(jìn)行采樣;在更新時(shí),為每個(gè)樣本添加權(quán)重ωi,隨著訓(xùn)練的進(jìn)行,β從初始值線性增長(zhǎng)為1。

    2.3 算法設(shè)計(jì)

    本文采用如下的動(dòng)作-值函數(shù)來(lái)估計(jì)所學(xué)到的策略:

    其中E表示期望。式(9)可以遞歸計(jì)算為

    其中r(s,a) 表示在狀態(tài)s執(zhí)行動(dòng)作a的獎(jiǎng)勵(lì)值,s′和a′分別是下一時(shí)刻的狀態(tài)和動(dòng)作,γ是折扣因子,a′~π表示智能體通過(guò)動(dòng)作選擇策略π采取下一步動(dòng)作a′。深度Q 學(xué)習(xí)算法基于時(shí)序差分法的思想,通過(guò)貝爾曼方程進(jìn)行自迭代更新,更新公式為

    深度Q 學(xué)習(xí)算法大多通過(guò)下一時(shí)刻的回報(bào)和價(jià)值估計(jì)得到目標(biāo)價(jià)值,這種方法在前期具有學(xué)習(xí)速度較慢的缺點(diǎn)。為了提高學(xué)習(xí)速度,本文結(jié)合多步學(xué)習(xí)算法,以使訓(xùn)練前期目標(biāo)價(jià)值可以估計(jì)得更準(zhǔn)確,從而加速訓(xùn)練。多步學(xué)習(xí)算法的公式為

    其中,γ是折扣因子,r是獎(jiǎng)勵(lì)值,θt是神經(jīng)網(wǎng)絡(luò)的參數(shù)。結(jié)合式(11)和式(12),值函數(shù)的更新公式為

    其中α是學(xué)習(xí)速率,St是狀態(tài)空間,At是動(dòng)作空間,θt是神經(jīng)網(wǎng)絡(luò)參數(shù)。

    智能體與環(huán)境進(jìn)行交互產(chǎn)生數(shù)據(jù)(s,a,r,s′),使用經(jīng)驗(yàn)回放池來(lái)存儲(chǔ)交互產(chǎn)生的這些數(shù)據(jù),并且通過(guò)最小化損失函數(shù)來(lái)學(xué)習(xí)智能體的最優(yōu)策略。損失函數(shù)的定義為

    其中,Gt是根據(jù)多步學(xué)習(xí)算法得到的實(shí)際值,Q(St,At,θt) 為估計(jì)值,ω是由式(8)得到的權(quán)重。

    根據(jù)獎(jiǎng)勵(lì)值、動(dòng)作選擇策略和樣本存儲(chǔ)空間的設(shè)計(jì),結(jié)合多步學(xué)習(xí)算法,獲得適用于不確定環(huán)境下的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制的算法如下。

    (1)初始化容量為N的Replay Buffer:D;

    (2)初始化狀態(tài)行動(dòng)價(jià)值模型Q和參數(shù)θ;初始化Target Network和參數(shù)θ′,價(jià)值評(píng)估網(wǎng)絡(luò)E和參數(shù)θE;初始化t=0 ;初始化batch_size大小為m;初始化多步學(xué)習(xí)算法步數(shù)n;

    (3)初始化環(huán)境得到初始狀態(tài)s1;

    (4)智能體i隨機(jī)選擇動(dòng)作at,i,從D中采樣進(jìn)行訓(xùn)練并計(jì)算yj,i=rj,i,根據(jù)式(3)計(jì)算神經(jīng)網(wǎng)絡(luò)E的損失函數(shù),訓(xùn)練并更新E的參數(shù)

    (5)智能體i以ε的概率選擇一個(gè)動(dòng)作at,i,或者根據(jù)式(5) 選擇當(dāng)前最優(yōu)動(dòng)作at,i=arg maxa∈Aq(st,i,at,i;θt,i)e(st,i,at,i;);(6)智能體i執(zhí)行動(dòng)作at,i,得到新一輪的狀態(tài)st+1,i和獎(jiǎng)勵(lì)值rt+1,i;

    (7)將樣本數(shù)據(jù){st,i,at,i,rt+1,i,st+1,i} 存儲(chǔ)到D中;

    (8)從D中采樣一批樣本進(jìn)行訓(xùn)練,根據(jù)式(12)計(jì)算yj,i的值,當(dāng)st+1,i為最終狀態(tài)時(shí),yj,i=rj,i,否則

    (9) 根據(jù)式(14)計(jì)算損失函數(shù)L(θ)=

    (10)每隔C輪進(jìn)行參數(shù)更新θ′←θt+1;

    (11)如果完成一次迭代訓(xùn)練,返回步驟(3),否則返回步驟(4)。

    在訓(xùn)練過(guò)程中,智能體與環(huán)境不斷進(jìn)行交互,獲取智能體自身的狀態(tài)信息。多個(gè)智能體的狀態(tài)信息組合成聯(lián)合狀態(tài)輸入到神經(jīng)網(wǎng)絡(luò)中,智能體根據(jù)改進(jìn)的動(dòng)作選擇策略選取自身的動(dòng)作,得到下一時(shí)刻的狀態(tài)和獎(jiǎng)勵(lì)函數(shù)值。交互過(guò)程中產(chǎn)生的智能體狀態(tài)-動(dòng)作值被存儲(chǔ)到經(jīng)驗(yàn)池中,在每一回合,從經(jīng)驗(yàn)池中進(jìn)行采樣學(xué)習(xí)。本文提出的算法可以通過(guò)學(xué)習(xí)得到多智能體編隊(duì)避障控制的最優(yōu)策略,使多個(gè)智能體到達(dá)期望位置形成隊(duì)形,并有效進(jìn)行避障。

    3 仿真實(shí)驗(yàn)

    為了驗(yàn)證在不確定環(huán)境下本文提出算法的有效性,在智能體學(xué)習(xí)過(guò)程中添加額外的障礙物。同時(shí),本文針對(duì)2 種不同的障礙物環(huán)境,分別進(jìn)行4 個(gè)智能體和6 個(gè)智能體的編隊(duì)避障控制。智能體通過(guò)迭代學(xué)習(xí)形成期望隊(duì)形,有效避開(kāi)障礙物并到達(dá)期望位置視為一次成功,文中以訓(xùn)練過(guò)程中的成功率為指標(biāo),將本文提出的方法與Double DQN[31]和MADDPG[32]2 種算法進(jìn)行成功率對(duì)比,驗(yàn)證了本文算法的有效性。仿真實(shí)驗(yàn)共進(jìn)行2000 回合的訓(xùn)練。在正式訓(xùn)練前需要進(jìn)行預(yù)訓(xùn)練,用于收集經(jīng)驗(yàn)數(shù)據(jù)以進(jìn)行批次訓(xùn)練。訓(xùn)練過(guò)程中,ε的取值從初始值0.1增長(zhǎng)到1。仿真實(shí)驗(yàn)的參數(shù)設(shè)計(jì)詳見(jiàn)表1。

    在二維空間內(nèi),基礎(chǔ)的動(dòng)作空間只包含{前,后,左,右,保持原地}5 個(gè)動(dòng)作。為了加快學(xué)習(xí)記憶的過(guò)程,本文在水平面內(nèi)將行為空間劃分為8 個(gè)離散的動(dòng)作,使智能體有更多的動(dòng)作選擇。如圖1 所示,本文的動(dòng)作空間包含8 個(gè)方向選擇,A(s)={0°,45°,90°,135°,180°,225°,270°,315°},智能體每次動(dòng)作的步幅是0.2。獎(jiǎng)勵(lì)值的設(shè)定為智能體發(fā)生碰撞時(shí)rcrash=-1,到達(dá)期望位置時(shí)rreach=1,rformation=-1。

    圖1 動(dòng)作空間

    如圖2 所示,在二維空間內(nèi)隨機(jī)生成4 個(gè)智能體的位置,在初始階段,智能體經(jīng)過(guò)訓(xùn)練學(xué)習(xí)形成正四邊形。然后,多個(gè)智能體在保持隊(duì)形不發(fā)生變化的前提下,通過(guò)迭代學(xué)習(xí)尋找到一條最優(yōu)路徑,避開(kāi)障礙物的同時(shí)到達(dá)期望位置。圖中深色正方形區(qū)域?yàn)樵疽汛嬖诘恼系K物,淺色正方形區(qū)域則在智能體學(xué)習(xí)過(guò)程中新加入的障礙物,坐標(biāo)左下角的圓點(diǎn)為智能體,坐標(biāo)右上角的圓點(diǎn)所在位置為各個(gè)智能體的期望位置。由圖2可知,即使在智能體學(xué)習(xí)過(guò)程中增加新的障礙物,多個(gè)智能體也可以通過(guò)本文提出的方法形成期望的隊(duì)形,有效避開(kāi)障礙物并到達(dá)期望位置。

    圖2 不確定環(huán)境下的智能體編隊(duì)避障軌跡

    本文考慮了在更復(fù)雜的環(huán)境下4 個(gè)智能體的編隊(duì)控制問(wèn)題,同時(shí)將智能體編隊(duì)避障的成功率與其他2 種算法進(jìn)行對(duì)比,驗(yàn)證了本文提出算法的有效性。如圖3 所示,圖中正方形為障礙物,坐標(biāo)左下角的圓點(diǎn)為智能體,坐標(biāo)右上角的圓點(diǎn)所在位置為各個(gè)智能體的期望位置。由圖3 可知,本文提出的方法可以使多個(gè)智能體在面對(duì)不同的環(huán)境時(shí)形成期望的隊(duì)形,同時(shí)經(jīng)過(guò)迭代學(xué)習(xí)得到最優(yōu)策略,在有效避開(kāi)障礙物的同時(shí)到達(dá)期望位置。

    圖3 4 個(gè)智能體編隊(duì)避障軌跡

    圖4 表示智能體保持隊(duì)形避障過(guò)程中每個(gè)回合的Q值之和。剛開(kāi)始所有Q值為0,隨著迭代訓(xùn)練的進(jìn)行,根據(jù)獎(jiǎng)勵(lì)值進(jìn)行Q值的更新。由圖4 可知,在訓(xùn)練初期由于ε值小,智能體隨機(jī)選擇動(dòng)作概率大,大概率觸碰障礙物獲得負(fù)向獎(jiǎng)勵(lì)值;在訓(xùn)練中后期,神經(jīng)網(wǎng)絡(luò)對(duì)整個(gè)樣本空間有了相對(duì)全面的采樣,在此基礎(chǔ)上,神經(jīng)網(wǎng)絡(luò)通過(guò)訓(xùn)練不斷對(duì)Q值進(jìn)行泛化,同時(shí)ε值增長(zhǎng),智能體可以根據(jù)經(jīng)驗(yàn)選擇最優(yōu)動(dòng)作,獲得正向獎(jiǎng)勵(lì)值的概率逐漸增大。經(jīng)過(guò)不斷學(xué)習(xí),成功避開(kāi)障礙物到達(dá)期望位置的概率越來(lái)越高。圖5 表示每個(gè)回合智能體的步數(shù)。由圖5 可知,4 個(gè)智能體經(jīng)過(guò)1250 個(gè)回合的學(xué)習(xí),最終學(xué)習(xí)到最優(yōu)策略,尋找到避開(kāi)障礙物到達(dá)期望位置的最短路徑。將所提出的算法與Double DQN 算法和MADDQN算法進(jìn)行了對(duì)比,3 種算法的成功率如圖6所示。由圖6 可知,本文提出的算法最終的成功率更高。

    圖4 智能體學(xué)習(xí)曲線

    圖5 智能體每個(gè)回合的步數(shù)

    圖6 3 種算法的成功率對(duì)比

    本文同時(shí)還考慮了6 個(gè)智能體在不同環(huán)境下的編隊(duì)避障控制,如圖7 所示。圖中坐標(biāo)左下角的圓點(diǎn)為智能體,坐標(biāo)右上角的圓點(diǎn)為各個(gè)智能體的期望位置,塊狀區(qū)域?yàn)檎系K物。智能體通過(guò)迭代學(xué)習(xí)形成正六邊形,并且有效避開(kāi)障礙物到達(dá)期望位置。圖8 為智能體的學(xué)習(xí)曲線,圖9 為智能體每個(gè)回合的步數(shù)。結(jié)合圖8 和圖9 可知,智能體通過(guò)訓(xùn)練學(xué)習(xí),在1100 回合之后獲得最優(yōu)策略,在保持隊(duì)形不發(fā)生變化的前提下,有效避開(kāi)障礙物到達(dá)期望位置。圖1 0 表示6 個(gè)智能體環(huán)境下本文方法與Double DQN 和MADDPG 2 種算法的成功率對(duì)比。由圖10可知,本文方法在多智能體編隊(duì)避障控制問(wèn)題中的成功率更高。

    圖7 6 個(gè)智能體編隊(duì)避障軌跡

    圖8 智能體學(xué)習(xí)曲線

    圖9 智能體每個(gè)回合的步數(shù)

    圖10 3 種算法的成功率對(duì)比

    為了驗(yàn)證在不確定環(huán)境下本文提出算法的有效性,在智能體學(xué)習(xí)過(guò)程中添加額外的障礙物。仿真結(jié)果表明多個(gè)智能體在不確定環(huán)境下能形成特定隊(duì)形避開(kāi)障礙物到達(dá)期望位置。同時(shí),在2 種不同的環(huán)境下,針對(duì)4 個(gè)和6 個(gè)智能體進(jìn)行了仿真實(shí)驗(yàn),并且將所提的方法與Double DQN 和MADDPG 算法進(jìn)行對(duì)比。結(jié)合圖3 和圖7 可知,本文提出的方法面對(duì)不同環(huán)境都能實(shí)現(xiàn)多智能體的編隊(duì)避障控制。多個(gè)智能體通過(guò)迭代學(xué)習(xí)形成期望隊(duì)形,并且有效避開(kāi)障礙物到達(dá)期望位置。由圖6 和圖10 可知,本文提出的方法在前期能更快地獲取成功的經(jīng)驗(yàn),學(xué)習(xí)速率更快,并且最終的成功率也相對(duì)更高。這表明了本文設(shè)計(jì)的價(jià)值評(píng)估網(wǎng)絡(luò)能幫助智能體更快地取得到達(dá)期望位置的特殊經(jīng)驗(yàn)。

    4 結(jié)論

    針對(duì)復(fù)雜環(huán)境的隨機(jī)性和不確定性,本文提出了一種不確定環(huán)境下的深度強(qiáng)化學(xué)習(xí)編隊(duì)避障控制方法。在該方法中,設(shè)計(jì)了價(jià)值評(píng)估網(wǎng)絡(luò)來(lái)增加編隊(duì)過(guò)程中的智能體選擇觸碰障礙物或者到達(dá)期望位置這些特殊動(dòng)作的經(jīng)驗(yàn),使智能體更快地理解環(huán)境規(guī)則。并且將該價(jià)值評(píng)估網(wǎng)絡(luò)和貪心策略相結(jié)合,對(duì)動(dòng)作選擇策略進(jìn)行改進(jìn),提高算法的學(xué)習(xí)效率。同時(shí),設(shè)計(jì)了樣本存儲(chǔ)空間,增加樣本利用率的同時(shí)提高了模型訓(xùn)練效率。在決策階段,結(jié)合多步學(xué)習(xí)算法使價(jià)值估計(jì)更準(zhǔn)確。通過(guò)仿真實(shí)驗(yàn)驗(yàn)證了本文提出方法的有效性,能在不同的環(huán)境下較好地完成多智能體編隊(duì)任務(wù)。仿真結(jié)果表明本文提出的方法可以適用于各種不確定環(huán)境中。將本文提出的方法和Double DQN 與MADDPG 2 種算法進(jìn)行對(duì)比,結(jié)果表明本文方法收斂速度更快,智能體編隊(duì)避障的成功率更高。

    猜你喜歡
    隊(duì)形編隊(duì)障礙物
    2023年1月25日,美軍一次演習(xí)期間,空軍正在進(jìn)行編隊(duì)飛行
    軍事文摘(2023年5期)2023-03-27 08:56:26
    隊(duì)列隊(duì)形體育教案
    高低翻越
    SelTrac?CBTC系統(tǒng)中非通信障礙物的設(shè)計(jì)和處理
    詩(shī)歌的奇怪隊(duì)形(一)
    基于事件驅(qū)動(dòng)的多飛行器編隊(duì)協(xié)同控制
    無(wú)人機(jī)編隊(duì)機(jī)動(dòng)飛行時(shí)的隊(duì)形保持反饋控制
    基于預(yù)測(cè)控制的無(wú)人機(jī)編隊(duì)內(nèi)部避碰
    多彈編隊(duì)飛行控制技術(shù)研究
    土釘墻在近障礙物的地下車行通道工程中的應(yīng)用
    夜夜躁狠狠躁天天躁| 国产精品 欧美亚洲| 日韩视频一区二区在线观看| 日韩成人在线观看一区二区三区| 色婷婷久久久亚洲欧美| 夫妻午夜视频| 亚洲人成电影观看| 在线天堂中文资源库| 久久人人精品亚洲av| 国产精品乱码一区二三区的特点 | 国产黄a三级三级三级人| 在线视频色国产色| 一二三四在线观看免费中文在| 亚洲午夜理论影院| 国产单亲对白刺激| 女人精品久久久久毛片| x7x7x7水蜜桃| 免费在线观看亚洲国产| 在线av久久热| 99riav亚洲国产免费| 老汉色av国产亚洲站长工具| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲欧美激情在线| 午夜91福利影院| 高清在线国产一区| bbb黄色大片| 久久亚洲真实| 久久精品人人爽人人爽视色| 两个人免费观看高清视频| 91字幕亚洲| 一二三四在线观看免费中文在| 9色porny在线观看| 国产精品九九99| 自线自在国产av| 国产精品一区二区精品视频观看| 成人18禁高潮啪啪吃奶动态图| 色婷婷av一区二区三区视频| 精品久久蜜臀av无| 18美女黄网站色大片免费观看| 男女床上黄色一级片免费看| 亚洲一区二区三区色噜噜 | 99久久99久久久精品蜜桃| 久久影院123| 丰满的人妻完整版| 18禁观看日本| 国产乱人伦免费视频| 99久久99久久久精品蜜桃| 久久人妻av系列| 国产精品美女特级片免费视频播放器 | 国产av在哪里看| 无限看片的www在线观看| 大码成人一级视频| 久久亚洲真实| 日韩欧美三级三区| 国产一区二区三区视频了| 看免费av毛片| 成年人黄色毛片网站| 在线天堂中文资源库| 亚洲精品美女久久久久99蜜臀| 美女大奶头视频| 久久国产乱子伦精品免费另类| 久久久久久人人人人人| 欧美日韩av久久| xxxhd国产人妻xxx| 亚洲欧洲精品一区二区精品久久久| 国产区一区二久久| 久久久精品国产亚洲av高清涩受| 91国产中文字幕| 国产精品久久视频播放| 亚洲av熟女| 久久人妻熟女aⅴ| 久久精品国产清高在天天线| 国产成人系列免费观看| 老司机靠b影院| 黄色成人免费大全| 国产精品乱码一区二三区的特点 | 超色免费av| 久久久久久久精品吃奶| 中文字幕另类日韩欧美亚洲嫩草| 亚洲第一青青草原| 精品乱码久久久久久99久播| 国产不卡一卡二| 神马国产精品三级电影在线观看 | 精品日产1卡2卡| 伦理电影免费视频| 国产片内射在线| 国产精品一区二区免费欧美| 久久精品国产99精品国产亚洲性色 | 久久人人爽av亚洲精品天堂| 精品日产1卡2卡| 一进一出抽搐动态| 成人黄色视频免费在线看| 中国美女看黄片| 久久中文字幕一级| 90打野战视频偷拍视频| 99精品欧美一区二区三区四区| 波多野结衣av一区二区av| 丝袜在线中文字幕| 亚洲 欧美 日韩 在线 免费| 亚洲一区二区三区不卡视频| 精品高清国产在线一区| 人人妻人人添人人爽欧美一区卜| 中文字幕最新亚洲高清| 亚洲男人的天堂狠狠| 成人国语在线视频| 美女 人体艺术 gogo| 香蕉国产在线看| 视频在线观看一区二区三区| 俄罗斯特黄特色一大片| 亚洲av成人av| 欧美老熟妇乱子伦牲交| 亚洲国产毛片av蜜桃av| 两人在一起打扑克的视频| 日本免费a在线| 久久香蕉国产精品| 亚洲av成人av| a级片在线免费高清观看视频| 亚洲国产精品sss在线观看 | 午夜亚洲福利在线播放| 性色av乱码一区二区三区2| 美女午夜性视频免费| 精品少妇一区二区三区视频日本电影| 99国产精品一区二区三区| netflix在线观看网站| 久久人妻av系列| 高清av免费在线| 99在线视频只有这里精品首页| 欧美在线一区亚洲| 俄罗斯特黄特色一大片| 亚洲熟妇熟女久久| av视频免费观看在线观看| 久久久久亚洲av毛片大全| 亚洲精品中文字幕在线视频| 亚洲五月色婷婷综合| 欧美不卡视频在线免费观看 | 在线观看免费日韩欧美大片| 国产精品久久久久久人妻精品电影| 亚洲欧美一区二区三区黑人| a级片在线免费高清观看视频| 亚洲伊人色综图| 中文亚洲av片在线观看爽| 欧美激情久久久久久爽电影 | 国产精品久久电影中文字幕| 国产精品美女特级片免费视频播放器 | 欧美大码av| 视频区图区小说| 母亲3免费完整高清在线观看| 欧美日韩中文字幕国产精品一区二区三区 | 一区二区三区精品91| 欧美日韩视频精品一区| 1024视频免费在线观看| bbb黄色大片| 免费在线观看黄色视频的| 啪啪无遮挡十八禁网站| 19禁男女啪啪无遮挡网站| avwww免费| 精品乱码久久久久久99久播| 亚洲精品美女久久av网站| 天天添夜夜摸| 中亚洲国语对白在线视频| 麻豆国产av国片精品| e午夜精品久久久久久久| 久久精品国产99精品国产亚洲性色 | 国产亚洲av高清不卡| 少妇粗大呻吟视频| 成人国产一区最新在线观看| 国产男靠女视频免费网站| 黄色女人牲交| 亚洲熟妇中文字幕五十中出 | 法律面前人人平等表现在哪些方面| 一级片'在线观看视频| 久久影院123| 99精品在免费线老司机午夜| 黑人操中国人逼视频| 亚洲av成人一区二区三| 国产成人精品久久二区二区免费| 精品高清国产在线一区| 久久精品国产综合久久久| 欧美精品啪啪一区二区三区| 曰老女人黄片| 一级黄色大片毛片| 女人高潮潮喷娇喘18禁视频| 国产欧美日韩一区二区三| 淫秽高清视频在线观看| 久久久久九九精品影院| 一区在线观看完整版| 亚洲一卡2卡3卡4卡5卡精品中文| x7x7x7水蜜桃| 亚洲一区高清亚洲精品| 法律面前人人平等表现在哪些方面| 美女扒开内裤让男人捅视频| 成人影院久久| 亚洲精品久久午夜乱码| 亚洲精品久久午夜乱码| 午夜日韩欧美国产| 国产成+人综合+亚洲专区| 9热在线视频观看99| 一边摸一边做爽爽视频免费| 精品久久久久久电影网| tocl精华| 性少妇av在线| 国产亚洲欧美精品永久| 正在播放国产对白刺激| 窝窝影院91人妻| 国产成人精品久久二区二区免费| 精品久久久精品久久久| 国产精品1区2区在线观看.| 天天躁夜夜躁狠狠躁躁| 黄色 视频免费看| 免费看a级黄色片| 午夜福利一区二区在线看| 99re在线观看精品视频| 亚洲国产精品999在线| 国产男靠女视频免费网站| 最好的美女福利视频网| 最好的美女福利视频网| 无遮挡黄片免费观看| 欧美日韩亚洲高清精品| 日韩成人在线观看一区二区三区| 久久精品国产清高在天天线| 亚洲七黄色美女视频| 亚洲色图 男人天堂 中文字幕| 久久精品国产99精品国产亚洲性色 | 脱女人内裤的视频| 一本大道久久a久久精品| 在线观看66精品国产| 不卡一级毛片| 美女大奶头视频| 91精品三级在线观看| 中国美女看黄片| 久久久久久亚洲精品国产蜜桃av| 窝窝影院91人妻| 动漫黄色视频在线观看| 在线观看一区二区三区激情| 19禁男女啪啪无遮挡网站| 久久亚洲真实| 日韩一卡2卡3卡4卡2021年| 50天的宝宝边吃奶边哭怎么回事| 97人妻天天添夜夜摸| 亚洲成人免费av在线播放| 免费高清视频大片| 夜夜爽天天搞| 国产成人欧美在线观看| 在线观看免费高清a一片| 亚洲成人免费电影在线观看| 免费少妇av软件| 久久中文字幕人妻熟女| 麻豆国产av国片精品| 夫妻午夜视频| 超碰成人久久| 精品人妻1区二区| 日韩三级视频一区二区三区| 麻豆av在线久日| 精品久久蜜臀av无| 国产1区2区3区精品| 欧美人与性动交α欧美软件| 久久久久久免费高清国产稀缺| 亚洲片人在线观看| 最近最新中文字幕大全免费视频| 老司机午夜福利在线观看视频| 亚洲一区二区三区不卡视频| 午夜免费成人在线视频| 精品久久久久久久毛片微露脸| 美女 人体艺术 gogo| 国产1区2区3区精品| 久久婷婷成人综合色麻豆| 深夜精品福利| 久久午夜亚洲精品久久| 久久久国产一区二区| 黄色毛片三级朝国网站| av免费在线观看网站| 婷婷精品国产亚洲av在线| 亚洲,欧美精品.| 久久中文字幕人妻熟女| 午夜精品在线福利| 夫妻午夜视频| 国产熟女xx| 每晚都被弄得嗷嗷叫到高潮| 亚洲精品久久成人aⅴ小说| 日韩视频一区二区在线观看| 国产色视频综合| 亚洲男人的天堂狠狠| 精品国产国语对白av| 亚洲精品国产区一区二| 国产高清激情床上av| 国内毛片毛片毛片毛片毛片| 亚洲一卡2卡3卡4卡5卡精品中文| svipshipincom国产片| 91九色精品人成在线观看| 侵犯人妻中文字幕一二三四区| 涩涩av久久男人的天堂| www.999成人在线观看| 国产精品 国内视频| 欧美黄色淫秽网站| 亚洲精品av麻豆狂野| 亚洲成人免费电影在线观看| 美女午夜性视频免费| 一个人免费在线观看的高清视频| 一区二区三区精品91| 美女扒开内裤让男人捅视频| 一级毛片高清免费大全| 色播在线永久视频| 精品卡一卡二卡四卡免费| 一本大道久久a久久精品| 亚洲中文字幕日韩| 久久久久国产精品人妻aⅴ院| 纯流量卡能插随身wifi吗| 欧美日韩国产mv在线观看视频| 成人特级黄色片久久久久久久| 老熟妇仑乱视频hdxx| 99热只有精品国产| 精品福利永久在线观看| 色在线成人网| 成人亚洲精品一区在线观看| 久久九九热精品免费| 精品国产一区二区久久| 少妇的丰满在线观看| 看片在线看免费视频| 在线国产一区二区在线| 国产熟女xx| 国产99久久九九免费精品| 美女福利国产在线| 亚洲色图av天堂| 亚洲精品国产区一区二| 麻豆久久精品国产亚洲av | 亚洲成人免费av在线播放| 国产一区二区激情短视频| av有码第一页| 久99久视频精品免费| 午夜精品在线福利| 男人操女人黄网站| tocl精华| 校园春色视频在线观看| 中文字幕精品免费在线观看视频| 热99国产精品久久久久久7| 中文字幕精品免费在线观看视频| 久久久久久久久免费视频了| 黄色成人免费大全| 亚洲人成网站在线播放欧美日韩| 国产欧美日韩一区二区三区在线| 精品人妻1区二区| 美女午夜性视频免费| 亚洲成人国产一区在线观看| 91成年电影在线观看| 亚洲性夜色夜夜综合| 18禁裸乳无遮挡免费网站照片 | 曰老女人黄片| 久久国产精品影院| 免费在线观看影片大全网站| 亚洲少妇的诱惑av| 少妇被粗大的猛进出69影院| 99精品欧美一区二区三区四区| 女生性感内裤真人,穿戴方法视频| 交换朋友夫妻互换小说| 后天国语完整版免费观看| av片东京热男人的天堂| 日本一区二区免费在线视频| av网站免费在线观看视频| 叶爱在线成人免费视频播放| 最近最新中文字幕大全免费视频| 老司机午夜十八禁免费视频| 欧美久久黑人一区二区| 欧美久久黑人一区二区| 美女福利国产在线| 久久伊人香网站| 精品一区二区三区av网在线观看| 老司机午夜十八禁免费视频| 亚洲精品国产一区二区精华液| 三级毛片av免费| 中亚洲国语对白在线视频| 亚洲欧美激情综合另类| 色综合欧美亚洲国产小说| netflix在线观看网站| 亚洲欧美日韩无卡精品| 69av精品久久久久久| 国产国语露脸激情在线看| 国产成人欧美在线观看| 可以免费在线观看a视频的电影网站| 亚洲成国产人片在线观看| 看片在线看免费视频| av电影中文网址| 亚洲精品国产区一区二| 亚洲av五月六月丁香网| 免费在线观看视频国产中文字幕亚洲| 国产亚洲精品久久久久久毛片| 99久久人妻综合| 久久人人97超碰香蕉20202| 午夜激情av网站| 成人国产一区最新在线观看| 国产主播在线观看一区二区| 少妇被粗大的猛进出69影院| 午夜a级毛片| 无遮挡黄片免费观看| av视频免费观看在线观看| 亚洲中文av在线| 极品人妻少妇av视频| 91在线观看av| 国产乱人伦免费视频| 国产欧美日韩精品亚洲av| 青草久久国产| 一级毛片女人18水好多| 国产精品一区二区精品视频观看| 18禁国产床啪视频网站| 51午夜福利影视在线观看| aaaaa片日本免费| 黑人操中国人逼视频| avwww免费| 国产欧美日韩一区二区精品| 啪啪无遮挡十八禁网站| 免费高清视频大片| 狠狠狠狠99中文字幕| 又大又爽又粗| 性欧美人与动物交配| 伦理电影免费视频| 国产单亲对白刺激| 日本一区二区免费在线视频| 美女福利国产在线| 手机成人av网站| 悠悠久久av| 亚洲精品中文字幕在线视频| 黑人巨大精品欧美一区二区mp4| 亚洲av片天天在线观看| 亚洲男人的天堂狠狠| 日韩免费av在线播放| 一级a爱视频在线免费观看| 欧美中文日本在线观看视频| 午夜精品久久久久久毛片777| 18禁裸乳无遮挡免费网站照片 | 美女福利国产在线| 69精品国产乱码久久久| 免费在线观看亚洲国产| 黑人欧美特级aaaaaa片| 一本大道久久a久久精品| 韩国精品一区二区三区| 精品乱码久久久久久99久播| 精品免费久久久久久久清纯| 亚洲熟妇熟女久久| 欧美日韩中文字幕国产精品一区二区三区 | ponron亚洲| 亚洲成av片中文字幕在线观看| 少妇被粗大的猛进出69影院| 日韩成人在线观看一区二区三区| 黄色女人牲交| 午夜福利在线免费观看网站| 美女高潮喷水抽搐中文字幕| 免费高清在线观看日韩| 视频在线观看一区二区三区| 国产国语露脸激情在线看| 精品国产乱子伦一区二区三区| 亚洲一区中文字幕在线| 动漫黄色视频在线观看| 亚洲成人精品中文字幕电影 | 国产成人精品久久二区二区免费| 亚洲美女黄片视频| 黑人巨大精品欧美一区二区蜜桃| 在线免费观看的www视频| 狠狠狠狠99中文字幕| 99久久综合精品五月天人人| 国产精品98久久久久久宅男小说| 午夜影院日韩av| 国产一卡二卡三卡精品| 成人手机av| 成人影院久久| 亚洲精品久久午夜乱码| 每晚都被弄得嗷嗷叫到高潮| 在线永久观看黄色视频| 男女做爰动态图高潮gif福利片 | 国产欧美日韩综合在线一区二区| 国产1区2区3区精品| 久久青草综合色| 妹子高潮喷水视频| 亚洲成av片中文字幕在线观看| 真人一进一出gif抽搐免费| e午夜精品久久久久久久| 免费观看精品视频网站| 99久久人妻综合| 国产有黄有色有爽视频| 亚洲av成人一区二区三| 99国产极品粉嫩在线观看| 桃色一区二区三区在线观看| 亚洲精品中文字幕一二三四区| 操美女的视频在线观看| 欧美色视频一区免费| 国产高清国产精品国产三级| 久久草成人影院| 国产1区2区3区精品| 成年版毛片免费区| 久久香蕉精品热| 亚洲国产看品久久| 最近最新免费中文字幕在线| 日韩欧美在线二视频| 久久精品国产综合久久久| 精品一区二区三区四区五区乱码| 后天国语完整版免费观看| 亚洲精品国产一区二区精华液| 国产激情久久老熟女| 久久草成人影院| 大码成人一级视频| 手机成人av网站| 国产一区在线观看成人免费| 99在线人妻在线中文字幕| 亚洲免费av在线视频| 国产高清国产精品国产三级| 中出人妻视频一区二区| 9色porny在线观看| 黑人巨大精品欧美一区二区蜜桃| 欧美黄色片欧美黄色片| 在线看a的网站| 精品一区二区三区av网在线观看| 视频在线观看一区二区三区| 成年女人毛片免费观看观看9| 身体一侧抽搐| 人人妻,人人澡人人爽秒播| 日韩欧美一区视频在线观看| av网站免费在线观看视频| 久久久国产成人精品二区 | 亚洲成av片中文字幕在线观看| 欧美日韩一级在线毛片| 一级毛片高清免费大全| 久久人妻av系列| av天堂在线播放| 午夜亚洲福利在线播放| 成人影院久久| 丁香欧美五月| 亚洲五月婷婷丁香| 成人永久免费在线观看视频| 长腿黑丝高跟| 欧洲精品卡2卡3卡4卡5卡区| 村上凉子中文字幕在线| 国产精华一区二区三区| 美国免费a级毛片| 成年人免费黄色播放视频| 国产精品久久电影中文字幕| 日韩精品青青久久久久久| 丝袜人妻中文字幕| 国产亚洲精品一区二区www| www.999成人在线观看| 法律面前人人平等表现在哪些方面| 亚洲伊人色综图| 男女下面插进去视频免费观看| 黑人欧美特级aaaaaa片| 精品一品国产午夜福利视频| 精品国产一区二区久久| 又紧又爽又黄一区二区| 国产亚洲精品第一综合不卡| 免费看十八禁软件| 欧美激情久久久久久爽电影 | 韩国精品一区二区三区| 国产一区二区三区综合在线观看| 久久性视频一级片| 又黄又粗又硬又大视频| 女性生殖器流出的白浆| 正在播放国产对白刺激| 纯流量卡能插随身wifi吗| 一级作爱视频免费观看| 两人在一起打扑克的视频| 精品少妇一区二区三区视频日本电影| 一个人免费在线观看的高清视频| 久久久久久亚洲精品国产蜜桃av| 水蜜桃什么品种好| 国产xxxxx性猛交| 亚洲欧美精品综合久久99| 成人18禁高潮啪啪吃奶动态图| 亚洲欧美精品综合一区二区三区| 久久中文字幕一级| 国产av一区在线观看免费| 精品久久久久久久久久免费视频 | 免费看a级黄色片| 国产成人精品在线电影| 久久久久久久午夜电影 | 国产精品国产av在线观看| 亚洲人成电影观看| 国产精品电影一区二区三区| 午夜视频精品福利| 交换朋友夫妻互换小说| 91麻豆av在线| 制服人妻中文乱码| 精品电影一区二区在线| svipshipincom国产片| 成人精品一区二区免费| 一a级毛片在线观看| 欧美日韩福利视频一区二区| 免费一级毛片在线播放高清视频 | 长腿黑丝高跟| 高潮久久久久久久久久久不卡| 欧美激情 高清一区二区三区| 成人18禁在线播放| 黄色女人牲交| 国产精品一区二区在线不卡| 久久精品国产亚洲av香蕉五月| 老司机午夜福利在线观看视频| 丰满饥渴人妻一区二区三| 国产91精品成人一区二区三区| 国产色视频综合| 精品国产亚洲在线| 久久精品国产亚洲av高清一级| 熟女少妇亚洲综合色aaa.| 久久久久久久久免费视频了| 亚洲伊人色综图| a级毛片在线看网站| 热re99久久国产66热| 久久精品国产清高在天天线| 欧美日韩一级在线毛片| 黄色a级毛片大全视频| 国产在线观看jvid| 91麻豆av在线| 最新美女视频免费是黄的| 婷婷精品国产亚洲av在线| 免费在线观看完整版高清| 在线av久久热| 亚洲精品中文字幕在线视频| 俄罗斯特黄特色一大片| 成熟少妇高潮喷水视频| 不卡av一区二区三区| 美女高潮喷水抽搐中文字幕|