• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    無人機(jī)自主作戰(zhàn)能力試驗(yàn)評價(jià)技術(shù)綜述

    2021-01-06 12:48:25杜梓冰陳銀娣
    航空兵器 2021年6期
    關(guān)鍵詞:無人機(jī)人工智能

    杜梓冰 陳銀娣

    摘 要:為有效開展智能無人機(jī)自主作戰(zhàn)能力的試驗(yàn)與評估, 本文對自主能力進(jìn)行試驗(yàn)及評價(jià)的緊迫性和所屬技術(shù)范疇進(jìn)行了研究, 探討美國在政策、 計(jì)劃、 技術(shù)等方面的做法, 同時(shí)深入剖析當(dāng)前典型自主等級評價(jià)模型在飛行試驗(yàn)中的適用性, 并分析了重塑試驗(yàn)評估模式、 建設(shè)高智能對抗試驗(yàn)環(huán)境、 建立試驗(yàn)評估技術(shù)體系、 形成自主性等級標(biāo)準(zhǔn)、 建設(shè)通用模型和工具、 試驗(yàn)評估中應(yīng)用人工智能等主要方向的研究內(nèi)容, 提出了頂層重視規(guī)劃試驗(yàn)評估、 加大人工智能技術(shù)應(yīng)用、 加大通用模型構(gòu)建和發(fā)展虛實(shí)一體試驗(yàn)等建議, 以期提升自主性技術(shù)落地應(yīng)用速度, 擴(kuò)大智能無人機(jī)作戰(zhàn)使用范圍。

    關(guān)鍵詞:???? 軍事智能; 人工智能; 無人機(jī); 自主作戰(zhàn)能力; 試驗(yàn)與評價(jià); 自主等級; 虛實(shí)一體試驗(yàn)

    中圖分類號:???? TJ760; V217; V279 文獻(xiàn)標(biāo)識碼:??? A 文章編號:???? 1673-5048(2021)06-0058-08

    0 引? 言

    隨著人工智能技術(shù)在軍事領(lǐng)域的快速發(fā)展和應(yīng)用, 軍事領(lǐng)域?qū)⒂瓉硪粓鲎兏铮?從機(jī)械化、 信息化走向智能化, 未來戰(zhàn)爭將是智能化的戰(zhàn)爭, 而無人化是其基本形態(tài), 人工智能與相關(guān)技術(shù)的融合發(fā)展將逐步把這種形態(tài)推向高級階段, 航空裝備領(lǐng)域的無人機(jī)系統(tǒng)自主水平將大大提高[1-9], 甚至是五代機(jī)的一種可能形式[2]。 美軍認(rèn)為, 人工智能與無人系統(tǒng)融合為無人自主系統(tǒng), 是改變戰(zhàn)場規(guī)則的顛覆性技術(shù), 基于此, 美軍近年來提出了“忠誠僚機(jī)”“分布式作戰(zhàn)”“全域作戰(zhàn)”“蜂群”“馬賽克戰(zhàn)”等顛覆性作戰(zhàn)概念, 將自主性無人機(jī)作為其關(guān)鍵部分, 進(jìn)行了大量演示驗(yàn)證試飛, 驗(yàn)證了其技術(shù)的先進(jìn)和戰(zhàn)略優(yōu)勢的維持[8]。 自主性是人工智能技術(shù)在軍事領(lǐng)域深度應(yīng)用的結(jié)晶, 可解釋性、 自主性能力、 信任度、 魯棒性、 人機(jī)權(quán)限、 人機(jī)編組效能、 集群效能等是影響無人機(jī)系統(tǒng)投入使用的主要問題。 科學(xué)、 全面、 先進(jìn)的試驗(yàn)、 評估、 驗(yàn)證和確認(rèn)(TEVV)技術(shù)是解決這些問題的關(guān)鍵[10-11], 但自主感知、 自主規(guī)劃、 自主學(xué)習(xí)、 自主協(xié)同、 自主決策、 自主攻擊等行為的試驗(yàn)評估超出了現(xiàn)有試驗(yàn)技術(shù)的范疇和模式, 其多學(xué)科交叉性、 不可理解性、 不可預(yù)測性等特征對現(xiàn)有試驗(yàn)與評估方法帶來了巨大的挑戰(zhàn), 亟需開展新的試驗(yàn)與評估方法研究[11-12]。

    美國自21世紀(jì)初開始出臺大量政策文件支持自主能力的試驗(yàn)項(xiàng)目[11-17], 形成了多種自主能力評價(jià)模型[1,2,18-28], 國內(nèi)楊偉[1]、 盧新來等[6]、 劉樹光等[26]、 Wang等[27]也對相關(guān)理論進(jìn)行了研究, 但未形成統(tǒng)一的標(biāo)準(zhǔn), 而且也不完全適用于外場試驗(yàn)評估。

    為確保軍事智能技術(shù)落地應(yīng)用, 擴(kuò)大自主性無人機(jī)的應(yīng)用場景, 需要超前研究相關(guān)的試驗(yàn)評估技術(shù)體系, 為此, 研究美國在自主能力試驗(yàn)方面的做法和相關(guān)評價(jià)模型在試驗(yàn)中的適用性, 分析自主作戰(zhàn)能力對試驗(yàn)與評估的挑戰(zhàn), 并給出自主作戰(zhàn)試驗(yàn)與評估發(fā)展建議, 以期促進(jìn)國內(nèi)相關(guān)技術(shù)的發(fā)展。

    1 無人機(jī)系統(tǒng)自主作戰(zhàn)能力試驗(yàn)評價(jià)的基本問題

    1.1 無人機(jī)自主性的內(nèi)涵

    關(guān)于自主性的定義有多種, 對于無人機(jī)而言, 美國空軍2015年發(fā)布的《自主地平線》[3]的定義比較恰當(dāng): 自主性是融合智能系統(tǒng)功能, 使用更多的傳感器和復(fù)雜軟件,? 在廣泛的作戰(zhàn)挑戰(zhàn)下、 復(fù)雜環(huán)境因素和多樣的任務(wù)中, 能夠響應(yīng)設(shè)計(jì)中未編程或未預(yù)期的情況(即基于決策的響應(yīng)), 具有一定程度的自治和自我指導(dǎo)的行為。 自主性被認(rèn)為是自動化的重要擴(kuò)展, 可在未完全預(yù)期的情況下成功執(zhí)行非常高級的任務(wù)指令。 其特征在于, 能夠在極其不確定的情況下, 獨(dú)立實(shí)現(xiàn)任務(wù)目標(biāo), 且在很長時(shí)間內(nèi)表現(xiàn)良好, 還能在通信受限或無通信情況下彌補(bǔ)系統(tǒng)故障帶來的影響[3]。

    1.2 無人機(jī)自主性能力發(fā)展的需求

    美國國防科學(xué)委員會2012年發(fā)布的《自主性在國防部無人系統(tǒng)中的地位》指出, 自主能力是美國無人系統(tǒng)的核心能力。 美國《無人系統(tǒng)綜合路線圖(2017-2042)》提出,“互操作性、 自主性、 網(wǎng)絡(luò)安全以及人機(jī)協(xié)同”是未來無人系統(tǒng)發(fā)展的四個(gè)關(guān)鍵技術(shù)和驅(qū)動。 作戰(zhàn)需求是技術(shù)發(fā)展的牽引力, 在自主性方面, 通過提高操作速度、 降低認(rèn)知負(fù)荷以及提高逆境中性能的方式提高自主性能力。

    “人在環(huán)路”受制于人的固有限制, 需要提高機(jī)器的自主性以解放人力。 由于軍事、 政治和倫理的限制, 當(dāng)前“捕食者”等無人機(jī)仍然是“人在環(huán)路”, 在目標(biāo)偵察確認(rèn)、 武器打擊等環(huán)節(jié)仍然需要人的介入, 而操控員固有的生理限制影響作戰(zhàn)效果, 人員處理容量和速度有限, 影響作戰(zhàn)效能, 有限空間多人協(xié)同操作高壓下易出錯(cuò), 合格人員成長速度落后于裝備發(fā)展速度, 通過自主性的提升, 減少人員干預(yù)環(huán)節(jié)、 減少人員操作負(fù)荷, 可以一定程度上避免人的因素影響作戰(zhàn)效能。

    戰(zhàn)場的博弈對抗需要提升無人平臺的自主性。 隨著人工智能技術(shù)在軍事領(lǐng)域的快速應(yīng)用, 未來戰(zhàn)場的復(fù)雜性、 博弈動態(tài)性和不確定性都給有人和無人系統(tǒng)執(zhí)行OODA作戰(zhàn)環(huán)路帶來了極大的挑戰(zhàn), 必須提高無人系統(tǒng)的自主性, 以擴(kuò)大系統(tǒng)的處理能力。 集群作戰(zhàn)必須提高無人系統(tǒng)的自主性。 “蜂群”“狼群”“魚群”等集群模式下, 作戰(zhàn)的無人系統(tǒng)數(shù)量眾多, 但是受制于人的因素, 一個(gè)人能操作控制的無人機(jī)有限, 鏈路資源和地面站資源難以支撐, 勢必要求提高無人系統(tǒng)自主性。

    1.3 無人機(jī)自主作戰(zhàn)的特征與影響

    智能化作戰(zhàn)不再是能量的逐步釋放和作戰(zhàn)效果的線性疊加, 而是非線性、 涌現(xiàn)性、 自生長等多種效應(yīng)的急劇放大和結(jié)果的快速收斂, 逐步具備自適應(yīng)、 自學(xué)習(xí)、 自對抗、 自修復(fù)、 自演進(jìn)、 博弈對抗等特征。 基于人工智能技術(shù)的新一代無人機(jī)自主作戰(zhàn)系統(tǒng), 無人機(jī)平臺、 探測、 識別、 決策、 跟蹤、 打擊等環(huán)節(jié)自主作戰(zhàn), 能夠模擬人的思維和行為, 促進(jìn)制勝機(jī)理從“制信息權(quán)”變?yōu)椤爸浦菣?quán)”。

    1.4 試驗(yàn)與評估的必要性和迫切性

    正如美國海軍分析中心2017年在《人工智能、 機(jī)器人和蜂群》所言[13], 自主性武器帶來了一系列倫理與道德問題, 如“能否區(qū)分軍事目標(biāo)與平民?”“如何將主觀道德變?yōu)榇a”。 牛津大學(xué)等機(jī)構(gòu)研究認(rèn)為, 人工智能的使用將加劇實(shí)體及數(shù)字安全系統(tǒng)面臨的威脅, 并產(chǎn)生全新的威脅[14], 因此, 國際上一直呼吁禁止開發(fā)具有攻擊性的自主武器。 如美國2005年的電影《絕密飛行》中, 智能無人機(jī)能拒絕人工指令、 自行選擇別國目標(biāo)進(jìn)行攻擊等, 這在現(xiàn)實(shí)中將帶來巨大的政治風(fēng)險(xiǎn), 其他諸多科幻小說、 電影中也展示出無人機(jī)自主化將帶來一系列的倫理、 道德、 文化、 人權(quán)和軍事風(fēng)險(xiǎn), 因此世界各國都對自主無人機(jī)的作戰(zhàn)使用持懷疑態(tài)度。 這也帶來一個(gè)矛盾, 一方面沒有人會拒絕人工智能技術(shù)在軍用無人機(jī)領(lǐng)域的應(yīng)用, 但同時(shí)又帶來各方面巨大的風(fēng)險(xiǎn), 科學(xué)、 充分、 有效的試驗(yàn)與評估是緩解這個(gè)問題的有效途徑, 智能無人機(jī)系統(tǒng)比以往任何航空裝備都更需要充足的試驗(yàn)與評估。

    1.5 智能無人機(jī)自主作戰(zhàn)能力試驗(yàn)與評估范疇

    智能無人系統(tǒng)的自主性試驗(yàn)與評估屬于軍事智能試驗(yàn)評估的范疇, 《美軍軍事智能試驗(yàn)評估技術(shù)發(fā)展態(tài)勢研究》中將軍事智能試驗(yàn)技術(shù)分為智能化試驗(yàn)對象技術(shù)和試驗(yàn)手段智能化技術(shù), 如圖1所示[11]。

    《智能裝備試驗(yàn)與評價(jià)的挑戰(zhàn)與對策思考》認(rèn)為, “智能裝備的試驗(yàn)與評估是確保智能裝備可靠、 可信和可用的重要基礎(chǔ), 是檢驗(yàn)智能裝備能否在實(shí)際環(huán)境中應(yīng)用的基本前提, 也是加快智能裝備研制進(jìn)度的重要保障”[10]。 在智能無人機(jī)自主能力試驗(yàn)與評估過程中, 需要構(gòu)建相匹配的智能化試驗(yàn)技術(shù)。

    2 美國無人機(jī)自主作戰(zhàn)能力試驗(yàn)與評估方面的做法

    2.1 各方政策重視智能化帶來的自主性試驗(yàn)挑戰(zhàn), 強(qiáng)調(diào)試驗(yàn)與設(shè)計(jì)同步發(fā)展

    美國很早就認(rèn)識到缺少與自主化、 智能化裝備匹配的試驗(yàn)評估方法, 迫切需要新的試驗(yàn)評估技術(shù)應(yīng)對該挑戰(zhàn), 因此, 在《維持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》《人工智能倡議法》《2019年國家人工智能研究發(fā)展計(jì)劃》《人工智能原則支持文件》等政策文件中[12, 17], 都提出要對軍事領(lǐng)域的人工智能技術(shù)進(jìn)行持續(xù)的試驗(yàn)與評估, 必要時(shí)改變現(xiàn)有試驗(yàn)、 評估、 驗(yàn)證和確認(rèn)程序, 創(chuàng)建新的試驗(yàn)評估基礎(chǔ)架構(gòu), 旨在從政策、 標(biāo)準(zhǔn)、 技術(shù)手段等方面提升軍事智能的試驗(yàn)與評估能力, 促進(jìn)人工智能的技術(shù)優(yōu)勢向作戰(zhàn)優(yōu)勢轉(zhuǎn)變, 尋求與設(shè)計(jì)技術(shù)同步開展研究, 確保試驗(yàn)?zāi)芰Σ粶笥谘b備的發(fā)展, 避免因試驗(yàn)?zāi)芰Φ牟蛔阊舆t裝備研發(fā)進(jìn)程, 從而延緩先進(jìn)戰(zhàn)斗力的生成速度。

    2.2 美國多部門關(guān)注, 并持續(xù)投資自主領(lǐng)域的試驗(yàn)與評估項(xiàng)目

    美國國防部自2006年開始就緊盯自主性試驗(yàn)與評估面臨的特殊挑戰(zhàn), 一直將無人自主系統(tǒng)的試驗(yàn)與評估作為重點(diǎn)投資領(lǐng)域。 在《國防部試驗(yàn)評估資源戰(zhàn)略規(guī)劃》中, 將“自主與人工智能”列為試驗(yàn)與評估科技計(jì)劃的投資方向之一 [12,16], “無人與自主系統(tǒng)試驗(yàn)”于2007年首次成為該計(jì)劃的7個(gè)領(lǐng)域之一[16]。 自2020財(cái)年開始, 無人與自主系統(tǒng)試驗(yàn)更名為自主性與人工智能試驗(yàn)[11-12,16], 是重點(diǎn)投資的8個(gè)試驗(yàn)技術(shù)領(lǐng)域之一, 具體的重點(diǎn)項(xiàng)目包括增強(qiáng)自主試驗(yàn)與評估的安全性、 自主性部件的試驗(yàn)與評估、 自主系統(tǒng)可靠性的測試等[16], 相應(yīng)的試驗(yàn)技術(shù)已轉(zhuǎn)化應(yīng)用, 如圖2所示。 2011年備忘錄中, 美國國防部將自主性和人機(jī)界面交互系統(tǒng)作為7項(xiàng)科技投入中的2個(gè)優(yōu)先事項(xiàng), 并成立自主性興趣小組[13]。 在2014年公開的《依托21工作準(zhǔn)則》中, “自主”是其17個(gè)技術(shù)領(lǐng)域之一[16]。 鑒于測試、 評估、 驗(yàn)證和確認(rèn)(TEVV)是自主性系統(tǒng)保障的關(guān)鍵要素, 美國建立了利益共同體(COI)小組來解決該問題, 早在2015年便發(fā)布了一份技術(shù)投資戰(zhàn)略, 其目標(biāo)包括協(xié)助需求開發(fā)和分析的方法和工具、 基于證據(jù)的設(shè)計(jì)和實(shí)現(xiàn)、 通過研究開發(fā)累積、 執(zhí)行行為預(yù)測和恢復(fù)、 自主系統(tǒng)的保證論據(jù)。 《自主性試驗(yàn)、 評估、 檢驗(yàn)和確認(rèn)技術(shù)投資策略2015-2018》中, 明確了自主能力試驗(yàn)和評估的研究范圍和能力發(fā)展方向[12]。 美國國防高級研究計(jì)劃局(DARPA)也在不斷增加無人自主系統(tǒng)及其試驗(yàn)評估的項(xiàng)目投資, 如進(jìn)攻性集群使能戰(zhàn)術(shù)項(xiàng)目的重要目標(biāo)就是發(fā)展無人自主集群集成試驗(yàn)環(huán)境, 其他涉及無人機(jī)系統(tǒng)自主能力的項(xiàng)目也統(tǒng)籌考慮了試驗(yàn)評估的發(fā)展。

    2.3 建立頂層技術(shù)體系框架, 指引自主性發(fā)展方向

    近年來, 美國出臺了覆蓋無人機(jī)、 地面無人系統(tǒng)、 機(jī)器人等一系列無人系統(tǒng)技術(shù)發(fā)展規(guī)劃, 包括《美國陸軍無人機(jī)系統(tǒng)路線圖》《無人系統(tǒng)自主技術(shù)路線圖》《無人系統(tǒng)綜合路線圖》《美國地面無人系統(tǒng)路線圖》《美國機(jī)器人技術(shù)路線圖》以及《自主地平線》等[3]。 尤其是美國國防部牽頭制定的8版《無人系統(tǒng)綜合路線圖》, 持續(xù)指導(dǎo)軍用無人系統(tǒng)的全面發(fā)展, 雖然各版?zhèn)戎攸c(diǎn)有所不同, 但在各版路線圖中均對無人機(jī)自主作戰(zhàn)等級劃分進(jìn)行了說明。 另外, 試驗(yàn)資源管理中心在2011年就制定了圖3所示的無人自主系統(tǒng)試驗(yàn)評估體系結(jié)構(gòu)框架[12]。 其中包括面向五類作戰(zhàn)空間的自主系統(tǒng)、 七類自主性支撐技術(shù)、 四層自主系統(tǒng)試驗(yàn)類型、 五類自主系統(tǒng)評價(jià)指標(biāo)以及基于“觀察、 調(diào)整、 決策、 行動”(OODA)環(huán)的“真實(shí)、 虛擬、 構(gòu)造”(LVC)試驗(yàn)環(huán)境, 從而實(shí)現(xiàn)相關(guān)技術(shù)成體系發(fā)展[12]。 該技術(shù)體系框架不僅對自主性試驗(yàn)有指導(dǎo)意義, 對構(gòu)建整個(gè)智能試驗(yàn)技術(shù)體系也有重要參考價(jià)值。

    2.4 大力開展演示驗(yàn)證試飛, 提高技術(shù)成熟度

    近年來, 美國針對“忠誠僚機(jī)”“分布式作戰(zhàn)”“馬賽克戰(zhàn)”“蜂群”作戰(zhàn)等項(xiàng)目陸續(xù)進(jìn)行了多階段試飛, 對無人系統(tǒng)作戰(zhàn)能力進(jìn)行充分的驗(yàn)證, 比作戰(zhàn)理念和裝備研發(fā)更重視演示驗(yàn)證試飛, 以加速技術(shù)成熟[8]。

    2.5 出臺自主性試驗(yàn)評估規(guī)則, 研究新的采辦策略

    美國國防部指令3000.09要求, 自主性武器必須經(jīng)過嚴(yán)格的硬件驗(yàn)證和認(rèn)證[15], 以及現(xiàn)實(shí)系統(tǒng)開發(fā)和操作的試驗(yàn)與評估, 包括分析復(fù)雜操作環(huán)境導(dǎo)致的自主或半自主系統(tǒng)的意外應(yīng)急行為, 并擴(kuò)大了驗(yàn)證與認(rèn)證以及試驗(yàn)評估的范圍, 要求在現(xiàn)實(shí)條件下評估系統(tǒng)性能、 能力、 可靠性、 效率和適用性, 但同時(shí)認(rèn)為現(xiàn)有做法無法滿足自主能力的試驗(yàn)與評估, 正在研究新的采辦流程, 試圖將經(jīng)典“V”模型替換為圖4所示的扁平模型[13]。

    3 無人機(jī)自主能力評價(jià)模型在試飛評價(jià)中的適用性分析

    無人機(jī)的自主作戰(zhàn)能力最終以自主等級來表征。 美國在持續(xù)開展自主作戰(zhàn)相關(guān)設(shè)計(jì)技術(shù)研究的同時(shí), 對無人機(jī)自主能力評價(jià)技術(shù)進(jìn)行了大量研究, 形成了多種評價(jià)方法, 主要有寬泛分類和精確分類兩大類[18-29]。

    3.1 寬泛分類法

    考慮到無人機(jī)需要人員的介入, 實(shí)戰(zhàn)過程中需要明確人-機(jī)權(quán)限分配問題, 形成了多種比較寬泛的分類方法, 主要有國防部的人機(jī)權(quán)限4級模型[6,19]、 “美國國家航空航天局”(NASA)的6級飛行器自主等級[6,19]、 美國海軍5級自主等級模型[2]。 美國國防部在2011、 2013版無人系統(tǒng)路線圖中采用了人機(jī)權(quán)限4級評價(jià)模型, 分為人操作、 人委派、 人監(jiān)督、 完全自主4個(gè)等級, 人的權(quán)限越低, 機(jī)器權(quán)限越高, 自主性越強(qiáng)[19]。 NASA將高空長航程科學(xué)任務(wù)分為6個(gè)自主等級, 分別是遙控、 簡單的自動操作、 遠(yuǎn)程操作、 高度自動化(半自主)、 完全自主、 協(xié)同操作, 通過掌控的時(shí)間多少來量化分析自主等級[19]。 美國海軍2021年3月在《無人作戰(zhàn)框架》中將自主性依賴由低到高分為人操作、 遠(yuǎn)程操作、 人類監(jiān)督、 人類編組、 接近獨(dú)立5個(gè)層級[2]。 這類模型太過寬泛、 主觀性過強(qiáng), 對于定量的試驗(yàn)與評估而言僅具有參考意義。

    3.2 精確分類法

    (1) Sheridan 的自動裝置等級(LOA)評價(jià)法

    LOA評價(jià)法最早產(chǎn)生于1991年, 其將系統(tǒng)的自主性等級分成10級, 范圍從計(jì)算機(jī)不提供任何幫助、 完全由人進(jìn)行操作到計(jì)算機(jī)自己選擇并執(zhí)行任務(wù)、 完全不依賴于人[19]。 該方法注重通用性, 但考慮的因素較為簡單, 難以轉(zhuǎn)換為詳細(xì)的評估指標(biāo)體系, 對于基于試驗(yàn)的評價(jià)而言, 實(shí)際使用不便。

    (2) 自主控制水平等級(ACL)

    美國空軍實(shí)驗(yàn)室定義了無人機(jī)的10個(gè)自主性等級[13], 如圖5所示。 美國國防部前3版無人機(jī)路線圖采取了這種定義方法, 同時(shí)對在研的無人機(jī)均做出了自主性等級評定。 該方法在提出時(shí)具有很強(qiáng)的前瞻性, 時(shí)至今日, 對當(dāng)前國際上大部分無人機(jī)自主性評價(jià)均有一定的借鑒意義,? 因此具有較強(qiáng)的實(shí)際意義。 但是其指標(biāo)分類不統(tǒng)一, 顆粒度不均衡, 前后關(guān)聯(lián)性不強(qiáng), 且都是定性評價(jià), 對于要投入實(shí)戰(zhàn)的無人機(jī)而言, 評價(jià)指標(biāo)太過寬泛, 無法完全依據(jù)該評價(jià)方法確定無人機(jī)自主等級, 試驗(yàn)過程中需要進(jìn)行細(xì)化。

    (3) 無人系統(tǒng)自主性框架(ALFUS)

    美國于2004年提出了一種ALFUS框架, 試圖從任務(wù)復(fù)雜度、 環(huán)境復(fù)雜性、 人機(jī)交互程度等三個(gè)方面來建立評價(jià)框架, 期望成為一種無人系統(tǒng)自主能力的通用量化評估框架[13,18], 如圖6所示。 該框架不是一個(gè)特定的測試或一組指標(biāo), 而是代表一組表征自主性水平的多維指標(biāo)模型。 通過在每個(gè)軸向上分別建立度量方法, 最終定義了人機(jī)交互從高到低, 環(huán)境從簡單到復(fù)雜, 任務(wù)從簡單到復(fù)雜, 低、 中、 高3個(gè)自主層級[13,18]。 該框架模型考慮環(huán)境、 任務(wù)和人機(jī)交互方面的實(shí)際因素較多, 不限定于特定領(lǐng)域, 不僅關(guān)注物理空間, 還利用“任務(wù)空間”作為衡量自主性的背景, 可以反映無人機(jī)執(zhí)行任務(wù)的能力, 對試驗(yàn)與評估而言具有較高的借鑒意義, 已推廣到一些地面無人車輛的試驗(yàn)與評估中。

    但是, ALFUS框架不提供任何以標(biāo)準(zhǔn)方式分解任務(wù)的工具, 沒有提供一種客觀的方法描述系統(tǒng)的自主性能力映射到整體自主性水平, 而且建立的系統(tǒng)比較開放[19], 導(dǎo)致同一無人機(jī)、 不同方案的評價(jià)結(jié)果差異較大, 可能提供很多的間隔尺寸。 具體實(shí)施過程中, 每個(gè)坐標(biāo)軸如何選取指標(biāo)、 如何量化定義比較困難, 需要根據(jù)系統(tǒng)特點(diǎn)慎重制定。

    (4) 基于OODA的自主等級評價(jià)模型

    2002年, 美國空軍實(shí)驗(yàn)室自動化領(lǐng)域的知名專家布魯斯結(jié)合“觀察、 調(diào)整、 決策、 行動”(OODA)環(huán)的原理, 對ACL進(jìn)行了較大修改, 分成遙控駕駛(0級)、 執(zhí)行預(yù)先規(guī)劃任務(wù)、 可變?nèi)蝿?wù)、 實(shí)時(shí)故障/事件的魯棒響應(yīng)、 故障/事件自適應(yīng)、 實(shí)時(shí)多平臺協(xié)同、 戰(zhàn)場認(rèn)識、 戰(zhàn)場認(rèn)知、 戰(zhàn)場集群認(rèn)知和完全自主(10級)共11個(gè)等級, 分別針對OODA中的每個(gè)環(huán)節(jié)進(jìn)行基于ACL模型的自主等級劃分[6,21]。 NASA的普勞德在其報(bào)告中基于OODA環(huán)將自主性分為8個(gè)等級, 也是分別對OODA環(huán)中的每個(gè)環(huán)節(jié)都進(jìn)行了自主等級劃分, 同時(shí)還給出詳細(xì)的評價(jià)實(shí)例[6,22]。 為了評價(jià)無人機(jī)與其他系統(tǒng)協(xié)同作戰(zhàn)的能力, 國防科技大學(xué)還提出協(xié)同OODA模型[29], 增加了OODA模型對協(xié)同和交互性能的描述, 從感知、 分析、 規(guī)劃、 協(xié)同、 執(zhí)行五個(gè)維度評價(jià)UAV系統(tǒng)自主性等級, 如圖7所示。

    這些方法雖然等級標(biāo)準(zhǔn)不一, 但都是通過對OODA的每個(gè)環(huán)節(jié)進(jìn)行自主等級劃分和評價(jià), 分別以不同的行為模式定義自主等級, 對整個(gè)作戰(zhàn)過程考慮比較全面, 比較適合智能無人機(jī)系統(tǒng), 可分別牽引各部分技術(shù)發(fā)展[1], 但是對于每個(gè)部分的定級比較困難, 不同無人機(jī)的需求不同, 在實(shí)際試驗(yàn)應(yīng)用中應(yīng)詳細(xì)制定針對性的標(biāo)準(zhǔn)。

    3.3 其他領(lǐng)域自主等級分類

    無人機(jī)領(lǐng)域經(jīng)過20多年的研究, 仍無權(quán)威、 具有實(shí)際使用意義的自主等級標(biāo)準(zhǔn), 而汽車自動駕駛領(lǐng)域發(fā)展較快, 在這方面有更實(shí)質(zhì)的進(jìn)步。 美國機(jī)動車工程師協(xié)會在2016年提出了0~5級的汽車自動化駕駛劃分指導(dǎo), 國內(nèi)工信部也在2020年3月提出了《汽車駕駛自動化分級(報(bào)批稿)》國家標(biāo)準(zhǔn), 將自動化駕駛分為0~5級, 這都是權(quán)威機(jī)構(gòu)或部門的標(biāo)準(zhǔn), 意味著汽車在自主能力評價(jià)方面比無人機(jī)更為成熟。

    由于人工智能技術(shù)在航空裝備領(lǐng)域應(yīng)用還不成熟, 且自主能力的試驗(yàn)組織難度大、 周期長、 消耗大, 使得相關(guān)理論、 技術(shù)的驗(yàn)證進(jìn)度比較緩慢, 目前仍處于對智能無人機(jī)自主性試驗(yàn)與評估的探索中, 各個(gè)方法都有其優(yōu)缺點(diǎn), 尚未形成滿足實(shí)用并普遍認(rèn)同的等級劃分, 很難有一個(gè)模型對不同類型無人機(jī)都適用。 在實(shí)際試驗(yàn)過程中(尤其攻擊型無人機(jī)), 對基于OODA的模型、 ALFUS框架和ACL這三種模型進(jìn)行綜合考慮, 可能在實(shí)際試飛中比較有價(jià)值和可操作性。

    4 無人機(jī)自主作戰(zhàn)能力試驗(yàn)評估技術(shù)的重點(diǎn)發(fā)展領(lǐng)域

    無人機(jī)自主作戰(zhàn)能力試驗(yàn)評估的主要任務(wù)是解決系統(tǒng)能否在無人干預(yù)情況下實(shí)施自主作戰(zhàn)的問題。 由于無人機(jī)具有了自主行為, 使得作戰(zhàn)任務(wù)和作戰(zhàn)能力相比傳統(tǒng)機(jī)械化、 信息化裝備大幅擴(kuò)展, 必然導(dǎo)致試驗(yàn)和評估需求有所增加, 當(dāng)前的試驗(yàn)評估技術(shù)體系無法完成對其進(jìn)行試驗(yàn)和評估的任務(wù), 必須從一些方面重點(diǎn)開展研究, 建立與自主無人機(jī)系統(tǒng)相匹配的試驗(yàn)評估技術(shù)體系。 美國國防部在2015年提出, 試驗(yàn)需求、 試驗(yàn)工具、 試驗(yàn)方法等8個(gè)關(guān)鍵領(lǐng)域是無人機(jī)自主系統(tǒng)的重要方面, 貫穿整個(gè)采購[30]。 美國防御分析研究所2018年也指出, 對抗試驗(yàn)等技術(shù)是無人機(jī)自主性試驗(yàn)中的關(guān)鍵[31]。 針對未來戰(zhàn)爭形態(tài)和裝備研發(fā)模式, 無人機(jī)自主作戰(zhàn)能力試驗(yàn)評估技術(shù)的重要發(fā)展領(lǐng)域主要包括以下方面。

    4.1 重塑試驗(yàn)評估模式

    試驗(yàn)?zāi)J绞茄b備試驗(yàn)評估的基本框架和路線, 只有確定了試驗(yàn)?zāi)J剑?才能開展后續(xù)的試驗(yàn)。 當(dāng)前, 機(jī)械化、 信息化裝備的試驗(yàn)評估模型、 體系、 技術(shù)已經(jīng)比較健全, 其中一些關(guān)鍵點(diǎn)的進(jìn)步是其發(fā)展的重點(diǎn)方向。 而智能化裝備的試驗(yàn)評估尚處于起步階段, 由于被試對象的智能化特性, 當(dāng)前試驗(yàn)評估模式不再適用, 需要建立新的試驗(yàn)評估模式。

    首先是要研究虛實(shí)跨域融合的試驗(yàn)評估模式。 對無人機(jī)自主性的評價(jià)需要對其內(nèi)部算法進(jìn)行大量的驗(yàn)證。 由于算法規(guī)模龐大, 且持續(xù)學(xué)習(xí)進(jìn)步, 無法完全依靠真實(shí)飛行試驗(yàn)的方式試驗(yàn)和評估, 必須大量采信仿真的結(jié)果, 這方面需要數(shù)字孿生、 平行仿真等技術(shù)的應(yīng)用, 實(shí)現(xiàn)虛實(shí)互動、 共同試驗(yàn)。

    其次是要研究多階段融合的一體化試驗(yàn)?zāi)J健?雖然美國當(dāng)前的試驗(yàn)評估強(qiáng)調(diào)“左移”“一體化”, 但其性能試驗(yàn)、 作戰(zhàn)試驗(yàn)等部分仍然是分立為主, 各個(gè)階段有機(jī)融合, 但各個(gè)階段的獨(dú)立性仍然存在, 而智能化無人機(jī), 由于存在“會學(xué)習(xí)”“能進(jìn)步”這一“智力”增長的最突出特點(diǎn), 導(dǎo)致試驗(yàn)評估需要各個(gè)階段實(shí)現(xiàn)真正的融合與一體化, 避免性能試驗(yàn)評價(jià)對象智力為“小學(xué)生級”, 作戰(zhàn)試驗(yàn)評價(jià)對象智力為“博士級”, 各個(gè)階段的自主等級評價(jià)完全不同, 結(jié)果互不適用。 另外, 對于自主性無人機(jī), 更強(qiáng)調(diào)對于算法的持續(xù)驗(yàn)證及模型的持續(xù)優(yōu)化, 需要實(shí)驗(yàn)室和外場之間保持持續(xù)的聯(lián)系和互動, 甚至實(shí)現(xiàn)平行試驗(yàn)。 由于這些特點(diǎn), 需要建立真正意義上一體化的試驗(yàn)評估模式, 將研制方、 試驗(yàn)方從一開始融合在同一試驗(yàn)評估團(tuán)隊(duì), 加強(qiáng)模型和數(shù)據(jù)的共用, 這對當(dāng)前的研發(fā)和試驗(yàn)體系是巨大的挑戰(zhàn)。

    最后, 要研究單樣本持續(xù)增長的試驗(yàn)評估模式。 傳統(tǒng)裝備的試驗(yàn)評估遵循“建立模型→仿真預(yù)測→飛行試驗(yàn)→模型修正”循環(huán)迭代的方式[12], 然而, 對于自主作戰(zhàn)的無人機(jī)而言, 其龐大的算法空間規(guī)模、 不確定的黑箱推理模型、 不確定的作戰(zhàn)行為, 導(dǎo)致無法重復(fù)狀態(tài), 且行為持續(xù)學(xué)習(xí)、 進(jìn)化, 致使預(yù)測-試驗(yàn)-比較的模式行不通, 出現(xiàn)一個(gè)狀態(tài)一個(gè)樣本, 但是樣本持續(xù)增長的情況, 需要著重研究這種單樣本持續(xù)增長的試驗(yàn)評估模式。

    4.2 高智能對抗型試驗(yàn)環(huán)境構(gòu)建

    試驗(yàn)環(huán)境是進(jìn)行無人機(jī)自主系統(tǒng)研究、 學(xué)習(xí)、 測試、 驗(yàn)證和演練必不可少的條件。 由于無人機(jī)自主性試驗(yàn)和評估涉及信息、 控制、 社會學(xué)等, 傳統(tǒng)的靶場、 試驗(yàn)設(shè)施已無法支撐, 這是因?yàn)樽灾餍蜔o人機(jī)具備學(xué)習(xí)能力, 有什么樣的環(huán)境就會訓(xùn)練出什么樣的智能算法和裝備, 經(jīng)歷高智能、 高對抗性、 高復(fù)雜度環(huán)境的磨練, 才能使裝備更聰明, 自主能力更強(qiáng)、 更可靠, 因此對于無人機(jī)自主能力的評價(jià), 要建設(shè)能夠與無人機(jī)持續(xù)交戰(zhàn)的背景環(huán)境、 干擾環(huán)境和目標(biāo)環(huán)境, 能夠根據(jù)無人機(jī)的行為持續(xù)改變環(huán)境特征, 這樣才能真正激勵無人機(jī)的自主作戰(zhàn)行為, 挖掘其潛力, 培養(yǎng)其能力。

    4.3 建立試驗(yàn)評估技術(shù)體系

    一次完整的試驗(yàn)評估包含試驗(yàn)設(shè)計(jì)、 試驗(yàn)設(shè)施、 數(shù)據(jù)采集、 結(jié)果分析與評價(jià)等關(guān)鍵步驟。 由于“自主”的特殊性, 對這些關(guān)鍵步驟也需要研究全新的技術(shù)。

    在試驗(yàn)設(shè)計(jì)方面, 針對智能算法規(guī)模的急劇增加、 樣本空間沒有邊界、 多學(xué)科交叉等問題, 需要研究與傳統(tǒng)正交試驗(yàn)設(shè)計(jì)、 均勻試驗(yàn)設(shè)計(jì)等不同的試驗(yàn)設(shè)計(jì)方法。

    在數(shù)據(jù)采集和處理方面, 若對無人機(jī)全系統(tǒng)數(shù)據(jù)均進(jìn)行采集、 記錄, 會導(dǎo)致數(shù)據(jù)采集記錄系統(tǒng)龐大, 對于載重小的無人機(jī)而言, 可能無法裝載足夠多的測試設(shè)備, 若按當(dāng)前的模式, 事先制定部分采集方案, 又可能對無人機(jī)作戰(zhàn)中意料之外的“自主”行為特征數(shù)據(jù)漏采, 影響事后的分析評判, 因此需要研究自主的數(shù)據(jù)采集技術(shù), 能夠根據(jù)任務(wù)、 行為“自主”改變部分?jǐn)?shù)據(jù)的采集、 記錄內(nèi)容、 方式。

    在結(jié)果評估方面, 為了實(shí)現(xiàn)自主能力的評估, 需要針對智能力、 信任度、 魯棒性、 效能、 人機(jī)交互等方面建立新的評估模型, 這些方面評估的重要性已經(jīng)超過了當(dāng)前無人機(jī)“高度、 速度、 打擊距離…”等指標(biāo)的評估。 同時(shí), 為了實(shí)現(xiàn)對這些新指標(biāo)的評估, 需要構(gòu)建有別于當(dāng)前基于經(jīng)典統(tǒng)計(jì)、 Bayes統(tǒng)計(jì)方法的數(shù)據(jù)處理模型, 因?yàn)橛捎谧灾餍缘拇嬖冢?不同行為樣本的分布特性難以確定, 甚至是完全不同的。

    4.4 建立自主性等級標(biāo)準(zhǔn)

    制定自主性等級評價(jià)標(biāo)準(zhǔn)、 給出無人機(jī)的自主性等級, 是自主無人機(jī)試驗(yàn)評估的顯著特點(diǎn), 與當(dāng)前裝備的評價(jià)明顯不同。

    明確的自主能力分級是研發(fā)、 試驗(yàn)、 使用的基礎(chǔ)。 當(dāng)前, 由于無人機(jī)類型眾多、 作戰(zhàn)任務(wù)模式多樣, 對自主性的認(rèn)識還不統(tǒng)一, 尚無權(quán)威統(tǒng)一的自主性評價(jià)標(biāo)準(zhǔn)體系和方法, 造成在論證、 設(shè)計(jì)、 制造、 試驗(yàn)過程中, 各方對于自主性的認(rèn)識不統(tǒng)一, 交流“頻道”不一, 影響技術(shù)的開發(fā)及裝備的研發(fā)和作戰(zhàn)使用。 為確保合理的研發(fā)使用, 必須建立自主性等級評價(jià)。 自主能力分級是衡量自主能力的可靠工具, 使得自主能力有可比性, 為發(fā)展方向提供明確指示。

    準(zhǔn)確的自主能力分級是合理任務(wù)分配的前提。 人機(jī)協(xié)同的主要作戰(zhàn)模式有: 有人機(jī)支配無人機(jī), 有人機(jī)協(xié)助無人機(jī), 有人機(jī)、 無人機(jī)互補(bǔ)等。 無人機(jī)自主系統(tǒng)逐漸演變?yōu)榕c人并肩作戰(zhàn)的全功能隊(duì)友, 不同復(fù)雜度、 不同環(huán)境任務(wù)對于裝備能力的需求不同, 用等級太高的無人機(jī)執(zhí)行低等級任務(wù), 是“殺雞用牛刀”, 用低等級無人機(jī)執(zhí)行高等級任務(wù), 則難以完成任務(wù), 合理的無人機(jī)等級劃分, 可以使得任務(wù)分配更合理。

    4.5 通用型模型、 工具的建設(shè)

    裝備的試驗(yàn)和評估過程中, 需要一些特定模型和工具的支撐。 對于機(jī)械化、 信息化的裝備而言, 存在種類少的特點(diǎn), 如美國目前主流殲擊機(jī)主要有F-22, F-35, 且一代裝備研制需要數(shù)十年, 模型、 工具開發(fā)尚能應(yīng)付裝備的試驗(yàn), 但是其無人機(jī)裝備類型多、 數(shù)量多, 發(fā)展速度快, 未來的自主性無人機(jī)發(fā)展速度會更快, 導(dǎo)致無法針對每種自主性無人機(jī)去研發(fā)配套相應(yīng)的模型、 工具, 必須研究通用、 互操作的模型、 工具等試驗(yàn)資源, 以應(yīng)對多種多樣的智能無人系統(tǒng)。 為實(shí)現(xiàn)通用模型、 工具的研發(fā), 還需要相應(yīng)的標(biāo)準(zhǔn)、 架構(gòu)的開發(fā)。

    4.6 試驗(yàn)評估中應(yīng)用人工智能技術(shù)

    隨著技術(shù)的發(fā)展, 人工智能不再是一種神秘的力量, 而是一種普適性的使能技術(shù), 是促進(jìn)社會各個(gè)方面進(jìn)步的通用工具, 如同蒸汽、 電力一樣, 只有加快應(yīng)用步伐, 才能提高試驗(yàn)和評估技術(shù)的整體進(jìn)步, 而且有的領(lǐng)域不應(yīng)用人工智能技術(shù)已經(jīng)無法解決, 如海量算法空間的試驗(yàn)設(shè)計(jì)、 大量非結(jié)構(gòu)化數(shù)據(jù)的處理和分析、 智能對抗環(huán)境的構(gòu)建等等。 試驗(yàn)與評估是裝備的量尺, 其智能化水平必須比裝備更高, 才有可能量測出裝備的具體性能。

    5 發(fā)展建議

    針對無人機(jī)自主性試驗(yàn)與評估的重要發(fā)展領(lǐng)域, 對標(biāo)美國的做法, 為國內(nèi)相關(guān)的研究提出以下建議。

    加大頂層規(guī)劃力度, 加快技術(shù)研究速度。 人工智能技術(shù)是有可能顛覆現(xiàn)有大國格局的關(guān)鍵技術(shù)。 美國在軍事智能技術(shù)大量應(yīng)用之前, 已經(jīng)認(rèn)識到現(xiàn)有試驗(yàn)評估技術(shù)無法應(yīng)對自主性的要求, 因此, 早早規(guī)劃了試驗(yàn)技術(shù)的發(fā)展。 智能技術(shù)的發(fā)展速度遠(yuǎn)遠(yuǎn)超過機(jī)械化、 信息化技術(shù)的發(fā)展速度, 導(dǎo)致無人機(jī)自主性能力快速提升, 而自主型無人機(jī)比以往任何領(lǐng)域都更需要充分的試驗(yàn)和評價(jià)。 為避免試驗(yàn)技術(shù)發(fā)展速度與設(shè)計(jì)技術(shù)不匹配、 無法合理評估裝備情況的出現(xiàn), 國內(nèi)也必須體系化考慮自主型無人機(jī)的發(fā)展問題, 與先進(jìn)自主型理論、 技術(shù)的發(fā)展一道同步規(guī)劃試驗(yàn)技術(shù)的研究和資源建設(shè), 加大對試驗(yàn)?zāi)P汀?試驗(yàn)技術(shù)體系的研究速度, 盡早完成準(zhǔn)備。

    加大人工智能技術(shù)在試驗(yàn)評估中的應(yīng)用, 革新試驗(yàn)技術(shù)體系。 人工智能技術(shù)在裝備中的應(yīng)用, 將帶來革命性的變化。 試驗(yàn)與評估技術(shù)作為“尺子”, 必須構(gòu)建更智能的環(huán)境、 更智能的對手、 更智能的試驗(yàn)手段, 才能度量智能技術(shù)水平, 才能應(yīng)對無人機(jī)自主性的試驗(yàn)和評估任務(wù)。

    加大對民用通用型模型、 工具、 標(biāo)準(zhǔn)、 框架的研究和應(yīng)用, 提升軍用無人機(jī)自主性試驗(yàn)與評估的整體進(jìn)步速度。 國內(nèi)對于無人機(jī)自主能力的評估還處于起步階段, 但國內(nèi)外民用領(lǐng)域針對機(jī)器學(xué)習(xí)、 語音識別、 深度學(xué)習(xí)等基礎(chǔ)技術(shù)領(lǐng)域, 以及無人車、 機(jī)器人等典型應(yīng)用場景構(gòu)建了部分專用測試工具、 模型, 開展了大量的公路測試、 試用, 已經(jīng)比較成熟, 且出臺或正在制定一系列標(biāo)準(zhǔn)[32], 但是在無人機(jī)領(lǐng)域推廣不夠, 對于人工智能這種通用化較強(qiáng)的技術(shù), 且民用研究遠(yuǎn)遠(yuǎn)大于軍用研究的情況下, 必須加大對民用通用測試工具、 標(biāo)準(zhǔn)、 框架的研究和推廣, 強(qiáng)力推進(jìn)在軍用無人機(jī)領(lǐng)域的應(yīng)用, 加快研發(fā)進(jìn)度、 降低技術(shù)風(fēng)險(xiǎn)。

    6 結(jié)? 論

    (1) 由于人工智能技術(shù)的應(yīng)用, 無人機(jī)自主作戰(zhàn)發(fā)展是不可逆的高速發(fā)展過程, 將顛覆傳統(tǒng)的作戰(zhàn)模式和制勝機(jī)理, 必須正視并積極應(yīng)用, 但面臨戰(zhàn)爭倫理、 信任度等問題, 充分的試驗(yàn)與評估是確保其投入使用的關(guān)鍵。

    (2) 美國早早認(rèn)識到自主性試驗(yàn)與評估的挑戰(zhàn)和困難, 出臺了大量政策, 支持大量的項(xiàng)目研究。

    (3) 自主等級是無人機(jī)自主作戰(zhàn)能力的最終體現(xiàn), 國內(nèi)外學(xué)者研究了多種模型, 但各有利弊, 適用范圍不同, 在試驗(yàn)評估中需要綜合分析運(yùn)用。

    (4) 為了實(shí)現(xiàn)無人機(jī)自主作戰(zhàn)能力的試驗(yàn)和評估, 需要在試驗(yàn)?zāi)J健?試驗(yàn)技術(shù)體系、 環(huán)境構(gòu)建、 人工智能技術(shù)的應(yīng)用、 通用模型工具等方面進(jìn)行重點(diǎn)研究。

    (5) 為了匹配設(shè)計(jì)技術(shù)的發(fā)展, 建議加大試驗(yàn)評估技術(shù)的頂層規(guī)劃, 實(shí)現(xiàn)試驗(yàn)技術(shù)與設(shè)計(jì)技術(shù)同步發(fā)展, 通過運(yùn)用人工智能技術(shù), 增加通用模型、 工具等的開發(fā), 快速提升無人機(jī)自主性試驗(yàn)與評估的發(fā)展。

    參考文獻(xiàn):

    [1] 楊偉. 關(guān)于未來戰(zhàn)斗機(jī)發(fā)展的若干討論[J]. 航空學(xué)報(bào), 2020, 41(6): 524377.

    Yang Wei. Development of Future Fighters[J]. Acta Aeronautica et Astronautica Sinica, 2020, 41(6): 524377.(in Chinese)

    [2] Department of the Navy Unmanned Campaign Framework[EB/OL].(2021-03-17)[2021-05-24]. https:∥www.subsim.com/department-of-the-navy-unmanned-campaign-framework/.

    [3] Landreth L. Autonomous Horizons: The Way Forward [J]. Air & Space Power Journal, 2020, 34.

    [4] 于成龍, 侯俊杰, 蒲洪波, 等. 新一代人工智能在國防科技領(lǐng)域發(fā)展探討[J]. 國防科技, 2020, 41(4): 13-18.

    Yu Chenglong, Hou Junjie, Pu Hongbo, et al. Development of the New Generation Artificial Intelligence in National Defense Science and Technology[J]. National Defense Technology, 2020, 41(4): 13-18.(in Chinese)

    [5] 劉永才. 新形勢下武器裝備發(fā)展思考[J]. 戰(zhàn)術(shù)導(dǎo)彈技術(shù), 2020(4): 1-12.

    Liu Yongcai. Thoughts on the Development of Weapons and Equipment under the New Situation[J]. Tactical Missile Technology, 2020(4): 1-12.(in Chinese)

    [6] 盧新來, 杜子亮, 許赟. 航空人工智能概念與應(yīng)用發(fā)展綜述[J]. 航空學(xué)報(bào), 2021, 42(4): 251-264.

    Lu Xinlai, Du Ziliang, Xu Yun. Review on Basic Concept and Applications for Artificial Intelligence in Aviation[J]. Acta Aeronautica et Astronautica Sinica, 2021, 42(4): 251-264.(in Chinese)

    [7] 雷宏杰, 姚呈康. 面向軍事應(yīng)用的航空人工智能技術(shù)架構(gòu)研究[J]. 導(dǎo)航定位與授時(shí), 2020, 7(1): 1-11.

    Lei Hongjie, Yao Chengkang. Technical Architecture of Aviation Artificial Intelligence for Military Application[J]. Navigation Positioning and Timing, 2020, 7(1): 1-11.(in Chinese)

    [8] 杜梓冰, 張立豐, 陳敬志, 等. 有人/無人機(jī)協(xié)同作戰(zhàn)演示驗(yàn)證試飛關(guān)鍵技術(shù)[J]. 航空兵器, 2019, 26(4): 75-81.

    Du Zibing, Zhang Lifeng, Chen Jingzhi, et al. Critical Technologies of Demonstration Flight Test of Cooperative Operation for Manned/Unmanned Aerial Vehicles[J]. Aero Weaponry, 2019, 26(4): 75-81.(in Chinese)

    [9] Endsley M R. Autonomous Horizons: System Autonomy in the Air Force—A Path to the Future. Volume I: Human-AutonomyTeaming[R]. Washington D C: United States Air Force Office of the Chief Scientist, 2015.

    [10] 韋正現(xiàn). 智能裝備試驗(yàn)與測試的挑戰(zhàn)與對策思考[J]. 測控技術(shù), 2021, 40(2): 1-5.

    Wei Zhengxian. Challenge and Countermeasure of Intelligent Equipment Experiment and Test[J]. Measurement & Control Technology, 2021, 40(2): 1-5.(in Chinese)

    [11] 權(quán)曉偉, 張灝龍, 龔茂華, 等. 美軍軍事智能試驗(yàn)鑒定技術(shù)發(fā)展態(tài)勢研究[J]. 中國航天, 2021(2): 62-64.

    Quan Xiaowei, Zhang Haolong, Gong Maohua, et al. Research on the Technological Developments of Military Artificial Intelligent Test and Evaluation in US[J]. Aerospace China, 2021(2): 62-64.(in Chinese)

    [12] 周宇,楊俊嶺.美軍無人自主系統(tǒng)試驗(yàn)鑒定挑戰(zhàn)、 做法及啟示[EB/OL]. (2017-03-27) [2021-05-24]. https:∥news.qq.com/a/20170327/019952.htm.

    Zhou Yu,Yang Junling. Challenges, Practices and Implications of the Test and Appraisal of Unmanned Autonomous Systems in the US Military[EB/OL]. (2017-03-27) [2021-05-24]. https:∥news.qq./a/ 20170327/019952.htm. (in Chinese)

    [13] Ilachinski A. AI, Robots, and Swarms: Issues, Questions, and Recommended Studies[R]. Center for Naval Analyses (CNA), 2017.

    [14] Brundage M, Avin S, Clark J, et al. The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation[EB/OL]. (2018-02-01)[2021-05-24]. https:∥www.researchgate.net/publication/ 323302750_The_Malicious_Use_of_Artificial_Intelligence_Forecasting_Prevention_and_Mitigation.

    [15] Carter A B. Autonomy in Weapon Systems: DOD Directive 3000.09[S]. Washington D C: Department of Defense, 2012.

    [16] 張寶珍, 尤晨宇, 吳建龍, 等. 從美國國防部試驗(yàn)鑒定科技計(jì)劃看美軍試驗(yàn)與測試技術(shù)發(fā)展重點(diǎn)[J]. 測控技術(shù), 2020, 39(10): 1-8.

    Zhang Baozhen, You Chenyu, Wu Jianlong, et al. Focus Areas of US Military Test Technology Development in the Light of US Department of Defense Test & Evaluation/Science & Technology Program[J]. Measurement & Control Technology, 2020, 39(10): 1-8.(in Chinese)

    [17] 楊俊嶺,周宇.2019年美軍試驗(yàn)鑒定熱點(diǎn)綜述[EB/OL]. (2020-01-21) [2021-05-24]. https:∥ www. sohu.com /a/368196290_635792.

    Yang Junling, Zhou Yu. A Review of the Hot Spots of Test Identification in the US Military in 2019[EB/OL].? (2020-01-21) [2021-05-24]. https:∥ www. sohu.com /a/368196290_635792. (in Chinese)

    [18] Proud R W, Hart J J, Mrozinski R B. Methods for Determining the Level of Autonomy to Design into a Human Spaceflight Vehicle: A Function Specific Approach[EB/OL]. (2003-09-01)[2021-05-24].http:∥handle.dtic.mil/100.2/ADA515467.

    [19] Vincent P, Roske, Jr. Autonomous System Challenges to Test and Evaluation[R]. National Defense Industrial Association Test & Evaluation, 2012.

    [20] Fahey H K M, Miller M J. Unmanned Systems Integrated Roadmap:FY2017-2042[R]. Washington DC: Office of the under Secretary of Defense, 2017: 4-5.

    [21] Durst P J, Gray W. Levels of Autonomy and Autonomous System Performance Assessment for Intelligent Unmanned Systems[R]. Defense Technical Information Center, 2014.

    [22] Zhang J M, Harman M, Ma L, et al. Machine Learning Testing: Survey, Landscapes and Horizons[J]. IEEE Transactions on Software Engineering, 2019.

    [23] Thompson M. Testing the Intelligence of Unmanned Autonomous Systems[J]. Security, 2008, 29: 380-387.

    [24] Helle P, Schamai W, Strobel C. Testing of Autonomous Systems-Challenges and Current State-of-the-Art[J]. INCOSE International Symposium, 2016, 26(1): 571-584.

    [25] Huang H M. Autonomy Levels for Unmanned Systems (ALFUS) Framework, Volume I: Terminology[R]. National Institute of Standards and Technology, 2008.

    [26] 劉樹光, 茹樂, 王柯. 無人機(jī)自主性評價(jià)方法新進(jìn)展[J]. 飛航導(dǎo)彈, 2019(2): 43-49.

    Liu Shuguang, Ru Le, Wang Ke. New Development of Evaluation Methods for UAV Autonomous Level [J]. Aerodynamic Missile Journal, 2019(2): 43-49.(in Chinese)

    [27] Wang Y C, Liu J G. Evaluation Methods for the Autonomy of Unmanned Systems[J]. Chinese Science Bulletin, 2012, 57(26): 3409-3418.

    [28] Clough B. Metrics, Schmetrics! How do You Track a UAV’s Autonomy? [C]∥1st UAV Conference, 2002.

    [29] Wu L Z, Niu Y F, Zhu H Y, et al. Modeling and Characterizing of Unmanned Aerial Vehicles Autonomy[C]∥ 8th World Congress on Intelligent Control and Automation, 2010: 2284-2288.

    [30] Maj Thoma T, Darryl K A. Workshop Report: Test and Evaluation of Autonomous System[C]∥STAT T&E Center of Excellence, 2016.

    [31] Brian H, David S, David T. The Status of Test, Evaluation, Verification, and Validation of Autonomous System[R].2018.

    [32] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院.人工智能標(biāo)準(zhǔn)化白皮書[EB/OL]. (2020-01-21)[2021-05-24].http:∥www.cesi.cn/ 202107/7796.html.

    China Electronics Standardization Institute. Artificial Intelligence Standardization White Paper[EB/OL]. (2020-01-21)[2021-05-24]. http:∥www.cesi.cn /202107/7796.html.(in Chinese)

    Review on Testing and Evaluation of UAV’s

    Autonomous Operational Ability

    Du Zibing1 , Chen Yindi2*

    (1.Chinese Flight Test Establishment, Xi’an 710089, China;

    2.Military Science Information Research Center, Military Academy of Sciences, Beijing 100142, China)

    Abstract: In order to carry out the testing and evaluation of the autonomous operational ability of the intelligent UAV , this paper studies the urgency and category of testing and evaluation for UAV autonomous ability, then discusses the main policy, plan, technology of the United States, and examines the applicability of the current typical autonomic rating evaluation model in flight test deeply. It analyzes study contents of remodeling of the test and evaluation model, building of a high-intelligent confrontation test environment, establishment of the test and evaluation technology system, forming of the autonomy level standard, construction of the general model and tools, and artificial intelligence applying in various fields of test and evaluation. Suggestions on concern the plan of test and evaluation from the top level, strengthening the application of artificial intelligence technology, increasing the construction of general model and developing the virtual reality integration test are proposed to improve the autonomous technology’s application speed and expand the operational scope of intelligent UAV.

    Key words: military intelligence; artificial intelligence; UAV; autonomous operational ability; test and evaluation; autonomic rate; virtual reality integration test

    猜你喜歡
    無人機(jī)人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    高職院校新開設(shè)無人機(jī)專業(yè)的探討
    人間(2016年26期)2016-11-03 17:52:40
    利用無人機(jī)進(jìn)行航測工作的方式方法
    一種適用于輸電線路跨線牽引無人機(jī)的飛行方案設(shè)計(jì)
    科技視界(2016年22期)2016-10-18 14:30:27
    下一幕,人工智能!
    下一幕,人工智能!
    淺析無人機(jī)技術(shù)在我國的發(fā)展前景
    久久热精品热| 在线观看一区二区三区| 久久久久久久久久久免费av| 变态另类成人亚洲欧美熟女| 国产精品99久久久久久久久| 亚洲成人av在线免费| 亚洲电影在线观看av| 1000部很黄的大片| 国产精品av视频在线免费观看| 免费看美女性在线毛片视频| 国产麻豆成人av免费视频| 国产成人精品一,二区 | 午夜老司机福利剧场| 久久精品夜色国产| 成人欧美大片| 寂寞人妻少妇视频99o| 菩萨蛮人人尽说江南好唐韦庄 | 久久午夜福利片| 99久国产av精品| 欧美日韩国产亚洲二区| 日产精品乱码卡一卡2卡三| 亚洲内射少妇av| 美女cb高潮喷水在线观看| 欧洲精品卡2卡3卡4卡5卡区| 欧美最新免费一区二区三区| 久久这里只有精品中国| 亚洲国产欧美人成| 国产精品免费一区二区三区在线| 神马国产精品三级电影在线观看| 国产免费男女视频| 亚洲人与动物交配视频| 国产人妻一区二区三区在| 麻豆乱淫一区二区| 99热全是精品| 嘟嘟电影网在线观看| 高清在线视频一区二区三区 | 在线免费十八禁| 啦啦啦啦在线视频资源| 精品久久久久久成人av| 精品久久久久久久久久免费视频| 中文字幕av在线有码专区| 国产精品99久久久久久久久| 国产精品1区2区在线观看.| 一进一出抽搐gif免费好疼| 91麻豆精品激情在线观看国产| 久久韩国三级中文字幕| 亚洲精品乱码久久久v下载方式| 国产精品乱码一区二三区的特点| 草草在线视频免费看| 两个人视频免费观看高清| 亚洲一区高清亚洲精品| 亚洲国产精品合色在线| 久久久久久伊人网av| 18禁在线无遮挡免费观看视频| 成熟少妇高潮喷水视频| 日本成人三级电影网站| 国产精品,欧美在线| 国模一区二区三区四区视频| 成人综合一区亚洲| 人体艺术视频欧美日本| 一边亲一边摸免费视频| 国产视频内射| 伦理电影大哥的女人| 少妇丰满av| 免费人成视频x8x8入口观看| 中文字幕人妻熟人妻熟丝袜美| 在线观看66精品国产| www.色视频.com| 国产精品久久久久久av不卡| 国产日韩欧美在线精品| 亚洲激情五月婷婷啪啪| 国产黄色小视频在线观看| 久久精品国产99精品国产亚洲性色| 欧美人与善性xxx| 国产 一区精品| 校园人妻丝袜中文字幕| 国产v大片淫在线免费观看| 久久精品国产亚洲av涩爱 | 欧洲精品卡2卡3卡4卡5卡区| 日本黄大片高清| 国产av不卡久久| 欧美色视频一区免费| 亚洲三级黄色毛片| 欧美日本亚洲视频在线播放| 国产精品久久久久久av不卡| 国产探花在线观看一区二区| 欧美+亚洲+日韩+国产| 久久精品综合一区二区三区| 成年免费大片在线观看| 白带黄色成豆腐渣| 菩萨蛮人人尽说江南好唐韦庄 | or卡值多少钱| 亚洲中文字幕日韩| 国产乱人视频| 菩萨蛮人人尽说江南好唐韦庄 | 国产成人精品久久久久久| 国产精品综合久久久久久久免费| 亚洲精品久久久久久婷婷小说 | 国产黄片美女视频| 男女做爰动态图高潮gif福利片| 在线a可以看的网站| 美女大奶头视频| 九九久久精品国产亚洲av麻豆| 日韩欧美三级三区| 91在线精品国自产拍蜜月| 性插视频无遮挡在线免费观看| 在线免费十八禁| 中出人妻视频一区二区| 午夜精品一区二区三区免费看| 日韩国内少妇激情av| 在线a可以看的网站| 国产午夜福利久久久久久| 日本与韩国留学比较| 亚洲av男天堂| 综合色av麻豆| 69av精品久久久久久| 毛片一级片免费看久久久久| 精品一区二区三区视频在线| 啦啦啦啦在线视频资源| 久久人妻av系列| kizo精华| 在线天堂最新版资源| 精品一区二区三区人妻视频| 男的添女的下面高潮视频| 婷婷六月久久综合丁香| 久久久久久大精品| 午夜福利视频1000在线观看| 直男gayav资源| 久久精品国产亚洲av涩爱 | 中文字幕熟女人妻在线| 精品一区二区三区视频在线| 亚洲av不卡在线观看| 亚洲国产精品久久男人天堂| 中文字幕av在线有码专区| 伦精品一区二区三区| 成年版毛片免费区| 日本五十路高清| 亚洲精品色激情综合| 五月玫瑰六月丁香| 国产一区二区三区在线臀色熟女| 我要看日韩黄色一级片| 国产在线男女| 99久久九九国产精品国产免费| 小说图片视频综合网站| 寂寞人妻少妇视频99o| 欧美日韩精品成人综合77777| 91精品一卡2卡3卡4卡| 国产成人精品一,二区 | av在线蜜桃| 日韩欧美精品v在线| 久久亚洲精品不卡| 男女边吃奶边做爰视频| 久久6这里有精品| 国产精品爽爽va在线观看网站| 免费搜索国产男女视频| 卡戴珊不雅视频在线播放| 禁无遮挡网站| 男的添女的下面高潮视频| 国产精品久久久久久久电影| 久久99蜜桃精品久久| avwww免费| 欧美在线一区亚洲| 国产人妻一区二区三区在| 亚洲av电影不卡..在线观看| 亚洲在线观看片| 色综合色国产| 国产精品久久久久久亚洲av鲁大| 亚洲第一区二区三区不卡| 精品久久久久久久久久久久久| 亚洲人成网站在线播| 国产午夜精品一二区理论片| 亚洲第一区二区三区不卡| 99热网站在线观看| 国产男人的电影天堂91| 亚洲三级黄色毛片| 联通29元200g的流量卡| 国产成人精品久久久久久| 男女下面进入的视频免费午夜| 亚洲国产欧美人成| 欧美xxxx黑人xx丫x性爽| 18禁裸乳无遮挡免费网站照片| 1024手机看黄色片| 18禁黄网站禁片免费观看直播| 亚洲av成人av| 国产黄色视频一区二区在线观看 | 国产在线精品亚洲第一网站| 91狼人影院| 国产精品无大码| 成年女人永久免费观看视频| 久久亚洲精品不卡| 99久久中文字幕三级久久日本| or卡值多少钱| 日本一二三区视频观看| 老司机福利观看| 亚洲欧美日韩东京热| 日韩人妻高清精品专区| 精品午夜福利在线看| 禁无遮挡网站| 亚洲在线自拍视频| 国产精品一区二区性色av| 搡女人真爽免费视频火全软件| 久久久久久大精品| 亚洲欧美日韩高清专用| 国产在视频线在精品| 九九在线视频观看精品| 午夜a级毛片| 亚洲av熟女| 亚洲国产精品国产精品| 国产高清不卡午夜福利| 少妇被粗大猛烈的视频| 欧美性猛交╳xxx乱大交人| 非洲黑人性xxxx精品又粗又长| 国产精品人妻久久久久久| 男人舔奶头视频| 狠狠狠狠99中文字幕| 别揉我奶头 嗯啊视频| 国产精品一区二区在线观看99 | 中出人妻视频一区二区| 亚洲色图av天堂| 亚洲av.av天堂| 欧美成人一区二区免费高清观看| 欧美色视频一区免费| 午夜视频国产福利| 亚洲精品自拍成人| 亚洲av成人av| 成人av在线播放网站| 亚洲av成人精品一区久久| 日本-黄色视频高清免费观看| 亚洲国产欧美在线一区| 麻豆国产av国片精品| 国产伦精品一区二区三区四那| 日本免费一区二区三区高清不卡| 亚洲欧洲日产国产| 午夜爱爱视频在线播放| 少妇的逼水好多| 久久热精品热| 变态另类丝袜制服| 国产人妻一区二区三区在| 成人二区视频| 亚洲精品国产av成人精品| 欧美色欧美亚洲另类二区| 国产伦在线观看视频一区| 国产三级在线视频| 91在线精品国自产拍蜜月| 级片在线观看| 男的添女的下面高潮视频| 国产精品女同一区二区软件| 久久久久九九精品影院| 中文字幕av在线有码专区| 日本与韩国留学比较| 毛片一级片免费看久久久久| av免费观看日本| 一个人看视频在线观看www免费| 午夜a级毛片| 久久国内精品自在自线图片| 国产单亲对白刺激| 99久久九九国产精品国产免费| 91麻豆精品激情在线观看国产| 午夜福利在线观看吧| 久99久视频精品免费| 久久中文看片网| 一夜夜www| 亚洲一区高清亚洲精品| 国产精品一区二区在线观看99 | 美女国产视频在线观看| 狠狠狠狠99中文字幕| 成年av动漫网址| 欧美激情久久久久久爽电影| 神马国产精品三级电影在线观看| 亚洲最大成人av| 一进一出抽搐动态| 国产精品.久久久| 成人漫画全彩无遮挡| 亚洲av成人精品一区久久| 男人舔女人下体高潮全视频| 99热6这里只有精品| 白带黄色成豆腐渣| 九九久久精品国产亚洲av麻豆| 日韩av在线大香蕉| 国产乱人偷精品视频| 人人妻人人澡欧美一区二区| 99久国产av精品国产电影| 成人高潮视频无遮挡免费网站| 99在线人妻在线中文字幕| 亚洲人成网站在线播| 人人妻人人澡欧美一区二区| 少妇熟女欧美另类| 久久精品人妻少妇| 亚洲欧美清纯卡通| 精品不卡国产一区二区三区| 国产黄片视频在线免费观看| 中文资源天堂在线| 成人特级av手机在线观看| 男女那种视频在线观看| www.色视频.com| 如何舔出高潮| av天堂在线播放| 男人和女人高潮做爰伦理| 欧美最新免费一区二区三区| 亚洲五月天丁香| 日本熟妇午夜| 国产黄色小视频在线观看| 看片在线看免费视频| 深夜精品福利| av在线老鸭窝| 免费电影在线观看免费观看| 尤物成人国产欧美一区二区三区| 色综合亚洲欧美另类图片| 男人狂女人下面高潮的视频| 免费看a级黄色片| 亚洲成人久久爱视频| 熟女电影av网| 男人的好看免费观看在线视频| 伦理电影大哥的女人| 一级毛片久久久久久久久女| 中文资源天堂在线| 欧美性感艳星| 欧美人与善性xxx| or卡值多少钱| 成人欧美大片| 97在线视频观看| 免费观看精品视频网站| 亚洲av成人av| 啦啦啦韩国在线观看视频| 亚洲av男天堂| 观看免费一级毛片| 亚州av有码| av黄色大香蕉| 久久中文看片网| 99久久成人亚洲精品观看| 婷婷色综合大香蕉| 中文字幕免费在线视频6| 村上凉子中文字幕在线| 国产亚洲欧美98| 大型黄色视频在线免费观看| 欧美xxxx性猛交bbbb| 人妻夜夜爽99麻豆av| 免费看美女性在线毛片视频| 男女那种视频在线观看| 我的女老师完整版在线观看| 直男gayav资源| 一区福利在线观看| 亚洲图色成人| 亚洲欧美日韩无卡精品| 禁无遮挡网站| 三级男女做爰猛烈吃奶摸视频| 岛国在线免费视频观看| 可以在线观看毛片的网站| 国产av在哪里看| 非洲黑人性xxxx精品又粗又长| 国产精品综合久久久久久久免费| 可以在线观看的亚洲视频| 色哟哟哟哟哟哟| 久久九九热精品免费| 夜夜看夜夜爽夜夜摸| 最后的刺客免费高清国语| 网址你懂的国产日韩在线| 成人午夜高清在线视频| 网址你懂的国产日韩在线| 欧美在线一区亚洲| 日韩在线高清观看一区二区三区| 国产一区二区在线观看日韩| 一边摸一边抽搐一进一小说| 少妇的逼水好多| 免费不卡的大黄色大毛片视频在线观看 | 麻豆av噜噜一区二区三区| 不卡一级毛片| 免费搜索国产男女视频| 国产伦在线观看视频一区| 国产一区二区激情短视频| 九九爱精品视频在线观看| 99久久久亚洲精品蜜臀av| 女人十人毛片免费观看3o分钟| 波多野结衣巨乳人妻| 精品国产三级普通话版| 好男人在线观看高清免费视频| 在线播放无遮挡| 久久99蜜桃精品久久| 国模一区二区三区四区视频| 午夜免费男女啪啪视频观看| 搡女人真爽免费视频火全软件| 成人av在线播放网站| 岛国毛片在线播放| 国产精品国产三级国产av玫瑰| 狂野欧美白嫩少妇大欣赏| 国产白丝娇喘喷水9色精品| 有码 亚洲区| 欧美高清性xxxxhd video| 一进一出抽搐gif免费好疼| 亚洲aⅴ乱码一区二区在线播放| 欧美一级a爱片免费观看看| 18禁黄网站禁片免费观看直播| 国产精品嫩草影院av在线观看| 麻豆成人av视频| 亚州av有码| 男人狂女人下面高潮的视频| 亚洲电影在线观看av| 免费观看人在逋| 日本一本二区三区精品| 91av网一区二区| 国产人妻一区二区三区在| 日韩成人伦理影院| 国产精品一及| 久久久国产成人精品二区| 你懂的网址亚洲精品在线观看 | 国产亚洲精品久久久com| 成人亚洲欧美一区二区av| 一区二区三区四区激情视频 | 综合色丁香网| 色综合色国产| 最近手机中文字幕大全| 寂寞人妻少妇视频99o| 亚洲欧美中文字幕日韩二区| 男人舔奶头视频| 夜夜夜夜夜久久久久| 97人妻精品一区二区三区麻豆| 国产精品久久久久久久久免| 国产精品av视频在线免费观看| 日韩欧美国产在线观看| 一边亲一边摸免费视频| 亚洲国产精品合色在线| 免费大片18禁| 成人高潮视频无遮挡免费网站| 一个人观看的视频www高清免费观看| 黄色日韩在线| 午夜福利视频1000在线观看| 22中文网久久字幕| 一边摸一边抽搐一进一小说| 特级一级黄色大片| 午夜福利在线在线| 亚洲精品色激情综合| 在线观看午夜福利视频| 色综合色国产| 午夜亚洲福利在线播放| 久久久精品大字幕| 亚洲国产精品sss在线观看| 99久久无色码亚洲精品果冻| 亚洲无线观看免费| 精品久久久久久久久av| 日本三级黄在线观看| 免费观看a级毛片全部| 51国产日韩欧美| 欧美区成人在线视频| 日本av手机在线免费观看| 亚洲丝袜综合中文字幕| 亚洲一级一片aⅴ在线观看| 别揉我奶头 嗯啊视频| 久久国产乱子免费精品| 一级黄片播放器| 国产高潮美女av| 禁无遮挡网站| 婷婷精品国产亚洲av| 色播亚洲综合网| 伦精品一区二区三区| 噜噜噜噜噜久久久久久91| 欧美最黄视频在线播放免费| 99久久中文字幕三级久久日本| 亚洲美女搞黄在线观看| 亚洲欧美精品专区久久| 99热6这里只有精品| 12—13女人毛片做爰片一| 久久国内精品自在自线图片| 夫妻性生交免费视频一级片| 日本爱情动作片www.在线观看| 日韩成人伦理影院| 久久久久久大精品| 国产精品野战在线观看| 久久人人爽人人爽人人片va| 欧美潮喷喷水| 亚洲图色成人| 日本色播在线视频| 女人被狂操c到高潮| av在线观看视频网站免费| 99热6这里只有精品| 亚洲成人久久性| 亚洲欧美清纯卡通| 国产午夜精品一二区理论片| 国产精品,欧美在线| 国产久久久一区二区三区| 亚洲自拍偷在线| 99热这里只有是精品在线观看| 大型黄色视频在线免费观看| 日本欧美国产在线视频| 国产精品一区二区在线观看99 | 日本三级黄在线观看| av免费观看日本| 国产精品伦人一区二区| 久久久久久九九精品二区国产| 亚洲四区av| 国产精品一区二区在线观看99 | 久久亚洲国产成人精品v| 有码 亚洲区| 欧美一级a爱片免费观看看| 国产精品免费一区二区三区在线| 亚洲第一电影网av| 男女做爰动态图高潮gif福利片| 精品久久久久久成人av| 国产一区二区在线观看日韩| 中文字幕人妻熟人妻熟丝袜美| 男女边吃奶边做爰视频| 国产精品一区二区三区四区免费观看| 欧美色视频一区免费| 91aial.com中文字幕在线观看| 日韩欧美国产在线观看| 嫩草影院精品99| 黄色日韩在线| 美女 人体艺术 gogo| 精品久久久久久久久亚洲| 国产日韩欧美在线精品| 天美传媒精品一区二区| 欧美三级亚洲精品| 免费看av在线观看网站| 国产精品国产三级国产av玫瑰| 日韩在线高清观看一区二区三区| 97热精品久久久久久| 日韩人妻高清精品专区| 欧洲精品卡2卡3卡4卡5卡区| 国国产精品蜜臀av免费| 欧美不卡视频在线免费观看| 久99久视频精品免费| 色噜噜av男人的天堂激情| 青春草视频在线免费观看| 日韩成人av中文字幕在线观看| 久久精品91蜜桃| 夜夜夜夜夜久久久久| 亚洲av.av天堂| 国产精品不卡视频一区二区| 性色avwww在线观看| av天堂在线播放| 日韩欧美国产在线观看| av在线天堂中文字幕| 一级黄色大片毛片| 人妻系列 视频| 久久婷婷人人爽人人干人人爱| 99精品在免费线老司机午夜| 亚洲七黄色美女视频| 麻豆久久精品国产亚洲av| 91精品国产九色| 亚洲国产欧美在线一区| 看免费成人av毛片| 简卡轻食公司| 男女做爰动态图高潮gif福利片| 波多野结衣巨乳人妻| 亚洲精品影视一区二区三区av| 在线观看av片永久免费下载| 色尼玛亚洲综合影院| 狂野欧美激情性xxxx在线观看| 小说图片视频综合网站| 青春草国产在线视频 | 精品99又大又爽又粗少妇毛片| 99在线人妻在线中文字幕| 婷婷亚洲欧美| 热99re8久久精品国产| 99久久精品热视频| 久久亚洲国产成人精品v| 久久久久九九精品影院| 国产真实伦视频高清在线观看| 日本一本二区三区精品| а√天堂www在线а√下载| 我的老师免费观看完整版| 成人亚洲精品av一区二区| 成年女人永久免费观看视频| av天堂中文字幕网| 国产亚洲欧美98| 深夜精品福利| 欧美激情久久久久久爽电影| 欧美xxxx性猛交bbbb| 久久久久久久久大av| 国产伦一二天堂av在线观看| 给我免费播放毛片高清在线观看| 精品人妻视频免费看| 精品国内亚洲2022精品成人| 天天躁日日操中文字幕| 日本五十路高清| 久久久久久久亚洲中文字幕| 亚洲欧美日韩卡通动漫| 又粗又爽又猛毛片免费看| 午夜久久久久精精品| 一级毛片久久久久久久久女| 麻豆久久精品国产亚洲av| 免费黄网站久久成人精品| 激情 狠狠 欧美| 亚洲中文字幕日韩| 亚洲欧美精品综合久久99| 国产精品日韩av在线免费观看| 小说图片视频综合网站| 成人二区视频| 国产一区二区激情短视频| 女同久久另类99精品国产91| 干丝袜人妻中文字幕| 少妇的逼好多水| 在线观看66精品国产| 女人被狂操c到高潮| 国产黄a三级三级三级人| 一级黄色大片毛片| 又爽又黄无遮挡网站| 变态另类丝袜制服| 国产高清不卡午夜福利| 男人狂女人下面高潮的视频| 亚洲国产欧美人成| 熟女电影av网| 亚洲最大成人中文| 成人性生交大片免费视频hd| 18禁黄网站禁片免费观看直播| 99久久精品一区二区三区| 18禁裸乳无遮挡免费网站照片| av免费观看日本| 国产午夜精品一二区理论片| 99久久精品国产国产毛片| 最新中文字幕久久久久| 中国美白少妇内射xxxbb| 国产老妇伦熟女老妇高清| 国产伦精品一区二区三区视频9| 麻豆成人av视频| 日韩 亚洲 欧美在线|