李悅霖
從概念探索到自主作戰(zhàn),人工智能(AI)正被引入航空航天和國防的新領(lǐng)域。機(jī)器學(xué)習(xí)已在數(shù)據(jù)分析領(lǐng)域取得了快速進(jìn)步,下一步將在航空航天領(lǐng)域發(fā)力,從飛機(jī)的設(shè)計與制造到載人與飛行。
波音首席執(zhí)行官丹尼斯·穆林堡(Dennis Muilenburg)表示,人工智能已經(jīng)影響到波音業(yè)務(wù)的方方面面,且這種影響還在繼續(xù)擴(kuò)大。波音于2017年成立了AnalytX組織,專家們已將人工智能應(yīng)用于供應(yīng)鏈和制造系統(tǒng)管理以及工程工具集。人工智能正在波音的產(chǎn)品線和飛機(jī)系統(tǒng)中發(fā)揮著作用。
不過,在人工智能起飛之前,還有一些障礙需要克服??铝炙购娇蘸教旃臼紫瘓?zhí)行官凱利·奧爾特伯格說:“要獲得安全認(rèn)證,必須能預(yù)先確定機(jī)器在某個場景中的行為,但對人工智能卻無法確定這一點(diǎn)。我們只能繼續(xù)研究如何將具有固有非確定性的人工智能應(yīng)用于確定性的認(rèn)知世界,找到其邊界在哪里?!?/p>
空客、波音、洛·馬等公司正在進(jìn)行機(jī)載人工智能試驗(yàn),但還處于起步階段。凱利·奧爾特伯格說:“我認(rèn)為近期內(nèi)還看不到人工智能獨(dú)立駕駛飛機(jī)。人工智能可能會成為一種補(bǔ)充工具,但仍必須有一個能掌控全局的決策系統(tǒng),在出現(xiàn)故障的情況下,有能力決定飛機(jī)的功能?!?/p>
到目前為止,航空航天領(lǐng)域的人工智能多半依賴于統(tǒng)計學(xué)學(xué)習(xí)。雷聲公司首席技術(shù)官馬克·拉塞爾說:“我不認(rèn)為現(xiàn)在真的存在人工智能,但未來人工智能一定能發(fā)揮出更大作用,而不僅是攝取大量數(shù)據(jù)加以整理并協(xié)助決策??傆幸惶?,機(jī)器學(xué)習(xí)能達(dá)到正確的精確度,變得更加確定。”
人工智能在航空航天方面的問題不只有不確定性。當(dāng)今的機(jī)器學(xué)習(xí)系統(tǒng)在經(jīng)過篩選海量數(shù)據(jù)的訓(xùn)練后,雖然在統(tǒng)計模式識別方面非常強(qiáng)大,但它們無法解釋自己得出的結(jié)論。而如果沒有合理的解釋來支持預(yù)測,用戶就無法建立起人工智能與人類共存所需要的信任。
聯(lián)合技術(shù)公司(United Technologies Corp.)首席技術(shù)官保羅·埃列門科表示,實(shí)現(xiàn)人工智能有很多不同的方法,但大多數(shù)在今天都是‘黑箱’。例如,可以訓(xùn)練一個多層卷積神經(jīng)網(wǎng)絡(luò),但無法預(yù)測該神經(jīng)網(wǎng)絡(luò)將來能做什么、不能做什么,只能得到統(tǒng)計數(shù)據(jù),但在現(xiàn)今的鑒定水平下無法對這些數(shù)據(jù)進(jìn)行解釋。無從得知人工智能采取行動的目的甚至不清楚它正在做什么。因此,人工智能的替代方法應(yīng)該是具備可解釋性從而可證明的,還要能提供更好的人機(jī)協(xié)作能力,這是長期發(fā)展的關(guān)鍵。
圖1 計算機(jī)視覺和機(jī)器學(xué)習(xí)等人工智能技術(shù)為大型運(yùn)輸機(jī)的單飛行員操作提供了研究基礎(chǔ)。
由于機(jī)器學(xué)習(xí)固有的復(fù)雜性,可解釋性將是客戶接受人工智能系統(tǒng)的關(guān)鍵。馬克·拉塞爾說,在檢查代碼時不能說‘我可以驗(yàn)證它’,事件性質(zhì)實(shí)際是‘我們應(yīng)如何測試它?’盡管處理了眾多神經(jīng)網(wǎng)絡(luò),仍有許多程序無法調(diào)試,人類無法得知在神經(jīng)網(wǎng)絡(luò)內(nèi)部到底發(fā)生了什么。因此,在某種程度上,必須找到一種方法,讓人類能夠真正理解神經(jīng)網(wǎng)絡(luò)的行為內(nèi)容和內(nèi)在的邏輯。
為了達(dá)到這一目的,DARPA啟動了人工智能Next計劃,在過去的五年里投入了超過20億美元的資金進(jìn)行研發(fā)。主要目標(biāo)之一是開發(fā)可解釋的人工智能,同時創(chuàng)建能從經(jīng)驗(yàn)中學(xué)習(xí)并在現(xiàn)實(shí)世界里運(yùn)行的系統(tǒng),減少訓(xùn)練神經(jīng)網(wǎng)絡(luò)所需的手工標(biāo)記數(shù)量,并防范對網(wǎng)絡(luò)的錯誤分類攻擊。
DARPA參與人工智能的歷史始于20世紀(jì)80年代,當(dāng)時DARPA啟動研究第一波人工智能專家系統(tǒng)。專家系統(tǒng)以手工規(guī)則的形式對各主題專家的知識進(jìn)行編碼。一個例子是飛行員輔助計劃,開發(fā)能幫助單座戰(zhàn)斗機(jī)飛行員的決策支持系統(tǒng)。
DARPA局長史蒂夫·沃克說:“不幸的是,每條規(guī)則都有例外。當(dāng)遇到不符合規(guī)則的情況時,專家系統(tǒng)是脆弱的,但如果添加新規(guī)則來解釋每個異常,將很快變得難以處理?!?/p>
第二波人工智能的重點(diǎn)是以人腦為啟發(fā)建立神經(jīng)網(wǎng)絡(luò),并用大量貼標(biāo)簽的例子來訓(xùn)練它們。史蒂夫·沃克說:“從2010年開始,由于具備了足夠強(qiáng)大的計算機(jī)硬件技術(shù)條件,這些方法的工作效果出奇地好?!?/p>
圖2 訓(xùn)練人工智能處理視距內(nèi)作戰(zhàn),能把戰(zhàn)斗機(jī)飛行員從日常工作中解放出來管理空戰(zhàn),包括無人駕駛的僚機(jī)。
然而,和第一波專家系統(tǒng)一樣,第二波系統(tǒng)也有缺點(diǎn)。例如在給一幅圖片添加難以察覺的噪聲時,連訓(xùn)練有素的神經(jīng)網(wǎng)絡(luò)也可能對其分類嚴(yán)重錯誤?!暗侥壳盀橹?,我們只找到了針對這種對抗性圖像攻擊的特定解決方案,因?yàn)闄C(jī)器學(xué)習(xí)的實(shí)踐已經(jīng)遠(yuǎn)遠(yuǎn)領(lǐng)先于理論?!?/p>
DARPA的可解釋人工智能(XAI)項目正在開發(fā)計算體系架構(gòu),使神經(jīng)網(wǎng)絡(luò)能夠自我解釋。史蒂夫·沃克說:“神經(jīng)網(wǎng)絡(luò)的知識包含在數(shù)以百萬計的鏈接權(quán)重因素中,使得這些系統(tǒng)無法解釋它們的決策。可解釋的人工智能將幫助人類操作員在其系統(tǒng)中建立適當(dāng)?shù)男湃嗡?。?/p>
XAI項目經(jīng)理大衛(wèi)·阿哈表示,機(jī)器學(xué)習(xí)系統(tǒng)無法為特定預(yù)測提供依據(jù),“可能會讓用戶感到沮喪,尤其是當(dāng)他們負(fù)責(zé)關(guān)鍵的應(yīng)用程序時?!盭AI項目正在創(chuàng)建能輸出可解釋模型的機(jī)器學(xué)習(xí)過程,其界面允許用戶查詢該模型,并知曉應(yīng)在何時信任系統(tǒng)。
XAI專注于兩種類型的應(yīng)用:數(shù)據(jù)分析和自主控制。以數(shù)據(jù)分析為例,一個情報分析員與一個機(jī)器學(xué)習(xí)系統(tǒng)共同工作,機(jī)器學(xué)習(xí)系統(tǒng)的職責(zé)是觀察圖像、識別特定對象和活動,并就如何響應(yīng)所觀察到的內(nèi)容提出建議。
XAI的研究成果之一是,機(jī)器學(xué)習(xí)算法中存在隱性偏見,可能導(dǎo)致誤導(dǎo)性的預(yù)測,例如把購物中心誤判為太陽能發(fā)電廠,原因神經(jīng)網(wǎng)絡(luò)對停車場等非關(guān)鍵特征的關(guān)注度超過了用戶對其的關(guān)注度,從而使預(yù)測復(fù)雜化。
XAI項目經(jīng)理表示,在自主性方面,運(yùn)營商感興趣的是自動駕駛汽車為何要采取某些行為。由于看不到車輛行駛情況,操作人員無法獲得信息,因此他們希望能夠詢問模型以理解自動駕駛行為。
XAI項目的目標(biāo)是在不犧牲學(xué)習(xí)性能的前提下提高可解釋性。在處理傳感器數(shù)據(jù)時,深度學(xué)習(xí)模型已被證明可以極大地提升性能,“但常常犧牲了可解釋性。我們的目標(biāo)是創(chuàng)造一個支持機(jī)器學(xué)習(xí)的人工智能系統(tǒng),在該系統(tǒng)中用戶可以理解所學(xué)習(xí)的模型、為什么會生成預(yù)測,以及何時他們可以信任模型并與之有效合作?!?/p>
在另一個涉及自動駕駛汽車的XAI項目中,車輛控制指令生成負(fù)責(zé)模型動作的文本解釋?!把芯咳藛T發(fā)現(xiàn),當(dāng)給出解釋后,人類的表現(xiàn)要好得多。也有證據(jù)表明這些解釋已經(jīng)在這個體系中建立了適當(dāng)?shù)男湃?。但一個缺點(diǎn)是,如果系統(tǒng)提供了錯誤的解釋,可能會造成非常大的損害?!?/p>
DARPA正在推動人工智能進(jìn)入新的領(lǐng)域,如軟件開發(fā)。DARPA項目經(jīng)理山德普·尼曼解釋說,在軟件開發(fā)過程中,系統(tǒng)中的代碼量增加了,軟件中實(shí)現(xiàn)的關(guān)鍵功能增加了,但不可避免的是軟件的缺陷或漏洞也在同時增加,然而用于軟件開發(fā)和質(zhì)量保證的工具和方法卻沒有隨著代碼量的增加而增加。軟件工程師無法有效使用現(xiàn)有的大型代碼庫來理解bug的來源,無法確保它們不會重復(fù)出現(xiàn)。
DARPA項目經(jīng)理尼曼表示,一個解決之道是把軟件程序作為機(jī)器學(xué)習(xí)的數(shù)據(jù)。DARPA正在開發(fā)代碼挖掘、bug檢測和程序綜合的新能力,目的是使工程師易于搜索現(xiàn)有數(shù)據(jù)庫以獲得可用的代碼,將基于學(xué)習(xí)的方法應(yīng)用于異常檢測,并生成最小規(guī)范的程序構(gòu)件。
DARPA也在將人工智能應(yīng)用于設(shè)計。項目經(jīng)理簡·范登布蘭德說:“我關(guān)注的是設(shè)計的早期階段,因?yàn)檫@仍然是一個很有匠心的階段。人工智能如何幫助我們探索所有不同的可能性?在現(xiàn)今選擇很多的條件下,能否利用人工智能探索所有組合來發(fā)現(xiàn)真正新穎的東西?”
研究人員利用圓柱繞流的觀測數(shù)據(jù)訓(xùn)練了一個深度神經(jīng)網(wǎng)絡(luò),并用它來生成控制物理行為的方程。計算結(jié)果非常貼近用于描述粘性流體運(yùn)動的納維爾-斯托克斯方程?!澳芊裼?xùn)練一個神經(jīng)網(wǎng)絡(luò)來發(fā)現(xiàn)我們從未思考過的其他物理定律?也許能創(chuàng)生出一個‘盒子里的牛頓’,比如,把蘋果從樹上掉下的觀測數(shù)據(jù)發(fā)給神經(jīng)網(wǎng)絡(luò),它就能得出結(jié)果F=ma?!?/p>
在另一個項目中,研究人員把強(qiáng)化學(xué)習(xí)和游戲機(jī)的物理引擎結(jié)合起來,尋找新的飛機(jī)滑行方式?!八麄儼l(fā)現(xiàn)了一種新的飛行方式,飛機(jī)利用不同的邊界層來提取能量,增加飛行距離。人工智能所選擇的這條路徑絕不會被有尊嚴(yán)的飛行員所考慮,但有些鳥類會選擇,這說明我們正在發(fā)現(xiàn)一些從來沒有想到的新事物?!?/p>
DARPA還有一個人工智能項目是利用拓?fù)鋬?yōu)化——根據(jù)基礎(chǔ)物理原理來放置和移除材料使重量最小——來平衡形狀與材料之間的關(guān)系,但拓?fù)鋬?yōu)化存在的問題是,需要求解一些復(fù)雜的非線性方程,必須設(shè)置一堆旋鈕,為人工智能提供初步的猜測?!叭祟惒惶瞄L猜測。如果你不把事情安排好,就永遠(yuǎn)找不到解決辦法”。因此,研究人員正在訓(xùn)練神經(jīng)網(wǎng)絡(luò)。目前機(jī)器學(xué)習(xí)可以設(shè)置這些旋鈕并提供初步猜測,能更快地獲得幾個數(shù)量級的解決方案。研究人員正在加快新設(shè)計的合成速度。
人工智能還被應(yīng)用到新的制造流程中。在增材制造零件時,金屬底部比頂部維持熱的時間更長,合金晶粒在底部生長的時間更多,因此底部材料的性能與頂部不同。研究人員考慮的問題是:“能否用人工智能來理解如何設(shè)置機(jī)器的參數(shù),以彌補(bǔ)設(shè)計不足或利用其優(yōu)點(diǎn)?”
波音公司已將此應(yīng)用于電子束增材制造?!芭c焊接類似,我們有大量數(shù)據(jù)和經(jīng)驗(yàn)公式來描述焊接方式與材料性能之間的關(guān)系?!辈ㄒ衾蒙窠?jīng)網(wǎng)絡(luò)收集已知的方程和機(jī)器的加工數(shù)據(jù),進(jìn)行數(shù)據(jù)融合,再根據(jù)工藝參數(shù)導(dǎo)出材料性能。該方法將機(jī)器的性能、工藝和材料結(jié)合起來,可根據(jù)所掌握的所有旋鈕來預(yù)測可能的屈服強(qiáng)度。
洛·馬公司解決了另一個問題:如何確信兩塊復(fù)合材料粘合成功。XAI項目經(jīng)理表示,因無法確定粘合度,一直以來采取的解決方式是不得不在材料內(nèi)部鉆孔、打鉚釘,造成成本和加工時間增加,對材料引入了缺陷。如果能擺脫這一方式,將能節(jié)省重量、時間和成本。
由于目前還沒有可靠的數(shù)學(xué)模型來預(yù)測粘合強(qiáng)度,洛克希德公司詳細(xì)研究了不同參數(shù)的影響,包括溫度、濕度和原材料存放時間。XAI項目人員繪制了一個巨大的決策樹,可以追溯到機(jī)器學(xué)習(xí)的早期。XAI項目經(jīng)理稱,現(xiàn)在研究人員已找到了獲知粘合是否可靠的方法,“如果在決策樹中段的某處結(jié)束,馬上就能知道是否應(yīng)當(dāng)繼續(xù),以及能采取何種緩解措施來提高粘合質(zhì)量。有時,這意味著必須進(jìn)行特定類型的表面處理?;蛘撸瑳Q策樹會告知‘你需要拒絕這一部分,因?yàn)槟阌肋h(yuǎn)也做不到”,它給了你這樣的洞察力。”
但研究人員也表示,人工智能距離取代人類設(shè)計師還有很長的路要走?!皬氖略O(shè)計必須清楚這個世界是如何運(yùn)作的。作為人類,我們不會回到最原始的原則,因?yàn)槲覀兘?jīng)過數(shù)十年的學(xué)習(xí)后在腦中已有了捷徑。但問題是,我們?nèi)绾卫媚撤N人工智能來發(fā)現(xiàn)所有這些捷徑呢?”
DARPA認(rèn)為人工智能設(shè)計的未來是一種伙伴關(guān)系,在這種伙伴關(guān)系中,人類的責(zé)任是形成問題后提供給人工智能。“這些是我需要尋找答案的問題,這些是約束條件”。然后人工智能負(fù)責(zé)搜索能設(shè)計的空間有多大并告知人類:“這里有一些你應(yīng)該探索的想法”。這一方式轉(zhuǎn)變成了計算機(jī)和人類之間的對話,人類從人工智能中獲得了洞察力,進(jìn)而改變了形成問題的方式。
當(dāng)人工智能應(yīng)用于自主作戰(zhàn),與人的交互就成為一個關(guān)鍵問題。
DARPA的Alias項目正在開發(fā)高水平的自動化系統(tǒng),可以加載到飛機(jī)上以減少機(jī)上人員數(shù)量。該系統(tǒng)由西科斯基公司開發(fā),已在西科斯基S-76直升機(jī)和固定翼塞斯納208(Cessna 208)“大篷車”多用途輕型通用飛機(jī)上飛行,將在美國空軍國民警衛(wèi)隊的洛馬F-16 Block 30戰(zhàn)斗機(jī)上飛行測試。目前正在一架可選有人駕駛的UH-60“黑鷹”直升機(jī)上測試,可以有一名、兩名飛行員或不需飛行員。
西科斯基公司正在其Matrix技術(shù)項目下在S-76B SARA自主研究機(jī)上飛行Alias系統(tǒng)。同樣,西科斯基的UH-60A也被改裝成能使用Alias系統(tǒng)的可選有人駕駛飛行器。與此同時,美國陸軍正在改進(jìn)最新的UH-60M,在Alias項目下采用Matrix自主管理系統(tǒng)。
圖3 西科斯基公司使用其S-76 SARA自主研究機(jī)來開發(fā)Alias系統(tǒng)
DARPA的Alias自主系統(tǒng)將在F-16上飛行測試。F-16將是迄今為止采用Matrix進(jìn)行測試的最高性能的飛機(jī)。DARPA計劃將Alias 自主設(shè)施集成到F-16批次30飛機(jī)上。與直升機(jī)上一樣,固定翼飛機(jī)上的Alias主要用來協(xié)助飛行員減少其工作量。F-16上Alias自主系統(tǒng)的開發(fā)與集成將在近期開始,飛行試驗(yàn)預(yù)計在未來三年內(nèi)進(jìn)行。
Alias可使飛行員通過平板電腦與自主系統(tǒng)交互,自主系統(tǒng)利用由數(shù)據(jù)庫和傳感器提供的飛機(jī)環(huán)境信息,自動地完成任務(wù)的規(guī)劃與執(zhí)行。在直升機(jī)上,Alias能規(guī)劃并執(zhí)行可避開已知障礙和和探測障礙的路線。
Alias項目經(jīng)理菲利普·魯特中校說:“在黑鷹這個例子中,飛機(jī)上有兩名飛行員,系統(tǒng)在后臺運(yùn)行,類似于汽車?yán)锏能嚨辣3州o助系統(tǒng)?!钡诙苯亓水?dāng)?shù)氖遣捎昧銈€飛行員,因?yàn)轱w機(jī)上的人工智能系統(tǒng)清楚應(yīng)對所有行動負(fù)責(zé),不需要與飛行員溝通。
“最具挑戰(zhàn)性的情況是只有一名飛行員,因?yàn)橐谱咭幻祟愶w行員后以一個自主副駕駛代替,但這種互動還沒有被很好地理解。”但更具有挑戰(zhàn)性的可能是“少于一名飛行員”——即飛行員無行為能力但又未失去知覺的情況,尤其是在訓(xùn)練期間。
“我們相信Alias項目對此情況能提供真正的幫助,但這是非常有挑戰(zhàn)性的,因?yàn)轱w行員可能并沒意識到他們的能力喪失。最難處理的情況是人工智能的正確決策可能會讓飛行員憤怒,發(fā)覺自己當(dāng)時沒有采取必要的行動。那么,在這種讓人類尷尬的情況下如何找到一種新的合作方式呢?”
目前,Alias項目中不包含人工智能,因?yàn)锳lias系統(tǒng)的設(shè)計初衷是可認(rèn)證的,而且FAA無法對采用學(xué)習(xí)行為的不確定性系統(tǒng)認(rèn)證其適航性。但人工智能正在向空中發(fā)展。DARPA啟動了一項計劃,目標(biāo)是在戰(zhàn)斗機(jī)上使用人工智能。該計劃被稱為“空戰(zhàn)演化”(ACE),旨在創(chuàng)建能夠自動執(zhí)行格斗機(jī)動的算法,使反應(yīng)時間達(dá)到機(jī)器速度,并使飛行員從操縱飛機(jī)中解放出來管理空戰(zhàn)。
ACE計劃緊隨今年3月由美國空軍研究實(shí)驗(yàn)室(AFRL)公布的Skyborg項目,Skyborg計劃在2023財年之前開發(fā)出一個由人工智能控制的“類戰(zhàn)斗機(jī)”控制系統(tǒng)原型。
美國空軍的創(chuàng)新加速器Afwerx將在ACE項目下發(fā)布一份初步征求意見稿,用于“阿爾法近距空戰(zhàn)測試”。DARPA表示,在這一階段,不同的人工智能近距空戰(zhàn)算法將在一場錦標(biāo)賽式的比賽中相互較量。
DARPA承認(rèn)近距空戰(zhàn)未來將非常罕見,并指出ACE項目的最終目標(biāo)是開發(fā)出可信賴的人工智能,使有人機(jī)和無人機(jī)能在近距空戰(zhàn)和其他類型的空戰(zhàn)中協(xié)同工作。
由DARPA戰(zhàn)略技術(shù)辦公室(Strategic Technology Office)發(fā)起的ACE屬于影響深遠(yuǎn)的Mosaic項目。30年前,DARPA的“突擊破壞者”計劃(Assault Breaker program)建立了作戰(zhàn)管理概念,在諾斯羅普·格魯門的E-8C“聯(lián)合星”(Joint Stars)等飛機(jī)上,人類操作員將傳感器數(shù)據(jù)拼在一起并指揮攻擊。Mosaic程序的目標(biāo)是使遙遠(yuǎn)的傳感器網(wǎng)絡(luò)之間的接口自動化。當(dāng)單個部分被破壞或毀壞時,這些算法將用于重構(gòu)網(wǎng)絡(luò)。
DARPA將空戰(zhàn)訓(xùn)練描述為一個熔爐,在熔爐里飛行員的自身能力和對自主系統(tǒng)的信任度得到了很大提高。DARPA表示,ACE將把人機(jī)協(xié)同近距格斗作為一個挑戰(zhàn)場景,以增強(qiáng)飛行員對自主作戰(zhàn)技術(shù)的信任。項目經(jīng)理丹·賈沃塞克中校說:“當(dāng)我們朝著未來的戰(zhàn)爭邁進(jìn),包括有人平臺作戰(zhàn)和與無人系統(tǒng)協(xié)同作戰(zhàn)時,能夠信任自主技術(shù)是至關(guān)重要的?!?/p>
在為期4年的三階段計劃下,作戰(zhàn)自主算法和人機(jī)界面將在一系列日益復(fù)雜的演習(xí)中進(jìn)行開發(fā)和測試,包括先進(jìn)行縮比模型演習(xí),然后進(jìn)行一對一和二對二空戰(zhàn)的全尺寸飛機(jī)演習(xí)。賈沃塞克說:“我們設(shè)想在未來,當(dāng)對方謀劃無人機(jī)蜂群作戰(zhàn)時,我們的人工智能技術(shù)能實(shí)現(xiàn)視距格斗時的瞬間機(jī)動,從而保證我方飛行員安全?!?/p>
通過像訓(xùn)練戰(zhàn)斗機(jī)飛行員那樣訓(xùn)練人工智能形成近距格斗規(guī)則,未來在加速將機(jī)器學(xué)習(xí)能力從數(shù)據(jù)中心轉(zhuǎn)向飛機(jī)駕駛艙方面,ACE項目有望發(fā)揮關(guān)鍵作用。