吳越
2018年11月中,久負(fù)盛名的歐洲航空電子設(shè)備制造商泰雷斯公司與法國(guó)國(guó)家宇航研究中心(ONERA)簽署了一份進(jìn)行空間活動(dòng)研究的合作協(xié)議。在隨后的媒體采訪中,這兩大歐洲航空航天工業(yè)巨頭共同拋出了一個(gè)令人震驚的觀點(diǎn)——人工智能(AI)不適合用在駕駛艙中替代飛行員工作!
很顯然,這個(gè)觀點(diǎn)是完全有悖于近來(lái)多數(shù)人的認(rèn)知的。
現(xiàn)代飛機(jī)上的電子設(shè)備越來(lái)越復(fù)雜,飛行員們的工作負(fù)擔(dān)也越來(lái)越重,迫切需要一種輔助的手段協(xié)助飛行員進(jìn)行飛行管理。電傳操縱系統(tǒng)在一定程度上解決了飛機(jī)性能提高和安全性下降之間的矛盾,并通過(guò)設(shè)置邊界保護(hù)、多重冗余等手段,達(dá)成了一定的智能化自動(dòng)操作水平,顯著降低了駕駛員操縱飛機(jī)的負(fù)擔(dān)。但是,除了操縱飛機(jī)之外,現(xiàn)代飛機(jī)的飛行員需要掌控的其他事項(xiàng)仍然較多。而受人類的生理限制,在多任務(wù)監(jiān)控和執(zhí)行、對(duì)飛行參數(shù)變化的敏感度以及進(jìn)行操縱的及時(shí)性等諸多方面,仍然難以滿足現(xiàn)代飛機(jī)的要求,出現(xiàn)飛行員工作負(fù)荷增加、航空安全壓力增大、無(wú)法適應(yīng)現(xiàn)代的空中作戰(zhàn)態(tài)勢(shì)環(huán)境或者飛行環(huán)境等問(wèn)題。據(jù)統(tǒng)計(jì),目前的航空飛行事故中,大約80%是由于各種人為因素造成的。為此,需要更進(jìn)一步提高AI的能力來(lái)輔助駕駛員進(jìn)行飛機(jī)操縱。
洛克希德公司在上世紀(jì)80年代曾對(duì)一個(gè)可以協(xié)助客機(jī)飛行員進(jìn)行實(shí)時(shí)航線管理和規(guī)劃的AI系統(tǒng)進(jìn)行了研究。從工作原理上來(lái)講,這一類AI主要是采用知識(shí)庫(kù)和專家系統(tǒng),與實(shí)時(shí)性足夠高的并行處理系統(tǒng)、語(yǔ)音系統(tǒng)等結(jié)合,形成一個(gè)人工智能輔助決策系統(tǒng),為飛行員提供決策依據(jù)。在此基礎(chǔ)上,增加此類系統(tǒng)的權(quán)限,使其在一定范圍內(nèi)可以接管駕駛員的操縱權(quán)限,便可實(shí)現(xiàn)駕駛員的“無(wú)憂慮操作”,并可以在應(yīng)急時(shí)實(shí)現(xiàn)自動(dòng)化調(diào)整和控制,保證飛機(jī)的安全飛行。例如,美國(guó)空軍在上世紀(jì)90年代對(duì)具有故障重構(gòu)能力的智能型飛控系統(tǒng)進(jìn)行了驗(yàn)證,實(shí)現(xiàn)了在出現(xiàn)一定氣動(dòng)損傷的情況下,仍能維持戰(zhàn)機(jī)飛行的能力。到了今天,這一類AI的發(fā)展已經(jīng)非常成熟,目前幾乎所有的先進(jìn)飛機(jī)上,都已經(jīng)廣泛采用了類似的AI作為駕駛員輔助系統(tǒng)。這類輔助系統(tǒng)屬于初級(jí)AI,目前也幾乎成為了現(xiàn)代飛機(jī)的標(biāo)準(zhǔn)配置。這些初級(jí)AI已經(jīng)成為了現(xiàn)代飛機(jī)系統(tǒng)的一個(gè)有機(jī)組成部分,自然不是ONERA和泰雷斯公司反對(duì)的對(duì)象。
目前普遍探索、并不斷深入發(fā)展的高級(jí)Al,基本上都沿襲了Deep Mind公司在“Alpha Go”上開(kāi)創(chuàng)的道路(“Alpha Go”在2016年擊敗韓國(guó)圍棋九段李世石而一舉成名),關(guān)鍵技術(shù)為深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)。深度學(xué)習(xí),是高級(jí)AI進(jìn)行自主學(xué)習(xí)的主要方式,通過(guò)人工輸入(或AI按規(guī)則自行生成、獲?。┐罅康臄?shù)據(jù),AI會(huì)自行建立識(shí)別模型。而由分層算法組成的神經(jīng)網(wǎng)絡(luò),則是模擬了生物神經(jīng)網(wǎng)絡(luò)的工作原理,非常適合大量數(shù)據(jù)并行操作,可以有效減少計(jì)算時(shí)間,提高反應(yīng)速度。
但是,目前人們對(duì)于高級(jí)AI的最大憂慮,也來(lái)自于深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)。由于深度學(xué)習(xí)只是由人類進(jìn)行目標(biāo)指示,學(xué)習(xí)過(guò)程完全是由AI自主完成,而神經(jīng)網(wǎng)絡(luò)算法多重并行計(jì)算的特征則導(dǎo)致了難以進(jìn)行數(shù)據(jù)回溯。因此,完全可以將這個(gè)過(guò)程看作是AI本身的“黑箱操作”,同時(shí),高級(jí)AI的這種算法只能保證結(jié)果符合要求,并不能保證整個(gè)過(guò)程都可以受控。因此目前已經(jīng)在許多領(lǐng)域取得重大進(jìn)展的高級(jí)AI技術(shù),并不滿足現(xiàn)行航空運(yùn)輸安全標(biāo)準(zhǔn)的要求,也不適合用于裝備飛機(jī)駕駛艙。ONERA信息處理和系統(tǒng)主管維金尼·威爾斯對(duì)此評(píng)價(jià)說(shuō):“如果我們不能解析該系統(tǒng)的功能,我們將很難使其通過(guò)認(rèn)證?!?/p>
另外,目前的高級(jí)AI還有一個(gè)重大缺陷,即只能在限定的規(guī)則中學(xué)習(xí),以“經(jīng)驗(yàn)主義”的方法來(lái)完成工作,無(wú)法應(yīng)對(duì)額外的錯(cuò)誤或者擾動(dòng)。這對(duì)于保證飛行安全的最高要求來(lái)講,很可能是致命的威脅。去年,位于舊金山的一家人工智能公司Vicorance的專家進(jìn)行了一個(gè)有趣的試驗(yàn)。他們訓(xùn)練了一個(gè)高級(jí)AI學(xué)習(xí)彈珠消除游戲,AI只進(jìn)行了約600次學(xué)習(xí),便達(dá)到了專業(yè)的人類玩家水平。然而,當(dāng)專家們?cè)谟螒蛑凶龀龈淖儯黾恿艘粋€(gè)不可擊破的區(qū)域之后,AI便完全抓瞎了。Vicarious的專家迪利普·喬治對(duì)此評(píng)論說(shuō)“我們?nèi)祟惒粌H僅是模型識(shí)別器,我們也不斷為看到的新東西建立新模型?!焙茱@然,人類玩家可以迅速適應(yīng)這些變化,而高級(jí)AI則困在了原有的規(guī)則中,無(wú)法突破。人類的邏輯推理能力,使得人腦可以應(yīng)對(duì)許多突發(fā)的變化事件,這也是高級(jí)AI目前無(wú)法達(dá)到的能力。
泰雷斯公司首席技術(shù)官馬爾科·艾爾曼也對(duì)高級(jí)AI出錯(cuò)的可能性進(jìn)行了描述:“系統(tǒng)會(huì)提取圖案,但我們不知道它在做什么——當(dāng)識(shí)別照片上的乒乓球時(shí),它可能會(huì)被欺騙,在一張展示另一項(xiàng)運(yùn)動(dòng)的照片上,在運(yùn)動(dòng)員的頭發(fā)上增加一些顏色的像素?!?/p>
然而,不可否認(rèn)的是,更強(qiáng)大、更完善、更能滿足人類規(guī)則需求的新型AI,將會(huì)規(guī)避目前高級(jí)AI的缺陷,也是AI技術(shù)未來(lái)進(jìn)一步發(fā)展的方向。事實(shí)上,泰雷斯公司和ONERA目前仍在進(jìn)行新一代AI的研發(fā)工作,他們對(duì)媒體所說(shuō)的駕駛艙不需要AI,僅僅是特指目前仍未成熟、無(wú)法達(dá)到航空工業(yè)標(biāo)準(zhǔn)的AI而已。艾爾曼為此說(shuō):“我們給自己兩到三年的時(shí)間來(lái)完成第一個(gè)‘可解析人工智能系統(tǒng)。”換句話說(shuō),泰雷斯公司希望到2021年在新一代AI項(xiàng)目上取得重大進(jìn)展。但威爾斯認(rèn)為,對(duì)這些新AI系統(tǒng)的研究和測(cè)試需要更長(zhǎng)的時(shí)間,在未來(lái)10年里,不會(huì)實(shí)際應(yīng)用到駕駛艙里。
問(wèn)題的關(guān)鍵在于“可解析”,艾爾曼解釋說(shuō):“正在接受人工智能協(xié)助的人類飛行員必須能夠理解人工智能選擇的原因。目前的用戶還沒(méi)有解決這些問(wèn)題,因?yàn)樗麄儾恍枰鉀Q這些問(wèn)題?!标P(guān)于新AI系統(tǒng)如何獲得認(rèn)證的問(wèn)題,艾爾曼指出,“至于認(rèn)證,我們已經(jīng)與歐洲航空安全局(EASA)談過(guò),他們很清楚,認(rèn)證標(biāo)準(zhǔn)必須與技術(shù)解決方案同步進(jìn)行發(fā)展?!蓖査箤?duì)此補(bǔ)充說(shuō),“目前我們還不能進(jìn)行認(rèn)證,因?yàn)槲覀儾恢涝撓到y(tǒng)在每個(gè)案例中都做了什么。”
最近發(fā)生的印尼獅骯波音737客機(jī)空難,使得目前已有的人工智能與人類飛行員的矛盾暴露得更加明顯。根據(jù)事故初步調(diào)查的結(jié)果,由于仰角傳感器故障,導(dǎo)致防失速系統(tǒng)自動(dòng)壓低機(jī)頭,而飛行員發(fā)現(xiàn)飛機(jī)狀態(tài)錯(cuò)誤后及時(shí)拉起,隨后因?yàn)榉朗傧到y(tǒng)具有超越權(quán)限,再次壓低機(jī)頭,二者反復(fù)多次較勁,直至飛機(jī)墜毀,造成了189人喪生的慘劇。很顯然,未來(lái)的新型AI必須能夠擺脫這種單調(diào)功能規(guī)則的局限,并與駕駛員達(dá)成良好的溝通和互動(dòng),才能真正成為駕駛艙中的好助手。
責(zé)任編輯:王鑫邦
2018年10月29日,印尼獅航JT610航班墜毀,機(jī)型為最新的波音737 MAX 8,機(jī)上189人遇難。