讓AI從駕駛艙里走開(kāi)

吳越

2018年11月中，久負(fù)盛名的歐洲航空電子設(shè)備制造商泰雷斯公司與法國(guó)國(guó)家宇航研究中心（ONERA）簽署了一份進(jìn)行空間活動(dòng)研究的合作協(xié)議。在隨后的媒體采訪中，這兩大歐洲航空航天工業(yè)巨頭共同拋出了一個(gè)令人震驚的觀點(diǎn)——人工智能（AI）不適合用在駕駛艙中替代飛行員工作！

很顯然，這個(gè)觀點(diǎn)是完全有悖于近來(lái)多數(shù)人的認(rèn)知的。

現(xiàn)代飛機(jī)上的電子設(shè)備越來(lái)越復(fù)雜，飛行員們的工作負(fù)擔(dān)也越來(lái)越重，迫切需要一種輔助的手段協(xié)助飛行員進(jìn)行飛行管理。電傳操縱系統(tǒng)在一定程度上解決了飛機(jī)性能提高和安全性下降之間的矛盾，并通過(guò)設(shè)置邊界保護(hù)、多重冗余等手段，達(dá)成了一定的智能化自動(dòng)操作水平，顯著降低了駕駛員操縱飛機(jī)的負(fù)擔(dān)。但是，除了操縱飛機(jī)之外，現(xiàn)代飛機(jī)的飛行員需要掌控的其他事項(xiàng)仍然較多。而受人類的生理限制，在多任務(wù)監(jiān)控和執(zhí)行、對(duì)飛行參數(shù)變化的敏感度以及進(jìn)行操縱的及時(shí)性等諸多方面，仍然難以滿足現(xiàn)代飛機(jī)的要求，出現(xiàn)飛行員工作負(fù)荷增加、航空安全壓力增大、無(wú)法適應(yīng)現(xiàn)代的空中作戰(zhàn)態(tài)勢(shì)環(huán)境或者飛行環(huán)境等問(wèn)題。據(jù)統(tǒng)計(jì)，目前的航空飛行事故中，大約80%是由于各種人為因素造成的。為此，需要更進(jìn)一步提高AI的能力來(lái)輔助駕駛員進(jìn)行飛機(jī)操縱。

洛克希德公司在上世紀(jì)80年代曾對(duì)一個(gè)可以協(xié)助客機(jī)飛行員進(jìn)行實(shí)時(shí)航線管理和規(guī)劃的AI系統(tǒng)進(jìn)行了研究。從工作原理上來(lái)講，這一類AI主要是采用知識(shí)庫(kù)和專家系統(tǒng)，與實(shí)時(shí)性足夠高的并行處理系統(tǒng)、語(yǔ)音系統(tǒng)等結(jié)合，形成一個(gè)人工智能輔助決策系統(tǒng)，為飛行員提供決策依據(jù)。在此基礎(chǔ)上，增加此類系統(tǒng)的權(quán)限，使其在一定范圍內(nèi)可以接管駕駛員的操縱權(quán)限，便可實(shí)現(xiàn)駕駛員的“無(wú)憂慮操作”，并可以在應(yīng)急時(shí)實(shí)現(xiàn)自動(dòng)化調(diào)整和控制，保證飛機(jī)的安全飛行。例如，美國(guó)空軍在上世紀(jì)90年代對(duì)具有故障重構(gòu)能力的智能型飛控系統(tǒng)進(jìn)行了驗(yàn)證，實(shí)現(xiàn)了在出現(xiàn)一定氣動(dòng)損傷的情況下，仍能維持戰(zhàn)機(jī)飛行的能力。到了今天，這一類AI的發(fā)展已經(jīng)非常成熟，目前幾乎所有的先進(jìn)飛機(jī)上，都已經(jīng)廣泛采用了類似的AI作為駕駛員輔助系統(tǒng)。這類輔助系統(tǒng)屬于初級(jí)AI，目前也幾乎成為了現(xiàn)代飛機(jī)的標(biāo)準(zhǔn)配置。這些初級(jí)AI已經(jīng)成為了現(xiàn)代飛機(jī)系統(tǒng)的一個(gè)有機(jī)組成部分，自然不是ONERA和泰雷斯公司反對(duì)的對(duì)象。

需要可解析的AI

目前普遍探索、并不斷深入發(fā)展的高級(jí)Al，基本上都沿襲了Deep Mind公司在“Alpha Go”上開(kāi)創(chuàng)的道路（“Alpha Go”在2016年擊敗韓國(guó)圍棋九段李世石而一舉成名），關(guān)鍵技術(shù)為深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)。深度學(xué)習(xí)，是高級(jí)AI進(jìn)行自主學(xué)習(xí)的主要方式，通過(guò)人工輸入（或AI按規(guī)則自行生成、獲?。┐罅康臄?shù)據(jù)，AI會(huì)自行建立識(shí)別模型。而由分層算法組成的神經(jīng)網(wǎng)絡(luò)，則是模擬了生物神經(jīng)網(wǎng)絡(luò)的工作原理，非常適合大量數(shù)據(jù)并行操作，可以有效減少計(jì)算時(shí)間，提高反應(yīng)速度。

但是，目前人們對(duì)于高級(jí)AI的最大憂慮，也來(lái)自于深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)。由于深度學(xué)習(xí)只是由人類進(jìn)行目標(biāo)指示，學(xué)習(xí)過(guò)程完全是由AI自主完成，而神經(jīng)網(wǎng)絡(luò)算法多重并行計(jì)算的特征則導(dǎo)致了難以進(jìn)行數(shù)據(jù)回溯。因此，完全可以將這個(gè)過(guò)程看作是AI本身的“黑箱操作”，同時(shí)，高級(jí)AI的這種算法只能保證結(jié)果符合要求，并不能保證整個(gè)過(guò)程都可以受控。因此目前已經(jīng)在許多領(lǐng)域取得重大進(jìn)展的高級(jí)AI技術(shù)，并不滿足現(xiàn)行航空運(yùn)輸安全標(biāo)準(zhǔn)的要求，也不適合用于裝備飛機(jī)駕駛艙。ONERA信息處理和系統(tǒng)主管維金尼·威爾斯對(duì)此評(píng)價(jià)說(shuō)：“如果我們不能解析該系統(tǒng)的功能，我們將很難使其通過(guò)認(rèn)證?！?/p>

另外，目前的高級(jí)AI還有一個(gè)重大缺陷，即只能在限定的規(guī)則中學(xué)習(xí)，以“經(jīng)驗(yàn)主義”的方法來(lái)完成工作，無(wú)法應(yīng)對(duì)額外的錯(cuò)誤或者擾動(dòng)。這對(duì)于保證飛行安全的最高要求來(lái)講，很可能是致命的威脅。去年，位于舊金山的一家人工智能公司Vicorance的專家進(jìn)行了一個(gè)有趣的試驗(yàn)。他們訓(xùn)練了一個(gè)高級(jí)AI學(xué)習(xí)彈珠消除游戲，AI只進(jìn)行了約600次學(xué)習(xí)，便達(dá)到了專業(yè)的人類玩家水平。然而，當(dāng)專家們?cè)谟螒蛑凶龀龈淖儯黾恿艘粋€(gè)不可擊破的區(qū)域之后，AI便完全抓瞎了。Vicarious的專家迪利普·喬治對(duì)此評(píng)論說(shuō)“我們?nèi)祟惒粌H僅是模型識(shí)別器，我們也不斷為看到的新東西建立新模型?！焙茱@然，人類玩家可以迅速適應(yīng)這些變化，而高級(jí)AI則困在了原有的規(guī)則中，無(wú)法突破。人類的邏輯推理能力，使得人腦可以應(yīng)對(duì)許多突發(fā)的變化事件，這也是高級(jí)AI目前無(wú)法達(dá)到的能力。

泰雷斯公司首席技術(shù)官馬爾科·艾爾曼也對(duì)高級(jí)AI出錯(cuò)的可能性進(jìn)行了描述：“系統(tǒng)會(huì)提取圖案，但我們不知道它在做什么——當(dāng)識(shí)別照片上的乒乓球時(shí)，它可能會(huì)被欺騙，在一張展示另一項(xiàng)運(yùn)動(dòng)的照片上，在運(yùn)動(dòng)員的頭發(fā)上增加一些顏色的像素?！?/p>

然而，不可否認(rèn)的是，更強(qiáng)大、更完善、更能滿足人類規(guī)則需求的新型AI，將會(huì)規(guī)避目前高級(jí)AI的缺陷，也是AI技術(shù)未來(lái)進(jìn)一步發(fā)展的方向。事實(shí)上，泰雷斯公司和ONERA目前仍在進(jìn)行新一代AI的研發(fā)工作，他們對(duì)媒體所說(shuō)的駕駛艙不需要AI，僅僅是特指目前仍未成熟、無(wú)法達(dá)到航空工業(yè)標(biāo)準(zhǔn)的AI而已。艾爾曼為此說(shuō)：“我們給自己兩到三年的時(shí)間來(lái)完成第一個(gè)‘可解析人工智能系統(tǒng)。”換句話說(shuō)，泰雷斯公司希望到2021年在新一代AI項(xiàng)目上取得重大進(jìn)展。但威爾斯認(rèn)為，對(duì)這些新AI系統(tǒng)的研究和測(cè)試需要更長(zhǎng)的時(shí)間，在未來(lái)10年里，不會(huì)實(shí)際應(yīng)用到駕駛艙里。

問(wèn)題的關(guān)鍵在于“可解析”，艾爾曼解釋說(shuō)：“正在接受人工智能協(xié)助的人類飛行員必須能夠理解人工智能選擇的原因。目前的用戶還沒(méi)有解決這些問(wèn)題，因?yàn)樗麄儾恍枰鉀Q這些問(wèn)題?！标P(guān)于新AI系統(tǒng)如何獲得認(rèn)證的問(wèn)題，艾爾曼指出，“至于認(rèn)證，我們已經(jīng)與歐洲航空安全局（EASA）談過(guò)，他們很清楚，認(rèn)證標(biāo)準(zhǔn)必須與技術(shù)解決方案同步進(jìn)行發(fā)展?！蓖査箤?duì)此補(bǔ)充說(shuō)，“目前我們還不能進(jìn)行認(rèn)證，因?yàn)槲覀儾恢涝撓到y(tǒng)在每個(gè)案例中都做了什么。”

最近發(fā)生的印尼獅骯波音737客機(jī)空難，使得目前已有的人工智能與人類飛行員的矛盾暴露得更加明顯。根據(jù)事故初步調(diào)查的結(jié)果，由于仰角傳感器故障，導(dǎo)致防失速系統(tǒng)自動(dòng)壓低機(jī)頭，而飛行員發(fā)現(xiàn)飛機(jī)狀態(tài)錯(cuò)誤后及時(shí)拉起，隨后因?yàn)榉朗傧到y(tǒng)具有超越權(quán)限，再次壓低機(jī)頭，二者反復(fù)多次較勁，直至飛機(jī)墜毀，造成了189人喪生的慘劇。很顯然，未來(lái)的新型AI必須能夠擺脫這種單調(diào)功能規(guī)則的局限，并與駕駛員達(dá)成良好的溝通和互動(dòng)，才能真正成為駕駛艙中的好助手。

責(zé)任編輯：王鑫邦

2018年10月29日，印尼獅航JT610航班墜毀，機(jī)型為最新的波音737 MAX 8，機(jī)上189人遇難。