歐盟研究：AI讓自動(dòng)駕駛汽車易受到攻擊

歐盟網(wǎng)絡(luò)安全機(jī)構(gòu)（ENISA）和聯(lián)合研究中心（JRC）對(duì)自動(dòng)駕駛車輛中的人工智能進(jìn)行研究，發(fā)現(xiàn)其存在網(wǎng)絡(luò)相關(guān)的風(fēng)險(xiǎn)，并提供了緩解這風(fēng)險(xiǎn)的建議。歐盟網(wǎng)絡(luò)安全機(jī)構(gòu)執(zhí)行董事Juhan Lepassaar提到，當(dāng)自動(dòng)駕駛汽車越過(guò)歐盟成員國(guó)的邊界時(shí)，同時(shí)也帶來(lái)了自動(dòng)駕駛汽車的弱點(diǎn)，因此安全性必須是自動(dòng)駕駛汽車可否上路的優(yōu)先考量重點(diǎn)。

研究提到，自動(dòng)駕駛汽車由于消除了發(fā)生交通事故最主要的成因——人，因此有望減少交通事故和死亡人數(shù)，但是卻可能對(duì)駕駛員、乘客和行人帶來(lái)完全不同的風(fēng)險(xiǎn)。自動(dòng)駕駛汽車使用人工智能系統(tǒng)，通過(guò)機(jī)器學(xué)習(xí)技術(shù)來(lái)收集、分析和傳輸資料，執(zhí)行人類駕駛汽車所會(huì)執(zhí)行的決策，但這些系統(tǒng)和其他IT系統(tǒng)一樣，容易受到攻擊，威脅車輛的正常功能。

自動(dòng)駕駛汽車的AI系統(tǒng)，能夠識(shí)別交通與道路標(biāo)志，偵測(cè)車輛及其他道路物體的移動(dòng)，進(jìn)而規(guī)劃行進(jìn)的路線，除了像是突然故障的意外，研究報(bào)告指出，人工智能系統(tǒng)還很脆弱，難以抵御刻意的攻擊，不只人工智能系統(tǒng)被干擾，重要的安全功能也會(huì)受到破壞。

像是在道路上的涂鴉，可能誤導(dǎo)車輛導(dǎo)航功能，或是在停止標(biāo)志上粘貼貼紙，阻止人工智能系統(tǒng)的識(shí)別，這些行為都可能導(dǎo)致人工智能判斷錯(cuò)誤，進(jìn)而采取危險(xiǎn)的行為，影響乘客或是行人的安全。

為了提高自動(dòng)駕駛汽車人工智能的安全性，研究報(bào)告建議，人工智能組件應(yīng)該定期進(jìn)行安全評(píng)估，對(duì)人工智能模型和資料執(zhí)行系統(tǒng)性驗(yàn)證，以確保車輛在遇到意外情況或是惡意攻擊時(shí)，總是能正確地做出反應(yīng)。報(bào)告還建議在連續(xù)風(fēng)險(xiǎn)評(píng)估流程中應(yīng)用威脅情報(bào)（Threat Intelligence），用來(lái)識(shí)別自動(dòng)駕駛汽車中，潛在的人工智能風(fēng)險(xiǎn)以及新興威脅。