自動駕駛安全：方向盤背后的人工智能

Gil Golov

隨著越來越多的自動駕駛汽車在全球高速公路上開始路測，科幻小說描繪的那種“無人駕駛的交通系統(tǒng)”場景好像指日可待了。其實(shí)，在這一天真正來臨之前，我們?nèi)杂性S多工作要做。最近，PBS（美國公共電視臺）的《Nova（中譯：新星，一檔科學(xué)節(jié)目）》播出了一期主題為《看看誰在開車>的內(nèi)容，其中有專家提醒道，人們?nèi)詫媾R許多艱巨的挑戰(zhàn)——尤其是如何訓(xùn)練人工智能（ AI），以提高其在生死攸關(guān)時刻做出和人類一樣決策的能力。這期節(jié)目重點(diǎn)闡釋了這些問題：我們離大規(guī)模部署自動駕駛汽車還有多久？我們真的能放心地把生命托付給AI嗎？

1 一些早期研究證明了自動駕駛汽車的安全優(yōu)勢

車輛安全保障功能和相關(guān)基礎(chǔ)設(shè)施仍處于開發(fā)進(jìn)程，然而在人類真正在方向盤上解放雙手之前，應(yīng)該充分做好“道路準(zhǔn)備（ road-ready）”——所謂“道路準(zhǔn)備”，就是需要將駕駛員、乘客和行人的危險系數(shù)降至最低。盡管第一起自動駕駛汽車撞死行人的事故已經(jīng)發(fā)生并引起廣泛關(guān)注，但到目前為止，通過自動駕駛汽車的有限應(yīng)用，我們能夠證明自動駕駛還是安全的。從統(tǒng)計數(shù)據(jù)來看，自動駕駛比人類司機(jī)表現(xiàn)得還好——根據(jù)美國交通部“死亡分析報告系統(tǒng)”的報告，每10萬人中有11.2人死于交通事故，每行駛1億英里（注：1英里=1.609344 km）就造成1.13人死亡。自動駕駛汽車通常被認(rèn)為是更安全的選擇。美國蘭德公司（ RANDCorporation）的一項(xiàng)研究發(fā)現(xiàn)，超過90%的撞車事故是人為失誤造成的。研究人員最近還預(yù)測，如果自動駕駛汽車可以減少哪怕lo%的交通死亡意外，那么它們將在50年內(nèi)挽救大約1 10萬人的生命。

自動駕駛汽車的安全性一直是人們最為關(guān)心的因素。高級駕駛輔助系統(tǒng)（ADAS）通過提醒駕駛員潛在的問題和碰撞風(fēng)險，實(shí)現(xiàn)安全自動化并增強(qiáng)車輛的安全性。雖然ADAS目前正在推出和普及，但ADAS功能只是汽車實(shí)現(xiàn)完全自動駕駛的一個組件。要想讓AI來控制汽車，我們需要整個行業(yè)和研究機(jī)構(gòu)共同開發(fā)算法和傳感器，以便讓車輛能夠不斷感知、識別其周圍環(huán)境，并在必要時做出實(shí)時反應(yīng)。此外，自動駕駛汽車自身也有一系列問題需要解決，例如惡意軟件攻擊、硬件故障或軟件故障。

長期以來，依托為汽車設(shè)計專家提供高可靠的內(nèi)存和存儲，美光也為自動駕駛未來發(fā)展做出了貢獻(xiàn)。通過與客戶和合作伙伴生態(tài)緊密協(xié)作，美光的高性能、低功耗存儲解決方案專為他們設(shè)計，并為他們提供研究所需要的功能。

2 下一重點(diǎn)：AI中的技術(shù)因素

自動駕駛借助AI來解決傳統(tǒng)算法無法解決的問題，且在需要高精度目標(biāo)檢測和分類的情況下尤甚。對于汽車開發(fā)人員來說，AI可以說是一個全新的領(lǐng)域，這是因?yàn)閭鹘y(tǒng)的確定性系統(tǒng)（ deterministic system）和基于AI的系統(tǒng)之間存在根本的差異，所以大部分的經(jīng)驗(yàn)（包括那些“吃一塹長一智”）無法一直奏效。任何AI系統(tǒng)都可能受到不同觸發(fā)器的影響，而且會嚴(yán)重依賴以下因素。

1） AI模型的準(zhǔn)確性：哪種模型最擅長根據(jù)輸入數(shù)據(jù)來識別數(shù)據(jù)集中變量之間的關(guān)系和模式？該模型決定自動駕駛汽車如何對異常路障做出反應(yīng)。AI訓(xùn)練階段所使用的測量受到幾個參數(shù)的影響，如算法本身、模型的復(fù)雜性、層數(shù)、可變寬度、訓(xùn)練期間的樣本數(shù)，傳感器的分辨率等。

2）硬件的復(fù)雜性：高精度的AI推理需要從易失性存儲器中獲得極高的帶寬。通常需要每秒幾百GB以上。然而，汽車系統(tǒng)也有低功率的需求。

3）非確定性算法（ nondeterministic algorithms）：經(jīng)過訓(xùn)練的AI系統(tǒng)必須對新情況（即系統(tǒng)從未見過的情況）做出反應(yīng)，并且這些系統(tǒng)必須學(xué)會在訓(xùn)練過程中發(fā)現(xiàn)新對象。

4）傳感器的準(zhǔn)確性和可靠性：像攝像頭、激光雷達(dá)和雷達(dá)這樣的傳感器，相當(dāng)于是AI系統(tǒng)的眼睛。但是，并非在一定半徑內(nèi)的每個物體、甚至每個移動的物體都需要讓車輛對其做出反應(yīng)。未能提供準(zhǔn)確的信息可能會導(dǎo)致誤報、誤檢物體以及其他不可預(yù)測的車輛反應(yīng)。因此，我們通常需要一套不同的傳感器來檢測所有照明和天氣狀況。

5）內(nèi)存：易失性和/或非易失性存儲器可能由于物理缺陷和/或軟錯誤而引入錯誤。在汽車中，易失性存儲器在實(shí)時AI操作中起著重要作用，因?yàn)樗脕泶鎯I層緩沖區(qū)以及AI推理過程中使用的經(jīng)過系數(shù)訓(xùn)練的數(shù)據(jù)。在易失性存儲器中無法檢測到的錯誤可能會導(dǎo)致車輛出現(xiàn)異常狀況。因此，在設(shè)計系統(tǒng)時，始終要考慮到可能出現(xiàn)的內(nèi)存故障。

硬件的穩(wěn)定可靠至關(guān)重要。ADAS子系統(tǒng)就是要求最佳的性能，并且也要符合IS0 26262標(biāo)準(zhǔn)規(guī)范。

3 重要的后續(xù)步驟

自動駕駛所采用的新AI技術(shù)也為安全性提出挑戰(zhàn)，因?yàn)樵缙谧詣玉{駛汽車的設(shè)計和驗(yàn)證只能從一個小知識庫中借鑒訓(xùn)練的算法。我們必須為AI建立一個更大的知識庫，以便模擬內(nèi)存在自動駕駛系統(tǒng)中扮演的角色。這將有助于加速訓(xùn)練AI在汽車安全方面的決策功能。

此外，針對自動駕駛汽車的安全要求，目前行業(yè)還沒有出臺完善的規(guī)定。雖然IS0 26262已經(jīng)啟動了關(guān)于道路車輛風(fēng)險分析和危險分類的描述，但也沒有任何監(jiān)管機(jī)構(gòu)確定“安全”的含義。隨著參數(shù)變得更加清晰，指導(dǎo)方針將從自愿化轉(zhuǎn)向規(guī)范化，各個地區(qū)和國家也會將其整合進(jìn)政策中。

我相信，為未來的自動駕駛汽車設(shè)計AI的專業(yè)人士將會不斷地創(chuàng)新工具和基礎(chǔ)設(shè)施，帶領(lǐng)我們抵達(dá)想去的地方。

作者簡介：

Gil Golov，負(fù)責(zé)美光自動駕駛系統(tǒng)架構(gòu)和解決方案的研發(fā)。加入美光之前，曾在一系列研發(fā)崗位上工作了15年。Gil Golov擁有特拉維夫大學(xué)電子科學(xué)學(xué)士學(xué)位和英國布魯內(nèi)爾大學(xué)微電子學(xué)碩士學(xué)位。他個人還持有26項(xiàng)專利。