無人駕駛汽車應用的刑事風險分析

鐘 菁

(華東政法大學 法律學院，上海 200042)

1939年，美國通用汽車公司在紐約世博會上展出了世界上第一輛無人駕駛概念車。[1]20世紀70年代起，人類開始進行無人駕駛技術的研究，不僅傳統(tǒng)的汽車制造企業(yè)致力于研發(fā)人工智能汽車產業(yè)，而且包括谷歌、百度、Uber在內的眾多互聯(lián)網(wǎng)科技公司也紛紛加入人工智能領域研發(fā)的大軍。有專家推測，到2020年無人駕駛技術將在部分國家或城市的路面車載行業(yè)得到全面應用，到2040年無人駕駛技術將覆蓋全球大部分城市。[2]

無人駕駛汽車技術前景明朗，但持消極觀點的專家也提出了質疑和擔憂。2017年4月，物理學家斯蒂芬·霍金在北京會議中心舉行的全球移動互聯(lián)網(wǎng)大會(GMIC)上表示，對人工智能短期的擔憂主要在無人駕駛、智能的致命自主武器等方面。數(shù)據(jù)安全專家Craig Smith在《汽車黑客手冊：防入侵指南》一書中提到，“在自動駕駛汽車出現(xiàn)程序錯誤或者遭遇非法程序入侵時，汽車生產廠商可能無法及時介入幫助車主，而被隔絕的車主自己也無法發(fā)現(xiàn)問題，更談不上提前防護?！盵3]事實上，一旦無人駕駛汽車因失控發(fā)生交通事故，其可能導致的人員和財產侵害將不亞于傳統(tǒng)交通事故可能造成的損失。

一、無人駕駛汽車應用之刑事風險

無人駕駛汽車致人傷害的相關判例，最早可以追溯到1957年發(fā)生在美國路易斯安那州的交通肇事案件。除此之外，2016年5月7日，美國俄亥俄州一名男子駕駛特斯拉Model S電動汽車與一輛突然左轉的卡車發(fā)生交通事故。事故發(fā)生時，特斯拉汽車正在使用自動駕駛系統(tǒng)，沒能及時地自動剎車，直接鉆入了卡車底部，造成了特斯拉車主傷亡的慘劇。2018年3月18日，美國亞利桑那州坦佩市中心的一輛正在無人自動駕駛的Uber汽車將一名橫穿馬路的女子撞死。無人駕駛汽車造成的慘劇連發(fā)，使專家學者對無人駕駛汽車上路的安全問題的擔憂不斷。面對科技力量推動下日新月異的車路環(huán)境變化，應該保護人工智能的繼續(xù)發(fā)展，將無人駕駛汽車失控造成的風險視作“個別的”“允許的”風險，還是應當對無人駕駛汽車技術應用進行必要的控制？

目前，得益于人工智能領域產品的不斷升級，人工智能環(huán)境逐步由弱人工智能向強人工智能轉換，映射到無人駕駛領域就是一個從完全依附于程序編制的“人機協(xié)作”駕駛模式到擁有獨立控制、辨識能力的自主無人駕駛模式的過渡。美國汽車工程師協(xié)會(The Society of Automotive Engineers International，SAE)對無人駕駛汽車的等級作出分類，從“駕駛員完全操控”到“全自動無人駕駛”，無人駕駛汽車被依次劃分為6個等級，分別為：Level0，駕駛員完全操控汽車；Level1，駕駛員操控汽車為主導，自動駕駛系統(tǒng)偶爾起到幫助人工駕駛的效果；Level2，自動駕駛系統(tǒng)可以進行部分駕駛操作，但駕駛員應當時刻關注駕駛環(huán)境并主導駕駛操作；Level3，自動駕駛系統(tǒng)可以自行觀察駕駛環(huán)境并完成駕駛，但駕駛員應當隨時準備在緊急情況下接管汽車；Level4，在特定環(huán)境下自動駕駛系統(tǒng)完全操控汽車；Level5，自動駕駛系統(tǒng)完全操控汽車。[4]目前，這一分類得到了美國交通運輸部(United Stated Department of Transportation，DOT)的認證。筆者認為，若以是否具有自主辨認能力和控制能力為區(qū)分強、弱人工智能產品的依據(jù)[5]，SAE認定的level1-level3階段的無人駕駛汽車應當被認為是弱人工智能產品，而當level4-level5階段的無人駕駛汽車達到獨立辨認控制能力時，則屬于強人工智能階段無人駕駛汽車。

正如上文所述，許多專家認為，相比人類駕駛而言，日漸成熟的車載控制系統(tǒng)能夠更及時、準確地處理道路信息，并迅速作出反應。[6]但自動駕駛系統(tǒng)的運行帶來的風險卻接踵而至。特別是一旦Level4和level5階段的無人駕駛汽車得到全面推廣應用，它的運行已經脫離汽車使用者的監(jiān)管和控制，故而其實施危害社會的風險性將急劇增加。①

第一，技術自身承擔的風險。弱人工智能版本的無人駕駛系統(tǒng)尚無法完全脫離駕駛員的協(xié)作。例如，level3等級的無人駕駛汽車的操作建立在人機相互配合的基礎上，駕駛員對自動駕駛系統(tǒng)的操作起到隨時監(jiān)督和接管的作用。特斯拉Model S汽車上的自動駕駛系統(tǒng)標榜自身設計是一款能夠讓駕駛員在高速公路上安心使用的自動駕駛技術，即便如此，特斯拉汽車駕駛員的手一旦離開方向盤，系統(tǒng)就會鳴響警報，提醒駕駛員應當對汽車的駕駛始終進行監(jiān)督，并隨時準備接管駕駛。特斯拉公司稱，自動駕駛技術尚在發(fā)展之中，并不完美，需要駕駛員時刻保持警惕。[7]如上，弱人工智能階段的無人駕駛汽車在汽車的生產者和設計者編制的系統(tǒng)程式范圍內，不具有獨立的辨識和控制能力，汽車的自動運行是汽車生產者的編程與使用者指令共同控制下的機械性反應。車輛行為不僅受制于既定的程序，還需要人類的監(jiān)督和輔助操作。

無人駕駛汽車因大數(shù)據(jù)、深度學習、神經網(wǎng)絡、蒙特卡洛樹搜索等技術的不斷發(fā)展終會由弱人工智能階段走向強人工智能階段。但事實上，達到了脫離人類指揮和控制的出廠標準的無人駕駛汽車可能依然存在許多不確定的技術風險。因此，對無人駕駛汽車的風險進行刑法等系列法律的防控就變得尤為緊迫和必要。

第二，作為工具實施犯罪的風險。Leve11-level3階段的無人駕駛汽車本質上是具有一定感知能力的機器人，替代了汽車駕駛員，完成了部分駕駛勞動，而犯罪行為人只要熟悉運用數(shù)據(jù)編程控制汽車的內載計算機系統(tǒng)，就可能利用它以微小的代價造成巨大的社會危害。例如，利用無人駕駛汽車為危害國家安全、危害公共安全以及侵犯公民人身權利等犯罪提供便利。隨著人工智能時代的到來，一些特殊的危害國家安全和公共安全、侵犯公民人身權利的犯罪行為，不再需要犯罪行為人親力親為，無人駕駛汽車本身就可以完成指定任務。[5]表現(xiàn)為意圖實施違法犯罪行為的無人駕駛汽車的生產者、設計者或使用者，通過對無人駕駛汽車進行設計和編程，以無人駕駛汽車為工具，實施危害國家安全和公共安全，侵害公民人身權利的行為。使用無人駕駛汽車的反政府武裝分子，不再需要以生命為代價實施自殺式爆炸襲擊，而只需遠程遙控車輛，即可輕松達到嚴重的人員和財產傷害目的。

此外，利用無人駕駛汽車實施危害國家安全犯罪、危害公共安全犯罪和危害人身安全犯罪的行為人，不僅包括無人駕駛汽車的生產者、設計者，還包括入侵他人汽車程序系統(tǒng)的“黑客”。掌握汽車程序編制技術的恐怖分子，可以任意侵入他人所有的汽車系統(tǒng)，通過篡改程序，足不出戶即可控制城市街道環(huán)境，最終造成嚴重的社會混亂和人員傷害。犯罪行為人利用無人駕駛汽車實施上述危險行為的方法，除了諸如殺人、傷害、放火、爆炸等傳統(tǒng)意義上的犯罪行為方式，還包括一些新型的犯罪方式類型。例如，犯罪行為人入侵正在行駛的汽車內載系統(tǒng)，造成汽車程序的錯亂，從而直接導致乘車人員身體遭受損害。在美國著名電視劇《霹靂游俠》中，犯罪行為人以機器人和無人駕駛汽車為犯罪工具，通過操控機器設備，實施了許多諸如殺人、傷害、綁架等犯罪活動。

第三，公民個人信息泄露的風險。大數(shù)據(jù)時代，網(wǎng)絡數(shù)據(jù)的價值驟增，公民的個人信息通常蘊含著一定的經濟利益，這種經濟利益的驅動促使一部分人不擇手段地獲取和利用公民個人信息進行牟利。[9]由于無人駕駛汽車需要方向定位與導航技術的支持，乘客在指定目的地后，智能系統(tǒng)會自動計算行車距離，并選擇最優(yōu)路線，而這一切均會處于定位和導航網(wǎng)絡的控制之下，對同行乘客、乘車時間、所經地點、停車方向、行車軌跡都有具體且清晰的記錄。[10]無人駕駛汽車一旦替代傳統(tǒng)汽車成為使用者每日出行必備的交通工具，那么，犯罪行為人入侵汽車的網(wǎng)絡系統(tǒng)將輕而易舉地獲得汽車使用者的所有日常信息。

為打擊嚴重侵犯公民個人信息的行為，我國早在2009年2月28日通過的《刑法修正案(七)》就明確規(guī)定了“出售、非法提供公民個人信息罪”和“非法獲取公民個人信息罪”。為進一步控制和預防不斷增多的侵害公民個人信息的犯罪行為，2015年8月29日通過的《刑法修正案(九)》對此類犯罪進行了修訂，條文中擴大了該類犯罪對象和主體的范圍，加重了刑罰力度，降低了入罪門檻，旨在完善保障公民個人信息合法權益的法律體系。誠然，保護公民個人信息的法律體系正在逐步完善，但現(xiàn)行法律法規(guī)對可能出現(xiàn)的新型個人信息的非法盜用、公開和利用問題尚無力解決。例如，對拒絕共享自己數(shù)據(jù)的無人駕駛汽車使用者，生產者和設計者應當如何處置用戶個人信息；對系統(tǒng)搜集的無人駕駛汽車使用者信息，生產者和設計者又當如何防止泄露；是否應當設立無人駕駛汽車生產企業(yè)對涉密信息的行業(yè)保護標準和原則，等等。這些問題不僅僅需要刑法加以規(guī)制和調整，還應當與其他法律法規(guī)協(xié)同解決。

無人汽車的生產商是最易于通過智能系統(tǒng)獲取使用者信息的部門，再則即為侵入汽車網(wǎng)絡系統(tǒng)的黑客。前者獲取汽車使用者信息的途徑尚屬合法，只是在出現(xiàn)出售、非法提供個人信息的行為時應承擔相應的刑事責任。后者“輸入”或“輸出”個人信息的渠道均屬違法，都將承擔相應的刑事責任。

第四，主體不確定性產生的風險。此處所說的無人駕駛汽車可能引發(fā)的犯罪行為，其主體的不確定性主要表現(xiàn)在以下三個層面。(1)以無人駕駛汽車為工具危害國家安全、公共安全，侵犯公民人身權利，或非法獲取和侵害公民個人信息，犯罪行為人的行為都生長于虛擬網(wǎng)絡之中，具有較強的隱蔽性。例如，操作無人駕駛汽車的恐怖分子不受限制地隨時發(fā)動恐怖襲擊，深藏在網(wǎng)絡背后，這為其隱藏身份、逃避抓捕提供了有利條件。犯罪行為人利用無人駕駛汽車實施汽車炸彈、遙控汽車沖撞人群等行為，將會更加不可查和不可控。(2)無人駕駛汽車的生產由各類硬件設施、軟件設計和系統(tǒng)程序的研發(fā)人員共同完成，任何環(huán)節(jié)的疏漏或有意損害均有可能導致嚴重交通事故的發(fā)生，因此無人駕駛汽車發(fā)生故障導致交通事故的歸責主體往往很難確定。(3)無人駕駛汽車的自動駕駛系統(tǒng)開啟后，一方面其按照設計者的設計模式操作行駛，另一方面也被允許對數(shù)據(jù)進行自主分析并作出判斷。此種情形下，無人駕駛汽車導致嚴重的交通事故或其他嚴重危害結果，其責任的承擔主體并不容易確定，因此追究相關人員的刑事責任從而預防犯罪行為的再次發(fā)生的難度極大。

第五，強人工智能階段無人駕駛汽車的額外風險。強人工智能階段的無人駕駛汽車屬于高級人工智能機器人，具有自主意志并實施自主的決策。強人工智能產品不限于在生產者、設計者和使用者已設置好的程序范圍內做出行為，可以通過自我的深度學習，獲得獨立的思考能力，并掌握生產者、設計者和使用者不可預知的信息和辨識控制水平。例如，當無人駕駛汽車行駛的道路上出現(xiàn)老人、兒童、寵物等不同的障礙體，車輛通過傳感器獲得道路交通信息后，經過影像的辨識，了解路面障礙體的類型，并在發(fā)生保護車內人員還是保護車外人員二者產生沖突的緊急狀況時，能根據(jù)當時發(fā)生的具體情形，擁有獨立的決斷和取舍能力。再如，擁有脫離程序產生獨立意識和意志的強人工智能階段的無人駕駛汽車，完全可以比擬為一個擁有獨立意志的“司機”機器人。人類將駕駛車輛的雙手解放，把自己的生命安危完全托付給這位“司機”，意味著一旦機器人產生侵害人類的想法，將必然產生嚴重的危害后果。美國著名科幻電影《2001太空漫步》中，向木星進發(fā)的“發(fā)現(xiàn)一號”太空船由一臺人工智能電腦“哈爾”掌控，但“哈爾”卻故意預測錯誤結論，并設計殺害了飛船上的科學家。當下人工駕駛技術要達到強人工智能階段尚需時日，但基于大數(shù)據(jù)、深度學習、神經網(wǎng)絡、蒙特卡洛樹搜索等技術的不斷發(fā)展，人工智能產品必定會由弱人工智能走向強人工智能。

在刑事法律層面上，我們應當立足于可預見的范疇，做好相應的預防和應對措施，明確發(fā)生侵害事實時應當適用的刑法基本原則，這當然也是克服刑事立法滯后性的必然出路。

二、刑事風險對相關罪名適用的沖擊

(一)對交通肇事罪適用的影響

我國《刑法》第133條規(guī)定了交通肇事罪。無人駕駛汽車發(fā)展的法律規(guī)制面臨的問題集中于發(fā)生嚴重交通事故時承擔刑事責任的主體問題以及承擔刑事責任的主體構成交通肇事罪的標準問題。從刑事立法角度來看，就是“交通肇事罪”在無人駕駛汽車造成嚴重交通事故的情形下已經部分喪失了適用的空間。

如果無人駕駛汽車造成交通事故是由汽車的生產者、設計者、使用者或侵入汽車程序系統(tǒng)的黑客故意設計或發(fā)出錯誤指令導致的，那么此類案件應以行為人“故意”認定構成相應的其他犯罪。此外，由于不可抗力或者不能預見的原因引起的重大交通事故，也不能認定交通肇事罪。[11]

根據(jù)刑事歸責主客觀相統(tǒng)一的原則，構成犯罪的主觀要件和客觀要件應同時具備，不可偏廢其一。弱人工智能階段的無人駕駛汽車依然受駕駛員的操控，但駕駛員的主導地位決定了其對自動駕駛汽車的行駛負有全部責任。同時，無人駕駛汽車自動運行時，如果發(fā)生完全由系統(tǒng)故障或者由系統(tǒng)故障與駕駛員操作失誤共同引起的交通事故，則駕駛員責任可適當減輕或者免除。當無人駕駛汽車達到強人工智能水平、汽車使用者的駕駛員身份完全轉變?yōu)槠嚦丝蜁r，無人駕駛汽車自動行駛狀態(tài)下發(fā)生的交通事故與無人駕駛汽車使用者的主觀意志沒有任何直接關系，則很難認定無人駕駛汽車的使用者構成交通肇事罪。事實上，現(xiàn)行的交通肇事罪的法條中并無對不同階段無人駕駛汽車使用者責任的區(qū)分認定標準的規(guī)定。

(二)對醉酒型危險駕駛罪適用的影響

我國《刑法》第133條之一規(guī)定醉酒駕駛機動車，構成危險駕駛罪。近年來，我國國民生活水平提高，人均機動車數(shù)量不斷攀升，但國民的道路交通安全意識依然不足，醉酒駕駛、追逐競駛、超載行駛等問題屢禁不止。2013年12月18日最高人民法院、最高人民檢察院、公安部《關于辦理醉酒駕駛機動車刑事案件適用法律若干問題的意見》規(guī)定：“在道路上駕駛機動車，血液酒精含量達到80毫克/100毫克以上的，屬于醉酒駕駛機動車，按照刑法第一百三十三條之一第一款規(guī)定，以危險駕駛罪定罪處罰?！?/p>

通說認為，危險駕駛罪屬于抽象危險犯[12]，即意味著不存在抽象危險的行為不成立本罪。從行為主體角度來看，level1-level3階段的無人駕駛汽車的使用者尚可稱之為“駕駛員”，因為他們對無人駕駛汽車還擁有部分操控的能力并負有監(jiān)督、接管的義務?；诖耍琹evel1-level3階段的無人駕駛汽車的駕駛員是否為醉酒狀態(tài)還將影響無人駕駛汽車的安全駕駛。而level4、level5階段的無人駕駛汽車的使用者已經失去對無人駕駛汽車的控制，發(fā)生嚴重交通事故時，汽車的使用者由傳統(tǒng)意義上的交通肇事罪“行為主體”轉變成為潛在的“被害人”。同時，若脫離駕駛員操控的汽車造成的交通事故完全起因于無人駕駛汽車自身的行為，則此時的“危險駕駛人”已然不復存在。由此可見，危險駕駛罪在無人駕駛汽車肇事引發(fā)責任中的法律適用根基似乎已經動搖。

三、刑法規(guī)制無人駕駛汽車風險應保有克制

誠然，各國政府及相關企業(yè)對無人駕駛汽車研制發(fā)展的推崇，不僅是科學技術創(chuàng)新推動下的必然結果，也是無人駕駛技術優(yōu)越性的體現(xiàn)。人類對人工智能汽車進行規(guī)制的同時，也應當適當考慮為其發(fā)展預留必要的空間，以保障科學技術的良性發(fā)展。

(一)無人駕駛汽車發(fā)展的優(yōu)越性

無人駕駛汽車相較于傳統(tǒng)的駕駛員操控下的汽車，其優(yōu)越性主要體現(xiàn)在以下幾個方面。

第一，彌補駕駛員身體條件限制，減少交通事故的發(fā)生。有數(shù)據(jù)統(tǒng)計，全球每年大約發(fā)生217萬起交通事故，約造成124萬人死亡，70%的原因都是酒后駕駛、超速駕駛、疲勞駕駛。[13]由于追逐競駛、醉酒駕車等危險駕駛行為頻發(fā)，我國早在《刑法修正案(八)》中就增加了危險駕駛罪名，并規(guī)定：“在道路上駕駛機動車追逐競駛，情節(jié)惡劣的，或者在道路上醉酒駕駛機動車的，處拘役，并處罰金?！弊砭岂{車的危險性主要來自醉酒導致的駕駛狀態(tài)的高度危險，與其相類似的還包括超速駕駛、疲勞駕駛、無證駕駛等情形。

事實上，現(xiàn)實生活中，駕駛員精神疾病、醉酒、疲勞等原因造成的交通事故慘劇不斷。即使是在大量法律法規(guī)明文禁止之下，類似交通事故案件依然屢禁不止。特別是各地司法機關在辦理“醉駕型”危險駕駛案件時，因意見不統(tǒng)一，暴露出諸多問題，例如：基于對刑罰威懾力的迷信，對醉駕案件宜判緩刑的不判緩刑，幾乎成為各地人民法院處理醉駕案件量刑時的共識；對醉駕案件“情節(jié)顯著輕微危害不大不構成犯罪”適用的障礙；忽視對醉駕者主觀罪過形式的判斷等。[14]懲其未犯，罰其未然。無人駕駛汽車的廣泛應用和推廣或許可以成為減少危險駕駛行為、有效降低交通事故發(fā)生率的另一個有效出口。

第二，駕駛模式的選擇增多，提高出行便利性。根據(jù)無人駕駛汽車智能化等級發(fā)展階段的不同，人類可以部分或完全依靠智能系統(tǒng)操控汽車，使汽車根據(jù)使用者的指令安全、順利地行駛。發(fā)展到level4、level5階段的無人駕駛汽車已經被允許完全脫離駕駛員的監(jiān)督和控制，此時的汽車使用者已經不再是“駕駛員”身份，而是“乘客”的身份。根據(jù)公安部2016年修訂并頒發(fā)的《機動車駕駛證申領和使用規(guī)定》中對駕駛人員主體資格的要求，申請小型汽車、小型自動擋汽車等時駕駛員的年齡也被要求控制在18周歲以上、70周歲以下。此外，對申請機動車駕駛證的人員的身高、視力、辨色力、聽力、身體的運動功能等都有相應的要求。相較于傳統(tǒng)汽車駕駛員主體資格上的種種限制，無人駕駛汽車的使用大大放寬了汽車使用者的主體范圍，無人駕駛汽車將能幫助更多的人享受便利的個人出行，特別是老年人、色盲色弱人群及其他身體殘疾不能親自駕車的人群。[15]除此之外，人類使用汽車到達目的地的時間可以被充分利用，人類盡可解放雙手，節(jié)約寶貴的工作和學習時間。

第三，無人駕駛汽車運用廣泛，節(jié)約了人力成本。無人駕駛汽車不僅可以為個人出行提供便利，還可用作特定的行業(yè)和領域。例如，2018年3月20日，全球首個無人駕駛清潔車隊在上海松江區(qū)啟迪漕河涇(中山)科技園試運營成功，無人駕駛清潔車隊在上海松江區(qū)正式亮相。[16]眾所周知，城市清潔團隊工作時間段往往被安排在夜間，使用無人駕駛汽車清潔道路可以防止夜間操作人員過于疲勞，也可避免駕駛員夜間視力不佳而造成的交通事故。又如，隨著生活水平的提高，消費者對服務水平的要求逐步提升，但快遞、送餐等行業(yè)的人工費用越來越高，且難免受到時間限制，無法滿足消費者全天候及時、快速送達的需求。前谷歌工程師創(chuàng)立Nuro公司并推出level4級別的全自動無人配送車，合作的領域包括快遞、餐廳、藥房、生鮮超市、服裝百貨、干洗等。[17]對此，無人駕駛汽車不但節(jié)約了運送行業(yè)龐大的人力資源，也為行業(yè)標準的提升邁出了一大步。

(二)發(fā)展與節(jié)制的博弈

艾扎克·艾西莫夫在《我是機器人》一書中提出“機器人工學三原則”，機器人不得危害人類，不可因為疏忽危險的存在而使人類受害。[18]關于人工智能發(fā)展的限度，歷來有許多不同的聲音。特斯拉CEO伊隆·馬斯克在諸多場合均表示，人工智能可能是人類存在的最大威脅，科學家有時太過于專注研究，以致沒有真正意識到其后果。[19]牛津大學互聯(lián)網(wǎng)研究院盧恰諾·弗洛里迪教授(Lucian Floridi)也認為，人工智能對人類的主要威脅是人類本身，濫用人工智能的危險性堪比核武器，因此需要人類明智地使用這項技術。[20]物理學家斯蒂芬·霍金曾在接受BBC的采訪時表達了對人工智能發(fā)展的擔憂。

在眾多專家和學者對人工智能的發(fā)展發(fā)表消極態(tài)度的同時，也有部分研究者持有不同的觀點。麻省理工學院計算機科學和人工智能實驗室創(chuàng)始人羅德克·布魯斯克(Rodney Brooks)認為，斯蒂芬·霍金、伊隆·馬斯克等人并未從事過人工智能工作，不能認為掌握深度學習能力的AlphaGo打敗了韓國冠軍、中國圍棋冠軍就預示著機器有能力做任何事情。[21]創(chuàng)新工場CEO李開復對人工智能威脅論亦持否定態(tài)度，認為人工智能威脅論過于危言聳聽，人們應該著重關注AI在未來十年帶來的機遇和改變。[20]

無論贊同還是否定人工智能威脅論，人工智能將對未來生活造成翻天覆地的影響是毋庸置疑的。人工智能將根本改變人類的生活，并幫助人類走進自動化的時代，正如無人駕駛汽車擴大使用車輛的人群、節(jié)約人力成本、為出行提供便利等。

居安思危，思則有備，有備無患。筆者認為，在無法提供充分的證據(jù)證明強人工智能的到來將不會對人類造成任何傷害和威脅時，旨在維護社會秩序的法律有義務將風險納入規(guī)范的范疇。在放任和限制人工智能技術發(fā)展和應用的選擇上，應始終以保護人類利益為根本出發(fā)點。正如無人駕駛汽車最終將發(fā)展到強人工智能階段，如果深度學習而產生獨立意識和意志的無人駕駛汽車可能做出傷害人類的行為，就應當限制強人工智能技術在該領域的應用。而一旦強人工智能階段的無人駕駛汽車傷害了人類，不僅可以追究無人駕駛汽車研發(fā)者、使用者的監(jiān)督失職的責任，還可以對無人駕駛汽車本身進行懲罰。[19]

當然，建立無人駕駛汽車的刑法規(guī)制體系的同時，還應當留有一定空間，并遵循必要的限度。首先，源于刑法的謙抑性，若通過其他社會規(guī)范、法律法規(guī)可調整無人駕駛汽車行業(yè)的發(fā)展，或其他刑法罪名已能夠包容所規(guī)制內容，就應當遵循法律體系的一致性。其次，過于嚴厲的法規(guī)不利于無人駕駛汽車行業(yè)的發(fā)展?？萍嫉倪M步就如同一把雙刃劍，對其適當?shù)募s束可以促進社會生活的發(fā)展，對其可能產生的危害后果視而不見則可能導致危害后果的失控。因此，應建立有彈性的刑法規(guī)制體系，將相關風險納入規(guī)范的過程也應保持必要限度。

四、結語

人工智能時代已經來到，無人駕駛汽車的應用不斷擴大，其可能產生的風險也在提高。無人駕駛汽車的應用具有將其作為犯罪工具實施犯罪行為的風險，也有應用過程中汽車使用者個人信息被泄露的風險，還有因犯罪主體難以確定造成的刑事歸責困難的風險。因此，人類在樂享科技進步的同時，應對其可能帶來的風險保持警惕，隨時確保風險的產生具有可控性。刑法對無人駕駛汽車應用的規(guī)制不可或缺，應當加快建立無人駕駛汽車犯罪刑罰體系，明確相關主體的刑事責任承擔問題，確保無人駕駛汽車的良性發(fā)展。

[注釋]

①SEA對汽車等級作出的劃定中，level4、level5階段的無人駕駛汽車具有完全脫離駕駛員自動駕駛的能力。因此，在擁有深度學習能力和獨立的辨認能力和控制能力時，level4、level5階段的無人駕駛汽車可被認定為強人工智能產品。但是，并非所有的level4、level5階段的無人駕駛汽車均可被認為是強人工智能產品，level4、level5階段的無人駕駛汽車與強人工智能產品并不是等價關系。