人工智能：“花?！敝氯杂小扒G棘”

在今年7月國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》（以下簡稱《規(guī)劃》）中提出，到2020年，我國人工智能核心產(chǎn)業(yè)規(guī)模超過1500億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過1萬億元。頂層設(shè)計相繼出臺，巨頭發(fā)力布局生態(tài)，資本市場熱情洋溢，細(xì)分行業(yè)獨角獸不斷涌現(xiàn)，人工智能這片“花?！币巡恢埂翱瓷先ズ苊馈薄?/p>

但“花?！敝氯杂小扒G棘”。市場研究機(jī)構(gòu)埃森哲大中華區(qū)信息技術(shù)服務(wù)總裁陳笑冰坦言：“人工智能也將會引發(fā)新的安全和倫理問題，鑒于未來人工智能將深入生活，政府也需要切實為人工智能制定監(jiān)管規(guī)則，保證人工智能應(yīng)用合理合規(guī)發(fā)展?！薄兑?guī)劃》也同時提出：“人工智能發(fā)展的不確定性帶來新挑戰(zhàn)。人工智能是影響面廣的顛覆性技術(shù)，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關(guān)系準(zhǔn)則等問題，將對政府管理、經(jīng)濟(jì)安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響?！?/p>

人工智能發(fā)展將面對怎樣的挑戰(zhàn)與風(fēng)險？又應(yīng)該設(shè)立怎樣的“游戲規(guī)則”，讓新技術(shù)能夠與人類社會良性互動？

監(jiān)管剛剛起步

此前有報道稱，“臉書”人工智能研究所中的兩個聊天機(jī)器人“失控”，發(fā)展出了人類無法理解的語言，“被迫關(guān)閉”引發(fā)了廣泛關(guān)注。盡管隨后被證明是一場“烏龍”，只是因為工程師忘記加入“使用英語語法”這一條件。

但對事實的夸大報道，也顯示出媒體和公眾對人工智能的憂慮。在北京市中盾律師事務(wù)所律師陳濤看來，隨著人工智能深入融入生產(chǎn)和生活，必須以立法來對其安全性進(jìn)行監(jiān)管，給公眾吃下“定心丸”?；ヂ?lián)網(wǎng)汽車的特斯拉埃隆·馬斯克也表示，我們應(yīng)該警惕人工智能崛起的潛在風(fēng)險，并建立監(jiān)管機(jī)構(gòu)來引導(dǎo)這項強(qiáng)大技術(shù)的發(fā)展。

對人工智能進(jìn)行立法監(jiān)管，首先要解決人工智能使用中基本的安全問題，以及使用者與服務(wù)提供者的責(zé)任界定問題。以無人駕駛汽車為例，上路前，對其安全性如何全面評判？一旦無人駕駛汽車出現(xiàn)事故，如何判斷使用者、軟件提供商以及車輛制造商等多方主體的責(zé)任，如何在后續(xù)賠償和保險理賠中進(jìn)行規(guī)定？實際上，立法監(jiān)管不僅降低風(fēng)險，也讓服務(wù)企業(yè)能夠“有據(jù)可依”，從而促進(jìn)和保障人工智能的健康發(fā)展。

從目前來看，各個國家的人工智能監(jiān)管都剛剛被提上日程。在美國，2016年10月，總統(tǒng)行政辦公室和國家科技委員會發(fā)布了兩份重量級報告：《美國國家人工智能研究發(fā)展戰(zhàn)略規(guī)劃》與《為未來的人工智能做好準(zhǔn)備》，后者提出了發(fā)展人工智能的7項關(guān)鍵戰(zhàn)略，在第三條“社會影響戰(zhàn)略”中，提出“理解和確定人工智能在法律、倫理和社會領(lǐng)域中的影響”；在第四條“安全戰(zhàn)略”中，則提出“確保人工智能系統(tǒng)的安全和對公眾的隱私保護(hù)”。

在歐盟，2016年歐盟法律事務(wù)委員會向歐盟提交了《歐盟機(jī)器人民事法律規(guī)則》，針對基于人工智能控制的機(jī)器人，提出了使用的責(zé)任規(guī)則、倫理原則、對人類自身和財產(chǎn)的傷害賠償?shù)缺O(jiān)管原則。英國下議院科學(xué)技術(shù)委員會在今年4月表示，也將開展關(guān)于人工智能監(jiān)管的研究。

在我國，《規(guī)劃》中同樣提出，到2020年，“部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立”。其中特別提出，要“開展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等法律問題研究，建立追溯和問責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等”，“重點圍繞自動駕駛、服務(wù)機(jī)器人等應(yīng)用基礎(chǔ)較好的細(xì)分領(lǐng)域，加快研究制定相關(guān)安全管理法規(guī)，為新技術(shù)的快速應(yīng)用奠定法律基礎(chǔ)”。

不過，對人工智能的監(jiān)管也不能“閉門造車”。“立法的前提是了解人工智能的科學(xué)規(guī)律，需要充分準(zhǔn)備、摸索和積累，對技術(shù)進(jìn)步充分了解，同時考慮公眾的實際需求?！标悵硎尽?/p>

安全仍有漏洞

兩張人眼看起來一模一樣的熊貓圖片，一張被神經(jīng)網(wǎng)絡(luò)正確識別為“熊貓”，另外一張卻因為被加上了人眼難以察覺的微小擾動，就被神經(jīng)網(wǎng)絡(luò)以99.3%的置信度識別為“長臂猿”——這就是可以“愚弄”人工智能的對抗樣本，直接折射出人工智能所面對的安全問題縮影。

專注于互聯(lián)網(wǎng)安全的極棒實驗室總監(jiān)王海兵告訴筆者：“安全是人工智能面臨的巨大挑戰(zhàn)。”他表示，一方面，人工智能要面對傳統(tǒng)的黑客攻擊方式，比如在應(yīng)用層面，可以攻擊它的操作系統(tǒng)或者邏輯漏洞?！氨热缯f，通過對智能門鎖的攻擊，就能實現(xiàn)任意人臉都可以通過門禁。”在人工智能的基礎(chǔ)設(shè)施方面，則可以對人工智能使用的數(shù)據(jù)庫、云服務(wù)等進(jìn)行攻擊，“比如說，機(jī)器視覺經(jīng)常調(diào)用的OpenCv庫，機(jī)器學(xué)習(xí)用到的TensorFlow框架，人工智能的從業(yè)者可以直接調(diào)用這些服務(wù)，但不幸的是，這些基礎(chǔ)設(shè)施同樣有漏洞。”王海兵說。

然而，人工智能所面對的更關(guān)鍵安全問題，正是諸如熊貓圖片這樣的對抗樣本。王海兵表示：“用對抗樣本攻擊人工智能，其實就是從最核心的算法層面來攻擊它?！?/p>

美國加州大學(xué)伯克利分校教授宋曉冬這樣介紹對抗樣本攻擊的危害：“比如，無人駕駛汽車根據(jù)交通標(biāo)示進(jìn)行決策。如果交通標(biāo)示是一個對抗樣本，那么人類可以完全不受干擾，但無人駕駛汽車卻可能將它完全識別成錯誤信息，這將帶來嚴(yán)重后果。”實際上，美國伊利諾伊大學(xué)的一項測試已經(jīng)證明，自動駕駛系統(tǒng)有可能被對抗樣本“蒙騙”。

“但公眾不用過于擔(dān)心，至少現(xiàn)在來看，針對自動駕駛的對抗樣本對抗性很差。比如，它只能在0.5米的距離內(nèi)讓自動駕駛系統(tǒng)錯判，但自動駕駛場景畢竟是逐漸接近交通標(biāo)識的?！蓖鹾１脖硎?，“未來會不會有更完美的對抗樣本，仍是未知數(shù)。”

人工智能面對眾多安全問題，對此，開發(fā)者也在努力總結(jié)與之對抗的手段。智能家居生產(chǎn)廠商BroadLink高級副總裁康海洋表示：“我們會將多方數(shù)據(jù)融合和統(tǒng)一分析，以提升數(shù)據(jù)的可信程度，同時也在盡量讓整個系統(tǒng)變得更加透明。此外，我們還會及時銷毀所有能銷毀的數(shù)據(jù)，減少用戶被攻擊的可能性?！?/p>

倫理尚待明確

如果保持前行，會撞上沿途的5位行人；如果避開他們，就會撞上路邊的墻，車中的兩名乘客則可能有生命危險。在這種情況下，指揮自動駕駛的人工智能應(yīng)該如何選擇？英國倫敦瑪麗女王大學(xué)高級講師雅思密·艾登表示：“如果是人類駕駛員，大可以直接撞上行人，并表示‘是他們自己突然跳出來的’，但人工智能在道德上很難獲得這么奢侈的原諒?！?/p>

這只是人工智能所處倫理困境的冰山一角。今年以來，麻省理工和哈佛大學(xué)聯(lián)合推出了人工智能倫理研究計劃，微軟和谷歌等巨頭也成立了人工智能倫理委員會，告訴人工智能何為“正確”，正在成為當(dāng)務(wù)之急?！痘ヂ?lián)網(wǎng)進(jìn)化論》一書的作者、計算機(jī)博士劉鋒坦言：“盡管大方向上說，人工智能應(yīng)當(dāng)以造福人類為前提，但如果不對進(jìn)化方向和目標(biāo)形成共識，人工智能的倫理規(guī)則將無法‘落地’?！?/p>

對于人工智能來說，“倫理正確”的核心是正確的“算法”。美國一些法院使用的一個人工智能犯罪風(fēng)險評估算法COMPAS，被第三方機(jī)構(gòu)認(rèn)為對黑人造成了系統(tǒng)性歧視。業(yè)界因此懷疑，小眾人群有可能因為個體差異而承受“算法的歧視”。騰訊研究院研究員曹建峰表示，如果算法本身有問題，一旦將算法應(yīng)用在犯罪評估、信用貸款、雇傭評估等關(guān)乎人身利益的場合，“因為它是規(guī)?；\(yùn)作的，并不是僅僅針對某一個人，可能影響具有類似情況的一群人或者種族的利益。規(guī)模性是很大的”。

此外，還有來自數(shù)據(jù)的風(fēng)險。以色列歷史學(xué)家尤瓦爾·赫拉利表示，“人工智能技術(shù)的一個潛在結(jié)果是：促成數(shù)據(jù)集中到某一個地方，也進(jìn)而導(dǎo)致權(quán)力的集中”。比如，大量互聯(lián)網(wǎng)數(shù)據(jù)集中在少數(shù)幾家巨頭的手中，人工智能技術(shù)是否會因此遭到壟斷？“AlphaGo之父”哈薩比斯就曾表示：“我提醒諸位，必須正確地使用人工智能?！彼嬖V記者，“人工智能技術(shù)不能僅為少數(shù)公司和少數(shù)人所使用，必須共享”。

AlphaGo超越了人類幾千年來對圍棋的理解，但人類并非能完全理解AlphaGo為何會如此決策。從這一點來看，人工智能像個“魔盒”，這也讓透明性成為人工智能倫理中的重要組成部分。英國阿蘭圖靈研究所科研主管安德魯·布萊克表示，算法可問責(zé)性的存在至關(guān)重要。“透明性規(guī)則應(yīng)被作為倫理道德準(zhǔn)則，編入算法之中，這樣人們才能更為清晰地認(rèn)知人工智能的社會影響，并在問題發(fā)生之時能夠及時找出原因，調(diào)整策略。”