鄔賀銓：人工智能的雙刃劍

隨著人工智能崛起，諸多領(lǐng)域迎來了加速變革，人們的生活變得更為便利。但是，人工智能的普及也帶來了一些隱患，而化解這些問題的主動權(quán)掌握在人類自己手中。

2018年10月31日下午，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行第九次集體學(xué)習(xí)。習(xí)近平總書記在主持學(xué)習(xí)時發(fā)表了講話。他強調(diào)，人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動性很強的“頭雁”效應(yīng)。

11月7日至9日，第五屆世界互聯(lián)網(wǎng)大會在浙江烏鎮(zhèn)舉行，在“人工智能：融合發(fā)展新機遇”分論壇上，中國工程院院士、中國互聯(lián)網(wǎng)協(xié)會理事長鄔賀銓發(fā)表了以《人工智能的雙刃劍》為主題的演講。

鄔賀銓認(rèn)為，人工智能的發(fā)展是一把雙刃劍。當(dāng)前，大數(shù)據(jù)和強算力促進了概率計算取得巨大的進步，AI在分析相關(guān)性上也取得了顯著進展，并且在很多領(lǐng)域產(chǎn)生了深遠(yuǎn)影響。目前，人工智能的發(fā)展應(yīng)包含兩方面的內(nèi)容，一是培育AI的應(yīng)用創(chuàng)新，二是重視AI的風(fēng)險管控。

要培育AI的應(yīng)用創(chuàng)新

人工智能有三大支柱：大數(shù)據(jù)、計算力、分析算法。我們?nèi)绾谓逃嬎銠C學(xué)習(xí)？我們無法通過文字描述告訴計算機什么是貓和狗，但通過大數(shù)據(jù)學(xué)習(xí)與訓(xùn)練，概率論的進步使不確定性的數(shù)據(jù)也可以計算，深度神經(jīng)網(wǎng)絡(luò)能夠很好地完成分類器的作用。三者相輔相成、相互依賴、相互促進，使得人工智能有機會從專業(yè)的技術(shù)成為通用的技術(shù)，融入到各行各業(yè)之中。

計算機視覺是模擬人類視覺的人工智能技術(shù)，用機器來“看”圖像，“理解”圖像。目前，人工智能在醫(yī)學(xué)領(lǐng)域得到廣泛應(yīng)用，比如我們到醫(yī)院做一個肺部CT檢查，可以做出幾百甚至上千張的CT照片，一張張讓醫(yī)生來看照片是比較麻煩的，但是可以通過人工智能的技術(shù)把所有的CT照片還原為一個肺。我們可以看到，將人工智能用于醫(yī)療影像分析，可以幫助醫(yī)生定位病癥分析病情，從而幫助醫(yī)生提高影響診斷的精準(zhǔn)度。

交通領(lǐng)域也很好地運用了人工智能技術(shù)，未來的無人駕駛汽車能給人類帶來更安全和有序的交通環(huán)境，能節(jié)省人類在駕駛上大量消耗的時間。隨著技術(shù)的發(fā)展，人工智能在出行領(lǐng)域的落地形式日益成為行業(yè)關(guān)注的焦點，自動駕駛技術(shù)的成熟，將對以往的出行業(yè)態(tài)產(chǎn)生重大影響，未來的交通生活充滿了無限可能。

過去機器人是要預(yù)先編程，機器手臂如果沒有預(yù)先編程，它只能通過訓(xùn)練達到目的。人工智能技術(shù)融入機器人后，程序指令不再由人下達，而是機器人系統(tǒng)自主完成編程并執(zhí)行。沈陽新松開發(fā)的智能焊接系統(tǒng)，首先感知工件并對其進行測量，自主生成程序，根據(jù)不同的焊接工藝調(diào)取不同的焊接技術(shù)。未來的智能工廠，可能只有機器而沒有人，將大量的機器人大腦集中到云端，機器人僅作為執(zhí)行機構(gòu)，可顯著降低成本。

網(wǎng)絡(luò)安全也是人工智能很重要的應(yīng)用，它所發(fā)揮的也是雙重效應(yīng)。一方面人工智能降低了黑客的門檻。現(xiàn)在很多人學(xué)會做黑客，以后病毒的變種會越來越多，周期也會越來越短。但是從另一個角度，人工智能有助于幫助網(wǎng)絡(luò)安全的工作。人工智能的典型作用是代替人類做大量重復(fù)的勞動，利用人工智能技術(shù)一分鐘就能完成一個信息安全分析師一年分析數(shù)據(jù)和代碼的工作。這對于一些重復(fù)性分析的工作是有用的。通過人工智能可以識別很多偽裝過的文件，例如2016年美國國防部與某AI公司簽署合同，利用人工智能技術(shù)發(fā)現(xiàn)美軍操作系統(tǒng)和定制程序中存在的編碼漏洞。

同樣，人工智能可對網(wǎng)絡(luò)流量內(nèi)外所包含的無數(shù)元數(shù)據(jù)所存在的成千上萬個關(guān)聯(lián)進行分析，實現(xiàn)對網(wǎng)絡(luò)流量異常檢測，獲得黑客入侵的位置、攻擊的路徑和薄弱的環(huán)節(jié)等。

用戶在網(wǎng)絡(luò)上生成的內(nèi)容，如果不審查可能會造成不良傳播，靠人工審查會比較麻煩?，F(xiàn)在，我們可以通過人工智能技術(shù)，自動過濾色情、暴力的圖片和視頻，對不適宜在網(wǎng)上發(fā)布的信息進行文字截取，以此降低人工審核的工作量，代替人類做大量重復(fù)性的勞動。

重視人工智能的風(fēng)險管控

我們通過建模，進行數(shù)據(jù)分析，那么數(shù)據(jù)的準(zhǔn)確性就決定了人工智能分析的準(zhǔn)確性。

AI的正確性取決于數(shù)據(jù)的噪聲與干擾。神經(jīng)網(wǎng)絡(luò)導(dǎo)入的數(shù)據(jù)有一個很小的改動，分類就會有很大的變化。多倫多大學(xué)研究人員通過動態(tài)干擾人臉識別工具，可將原本可檢測到的人臉比例從接近100%降低到0.5%。網(wǎng)絡(luò)攻擊者將對抗樣本輸入機器學(xué)習(xí)模型，機器產(chǎn)生幻覺也會出現(xiàn)誤判。

同時，他還提到AI有可能讓未來出現(xiàn)“眼見不一定為實”。Twitter上的機器人數(shù)量占員工人數(shù)的9%-15%，政治僵尸程序會編造假新聞或放大謠言。2016年美國總統(tǒng)大選期間，Twitter上垃圾新聞?wù)嫉?0%。全球機器人占2016年所有在線流量的50%以上。網(wǎng)絡(luò)有專門的“洗稿”軟件出售，甚至AI也被用于“洗稿”。這些都值得我們警惕。

人工智能的應(yīng)用才剛剛開始。當(dāng)前大數(shù)據(jù)促進概率計算取得了巨大的進步，人工智能已經(jīng)在很多領(lǐng)域產(chǎn)生了深刻的影響。但是目前人工智能的發(fā)展還處于起步階段，深度學(xué)習(xí)目前的實質(zhì)是通過將曲線彌合的數(shù)據(jù)，通過離合數(shù)據(jù)實現(xiàn)分類。雖然在相關(guān)性上有進步，但是在因果關(guān)系上目前還是無能為力的，更多的希望要寄托在人工智能的進步上，而人工智能的雙刃劍特征會愈來愈明顯，需要從法律、技術(shù)各方面揚長避短。

（本文根據(jù)鄔賀銓院士在“第五屆世界互聯(lián)網(wǎng)大會人工智能分論壇”現(xiàn)場演講整理而成，未經(jīng)本人審閱）