人工智能發(fā)展應(yīng)用中的安全風(fēng)險及應(yīng)對策略

◎盤冠員

人工智能（Artificial Intelligence，AI）被稱為21世紀(jì)三大尖端技術(shù)之一（基因工程、納米科學(xué)、人工智能），擴展延伸了人的智能，逐漸轉(zhuǎn)變成滲透到人類生活和社會各個方面的通用技術(shù)，為人類認識世界、改造世界增添了新工具新手段新方法。

推動因素與發(fā)展現(xiàn)狀

隨著網(wǎng)絡(luò)、超級計算、大數(shù)據(jù)、云服務(wù)及傳感器等技術(shù)的發(fā)展進步，人工智能進入了重新崛起并迅猛發(fā)展的新階段。

1.現(xiàn)狀

從發(fā)展史來看，人工智能并不是最近才出現(xiàn)的新技術(shù)。1956年夏天，在美國新罕布什爾州漢諾威市舉行的“達特茅斯會議”上，“人工智能”術(shù)語的提出，標(biāo)志著它已成為一門新興學(xué)科。此后，它逐漸為世人熟悉接受，其相關(guān)理論和技術(shù)也在起伏中得到逐步發(fā)展。進入21世紀(jì)，人工智能再度進入爆發(fā)式發(fā)展應(yīng)用的新階段，主要有四大推動因素：

（1）相關(guān)基礎(chǔ)理論、技術(shù)和應(yīng)用的積累進入新階段。計算機、大數(shù)據(jù)、云計算以及物聯(lián)網(wǎng)等技術(shù)的突破，特別是神經(jīng)網(wǎng)絡(luò)（模仿人腦思考結(jié)構(gòu)）、機器學(xué)習(xí)（記憶與認知）、數(shù)據(jù)庫和算法等研究取得的新成果，為人工智能產(chǎn)業(yè)化快速發(fā)展提供了重要技術(shù)基礎(chǔ)。

（2）國家戰(zhàn)略布局和相關(guān)政策的有力支持。美、歐、日等發(fā)達國家和地區(qū)將人工智能上升為國家戰(zhàn)略，紛紛出臺政策支持人工智能技術(shù)研發(fā)和產(chǎn)業(yè)發(fā)展，搶占發(fā)展先機。日本在2015年1月發(fā)布《機器人新戰(zhàn)略》，未來十年將投入1000億日元用于人工智能的研發(fā)；2017年3月，又出臺《人工智能技術(shù)戰(zhàn)略》，進一步規(guī)劃部署人工智能的技術(shù)研發(fā)。2016年，美國白宮連續(xù)發(fā)布《為未來人工智能做好準(zhǔn)備》《美國國家人工智能研究和發(fā)展戰(zhàn)略計劃》《人工智能、自動化和經(jīng)濟》等政策和研究報告，明確提出人工智能研發(fā)戰(zhàn)略，構(gòu)建人工智能研發(fā)實施框架，并于2018年5月設(shè)立相關(guān)組織機構(gòu)，協(xié)調(diào)推進人工智能研發(fā)與政企協(xié)作。2018年9月，美國國防部決定未來五年投資20億美元用于開發(fā)機器常識（MCS）項目。2018年6月，歐洲委員會提出一項數(shù)字歐洲計劃，計劃2021-2027年投入10.4億美元推進人工智能技術(shù)研發(fā)與應(yīng)用。2016年12月，英國發(fā)布《人工智能：未來決策制定的機遇與影響》，闡釋了人工智能對現(xiàn)代社會的影響，不斷提高政府對人工智能的認知，2017年4月英國皇家學(xué)會發(fā)布《機器學(xué)習(xí)：計算機通過案例學(xué)習(xí)的能力與潛力》研究報告，呼吁英國加大對機器學(xué)習(xí)技術(shù)的研發(fā)投入，2018年英國啟動了《人工智能行業(yè)新政》，推動英國成為人工智能領(lǐng)域的領(lǐng)導(dǎo)者。2018年以來，德國、法國、韓國和印度等國也紛紛推出本國的人工智能戰(zhàn)略進行規(guī)劃布局。

（3）各大企業(yè)加大金融資本的支持。高科技企業(yè)將人工智能視為下一代產(chǎn)業(yè)革命的技術(shù)引爆點進行投資。2016年9月，谷歌、微軟、亞馬遜、臉譜和IBM五家企業(yè)宣布成立人工智能聯(lián)盟，交流共享人工智能發(fā)展經(jīng)驗。由于人工智能產(chǎn)業(yè)化和商業(yè)前景看好，各種金融資本迅速介入。數(shù)據(jù)顯示，2016年，全球科技巨頭在人工智能領(lǐng)域投資就達300億美元。資本市場的火熱催生了一大批人工智能領(lǐng)域初創(chuàng)公司的誕生和快速發(fā)展。如以云知聲、思必馳等為代表的語音識別和自然語言處理公司，以商湯科技、曠視科技、依圖科技等為代表的計算機視覺公司，它們中有很多如今已發(fā)展成為新興的獨角獸企業(yè)。2018年4月9日，中國恒大與中國科學(xué)院簽署合作協(xié)議，未來10年恒大將投資1000億元人民幣，布局量子科技、機器人等新科技領(lǐng)域。

（4）應(yīng)用場景的影響。谷歌公司機器人阿爾法狗戰(zhàn)勝韓國圍棋九段棋手李世石和圍棋世界冠軍柯潔，喚醒了世人對人工智能的高度關(guān)注。百度指數(shù)數(shù)據(jù)顯示，從2015年底開始，“人工智能”熱度逐漸升溫，且持續(xù)到現(xiàn)在。2015-2016年，其媒體關(guān)注度已經(jīng)暴漲6倍。

2.發(fā)展現(xiàn)狀

目前，人工智能蓬勃發(fā)展，技術(shù)進步迅速，其應(yīng)用已經(jīng)滲透到我們的日常生活中，如人臉識別、刷臉支付、語音助手、無人機、服務(wù)機器人、自動駕駛和智能系統(tǒng)等。與互聯(lián)網(wǎng)、大數(shù)據(jù)、物聯(lián)網(wǎng)、云服務(wù)融合的人工智能應(yīng)用給我們帶來了更多的便利。專家認為，人工智能的應(yīng)用將使勞動生產(chǎn)率提高90%；至2035年，人工智能將使年度經(jīng)濟增長率提高一倍。

但是，業(yè)界普遍認為真正的人工智能尚處于發(fā)展的初級階段（認知智能發(fā)展階段），即弱人工智能階段，有“技能”，但遠遠談不上有“智能”，還沒能出現(xiàn)像人一樣思考和行動的真正的人工智能產(chǎn)品，離通過“圖靈測試”這一衡量人工智能技術(shù)水平的標(biāo)準(zhǔn)為時尚遠。有專家認為，人工智能目前處于嬰兒期，其智商大抵相當(dāng)于3歲的孩子，說不好、笑不真、想不清、行不穩(wěn)，這四“不”客觀地描寫了人工智能目前的現(xiàn)狀。

安全風(fēng)險

1.國家安全

國家安全包括國土安全、政權(quán)安全、制度安全和意識形態(tài)安全等。2017年7月，美國智庫發(fā)表題為《人工智能與國家安全》的研究報告，認為人工智能將會是國家安全領(lǐng)域的顛覆性力量，其影響可與核、航空航天、信息和生物技術(shù)比肩，將深刻改變軍事、信息和經(jīng)濟領(lǐng)域安全態(tài)勢。該報告強調(diào)人工智能通過變革軍事優(yōu)勢、信息優(yōu)勢和經(jīng)濟優(yōu)勢影響國家安全。其中，軍事領(lǐng)域引入人工智能幾乎是不可阻擋的，而人工智能技術(shù)與生俱來的軍民兩用特性則要求決策者必須調(diào)和商業(yè)與國家安全之間的利益。而且，利用“換臉”、“換聲”等人工智能技術(shù)可以制作具有欺騙性的假時事新聞。已有案例說明，利用人工智能技術(shù)在社交平臺大量制作散發(fā)虛假新聞可以在政府首腦選舉中影響選民的抉擇。

2.社會安全

傳統(tǒng)犯罪借助人工智能，將會衍生出新型犯罪形態(tài)、犯罪行為、手段和方法，出現(xiàn)無法辨識是機器人犯罪還是真實人犯罪的尷尬場景。2018年3月，美國發(fā)生了兩起涉及自動駕駛的車禍。3月19日，優(yōu)步（Uber）一輛自主駕駛汽車在美國亞利桑那州坦佩市發(fā)生致命車禍，一名49歲的女子晚上推著自行車穿過馬路時被汽車撞死。3月23日，一名工程師駕駛特斯拉Model X型號汽車在加州101公路和85公路交接處發(fā)生致命車禍，車禍發(fā)生時汽車啟用了自動駕駛（或自動輔助駕駛）功能。這些案例說明，人工智能產(chǎn)品如果沒有徹底解決安全可靠性問題，將會危及社會公共安全和人身安全。

3.網(wǎng)絡(luò)安全

網(wǎng)絡(luò)和大數(shù)據(jù)的發(fā)展推動了人工智能的進步，網(wǎng)絡(luò)攻擊智能化趨勢也給網(wǎng)絡(luò)安全保護提出更高要求。有關(guān)人工智能與網(wǎng)絡(luò)安全關(guān)系的研究表明，一旦人工智能運用到網(wǎng)絡(luò)攻擊活動，將使得網(wǎng)絡(luò)攻擊活動更加難以預(yù)警和防范，關(guān)鍵信息基礎(chǔ)設(shè)施也將會面臨新的安全風(fēng)險威脅。如人工智能技術(shù)運用到木馬病毒制作傳播，將會出現(xiàn)難以防御的超級病毒木馬，傳統(tǒng)應(yīng)對方法將不足以制止這些惡意程序傳播擴散的速度。此外，人工智能的技術(shù)研發(fā)與應(yīng)用也存在一些不確定性的安全風(fēng)險。

應(yīng)對人工智能安全風(fēng)險的對策建議

人工智能的安全風(fēng)險取決于技術(shù)發(fā)展及其安全可控的程度，短期風(fēng)險可以預(yù)見，長期風(fēng)險受制于現(xiàn)有認知能力難以預(yù)測和判斷。因此，一方面，人類社會要積極推動人工智能技術(shù)研發(fā)和應(yīng)用；另一方面，要為人工智能的發(fā)展應(yīng)用規(guī)劃一條安全邊界，防止其被惡意運用、濫用，給人類社會造成不可逆轉(zhuǎn)的傷害。

1.加強人工智能安全風(fēng)險的研究

樹立正確的安全觀，科學(xué)對待人工智能安全風(fēng)險。研究掌握在人工智能技術(shù)研發(fā)和應(yīng)用過程中會出現(xiàn)哪些風(fēng)險，并從法律、政策、技術(shù)和監(jiān)管等方面進行有效防控管控。

2.加強人工智能立法研究和法律規(guī)范

人工智能理論、方法、技術(shù)及其應(yīng)用引發(fā)社會關(guān)系、社會結(jié)構(gòu)和行為方式的變化，產(chǎn)生不可預(yù)知的安全風(fēng)險和新的法律問題。建議運用法律手段，重點防控人工智能行為主體及其行為的異化。從現(xiàn)有情況看，人工智能法律研究應(yīng)主要聚焦在人工智能產(chǎn)品主體，如智能機器人的法律地位、行為的法律屬性以及法律責(zé)任如何確定等方面。在立法方面應(yīng)加強對人工智能技術(shù)應(yīng)用可能出現(xiàn)的法律問題的前瞻性研究探索。

3.加強人工智能安全防控體系建設(shè)

按照趨利避害原則，處理好人工智能發(fā)展應(yīng)用與安全防控的關(guān)系，既要促進人工智能發(fā)展應(yīng)用，又要推動其在安全、可靠和可控的軌道上前行。要加強對人工智能安全防控體系建設(shè)的戰(zhàn)略規(guī)劃部署，圍繞人工智能安全風(fēng)險點，借鑒已有經(jīng)驗，有步驟地推進人工智能安全綜合防控體系建設(shè)。

4.加強人工智能產(chǎn)品服務(wù)的安全監(jiān)管

要及時制定人工智能安全產(chǎn)品和服務(wù)技術(shù)標(biāo)準(zhǔn)規(guī)范，規(guī)范和引導(dǎo)產(chǎn)品研發(fā)推廣。加強對人工智能安全產(chǎn)品和服務(wù)的市場監(jiān)管執(zhí)法和相關(guān)產(chǎn)品上市前的安全測試。對有安全缺陷的產(chǎn)品和服務(wù)要依法處理，對造成危害后果的要依法追究法律責(zé)任。要積極運用人工智能技術(shù)提高安全監(jiān)管能力，善于運用人工智能技術(shù)改進和加強安全監(jiān)管執(zhí)法，提高安全監(jiān)管執(zhí)法的能力和效率。

5.加強人工智能技術(shù)研發(fā)的管控

人工智能的快速發(fā)展引起了國際社會對于道德倫理問題的關(guān)注和擔(dān)心，應(yīng)當(dāng)為人工智能技術(shù)研發(fā)劃出“紅線”，設(shè)置禁區(qū)，禁止研究開發(fā)危害人類生存安全的人工智能技術(shù)和產(chǎn)品，防止人工智能技術(shù)的濫用。美國科幻小說家阿西莫夫在1950年出版的小說《我，機器人》中提出了著名的“機器人三大法則”，第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險時袖手不管；第二定律：機器人必須服從人類發(fā)出的命令，當(dāng)該命令與第一定律沖突時例外；第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。2017年1月，美國著名人工智能研究機構(gòu)未來生命研究院（FLI）在加利福尼亞州召開主題為“有益的人工智能（Beneficial AI）”的阿西洛馬會議，法律、倫理、哲學(xué)、經(jīng)濟、機器人和人工智能等眾多學(xué)科和領(lǐng)域的專家，共同達成了23條人工智能原則（“阿西洛馬人工智能原則”，被稱為人工智能發(fā)展的“23條軍規(guī)”），呼吁全世界在發(fā)展人工智能的時候嚴(yán)格遵守這些原則，共同保障人類未來的利益和安全。23條規(guī)則規(guī)定，人工智能研究的目標(biāo)應(yīng)該建立有益的智能，而不是無向的智能。應(yīng)該設(shè)計高度自主的人工智能系統(tǒng)，以確保其目標(biāo)和行為在整個運行過程中與人類價值觀相一致。對于人工智能造成的風(fēng)險，尤其是那些災(zāi)難性的和存在價值性的風(fēng)險，必須付出與其所造成的影響相稱的努力，以用于進行規(guī)劃和緩解風(fēng)險。同時，人工智能軍事化問題也是國際法律界關(guān)注的熱點。目前，國際上限制致命性人工智能武器的呼聲不絕于耳，有上百家人工智能領(lǐng)先企業(yè)呼吁禁止發(fā)展致命性人工智能武器。國際社會應(yīng)當(dāng)共同努力，加強合作，反對人工智能軍事化，共同應(yīng)對人工智能安全風(fēng)險。