人工智能發(fā)展中面臨的困境思考

馬靖

摘要：信息化、智能化、大數(shù)據(jù)時代的快速到來，使得人們還沒有做好充足的準備就已經(jīng)身處其中，智能手機、智能可穿戴設備、自動駕駛汽車、基于大數(shù)據(jù)的個性化服務讓人們應接不暇。公共部門作為公共秩序的維護者與公共服務的提供者，必須具有足夠強的警覺性，在各國將人工智能列為國家發(fā)展的重大戰(zhàn)略的同時，同樣要先考慮好人工智能時代到來后可能出現(xiàn)的治理困境。為了合理地使用人工智能促進人類社會的發(fā)展，人們有必要提前思考公共治理可能面對的一列困境：倫理問題，個人隱私將告終結;法律問題，人工智能決策的可信度與責任歸屬;秩序問題，失業(yè)與社會穩(wěn)定等等各方面，人類必須防患未然。

關鍵詞：人工智能;困境思考;建議

英國著名物理學家史蒂芬·霍金（Stephen Hawking）2016年10月在劍橋大學演講中指出：“人工智能有可能是人類文化的終結者。它既可能成為人類至今發(fā)生過的最好的事，也可能成為最糟糕的事?！比魏我豁検挛锒加袃擅嫘裕斯ぶ悄茏匀灰踩绱?。在人工智能服務于人類社會的同時，我們也看到，智能化時代的東西沒有一樣是可以憑借一個人來完成設計、生產(chǎn)、了解其運作原理的，人們無法依靠自己的知識去單獨去了解、掌握、監(jiān)督與自己生活息息相關的每一個智能化產(chǎn)品或服務。管理的數(shù)據(jù)和信息的來源及分析已經(jīng)無法依靠人腦來單獨完成?，F(xiàn)階段人工智能的發(fā)展水平還處于起步階段，將來的超級人工智能又是否會像電影中所展示的那樣具有獨立的意識，威脅到人類文明，現(xiàn)在無從得知，我們只就現(xiàn)階段水平下，人工智能已經(jīng)顯露或有些預兆的問題加以總結思考。

一、人工智能對隱私空間的破壞

隨著信息化、大數(shù)據(jù)、人工智能時代的到來，人們對于隱私的保護意識越來越強，但實際上人們的隱私空間越來越狹窄。僅僅在十幾年前的上世紀，人們還在在意在公共場合被拍照片會侵犯自己的隱私權，而現(xiàn)在，這種關于人的相貌、行為、動向等諸多方面信息的采集早已遍布大街小巷，無處不在的攝像頭無需其監(jiān)控范圍內(nèi)任何人的同意，便可以無時無刻、悄無聲息地獲取各種隱私信息。一個人一天之內(nèi)從出門到回家，所有的動向都被捕捉在大數(shù)據(jù)網(wǎng)絡之內(nèi)，一方面所有的犯罪行為、犯罪分子都無所遁形，另一方面，所有的人行為動向都記錄在大數(shù)據(jù)網(wǎng)絡之中，等待某一刻被需要使用的人使用。隱私權作為公民基本的人身權利之一，公民不愿將自己的行蹤舉止毫無預告地被實時獲取，至少應該享有決定是否讓這些隱私數(shù)據(jù)化的權力。

除了在現(xiàn)實世界的空間位置、行為動向、容貌表情等信息被幾乎是實時獲取之外，更重要的隱私空間的破壞是在虛擬世界，也就是公民在網(wǎng)絡上活動，這已經(jīng)涉及到了人們的精神生活層面。幾乎所有的網(wǎng)絡活動都會留下痕跡，這些痕跡也都能夠被人工智能獲取并分析，同時這些虛擬世界的痕跡和現(xiàn)實世界緊密結合，通過虛擬世界的痕跡搜集及分析可以十分精確地預測人們下一步的行為動向。智能手機常伴身邊，數(shù)據(jù)連接、無線網(wǎng)無處不在，我們所使用的瀏覽器、購物軟件、支付軟件、社交軟件等等，無時無刻不在記錄我們的個人信息：地理位置、瀏覽偏好、購買意圖、常用聯(lián)系人……一系列生活信息無所不包，這些信息經(jīng)過日積月累的收集整理匯集成大數(shù)據(jù)，不同軟件獲取的大數(shù)據(jù)在一定程度上的整合、匹配能夠發(fā)現(xiàn)出乎意料的信息，包括“預測未來”。人工智能又通過反饋，將一些符合你的品位、價值判斷的信息推送給你，以至使你生活在一個被預設好的圈子里，并且你對這個“圈子”里的東西深感滿意，身處在這樣的“圈子”里，你甚至沒有意識到需要“反抗”，從而人工智能在一定層面上“控制了我們”，消除了個體行為的諸多不確定因素。

二、人工智能運算程序的安全性和可控性難以保證

如何保證人工智能按照既定的算法運行，不會出現(xiàn)程序上的錯誤甚至功能上的改變，現(xiàn)如今人工智能算法越來越復雜，還沒有一個制度化的、可靠的方式能夠確保每一個人工智能程序的安全性。近年來特別火的一個關于人工智能的詞匯就是“深度學習”，深度學習的概念由Hinton等人于2006年提出?；谏疃戎眯啪W(wǎng)絡（DBN）提出非監(jiān)督貪心逐層訓練算法，為解決深層結構相關的優(yōu)化難題帶來希望。人工智能已經(jīng)從起初的監(jiān)督學習（即龐大的數(shù)據(jù)經(jīng)驗總結）發(fā)展到了“深度學習”，這已經(jīng)達到了“質”改變了，即從歸納、模仿到自我學習、自我發(fā)現(xiàn)規(guī)則。以阿爾法狗為例，2016年3月，阿爾法狗與圍棋世界冠軍李世石進行圍棋對戰(zhàn)，以4比1總分獲勝。經(jīng)過升級之后，2017年5月，阿爾法狗與世界排名第一的圍棋冠軍柯潔對戰(zhàn)，以3比0總分獲勝。如果說李世石與第一代阿爾法狗的對弈還有一次獲勝的機會的話，那么柯潔與使用深度學習算法的第二代阿爾法狗對弈是毫無勝算，一場也贏不了。升級版的阿爾法狗——AlphaGoZero使用新的強化學習方法，讓自己變成了老師。系統(tǒng)一開始甚至并不知道什么是圍棋，只是從單一神經(jīng)網(wǎng)絡開始，通過神經(jīng)網(wǎng)絡強大的搜索算法，進行了自我對弈。隨著自我博弈的增加，神經(jīng)網(wǎng)絡逐漸調(diào)整，提升預測下一步的能力，最終贏得比賽。更為厲害的是，隨著訓練的深入，AlphaGoZero還獨立發(fā)現(xiàn)了游戲規(guī)則，并走出了新策略，為圍棋這項古老游戲帶來了新的見解。

具備了“深度學習”能力的人工智能，已經(jīng)超出編程人員的預想，開始創(chuàng)造出新的東西，未來的人工智能會發(fā)展到怎樣的階段很難說得清了，這就給人工智能安全性的測定帶來了巨大的挑戰(zhàn)，甚至說是不可能，很難預測人工智能機器是否會在運行過程中出現(xiàn)問題。同時關于對人工智能的可控性的擔憂，人們已經(jīng)在電影作品中描述了無數(shù)種可能，人工智能是否會通過“深度學習”或者將來更高層次的學習方法獲得“自我意識”，以至于產(chǎn)生對人類的敵對思想從而毀滅人類，也很難講得清。

三、人工智能系統(tǒng)中潛藏著 “人類等級制”

信息化的社會讓人們的生活更加方便快捷，不需要出門，就可以在網(wǎng)上完成購物、繳費、購買保險等等各項事務，人們不需要見面就享受到了大部分生活服務，而伴隨其產(chǎn)生的是一套網(wǎng)絡信用體系，大數(shù)據(jù)記錄了人們所有的網(wǎng)上瀏覽操作痕跡，對每一個人的數(shù)據(jù)進行整理分析并附在他所接觸的所有電子設備背后。打開一款支付軟件，可以找到一個“信用體系”的功能，通過你所有的網(wǎng)上交易數(shù)據(jù)，來評定個人信用值;打開一款旅游軟件，可以看到你所有去過的地點，喜歡的餐廳、食物。人工智能不斷搜集關于個體的數(shù)據(jù)，在獲得足夠多的數(shù)據(jù)之后，就可以對每個人進行“打分”，這套分數(shù)體系將伴隨著用戶的身份，通過用戶接觸的所有電子設備，搜集信息，窮其一生。當人工智能服務領域中，幾乎所有的用戶都在系統(tǒng)中有一套完整的分數(shù)體系后，人工智能將會使用所有人的這些分值，把用戶進行區(qū)別對待。人類社會的公共治理中，處理問題首先考慮的應該是社會的公平、正義，現(xiàn)代的民主政治思想強調(diào)“人人平等”，在兩難的困境中，絕不能以個人的身份、地位、財富等附加物來評價“生命的貴賤”。而人工智能則并非如此，它只以運算、數(shù)理邏輯進行決策并采取行動，一般而言，社會地位較高，擁有社會資源豐富的人，在人工智能打分系統(tǒng)中更有優(yōu)勢，人工智能通過獲取其學歷、財富、人脈、消費層次、工作屬性等信息將其評定為高分，以“重要客戶”對待，同時反饋給“重要客戶”更多具有價值的信息，以期這些“重要客戶”能夠再來獲取更多的服務。

自動駕駛汽車的出現(xiàn)將這個問題帶到了現(xiàn)實世界，在緊急情況下，自動駕駛汽車是選擇撞上行人，還是打方向盤犧牲乘客，這個也取決于人工智能系統(tǒng)對每個人的“評分”。人工智能決策從一開始程序設定的時候就已經(jīng)決定，“車子會撞向誰”，這種運算的邏輯絲毫不受人類倫理的影響，它不僅在各種服務環(huán)節(jié)上產(chǎn)生了歧視行為，還可能在緊急時刻決定人的生命。潛藏在人工智能背后的“人類的等級制”已經(jīng)悄然上演。

四、人工智能帶來新的社會秩序問題

這幾年來，我們見識了太多的人工智能機器，他們不斷超越我們的認知和想象，智能化車間、移動支付、智能機器人、自動駕駛汽車，在各個方面表現(xiàn)出驚人的突破，同時在很多領域超越了人類的極限和能力。人類正在享受越來越全面化的人工智能服務，但同時也帶來了一些社會問題，人工智能首先代替了一些簡單機械化的工作程序，逐漸地朝著技術含量較高的層次經(jīng)發(fā)，同時由人工智能開辟的一些新興產(chǎn)業(yè)代替了手工、線下的各種產(chǎn)品和店鋪，人工智能每前進一步，都可能對不同行業(yè)造成一定的沖擊，未來它會取代哪些工作很難預料。但顯而易見，人工智能取代人類工作的趨勢不可逆轉，特別是對底層勞動者的沖擊最為巨大，大量從事機械化或體力勞動工作者失業(yè)，造成這些人更難找到工作。面對人工智能的快速發(fā)展，公共部門應該如何解決這些人的失業(yè)問題成了巨大的難題。

將來會不會出現(xiàn)這樣的情況，當人類社會的文明發(fā)展到一定層次，所有人都是接受過高等教育的知識分子，從事社會交往、服務性的工作，生產(chǎn)性的工作完全有智能化機器來完成，物質資料不能說取之不盡，但也足以滿足全社會的基本生活條件，這種生活層次相當于現(xiàn)今中產(chǎn)階級的生活水平。從理論上講，也許是可以實現(xiàn)的，但從事物發(fā)展的角度來說，社會結構總有兩面性，總有富裕的階層，也總有貧困的階層，人工智能是否能夠打破這種規(guī)律，很難斷定，只能說“未曾認知的事物，你永遠也無法想象它是怎樣存在的”。

五、結語

總的來說，人工智能的發(fā)展，給人類社會帶了巨大的好處，它是人類科技發(fā)展中邁上的又一大的臺階，未來的人類生產(chǎn)生活的方式都將隨著發(fā)生前所未有的改變，人工智能已經(jīng)被稱為“第四次工業(yè)革命”，它的意義是非凡的。吸取以往幾次工業(yè)革命的教訓，在人工智能時代全面來領之前，我們需要去思考人工智能可能出現(xiàn)的負面影響，及時做好規(guī)劃，防患于未然。定立法律，明確私人隱私空間的范圍;維護公平正義的社會原則;規(guī)避人工智能開發(fā)源頭各種謀取私利的危害等。

【參考文獻】

[1]孫志軍，薛磊，許陽明，王正.深度學習研究綜述[J].計算機應用研究，2012（08）：23-26.

[2]中國青年網(wǎng).阿爾法狗再進化碾壓舊狗——不再受人類知識限制[N].中國青年網(wǎng)，2017.

[3]騰訊研究院.人工智能各國戰(zhàn)略解讀：英國人工智能的未來監(jiān)管措施與目標概述[J].電信網(wǎng)技術，2017（2）：32-39.

[4]尹昊智，劉鐵志.人工智能各國戰(zhàn)略解讀：美國人工智能報告解析[J].電信網(wǎng)技術，2017（2）：52-57.

[5]董立人.人工智能發(fā)展與政府治理創(chuàng)新研究[J].天津行政學院學報，2018（3）：3-10.

[6]何哲.人工智能時代的政府適應與轉型[J].行政管理改革，2018（6）：53-59.

[7]柳亦博.人工智能陰影下： 政府大數(shù)據(jù)治理中的倫理困境[J].行政論壇，2017（3）：97-103.