基于政企關(guān)系的人工智能時代公共治理難題

董金潔

【摘要】人工智能時代的到來，讓政府和企業(yè)之間的互動關(guān)系變得更加復(fù)雜：縱向上體現(xiàn)為政府對企業(yè)的監(jiān)管關(guān)系，橫向上體現(xiàn)為政府和企業(yè)的合作關(guān)系。且這種網(wǎng)狀關(guān)系與公共領(lǐng)域中新出現(xiàn)的三類問題，即由于人工智能技術(shù)發(fā)展不成熟造成的問題、由于人工智能技術(shù)沖擊了傳統(tǒng)的社會形態(tài)而使傳統(tǒng)社會向新時代過渡的過程中出現(xiàn)的結(jié)構(gòu)性問題、由于人工智能的不當(dāng)利用產(chǎn)生的問題相互影響。

【關(guān)鍵詞】政府治理;公共治理;治理能力;人工智能

一、背景和研究框架

1950年，阿蘭·圖靈以“一臺機(jī)器是否能與人進(jìn)行對話，而不被人發(fā)現(xiàn)其機(jī)器身份”的標(biāo)準(zhǔn)來測試機(jī)器是否智能，因此人工智能（Artificial Intelligence）可以被定義為“電子計算機(jī)模擬或?qū)嶒灥募寄堋?。尤金·古斯特曼聊天機(jī)器人于2014年6月8日成功通過圖靈測試;2016年3月15日，谷歌公司研發(fā)的阿爾法狗以4：1的成績戰(zhàn)勝圍棋九段高手李世石。人工智能時代，將提供社會轉(zhuǎn)型新動能，帶來社會治理新挑戰(zhàn)。2017年3月5日，中國《政府工作報告》中首次提到了“人工智能”，同年7月20日，國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，表示要大力發(fā)展人工智能產(chǎn)業(yè)。2017年以來，在政府的支持和企業(yè)界的努力下，人工智能向交通、金融、安防、法務(wù)等領(lǐng)域滲透。根據(jù)《2018-2023年中國人工智能行業(yè)市場前瞻與投資戰(zhàn)略規(guī)劃分析報告》顯示，人工職能產(chǎn)業(yè)規(guī)模也在不斷擴(kuò)大。在支持和鼓勵人工智能產(chǎn)業(yè)發(fā)展的同時，政府也加強了與人工智能企業(yè)的合作。社會科學(xué)學(xué)界對時代背景下的政府治理進(jìn)行了研究：梁芷銘強調(diào)了大數(shù)據(jù)時代國家治理主體變得更加多元;陳之常介紹了大數(shù)據(jù)運用對于社區(qū)公共服務(wù)水平的實際成效;王山認(rèn)為大數(shù)據(jù)時代政府面臨的挑戰(zhàn)體現(xiàn)在治理機(jī)制和人才素養(yǎng)沒有符合時代要求等。

現(xiàn)今的公共管理理論之下，都強調(diào)了不同的主體共同治理公共領(lǐng)域，人工智能產(chǎn)業(yè)的興起，尤其改變了技術(shù)企業(yè)在公共治理領(lǐng)域的話語權(quán)，因此作者從個體的分析角度，聚焦于政府和技術(shù)企業(yè)在治理過程中二者的互動關(guān)系。

二、公共治理難題

（一）對政府決策的影響。1.對官僚決策本身的挑戰(zhàn)。首先，人工智能造成了官僚決策時對技術(shù)的惰性依賴。研究人員高登·潘尼庫克也認(rèn)為：“過度依賴網(wǎng)絡(luò)尋找答案使得人們無法知道其實自己擁有想出答案的能力”;另一名研究人員納森尼耶·巴爾指出：“過度依賴從外部獲得信息，而非自己去學(xué)習(xí)或解決的積極思考，這種發(fā)展具備破壞性”。人類必然會在社會行為和決策中越來越依賴機(jī)器的作用，從而逐漸失去自己的決策和判斷能力。官僚過度依賴人工智能技術(shù)實際上會讓官僚在決策時潛意識讓機(jī)器替代了自我思考。其次，人工智能時代的官僚績效標(biāo)準(zhǔn)反而讓官僚的這種惰性產(chǎn)生難以被發(fā)現(xiàn)。人工智能時代電子政務(wù)水平建設(shè)是衡量官僚績效的重要標(biāo)準(zhǔn)，官僚在進(jìn)行公共治理時完全可以依賴人工智能進(jìn)行決策，并且讓官僚的治理行為由于這種被認(rèn)可了的科學(xué)手段的運用而變得同樣科學(xué)合理。此時官僚不再需要那么多的自我決策能力就能在年度測評中達(dá)到及格甚至優(yōu)秀，官僚的注意力更加傾向于購買人工智能服務(wù)而非自我決策思維的鍛煉。2.對官僚決策的認(rèn)同性挑戰(zhàn)。一方面，從提供決策方案的角度來說，人工智能輔助政府決策的過程，實際上是基于大量數(shù)據(jù)由機(jī)器根據(jù)一定的算法進(jìn)行邏輯推演而得出結(jié)論的過程。政府運用人工智能做出的決策，實際上也只是在有限的結(jié)果，即經(jīng)過系列算法給出的限定方案之下做出的選擇，這似乎從前提上就限制了政府決策的自由意志;另一方面，如公民向政府的政務(wù)咨詢，由人工智能來回應(yīng)的話，是否具有權(quán)威性和合法性。如果說不能簡單地將前者嚴(yán)峻化到給社會定義了一個新邏輯，即機(jī)器操縱人的話;后者至少體現(xiàn)了政府為了追求效率性而將與公民直接對話的機(jī)會讓渡給了機(jī)器。2017年底進(jìn)行的埃森哲調(diào)研的報告中顯示，66%的受訪者表示對政府使用人工智能的道德和責(zé)任缺乏信心。

（二）對政企合作關(guān)系的影響?？v向上來說，人工智能時代的社會形態(tài)近似于網(wǎng)絡(luò)社會，呈現(xiàn)出“扁平化”的特征。人工智能時代要求政府和技術(shù)公司進(jìn)行合作來共同治理公共領(lǐng)域事務(wù)，政府和技術(shù)公司在合作中各持有合作的籌碼或者稱之為談判的依據(jù)，政府的籌碼系權(quán)力資源，技術(shù)公司的籌碼系技術(shù)資源。從供需角度看，人工智能作為市場上的產(chǎn)品或服務(wù)，其供給方是企業(yè)，其需求方是政府，隨著政府的需求越來越大，人工智能的價格也越來越高，也意味著企業(yè)的籌碼在不斷加重，潛在改變了技術(shù)公司在特定領(lǐng)域中和政府的互動關(guān)系，沖擊了以前基于權(quán)力關(guān)系下政府對企業(yè)的強制約關(guān)系?？偟膩碚f，一方面，政府作為市場的監(jiān)管者，與企業(yè)的關(guān)系是監(jiān)管者和被監(jiān)管者的關(guān)系，且這種關(guān)系始終會被考慮到政府和企業(yè)的互動過程中;另一方面，由于公共領(lǐng)域的特殊性質(zhì)以及政府在公共領(lǐng)域中承擔(dān)的職責(zé)以及扮演的角色，企業(yè)利用談判籌碼來獲得的好處始終會限制在一個幅度范圍內(nèi)：政治上，在政府放權(quán)的閾值之內(nèi);經(jīng)濟(jì)上，在政府財政預(yù)算的閾值之內(nèi)。

（三）對治理對象的影響。1.人工智能對就業(yè)的影響。根據(jù)日本《經(jīng)濟(jì)新聞》和英國《金融時報》共同研究調(diào)查發(fā)現(xiàn)，在人類的820種職業(yè)、2069項業(yè)務(wù)中，約有34%可被機(jī)器人替代。根據(jù)牛津大學(xué)的統(tǒng)計，未來人工智能的發(fā)展會取代1000萬個工作崗位。達(dá)成共識的是，被人工智能所取代的勞動者當(dāng)中，受影響程度最重的是中間技能勞動者，而對高技能行業(yè)和低技能服務(wù)業(yè)的就業(yè)崗位有所增加。因此，這部分失業(yè)的中間技能人員的結(jié)果無非是以下四種：（1）失業(yè);（2）勝任低技能服務(wù)業(yè);（3）沉浸在被人工智能奪走工作的憂慮中繼續(xù)原崗位;（4）經(jīng)過培訓(xùn)實現(xiàn)高技能就業(yè)。由于被取代的勞動者實際上選擇另外一種結(jié)果都意味在原崗位上的職位被“降級”，這四種選擇都蘊含著潛在的心理上的不適。2.人工智能對收入和地位的影響。人工智能的出現(xiàn)能產(chǎn)生不平等。首先，人工智能技術(shù)促使生產(chǎn)過程中資本要素的份額提升，而使勞動者的工資收入減少。將人工智能技術(shù)運用到非常成熟的階段時，即進(jìn)入超人工智能階段的時候，社會可能會更加分層，一類人屬于無用階層，對社會毫無貢獻(xiàn)，這是否會造成有用階層對于無用階層的統(tǒng)治呢？其次，由于智慧產(chǎn)業(yè)以及人才的集聚，各地區(qū)的人工智能水平發(fā)展不一致，也會加大地區(qū)之間的不平等。3.人工智能產(chǎn)品的侵權(quán)與追責(zé)。人工智能產(chǎn)品具有一般產(chǎn)品的特征，即技術(shù)以及依托技術(shù)誕生的產(chǎn)品意志始終和使用者的意志保持一致，在不考慮負(fù)外部性的情況下，使用者的破壞性利用方式會使人工智能運用產(chǎn)生負(fù)面效果，該特性決定了人工智能可能產(chǎn)生的負(fù)面效果的大小。安裝了微型廣角鏡頭，配備高靈敏度的傳感器和高容量的炸藥，可以準(zhǔn)確地瞄準(zhǔn)目標(biāo)并成功實施殺害攻擊對象的殺手機(jī)器人就會給社會帶來極大的安全風(fēng)險。同時，人工智能產(chǎn)生的負(fù)面效果細(xì)微到難以被人察覺的入侵人類隱私上。由于人工智能一方面具有擬人格化的特性，有時會自動發(fā)出指令以及做出行為;另一方面，人工智能仍然是由人類所創(chuàng)造出來的。因此，這種擬人格化的由人類創(chuàng)造出來的行為體的行為后果承擔(dān)、責(zé)任歸屬在我國法律上還未完全給出一個解決方案。因此，受到人工智能傷害的受害人尋求法律救濟(jì)這條道路上是模糊的。

人工智能的發(fā)展不僅帶來新的失業(yè)、不平等以及侵權(quán)等問題，也在此基礎(chǔ)上誘發(fā)了犯罪與安全問題和一系列群體性事件。1.犯罪與安全。人工智能剝奪了中等技術(shù)勞動力的工作走向的第一個結(jié)果，即失業(yè)，與滋生犯罪有明顯的實證關(guān)系。另外，研究證明收入差距使刑事案件數(shù)量明顯增加，并集中在包括兇殺和傷害在內(nèi)的暴力型案件以及盜竊財產(chǎn)型案件。另外，人工智能技術(shù)的運用本身便會進(jìn)一步升級打擊的力度和密度，前述提及的殺人機(jī)器人，若頻繁出現(xiàn)在城市中，難免會遭到不法分子利用。相關(guān)統(tǒng)計顯示，2016年以來發(fā)生的網(wǎng)絡(luò)攻擊事件中，與人工智能相關(guān)的事件占到了六成。且如果該機(jī)器人自動做出行為但對象誤判時，將會給公共安全帶來極為嚴(yán)重的危害。2.群體性事件。1970年，社會學(xué)家格爾提出了“相對剝奪感”的觀念，認(rèn)為當(dāng)一個人在社會中的價值能力低于個人的價值期望時，人們就會產(chǎn)生失落、不滿足感以及相對剝奪感。人工智能剝奪了中等技術(shù)勞動力的工作，導(dǎo)致原本可以勝任中等技術(shù)崗位的勞動者只能選擇低技能要求的服務(wù)行業(yè)，這讓該群體容易產(chǎn)生心理落差而帶來不滿。同時，時刻帶著失業(yè)恐懼的勞動者自然也不會產(chǎn)生較高的生活滿意度，而生活滿意度與群體性事件的爆發(fā)實際上呈負(fù)相關(guān)關(guān)系。以上問題按照發(fā)生的原因可以分為三類：第一類是由于人工智能技術(shù)發(fā)展不成熟造成的問題，如文件損害、輸入設(shè)備受損、安全系統(tǒng)漏洞、有瑕疵的編程等;第二類是由于人工智能技術(shù)沖擊了傳統(tǒng)的社會形態(tài)而使傳統(tǒng)社會向新時代過渡的過程中難以避免地出現(xiàn)結(jié)構(gòu)性問題，如失業(yè)問題;第三類問題是由于人工智能的不當(dāng)利用產(chǎn)生的問題。

（四）對監(jiān)管的影響。埃隆·馬斯克提出：“我們應(yīng)該十分小心地看待人工智能”。正如馬斯克所說，我們應(yīng)該加大對人工智能的監(jiān)管。與傳統(tǒng)公共領(lǐng)域的監(jiān)管難題相比較，人工智能時代公共領(lǐng)域治理進(jìn)行監(jiān)管出現(xiàn)的新難題主要存在于以下三個限制：1.技術(shù)限制。人工智能由于技術(shù)門檻過高，因此政府對于掌握該項技術(shù)的技術(shù)公司的監(jiān)管存在著技術(shù)方面的限制。2.經(jīng)驗限制。隨著人工智能時代的到來，新技術(shù)的運用使特定的公共領(lǐng)域治理無經(jīng)驗可以參照。比如在無人駕駛領(lǐng)域，由于政府無相關(guān)治理經(jīng)驗，導(dǎo)致政府監(jiān)管、法律規(guī)則都還是空白的。傳統(tǒng)的監(jiān)管方式，如產(chǎn)品許可制度、研究與開發(fā)監(jiān)管、產(chǎn)品侵權(quán)責(zé)任，都不適用于管理自主智能機(jī)器所帶來的風(fēng)險。3.不易偵察的限制。開發(fā)隱秘的人工智能技術(shù)、零散分布的人工智能合作都難以被準(zhǔn)確監(jiān)管，這些都帶來了風(fēng)險預(yù)見的困難，從而加大了對人工智能進(jìn)行事前監(jiān)管的難度。

三、小結(jié)

人工智能時代挑戰(zhàn)了政府和企業(yè)的合作形態(tài)，作為甲方的政府給了作為乙方的企業(yè)更多的利用人工智能技術(shù)在公共領(lǐng)域治理合同中的定價能力，作為監(jiān)管者的政府由于技術(shù)限制、經(jīng)驗限制、不易偵察的限制變得更加不易于履行監(jiān)管職能。政府對于人工技能的依賴，削弱了政府的治理能力，不利于通過轉(zhuǎn)變職能解決公共領(lǐng)域治理中出現(xiàn)的第二類問題;政府的監(jiān)管不力，則意味著政府對企業(yè)更加難以控制，而不利于解決公共領(lǐng)域治理中出現(xiàn)的第三類問題。且政府治理能力的相對減弱以及對技術(shù)公司的監(jiān)管越發(fā)困難，使政府在和企業(yè)合作治理公共領(lǐng)域中不利于掌握談判的籌碼。同時隨著企業(yè)技術(shù)能力的增強，雖然一定程度上解決了第一類問題，但由于公共領(lǐng)域治理并不屬于企業(yè)的行為領(lǐng)域以及目標(biāo)范疇，因此可能會存在著由于技術(shù)水平的提升而導(dǎo)致第二類問題和第三類問題更加嚴(yán)重。

【參考文獻(xiàn)】

[1]〔英〕凱文·渥維克，李碧等譯.機(jī)器的征途[M].呼和浩特：內(nèi)蒙古人民出版社，1998.

[2]張成崗.人工智能時代：技術(shù)發(fā)展、風(fēng)險挑戰(zhàn)與秩序重構(gòu)[J].南京社會科學(xué)，2018（05）：42-52.

[3]梁芷銘.大數(shù)據(jù)治理：國家治理能力現(xiàn)代化的應(yīng)有之義[J].吉首大學(xué)學(xué)報（社會科學(xué)版），2015，36（02）：34-41.

[4]陳之常.應(yīng)用大數(shù)據(jù)推進(jìn)政府治理能力現(xiàn)代化——以北京市東城區(qū)為例[J].中國行政管理，2015（02）：38-42.

[5]王山.大數(shù)據(jù)時代中國政府治理能力建設(shè)與公共治理創(chuàng)新[J].求實，2017（01）：51-57.

[6]何哲.面向未來的公共管理體系：基于智能網(wǎng)絡(luò)時代的探析[J].中國行政管理，2017（11）：100-106.

[7]董立人.人工智能發(fā)展與政府治理創(chuàng)新研究[J].天津行政學(xué)院學(xué)報，2018，20（03）：3-10.

[8]前瞻網(wǎng).埃森哲：超半數(shù)公民愿意使用政府提供的人工智能服務(wù)[EB/OL]，https：//baijiahao.baidu.com/s？id=1595630304877517527&wfr=spider&for=pc，2018-03-22.

[9]鳳凰網(wǎng).一個悲傷的事實：34%的工作將會被人工智能替代[EB/OL].http：//news.ifeng.com/a/20170424/50986589_0.shtml，2017-04-24.

[10]曹靜，周亞林.人工智能對經(jīng)濟(jì)的影響研究進(jìn)展[J].經(jīng)濟(jì)學(xué)動態(tài)，2018（01）：103-115.

[11]AUTOR D H，SALOMONS A.Robocalypse now： Does Productivity Growth Threaten Employment？[R].ECB Sintra Forum on Central Banking Papers，2017.

[12]吳漢東.人工智能時代必須關(guān)注的社會風(fēng)險及四大問題[EB/OL].http：//www.sohu.com/a/212128225_455313，2017-12-22.

[13]劉小璇，張虎.論人工智能的侵權(quán)責(zé)任[J].南京社會科學(xué)，2018（09）：105-110+149.

[14]章元，劉時菁，劉亮.城鄉(xiāng)收入差距、民工失業(yè)與中國犯罪率的上升[J].經(jīng)濟(jì)研究，2011，46（02）：59-72.

[15]顏翠芳."城市貴族"的隕落：失業(yè)與犯罪[J].學(xué)術(shù)界， 2003（06）：217-221.

[16]王君寶.人工智能急需網(wǎng)絡(luò)安全"背書".經(jīng)濟(jì)參考報， 2016-9-30.

[17]周曉咪.群體性事件中社會心理分析研究綜述[J].改革與開放，2018（02）：84-85+89.

[18]李保臣，李德江.生活滿意感、政府滿意度與群體性事件的關(guān)系探討[J].中南民族大學(xué)學(xué)報（人文社會科學(xué)版），2013，33 （02）：90-95.

[19]馬修U.謝勒，曹建峰，李金磊.監(jiān)管人工智能系統(tǒng)：風(fēng)險、挑戰(zhàn)、能力和策略[J].信息安全與通信保密，2017（03）：45-71.