人工智能嵌入政府治理的風(fēng)險(xiǎn)及其規(guī)避

李良成，李雨青

(1.華南理工大學(xué) 馬克思主義學(xué)院，廣東 廣州510641；2.華南理工大學(xué) 公共管理學(xué)院，廣東 廣州 510641)

隨著數(shù)據(jù)的增長(zhǎng)和算力、算法的大幅提升，人們?cè)絹?lái)越普遍地把人工智能運(yùn)用于商業(yè)部門(mén)并為其賦能，如人工智能投資顧問(wèn)、人工智能輔助診療等。人工智能在政府部門(mén)的應(yīng)用尚處于初級(jí)階段，如政務(wù)服務(wù)、輔助決策等。我國(guó)正加速推進(jìn)人工智能應(yīng)用場(chǎng)景落地，推動(dòng)政府治理體系和治理能力現(xiàn)代化。人工智能可以處理海量數(shù)據(jù)，承擔(dān)極為復(fù)雜的任務(wù)，優(yōu)化行政流程與決策，推動(dòng)治理結(jié)構(gòu)扁平化，促進(jìn)多部門(mén)協(xié)同治理，控制政府規(guī)模，優(yōu)化資源分配，提升政府工作效率和公共服務(wù)的有效性。但是，人工智能技術(shù)嵌入政府治理也帶來(lái)了許多風(fēng)險(xiǎn)與挑戰(zhàn)，包括數(shù)據(jù)融合、數(shù)據(jù)安全、算法歧視、人工智能倫理與透明度、法律責(zé)任等[1]。然而，政府部門(mén)遠(yuǎn)未作好應(yīng)對(duì)人工智能所帶來(lái)的指數(shù)級(jí)變化挑戰(zhàn)的準(zhǔn)備?，F(xiàn)有政府結(jié)構(gòu)和進(jìn)程難以適應(yīng)人工智能時(shí)代，迫切需要各國(guó)政府進(jìn)行重新思考[2]。越來(lái)越多的人工智能技術(shù)將會(huì)嵌入政府治理中，如何發(fā)揮其在政府治理中最大效用的同時(shí)精準(zhǔn)識(shí)別并規(guī)避其風(fēng)險(xiǎn)？現(xiàn)有研究鮮有涉及，本文探究性地將人工智能嵌入政府治理的風(fēng)險(xiǎn)及其規(guī)避納入一個(gè)系統(tǒng)性的理論框架中并加以分析，希冀以“善智”促進(jìn)政府的“善治”。

一、研究框架構(gòu)建

(一)價(jià)值導(dǎo)向：“善智”與“善治”的前提

在處理技術(shù)與人類(lèi)的關(guān)系時(shí)，有部分學(xué)者秉持技術(shù)中立原則(technology neutrality)。此原則最先應(yīng)用于版權(quán)糾紛領(lǐng)域，即技術(shù)本無(wú)善惡之分，技術(shù)提供者無(wú)法預(yù)料或控制某產(chǎn)品或技術(shù)被用于合法或非法的用途,“因而無(wú)從僅僅因?yàn)楫a(chǎn)品或技術(shù)成為侵權(quán)工具而使提供者為他人侵權(quán)行為負(fù)責(zé)”[3]。一般認(rèn)為，“技術(shù)中立”包含了功能中立、責(zé)任中立、價(jià)值中立三種內(nèi)涵[4]，前兩種中立觀其實(shí)指向的都是價(jià)值中立觀，即技術(shù)天然不帶個(gè)人主觀偏見(jiàn)、不含價(jià)值判斷，奉行客觀性至上的價(jià)值中立立場(chǎng)。這一原則或許適用于傳統(tǒng)計(jì)算機(jī)技術(shù)，卻與人工智能技術(shù)不適配。人工智能技術(shù)與傳統(tǒng)計(jì)算機(jī)技術(shù)相比，其工作機(jī)制、原理大相徑庭。雖然都是通過(guò)計(jì)算機(jī)編程實(shí)現(xiàn)功能，但傳統(tǒng)計(jì)算機(jī)技術(shù)執(zhí)行的是簡(jiǎn)單的“輸入—輸出”式邏輯思維運(yùn)算；而人工智能技術(shù)以“深度學(xué)習(xí)”為特征，在大量輸入數(shù)據(jù)并進(jìn)行學(xué)習(xí)訓(xùn)練后能夠依靠“經(jīng)驗(yàn)”作出相應(yīng)決策。人工智能技術(shù)始終由設(shè)計(jì)者創(chuàng)造完成，并服務(wù)于特定目的；人工智能如何作出決策、作出何種決策，與設(shè)計(jì)者的目的、態(tài)度和獲取的訓(xùn)練數(shù)據(jù)密切相關(guān)。當(dāng)設(shè)計(jì)者在開(kāi)發(fā)過(guò)程中將自己的價(jià)值觀植入算法中，或訓(xùn)練數(shù)據(jù)帶有天然偏見(jiàn)時(shí)，人工智能技術(shù)無(wú)法再保持“中立”，這也為技術(shù)風(fēng)險(xiǎn)的發(fā)生埋下隱患。

既然人工智能技術(shù)并非中立，其內(nèi)在蘊(yùn)含的價(jià)值導(dǎo)向則是決定其行為善惡的根源。對(duì)人工智能技術(shù)價(jià)值導(dǎo)向的探討早有先例，為了防止機(jī)器人失控，阿西莫夫提出了著名的“機(jī)器人三定律”，這在當(dāng)時(shí)極具進(jìn)步意義，但隨著人工智能技術(shù)的發(fā)展與社會(huì)經(jīng)濟(jì)生活的劇變，人們需要更契合現(xiàn)實(shí)的人工智能價(jià)值準(zhǔn)則。各國(guó)政府積極探索人工智能倫理規(guī)范，2018年英國(guó)上議院人工智能特別委員會(huì)發(fā)布《英國(guó)人工智能發(fā)展的計(jì)劃、能力與志向》，要求人工智能為人類(lèi)共同利益服務(wù)、遵循可解釋性與公平性、保護(hù)公民數(shù)據(jù)權(quán)利與隱私等[5]。2019年歐盟委員會(huì)發(fā)布《可信賴(lài)人工智能倫理準(zhǔn)則》，準(zhǔn)則包括七項(xiàng)要素：人的能動(dòng)性和監(jiān)督、技術(shù)穩(wěn)健性和安全性、隱私和數(shù)據(jù)管理、透明度、多樣性和非歧視性以及公平性、社會(huì)及環(huán)境福祉、問(wèn)責(zé)制[6]。我國(guó)國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)于2019年發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，強(qiáng)調(diào)人工智能發(fā)展應(yīng)遵循和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理八條原則[7]。

人工智能倫理上升到國(guó)家治理層面也說(shuō)明人工智能技術(shù)亟須正確的價(jià)值導(dǎo)向指引，以實(shí)現(xiàn)從“善智”到“善治”。政府的行政行為具有公共性，一旦人工智能嵌入后發(fā)生侵權(quán)，引發(fā)風(fēng)險(xiǎn)的影響是廣泛且深遠(yuǎn)的。所以當(dāng)人工智能技術(shù)被應(yīng)用到政府治理中時(shí)，應(yīng)遵循一定的價(jià)值導(dǎo)向，即政治正義。人工智能技術(shù)具有其本身的技術(shù)屬性與社會(huì)屬性，在嵌入政府治理后具有了治理屬性。相應(yīng)的，政治正義包含了技術(shù)正義、治理正義與倫理正義。

其一，技術(shù)正義，包括透明性、可解釋性、可控性。首先，由于“人工智能的技術(shù)研發(fā)環(huán)境和應(yīng)用情境具有一定的隱蔽性、匿名性、不透明性，可能帶來(lái)安全隱患”[8]，所以人工智能技術(shù)嵌入政府治理發(fā)揮正向功能的前提是具有透明性、可解釋性與可控性。互聯(lián)網(wǎng)的普及為公民行使其知情權(quán)帶來(lái)了前所未有的便利，但在人工智能嵌入政府的決策中，算法所具有的“黑箱”特性則給自動(dòng)化決策過(guò)程蒙上了一層神秘“面紗”，這種不透明性導(dǎo)致決策結(jié)果難以預(yù)測(cè)和解釋?zhuān)l(fā)問(wèn)責(zé)難題，也使得公民對(duì)政府決策行為的正當(dāng)性與合法性產(chǎn)生懷疑。要解決人工智能程序中的不透明問(wèn)題，僅僅公開(kāi)算法是不夠的，必須構(gòu)建出能夠用來(lái)描述或定義人工智能程序內(nèi)部處理過(guò)程的方法。其次，由透明性原則引申，人工智能技術(shù)應(yīng)該具有可解釋性，即用戶(hù)能夠知曉算法及其如何作出某種決策。當(dāng)算法具有可解釋性時(shí)，政府決策者能夠知曉該決策方案的制訂過(guò)程及優(yōu)缺點(diǎn)，便于對(duì)方案進(jìn)行風(fēng)險(xiǎn)評(píng)估及后續(xù)完善；政府工作者能夠在公民對(duì)自動(dòng)化決策結(jié)果產(chǎn)生異議時(shí)出示依據(jù)，進(jìn)行解釋說(shuō)明，這對(duì)樹(shù)立算法可信度至關(guān)重要。最后，人工智能技術(shù)應(yīng)該符合可控性原則，即人工智能技術(shù)必須符合技術(shù)規(guī)范與標(biāo)準(zhǔn)，在法律框架中運(yùn)行，人們能夠?qū)ζ溥M(jìn)行有效規(guī)制與監(jiān)督。

其二，治理正義，包括包容性、可追溯性、可問(wèn)責(zé)性。首先，嵌入政府治理中的人工智能技術(shù)須具有包容性。《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》提出，包容共享是人工智能治理的重要原則，“應(yīng)促進(jìn)包容發(fā)展，加強(qiáng)人工智能教育及科普，提升弱勢(shì)群體適應(yīng)性，努力消除數(shù)字鴻溝”[7]。但隨著人工智能技術(shù)嵌入政府治理程度不斷加深，技術(shù)天然追求效率的特性使得數(shù)字鴻溝、福利差距有進(jìn)一步擴(kuò)大的趨勢(shì)。政府所提供的公共服務(wù)具有普惠性，那么在設(shè)計(jì)承擔(dān)具體行政行為的智能系統(tǒng)、技術(shù)時(shí)應(yīng)融入包容性，關(guān)注少數(shù)、弱勢(shì)群體的需求。其次，政務(wù)人工智能技術(shù)應(yīng)是可追溯的，可追溯性原則要求人工智能決策有跡可循。人工智能系統(tǒng)在決策過(guò)程中收集、標(biāo)記的數(shù)據(jù)以及使用的算法應(yīng)以工作日志的方式記錄儲(chǔ)存下來(lái)，以實(shí)現(xiàn)可追溯性，以便在人工智能決策錯(cuò)誤時(shí)可以查找原因。最后，政務(wù)人工智能技術(shù)應(yīng)是可問(wèn)責(zé)的。一項(xiàng)人工智能設(shè)計(jì)運(yùn)用到政府治理中，涉及各個(gè)相關(guān)主體，如人工智能技術(shù)設(shè)計(jì)者、生產(chǎn)者、運(yùn)營(yíng)者、使用者等，這就造成人工智能責(zé)任界定十分復(fù)雜。在治理場(chǎng)景中，人工智能失誤的情況時(shí)有發(fā)生，如果主體責(zé)任界定模糊，那么有效問(wèn)責(zé)將無(wú)從談起。因此可問(wèn)責(zé)原則實(shí)現(xiàn)的關(guān)鍵是確立一個(gè)清晰的責(zé)任界定框架，明確主體責(zé)任范圍，而過(guò)往的決策信息則為人工智能行為的問(wèn)責(zé)提供了依據(jù)。

其三，倫理正義，包括公平正義性、合法性。首先，公平正義是政府執(zhí)政過(guò)程中永恒的價(jià)值追求。即使人工智能嵌入政府治理領(lǐng)域參與甚至代替人獨(dú)立進(jìn)行行政實(shí)踐時(shí)，公平與正義依然是行政行為要遵循的價(jià)值導(dǎo)向，這就要求人工智能技術(shù)同樣具有公平正義性。算法的價(jià)值傾向性受訓(xùn)練數(shù)據(jù)與設(shè)計(jì)者自身價(jià)值觀的影響；因此，要發(fā)展公平正義的人工智能技術(shù)，就要在算法的設(shè)計(jì)與訓(xùn)練過(guò)程中著重消除由數(shù)據(jù)與設(shè)計(jì)者帶來(lái)的偏見(jiàn)。其次，在我國(guó)依法治國(guó)與依法行政的背景下，人工智能技術(shù)在政府治理中的運(yùn)用應(yīng)符合法律規(guī)范。目前，人工智能行為較為突出的合法性問(wèn)題之一即是對(duì)公民隱私的處理。在實(shí)際治理場(chǎng)景中，公民隱私數(shù)據(jù)常在未經(jīng)授權(quán)的情況下被隨意采集應(yīng)用，給公民信息安全帶來(lái)巨大威脅。當(dāng)人工智能技術(shù)驅(qū)動(dòng)的行政行為對(duì)公民隱私進(jìn)行收集時(shí)，其收集意圖、收集范圍、應(yīng)用方式等都應(yīng)受到法律的規(guī)制。人工智能技術(shù)設(shè)計(jì)、開(kāi)發(fā)、應(yīng)用的全過(guò)程應(yīng)在法律框架規(guī)制下進(jìn)行。

(二)嵌入風(fēng)險(xiǎn)：人工智能嵌入政府治理的風(fēng)險(xiǎn)三重屬性

對(duì)于人工智能技術(shù)嵌入政府治理，一部分學(xué)者分析了人工智能所帶來(lái)的積極影響。人工智能嵌入政府治理有助于解決傳統(tǒng)政府治理中的弊端，包括人力資源缺乏、行政流程漫長(zhǎng)、決策精準(zhǔn)度不高、政府—公民交互渠道不暢、公民個(gè)性化服務(wù)針對(duì)性不夠等[9]。例如，在新型冠狀病毒肺炎疫情防控中，大量人工智能技術(shù)的運(yùn)用對(duì)我國(guó)科學(xué)精準(zhǔn)防控和有效遏制疫情發(fā)揮了重要作用，包括疫情監(jiān)控、病區(qū)管理、風(fēng)險(xiǎn)預(yù)警、社區(qū)防控、同行查詢(xún)等。同時(shí)，許多學(xué)者也表達(dá)了對(duì)人工智能技術(shù)發(fā)展風(fēng)險(xiǎn)的擔(dān)憂?；艚鹪?017年全球移動(dòng)互聯(lián)網(wǎng)大會(huì)上就提出過(guò)“人工智能將成為人類(lèi)文明史的終結(jié)”的論斷(1)2017年4月27日，斯蒂芬·霍金在全球移動(dòng)互聯(lián)網(wǎng)大會(huì)上發(fā)表演講，指出人工智能的發(fā)展有可能是人類(lèi)文明史的終結(jié)。參見(jiàn)：人民網(wǎng).2017GMIC全球移動(dòng)互聯(lián)網(wǎng)大會(huì) 霍金談“人工智能威脅論”[EB/OL].(2017-04-28)[2020-22-26].http://media.people.com.cn/n1/2017/0428/c40606-29241880.html.。中國(guó)信息通信研究院發(fā)布的《人工智能安全白皮書(shū)(2018年)》將人工智能安全風(fēng)險(xiǎn)劃分為六大類(lèi)：網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、算法安全風(fēng)險(xiǎn)、信息安全風(fēng)險(xiǎn)、社會(huì)安全風(fēng)險(xiǎn)與國(guó)家安全風(fēng)險(xiǎn)[10]。在政府治理領(lǐng)域，Boyd等[11]研究發(fā)現(xiàn)人工智能在公共部門(mén)中的應(yīng)用可能帶來(lái)算法歧視、技術(shù)性失業(yè)等風(fēng)險(xiǎn)。政府運(yùn)用人工智能治理的風(fēng)險(xiǎn)還表現(xiàn)為：科層制結(jié)構(gòu)與人工智能發(fā)展之間的沖突；法律法規(guī)體系對(duì)以算法和數(shù)據(jù)為主體的應(yīng)用環(huán)境適應(yīng)性不足；人工智能將引發(fā)新的社會(huì)議題，而針對(duì)這些新領(lǐng)域的治理體系和治理工具仍處于空白狀態(tài)等[12-13]。Wirtz等[14]將人工智能嵌入政府治理后帶來(lái)的挑戰(zhàn)與風(fēng)險(xiǎn)歸為技術(shù)、法律、倫理和社會(huì)四大類(lèi)。在以往研究成果的基礎(chǔ)上，本文結(jié)合人工智能的“善智”前提，將嵌入政府治理的風(fēng)險(xiǎn)分為三類(lèi)：一是技術(shù)風(fēng)險(xiǎn)。當(dāng)人工智能違反技術(shù)正義，缺乏透明性、可解釋性與可控性時(shí)，人工智能技術(shù)的風(fēng)險(xiǎn)表現(xiàn)為安全漏洞風(fēng)險(xiǎn)與算法“黑箱”隱憂。二是治理風(fēng)險(xiǎn)。當(dāng)人工智能技術(shù)違反治理正義，缺乏包容性、可追溯性、可問(wèn)責(zé)性時(shí)，人工智能嵌入政府治理會(huì)引發(fā)決策困境與監(jiān)督困境。三是倫理風(fēng)險(xiǎn)。當(dāng)缺乏倫理社會(huì)正義價(jià)值引導(dǎo)的人工智能技術(shù)嵌入政府治理并運(yùn)用到社會(huì)環(huán)境中時(shí)，引發(fā)的隱私侵犯風(fēng)險(xiǎn)、算法歧視風(fēng)險(xiǎn)與信任風(fēng)險(xiǎn)可能會(huì)使人類(lèi)社會(huì)原本的價(jià)值體系陷入岌岌可危的境地，甚至危及國(guó)家政治權(quán)威。

(三)規(guī)避路徑：基礎(chǔ)層面與社會(huì)法律層面措施共同發(fā)力

人工智能是把雙刃劍，在實(shí)際應(yīng)用過(guò)程中，公共行政人員通過(guò)規(guī)劃和界定其風(fēng)險(xiǎn)領(lǐng)域，評(píng)估潛在的災(zāi)難性事件，以確定最恰當(dāng)?shù)母深A(yù)和補(bǔ)救措施[15]。2016年，美國(guó)、歐盟和英國(guó)分別發(fā)布了有關(guān)如何使社會(huì)為廣泛運(yùn)用人工智能作好準(zhǔn)備的報(bào)告，均將透明度、問(wèn)責(zé)制以及對(duì)經(jīng)濟(jì)和社會(huì)的積極影響作為“善人工智能社會(huì)”的核心價(jià)值觀之一[16]。我國(guó)公共政策選擇應(yīng)重視算法與數(shù)據(jù)的基礎(chǔ)地位、社會(huì)治理制度的創(chuàng)新、構(gòu)建起人工智能全球治理機(jī)制[6]。學(xué)者們也研究了如何在發(fā)揮其長(zhǎng)處的同時(shí)盡量減輕消極影響。如人工智能設(shè)計(jì)之初應(yīng)該考慮人工智能的道德行動(dòng)者地位及“道德嵌入”的合理性問(wèn)題，關(guān)注正義與公平，強(qiáng)調(diào)責(zé)任意識(shí)[17]。學(xué)者們或聚焦算法優(yōu)化，明確算法責(zé)任主體、監(jiān)管主體、監(jiān)管方式等[13]，或從安全屬性、責(zé)任機(jī)制、應(yīng)用環(huán)境的多主體共治幾方面構(gòu)建人工智能風(fēng)險(xiǎn)善治體系[8]。

現(xiàn)有研究對(duì)規(guī)避人工智能風(fēng)險(xiǎn)進(jìn)行了廣泛探索，但鮮有學(xué)者將人工智能風(fēng)險(xiǎn)與規(guī)避路徑納入系統(tǒng)性框架進(jìn)行研究。層級(jí)模型是將復(fù)雜問(wèn)題降維、達(dá)到直觀清晰效果的重要工具[18]。Clark[19]提出了網(wǎng)絡(luò)空間結(jié)構(gòu)分層模型，該模型揭示了網(wǎng)絡(luò)空間的本質(zhì)與基本構(gòu)成。Gasser等[20]認(rèn)為使用分層模型便于決策者厘清人工智能系統(tǒng)中存在的異質(zhì)性、風(fēng)險(xiǎn)的復(fù)雜性，據(jù)此也能對(duì)政策、法律和監(jiān)管進(jìn)行新的思考。他按照時(shí)間序列構(gòu)建了人工智能層級(jí)治理模型，從底部到頂部將人工智能風(fēng)險(xiǎn)治理路徑劃分為技術(shù)基礎(chǔ)層、倫理層與社會(huì)法律層，認(rèn)為技術(shù)路徑是規(guī)避人工智能風(fēng)險(xiǎn)的基礎(chǔ)。短期而言，風(fēng)險(xiǎn)規(guī)避應(yīng)關(guān)注數(shù)據(jù)治理、算法治理、人工智能技術(shù)標(biāo)準(zhǔn)與規(guī)范制定；中期而言，在技術(shù)基礎(chǔ)層之上，決策者可以繼續(xù)構(gòu)建倫理道德路徑，關(guān)注倫理準(zhǔn)則制定；長(zhǎng)期而言，社會(huì)和法律層位于頂層，要將人工智能與人類(lèi)的關(guān)系納入完善的法律框架之中。不同層級(jí)間的政策工具配合使用、層層遞進(jìn)，共同發(fā)揮標(biāo)準(zhǔn)、政策、法律等治理措施的效用，形成日漸完善的人工智能治理體系。

綜上，為了促進(jìn)人工智能技術(shù)與政府治理的良性結(jié)合，本研究借鑒Wirtz等[14]關(guān)于人工智能嵌入政府治理所引發(fā)風(fēng)險(xiǎn)的分類(lèi)以及Gasser等[20]對(duì)人工智能風(fēng)險(xiǎn)治理構(gòu)建的層級(jí)模型，構(gòu)建了人工智能嵌入政府治理的風(fēng)險(xiǎn)規(guī)避路徑框架，如圖1所示。從基礎(chǔ)層面與社會(huì)法律層面構(gòu)建人工智能嵌入政府治理的風(fēng)險(xiǎn)規(guī)避路徑，基礎(chǔ)層面對(duì)應(yīng)短期措施，社會(huì)法律層面對(duì)應(yīng)長(zhǎng)期措施。本文將人工智能技術(shù)嵌入政府治理引發(fā)的風(fēng)險(xiǎn)歸為三類(lèi)：技術(shù)風(fēng)險(xiǎn)、治理風(fēng)險(xiǎn)與倫理風(fēng)險(xiǎn)。針對(duì)技術(shù)風(fēng)險(xiǎn)，在基礎(chǔ)層面加強(qiáng)人工智能技術(shù)基礎(chǔ)研究和制訂人工智能技術(shù)標(biāo)準(zhǔn)規(guī)范體系，從社會(huì)法律層面優(yōu)化算法治理；針對(duì)治理風(fēng)險(xiǎn)，在基礎(chǔ)層面樹(shù)立風(fēng)險(xiǎn)防范意識(shí)，健全風(fēng)險(xiǎn)研判機(jī)制，優(yōu)化政府治理流程和創(chuàng)新政府治理模式，在社會(huì)法律層面完善治理工具與形成多元共治機(jī)制；針對(duì)倫理風(fēng)險(xiǎn)，在基礎(chǔ)層面著眼于建立堅(jiān)實(shí)可信的數(shù)據(jù)平臺(tái)，在社會(huì)法律層面設(shè)置開(kāi)發(fā)應(yīng)用紅線和完善救濟(jì)渠道。

圖1 人工智能嵌入政府治理的風(fēng)險(xiǎn)規(guī)避路徑框架

二、人工智能時(shí)代政府治理面臨的風(fēng)險(xiǎn)

人工智能嵌入政府治理促進(jìn)了治理工具和手段的多樣化，但是將算法技術(shù)作為治理工具時(shí)強(qiáng)化了政府工具理性，政府容易陷入片面追求技術(shù)效率的漩渦，忽視安全、公平、正義、負(fù)責(zé)任等價(jià)值理性，引發(fā)一系列風(fēng)險(xiǎn)問(wèn)題。本文分別從技術(shù)風(fēng)險(xiǎn)、治理風(fēng)險(xiǎn)與倫理風(fēng)險(xiǎn)對(duì)人工智能嵌入政府治理存在的風(fēng)險(xiǎn)進(jìn)行探討。

(一)技術(shù)風(fēng)險(xiǎn)

1.算法“黑箱”隱憂

人工智能主要通過(guò)深度學(xué)習(xí)來(lái)發(fā)揮其強(qiáng)大功能，但在輸入和輸出之間存在人們無(wú)法知悉的“隱層”——也稱(chēng)為“黑箱”，深度學(xué)習(xí)就其本質(zhì)而言是“黑箱”。人工智能將經(jīng)歷三個(gè)階段：弱人工智能、強(qiáng)人工智能與超人工智能階段。在弱人工智能階段，人工智能在具體領(lǐng)域內(nèi)發(fā)揮作用，如信息檢索、科學(xué)計(jì)算、自動(dòng)化控制等，協(xié)助但無(wú)法全面替代人類(lèi)智慧，此階段的算法更多被設(shè)計(jì)成遵循從數(shù)據(jù)輸入到既定結(jié)果輸出的過(guò)程。在弱人工智能階段，算法指令相對(duì)簡(jiǎn)單，結(jié)果指向也較為明確。若發(fā)覺(jué)程序運(yùn)行出現(xiàn)失誤，設(shè)計(jì)者可回溯指令，找出程序漏洞并修復(fù)。在強(qiáng)人工智能階段，人工智能獲得更強(qiáng)的自主學(xué)習(xí)能力，逐漸接近人類(lèi)智慧，它們被編程去學(xué)習(xí)如何解決問(wèn)題。學(xué)習(xí)能力使算法具有某種程度上的自主權(quán)，進(jìn)而使得即使是算法的設(shè)計(jì)者也難以對(duì)算法運(yùn)行過(guò)程及輸出結(jié)果進(jìn)行闡釋[21]。麻省理工學(xué)院Jaakkola教授認(rèn)為：“如果是一個(gè)非常小的神經(jīng)網(wǎng)絡(luò)，你也許能夠理解它。但是，一旦它變得龐大，(結(jié)構(gòu))可能達(dá)到數(shù)百層，并且每層有數(shù)千個(gè)單位，那么它就變得相當(dāng)難以理解?！?2)麻省理工學(xué)院Tommi Jaakkola教授接受英國(guó)《每日郵報(bào)》采訪時(shí)表示，神經(jīng)網(wǎng)絡(luò)的復(fù)雜化使人們無(wú)法理解深度學(xué)習(xí)算法。參見(jiàn)：DAILY MAIL.Has humanity already lost control of artificial intelligence?Scientists admit that computers are learning too quickly for humans to keep up[EB/OL].(2017-04-11)[2020-11-26].https://www.dailymail.co.uk/sciencetech/article-4401836/Has-humanity-lost-control-artificial-intelligence.html.當(dāng)前人工智能發(fā)展正由弱人工智能向強(qiáng)人工智能過(guò)渡，算法逐漸具有自主性、復(fù)雜性與不可解釋性，增加了預(yù)測(cè)與解釋輸出結(jié)果的難度。即使能夠知悉其工作原理，也不一定清楚其實(shí)施方案的實(shí)際機(jī)制，因而仍無(wú)法預(yù)測(cè)與解釋其應(yīng)用后果，這就造成了對(duì)政府行政行為監(jiān)督和問(wèn)責(zé)的困境。2016年，特朗普競(jìng)選團(tuán)隊(duì)通過(guò)劍橋分析公司非法獲取網(wǎng)絡(luò)用戶(hù)個(gè)人數(shù)據(jù)，對(duì)選民有針對(duì)性地投放廣告，影響了當(dāng)年大選(3)參見(jiàn)How Trump consultants exploited the Facebook data of millions[EB/OL].(2018-03-17)[2020-11-26].https://www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-trump-campaign.html.。法國(guó)總統(tǒng)馬克龍也曾通過(guò)數(shù)據(jù)分析公司對(duì)選民進(jìn)行“政治畫(huà)像”，從而便于其有針對(duì)性地優(yōu)化施政方針，獲得選民支持(4)參見(jiàn) 5 000萬(wàn)臉書(shū)用戶(hù)信息被盜 探訪這場(chǎng)輿論風(fēng)暴中的“劍橋分析”[EB/OL].(2018-04-04)[2020-11-26].https://world.huanqiu.com/article/9CaKrnK7ndP.。由于存在算法“黑箱”，即使大眾已知自己信息泄露，陷入政治精準(zhǔn)營(yíng)銷(xiāo)漩渦，但對(duì)算法干預(yù)過(guò)程一無(wú)所知，無(wú)法收集有效證據(jù)用于申訴，政府操縱選情、輿論造假的行為便肆無(wú)忌憚、愈演愈烈[22]。另外，當(dāng)具有“黑箱”特性的人工智能嵌入政府治理場(chǎng)景時(shí)，一旦發(fā)生失誤，不僅會(huì)阻礙政府部門(mén)的正常運(yùn)作，還會(huì)將公民和社會(huì)置于重大風(fēng)險(xiǎn)中，引發(fā)社會(huì)倫理問(wèn)題與爭(zhēng)議[23]。

2.安全漏洞

人工智能技術(shù)發(fā)展仍處于弱人工智能階段，技術(shù)在不斷地完善與升級(jí)過(guò)程中。如人工智能廣泛依賴(lài)圖像、音像、雷達(dá)等各類(lèi)傳感器，傳感器被干擾就會(huì)出現(xiàn)識(shí)別和決策失誤。人工智能系統(tǒng)存在一些安全漏洞易受攻擊，主要有以下三方面原因：機(jī)器學(xué)習(xí)能力須通過(guò)反復(fù)“學(xué)習(xí)”一些統(tǒng)計(jì)學(xué)上的關(guān)聯(lián)而獲得，而這些統(tǒng)計(jì)特性有時(shí)是不可靠的，因此人工智能習(xí)得的工作模式也容易被干擾；人工智能功能的發(fā)揮依賴(lài)于提供的數(shù)據(jù)，輸入數(shù)據(jù)的干擾會(huì)擾亂人工智能系統(tǒng)[24]；當(dāng)前人工智能技術(shù)研發(fā)仍處于初級(jí)階段，所基于的學(xué)習(xí)框架和組件等有待進(jìn)行安全測(cè)試與完善，可能存在漏洞。由清華大學(xué)人工智能研究院孵化的Real AI公司曾做過(guò)相關(guān)研究：人工智能系統(tǒng)的算法漏洞可生成對(duì)抗樣本的“噪音”，惡意誤導(dǎo)人工智能算法輸出非預(yù)期結(jié)果，誘導(dǎo)識(shí)別系統(tǒng)出錯(cuò)(5)參見(jiàn) 堵住AI安全漏洞，法規(guī)之外更需技術(shù)制衡[EB/OL].(2020-01-14)[2020-11-26].http://www.xinhuanet.com/finance/2020-01/14/c_1125458306.htm.。Eykholt等[25]在“閃避攻擊”實(shí)驗(yàn)中發(fā)現(xiàn)，可以對(duì)路標(biāo)做一些涂改，使人工智能路標(biāo)識(shí)別算法將“禁止通行”的路標(biāo)識(shí)別成為“限速45km”。統(tǒng)計(jì)數(shù)據(jù)顯示，2020年，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心(CNCERT)共監(jiān)測(cè)發(fā)現(xiàn)我國(guó)境內(nèi)被植入后門(mén)的政府網(wǎng)站數(shù)量為276個(gè)，2019年則為1 045個(gè)[26]。運(yùn)用于政府治理的人工智能系統(tǒng)遭受攻擊可能會(huì)產(chǎn)生更為嚴(yán)重的后果。例如，政府治理中常采用基于人工智能的內(nèi)容過(guò)濾系統(tǒng)，保護(hù)互聯(lián)網(wǎng)平臺(tái)健康安全，一旦系統(tǒng)遭受惡意攻擊，內(nèi)容過(guò)濾機(jī)制無(wú)法發(fā)揮作用，不法分子就會(huì)在網(wǎng)絡(luò)平臺(tái)上散布虛假消息和干擾國(guó)家執(zhí)法活動(dòng)。人工智能攻擊有別于傳統(tǒng)意義上的網(wǎng)絡(luò)安全，傳統(tǒng)網(wǎng)絡(luò)安全漏洞可能是由于指令錯(cuò)誤，可通過(guò)修改指令修復(fù)漏洞；而人工智能漏洞在于自身算法或依賴(lài)的數(shù)據(jù)，利用這樣的漏洞來(lái)破壞人工智能系統(tǒng)甚至無(wú)須侵入目標(biāo)系統(tǒng)。

(二)治理風(fēng)險(xiǎn)

1.決策困境

人工智能參與決策是其嵌入政府治理中發(fā)揮效用的重要途徑。在發(fā)展初期，人工智能參與決策的優(yōu)勢(shì)明顯，可提高行政治理效率。人工智能通過(guò)算法模型進(jìn)行決策，實(shí)現(xiàn)決策過(guò)程中的客觀性，避免決策者因受到自身經(jīng)驗(yàn)、情感傾向、人情關(guān)系的制約而影響決策的公正性。但隨著人工智能技術(shù)在政府治理過(guò)程中嵌入程度不斷加深，其引以為傲的優(yōu)勢(shì)也成為其隱患。如何在人工智能決策中尋求效率與公平的平衡？提高效率是技術(shù)設(shè)計(jì)的意圖，人工智能通過(guò)內(nèi)置算法對(duì)數(shù)據(jù)進(jìn)行精確計(jì)算后往往可以快速得到“最優(yōu)解”，然而，“最優(yōu)的”是否就是“最合適的”？在處理類(lèi)似“有軌電車(chē)?yán)Ь场盵27]的情況時(shí)，人工智能甚至?xí)x擇為了實(shí)現(xiàn)多數(shù)人的福祉而犧牲少數(shù)人利益[28]。人工智能的決策困境逐漸顯露。政府作為公共服務(wù)的提供者與公共利益的維護(hù)者，作出的決策必須受到社會(huì)公平與正義價(jià)值導(dǎo)向的指引，若一味追求工具理性而忽視了價(jià)值理性，則會(huì)讓政府治理行為蒙上功利主義的陰影，進(jìn)一步加劇馬太效應(yīng)，埋下社會(huì)失序隱憂。

2.監(jiān)督困境

“深度學(xué)習(xí)”是人工智能的最大特征，設(shè)計(jì)者設(shè)定算法學(xué)習(xí)規(guī)則，算法基于此進(jìn)行大規(guī)模數(shù)據(jù)輸入訓(xùn)練后便可以自主工作。“深度學(xué)習(xí)”使得算法并非機(jī)械模仿人類(lèi)行為，而是賦予其一定的自主性進(jìn)行學(xué)習(xí)與決策。既然人工智能不再是某種完全“沒(méi)有意識(shí)”的被動(dòng)工具，是否可以視其為擁有某種自主意識(shí)的智能主體和擁有法律意義上的獨(dú)立主體資格？這關(guān)系到能否對(duì)其行為進(jìn)行有效監(jiān)督與問(wèn)責(zé)。人工智能運(yùn)用于政府治理中，給政府治理帶來(lái)的風(fēng)險(xiǎn)成因包括使用者操作不當(dāng)、黑客惡意入侵操縱、人工智能系統(tǒng)算法漏洞等。復(fù)雜的風(fēng)險(xiǎn)成因?qū)е潞茈y認(rèn)定人工智能產(chǎn)品侵權(quán)責(zé)任，尤其是人工智能算法的“黑箱”屬性，導(dǎo)致即使是設(shè)計(jì)者也無(wú)法完全準(zhǔn)確地預(yù)測(cè)其自主性的行為后果。當(dāng)人工智能服務(wù)或產(chǎn)品在應(yīng)用過(guò)程中出現(xiàn)偏差與失誤，甚至引發(fā)侵權(quán)或犯罪行為時(shí)，將責(zé)任完全歸于設(shè)計(jì)者是不公平的，但若要?dú)w于人工智能本身，如何問(wèn)責(zé)機(jī)器又成了一個(gè)難題。

現(xiàn)有法律制度和法制體系主要是圍繞規(guī)范人的行為制定，著眼點(diǎn)通常是人類(lèi)行為之間的因果關(guān)系。對(duì)人工智能相關(guān)行為法律責(zé)任的認(rèn)定和承擔(dān)問(wèn)題，當(dāng)前學(xué)術(shù)界、產(chǎn)業(yè)界、決策部門(mén)也在探索治理之道。例如，我國(guó)首個(gè)人工智能安全發(fā)展的導(dǎo)則《人工智能安全與法治導(dǎo)則(2019)》第五點(diǎn)“人工智能產(chǎn)品法律責(zé)任問(wèn)題”中提到，在弱人工智能時(shí)代，人工智能產(chǎn)品定位仍是“工具”，應(yīng)由人工智能設(shè)計(jì)者、生產(chǎn)者、運(yùn)營(yíng)者與使用者共同承擔(dān)法律責(zé)任[29]。但是，此類(lèi)探索大多仍停留在建議與倡導(dǎo)層面，目前依然缺乏對(duì)人工智能產(chǎn)品侵權(quán)行為進(jìn)行明確責(zé)任認(rèn)定與追責(zé)的法律與政策治理工具。為促進(jìn)人工智能技術(shù)良性發(fā)展，現(xiàn)代法律體系建設(shè)必須未雨綢繆，盡快填補(bǔ)治理工具的空白以規(guī)避人工智能技術(shù)帶來(lái)的新問(wèn)題，“在人工智能時(shí)代繼續(xù)維持秩序與變革、守護(hù)與創(chuàng)新、價(jià)值與事實(shí)之間的動(dòng)態(tài)平衡”[30]。

(三)倫理風(fēng)險(xiǎn)

1.算法歧視

人工智能算法嵌入政府治理后，對(duì)政府行為的影響日益加深。例如，決策者基于算法大量收集公民特征“數(shù)據(jù)集”，識(shí)別公民需求，提供差異化、個(gè)性化服務(wù)；在刑事判決中評(píng)估犯罪風(fēng)險(xiǎn)時(shí)可能依據(jù)算法提供的數(shù)據(jù)判斷其刑罰。雖然人工智能在一定程度上可以模擬甚至超越人類(lèi)智慧，但是人類(lèi)除了智慧，仍具有復(fù)雜的生理特質(zhì)，如情感、情緒、性格等，這些是現(xiàn)階段人工智能無(wú)法與人類(lèi)比擬的。那么在決策者同意人工智能分擔(dān)一部分決策行為時(shí)，人工智能能夠作出合理公正的決策嗎？

算法通過(guò)內(nèi)置的排序、分類(lèi)、關(guān)聯(lián)、過(guò)濾等規(guī)則與程序處理采集到的海量數(shù)據(jù)進(jìn)行決策[16]，但算法決策有可能暗藏“歧視”，導(dǎo)致決策不合理、不公平。首先，人類(lèi)社會(huì)具有不確定性與復(fù)雜性，算法采集到的數(shù)據(jù)在客觀性、全面性、代表性等方面可能存在不足，使用這些數(shù)據(jù)進(jìn)行自動(dòng)化決策的過(guò)程中造成歧視。芝加哥法院使用Northpointe公司開(kāi)發(fā)的犯罪風(fēng)險(xiǎn)評(píng)估算法COMPAS時(shí)，由于數(shù)據(jù)庫(kù)中擁有更全面的白人資料，導(dǎo)致黑人被錯(cuò)誤標(biāo)記為具有高犯罪風(fēng)險(xiǎn)的概率是白人的兩倍[31]。二是算法設(shè)計(jì)目的及數(shù)據(jù)運(yùn)用等植入了設(shè)計(jì)者價(jià)值取向，即算法能動(dòng)性要通過(guò)設(shè)計(jì)者主觀價(jià)值判斷來(lái)實(shí)現(xiàn)。人工智能機(jī)器設(shè)計(jì)者的偏見(jiàn)或社會(huì)偏見(jiàn)嵌入用于訓(xùn)練機(jī)器的數(shù)據(jù)中，人工智能從存在偏見(jiàn)的數(shù)據(jù)中獲得知識(shí)，就會(huì)使這種傾向制度化[2]。有研究指出，黑人會(huì)更頻繁收到“查詢(xún)被逮捕記錄”的廣告[32]。即使設(shè)計(jì)者在算法設(shè)計(jì)中盡可能保持客觀，但其仍會(huì)將自身的專(zhuān)業(yè)知識(shí)、社會(huì)文化、道德準(zhǔn)則、價(jià)值判斷甚至固有偏見(jiàn)注入算法中。例如，算法可能會(huì)為使用者顯示最優(yōu)選擇與決策，這不僅需要設(shè)計(jì)者事先設(shè)定滿(mǎn)意閾值，而且為了有效實(shí)現(xiàn)預(yù)期目標(biāo)，設(shè)計(jì)者會(huì)依據(jù)自身判斷或過(guò)去用戶(hù)的數(shù)據(jù)訓(xùn)練算法，通過(guò)算法學(xué)習(xí)獲得“最優(yōu)解”。

公平是政府決策時(shí)重要的價(jià)值導(dǎo)向，然而算法歧視對(duì)公平的損害不易為人察覺(jué)。如少數(shù)群體可能會(huì)因?yàn)椤皵?shù)據(jù)鴻溝”造成的數(shù)據(jù)缺失，被排除在算法社會(huì)之外；公民被算法內(nèi)置排序分類(lèi)規(guī)則賦予“算法身份”，即“算法自動(dòng)確定了個(gè)體的性別、階級(jí)、種族等身份特征”后，算法再根據(jù)這些特征識(shí)別公民偏好，推送相應(yīng)服務(wù)，這可能會(huì)導(dǎo)致公民陷入“信息繭房”[21]。隨著進(jìn)入政府決策過(guò)程中數(shù)據(jù)驅(qū)動(dòng)信息系統(tǒng)數(shù)量迅速增加，偏差或不透明性問(wèn)題將變得更加嚴(yán)重[33]。

2.隱私侵犯

人工智能嵌入政府治理后存在泄露隱私風(fēng)險(xiǎn)。人工智能應(yīng)用以采集與處理海量個(gè)人數(shù)據(jù)為前提；隨著更復(fù)雜的數(shù)據(jù)分析算法的發(fā)展，數(shù)據(jù)存儲(chǔ)能力、計(jì)算能力的提高，人工智能技術(shù)能夠收集和分析更多數(shù)據(jù)集，提取潛在的有用信息，但這勢(shì)必會(huì)涉及個(gè)人數(shù)據(jù)信息安全與隱私保護(hù)問(wèn)題[34]。在數(shù)字化空間中，個(gè)人行為皆可以被轉(zhuǎn)化為數(shù)據(jù)記錄下來(lái)，如個(gè)人身份、偏好、網(wǎng)絡(luò)瀏覽軌跡、出行記錄等，人工智能通過(guò)采集公民數(shù)據(jù)，憑借強(qiáng)大的數(shù)據(jù)整合與處理能力對(duì)個(gè)人進(jìn)行“精準(zhǔn)畫(huà)像”，將相關(guān)信息運(yùn)用到?jīng)Q策中去。雖然這有利于科學(xué)決策與精準(zhǔn)識(shí)別公民需求，但過(guò)度數(shù)據(jù)采集行為對(duì)公民的財(cái)產(chǎn)和人身安全行為造成了威脅，存在隱私泄露風(fēng)險(xiǎn)。同時(shí)，數(shù)據(jù)采集行為常在公民不知情、未授權(quán)的情況下進(jìn)行，或者公民即使知情但沒(méi)有自由選擇授權(quán)的范圍和類(lèi)型而被動(dòng)授權(quán)，公民正逐漸喪失了對(duì)信息的控制權(quán)，面臨著邊沁所說(shuō)的“環(huán)形監(jiān)獄”困境，即知道自己被監(jiān)視，但是看不見(jiàn)監(jiān)視者(6)環(huán)形監(jiān)獄又稱(chēng)圓形監(jiān)獄，是英國(guó)哲學(xué)家邊沁于1785年提出的一種監(jiān)獄形態(tài)的設(shè)想。在這種監(jiān)獄中，囚犯?jìng)儽魂P(guān)押在一個(gè)環(huán)形建筑中，環(huán)形建筑的中心是一座瞭望塔。瞭望塔上有一圈窗戶(hù)，與環(huán)形建筑牢房上的窗戶(hù)相對(duì)，且裝有百葉窗等防窺裝置，囚犯在囚室中看不到監(jiān)視者，但監(jiān)視者在瞭望塔上可以監(jiān)視囚犯的所有行為，使囚犯長(zhǎng)期處于被監(jiān)視的壓力下?，F(xiàn)常被用來(lái)隱喻互聯(lián)網(wǎng)中的安全和隱私問(wèn)題。參見(jiàn) BENTHAM J,BOZOVIC M.The panopticon writings[M].London Verso,1995:29-95.//劉永謀,吳林海.極權(quán)與民主:物聯(lián)網(wǎng)的偏好與風(fēng)險(xiǎn)——以圓形監(jiān)獄為視角[J].自然辯證法研究,2012,28(5):77-81.。2019年，杭州野生動(dòng)物園就因強(qiáng)制啟用人臉識(shí)別技術(shù)，收集用戶(hù)生物識(shí)別敏感信息，危害用戶(hù)人身和財(cái)產(chǎn)安全而被起訴(7)參見(jiàn) 中國(guó)人臉識(shí)別第一案：杭州一動(dòng)物園因啟用人臉識(shí)別技術(shù)被起訴[EB/OL].(2019-11-04)[2020-11-26].http://www.chinapeace.gov.cn/chinapeace/c54219/2019-11/04/content_12299517.shtml.。人臉、指紋、聲紋等基于用戶(hù)生物信息發(fā)揮作用的識(shí)別技術(shù)在政府治理領(lǐng)域中也面臨同樣問(wèn)題。這些技術(shù)在安檢、治安管理、個(gè)人賬戶(hù)登錄管理等場(chǎng)景中發(fā)揮了極大作用，但都面臨監(jiān)管難題。個(gè)體的生物信息屬于個(gè)體高度敏感信息，并且伴隨個(gè)體一生，一旦泄露或?yàn)E用，幾乎無(wú)法救濟(jì)。

各國(guó)政府也在探究保護(hù)公民隱私之道。中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院發(fā)布了《人工智能標(biāo)準(zhǔn)化白皮書(shū)(2018)》，指出“對(duì)個(gè)人數(shù)據(jù)管理應(yīng)該采取延伸式保護(hù)”，保護(hù)公眾隱私[35]。2020年公布的《中華人民共和國(guó)個(gè)人信息保護(hù)法(草案)》在法律層面上對(duì)使用個(gè)人信息進(jìn)行自動(dòng)化決策作了相應(yīng)探索。但是，我國(guó)對(duì)于公民信息安全保護(hù)的相關(guān)法律法規(guī)仍不夠完善，尚未形成完善的人工智能數(shù)據(jù)安全法律法規(guī)體系。美國(guó)出臺(tái)了《網(wǎng)絡(luò)安全信息共享法案》，制定了針對(duì)不同行業(yè)的公民信息安全保護(hù)細(xì)則[36]。歐盟發(fā)布了《通用數(shù)據(jù)保護(hù)條例》保護(hù)公民數(shù)據(jù)與隱私權(quán)[37]?？偠灾?，政府在使用公民個(gè)人信息時(shí)，應(yīng)遵循正當(dāng)合法的價(jià)值導(dǎo)向，收集信息之前應(yīng)征得公民同意，并明確隱私信息收集目的、方式、種類(lèi)等，尊重公民隱私。

3.信任危機(jī)

在行政倫理中，人是權(quán)力行使和決策行為主體，即“從未有非人類(lèi)的主體能夠裁決人類(lèi)的行為”[3]。人的決策除了數(shù)據(jù)處理和運(yùn)算外，還涉及價(jià)值與事實(shí)的平衡，會(huì)涉及情感、價(jià)值選擇、倫理判斷等。雖然人工智能在采集數(shù)據(jù)與計(jì)算方面遠(yuǎn)優(yōu)于人類(lèi)，但是其并不具備完全自主意識(shí)與類(lèi)人情感，人工智能只是作為行政行為的輔助，由人作出最終決策。隨著人工智能技術(shù)的發(fā)展，人工智能將越來(lái)越深入地參與決策進(jìn)程中和獨(dú)立作出行政行為。弱人工智能階段，人工智能幫助人類(lèi)實(shí)現(xiàn)數(shù)據(jù)的計(jì)算與整合；強(qiáng)人工智能階段，人工智能可以為決策者提供權(quán)力行使方案；超人工智能階段，人工智能則可能擺脫人類(lèi)管控獨(dú)立作出決策。隨著人類(lèi)對(duì)人工智能系統(tǒng)的控制權(quán)逐步減少，方案的制定中越來(lái)越多地體現(xiàn)機(jī)器意志，人類(lèi)社會(huì)的傳統(tǒng)行政倫理將逐漸崩塌。若最終決策權(quán)由人工智能掌握，政府行政行為是否還具有權(quán)威性和合法性？當(dāng)機(jī)器擁有了越來(lái)越大的決策權(quán)，而人工智能技術(shù)規(guī)范體系缺位，民眾的恐慌與懷疑情緒會(huì)愈來(lái)愈盛，政府將喪失公信力而陷入“塔西佗陷阱”。

此外，人工智能的頻現(xiàn)失誤也使人們對(duì)其可靠性與安全性產(chǎn)生擔(dān)憂。據(jù)統(tǒng)計(jì)，截至2020年12月，我國(guó)共有政府網(wǎng)站14 444個(gè)，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心檢測(cè)發(fā)現(xiàn)2020年我國(guó)境內(nèi)被篡改的政府網(wǎng)站達(dá)1 030個(gè)，較2019年同期(787個(gè))增長(zhǎng)30.9%[26]。不法分子利用政府網(wǎng)站安全防火墻的漏洞乘虛而入，在政府官方網(wǎng)站上發(fā)布虛假消息，或?qū)⒈疽I入官方網(wǎng)站的用戶(hù)定向到虛假鏈接，導(dǎo)致用戶(hù)關(guān)鍵信息泄露。雖然能夠進(jìn)行事后修復(fù)，但此類(lèi)行為已切實(shí)危害公共安全，甚至逐漸瓦解公眾心中的信任體系。

三、人工智能在政府應(yīng)用中的風(fēng)險(xiǎn)規(guī)避路徑選擇

為規(guī)避人工智能嵌入政府治理中的風(fēng)險(xiǎn)，針對(duì)以上三類(lèi)風(fēng)險(xiǎn)，在遵循“善智”的技術(shù)正義、治理正義、倫理正義的價(jià)值導(dǎo)向下，短期而言，應(yīng)加強(qiáng)基礎(chǔ)層面的措施；長(zhǎng)期而言，應(yīng)在社會(huì)法律層面采取以下相應(yīng)措施，達(dá)到人工智能在政府治理中的“善治”。

(一)增強(qiáng)技術(shù)穩(wěn)定性與算法安全性以規(guī)避技術(shù)風(fēng)險(xiǎn)

1.基礎(chǔ)層面措施：技術(shù)升級(jí)與規(guī)范

(1)加強(qiáng)人工智能技術(shù)基礎(chǔ)研究。人工智能產(chǎn)業(yè)鏈結(jié)構(gòu)分為基礎(chǔ)研究層、技術(shù)開(kāi)發(fā)層與應(yīng)用層。人工智能產(chǎn)業(yè)的基石為基礎(chǔ)研究層，包括芯片、計(jì)算平臺(tái)和數(shù)據(jù)等。技術(shù)開(kāi)發(fā)層是產(chǎn)業(yè)鏈的核心部分，人工智能應(yīng)用能夠最終落地倚靠技術(shù)層，包括算法、開(kāi)發(fā)平臺(tái)與通用技術(shù)等。我國(guó)人工智能產(chǎn)業(yè)呈“倒三角”結(jié)構(gòu)，研究領(lǐng)域聚焦于相關(guān)應(yīng)用的落地，相對(duì)忽視了基礎(chǔ)研究層與技術(shù)開(kāi)發(fā)層的發(fā)展。人工智能全產(chǎn)業(yè)鏈環(huán)環(huán)相扣，基礎(chǔ)研究更是重中之重，只有在基礎(chǔ)研究領(lǐng)域補(bǔ)齊短板，人工智能才能可持續(xù)健康發(fā)展?；A(chǔ)研究不確定性大、周期長(zhǎng)、風(fēng)險(xiǎn)高，因此，政策布局應(yīng)向基礎(chǔ)研究?jī)A斜，在智能芯片、基礎(chǔ)算法、計(jì)算平臺(tái)等方面持續(xù)穩(wěn)定加大投入，實(shí)施重大技術(shù)攻關(guān)，提高自主創(chuàng)新能力，突破我國(guó)人工智能關(guān)鍵核心技術(shù)瓶頸。只有我國(guó)人工智能核心技術(shù)整體得到提升，嵌入政府治理中的人工智能技術(shù)才具有可靠性、穩(wěn)定性。政府的行政行為涉及國(guó)家機(jī)密，因此關(guān)鍵核心技術(shù)應(yīng)保證是我國(guó)具有自主知識(shí)產(chǎn)權(quán)的，避免受制于人，遭到不法分子與邪惡勢(shì)力的干擾與攻擊。

(2)制訂人工智能技術(shù)標(biāo)準(zhǔn)規(guī)范體系。人工智能技術(shù)本身存在的漏洞有可能被不法分子利用并引發(fā)風(fēng)險(xiǎn)。例如，不法分子惡意攻擊警方使用的人工智能人臉識(shí)別系統(tǒng)，削弱系統(tǒng)識(shí)別的準(zhǔn)確性，嚴(yán)重影響國(guó)家安全與社會(huì)穩(wěn)定。因此，要盡快構(gòu)建相應(yīng)的技術(shù)標(biāo)準(zhǔn)規(guī)范體系和規(guī)范操作流程，為人工智能技術(shù)的規(guī)范研發(fā)、使用提供指導(dǎo)。發(fā)達(dá)國(guó)家高度重視人工智能技術(shù)規(guī)范體系的設(shè)立，如美國(guó)發(fā)布的《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》[38]、歐盟發(fā)布的“人腦計(jì)劃”[39]等均提出建設(shè)人工智能技術(shù)的標(biāo)準(zhǔn)規(guī)范。我國(guó)《新一代人工智能發(fā)展規(guī)劃》中提出要“加強(qiáng)人工智能標(biāo)準(zhǔn)框架體系研究”[40]。應(yīng)注意的是，嵌入政府治理中的人工智能技術(shù)適用普適性準(zhǔn)則，但也要根據(jù)政府的特點(diǎn)制訂具有針對(duì)性的技術(shù)標(biāo)準(zhǔn)。例如，需要重點(diǎn)探索保障系統(tǒng)可控性、可靠性、透明性、保密性與可追溯性等技術(shù)標(biāo)準(zhǔn)的設(shè)置。不同政府部門(mén)可根據(jù)實(shí)際需要制訂相應(yīng)的人工智能技術(shù)規(guī)范操作流程，以免因操作失誤造成不可預(yù)測(cè)的風(fēng)險(xiǎn)。

2.社會(huì)法律層面措施：優(yōu)化算法治理

算法的“黑箱”屬性、安全漏洞等是人工智能應(yīng)用風(fēng)險(xiǎn)的主要來(lái)源之一。要破解算法的安全風(fēng)險(xiǎn)，使人工智能技術(shù)安全可控，除了不斷提升人工智能技術(shù)，還須從倫理、法律上對(duì)算法進(jìn)行規(guī)制，構(gòu)建算法治理框架。國(guó)外政策與法規(guī)已將算法納入監(jiān)管重點(diǎn)，美國(guó)數(shù)據(jù)創(chuàng)新中心在2018年發(fā)布《政策制定者如何推動(dòng)算法問(wèn)責(zé)》的報(bào)告中提出，要構(gòu)建算法問(wèn)責(zé)框架[41]。算法治理有幾個(gè)基本要點(diǎn)：一是在算法設(shè)計(jì)過(guò)程中結(jié)合正確的倫理與價(jià)值取向，“將算法的使用情景與設(shè)計(jì)結(jié)合起來(lái)”[23]，開(kāi)發(fā)合乎倫理、公平公正的算法。這也要求為算法領(lǐng)域的科研人員設(shè)計(jì)相關(guān)倫理道德規(guī)范。二是應(yīng)注重算法的解釋性與透明性的建設(shè)，算法的解釋性與透明性是算法可控、可審計(jì)的重要保障。三是應(yīng)建立相應(yīng)的算法問(wèn)責(zé)機(jī)制，明確開(kāi)發(fā)者、使用者等相關(guān)主體的權(quán)利與責(zé)任，防止利用算法漏洞進(jìn)行非法活動(dòng)?！缎乱淮斯ぶ悄苤卫碓瓌t——發(fā)展負(fù)責(zé)任的人工智能》中提出人工智能發(fā)展應(yīng)遵循“公平公正、安全可控、共擔(dān)責(zé)任”等原則[7]，未來(lái)可結(jié)合發(fā)展中的實(shí)際情況對(duì)原則內(nèi)容進(jìn)一步細(xì)化，促進(jìn)算法開(kāi)發(fā)與應(yīng)用在完善的倫理法律框架中進(jìn)行。

(二)提高政府治理能力與完善治理體系以規(guī)避治理風(fēng)險(xiǎn)

1.基礎(chǔ)層面措施：政府治理變革

人工智能嵌入政府治理后，政府治理面臨著全新環(huán)境，意味政府治理必須突破現(xiàn)有模式，在治理理念、治理流程、組織結(jié)構(gòu)等各方面進(jìn)行深刻變革，從而適應(yīng)“智能政府”的發(fā)展要求，積極面對(duì)人工智能賦能政府治理可能帶來(lái)的一系列挑戰(zhàn)。

(1)樹(shù)立風(fēng)險(xiǎn)防范意識(shí)，健全風(fēng)險(xiǎn)研判機(jī)制。樹(shù)立風(fēng)險(xiǎn)防范意識(shí)是建立人工智能風(fēng)險(xiǎn)治理路徑的起點(diǎn)。在國(guó)家安全領(lǐng)域，人工智能風(fēng)險(xiǎn)防范是一個(gè)新議題，不能照搬過(guò)去的治理經(jīng)驗(yàn)。人工智能帶來(lái)的風(fēng)險(xiǎn)具有復(fù)雜性、不確定性、動(dòng)態(tài)性等特點(diǎn)，這使得政府對(duì)技術(shù)風(fēng)險(xiǎn)的感知具有一定的滯后性，容易錯(cuò)失風(fēng)險(xiǎn)控制先機(jī)而陷入被動(dòng)。政府部門(mén)要將防患于未然根植于治理理念中，提高對(duì)風(fēng)險(xiǎn)的敏感度，及時(shí)干預(yù)風(fēng)險(xiǎn)。針對(duì)重點(diǎn)領(lǐng)域與行業(yè)，凡是涉及國(guó)家政治安全、經(jīng)濟(jì)安全、信息安全等，須將樹(shù)立風(fēng)險(xiǎn)意識(shí)作為制度性工作來(lái)建設(shè)。在樹(shù)立起風(fēng)險(xiǎn)意識(shí)的基礎(chǔ)上，要建立健全風(fēng)險(xiǎn)研判機(jī)制。習(xí)近平同志提出：“領(lǐng)導(dǎo)干部對(duì)潛在風(fēng)險(xiǎn)要有科學(xué)預(yù)判。”(8)參見(jiàn) 習(xí)近平在2019年秋季學(xué)期中央黨校(國(guó)家行政學(xué)院)中青年干部培訓(xùn)班開(kāi)班式上的講話(2019年9月3日)。《新一代人工智能發(fā)展規(guī)劃》在關(guān)于人工智能技術(shù)風(fēng)險(xiǎn)的安全監(jiān)管的相關(guān)措施的論述中提出，要“構(gòu)建人工智能安全監(jiān)測(cè)預(yù)警機(jī)制”[40]。政府應(yīng)逐漸建立起對(duì)人工智能技術(shù)發(fā)展趨勢(shì)的預(yù)測(cè)、研判和跟蹤研究，更準(zhǔn)確地把握技術(shù)發(fā)展的兩面性，在獲得發(fā)展紅利的同時(shí)防患于未然。政府除了要制訂盡可能詳盡的風(fēng)險(xiǎn)預(yù)案外，還要提高算法或計(jì)算模型的透明性與可解釋性，降低人工智能系統(tǒng)行為的不可預(yù)知性和不確定性，提高對(duì)人工智能所引發(fā)的復(fù)雜風(fēng)險(xiǎn)的掌控度。歐盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》中也提出，要增強(qiáng)算法的可解釋性，降低算法參與自動(dòng)決策時(shí)由于“黑箱”效應(yīng)帶來(lái)的風(fēng)險(xiǎn)[37]。

(2)優(yōu)化政府治理流程，創(chuàng)新政府治理模式。面對(duì)人工智能時(shí)代海量政務(wù)信息流通、整合的要求，要精簡(jiǎn)優(yōu)化治理流程，打破政府內(nèi)部不同層級(jí)與不同部門(mén)之間的信息壁壘，從而形成完整的數(shù)據(jù)體系，為智能治理提供堅(jiān)實(shí)數(shù)據(jù)基礎(chǔ)。例如，政府可通過(guò)智能電子政務(wù)系統(tǒng)精簡(jiǎn)治理流程，提升行政效率。構(gòu)建內(nèi)部統(tǒng)一的數(shù)據(jù)共享平臺(tái)，方便政府各部門(mén)、各級(jí)政府間信息的公開(kāi)與流通。在此基礎(chǔ)上推進(jìn)組織結(jié)構(gòu)的扁平化與去中心化，適應(yīng)人工智能嵌入后對(duì)組織敏捷性、靈活性的要求。另外，政府可探索設(shè)立新的職能部門(mén)，對(duì)嵌入政府治理的人工智能技術(shù)進(jìn)行安全測(cè)試、推廣應(yīng)用、監(jiān)督與審查等，這對(duì)人工智能技術(shù)順利嵌入政府治理具有積極意義。

2.社會(huì)與法律層面措施：構(gòu)建人工智能善治體系

(1)完善治理工具。構(gòu)建人工智能時(shí)代的安全防火墻根本上還是應(yīng)該從法律與倫理道德層面著手?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》提出：“加強(qiáng)人工智能相關(guān)法律、倫理和社會(huì)問(wèn)題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架?！盵40]法律與道德的雙重約束是人工智能善治體系的重要組成部分。通過(guò)加強(qiáng)人工智能技術(shù)法律規(guī)范與道德規(guī)范的雙重建設(shè)，可降低人工智能技術(shù)產(chǎn)生的風(fēng)險(xiǎn)，推動(dòng)其與政府治理的有效融合，實(shí)現(xiàn)“善智”與“善治”的相互作用。首先，要根據(jù)人工智能產(chǎn)業(yè)發(fā)展態(tài)勢(shì)，有序推動(dòng)人工智能相關(guān)立法及逐步完善相關(guān)法律責(zé)任認(rèn)定，建立相應(yīng)的追溯與問(wèn)責(zé)制度，明確責(zé)任與義務(wù)的劃分。修訂現(xiàn)有法律法規(guī)和增加解釋?zhuān)瑖@算法決策、個(gè)人信息保護(hù)、新技術(shù)安全管理規(guī)范、人機(jī)交互等重點(diǎn)風(fēng)險(xiǎn)領(lǐng)域加以完善，使人工智能應(yīng)用有法可依。其次，需推動(dòng)人工智能倫理問(wèn)題研究，建立多層次倫理框架，涵蓋開(kāi)發(fā)設(shè)計(jì)人員道德規(guī)范與行為守則、行業(yè)倫理安全準(zhǔn)則等，將正確價(jià)值導(dǎo)向與規(guī)范嵌入人工智能技術(shù)開(kāi)發(fā)中，實(shí)現(xiàn)人工智能技術(shù)與人類(lèi)社會(huì)和諧友好共生。再次，為有效規(guī)制算法歧視，建立專(zhuān)門(mén)的算法稽核機(jī)構(gòu)并讓用戶(hù)參與監(jiān)督小組中，監(jiān)督算法模型的多元社會(huì)福利效應(yīng)。建立智能工具治理流程，審視算法模型訓(xùn)練過(guò)程、算法模型及模型輸出是否存在歧視或偏見(jiàn)，適度增加模型設(shè)計(jì)和輸出過(guò)程的透明性，有效規(guī)避和改進(jìn)模型。最后，對(duì)于因政府應(yīng)用人工智能系統(tǒng)而產(chǎn)生的歧視或個(gè)人隱私侵犯等，應(yīng)制定合理的補(bǔ)救或申訴程序。

(2)形成多元共治機(jī)制。人工智能技術(shù)嵌入政府治理的風(fēng)險(xiǎn)極為復(fù)雜。政府雖然擁有海量數(shù)據(jù)，但是政府限于自身技術(shù)能力、財(cái)力、人力等條件，無(wú)法獨(dú)自應(yīng)對(duì)人工智能嵌入風(fēng)險(xiǎn)。針對(duì)此困境，尋求多元主體的協(xié)同共治是出路之一?！缎乱淮斯ぶ悄苤卫碓瓌t——發(fā)展負(fù)責(zé)任的人工智能》指出要開(kāi)放協(xié)作，“鼓勵(lì)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界的交流合作，推動(dòng)國(guó)際組織、政府部門(mén)、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會(huì)組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動(dòng)”[7]。美國(guó)政府利用競(jìng)賽方式激勵(lì)公民、企業(yè)家、高校研究團(tuán)隊(duì)等主體參與人工智能發(fā)明和風(fēng)險(xiǎn)解決，幫助政府化解人工智能危機(jī)與挑戰(zhàn)。在構(gòu)建多元共治體系中，要結(jié)合不同主體的獨(dú)特優(yōu)勢(shì)，如政府具有數(shù)據(jù)權(quán)力的合法性和權(quán)威性，企業(yè)具有獨(dú)特的技術(shù)優(yōu)勢(shì)與工作效率，高校等研究機(jī)構(gòu)具有基礎(chǔ)研究的優(yōu)勢(shì)，公民反應(yīng)敏捷。建立多層次、全方位的治理格局，共同規(guī)避人工智能嵌入政府治理的風(fēng)險(xiǎn)。Mehr[42]建議各國(guó)政府可以利用技術(shù)專(zhuān)家小組的方式規(guī)避風(fēng)險(xiǎn)，盡量讓多學(xué)科專(zhuān)家、不同團(tuán)隊(duì)發(fā)揮各自長(zhǎng)處，共同參與人工智能風(fēng)險(xiǎn)治理。此外，除了在國(guó)內(nèi)構(gòu)建共治平臺(tái)，政府也可積極尋求國(guó)際合作，搭建國(guó)際交流合作平臺(tái)，在對(duì)話與交互中尋求風(fēng)險(xiǎn)治理的最優(yōu)解。

(三)增強(qiáng)平臺(tái)建設(shè)與制度兜底以規(guī)避倫理風(fēng)險(xiǎn)

1.基礎(chǔ)層面措施：建立堅(jiān)實(shí)可信的數(shù)據(jù)平臺(tái)

大數(shù)據(jù)時(shí)代，互聯(lián)網(wǎng)成為人們生活中不可或缺的一部分。2021年2月，中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)正式發(fā)布的第 47 次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示：截至2020年12月，我國(guó)網(wǎng)民規(guī)模達(dá)9.89億，互聯(lián)網(wǎng)普及率達(dá)70.4%。我國(guó)在線政務(wù)服務(wù)用戶(hù)規(guī)模達(dá)8.43億，占網(wǎng)民整體的85.3%[26]。龐大的網(wǎng)民規(guī)模每日產(chǎn)生巨大的數(shù)據(jù)體量，海量的社會(huì)信息隨著政府的執(zhí)政行為匯集起來(lái)，形成統(tǒng)計(jì)圖表、研究報(bào)告等，為政府決策提供依據(jù)。人工智能算法的“深度學(xué)習(xí)”靠輸入大量的數(shù)據(jù)實(shí)現(xiàn)，而訓(xùn)練數(shù)據(jù)的質(zhì)量也會(huì)反過(guò)來(lái)影響算法決策的準(zhǔn)確性與合理性。政府可依托其在數(shù)據(jù)獲取方面的優(yōu)勢(shì)，建立起一個(gè)堅(jiān)實(shí)可信的數(shù)據(jù)平臺(tái)，對(duì)數(shù)據(jù)進(jìn)行統(tǒng)一收集、整理、挖掘。政府作為平臺(tái)建設(shè)發(fā)起者，不僅可以對(duì)內(nèi)部橫向和縱向?qū)蛹?jí)中儲(chǔ)存的數(shù)據(jù)進(jìn)行整合，也可以鼓勵(lì)企業(yè)、社會(huì)組織、研發(fā)機(jī)構(gòu)等主體進(jìn)行數(shù)據(jù)和平臺(tái)共建共享，使數(shù)據(jù)資源進(jìn)一步豐富與融合。政府不僅是數(shù)據(jù)平臺(tái)的建設(shè)者，也應(yīng)承擔(dān)起主要的維護(hù)責(zé)任，設(shè)立數(shù)據(jù)使用守則，在收集用戶(hù)數(shù)據(jù)后，要對(duì)其進(jìn)行清洗，隱去其中敏感信息，確保用戶(hù)隱私安全。

2.社會(huì)與法律層面措施：“底線”約束與保障的雙重作用

(1)設(shè)置開(kāi)發(fā)應(yīng)用紅線。人工智能技術(shù)因其應(yīng)用范圍、領(lǐng)域不同，帶來(lái)的風(fēng)險(xiǎn)危害程度有輕重之分。政府可根據(jù)人工智能技術(shù)成熟程度、應(yīng)用領(lǐng)域等要素進(jìn)行相應(yīng)評(píng)估，分領(lǐng)域、分級(jí)別制訂風(fēng)險(xiǎn)防范措施。具體來(lái)說(shuō)，可圍繞人工智能產(chǎn)品、技術(shù)復(fù)雜性、風(fēng)險(xiǎn)性、潛在影響等方面量化人工智能的智能等級(jí)，從而限制人工智能的研究領(lǐng)域以及應(yīng)用范圍。德勤會(huì)計(jì)師事務(wù)所在一份研究報(bào)告中對(duì)人工智能技術(shù)參與政府治理的領(lǐng)域和必要性做了具體劃分，根據(jù)人工智能實(shí)際效用，其在政府治理領(lǐng)域中的嵌入可分為“可行性”“價(jià)值性”“必要性”三個(gè)等級(jí)，可根據(jù)等級(jí)評(píng)估結(jié)果限定人工智能在治理不同領(lǐng)域的嵌入程度[43]。針對(duì)可能引發(fā)不可控風(fēng)險(xiǎn)的人工智能技術(shù)領(lǐng)域設(shè)立開(kāi)發(fā)紅區(qū)，研發(fā)限制，并進(jìn)行應(yīng)用限定。例如，《英國(guó)人工智能發(fā)展的計(jì)劃、能力與志向》就規(guī)定了避免在特定領(lǐng)域采用“黑箱”算法，在該算法能為決策提供令人滿(mǎn)意的解釋之前禁止將其應(yīng)用于特定重大領(lǐng)域[5]。從算法設(shè)計(jì)、產(chǎn)品研發(fā)到成果應(yīng)用進(jìn)行全流程監(jiān)管，必要時(shí)可開(kāi)發(fā)人工智能“自我終結(jié)”機(jī)制，從底層構(gòu)筑安全防火墻。對(duì)發(fā)展較成熟、風(fēng)險(xiǎn)較小的技術(shù)適當(dāng)放寬限制。對(duì)成熟且應(yīng)用廣泛的人工智能技術(shù)，可通過(guò)安全認(rèn)證放開(kāi)開(kāi)發(fā)限制。將人工智能技術(shù)按風(fēng)險(xiǎn)等級(jí)分類(lèi)后，針對(duì)不同的風(fēng)險(xiǎn)等級(jí)對(duì)癥治理，節(jié)約管理成本，也能夠有效避免因忽視和誤判引起的次生風(fēng)險(xiǎn)。

(2)完善救濟(jì)渠道?！吨袊?guó)人工智能發(fā)展報(bào)告2018》通過(guò)對(duì)今日頭條用戶(hù)進(jìn)行關(guān)于人工智能認(rèn)知的問(wèn)卷調(diào)查，發(fā)現(xiàn)國(guó)民對(duì)于人工智能的發(fā)展關(guān)注度最高的問(wèn)題為“人工智能失控會(huì)造成哪些社會(huì)危機(jī)”[44]。這表明了人工智能嵌入帶來(lái)的劇烈變革會(huì)影響使用者、相關(guān)部門(mén)并波及整個(gè)社會(huì)，而其中的負(fù)面影響給公眾造成了一定的恐慌情緒與不信任心理。例如，人工智能在政府領(lǐng)域的嵌入有可能導(dǎo)致公民隱私泄露，從而使公民的人身安全與財(cái)產(chǎn)安全受到威脅與損害；或者在行政決策過(guò)程中由于算法歧視的發(fā)生，公民可能因?yàn)榉N族、性別或其他個(gè)人屬性的影響使得應(yīng)有的福利、公共服務(wù)受到影響。對(duì)這些因人工智能而受到不公平待遇的個(gè)人，政策上應(yīng)有相應(yīng)的保障措施、補(bǔ)救或申訴程序[23]。首先，要健全事后追責(zé)與監(jiān)督渠道，如設(shè)立投訴制度、信息公開(kāi)制度、相應(yīng)的行政復(fù)議、行政申訴制度、司法救濟(jì)制度等，當(dāng)公民認(rèn)為遭受了公共服務(wù)中的算法歧視、侵權(quán)等不公待遇時(shí)，能夠通過(guò)以上渠道維護(hù)自己的合法權(quán)益。其次，要出臺(tái)人工智能社會(huì)政策。人工智能政策議程除了關(guān)注技術(shù)政策、產(chǎn)業(yè)政策，也要關(guān)注相關(guān)的社會(huì)政策。政府可借助社會(huì)政策調(diào)控作用，修復(fù)和控制人工智能引發(fā)的社會(huì)風(fēng)險(xiǎn)。例如，當(dāng)政府利用人工智能技術(shù)提供公共服務(wù)時(shí)，應(yīng)考慮到運(yùn)用智能技術(shù)困難人群的需求，這一部分人群或許對(duì)智能技術(shù)運(yùn)用不熟練、不習(xí)慣，甚至根本無(wú)法接觸到智能技術(shù)。這就需要政府在制定施政方針時(shí)向其適度傾斜，依靠公共政策的調(diào)節(jié)作用填補(bǔ)信息鴻溝、福利鴻溝，使技術(shù)紅利惠及全體公民。

四、結(jié) 語(yǔ)

人工智能作為新興技術(shù)，其“頭雁效應(yīng)”已經(jīng)引領(lǐng)了一系列科技革命和產(chǎn)業(yè)革命，同時(shí)對(duì)現(xiàn)代社會(huì)治理領(lǐng)域產(chǎn)生了巨大影響。越來(lái)越多的人工智能技術(shù)將逐漸嵌入政府治理中，這一趨勢(shì)將對(duì)政府治理產(chǎn)生極其深遠(yuǎn)的影響并催生治理的變革。若應(yīng)用得當(dāng)，人工智能強(qiáng)大的數(shù)據(jù)處理能力和自主學(xué)習(xí)能力能夠優(yōu)化政府治理流程，提高政府公共服務(wù)的質(zhì)量與效率，推動(dòng)政府治理智能化與政府治理能力現(xiàn)代化。需要注意的是，人工智能技術(shù)并不適用“價(jià)值中立”原則，人工智能技術(shù)若要嵌入政府治理場(chǎng)景，必須遵循政治正義，包括技術(shù)正義、治理正義與社會(huì)倫理正義。如果違背政治正義，人工智能技術(shù)的“雙刃劍”效應(yīng)就會(huì)給政府治理帶來(lái)風(fēng)險(xiǎn)與挑戰(zhàn)，如算法“黑箱”隱憂、問(wèn)責(zé)監(jiān)督難題、算法歧視、隱私侵犯等。歷史表明，任何先進(jìn)技術(shù)的發(fā)展過(guò)程中都伴隨著大量的風(fēng)險(xiǎn)與不確定性，但隨著技術(shù)不斷成熟，其最終會(huì)為人類(lèi)發(fā)展作出巨大貢獻(xiàn)?，F(xiàn)階段，推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化是我國(guó)治理變革的主要目標(biāo)，以科技創(chuàng)新賦能治理是國(guó)家治理現(xiàn)代化實(shí)現(xiàn)的重要途徑。因此，我們應(yīng)以開(kāi)放包容的心態(tài)面對(duì)人工智能的發(fā)展，力求在人工智能技術(shù)發(fā)展與政府治理實(shí)現(xiàn)的有效性、安全性與智能性之間尋求平衡。政府部門(mén)需要主動(dòng)適應(yīng)“智能政府”的發(fā)展要求，針對(duì)不同屬性的人工智能嵌入風(fēng)險(xiǎn)，積極從基礎(chǔ)層面與社會(huì)法律層面規(guī)避風(fēng)險(xiǎn)，短期措施與長(zhǎng)期措施相配合，最大限度地降低人工智能可能帶來(lái)的安全風(fēng)險(xiǎn)，促進(jìn)人工智能時(shí)代政府的“善智”與“善治”。