從算法黑箱到算法透明：政府算法治理的轉(zhuǎn)軌邏輯與路徑

張紅春,章知連

(貴州大學(xué) 公共管理學(xué)院，貴州 貴陽 550025)

時至今日，算法已經(jīng)廣泛分布于人們的公共和商業(yè)生活。從概念上來看，算法指一種有限、確定、有效的并適合用計算機程序來實現(xiàn)解決問題的方法。從表現(xiàn)形式來看，它是數(shù)據(jù)算料的輸入到輸出信息指令的自動決策過程。作為人工智能技術(shù)的核心精髓，算法技術(shù)日益在社會各個領(lǐng)域得到廣泛應(yīng)用，現(xiàn)如今政府也經(jīng)常性地利用算法進(jìn)行公共決策和管理。2017 年，《新一代人工智能發(fā)展規(guī)劃》發(fā)布，提出要在教育、醫(yī)療、養(yǎng)老以及行政管理、司法管理、城市管理、環(huán)境保護(hù)等社會治理的熱點難點問題上加快人工智能創(chuàng)新應(yīng)用，提高政府治理現(xiàn)代化水平。在頂層規(guī)劃的推動之下，算法在精準(zhǔn)扶貧、疫情防控、偵破案件、教育管理、城市管理、社區(qū)治理、警務(wù)決策、司法審判等政府治理領(lǐng)域中應(yīng)用如雨后春筍勃興。譬如，在杭州的城市大腦建設(shè)中，算法根據(jù)相關(guān)路段實際車輛數(shù)量等情況合理規(guī)劃紅綠燈時間，大幅度地提升了交通暢通度，正是強大的算法和算力構(gòu)成智慧城市建設(shè)的核心。再如，在政務(wù)服務(wù)領(lǐng)域中的人工智能應(yīng)用，一些地方已經(jīng)實現(xiàn)了智能問答、智能填單、智能審批等自動化功能，實現(xiàn)政務(wù)服務(wù)效能提升。

隨著人工智能技術(shù)與政府治理的深度融嵌，一種新的政府算法治理樣態(tài)呼之欲出。所謂算法治理，是指以算法決策為核心的一種治理模式。算法治理是人工智能技術(shù)與政府治理日益融合的必然產(chǎn)物，它以算法技術(shù)為內(nèi)核，以大數(shù)據(jù)、人工智能、云計算為支撐技術(shù)，對公共事務(wù)實施算法驅(qū)動的自動化、智能化的管理和服務(wù)模式。就其內(nèi)涵而言，算法治理是一種技術(shù)治理，它對以算法為代表的新型信息技術(shù)予以系統(tǒng)化和集成化利用。就其外延來說，算法治理又是算法技術(shù)嵌入并重構(gòu)政府治理場域的主體結(jié)構(gòu)、事務(wù)流程、目標(biāo)結(jié)果的總和樣態(tài)。從治理目標(biāo)來看，無論是在理論界還是實踐領(lǐng)域，算法治理被寄予提高政府治理能力，促使固有的傳統(tǒng)政府治理模式向自動化、精準(zhǔn)化、智能化、智慧化的治理形態(tài)轉(zhuǎn)軌的作用期許。

然而，正如新興事物都具有兩面性一樣，算法技術(shù)在給政府治理帶來精準(zhǔn)、高效、智能的治理勢能之外，也滋生了諸多治理風(fēng)險。這其中，算法黑箱問題首當(dāng)其沖，算法的不透明性被視為算法治理的最大挑戰(zhàn)。作為一種隱喻，黑箱術(shù)語最早起源于控制論中，后來被用來指代那些不為人知、不能從外部直接觀察其內(nèi)部狀態(tài)的政策、技術(shù)與管理系統(tǒng)。隨著算法技術(shù)的崛起和技術(shù)黑箱問題的顯現(xiàn)，人們用算法黑箱來特指代算法的不透明性。弗蘭克·帕斯奎爾(Frank Pasquale)在《黑箱社會》中最早使用算法黑箱隱喻，認(rèn)為美國社會正陷入被金融和科技行業(yè)的秘密算法所操控的、令人難以理解的黑箱社會狀態(tài)，在這個社會中，算法編碼規(guī)則所設(shè)定的值和特權(quán)隱藏在黑箱里，形成了算法黑箱(Black Box Algorithms)。從概念上來看，算法黑箱是算法系統(tǒng)從輸入到輸出之間的不公開和不透明狀態(tài)。就其本質(zhì)而言，算法黑箱本質(zhì)上是算法產(chǎn)品的使用者對算法系統(tǒng)的不知情。廣為人知的是，不論是商業(yè)算法還是政府算法，都未能逃脫算法黑箱的窠臼。研究指出，雖然社會廣泛應(yīng)用算法，但是算法的透明度卻有限。尤其是在公共治理當(dāng)中，政府正在大量使用自動決策系統(tǒng)替代或者輔助公共管理者進(jìn)行自動化行政決策，但是公眾卻又無法觀察和理解“黑箱”內(nèi)的邏輯或決策機制，算法治理黑箱化的趨勢日益凸顯。如果說商業(yè)領(lǐng)域的算法黑箱因其私人領(lǐng)域的私密性特質(zhì)護(hù)持而具有一定合理性依據(jù)的話，而政府治理中的算法黑箱則和公共場域的公共性與公開性特質(zhì)格格不入。算法黑箱在挑戰(zhàn)公民對于政府決策的知情權(quán)，影響到政府決策的合法性，它也由此成為政府算法治理亟待解決的一個重大問題。

可喜的是，實踐和學(xué)術(shù)領(lǐng)域已經(jīng)對算法黑箱問題共同展開了關(guān)注和討論。2019年發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》指南中，提出人工智能系統(tǒng)應(yīng)堅持開放包容原則，不斷提升透明性。2022年，國家互聯(lián)網(wǎng)信息辦公室等部委頒布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，指出算法推薦服務(wù)應(yīng)堅持公開透明的原則。然而，頗為悖謬的是，學(xué)術(shù)研究中關(guān)于算法是否要透明仍存爭議。就算法透明而言，并非所有學(xué)者都持肯定態(tài)度。有的法律學(xué)者以算法透明的規(guī)制效力有限為由，指出算法透明原則通常既不可行，也無必要。還有研究以算法透明的法律缺失為由，認(rèn)為在沒有法律明確哪些算法應(yīng)該公開以及如何公開的情況下，算法的不公開是原則，公開是例外的觀點。這顯然是默許了算法黑箱常態(tài)。但在這些算法黑箱擁躉者對立面，也出現(xiàn)了對算法透明的支持者，并從多個視角提出了算法黑箱治理對策。代表性的觀點有：吳椒軍分析了算法黑箱帶來的危機，主張從技術(shù)角度、法律角度與倫理角度對算法黑箱進(jìn)行法治化管理，姜野等提出通過算法解釋權(quán)來破解算法黑箱，等等。不難看出，雖然算法黑箱問題已受到學(xué)界關(guān)注，但是已有研究以法學(xué)視角的研究為主，且研究共識嚴(yán)重不足。而且，已有研究似乎模糊了一個算法透明問題的場景因素，即公共算法和商業(yè)算法在透明原則的適用上應(yīng)該是不一樣的。

作為一種技術(shù)，算法本身沒有權(quán)力屬性，但是算法一旦應(yīng)用于公共領(lǐng)域，就會帶有公共權(quán)力色彩，并應(yīng)接受公共場域倫理的規(guī)約?；诖?，本文開宗明義地提出以下論點：如果說公開性是公共場域內(nèi)公共事務(wù)治理的準(zhǔn)則，那么嵌入其中的算法技術(shù)也應(yīng)秉持透明性原則。本文接下來的論證分三部分，我們首先從學(xué)理層面分析政府算法黑箱問題是如何形成的；其次，從透明性的治理價值和工具功效入手，論證算法透明原則的嵌入邏輯；最后，文章提出了政府算法治理透明化的實現(xiàn)路徑。

一、政府算法黑箱的生成：技術(shù)與制度的雙重解釋

是何種因素引致了政府算法黑箱？筆者認(rèn)為，政府算法的低透明度是算法技術(shù)自身特質(zhì)和政府使用算法技術(shù)的制度方式耦合的產(chǎn)物。

從技術(shù)本身來看，技術(shù)天生帶有了不透明的特性。抽象意義的技術(shù)是實現(xiàn)人的目的的一種手段，它表現(xiàn)為各種工具、裝置及其集合。不同于先天之物，技術(shù)是人類發(fā)明創(chuàng)造的產(chǎn)物。然而，隨著技術(shù)的發(fā)明、擴散與應(yīng)用造成了技術(shù)發(fā)明者和技術(shù)使用者的分離，兩者之間的技術(shù)信息與知識的不對稱越發(fā)嚴(yán)重，可以說，技術(shù)使用者相對技術(shù)發(fā)明者而言面臨著天然的技術(shù)黑箱問題。算法作為科技革命以來的最前沿成果，其復(fù)雜性和自主性的技術(shù)特質(zhì)將技術(shù)不對稱問題發(fā)展到了極致。

人工智能算法技術(shù)是一種典型的復(fù)雜性技術(shù)。技術(shù)按照其運行機理和目的難度可以劃分為簡單性技術(shù)和復(fù)雜性技術(shù)，算法技術(shù)顯然屬于后者。有效的算法離不開算料、算法、算力的協(xié)同，這依賴大數(shù)據(jù)、云計算等復(fù)雜技術(shù)系統(tǒng)的支撐。人工智能算法系統(tǒng)內(nèi)部、系統(tǒng)之間的互動關(guān)系變得復(fù)雜而高深莫測，甚至連設(shè)計者都難以理解算法機制，更何況普羅大眾。在技術(shù)目的上，人工智能以模擬和逼近人類的復(fù)雜認(rèn)知與行動為目標(biāo)，這也就決定算法技術(shù)的目的是朝向復(fù)雜適應(yīng)性轉(zhuǎn)變的。為了提高算法的準(zhǔn)確性，算法的復(fù)雜性必然會加強。算法解決的問題越復(fù)雜，算法代碼的需求就會增加幾倍。不難看出，算法技術(shù)系統(tǒng)的復(fù)雜性是社會公眾認(rèn)知和理解政府算法難以逾越的、堅固的專業(yè)壁壘。

除了算法復(fù)雜性的專業(yè)鴻溝，算法技術(shù)的自主性特征也在加劇其封閉性技術(shù)空間的建構(gòu)。算法技術(shù)以模擬甚至代替人類的認(rèn)知和決策為使命，它是具有技術(shù)自主性抱負(fù)的。機器學(xué)習(xí)是算法生成和計算機擁有智能的根本途徑，機器學(xué)習(xí)能夠從海量人類數(shù)據(jù)集中自主學(xué)習(xí)人類的模式和規(guī)律，并且生成精準(zhǔn)的判斷、預(yù)測、決策與行動。根據(jù)人類對算法生成的干預(yù)和控制程度，機器學(xué)習(xí)可以分為有監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)。無監(jiān)督學(xué)習(xí)也叫深度學(xué)習(xí)，即無須人為設(shè)計特征提取，特征從數(shù)據(jù)中學(xué)習(xí)而來。從算法技術(shù)的演化趨勢來看，以深度學(xué)習(xí)為標(biāo)志的自主性人工智能算法的日漸興起，標(biāo)志著算法自主性達(dá)到了一個新高度。其帶來的必然結(jié)果就是人類對算法技術(shù)的控制減少乃至缺失，算法無師自通的自主認(rèn)知、決策和行動更加普遍。機器學(xué)習(xí)讓算法從 “輸入”到 “輸出”的中間環(huán)節(jié)逐漸成為人類社會無法掌控的 “黑箱”，而無監(jiān)督的深度學(xué)習(xí)技術(shù)對應(yīng)的是算法黑箱的高級形態(tài)。隨著深度學(xué)習(xí)日益成為人工智能算法的未來主流趨勢，政府人工智能由弱人工智能向強人工智能的轉(zhuǎn)變下，機器學(xué)習(xí)越來越朝著深度化、自動化、擬人化的方向發(fā)展，算法驅(qū)動的公共管理和決策的自主優(yōu)化和自主決策特性日漸增強，政府算法的認(rèn)知和決策黑箱特征因而越來越明顯。

如果說技術(shù)因素是算法黑箱的先天因素，政府將算法引入到公共場域當(dāng)中的制度方式則是其問題的后天變量。從算法技術(shù)導(dǎo)入政府部門的方式來看，市場化和管理主義的算法治理制度設(shè)計不僅沒有有效打開算法黑箱，反而降低了算法透明度。

一個明顯的常識是，政府并不擅長算法技術(shù)的發(fā)明和創(chuàng)制，政府采納算法技術(shù)必須求助于企業(yè)和市場機制。在政府采購、政府購買服務(wù)、合同外包等市場化制度安排之下，政府使用的人工智能系統(tǒng)更經(jīng)常的是要么在市場上采購人工智能系統(tǒng)，要么將人工智能產(chǎn)品和服務(wù)的研發(fā)外包給更為專業(yè)的科技公司。例如，杭州市的智慧城市建設(shè)項目由阿里巴巴提供技術(shù)解決方案，廣東省的“粵省事”移動辦公平臺則由騰訊云幫助搭建?？萍计髽I(yè)引入算法治理中可以彌補政府在算法技術(shù)上的短板，但是政府也部分甚至全部讓渡了對算法黑箱的控制和改造權(quán)利?？萍计髽I(yè)通過算法人才控制、算法專利控制等一系列知識保護(hù)機制將算法資本化、商業(yè)化和專有化?？萍计髽I(yè)與政府部門簽訂的算法研發(fā)合同勢必固化和強化其算法的資產(chǎn)專用性，指望以算法為營生的科技企業(yè)公開其算法無異于與虎謀皮?？萍脊就ǔ娬{(diào)算法的產(chǎn)權(quán)，由于其營利性和排他性商業(yè)政策，科技公司不愿公開算法和數(shù)據(jù)也就不難理解了，公眾被再次排外。可見，在市場化的算法應(yīng)用制度之下，在政府和公眾之間制造了營利性、封閉性的市場主體，使得政府算法移植保持了商業(yè)算法固有的黑箱特征。

政府算法應(yīng)用的管理主義的制度范式則進(jìn)一步固化、維持了算法黑箱。以深度學(xué)習(xí)為代表的人工智能算法盡管具有突破性特征，但其在政府部門中的應(yīng)用依然是嵌入式的。算法進(jìn)入政府科層結(jié)構(gòu)當(dāng)中，成為政府行政決策、行政規(guī)則制定、權(quán)力運行的技術(shù)工具，因而算法是否透明不僅取決于算法研發(fā)者、算法本身的可觀察性，還取決于工具使用主體，也即政府的透明度。政府應(yīng)用算法技術(shù)并沒有促使政府行政流程和運行機制走向開放，而是存在技術(shù)行政化、技術(shù)內(nèi)卷化的傾向。政府引入人工智能算法技術(shù)的決策封閉，政府算法研發(fā)設(shè)計的過程對外封閉，政府算法的生成和應(yīng)用的全流程由政府和科技企業(yè)主導(dǎo)，缺乏有效的公眾參與?？梢哉f，人工智能算法技術(shù)的廣泛應(yīng)用，并沒有顯著提升政府管理全過程的透明性。

以上分析表明，政府算法黑箱式的應(yīng)用是技術(shù)與制度耦合的產(chǎn)物。算法的技術(shù)特質(zhì)使其具有了天然的不易理解性、不易參與性，而政府算法制度的市場化和管理主義特征又進(jìn)一步固化了其封閉性和排斥性特征。當(dāng)公眾缺乏理解算法所需的專業(yè)知識，當(dāng)公眾缺乏接觸和了解算法過程的機會時，公眾面臨的顯然是一個不折不扣的技術(shù)黑箱和治理黑箱。

算法黑箱的理論基因是技治主義和管理主義，其現(xiàn)實表現(xiàn)是政府算法成為官僚制組織的內(nèi)部行政與控制工具，而未能成為政府包容和吸納公眾參與政府治理的治理平臺與工具，并由此而產(chǎn)生一系列威脅政府治理有效性的延伸問題。一是算法黑箱侵蝕了公眾對政府算法治理知情權(quán)。當(dāng)算法技術(shù)進(jìn)入政府治理場域的全流程都處于“黑箱”密閉狀態(tài)時，政府算法治理勢必形成公共決策黑箱、監(jiān)管黑箱、服務(wù)黑箱等新問題，這將嚴(yán)重制約在人工智能時代下公眾對政府治理的知情程度。二是算法黑箱阻礙公眾參與政府治理。算法黑箱所構(gòu)筑的技術(shù)壁壘、制度藩籬和信息隔閡都在排斥而不是吸納公眾參與，而公眾自身的參與意識、算法知識和素養(yǎng)的缺失又加劇了公眾對算法的冷漠。低效參與使得公眾在政府算法治理中被動地充當(dāng)人工智能公共產(chǎn)品服務(wù)的接受者。三是黑箱算法易侵蝕公眾隱私權(quán)。個人隱私受到國家相關(guān)法律法規(guī)的保護(hù)。但是算法的形成都依賴大量的用戶特征、屬性、行為數(shù)據(jù)的輸入和分析，政府算法生成也不例外。在算法市場化制度之下，政府算法研發(fā)過程中政府不得不將政府掌握的大量公共數(shù)據(jù)使用權(quán)授權(quán)給技術(shù)公司，如果存在數(shù)據(jù)存儲不安全、算法安全漏洞、私人利益等問題，個人信息可能會存在被泄漏、篡改和挪作他用，給公民隱私、人身、財產(chǎn)、職業(yè)等造成數(shù)據(jù)安全風(fēng)險。最后，黑箱算法降低了政府算法治理的整體有效性。尤其是，鑒于政府與技術(shù)公司之間的信息不對稱性，算法“黑箱”的存在直接導(dǎo)致了公共利益被私人利益俘獲、資本支配公權(quán)力等風(fēng)險的產(chǎn)生。政府算法技術(shù)在研發(fā)過程難免會受到資本裹挾而發(fā)生價值扭曲，還可能導(dǎo)致算法與資本或權(quán)力相連接，算法成為“損害個人權(quán)益和社會福利的工具”。但正是因為政府算法黑箱的存在，算法黑箱一方面成為滋生算法問題的溫床，另一方面算法黑箱使得公共算法缺乏有效的監(jiān)督機制，使得問題的識別、暴露和解決變得遲緩，最終損失公共利益，降低算法治理的公信力。

歸納起來，政府算法黑箱是技術(shù)理性主導(dǎo)下的制度異化產(chǎn)物，雖然它展現(xiàn)了技術(shù)的精準(zhǔn)性、效率性的工具理性價值，但是卻與政府治理所處公共場域的多元公共價值訴求格格不入。算法黑箱損失了政府治理應(yīng)有的透明性價值，還連貫損失了參與性、責(zé)任性、回應(yīng)性的治理價值標(biāo)準(zhǔn)，進(jìn)而反噬政府算法治理的有效性和合法性。正是因為算法黑箱所引致的算法治理困境，使得將透明機制引入政府算法應(yīng)用當(dāng)中應(yīng)受到格外的重視。

二、破解政府算法黑箱：透明性的嵌入邏輯

透明性是公共治理領(lǐng)域中廣為接受一個價值準(zhǔn)則。政治學(xué)家漢娜·阿倫特(Hannal Arendt)在區(qū)別公共領(lǐng)域和私人領(lǐng)域時指出，公共首先意味著出現(xiàn)于公共場合的東西能夠為每個人所看見和聽見，具有最廣泛的公開性。政府作為核心的公共治理主體，其治理主體、方式、過程和結(jié)果的強公共性使其應(yīng)當(dāng)堅持公開透明原則。故而，進(jìn)入現(xiàn)代社會以來，透明原則日益成為國內(nèi)外政府治理的基本原則。西方國家紛紛頒布信息公開與自由方面的法律，我國也于2007年首次通過《政府信息公開條例》，2018年該條例修訂后繼續(xù)實施，政府公開透明日益邁向制度深化時期。

字面意義上的透明隱喻物體在視線上的通透性，而在學(xué)術(shù)意義的透明意指對象具備可觀察性,即公眾能從外部了解觀察對象的結(jié)構(gòu)與運行?？梢姡该魇且粋€雙向度的概念，高質(zhì)量的透明政府需要政府和公眾之間有效互動，它一方面仰賴政府組織的公開性，另一方面需要公眾的積極參與政府公開內(nèi)容的學(xué)習(xí)。

透明性之所以能成為現(xiàn)代政府治理的目標(biāo)愿景，根源于透明性的巨大治理作用。從治理理論來看，透明不僅是一種治理目標(biāo)所系，還是一種實現(xiàn)其他公共價值的治理工具。從治理目標(biāo)來看，國內(nèi)外治理學(xué)者都認(rèn)為透明性也被視為一個政府善治與否的重要價值標(biāo)準(zhǔn)。在公共價值研究文獻(xiàn)中，已有研究所歸納的公共價值清單中也包含公開性價值，意指公共行政應(yīng)當(dāng)是透明的。其理論緣由根源于公共場域的公共性和公開性的內(nèi)在訴求。為此，政府透明經(jīng)常性被作為政府善治的衡量指標(biāo)，例如，俞可平教授開發(fā)的中國國家治理評估指數(shù)中就包含公開透明性的指標(biāo)。從治理工具來看，透明性還是政府實現(xiàn)其他善治價值和公共價值的橋梁，是政府治理邁向系統(tǒng)性善治的催化劑。這是因為透明意味著政府行為和結(jié)果信息的充分披露，它可以保障公眾對政府的知情權(quán)。而公眾的知情權(quán)又是公眾實現(xiàn)參與權(quán)、表達(dá)權(quán)和監(jiān)督權(quán)的一種方式。由此而論，透明政府還是政府實現(xiàn)責(zé)任性、回應(yīng)性、法治性、合法性等其他治理價值的有效工具。

在大數(shù)據(jù)和人工智能時代，政府透明具有了新的公開對象，算法透明成為透明政府建設(shè)的最新途徑。在信息化早期，政府可供公開的透明媒介資源還不豐富，由政府加工和生產(chǎn)的政府信息因而被視為公眾觀察政府的唯一媒介，政府信息公開成為政府透明的唯一路徑選擇，政府通過出版物和網(wǎng)站來披露政府信息，保障公眾對公共事務(wù)的知情權(quán)。但是以政府信息來實現(xiàn)透明政府的效力存在天然缺陷，因為它是單向度的信息傳遞與行政告知，公眾無從考證和質(zhì)疑信息的真實性。隨著人類世界和物理世界的數(shù)據(jù)化、信息化程度提高，多源、異構(gòu)、海量的復(fù)雜性大數(shù)據(jù)資源不斷生成。隨著大數(shù)據(jù)技術(shù)嵌入行政過程，政府積累的數(shù)據(jù)資源越來越豐富，海量數(shù)據(jù)資源不僅能夠讓政府決策更加客觀和科學(xué)，也提供了讓社會公眾回溯和觀察政府行政行為與結(jié)果的客觀證據(jù)。為此，學(xué)界提出了從政府信息公開到政府?dāng)?shù)據(jù)開放的路徑嬗變，以此提高政府透明度的深度和質(zhì)量。從海量數(shù)據(jù)資源提取有價值的信息并支撐管理決策是大數(shù)據(jù)時代海量數(shù)據(jù)資源根本使命，而人工智能算法技術(shù)應(yīng)運而生成為幫助政府實現(xiàn)自動化、智能化、智慧化的決策、監(jiān)管和服務(wù)利器。在人工智能時代，政府應(yīng)用人工智能技術(shù)進(jìn)行政府治理時，對透明政府和責(zé)任政府的追求在某種程度上已經(jīng)開始遷移至對技術(shù)透明度的理解和對技術(shù)責(zé)任的承擔(dān)。換言之，在人工智能時代，隨著政府行政的智能化和算法化，算法系統(tǒng)已經(jīng)成為公眾認(rèn)知政府行政方式與結(jié)果的最精華載體。而從現(xiàn)實來看，算法黑箱已然成為人工智能時代政府透明的羈絆，用透明性的價值重構(gòu)算法黑箱系統(tǒng)具有必然性。

從理論層面來看，用透明性價值破解算法黑箱之后，政府算法治理的價值和功能系統(tǒng)得以重塑，其積極的治理效果體現(xiàn)在:其一，算法透明促使政府算法治理回歸公共性的本質(zhì)要求。不同于商業(yè)算法應(yīng)用領(lǐng)域的私有性、排他性和秘密性，政府算法廣泛應(yīng)用在公共服務(wù)、社會治理等公共領(lǐng)域當(dāng)中。透明算法將促使政府算法從私有性、排他性和秘密性走向公有性、包容性和開放性。其二，算法透明促進(jìn)公眾參與政府算法治理。為了讓公眾參與算法治理，必須讓公眾接觸和了解算法，這反過來又要求政府算法治理保持高度的開放性與透明性。算法透明建構(gòu)開放性的數(shù)據(jù)—算法—信息生態(tài)體系可以賦予公眾在算法信息和知識上的能力優(yōu)勢，為吸納公眾參與算法治理提供了前提條件。其三，算法透明可以促進(jìn)政府算法治理的法治化。算法黑箱容易引發(fā)算法歧視、算法殺熟、算法濫用的技術(shù)風(fēng)險，容易導(dǎo)致公共利益被私人利益俘獲、資本支配公權(quán)力等治理風(fēng)險的產(chǎn)生。陽光是最好的防腐劑，算法透明可以成為治理算法失靈的利器。這是因為算法的公開透明提供了社會監(jiān)督介入的可能性，可以讓社會公眾監(jiān)督政府算法應(yīng)用中的安全、隱私、倫理問題和其他風(fēng)險，防止算法的濫用和誤用。其四，算法透明增進(jìn)公眾對算法治理的信任感，提高政府算法治理的公信力。算法黑箱的不透明狀態(tài)容易引起公眾對算法的猜疑，降低對政府算法決策與執(zhí)行的認(rèn)同感。反之，通過及時披露算法治理中的數(shù)據(jù)信息，不僅可以促進(jìn)算法治理的規(guī)范性，也有利于消除社會公眾對算法的恐懼與疑惑，提高政府算法治理的社會認(rèn)同度與公信力。一言以蔽之，之所以將透明價值融入算法，是因為它可以發(fā)揮治理目標(biāo)引領(lǐng)和治理工具的雙導(dǎo)效應(yīng)。

三、邁向透明化的政府算法治理：形態(tài)與路徑構(gòu)建

通過前面的討論，不難看出算法透明既能夠提升政府算法自身的公開性，讓社會公眾觀察和監(jiān)督政府算法治理方向、過程與結(jié)果，還能夠借此讓公眾參與、問責(zé)和監(jiān)督政府算法治理體系。因循算法透明邏輯，政府算法治理體系也最終向透明化系統(tǒng)性轉(zhuǎn)軌。那么透明化的政府算法治理的衡量標(biāo)準(zhǔn)是什么，又如何有效實現(xiàn)這一算法治理目標(biāo)呢？本部分首先按照全過程透明原則，描述透明化的政府算法治理形態(tài)與標(biāo)準(zhǔn)，然后從政民互動的雙向透明性建構(gòu)視角出發(fā)，分別構(gòu)建政府與公眾各自的透明責(zé)任與行動義務(wù)。

1.透明化的政府算法治理形態(tài)建構(gòu)：全過程的算法透明

從過程視角來，算法技術(shù)嵌入政府組織必然是一個持續(xù)動態(tài)的治理過程，算法透明及其透明化的政府算法治理形態(tài)可以按階段分別予以描述：

第一，政府算法治理決策的透明化。算法技術(shù)嵌入政府治理場景是一項涉及公共利益的重大公共決策，算法治理決策的透明化是算法公開的首位要素。具體來說，它包括：一是政府算法治理的政策公開。人工智能算法技術(shù)嵌入政府治理勢必會改變已有的行政流程和服務(wù)樣態(tài)，勢必會產(chǎn)生諸多新現(xiàn)象、新事務(wù)和新風(fēng)險。因而，制定人工智能算法的應(yīng)用規(guī)則是政府算法治理制度化、規(guī)范化的首要任務(wù)。將透明性的價值嵌入政府算法治理政策與制度設(shè)計環(huán)節(jié)，需要政府主動公開關(guān)于算法治理政策制定過程及其政策文件成果，讓利益相關(guān)主體認(rèn)知算法治理中應(yīng)遵守的權(quán)責(zé)規(guī)范。二是算法技術(shù)的場景引入決策公開。算法技術(shù)的應(yīng)用是面向場景和問題的，一個治理場景和問題是否要引入人工智能算法是一項關(guān)切社會利益的重大決策。因此，政府應(yīng)向社會披露在具體公共事務(wù)場域中引入算法的決策緣由、決策主體、決策過程、決策依據(jù)、決策結(jié)果等重大決策信息。三是算法技術(shù)委托決策公開。政府算法的專業(yè)性使得政府算法設(shè)計開發(fā)必須委托給技術(shù)公司，政府將算法委托給科技企業(yè)的決策過程應(yīng)予公開透明，政府應(yīng)主動公開人工智能算法技術(shù)與平臺的采購或者招投標(biāo)信息，向社會披露中標(biāo)企業(yè)技術(shù)公司名稱、資質(zhì)、合同任務(wù)，增加公眾對所委托的算法技術(shù)公司的了解和監(jiān)督。

第二，政府算法的研發(fā)透明化。算法研發(fā)是政府算法生成全過程中的核心技術(shù)環(huán)節(jié)，而且算法研發(fā)固有的專業(yè)性、自主性使其最容易成為一個技術(shù)黑箱，也成為算法透明的難點之處。在透明化的政府算法治理理念之下，必須用透明性原則重塑算法研發(fā)過程，形成可觀察、可追溯、可監(jiān)督的政府算法研發(fā)。從技術(shù)應(yīng)用過程來看，算法研發(fā)一般包括算法設(shè)計、算料采集和算法訓(xùn)練等技術(shù)過程，算法研發(fā)透明化也可按算法形成過程鏈條漸次展開。一是，政府算法的設(shè)計公開。算法設(shè)計是對算法過程的規(guī)劃，表現(xiàn)為算法研發(fā)的主體、目的、流程、結(jié)果預(yù)期等，公開這些設(shè)計信息要素有利于社會公眾了解和監(jiān)督算法研發(fā)主體的算法研發(fā)目的、計劃和行為。二是，政府算法研發(fā)的算料公開。算法是將數(shù)據(jù)進(jìn)行轉(zhuǎn)換形成有價值的信息、知識與行動工具的程序模型，政府算法研發(fā)也離不開海量公眾數(shù)據(jù)的輸入。政府要保障公眾對自身數(shù)據(jù)被算法如何利用的知情權(quán)，向社會公開具體算法應(yīng)用的數(shù)據(jù)來源、數(shù)據(jù)類型及其數(shù)據(jù)安全規(guī)范。在保障國家安全、數(shù)據(jù)安全和公民個人合法權(quán)益的前提條件下，應(yīng)將政府算法輸入的公共數(shù)據(jù)算料開源給社會大眾，通過數(shù)據(jù)開放、算料開源提升政府算料透明度。三是，政府算法訓(xùn)練規(guī)則公開。雖然算法訓(xùn)練過程具有自主性特征，但是選用何種算法訓(xùn)練方法的規(guī)則是需要人類輸入的，算法規(guī)則的選擇會極大地影響算法結(jié)果的走向。因此，政府應(yīng)指導(dǎo)算法企業(yè)向社會公開算法規(guī)則，有利于公眾知曉和監(jiān)督算法結(jié)果形成機理，提高社會公眾對算法的理解能力?？偠灾岣咚惴ㄑ邪l(fā)的透明度可以讓社會公眾了解算法設(shè)計的目的意圖、基本原理和主要運行機制，而公眾的監(jiān)督可以有效地規(guī)避算法研發(fā)企業(yè)的機會主義動機與行為，保證算法利益的公共性。

第三，政府算法應(yīng)用的透明化。政府算法應(yīng)用是算法技術(shù)嵌入具體公共領(lǐng)域和公共事務(wù)的實踐，表現(xiàn)為人工智能公共產(chǎn)品和公共服務(wù)供給和消費。在算法應(yīng)用環(huán)節(jié)，政府要保障人工智能產(chǎn)品和服務(wù)的消費知情權(quán)，告知算法驅(qū)動的產(chǎn)品與服務(wù)的背景、目的、方式和結(jié)果。具體來說，算法應(yīng)用的透明度可以從以下兩個方面構(gòu)建：一方面要公開政府算法場景應(yīng)用的服務(wù)主體信息。算法技術(shù)嵌入稅收、警務(wù)、交通、健康、教育等領(lǐng)域中表現(xiàn)為一個個在地化的場景，算法應(yīng)用場景包括行政主體、服務(wù)對象、人工智能算法技術(shù)設(shè)備、事務(wù)、流程等要素。這些人工智能服務(wù)的主體、設(shè)備、流程、規(guī)則、技術(shù)標(biāo)準(zhǔn)應(yīng)充分公開，讓社會公眾充分知情算法應(yīng)用的規(guī)范，讓社會公眾知道誰在為他們服務(wù)、如何服務(wù)，并了解算法可能對自己的生活產(chǎn)生的影響。另一方面，政府算法應(yīng)用的結(jié)果公開。人工智能算法所做出的行政決策和服務(wù)結(jié)果應(yīng)當(dāng)向算法行政相對人公開，保障其知情權(quán)。同時，算法應(yīng)用結(jié)果還應(yīng)向社會公眾以脫敏和匯總方式公開，告知社會大眾算法技術(shù)應(yīng)用整體成果與發(fā)展態(tài)勢。

第四，政府算法監(jiān)督的透明化。規(guī)范化、法治化的政府算法治理離不開嚴(yán)密的監(jiān)督體系，政府應(yīng)構(gòu)建針對人工智能算法的安全與風(fēng)險評估、算法設(shè)計、產(chǎn)品開發(fā)和成果應(yīng)用等全流程予以監(jiān)管，并將算法監(jiān)督過程和結(jié)果公開透明。其一，公開算法監(jiān)督渠道。政府要提供公眾反饋算法問題、算法風(fēng)險的線上線下渠道。保持算法系統(tǒng)的可訪問性和開放性，便于外部審計代理或機構(gòu)可以訪問算法來評估算法研發(fā)者、算法設(shè)計者的道德倫理以及對法規(guī)的遵守。其二，算法影響評估結(jié)果公開。算法影響評估是算法導(dǎo)入政府治理場景的一項事前評估制度，它由專業(yè)評估結(jié)構(gòu)對算法技術(shù)的潛在風(fēng)險點、風(fēng)險后果、風(fēng)險預(yù)警、風(fēng)險治理做出的專業(yè)評估和建議，是算法應(yīng)用的事前監(jiān)督機制。通過引入算法風(fēng)險評估制度并公開算法風(fēng)險評估結(jié)果，可以告知社會公眾算法的潛在后果，并吸引社會公眾監(jiān)督算法風(fēng)險。其三，算法績效評估結(jié)果公開。算法技術(shù)在具體行政領(lǐng)域的應(yīng)用效果如何，是否遵循相應(yīng)規(guī)則，是否實現(xiàn)了預(yù)期的治理目標(biāo)，是否展現(xiàn)了相應(yīng)的公共價值，為了回答這些問題應(yīng)該對算法技術(shù)的應(yīng)用績效進(jìn)行系統(tǒng)評價，并將算法績效評估結(jié)果向社會公布，讓社會監(jiān)督政府算法治理的效能。

2.實現(xiàn)透明化算法治理的政府責(zé)任與路徑：算法公開

算法黑箱的關(guān)鍵問題就在于公眾無法觀察和理解算法，破解算法黑箱首先要求的就是打開算法黑箱、推進(jìn)算法透明。而政府作為算法治理的主體，是算法技術(shù)的引入、應(yīng)用、管理和監(jiān)督的主體，其承擔(dān)算法治理的主體責(zé)任，并掌握算法治理的全面信息。因此，政府應(yīng)以算法公開為透明化算法治理的責(zé)任定位。

政府應(yīng)構(gòu)建有效的算法公開機制，以改善公眾對算法信息獲取、認(rèn)知與學(xué)習(xí)體驗，完善公眾需求導(dǎo)向的政府算法信息提供機制，構(gòu)建算法要素全面公開體系。具體來說：

第一，實施算法全要素公開制度。從形式上來講，算法是輸入和輸出系統(tǒng)，全面的算法透明需要政府將算法要素安全地、系統(tǒng)地、制度化地向公眾開放。一是構(gòu)建算法制度公開機制。算法制度是政府引入人工智能算法的規(guī)則，包括制定的相關(guān)政策、法律法規(guī)、倫理道德規(guī)范、算法行業(yè)技術(shù)標(biāo)準(zhǔn)。算法制度規(guī)定了算法設(shè)計者、算法使用者等相關(guān)利益主體的權(quán)力和應(yīng)該履行的法律義務(wù)，對算法法律責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等有重要作用。算法制度公開可以賦予算法用戶對算法設(shè)計者、決策者提出合理性質(zhì)疑權(quán)利。二是構(gòu)建算料開源機制，也即是數(shù)據(jù)開放。算料開源是指在保障國家安全、數(shù)據(jù)安全和公民個人合法權(quán)益的條件下，算料收集的數(shù)據(jù)來源主體、數(shù)據(jù)類型、數(shù)據(jù)庫安全技術(shù)、用前脫敏技術(shù)等要通過數(shù)據(jù)開放平臺向社會公眾公開，以便公眾知道數(shù)據(jù)來源、數(shù)據(jù)運用以及數(shù)據(jù)安全保障情況。三是構(gòu)建算法規(guī)則公開機制。算法規(guī)則是算法處理數(shù)據(jù)和樣本的策略與方法，表現(xiàn)為句法、表征、符號等計算機技術(shù)語言構(gòu)成的算法代碼。根據(jù)算法的功能可以將算法分為分類算法、排序算法，等等，采用何種方法來排序決定最終的算法結(jié)果。針對每一項智能化的公共決策和服務(wù)產(chǎn)品，政府都應(yīng)當(dāng)公開其算法規(guī)則及其背后的算法方法，讓社會公眾知曉算法的運行邏輯及其結(jié)果。

第二，構(gòu)建多渠道的算法公開途徑。多維算法要素以什么方式向社會公眾交付是決定算法公開有效性的關(guān)鍵變量。針對算法系統(tǒng)的多樣性要素，采用不同的信息技術(shù)實現(xiàn)算法要素的無縫傳遞。一是，利用政府網(wǎng)站和新媒體及時公開算法應(yīng)用的政策、運行和效果信息。在信息化時代，算法類信息公開渠道不僅包括傳統(tǒng)政府信息門戶網(wǎng)站，還包括政務(wù)微博、政務(wù)微信、抖音號等新型信息傳播方式，這些渠道都成為讓社會公眾接觸算法制度、產(chǎn)品和服務(wù)信息的便捷渠道；二是，構(gòu)建算法開源平臺。集聚政府算法生成和應(yīng)用中的數(shù)據(jù)資源、算法資源等算料要素，構(gòu)建在線、持續(xù)供給的數(shù)據(jù)開放與算法代碼公開，在提升算法透明度的同時，也有利于吸收社會公眾的力量參與算法反饋并反哺算法本身的迭代升級。三是，構(gòu)建公眾參與政府算法治理的機制。政府要利用線上、線下渠道，通過聽證會、公眾調(diào)查、專家咨詢等多渠道吸納社會公眾參與算法制度設(shè)計、算法設(shè)計、算法評估和算法優(yōu)化等算法流程，讓公眾在算法參與中實現(xiàn)知情知曉，提高公眾算法參與和知情的實效性。

第三，構(gòu)建政府算法解釋機制。算法的專業(yè)性提高了社會公眾理解算法的障礙，而算法解釋有助于公眾理解算法技術(shù)是什么以及它是如何形成的。算法解釋可認(rèn)為是以一種可接受、可被普遍理解的形式對特定結(jié)論的決策過程出具算法解釋報告，切實解決決策相關(guān)者對于最終結(jié)果的疑惑。如今，算法解釋正在成為算法應(yīng)用的一項基本倫理準(zhǔn)則。美國計算機協(xié)會在2017年發(fā)布《關(guān)于算法透明性和可問責(zé)性的聲明》的七條原則中第四條是算法解釋原則，鼓勵使用算法決策的組織和機構(gòu)對算法所遵循的程序和所做出的具體決策提供解釋。對于政府算法而言，算法解釋是解決社會公眾與算法規(guī)則之間技術(shù)鴻溝的橋梁，是實現(xiàn)政府治理主體與社會公眾之間有效溝通的工具，因而，算法解釋是用一種可被理解的方式來提高算法的透明度的救濟(jì)機制。在算法解釋機制的構(gòu)建過程中，政府要遵循真實性、可接受性的算法解釋原則，利用算法宣傳、科普、培訓(xùn)等多重宣貫手段，努力消除公眾算法理解中的疑惑，說明算法規(guī)則背后的理由，取得公眾對算法的理解和信任。

3.實現(xiàn)透明化算法治理的公眾責(zé)任與路徑：算法參與

按照政民互動的透明度生成邏輯，創(chuàng)造透明政府需要公眾貢獻(xiàn)時間、精力與能力并承擔(dān)責(zé)任。這是因為透明政府的本質(zhì)是公眾知情，缺乏公眾參與就不會形成對政府運行的實質(zhì)理解。同樣，對政府算法而言，如果算法應(yīng)用缺乏公眾參與，那仍然是單向度的政府算法公開，無法實現(xiàn)公眾對算法嵌入公共事務(wù)的實質(zhì)知情。相反，公眾參與算法全流程中，不僅可以讓公眾表達(dá)對算法的需求信息以實現(xiàn)回應(yīng)性和民主性的算法設(shè)計和應(yīng)用，公眾還能在參與過程中直接觀察、見證算法的運行流程，通過算法要素生成、學(xué)習(xí)形成對政府算法的實質(zhì)理解。可見，公眾算法參與是實現(xiàn)透明化算法治理的必要條件和有效機制。

通過公眾參與算法，創(chuàng)造公眾接觸并了解算法，排除公眾對算法的恐懼，同時也為公眾提供了算法教育和培訓(xùn)的機會，提高公眾算法素養(yǎng)，減少公眾的算法不對稱，從而提高算法的透明度。為了提高公眾算法知情效果，提高公眾參與政府算法治理效能，公眾的算法參與責(zé)任機制包括：

第一，提高公眾算法素養(yǎng)，增進(jìn)算法知情和參與能力。透明性原則的核心是通過公眾的知曉和理解來防止決策的失誤和不公正，看懂和理解則是公眾監(jiān)督的前提。而對算法的理解離不開算法素養(yǎng)。算法素養(yǎng)是公眾所具備的認(rèn)識、評價、運用算法的態(tài)度、知識和能力。研究指出，算法素養(yǎng)包括三個層次：一是態(tài)度層面，指對算法的設(shè)計和運行原理有一定的認(rèn)識，對算法本身及其結(jié)論的得出持批判態(tài)度；二是能力層面，掌握常見算法的設(shè)計能力，對試驗數(shù)據(jù)、算法設(shè)計、結(jié)果輸出有一定的辨別、判斷和解釋能力；三是規(guī)范層面，算法應(yīng)用合理、合法，遵循專業(yè)規(guī)范和社會規(guī)范。隨著大數(shù)據(jù)和人工智能時代的到來，算法素養(yǎng)是未來公民的基本素質(zhì)，也是公民參與政府算法治理的能力基礎(chǔ)。為了有效提升公眾對政府算法治理的知情度，公眾可通過培育算法態(tài)度、學(xué)習(xí)算法知識、掌握算法技能三個層面來提高公眾的算法素養(yǎng)，彌合算法鴻溝。在提升公眾算法態(tài)度層面，公眾應(yīng)當(dāng)培育對人工智能算法的價值感知和偏好，消除算法偏見和恐懼，培育對算法的理性認(rèn)同度。在提升公眾算法理解能力層面，公眾要想理解算法，就必須具備相應(yīng)的知識體系和認(rèn)知能力。因此，公眾必須學(xué)習(xí)和掌握相應(yīng)的算法基本知識，對算法的基礎(chǔ)知識、數(shù)據(jù)結(jié)構(gòu)、經(jīng)典算法等知識進(jìn)行學(xué)習(xí)，為能識別、理解算法提供知識基礎(chǔ)。在算法應(yīng)用能力方面，具有一定算法專業(yè)技術(shù)的社會大眾應(yīng)優(yōu)先培育其對政府算法設(shè)計、檢測的能力，進(jìn)而用專業(yè)知識來檢驗、重測和輔助優(yōu)化政府算法。可以說，提升公眾算法素養(yǎng)是公眾認(rèn)知政府算法、參與政府算法、監(jiān)督政府參與的信息資本、知識資本，至關(guān)重要。

第二，積極參與政府算法的學(xué)習(xí)和體驗，生成算法透明度。從知情的角度定義的政府算法透明度，它離不開社會公眾對算法制度、數(shù)據(jù)算料、算法規(guī)則、算法結(jié)果等方方面面算法要素的學(xué)習(xí)。可以說，只有通過積極參與政府算法學(xué)習(xí)，才會增加公眾對算法的知情程度。為此，一方面，社會公眾要積極參與體驗政府供給的人工智能公共產(chǎn)品和公共服務(wù)，獲取和學(xué)習(xí)蘊含其中的相關(guān)算法信息，通過算法體驗來學(xué)習(xí)、判斷、反饋政府算法的有效性。另一方面，社會公眾要主動獲取政府公開的各類算法信息，通過算法制度、產(chǎn)品、服務(wù)等要素的搜尋、整理、學(xué)習(xí)和利用才能轉(zhuǎn)化為自身對政府算法治理全過程的實質(zhì)性知情。

第三，積極參與政府算法治理的決策、執(zhí)行和監(jiān)督的全過程環(huán)節(jié)，實現(xiàn)對政府算法治理的全過程知情和反饋優(yōu)化。公眾參與提升政府透明度的機理在于，公眾參與政府治理的決策、執(zhí)行和監(jiān)督意味著公眾能夠直接參與政府信息的生成，見證政府治理決策、執(zhí)行和監(jiān)督的事實，提高了政府透明度的親身性。為此，在算法治理當(dāng)中，政府應(yīng)廣泛吸納民眾積極參與到政府算法治理的決策、研發(fā)、應(yīng)用和監(jiān)督全過程。在政府算法治理決策環(huán)節(jié)，因為算法引入到政府治理場域涉及公共利益的重大調(diào)整，政府可以引入算法聽證、公眾意見征集等方式吸納公眾參與政府算法治理技術(shù)嵌入決策、算法治理制度設(shè)計決策，提高政府算法治理決策的開放性和公開性。在政府算法的研發(fā)階段，政府算料生成和采集、算法設(shè)計等研發(fā)環(huán)節(jié)可以引入公眾數(shù)據(jù)眾籌、算料公示、多元專家參與算法選擇等參與方式，促進(jìn)算法設(shè)計、算料采集、算法規(guī)訓(xùn)的每個步驟符合公共價值要求，保障公眾的公共權(quán)益。在政府算法治理應(yīng)用階段，政府應(yīng)保證算法產(chǎn)品與服務(wù)使用者的知情權(quán)，在公民使用人工智能產(chǎn)品與服務(wù)的事前、事中、事后全過程及時向公眾披露服務(wù)主體、方式與后果信息，提高政府算法治理應(yīng)用透明度。在政府算法治理監(jiān)督方面，政府可以在算法風(fēng)險評估、算法績效評估等環(huán)節(jié)廣泛引入公眾調(diào)查工具。例如，政府通過對一定規(guī)模的公眾進(jìn)行問卷調(diào)查或訪談，向公眾收集人工智能產(chǎn)品和服務(wù)的風(fēng)險感知信息、質(zhì)量評價信息，獲取公眾對算法應(yīng)用的感知度、體驗度、滿意度，幫助政府算法的優(yōu)化。總而言之，當(dāng)政府打開算法公開、算法開放和算法參與的渠道之后，社會公眾應(yīng)當(dāng)積極履行參與責(zé)任，幫助政府的算法應(yīng)用產(chǎn)品和服務(wù)的持續(xù)改進(jìn)。

四、結(jié)語

在人工智能技術(shù)快速蔓延至政府治理場景的背景下，依算法而治理的算法治理模式正成為政府治理創(chuàng)新的前沿。算法黑箱問題由來已久，并且由于其問題的根本性和復(fù)雜性，其問題表征還將持續(xù)下去。毋庸置疑的是，人工智能算法技術(shù)嵌入公共場域應(yīng)進(jìn)行公共性的重構(gòu)，實現(xiàn)價值理性與技術(shù)理性的平衡，而對政府算法進(jìn)行公共性和透明性的重構(gòu)是其必然選擇。本文從學(xué)理層面論證了從算法黑箱到算法透明轉(zhuǎn)軌的理論邏輯，并嘗試設(shè)計了一個透明化政府算法治理的樣態(tài)和實現(xiàn)路徑。顯然，這對于解決公共場域的算法黑箱問題還是不足的，未來研究還需要更多理論和經(jīng)驗研究對政府算法問題的因果機制展開深入探究，而本文權(quán)做拋磚引玉。