算法時代的國家治理：在算法與法律之間

陳 鵬

內容提要：技術規(guī)范和法律規(guī)范都是調節(jié)社會關系的手段。大數據的出現、云計算技術的日漸成熟和深度學習算法的重大突破，推動著算法時代的到來，算法在約束個體行為和調節(jié)社會關系等方面的作用日漸凸顯，算法的法律化趨勢不斷強化，算法代碼正不斷擠壓法律規(guī)范的運行空間。數據和算法是算法治理的核心，數據在完整性和真實性上的瑕疵以及算法的不可解釋性，使得算法代碼在國家治理中不可能實現對法律規(guī)范的完全替代。在算法時代，算法治理社會的烏托邦既不會實現，法律也不會死亡。伴隨算法的法律化趨勢與法律的算法化進程的相互激蕩，處于算法與法律之間應是算法時代國家治理規(guī)范的發(fā)展趨勢。為此，一方面要正視算法的法律化趨勢，運用法律來規(guī)訓算法，推動算法技術在國家治理中的深度應用；另一方面，也要注意積極利用算法技術來推動法律的算法化進程，促進法律規(guī)范與算法代碼的有機融合，切實提升法治績效。

大數據時代的到來和云計算技術的日漸成熟，推動著人工智能算法應用場景的不斷拓展和應用程度的不斷加深，算法在工業(yè)生產、人類生活和社會交往中的影響力和控制力正日漸凸顯，我們正逐步進入到算法時代。①[美]盧克·多梅爾：《算法時代：新經濟的新引擎》，胡小銳等譯，中信出版社2016年版，第214頁。算法時代的到來，使得算法在個體行為約束和社會關系調節(jié)等方面發(fā)揮著越來越重要的作用，算法代碼作為技術規(guī)范在國家治理中的影響力和控制力日漸增強，算法治理正逐漸成為一種新型的技術治理形態(tài)?！胺珊图夹g都是解決人類社會基本問題的手段，兩者在許多領域可以相互替代。”②鄭戈：《區(qū)塊鏈與未來法治》，載 《東方法學》2018年第3期。算法時代的到來和算法治理形態(tài)的出現，在充分展現技術規(guī)范在國家治理中的重要性的同時，也對傳統(tǒng)上以法律規(guī)范為主導的國家治理規(guī)范體系產生了深刻的沖擊，算法代碼正不斷地擠壓法律規(guī)范的運行空間，以致于有學者提出了 “（算法）代碼即法律”的觀點，③[美]勞倫斯·萊斯格：《代碼2.0：網絡空間中的法律》，李旭等譯，清華大學出版社2009年版，第89頁。將算法看作是網絡空間中的法律，算法的法律化趨勢正日漸凸顯，更有學者提出了法律將會死亡的預判。④余成峰： 《法律的“死亡”： 人工智能時代的法律功能危機》， 載《華東政法大學學報》2018年第2期。算法治理有效性的充分發(fā)揮，以數據的完整真實和算法的合規(guī)有效為前提和保障。而現實中人類所能獲取到的數據難以保證絕對的完整和真實，并且算法設計環(huán)節(jié)的不透明性和運行過程的不可解釋性，使得算法本身也是不完備的，難以做到完全的合規(guī)和有效，算法代碼難以實現對法律規(guī)范的完全替代。

面對日漸凸顯的算法法律化趨勢，我們既要看到算法的應用在降低國家治理難度和提升國家治理效率等方面所發(fā)揮的積極作用，但也不能對算法在個體行為約束和社會關系調節(jié)等方面所發(fā)揮的功能寄于過高的期望，法律規(guī)范在國家治理中依然存在較大的應用空間。在算法時代，算法治理社會的烏托邦既不會實現，法律也不會死亡。伴隨算法的法律化趨勢與法律的算法化進程的相互激蕩，處于算法與法律之間可能將是算法時代國家治理規(guī)范的演變趨勢。為此，我們在強化對算法的法律規(guī)訓以確保在算法合規(guī)有效的前提下不斷拓展算法應用空間的同時，也要順應算法治理的趨勢，推動法律的算法化進程，在法律規(guī)范的制定和執(zhí)行環(huán)節(jié)更多地考慮法律規(guī)范如何與算法代碼更好地融合，以達到利用算法來提升法治運行績效的目的。

一、算法時代國家治理形態(tài)發(fā)生的變革

算法是人工智能的基石之一，依據人工智能機器學習算法類型的不同，可以將人工智能的發(fā)展歷程分為弱人工智能、強人工智能和超級人工智能三個階段。其中，弱人工智能的算法處于監(jiān)督學習階段，人工智能機器完成任務所需要的算法指令完全由人類設計，人工智能機器自身并不具備自主學習的能力。例如，二十世紀九十年代出現的機器人深藍，就處于弱人工智能階段。強人工智能的算法處于深度學習階段，人工智能機器具備了依據特定的數據來自主學習的能力，通過不斷地自主學習和強化訓練，人工智能機器可以自主生成決策指令，人工智能的自主行為能力開始出現并不斷增強。超級人工智能的出現，以人工智能具備了完全的自主意識和行為能力為主要標志，超級人工智能與人類智能已基本無異。當前，伴隨深度學習算法技術的日漸成熟和應用場景的不斷拓展，人工智能正處于從弱人工智能向強人工智能轉變的階段。在深度學習算法的驅動下，人工智能在現代國家治理中應用場景不斷拓展的同時，算法在國家治理中的應用程度也不斷加深，算法正日漸成為現代國家治理中約束個體行為和調節(jié)社會關系的重要技術規(guī)范，一種新型的技術治理形態(tài)——算法治理正日漸凸顯。國家治理技術的重大變革，不僅對提高國家治理能力和改善國家治理績效有著現實的意義，而且還會對既有國家治理秩序產生較大的影響和沖擊。與傳統(tǒng)上由政府主導的國家治理形態(tài)相比，在算法治理形態(tài)中，人工智能機器正逐漸成為新型的國家治理主體，國家和社會中的部分場域實現了自我治理，在治理規(guī)則上實現了算法代碼對法律規(guī)范的部分替代，在治理權力上出現了私權力對國家公權力的部分替代。

1.算法治理在治理主體上實現了人工智能機器對人類的部分替代。國家治理形態(tài)的變遷與治理技術的變革有著緊密的內在關聯(lián)。深度學習算法的出現及其在國家治理中的深度應用，不僅帶來了國家治理效率的提升和國家治理能力的提高，而且也對傳統(tǒng)上由政府主導的國家治理體系和由人類主導的世界治理秩序產生了深刻的沖擊。人工智能技術在國家治理中的深度嵌入，推動著傳統(tǒng)國家治理向智能治理形態(tài)轉變，而智能治理的實質就是算法治理。與之前的互聯(lián)網等治理技術的變革對國家治理形態(tài)的變遷所產生的影響不同，算法治理不僅實現了治理技術的深刻變革，而且?guī)砹酥卫砑夹g向治理主體的轉變。擁有深度學習算法的人工智能機器在國家治理中，可以根據具體應用場景的變化來自主生成治理方案，使得原本在國家治理中居于治理主體地位的政府變成了聽命于人工智能機器指令的被動執(zhí)行者，人類利用人工智能來治理正逐漸轉變?yōu)槿祟惵犆谌斯ぶ悄軄碇卫怼?/p>

2.數據的應用和算法的運行使得部分領域的自我治理成為現實。國家雖然是人類社會發(fā)展到一定歷史階段的產物，但自國家產生后，國家對社會和市場的影響力和控制力不斷增強，國家在與市場和社會的關系中處于主導地位。近代歐洲市場經濟的發(fā)展和自由主義政治思潮的興起，雖然確立了政府守夜人的角色，但由于市場內生的結構性和功能性缺陷所導致的市場失靈現象的存在以及社會自我治理能力的不足所誘發(fā)的社會失靈問題的加劇，使得市場和社會領域的治理始終離不開國家和政府不同程度的干預。因此，國家治理的范疇通常就包含了政府對市場和社會的治理。人工智能深度學習算法的出現及其在國家治理中的深度應用，不僅提高了國家治理的效率并推動著國家治理績效的不斷改進，同時也改變了部分領域的治理格局。大數據的出現和深度學習算法對數據的快速處理和分析能力，可以有效解決部分領域中存在的信息不充分和信息不對稱的治理困境，從而為社會和市場部分領域的自我治理提供了可能。例如，近年來崛起的各種類型的互聯(lián)網平臺企業(yè)，每個平臺實際上就是一個自治的網絡空間。在各種類型的互聯(lián)網平臺內部，創(chuàng)建和負責平臺運營的互聯(lián)網企業(yè)通過對交易數據的提取和分析，可以對平臺上的客戶與商家之間、平臺與客戶之間以及平臺上的商家與商家之間的交往和交易信息做到實時的監(jiān)控，平臺可以據此制定相應的規(guī)則來實現平臺內部的自我治理。此外，伴隨區(qū)塊鏈技術的興起，區(qū)塊鏈上的每個數據區(qū)塊實際上就是一個自治社區(qū)，智能合約的出現和運用解決了每個區(qū)塊內部的信息不充分和不對稱的難題，成為維系區(qū)塊正常運行的技術規(guī)范。

3.算法治理在治理規(guī)則上實現了算法代碼對法律規(guī)范的部分替代。算法是由一系列計算機代碼構成的。算法代碼在國家治理中的運用，不僅有利于降低國家治理的難度和節(jié)約國家治理的成本，而且算法代碼也逐漸成為國家治理的規(guī)范，算法代碼在某種程度上正在取代法律在約束個體行為和調節(jié)社會關系中所扮演的規(guī)范角色。大數據時代的到來和移動互聯(lián)、物聯(lián)網技術的日漸成熟，使得網絡空間與現實空間實現了深度的融合和高度的同步，法律規(guī)范在網絡空間中的適用是各民族國家對網絡空間宣示主權的象征，也是網絡空間治理的內在要求。但是，由于網絡空間不像實體空間那樣具有明顯的國界標識，各主權國家的政府對網絡空間難以進行有效的監(jiān)管。而且，不同國家之間在法律規(guī)范上的差異，也使得網絡空間治理中的溝通難度較大、治理成本較高。而深度學習算法的出現及其在國家治理中應用場景的不斷拓展，使得互聯(lián)網平臺等網絡空間治理規(guī)則的制定和治理秩序的維系可以通過算法的自動運行來完成，算法代碼在部分網絡空間治理中對法律規(guī)范替代的趨勢日漸凸顯。

4.在國家公權力之外出現了私權力。自人類社會進入到國家狀態(tài)以來，國家機關就壟斷了公權力的行使，政府在主導國家治理議程的同時，也形塑著國家治理的秩序和格局。算法時代的到來，使得網絡空間在人類的生產、生活和社會交往中的重要性日漸凸顯，各類應用平臺成為人們在虛擬空間中交流和博弈的平臺。在這些應用平臺的運行中，開發(fā)和負責平臺運營的互聯(lián)網公司所制定的交易規(guī)則和行為規(guī)范，在平臺空間中扮演著法律規(guī)范的角色，而互聯(lián)網公司所實施的治理平臺的行為在一定程度上就是行使權力的行為，各種類型的互聯(lián)網平臺企業(yè)也由此成為國家機關之外可以行使權力的主體。如果說國家機關行使的是公權力，那么這些平臺企業(yè)行使的就是私權力。在算法時代，“政府管理部門無力面對海量的信息和交易，便把一些公法審查義務交給網絡服務提供者，進而賦予其公法審查權力，并造成了 ‘避風港原則’與 ‘防火墻’之間的內在張力。于是，平臺就具有了自身運營的管理權和政府轉加的公法審查權，形成了日益龐大的、具有某種公權特征的私權力。而 ‘所謂的平臺效應也在加劇利益和價值向少部分人手中集中’”。⑤馬長山：《智能互聯(lián)網時代的法律變革》，載 《法學研究》2018年第4期。而且，“社會權力的崛起改變了傳統(tǒng)的國家與社會的二元對立框架，形成了智能互聯(lián)網時代的公權力—私權力—私權利三元博弈新格局”，⑥參見前引⑤，馬長山文。推動著國家與市場、國家與社會的關系格局發(fā)生著深刻的變革。

二、算法取代法律：一個技術治理的烏托邦

大數據的應用和算法技術的日漸成熟，使得 “人類正在進入一切皆可計算的時代”，⑦徐?。骸端惴ńy(tǒng)治世界——智能經濟的隱形秩序》，清華大學出版社2017年版，第323頁。國家治理的技術化趨勢不斷強化，算法治理形態(tài)也隨之不斷凸顯。作為一種新型的技術治理形態(tài)，算法治理是指以大數據為依據，通過深度學習算法的自主學習和強化訓練來自主生成治理方案并不斷提升治理能力的治理形態(tài)。數據與算法一起構成了算法治理的基石。其中，數據是算法治理的依據，算法是算法治理的核心。數據的完整真實和算法的合規(guī)有效是算法技術在國家治理中的有效性得以充分發(fā)揮的前提，而數據在完整性和真實性上的瑕疵以及算法的不可解釋性，使得算法代碼在國家治理中不可能實現對法律規(guī)范的完全替代，算法治理社會的烏托邦難以實現。

（一）算法治理有效性的前提

算法的本意是數字的運算法則，后被計算機學科加以吸收利用，用于指代完成特定任務的計算機指令的集合。算法作為 “一種有限、確定、有效并適合用計算機程序來實現的解決問題的方法，是計算機科學的基礎”。⑧Robert Sedgewick，Kevin Wayne：《算法 （第四版）》，謝路云譯，人民郵電出版社2012年版，第6頁。二十世紀五十年代初 “圖靈測試”的出現，開啟了人工智能的序幕，人類設計出來并植入人工智能中的算法使得人工智能機器可以自動地完成特定類型的任務，在大幅提高生產效率的同時也給人類生活帶來了極大的便利。此后，伴隨算法技術的不斷進步，人工智能的應用場景不斷拓展，應用程度不斷加深。2016年被稱為人工智能技術的元年，在這一年中，谷歌公司的智能機器人——阿爾法狗戰(zhàn)勝了韓國世界圍棋冠軍李世石，而阿爾法狗運用的正是深度學習算法。深度學習算法通過建立模仿人腦學習和分析機理的多元神經網絡，實現了從海量的大數據中自動提取與工作目標相關的數據來自主生成治理方案并完成工作任務的目標。深度學習算法的出現及其日漸成熟，與大數據的出現和云計算技術的快速發(fā)展密切相關。大數據為深度學習算法提供了自主學習和強化訓練的原料，云計算技術為深度學習算法對海量大數據的提取和分析提供了強大而準確的運算保障。國家治理是技術理性與價值理性的有機統(tǒng)一，國家治理除了要利用一定的技術手段來實現治理效率提升的目的外，還要更好地推動社會公平正義價值的實現和維系。技術治理是國家治理效率提升的重要手段，技術治理在國家治理中應用空間的有效拓展，要求技術治理在堅持合目的性的同時，也要做到合法律性和合道德性。數據和算法一起構成了算法治理的兩大基石，共同推動著算法治理應用場景的不斷拓展和持續(xù)深化，而數據完整真實和算法合法合道德也成為理想的算法治理應該具備的前提和保障。

1.數據完整真實。數據作為人工智能的基石之一，是算法治理的依據。深度學習算法的出現及其在國家治理中的應用，與對大數據的使用和分析密不可分，真實而全面的數據供給是確保算法治理有效性的前提和基礎。首先，數據是具備深度學習算法的人工智能機器自主學習和強化訓練的原料。這些數據原料可以是算法的設計者和使用者按照一定標準和規(guī)則來選取的，也可以是人工智能機器直接從傳感器或者物聯(lián)網系統(tǒng)中自動提取。在數據的支撐下，人工智能機器就會從特定的數據集中識別出相關的特征信息并依據這些特征信息來自主生成相應的算法指令，然后依據這些指令來自動完成相關的任務。

其次，確保選取的數據是真實且全面的，是防止算法偏見出現和維系算法代碼公正的根本保障。深度學習算法本質上就是計算機指令的集合，算法本身并不帶有任何特定的價值偏好和利益指向。但是，深度學習算法學習和訓練所使用的數據是由特定的設計主體和使用主體來選取的，算法設計者和使用者在數據選擇上的價值偏好和主觀意圖對人工智能機器算法指令的生成有很大影響。數據選取上的偏見，可能導致算法偏見甚至是算法歧視等問題的出現。人工智能機器如果利用依據特定的價值偏好和主觀意圖選取出的數據來學習和訓練的話，其所生成的算法指令必然帶有一定程度的偏見，甚至是歧視。因此，要想讓算法治理成為現代國家治理中值得信賴的技術治理范式，必須要保證作為算法生成和算法運行依據的數據是真實且全面的。大數據時代的到來，使得我們正進入到萬物皆可以數據化的時代，整個人類社會的數據量呈現出爆炸式增長。在理想的算法治理形態(tài)中，大樣本的數據甚至是全樣本數據取代了小樣本數據成為數據的主要形態(tài)，為深度學習算法在客觀且充分的數據供給狀態(tài)下自主生成治理方案提供了可能。數據供給的客觀性和公正性在很大程度上保障了算法治理的客觀性和公正性，為算法治理應用空間的拓展和應用程度的加深提供了無限的可能。

2.算法合法合道德。算法是算法治理的核心。在傳統(tǒng)國家治理中，決策者的主觀偏見和信息的不充分，使得決策的科學性難以得到有效保障。大數據的出現，使得決策主體可以借助于一定的技術手段以較低的成本來獲取較為充分的數據。通過從海量的大數據中提取的相關信息，決策主體可以較為準確地分析社會輿情的變化，科學地界定政策問題的邊界和特征，從而為制定有效的決策方案和科學地評價政策執(zhí)行過程奠定了堅實的基礎。但是，大數據的出現，僅僅為決策主體提高決策制定的科學性和準確性提供了可能，而要把這種可能性轉變?yōu)楝F實性，還需要借助于深度學習算法對數據的處理，算法的運行是大數據的價值在國家治理中得以深度挖掘并廣為應用的前提和保障。由于算法是由特定的主體設計和研發(fā)的，算法本身不會帶有任何偏見和歧視。但是，“算法及其決策程序是由它們的研發(fā)者塑造的，在細節(jié)上滲透著研發(fā)者的主觀特質”。⑨汝緒華：《算法政治：風險、發(fā)生邏輯與治理》，載 《廈門大學學報 （哲學社會科學版）》2018年第6期。因此，要想確保算法治理的有效性，除了要保障數據是真實且全面的，還需要保障算法的設計和運行過程是符合法律規(guī)范和道德倫理要求的，使得算法運行的合目的性在達成的同時，也要確保算法的合法性和合道德性目標的實現，進而保證算法在國家治理中應用的有效性。

（二）技術治理的烏托邦：算法治理的困境

算法、數據和算力是人工智能的三大構成要素。算法治理作為一種新型的技術治理形態(tài)，在治理需求設別、治理方案生成、治理流程優(yōu)化和治理績效評估等方面具有顯著的功效，充分彰顯出技術在國家治理水平提升和國家治理績效改進上的重要性，引發(fā)了人們對于完全利用技術來治理社會的烏托邦的無限遐想。相比于傳統(tǒng)的科層式治理和 “互聯(lián)網+”治理，算法治理的優(yōu)勢非常明顯。但是，由于算法治理有效性的呈現是以數據的完整真實和算法的合法合道德為基本前提的，而在國家治理的實際中，數據在完整度和真實性上的瑕疵以及算法在設計上的不透明性和運行過程中的不可解釋性，使得算法治理的有效性難以得到充分的發(fā)揮，完全用算法來治理社會也許將是永遠不會實現的烏托邦。

1.數據在完整性和真實性上的瑕疵

（1）數據的完整性難以達到。數據以及通過整理數據所獲得的信息，是確保決策科學化的重要前提。在大數據出現之前，特定的決策者能夠獲取的數據非常有限，小樣本數據決定的因果關系和決策者的經驗成為決策的主要依據。大數據時代的出現，使得人類的生產和生活方式發(fā)生著巨大改變，我們每時每刻都在生產數據，數據化成為人類社會的存在狀態(tài)，小樣本數據被大樣本數據所取代，相關性取代了因果關系成為決策的依據，決策的科學性得以顯著提升。相比于小樣本數據，大數據的數量雖然巨大、更新速度很快，但是決策者要想獲取到與某一決策或者行動相關的所有數據也是不可能的，畢竟在萬物互聯(lián)時代我們也不能保證所有物體都被物聯(lián)網連接，數據的全面性只能盡可能接近，不可能完全實現。而且，就算能實現萬物互聯(lián)，隨時都在更新的數據和難以完成的海量數據的處理任務也使得數據的完整性難以達到。

（2）數據的真實性存在瑕疵。數據是算法治理的依據，數據的完整性不僅難以實現，可以采集到的數據的真實性也難以完全保障。一方面，部分關鍵數據存在被過濾的可能，進而導致數據失真。大數據時代，數據生產者生產的數據通常是客觀真實的。但是，特定的主體在選擇作為算法決策依據的數據集時，難以保障能采集到的所有數據都被放進數據集中，選取數據的主體受到價值取向和利益意圖的影響，有過濾部分數據的可能，特別是部分典型且關鍵的數據被過濾的可能性非常大。另一方面，數據面臨整合的困難。受到主客觀條件的局限，負責采集數據的主體采集到的數據可能存在一定的瑕疵，這就需要整合不同部門的數據，來進行數據真實性的鑒別，以確保數據的真實有效。但是，從我國現有的條塊分割的數據管理體制來看，“不同部門的數據儲存在不同地方，格式也不一樣，這就使得數據整合起來出現困難”，⑩徐圣龍：《大數據與民主實踐的新范式》，載 《探索》2018年第1期。使得數據的完整性不僅難以得到保障，部分數據的真實性也難以相互印證。此外，政府掌握的數據中有很多是非結構化數據，數據的整理難度較大，耗時較長，也在一定程度上影響到數據的真實性。

2.算法設計和算法運行過程中的缺陷

（1）算法的透明性不足。算法是算法治理的核心，也是決定算法治理水平優(yōu)劣和治理績效高低的關鍵性因素。近年來，深度學習算法的重大突破使得人工智能機器的學習能力得以大幅提升，推動著人工智能技術在國家治理中應用程度的不斷加深。但是，伴隨算法在國家治理中應用場景的不斷拓展和應用程度的不斷加深，算法運行的透明性不足等問題也隨之凸顯。由于作為開源算法基礎的底層算法的設計和研發(fā)工作是在封閉的環(huán)境下完成的，算法的設計目的和設計原理難以明晰，算法的運行過程難以用自然語言去解釋，看似客觀的算法技術運行的背后隱藏著許多不為外界知曉的算法設計主體的特定目的和意圖。算法透明性不足及其引發(fā)的不可解釋性問題，使得 “算法黑箱”不同程度地存在，算法設計者和研發(fā)者之外的主體難以對算法運行過程進行有效的監(jiān)督，算法運行中出現的問題也難以明確具體的責任主體。

（2）算法的安全性存疑。算法是程序化指令的集合，算法的設計者和研發(fā)者的價值偏好和利益訴求決定了他們設計和研發(fā)出的算法帶有鮮明的價值指向，算法歧視問題在算法的運行中客觀存在。由于現有的算法設計和研發(fā)過程主要由少數互聯(lián)網企業(yè)主導，特別是底層算法的設計更是被少數幾家超級互聯(lián)網企業(yè)所壟斷，他們在缺乏必要的法律規(guī)制和道德倫理訓導的情況下來進行算法的設計和研發(fā)工作，很難保證算法在運行過程中的安全性。在算法的設計和運行環(huán)節(jié)，算法 “代碼作者越來越多的是立法者。他們決定互聯(lián)網的缺省設置應當是什么，隱私是否被保護，所允許的匿名程度，所保證的連接范圍。他們是設置互聯(lián)網性質之人。他們對當前互聯(lián)網代碼的可變和空白之處所做出的選擇，決定了互聯(lián)網的面貌”。①參見前引③，勞倫斯·萊斯格書。同時，“在實踐過程中，技術治理存在著與科學技術有關的社會風險”。②劉永謀：《技術治理、反治理與再治理：以智能治理為例》，載 《云南社會科學》2019年第2期。伴隨深度學習算法技術的日漸成熟，人工智能正具備越來越強的自主行為能力，人工智能脫離人類設計者和研發(fā)者的控制獨自運行的可能性正逐步增大，算法運行過程中的不確定性風險也隨之大大增加。

算法和法律都是約束個體行為和調整社會關系的手段，兩者在很多領域可以相互替代。算法時代的到來，不僅改變了人類傳統(tǒng)的生產方式和生活方式，也對社會交往的形式和社會關系的調節(jié)規(guī)范產生了深刻影響，算法日漸成為規(guī)范和約束人們行為和社會交往的技術規(guī)則。伴隨算法代碼在國家治理中應用場景的不斷拓展和應用程度的不斷加深，算法作為技術的規(guī)范性色彩日漸凸顯，引發(fā)了人們對于未來社會是否可以完全交由算法來治理的無限遐想，而到那時法律的功能或將死亡。③參見前引④，余成峰文。完全用技術規(guī)范來治理社會的烏托邦也許在未來存在實現的可能，但至少在目前數據難以做到完整真實、算法也不能實現徹底透明和可解釋的前提下，用技術來治理整個社會和國家尚面臨很大的不確定性風險。面對日漸強勢的算法治理形態(tài)，法律規(guī)范適用的空間也許會伴隨社會自治空間的擴大而不斷縮小，法治的運行成本也會因社會自治能力的不斷提高和算法技術的深入運用而逐步降低，但法律在國家治理中的規(guī)范性功能不但不會死亡，反而會不斷強化。伴隨算法的法律化趨勢與法律的算法化進程的相互激蕩，處于算法與法律之間應是算法時代國家治理規(guī)范的發(fā)展趨勢。

三、在算法與法律之間：算法的法律化與法律的算法化

盧曼認為，“人工智能研究關心的是如何操縱 ‘符號’，而不是如何形成意義”。④Niklas Luhmann， Theory of Society， Vol.I，translated by Rhodes Barrett， Stanford University Press2012，p.315.因此，面對算法代碼，我們既不能對其有過高的幻想，也不能無視算法在國家治理中規(guī)范功能日漸強大的現實。算法作為治理技術和手段，算法本身不是目的，在算法的法律化趨勢日漸凸顯的背景下，要注意強化法律對算法的規(guī)范和訓導，算法代碼需要法律規(guī)則的嵌入來保障其運行的有效和公平。因為，相對于作為技術治理形態(tài)的、突出治理效率而忽視道德倫理規(guī)范的算法治理來說，“法律是存在道德維度和價值理性的。它蘊含的對人的生存狀態(tài)、自由、權利、尊嚴和價值的關懷和尊重，能夠抵制技術治理過程中的非理性、非人道的因素，從而有效反撥因過度強調技術理性而導致的人的技術化、客體化和社會生活的技術化”。⑤鄭智航：《網絡社會法律治理與技術治理的二元共治》，載 《中國法學》2018年第2期。同時，面對算法等技術規(guī)范在國家治理效率提升和國家治理績效改進等方面作用的凸顯及其嵌入程度的日漸加深，我們也需要積極推動算法技術在法律實施過程中的應用，推動法律的算法化進程，積極促進法律規(guī)范與算法技術的深度融合，利用算法技術來切實推動法治績效的提升。因為，“不學習的法律可以應對一個具有高度確定性的社會，但是伴隨著貝克所言的風險社會的到來，社會交往的復雜性和不確定性急劇提升，如果繼續(xù)沿用不學習的法律，主要基于事后規(guī)制針對特定當事人進行治理，勢必難以應對風險社會的各種問題”。⑥參見前引④，余成峰文。算法時代的國家治理規(guī)范，既不是算法對法律的完全替代，也不是法律對算法的完全遏制，在算法與法律之間應該會成為未來國家治理規(guī)范的主要趨向。

（一）算法的法律化：法律為算法立法

人工智能技術的出現和日漸成熟，在推動人類社會生產效率大幅提高并給人類生活帶來極大便利的同時，也對各主權國家的治理秩序和全球治理格局產生了一定程度的沖擊，甚至對未來人類的終極命運構成挑戰(zhàn)。伴隨算法在市場治理、國家治理和社會治理中應用場景的不斷拓展和應用程度的不斷加深，算法代碼正在越來越多的領域特別是網絡空間中扮演著約束個體行為和調節(jié)社會關系的規(guī)范角色，“代碼就是法律”1⑦參見前引③，勞倫斯·萊斯格書。的算法法律化的趨勢日漸凸顯。算法法律化趨勢的確立，減輕了國家運用法律規(guī)范來約束個體行為和調節(jié)社會關系的負擔，有利于國家治理成本的降低。但是，由于“技術是在給定目的的前提下追求最優(yōu)解決方案的活動，技術本身不是目的，也無法自動形成自己的目的。作為一種技術，人工智能也是服務于特定的人類目的的，我們應當追問：我們到底想用人工智能來干什么？”⑧鄭戈：《算法的法律與法律的算法》，載 《中國法律評論》2018年第2期。算法是人工智能的核心。數據的有限性和控制數據主體的主觀性使得依據特定的數據集來學習和訓練的算法自身存在不完備性，算法技術運行看似公正的背后可能是社會公正的缺失和對倫理規(guī)范的違背。因此，要想讓人工智能技術始終處于為人類服務并處于人類可以控制的狀態(tài)之下，就必須要控制好算法的設計過程和運行環(huán)節(jié)，而為算法立法，運用法律對算法進行必要的規(guī)訓，以實現和維系代碼的正義，⑨參見前引⑤，馬長山文。是應對算法法律化趨勢的內在要求和必然趨勢。

首先，加快 《算法安全法》和 《數據安全法》等相關法律的立法工作。深度學習算法技術的日漸成熟，使得算法應用場景有效拓展的同時，算法技術的權力特征也逐漸凸顯，算法權力作為一種新型的權力形態(tài)正迅速崛起。⑩陳鵬：《算法的權力和權力的算法》，載 《探索》2019年第4期。算法權力的所有者是少數擁有數據和算法核心技術優(yōu)勢的互聯(lián)網企業(yè)，資本的逐利性使得他們有利用數據和算法技術優(yōu)勢侵害公民合法權益并沖擊現有以政府為主導的國家治理秩序的可能。而面對日漸強勢的由資本主導的算法權力，各主權國家最有效的反制武器之一便是法律規(guī)范。目前，我國在算法和數據等方面的立法工作相對滯后。雖然 《網絡安全法》已經出臺，《數據安全管理辦法》處于征求意見階段。但是，由于 《網絡安全法》的規(guī)定過于籠統(tǒng)，算法設計和運行等方面的安全問題應該由專門的 《算法安全法》來予以明確和規(guī)范。同時，《數據安全管理辦法》屬于國務院制定的行政法規(guī)，該法律規(guī)范的位階與數據安全在算法時代的重要性不相稱，建議由全國人大或全國人大常委會來制定 《數據安全法》，以起到有效提升各級政府的數據安全意識，并對資本利用數據的行為進行有效規(guī)范和約束的目的，切實提高數據和算法的安全性。

其次，從法律層面構建以維護人類安全和社會公正為底線的透明化的算法設計和運行機制?！霸诶硐霠顟B(tài)下，法律是用經驗浸潤過的邏輯，也是用邏輯規(guī)整過的經驗”。①參見前引⑧，鄭戈文。為了確保新制定的法律在實施過程中的有效性，很多問題的立法通常滯后于經濟和社會發(fā)展的實際，以實現運用法律邏輯來規(guī)整現實經驗的目的。但是，在有關人工智能特別是有關算法問題方面的立法，不僅不能滯后，而且還應該適當地超前，因為人工智能算法的研發(fā)工作主要是由少數互聯(lián)網企業(yè)控制的，而且算法技術的發(fā)展在不久的將來存在脫離人類控制的可能。為此，我們要以維護人類安全和社會公正為底線，要求企業(yè)構建透明化的算法設計和運行機制，將確保人類安全、維護社會公正等準則寫進算法代碼，以最大限度地破除算法黑箱，讓 “那些對結果抱有懷疑的人可以掀開 ‘引擎蓋子’看個究竟”，②[美]弗蘭克·帕斯奎爾：《黑箱社會——控制金錢和信息的數據法則》，趙亞男譯，電子工業(yè)出版社2015年版，第262頁。確保算法在國家、政府和人民可以有效監(jiān)控的范圍內運行。

再次，強制建立算法自我終結機制。算法運行存在的風險主要來自于算法的設計者和算法的本身兩個方面。以確保人類生命安全和社會公正為底線的透明化的算法設計和運行機制的建立，基本上可以確保算法在運行過程中存在的風險是總體可控的，不會對人類的生命安全和公正的社會秩序產生太大的沖擊。但是，隨著人工智能算法技術的不斷發(fā)展，自主性越來越強的人工智能算法脫離人類控制的可能性也不斷增大，給人類的生命安全和國家治理秩序的穩(wěn)定帶來了極大的隱憂。也許，脫離人類控制的超級人工智能的出現還需要很長一段時間。但是，未雨綢繆，通過立法來強制算法研發(fā)主體建立算法自我終結機制是有效應對未來算法發(fā)展可能引發(fā)的諸多不確定性風險的有效手段。

最后，積極拓展經過法律規(guī)訓的算法在國家治理中的應用空間。利用何種規(guī)范來實現有效治理國家的目標，是人類自進入國家狀態(tài)以來一直在追尋的問題。我國古代的商鞅變法，古希臘圣賢柏拉圖在 《法律篇》中對法律治國的構想等都是對如何運用法律來治理國家的積極探索。經過人類不斷的探索，法治最終成為現代國家治理的首選，“實行法治是國家治理現代化的內在要求”。③張文顯：《法治與國家治理現代化》，載 《中國法學》2014年第4期。在法治實施的同時，運用技術規(guī)范來約束個體行為和調節(jié)社會關系，以實現節(jié)約國家治理成本和提升治理績效的目的也是人類不斷追求的目標。大數據時代的到來，使得萬物以數據化的方式呈現，利用數據可以較為準確地對個體和組織的行為歷程進行還原并對其未來的行為趨勢進行準確的預測，為算法在國家治理中的深度運用提供了廣闊的空間。算法本質上就是一系列程序代碼的組合，屬于典型的技術規(guī)范，經過法律規(guī)范后的算法可以在現代國家治理中發(fā)揮重要的約束個體行為和調節(jié)社會關系的作用，以幫助實現節(jié)約國家治理成本和提升國家治理績效的目的。目前，“從各國的具體實踐來看，它們都在逐步改變過去以國家為中心的法律治理格局，把市場、社會等多方的力量納入治理體系，突出技術治理等柔性治理方式的重要性”。④參見前引⑤，鄭智航文。例如，近年來在區(qū)塊鏈技術中通過共識算法達成的智能合約，在經濟領域已經得到了很好的運用，政府在金融等領域的監(jiān)管成本得以有效降低，國家的司法資源也在一定程度上得以有效節(jié)約。

（二）法律的算法化：算法為法治提效

算法和法律作為約束個體行為和調節(jié)社會關系的兩種規(guī)范類型，二者既存在明顯的不同，也存在著密切的關聯(lián)。一方面，作為不同的規(guī)范類型，算法和法律二者之間存在較大的不同。首先，兩者倡導的治理導向存在根本的不同。法律治理以維護公平和捍衛(wèi)正義為最高宗旨，彰顯的是價值理性。算法治理以流程優(yōu)化和效率提升為主要目標，踐行的是工具理性。其次，在適用的靈活性上，算法可以根據具體應用場景的變化來生成規(guī)范結果，靈活性較強，效率較高。而法律規(guī)范在遇到具體的應用場景時，需要以事實為依據、以法律為準繩來綜合考慮如何適用法律規(guī)范，當遇到法律規(guī)范沒有具體規(guī)定或者新出現的在之前法律適用中沒有遇見過的情形時，法律規(guī)范的調節(jié)作用可能會陷入僵局。另一方面，算法和法律之間也存在著密切的關聯(lián)，工具理性主導下的算法代碼需要經過法律的規(guī)訓和改造來推動算法治理空間的有效拓展。同樣，價值理性至上的法律規(guī)范也需要借助于算法技術來提升立法的有效性、執(zhí)法的公正性和司法的公平性，在利用算法提升法治效率的同時不斷推進法律的算法化水平。算法在法治中的應用主要體現在立法環(huán)節(jié)上的吸納民意和回應社會關切，執(zhí)法環(huán)節(jié)上的提升執(zhí)法效率和保障執(zhí)法公平以及司法環(huán)節(jié)上的節(jié)約司法成本和保障司法公正。因此，面對算法在國家治理中重要性的日漸凸顯，我們在法律規(guī)范的制定上，也要認真考慮如何有效拓展算法技術在立法、執(zhí)法和司法環(huán)節(jié)的應用場景，在法律條文的編寫上要朝著有利于算法搜索、分類和有效識別等方向努力，以切實推動法律的算法化進程。

首先，在立法方面，在充分利用算法對民意獲取優(yōu)勢的同時嘗試研發(fā)擁有深度學習算法的智能立法系統(tǒng)。哈貝馬斯認為，法律的產生應基于社會成員之間的有效商談，“對于如此產生的法律，守法者同時也是立法者，當守法者遵守的是自己參與制定或真心同意的法律，他們就不會感到受壓迫和被強制。因而，這樣的法律不僅具有事實的強制力，而且具有規(guī)范的有效性，即不僅具有合法律性，而且具有合法性”。⑤高鴻鈞：《走向交往理性的政治哲學和法學理論 （下）：哈貝馬斯的民主法治思想及對中國的借鑒意義》，載 《政法論壇》2008年第6期。在現有的法律制定實踐中，民意的收集和整理是一個較為費時費力且成效未必明顯的工作，很多法律條款在制定后引發(fā)的爭議在很大程度上源于立法環(huán)節(jié)對民意吸納的不足。大數據時代的到來和深度學習算法的日漸成熟，為立法環(huán)節(jié)對民意的充分吸納和對社會關切的及時回應提供了充分的可能。在大數據時代，人類的生產、生活和社會交往都以數據化的形式和狀態(tài)存在。具有深度學習算法的人工智能機器通過對大數據的采集、提取、分類、處理和分析，可以較為準確地掌握社會公眾關注的焦點問題，并真實地了解到社會公眾的真實需求，從而為立法環(huán)節(jié)中新法的制定和既有法律的修改或廢止提供充分的依據，有利于切實提高公民對立法的滿意度，進而提升民眾遵守法律規(guī)范的自覺性，法律實施的成本也隨之大幅降低，立法目的也可以得到更好的維系。同時，為了提高立法的水平和質量，也為了使法律規(guī)范更好地被智能政務系統(tǒng)搜索、分類和適用，可以嘗試研發(fā)擁有深度學習算法的智能立法系統(tǒng)來參與輔助立法工作，在有效減輕立法者負擔和提升立法水平的同時，有助于法律規(guī)范語言與算法代碼之間的有效銜接，有效推動法律的算法化進程。

其次，在執(zhí)法方面，利用具有深度學習算法的智能執(zhí)法系統(tǒng)提升執(zhí)法效率和保障執(zhí)法公平。法治效果的呈現，不僅依賴于良法的制定，也需要執(zhí)法者秉公的執(zhí)行法律。如何在賦予執(zhí)法者一定限度的自由裁量權以適應具體的執(zhí)法場景需要的同時，又能夠確保具有特定價值偏好和利益訴求的執(zhí)法者能夠高效且公正地使用自由裁量權來實現立法的初衷，是法律實施環(huán)節(jié)中的一大難題。算法在國家治理中的深度應用，為法律執(zhí)行環(huán)節(jié)的效率提升和執(zhí)法公平提供了有效的技術支撐。法律實施過程中，借助于具有深度學習算法的人工智能機器，執(zhí)法者在設定執(zhí)法目的后，可以將具體的執(zhí)法過程交給具有深度學習算法的人工智能機器來完成，不僅有利于提升執(zhí)法效率，也有效地保障了執(zhí)法的公正性。目前，智能執(zhí)法系統(tǒng)在具體應用過程中遇到的難題之一是智能機器對法律規(guī)范很難做到有效識別和準確理解。隨著智能機器參與立法程度的加深，法律規(guī)范的制定邏輯與算法代碼的編寫邏輯之間的融合程度會不斷提升，執(zhí)法智能機器對法律規(guī)范的識別和理解能力將隨之大幅提高，算法在執(zhí)法過程中的應用場景也將隨之不斷擴大。

最后，在司法方面，利用算法技術節(jié)約司法成本和保障司法公正。司法是捍衛(wèi)法律尊嚴、保障公民、社會組織合法權利的最后一道防線，同時也是國家法治力量和司法資源配置最多的環(huán)節(jié)。司法活動的有序開展和司法公正的有效保障，與司法從業(yè)人員的法律素養(yǎng)和職業(yè)道德密切關聯(lián)。目前，伴隨深度學習算法技術的日漸成熟，算法在司法環(huán)節(jié)中的法律服務、材料整理、證據識別、輔助審判、裁判文書生成等方面的嵌入程度日漸加深，我國的智慧法院和智慧檢察院建設取得了顯著的成效。算法在司法環(huán)節(jié)的嵌入，不僅有利于節(jié)約司法成本，也降低了社會公眾接受法律服務的技術門檻和服務成本，有利于司法公正得到更好的維系。

結語

人工智能時代的到來，使得網絡空間和實體空間的邊界變得日益模糊，算法代碼作為技術規(guī)范在國家治理中特別是在網絡空間治理中的作用不斷增強，算法的法律化趨勢日漸凸顯，工具理性主導下的用技術治理國家的烏托邦仿佛離人類已經很近。但是，由于數據和算法是算法治理的兩大基石，數據在完整性和真實性上存在的瑕疵以及算法在設計和運行過程中的不透明性，使得算法治理本身存在一定的不完備性，算法代碼難以實現對法律規(guī)范的完全替代。“面向智能革命時代，我們應在認識和分析現行法律困境的基礎上，探索與科學文明相伴而生的制度文明，創(chuàng)制出有利于人工智能健康、有序發(fā)展的社會規(guī)范體系”，⑥吳漢東：《人工智能時代的制度安排與法律規(guī)制》，載 《法律科學》2017年第5期。而法律對算法代碼的規(guī)范和訓導是算法在國家治理中應用場景得以不斷拓展的前提和保障。同時，我們也要積極利用算法來推進立法、執(zhí)法和司法等環(huán)節(jié)上法律規(guī)范與算法代碼之間的有機融合，通過法律的算法化趨勢來切實提升法治運行的績效。在算法時代，算法治理的烏托邦既不會實現，法律也不會死亡。在算法的法律化趨勢和法律的算法化進程相互激蕩的進程中，算法時代的國家治理規(guī)范將既不是算法代碼對法律規(guī)范的替代，也不是法律規(guī)范對算法代碼的妥協(xié)，在算法與法律之間應成為算法時代國家治理的演進趨勢。