地方立法的人工智能應(yīng)用風(fēng)險(xiǎn)與規(guī)制研究

徐亞文，陳路易

（武漢大學(xué) 法學(xué)院，湖北 武漢 430072）

當(dāng)今社會(huì)正步入“云大物移智”時(shí)代，人工智能與法結(jié)合成為法律科技發(fā)展的客觀趨勢(shì)。在地方立法領(lǐng)域，國(guó)家也開始逐步推進(jìn)立法工作的智能化與現(xiàn)代化。[1]2017 年國(guó)務(wù)院公布了《新一代人工智能發(fā)展規(guī)劃》并提出促進(jìn)人工智能在法律文件閱讀與分析中的應(yīng)用。全國(guó)人大常委會(huì)法工委在關(guān)于十二屆全國(guó)人大以來(lái)暨2017 年備案審查工作情況的報(bào)告中指出，要“著力推進(jìn)備案審查信息化建設(shè)，大力推進(jìn)省級(jí)人大備案審查信息平臺(tái)建設(shè)”。①參見(jiàn)《全國(guó)人民代表大會(huì)常務(wù)委員會(huì)法制工作委員會(huì)關(guān)于十二屆全國(guó)人大以來(lái)暨2017 年備案審查工作情況的報(bào)告》，載http://www.npc.gov.cn/npc/c12435/201712/18c831eededb459cb645263ebf 225600.shtml，2021 年10 月1 日訪問(wèn)。在2018 年中共中央政治局第九次集體學(xué)習(xí)中，習(xí)近平強(qiáng)調(diào)“要加強(qiáng)人工智能同社會(huì)治理的結(jié)合，開發(fā)適用于政府服務(wù)和決策的人工智能系統(tǒng)”。②參見(jiàn)《習(xí)近平：推動(dòng)我國(guó)新一代人工智能健康發(fā)展》，載http://www.xinhuanet.com/politics/leaders/2018-10/31/c_1123643321.htm，2021 年10 月1 日訪問(wèn)。

近年來(lái)，包括中國(guó)法律大數(shù)據(jù)聯(lián)盟、國(guó)家法律法規(guī)數(shù)據(jù)庫(kù)在內(nèi)的各類法律數(shù)據(jù)庫(kù)和人工智能平臺(tái)陸續(xù)建立，各個(gè)省市紛紛開展地方立法與人工智能結(jié)合的有益嘗試，如貴陽(yáng)市出臺(tái)的首部人工智能立法的法律規(guī)范《貴陽(yáng)市政府?dāng)?shù)據(jù)開放共享?xiàng)l例》、天津市人大常委會(huì)使用的北大法寶智能備案智能審查系統(tǒng)、上海市建立的政府立法信息平臺(tái)、浙江省政府聯(lián)合浙江大學(xué)成立的立法研究院以及多地立法項(xiàng)目庫(kù)的建立。通過(guò)大數(shù)據(jù)、知識(shí)圖譜、自然語(yǔ)言系統(tǒng)等智能技術(shù)搜集、分析和處理立法數(shù)據(jù)和信息，立法成本顯著降低，地方立法的質(zhì)量和效率明顯提高。但人工智能與地方立法的關(guān)系是雙向的，它在為社會(huì)帶來(lái)巨大便利和發(fā)展的同時(shí)，由此而生的法律問(wèn)題也同步出現(xiàn)?；诖耍疚牧⒆恪皵?shù)字法治”下地方立法與人工智能結(jié)合的客觀背景，分析人工智能的應(yīng)用可能帶來(lái)的風(fēng)險(xiǎn)與挑戰(zhàn)，探索規(guī)制地方立法應(yīng)用人工智能的合理路徑。

一、地方立法應(yīng)用人工智能的價(jià)值分析

人工智能并非單純的計(jì)算機(jī)學(xué)科分支，而是涵蓋信息科學(xué)、神經(jīng)科學(xué)、控制科學(xué)等多領(lǐng)域的復(fù)合學(xué)科。它具備像人類一樣思考的潛力，能夠通過(guò)“圖靈測(cè)試”并在數(shù)據(jù)學(xué)習(xí)的基礎(chǔ)上通過(guò)自然語(yǔ)言系統(tǒng)進(jìn)行推理、規(guī)劃、決策、交流和行動(dòng)。從內(nèi)容上看，它不僅包含簡(jiǎn)單的計(jì)算機(jī)程序，還涵蓋當(dāng)下信息革命最新的成果，如互聯(lián)網(wǎng)、大數(shù)據(jù)以及人造神經(jīng)網(wǎng)絡(luò)、專家系統(tǒng)等。自2015 年《立法法》賦予所有設(shè)區(qū)的市地方立法權(quán)后，立法主體激增，各地掀起立法熱潮，出臺(tái)了諸多地方性法規(guī)。這些地方性法規(guī)在一定程度上促進(jìn)了地方依法、有效治理，但也暴露出立法矛盾、粗糙、重復(fù)、無(wú)特色等問(wèn)題。在依法治國(guó)和社會(huì)治理精細(xì)化要求推動(dòng)下，地方立法面臨沉重的工作量和人才儲(chǔ)備匱乏的窘境。將人工智能引入地方立法領(lǐng)域有利于從立法程序的各個(gè)環(huán)節(jié)緩解地方立法的壓力。

在立法資料檢索上，當(dāng)前地方立法面臨著嚴(yán)峻的信息壓力。對(duì)于接踵而至的新問(wèn)題和新事物，地方立法機(jī)構(gòu)囿于有限理性，很難及時(shí)掌握社會(huì)關(guān)系的最新動(dòng)態(tài)，作出正確的立法決策。當(dāng)前，大數(shù)據(jù)的采集和儲(chǔ)存處理技術(shù)能夠幫助地方立法機(jī)關(guān)快速搜尋多元化信息，并在預(yù)先設(shè)定好的算法邏輯下篩選和處理，保留有利用價(jià)值和潛在利用價(jià)值的立法數(shù)據(jù)，剔除無(wú)價(jià)值的立法數(shù)據(jù)。尤其針對(duì)當(dāng)前地方立法中征求民眾意見(jiàn)渠道單一不通暢、回應(yīng)機(jī)制不完善的情況，人工智能可以幫助地方立法機(jī)關(guān)充分利用互聯(lián)網(wǎng)平臺(tái)，通過(guò)爬蟲和數(shù)據(jù)API 技術(shù)，從互聯(lián)網(wǎng)上采集微博、抖音、微信等評(píng)論意見(jiàn)并自動(dòng)分類、排重和常識(shí)校對(duì)。[2]相較傳統(tǒng)的調(diào)研調(diào)查、聽證會(huì)、電子郵件、信件等途徑，這種方式更具有全面性和高效率的特點(diǎn)。

在立法項(xiàng)目論證上，地方立法存在部門利益法制化的嚴(yán)重弊端。地方立法機(jī)關(guān)可能兼具規(guī)則制定者和規(guī)則裁判者的雙重身份。借助大數(shù)據(jù)的處理和智能關(guān)聯(lián)分析技術(shù)和知識(shí)圖譜技術(shù)，地方立法者可以對(duì)立法項(xiàng)目進(jìn)行交叉對(duì)比以及定性、定量分析，為評(píng)估活動(dòng)提供科學(xué)參考，克服“部門利益法治化”的弊端；另外，目前人工智能已可以在分析評(píng)價(jià)標(biāo)準(zhǔn)、往屆獲獎(jiǎng)數(shù)據(jù)的基礎(chǔ)上高度準(zhǔn)確預(yù)知奧斯卡獲獎(jiǎng)電影，相信不久的將來(lái)，在人造神經(jīng)網(wǎng)絡(luò)系統(tǒng)的基礎(chǔ)上能夠研發(fā)一套智能決策支持系統(tǒng)，精準(zhǔn)預(yù)測(cè)地方立法項(xiàng)目的發(fā)展趨勢(shì)，輔助立法者做出正確決策。

在法律草案編纂上，當(dāng)前地方法律規(guī)范存在的立法抄襲、立法抵觸和文本結(jié)構(gòu)缺陷等情況。人工智能技術(shù)能夠全面搜索上位法規(guī)定、類似的地方立法、案例、社情民意等立法資料并進(jìn)行可視化分析，快速對(duì)法律草案的影響因子、依賴關(guān)系、可信度等進(jìn)行科學(xué)測(cè)定，預(yù)測(cè)法律出臺(tái)后可能產(chǎn)生的問(wèn)題并通過(guò)快速的反饋機(jī)制對(duì)法律草案進(jìn)行完善。

在法律備案上，未來(lái)的備案審查工作可以充分運(yùn)用語(yǔ)義理解、實(shí)體或關(guān)系識(shí)別技術(shù)、動(dòng)態(tài)增量更新技術(shù)，準(zhǔn)確辨別不同法律表述蘊(yùn)含的實(shí)質(zhì)意義，對(duì)地方法律規(guī)范進(jìn)行實(shí)時(shí)、動(dòng)態(tài)和追溯式的審查，提高備案審查的科學(xué)性和效率，維護(hù)法律尊嚴(yán)和國(guó)家法制的統(tǒng)一。[3]

在立法后評(píng)估上，借助人工智能強(qiáng)大的信息搜集、處理、關(guān)聯(lián)分析和可視化技術(shù)，立法后評(píng)估能夠克服傳統(tǒng)調(diào)研方式的弊端以及評(píng)價(jià)主體的主觀化和單一化傾向，保證評(píng)估結(jié)果的科學(xué)性和客觀性，最終呈現(xiàn)一份邏輯嚴(yán)密、數(shù)據(jù)豐富、案例典型的意見(jiàn)報(bào)告。

二、地方立法應(yīng)用人工智能的風(fēng)險(xiǎn)挑戰(zhàn)

人工智能可以給地方立法工作帶來(lái)高效率、高細(xì)度和高精度的技術(shù)紅利。但需要明確，當(dāng)前人工智能參與地方立法的程度尚淺，正面、積極的影響占據(jù)上風(fēng)，并不代表不存在負(fù)面影響。地方立法符合國(guó)家法規(guī)政策精神，也適應(yīng)地方立法工作的實(shí)際需求。伴隨著人工智能技術(shù)的發(fā)展，智能立法產(chǎn)品的應(yīng)用將會(huì)愈加深入，由此產(chǎn)生的風(fēng)險(xiǎn)也將更加凸現(xiàn)。根據(jù)烏爾里希·貝克的風(fēng)險(xiǎn)社會(huì)理論，科學(xué)的副作用雖具備日益增長(zhǎng)的不可計(jì)算性，但包含日益增加的可評(píng)估性。有關(guān)副作用的知識(shí)原則上是可具備的，也總是在場(chǎng)的（潛在的）。這些知識(shí)現(xiàn)已實(shí)現(xiàn)充分分化，可以輔助人們權(quán)衡關(guān)聯(lián)范圍和結(jié)果。人們會(huì)因?yàn)橹揽赡艿挠绊懚坏貌徊扇⌒袆?dòng)，從這個(gè)意義上說(shuō)，結(jié)果的不可計(jì)算性并不影響對(duì)結(jié)果產(chǎn)生過(guò)程的評(píng)估，也不影響在科學(xué)研究過(guò)程中采取規(guī)避風(fēng)險(xiǎn)的相關(guān)行動(dòng)。對(duì)于地方立法而言，應(yīng)用人工智能的風(fēng)險(xiǎn)雖不具備可計(jì)算性，但有關(guān)地方立法與人工智能的副作用的知識(shí)總是具備且可用的，這些知識(shí)可以輔助當(dāng)下合理評(píng)估風(fēng)險(xiǎn)，并采取措施主動(dòng)規(guī)避。地方立法應(yīng)用人工智能的風(fēng)險(xiǎn)具體表現(xiàn)為兩個(gè)方面：一是對(duì)地方立法本身的負(fù)面影響，二是對(duì)數(shù)據(jù)管理的挑戰(zhàn)。

（一）對(duì)地方立法的負(fù)面影響

根據(jù)《立法法》的規(guī)定，地方立法應(yīng)堅(jiān)持科學(xué)立法、民主立法和依法立法相統(tǒng)一。[4]人工智能雖能提高地方立法的效率和質(zhì)量，但也給地方立法的科學(xué)性、民主性和合法性造成一定的風(fēng)險(xiǎn)和挑戰(zhàn)。

1.依法立法問(wèn)題

依法立法包括依憲立法、依法定權(quán)限立法、依法定程序立法和貫徹黨的方針政策這四個(gè)方面。在人工智能輔助地方立法過(guò)程中，算法偏見(jiàn)的合法化可能導(dǎo)致地方立法對(duì)憲法規(guī)定的法律面前人人平等原則的違背，智能產(chǎn)品的不當(dāng)運(yùn)用可能導(dǎo)致對(duì)立法權(quán)限的突破和立法程序的違背。

第一，算法偏見(jiàn)問(wèn)題。算法和數(shù)據(jù)是人工智能兩大核心要素。如果我們將人工智能視為一道佳肴，數(shù)據(jù)就是食材，算法就是食譜。算法通過(guò)將問(wèn)題處理過(guò)程模式化，大大提高了計(jì)算機(jī)完成任務(wù)的效率。然而，算法是一種“偏見(jiàn)進(jìn)，偏見(jiàn)出”的決策機(jī)制。一方面，算法以數(shù)據(jù)為基礎(chǔ)，當(dāng)數(shù)據(jù)存在偏差時(shí)，就會(huì)不可避免地產(chǎn)生歧視。另一方面，算法是人的產(chǎn)物，必然蘊(yùn)含人的價(jià)值取向，如社會(huì)歧視或私人利益。就地方立法而言，從實(shí)施大數(shù)據(jù)戰(zhàn)略開始，立法領(lǐng)域便有公開立法意見(jiàn)、公開聽證等工作。但這里公開的并非原始數(shù)據(jù)，而是包含人的主觀判斷的信息，并不適合作為算法基礎(chǔ)進(jìn)行清洗和處理。[5]加上當(dāng)前各個(gè)地方法律數(shù)據(jù)庫(kù)建設(shè)仍在起步中，可供人工智能學(xué)習(xí)的數(shù)據(jù)并不全面。除此之外，系統(tǒng)設(shè)計(jì)者本身的主觀偏見(jiàn)和價(jià)值判斷也有可能融入到算法模型中去，且往往這種偏見(jiàn)是難以被發(fā)覺(jué)的。算法的運(yùn)作邏輯是經(jīng)驗(yàn)性的，如果數(shù)據(jù)和算法存在偏見(jiàn)，那么算法結(jié)果將會(huì)延續(xù)這種偏見(jiàn)，地方立法機(jī)關(guān)依照算法結(jié)果作出的立法選擇將會(huì)使該偏見(jiàn)予以合法化。這種情況下，地方立法很容易忽視少數(shù)群體或個(gè)人的利益，導(dǎo)致弱勢(shì)群體很難享受平等的法定權(quán)利，還沒(méi)有積累充分個(gè)人信息的社會(huì)主體將會(huì)被排除在更多商業(yè)服務(wù)以外。[6]

第二，立法程序的違背問(wèn)題。根據(jù)《立法法》的規(guī)定，立法應(yīng)當(dāng)依照法定的權(quán)限和程序。以地方政府規(guī)章為例，根據(jù)《規(guī)章程序制定條例》和《法規(guī)規(guī)章備案條例》的規(guī)定，地方政府規(guī)章的制定程序包括立項(xiàng)、起草、審查、決定、公布和解釋。具體而言，政府工作部門或下級(jí)人民政府負(fù)責(zé)報(bào)請(qǐng)立項(xiàng)，并就規(guī)章制定的必要性等情況作出說(shuō)明；政府法治機(jī)構(gòu)負(fù)責(zé)對(duì)項(xiàng)目建議進(jìn)行評(píng)估論證，并對(duì)規(guī)章送審稿進(jìn)行統(tǒng)一審查；政府一個(gè)或者數(shù)個(gè)工作部門負(fù)責(zé)具體起草工作；地方政府規(guī)章公布后，國(guó)務(wù)院部門以及省、自治區(qū)、直轄市和較大的市人民政府負(fù)責(zé)備案審查監(jiān)督管理職責(zé)。各個(gè)機(jī)關(guān)部門各司其職，相互配合，共同推進(jìn)規(guī)章的出臺(tái)。在信息壓力、技術(shù)外包、官商勾結(jié)等多重因素的影響下，有限理性的政府工作者極易滋生懶惰心理，不再費(fèi)盡心力研究如何“立好法”，而是不假思索地將智能化分析結(jié)果應(yīng)用到地方立法中，放縱其代替自己進(jìn)行“思考”并“立法”。智能立法產(chǎn)品是由程序員、軟件工程師、數(shù)據(jù)處理商和高新科技公司共同研發(fā)的智能產(chǎn)品，內(nèi)含主觀傾向性的算法設(shè)置，部分產(chǎn)品的運(yùn)作仍受到研發(fā)者的預(yù)測(cè)和控制，部分產(chǎn)品已脫離研發(fā)者掌控，自主形成具有不可預(yù)知性的算法結(jié)果。如果對(duì)人工智能的使用不加以控制，則大概率導(dǎo)致立法主體實(shí)質(zhì)上的雙重結(jié)構(gòu)——一為法定的國(guó)家機(jī)關(guān)，二為研發(fā)群體或具有不可歸責(zé)性的智能立法產(chǎn)品，甚至走向極端化——前者淪為附庸，算法支配立法。需要明確的是，目前對(duì)立法決策進(jìn)行智能化分析并非法定和必經(jīng)的程序。人工智能也不具備立法主體地位，而未來(lái)的實(shí)踐傾向卻將人工智能實(shí)質(zhì)上置于該地位，參與并主導(dǎo)地方立法的制定過(guò)程。地方立法主體只能是地方人大、政府及其部門或法律法規(guī)授權(quán)和委托的主體，對(duì)人工智能過(guò)度的期待和利用可能導(dǎo)致現(xiàn)代法治的制度設(shè)計(jì)分崩離析，引發(fā)社會(huì)矛盾、混亂甚至失控。

2.民主立法問(wèn)題

根據(jù)《立法法》第五條規(guī)定，立法應(yīng)當(dāng)體現(xiàn)人民的意志，發(fā)揚(yáng)社會(huì)主義民主，堅(jiān)持立法公開，保障人民通過(guò)多種途徑參與立法活動(dòng)。民主立法意味著立法公開，擴(kuò)大公眾有序參與，體現(xiàn)人民意志，確保利益各方機(jī)會(huì)均等、充分博弈。人工智能輔助地方立法可能導(dǎo)致公眾參與機(jī)制流于形式，消解立法的民主性。人工智能雖有利于廣泛搜集民眾的立法意見(jiàn)并給予反饋，但這僅是民主的一個(gè)方面。收集民意并不代表一定會(huì)采納民意。如果智能產(chǎn)品收集的社情民意與以科學(xué)技術(shù)得出的機(jī)器認(rèn)知出現(xiàn)偏差時(shí)應(yīng)當(dāng)如何處理？有人認(rèn)為，通過(guò)算法運(yùn)作所得的決策結(jié)果即是科學(xué)的，應(yīng)當(dāng)采用智能化決策結(jié)果。但科學(xué)就一定是正確的嗎？實(shí)則不然。第一，作為知識(shí)的科學(xué)需要不斷積累，存在隨時(shí)被證偽的可能。人工智能輔助地方立法需要把社會(huì)相關(guān)信息予以數(shù)據(jù)化。但錯(cuò)綜復(fù)雜、動(dòng)態(tài)變化的社會(huì)生活不可能被全盤數(shù)據(jù)化，而且一旦生活被數(shù)據(jù)化，其原本面目和價(jià)值都可能被扭曲。[7]第二，作為技術(shù)的科學(xué)在產(chǎn)生、使用過(guò)程中會(huì)受到創(chuàng)造者和使用者主觀目的、價(jià)值觀和社會(huì)結(jié)構(gòu)的影響。算法的生產(chǎn)會(huì)受到設(shè)計(jì)者本身的價(jià)值取向的影響，算法的使用會(huì)受到數(shù)據(jù)不全面的影響。因此，人工智能作為一項(xiàng)發(fā)展中的科學(xué)技術(shù)不足以輔助地方立法做出完全確定、中立的權(quán)威決策，也不能完全代替民主渠道反饋的意見(jiàn)。然而，地方立法工作很容易滑向?qū)θ斯ぶ悄艿拿つ砍绨?。一方面，人工智能擁有?qiáng)大的數(shù)據(jù)處理和智能分析系統(tǒng)，相比之下，民眾缺乏必要的專業(yè)知識(shí)和技能，很難表達(dá)利益需要，同地方立法機(jī)關(guān)開展辯論和協(xié)商；另一方面，出于對(duì)科學(xué)的盲目信任以及地方立法者的“懶惰心理”，人工智能的產(chǎn)出結(jié)果便可能會(huì)被不假思索地應(yīng)用到地方立法中。此時(shí)，公眾與“科學(xué)”相左的聲音便成為無(wú)足輕重的東西，民主參與和監(jiān)督機(jī)制流于形式。更有甚者，地方權(quán)力機(jī)關(guān)可以借此機(jī)會(huì)，披著“自動(dòng)化決策”和“算法黑箱”的外衣，聲稱“技術(shù)中立”，成為實(shí)質(zhì)上法律的獨(dú)裁者。如果在地方立法中處理不好科技與民主的關(guān)系，那么人工智能的引入就有導(dǎo)致民主消解的風(fēng)險(xiǎn)。

3.科學(xué)立法問(wèn)題

科學(xué)立法一方面指立法應(yīng)當(dāng)根據(jù)實(shí)際，適應(yīng)社會(huì)經(jīng)濟(jì)發(fā)展需要；另一方面指應(yīng)當(dāng)科學(xué)合理地規(guī)定國(guó)家機(jī)關(guān)的權(quán)力與責(zé)任，公民、法人和其他組織的權(quán)利與義務(wù)。地方立法應(yīng)用人工智能會(huì)產(chǎn)生技術(shù)不確定、需求不匹配和算法干預(yù)的問(wèn)題，影響地方立法的科學(xué)性。

一是技術(shù)不確定問(wèn)題。人工智能同任何新技術(shù)一樣，都具有不確定性，會(huì)給社會(huì)帶來(lái)未知的安全風(fēng)險(xiǎn)。這是因?yàn)槿祟悷o(wú)法預(yù)估全部可能發(fā)生的問(wèn)題，也無(wú)法絕對(duì)排除技術(shù)隨機(jī)生成穩(wěn)定性故障的可能性。以自動(dòng)駕駛汽車為例，在人工智能自主判斷路況信息時(shí)，可能出現(xiàn)誤判或失靈，從而導(dǎo)致安全事故。這些事故有的可以通過(guò)技術(shù)溯源進(jìn)行解釋，有的卻是無(wú)法解釋的現(xiàn)象。就地方立法而言，一方面，法律是利益協(xié)調(diào)的產(chǎn)物，會(huì)牽涉眼前與長(zhǎng)遠(yuǎn)、經(jīng)濟(jì)與社會(huì)、部門與公共利益之間當(dāng)然的動(dòng)態(tài)平衡。處理其間的價(jià)值判斷不僅要以對(duì)數(shù)據(jù)的經(jīng)驗(yàn)性分析為基礎(chǔ)，更“以人們對(duì)法律涉及事物的先前認(rèn)識(shí)為唯一的、絕對(duì)的依據(jù)”。這種先前認(rèn)識(shí)是指人們出于倫理、情感等人文因素調(diào)整某一事態(tài)的歷史進(jìn)路，而不是這一事態(tài)由自然因素所決定的情勢(shì)。[8]地方立法應(yīng)用人工智能不可避免地涉及不同利益的協(xié)調(diào)平衡。然而，當(dāng)前的人工智能最擅長(zhǎng)的是經(jīng)驗(yàn)性分析，在處理人類的感情和倫理上尚不成熟，從而很難去理解和解釋數(shù)據(jù)背后的立法關(guān)系，以符合人類價(jià)值觀的方式探索法律所調(diào)整事態(tài)的客觀規(guī)律。這就有可能會(huì)導(dǎo)致依靠智能產(chǎn)品制作出來(lái)的法律隱含道德風(fēng)險(xiǎn)，不被公眾所接納。另一方面，智能立法產(chǎn)品必須要邁過(guò)一個(gè)鴻溝——法理學(xué)原則的有效運(yùn)用。人工智能輔助地方立法需要具備基礎(chǔ)的法律推理、論證和解釋能力以及及時(shí)學(xué)習(xí)事態(tài)變化，如規(guī)則沖突、法律知識(shí)基礎(chǔ)的變化、法律概念的變化的能力，[9]這些都需要基于法律語(yǔ)言才能開展。但法律語(yǔ)言本身具有模糊性和多元性，一個(gè)法律概念或法律問(wèn)題在法律職業(yè)共同體內(nèi)就可能有多種解釋或看法。人工智能即使再高級(jí)，也只能作單向的精準(zhǔn)推理。如果處理不好，其功能就會(huì)大大折扣，甚至成為“人工智障”，反而拖累立法進(jìn)度。

二是需求不匹配和企業(yè)干預(yù)問(wèn)題。[10]目前法律職業(yè)群體普遍缺乏基礎(chǔ)的自然科學(xué)素養(yǎng)，立法領(lǐng)域的大數(shù)據(jù)、算法等智能技術(shù)人才更為稀缺。在此情形下，技術(shù)外包是地方立法應(yīng)用人工智能的唯一途徑。這就導(dǎo)致了諸多問(wèn)題。一方面，立法和智能系統(tǒng)開發(fā)都屬于專業(yè)性活動(dòng)，技術(shù)人員需要了解該產(chǎn)品服務(wù)的立法環(huán)節(jié)在整個(gè)立法程序中的位置和作用、與其他立法環(huán)節(jié)的關(guān)系以及立法的整體運(yùn)作。地方立法者需要具備將立法需求進(jìn)行信息化描述的能力。如果二者之間的溝通出現(xiàn)毫厘差池，最終的成品就可能謬之千里。另一方面，研發(fā)機(jī)構(gòu)可能通過(guò)這種技術(shù)外包的形式不當(dāng)介入地方立法。諸如阿里巴巴、京東等公司通過(guò)線上購(gòu)物等形式積累了海量的數(shù)據(jù)信息資源，甚至有時(shí)候政府也要求助于他們，如浙江高院就大數(shù)據(jù)、云計(jì)算等產(chǎn)業(yè)與阿里巴巴開展合作，建設(shè)“智慧法院”。阿里巴巴等企業(yè)完全有足夠的動(dòng)機(jī)篡改測(cè)評(píng)數(shù)據(jù)和算法法則，通過(guò)隱蔽手段獲取更大利益。更甚者，技術(shù)外包容易造成政商勾結(jié)，滋生腐敗。在此情況下，地方立法有可能使企業(yè)私益合法化，科學(xué)合理分配公民、法人和其他組織的權(quán)利與義務(wù)便淪為空談。

（二）對(duì)數(shù)據(jù)管理的挑戰(zhàn)

在數(shù)據(jù)管理方面，人工智能輔助地方立法面臨著“法律的高需求和法律的零供給”[11]的突出矛盾。

1.法律的高需求

一方面，數(shù)據(jù)是人工智能時(shí)代的食材。隨著法律科技的發(fā)展，人工智能輔助地方立法環(huán)節(jié)將會(huì)進(jìn)一步擴(kuò)展，對(duì)數(shù)據(jù)這種食材的需求量就會(huì)越來(lái)越大。在這個(gè)過(guò)程中會(huì)產(chǎn)生兩個(gè)問(wèn)題：其一，數(shù)據(jù)之于企業(yè)的影響。人工智能的研發(fā)多依靠企業(yè)完成，然而其賴以存在的數(shù)據(jù)資源是在政府提供的基礎(chǔ)設(shè)施之上，且很多涉及法律保護(hù)的隱私內(nèi)容。合理的政商關(guān)系的基礎(chǔ)應(yīng)當(dāng)為公權(quán)力和資本劃上明晰的界限，政府和企業(yè)在各自領(lǐng)域擁有明確的職權(quán)。人工智能輔助地方立法過(guò)程中將使該界限模糊化，產(chǎn)生該如何界定、企業(yè)對(duì)數(shù)據(jù)的使用權(quán)等問(wèn)題。如果處理不當(dāng)就容易導(dǎo)致兩個(gè)極端：一是企業(yè)對(duì)數(shù)據(jù)的過(guò)度支配造成數(shù)據(jù)濫用甚至企業(yè)壟斷，危害公共利益；二是企業(yè)對(duì)數(shù)據(jù)的使用權(quán)處處受限，經(jīng)濟(jì)被政治不當(dāng)操控，智能立法技術(shù)研發(fā)進(jìn)程緩慢。[12]其二，數(shù)據(jù)之于公民的影響，這是數(shù)據(jù)管理領(lǐng)域最核心的問(wèn)題。普通公民作為數(shù)據(jù)的生產(chǎn)者和使用者，雖然參與“大數(shù)據(jù)的基本循環(huán)”，卻無(wú)法把握或影響所使用的信息技術(shù)基礎(chǔ)設(shè)施，從而處于“所有數(shù)據(jù)都由公民自身產(chǎn)生，但所有權(quán)卻并不屬于我們”的尷尬境地。[13]而在地方立法智能化過(guò)程中，地方立法者以及人工智能研發(fā)機(jī)構(gòu)不可避免地需要搜集、整理和利用來(lái)自各方面的數(shù)據(jù)，不僅僅包括已經(jīng)公開了的法規(guī)文本、司法裁判文書等，還包括非公開的軟件后臺(tái)運(yùn)行數(shù)據(jù)。這些數(shù)據(jù)中可能包含公民的個(gè)人信息和隱私。目前存在某些地方立法機(jī)關(guān)利用大數(shù)據(jù)技術(shù)對(duì)目標(biāo)群體的數(shù)據(jù)進(jìn)行挖掘分析，依據(jù)畫像模型所體現(xiàn)出來(lái)的信息決定是否采納該群體的意見(jiàn)。[14]這明顯超出了個(gè)人信息的使用范圍。如何合理使用數(shù)據(jù)以防止對(duì)公民信息和隱私權(quán)的侵害是地方立法應(yīng)用人工智能亟待解決的重大難點(diǎn)。

2.法律的零供給

我國(guó)關(guān)于數(shù)據(jù)和數(shù)據(jù)權(quán)利的立法尚不完備。新出臺(tái)的《數(shù)據(jù)安全法》奠定了我國(guó)數(shù)據(jù)管理的基礎(chǔ)，提出要“促進(jìn)以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)發(fā)展”，明確了數(shù)據(jù)權(quán)的保護(hù)范圍，并規(guī)定了行業(yè)數(shù)據(jù)監(jiān)管機(jī)制、國(guó)家數(shù)據(jù)分類分級(jí)保護(hù)制度、國(guó)家數(shù)據(jù)安全審查制度、國(guó)家數(shù)據(jù)安全應(yīng)急處置機(jī)制、以及數(shù)據(jù)處理者的合規(guī)義務(wù)等。但該法是針對(duì)數(shù)據(jù)管理領(lǐng)域的宏觀規(guī)定，具體規(guī)則有待進(jìn)一步細(xì)化，尤其是對(duì)信息脫敏和加工的具體要求。數(shù)據(jù)和信息是密不可分的兩個(gè)概念。數(shù)據(jù)是信息在網(wǎng)絡(luò)世界的表達(dá)工具，信息的內(nèi)容主要通過(guò)二進(jìn)制的方式加以儲(chǔ)存和應(yīng)用。盡管受法律調(diào)整的數(shù)據(jù)是對(duì)個(gè)人信息進(jìn)行加工處理和脫敏以后的衍生信息，并不與信息主體直接關(guān)聯(lián)，但數(shù)據(jù)本質(zhì)上仍是信息的綜合，并非絕對(duì)不能與信息關(guān)聯(lián)，[15]因而法律對(duì)此應(yīng)作細(xì)化規(guī)定。

三、地方立法應(yīng)用人工智能的規(guī)制路徑

科技發(fā)展的最終目的是為了實(shí)踐應(yīng)用，否則便失去了存在的意義。以往科技法治的經(jīng)驗(yàn)證明，科技只有被有效轉(zhuǎn)化，賦能經(jīng)濟(jì)社會(huì)的迅速發(fā)展，才能實(shí)現(xiàn)造福人類社會(huì)的價(jià)值。對(duì)于擁有極大發(fā)展前景的人工智能+地方立法，我們不能因其存在可能的負(fù)面影響就因噎廢食，而應(yīng)以積極、樂(lè)觀的心態(tài)主動(dòng)接納，并采取相應(yīng)的應(yīng)對(duì)策略，實(shí)現(xiàn)節(jié)制的利用。

（一）以適度應(yīng)用為前提，確保地方立法的合法性

針對(duì)人工智能的應(yīng)用對(duì)地方立法程序的違背，人工智能輔助地方立法應(yīng)當(dāng)嚴(yán)格遵循上位法關(guān)于立法程序的規(guī)定，避免對(duì)智能立法產(chǎn)品的過(guò)度應(yīng)用，具體而言：

第一，可以制定統(tǒng)一的智能立法產(chǎn)品應(yīng)用標(biāo)準(zhǔn)。一為啟動(dòng)標(biāo)準(zhǔn)。地方立法應(yīng)用人工智能不能設(shè)置強(qiáng)制性標(biāo)準(zhǔn)，而要根據(jù)地方立法工作的實(shí)際需要視情況而定；二為參考標(biāo)準(zhǔn)。明確規(guī)定智能化分析結(jié)果只能作為重要參考，而非唯一依據(jù)，立法的制定、備案審查和監(jiān)督仍由法定的國(guó)家機(jī)關(guān)在廣泛聽取民意和專家意見(jiàn)的基礎(chǔ)上決定；三為說(shuō)明標(biāo)準(zhǔn)，凡在地方立法的重要環(huán)節(jié)中采納了人工智能的分析結(jié)果，都需對(duì)采納結(jié)果的科學(xué)性、客觀性和必要性進(jìn)行理由說(shuō)明，制作陳述報(bào)告，并將不同于智能分析結(jié)果的意見(jiàn)和建議予以記錄備案；四為責(zé)任標(biāo)準(zhǔn)。根據(jù)最新出臺(tái)的《關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)條例》，建立相關(guān)部門和運(yùn)營(yíng)者的安全保護(hù)和監(jiān)督管理責(zé)任。

第二，可以建立明確的智能立法產(chǎn)品選用標(biāo)準(zhǔn)。技術(shù)外包情形下可能造成政商勾結(jié)，導(dǎo)致政府選用不合格產(chǎn)品并肆意濫用謀取私益。對(duì)此，國(guó)家可以確立以下標(biāo)準(zhǔn)：一為統(tǒng)一化的安全標(biāo)準(zhǔn)。根據(jù)《信息安全技術(shù)關(guān)鍵信息基礎(chǔ)設(shè)施安全保障指標(biāo)體系》（征求意見(jiàn)稿）確立的三級(jí)安全保障指標(biāo)，建立智能立法產(chǎn)品的安全保障體系：（1）建設(shè)情況指標(biāo)，主要評(píng)價(jià)該產(chǎn)品的安全保障措施的建設(shè)情況，具體包括地方立法主體對(duì)該產(chǎn)品安全保障的相關(guān)規(guī)章制度建設(shè)情況、人才隊(duì)伍、資金投入保障等；（2）運(yùn)行能力指標(biāo)，主要評(píng)價(jià)該產(chǎn)品的安全保障措施體系的運(yùn)行能力，具體包括安全防護(hù)、隱患發(fā)現(xiàn)、應(yīng)急處置和攻擊對(duì)抗能力等；（3）安全態(tài)勢(shì)指標(biāo)，主要評(píng)價(jià)該產(chǎn)品安全保障體系的態(tài)勢(shì)情況，具體包括各種潛在的威脅、隱患和安全事件情況。二為差異化的性能標(biāo)準(zhǔn)。各地區(qū)經(jīng)濟(jì)、文化發(fā)展水平不一致，在選用智能立法產(chǎn)品時(shí)，各地方要充分考慮本地區(qū)信息基礎(chǔ)設(shè)施建設(shè)水平、信息的數(shù)據(jù)化程度、地方立法水平和實(shí)際立法需求，選擇與當(dāng)前最適配的產(chǎn)品，避免人工智能的不當(dāng)應(yīng)用造成資源浪費(fèi)。

（二）以智能輔助為核心，確保地方立法的民主性

針對(duì)智能化應(yīng)用可能帶來(lái)民主消解的危險(xiǎn)，需要堅(jiān)持人工智能在地方立法工作中的輔助地位。首先，就工作理念而言，要樹立以人類為中心的立法合作理念?！耙匀祟悶橹行摹本褪且笕耸冀K處于立法工作的主導(dǎo)和核心地位，強(qiáng)調(diào)人的價(jià)值，理性對(duì)待新技術(shù)，看清其有限屬性和工具屬性；同時(shí)要樹立“合作觀”，機(jī)器學(xué)習(xí)在某些方面是人類判斷的進(jìn)化，將人工智能同地方立法工作有機(jī)結(jié)合，能夠彌補(bǔ)人類智慧的短板，更好造福社會(huì)。其次，就輔助限度而言，要堅(jiān)持“有限智能化”?！坝邢拗悄芑边@一觀點(diǎn)源于司法領(lǐng)域“智慧法院”建設(shè)。隨著司法智能化的不斷進(jìn)步，人們開始思考在司法過(guò)程中是否能夠只要效率而犧牲公平正義等法的價(jià)值，答案當(dāng)然是否定的。[16]對(duì)于地方立法工作而言，也要堅(jiān)持“有限智能化”。當(dāng)前人工智能尚不能成熟處理關(guān)涉人類情感、倫理的價(jià)值判斷，因而對(duì)于此類問(wèn)題的決策，立法機(jī)關(guān)要采取保守態(tài)度，由經(jīng)驗(yàn)豐富的法律專家、立法工作者結(jié)合公眾意見(jiàn)作出決定。最后，就衡量標(biāo)準(zhǔn)而言，要堅(jiān)持民主為主、科技為輔的衡量標(biāo)準(zhǔn)。[17]人工智能輔助地方立法過(guò)程中可能存在以科技獲取的信息取代通過(guò)民主渠道獲得的信息的現(xiàn)象。大數(shù)據(jù)、人工智能應(yīng)用的反民主傾向，只有通過(guò)民主的方式才能遏制和破解，要確立民主原則高于科學(xué)技術(shù)的價(jià)值位階。具體而言，當(dāng)通過(guò)智能技術(shù)分析的結(jié)果同民主的認(rèn)知相沖突時(shí)，要在充分保障公眾或者公眾的代表知曉該領(lǐng)域的實(shí)質(zhì)知識(shí)的基礎(chǔ)之上，通過(guò)民主機(jī)制作出決斷。當(dāng)有充分明確的證據(jù)證明民主決策是錯(cuò)誤的情況下，也只能通過(guò)民主議事規(guī)則說(shuō)服公眾及其代表，嚴(yán)禁通過(guò)壓迫手段強(qiáng)制改變民主決策的結(jié)果。

（三）以倫理算法為保障，確保地方立法的科學(xué)性

算法作為人工智能的“食譜”，控制著數(shù)據(jù)輸入后結(jié)果的產(chǎn)出水平。影響地方立法科學(xué)性的算法干預(yù)、技術(shù)的不確定性問(wèn)題乃至算法偏見(jiàn)問(wèn)題都與算法相關(guān)。想要合理規(guī)避由此造成的負(fù)面后果，就需要從算法著手，為算法構(gòu)建倫理框架。

設(shè)計(jì)一套“倫理算法”具有現(xiàn)實(shí)必要性：算法在運(yùn)作過(guò)程中并非將人當(dāng)作“主體”對(duì)待，而是將其數(shù)據(jù)化和客體化，視為可計(jì)算、可預(yù)測(cè)的電子痕跡的匯總。德沃金認(rèn)為在人享有的所有權(quán)利中，關(guān)懷和尊重的平等權(quán)利是最重要的。[18]這項(xiàng)權(quán)利是最容易被忽視或者侵害的。另外，道德、倫理同法律一樣，都是社會(huì)規(guī)范體系中最基礎(chǔ)的調(diào)整手段。法律具有滯后性，在法律規(guī)范缺位時(shí)，往往需要倫理道德發(fā)揮先導(dǎo)作用，規(guī)制和約束新型的社會(huì)關(guān)系。技術(shù)比較發(fā)達(dá)的美國(guó)、德國(guó)、歐盟、日本對(duì)人工智能的規(guī)制研究多是從倫理規(guī)范出發(fā)。例如，德國(guó)的倫理委員會(huì)便遵循這個(gè)思路提出了一項(xiàng)人工智能報(bào)告。該報(bào)告里面列舉了以人的生命安全為核心的20 條倫理意見(jiàn)，并要求算法設(shè)計(jì)者遵守這些倫理規(guī)則。[19]

算法的倫理設(shè)計(jì)應(yīng)當(dāng)遵循兩個(gè)進(jìn)路[20]：在外部進(jìn)路上，設(shè)計(jì)主體應(yīng)具備道德責(zé)任感，積極進(jìn)行道德想象力的構(gòu)建。道德想象力是指在既定情景中想象某種行為或結(jié)果所產(chǎn)生的利害關(guān)系以及采取多種行動(dòng)的可能性。算法設(shè)計(jì)者通過(guò)道德想象力的練習(xí)，能夠理解和積累有關(guān)道德責(zé)任的經(jīng)驗(yàn)，從而提升做出道德決策的能力。在內(nèi)部進(jìn)路上，需對(duì)算法進(jìn)行價(jià)值敏感設(shè)計(jì)，即將人類的倫理價(jià)值和行為方式通過(guò)技術(shù)轉(zhuǎn)化嵌入算法中，這分為三個(gè)階段：第一個(gè)階段為概念研究階段，即對(duì)算法設(shè)計(jì)可能涉及的價(jià)值如安全、公正等進(jìn)行深入了解；第二個(gè)階段為經(jīng)驗(yàn)研究階段，即通過(guò)訪談、實(shí)驗(yàn)等方法對(duì)算法設(shè)計(jì)進(jìn)行價(jià)值評(píng)估，為概念研究階段的倫理道德嵌入提供數(shù)據(jù)支持。第三個(gè)階段為技術(shù)研究階段，即對(duì)價(jià)值嵌入進(jìn)行技術(shù)設(shè)計(jì)和性能分析。這三個(gè)階段屬于相互支持、相互影響的連貫過(guò)程。

（四）以協(xié)同治理為框架，實(shí)現(xiàn)安全與發(fā)展價(jià)值的平衡

對(duì)人工智能輔助地方立法的規(guī)則容易走向兩種極端：一種是僅顧眼前的發(fā)展利益，忽視對(duì)風(fēng)險(xiǎn)的規(guī)制，另一種是為了避免可能的風(fēng)險(xiǎn)而對(duì)其加以嚴(yán)格管控，限制人工智能行業(yè)發(fā)展活力。就各國(guó)在人工智能治理方面的政策和態(tài)度而言，美國(guó)和日本更傾向推動(dòng)技術(shù)創(chuàng)新，采取“無(wú)須批準(zhǔn)式”的治理模式，即除非有充足的案例證明某一類人工智能的危害性，則該人工智能都為被默認(rèn)為允許；英法更關(guān)注以個(gè)體數(shù)據(jù)為基礎(chǔ)的機(jī)器學(xué)習(xí)對(duì)公民隱私和自由造成的危害，制定政策更傾向于“審慎監(jiān)管”，也即只有在被證明沒(méi)有危險(xiǎn)的條件下，某一項(xiàng)新技術(shù)或商業(yè)模式才能夠被使用。[21]“無(wú)須批準(zhǔn)式”和“審慎監(jiān)管”模式都存在很大弊端：前者預(yù)設(shè)的前提是事后監(jiān)管的有效性，當(dāng)事后監(jiān)管失效時(shí)，公共政策便無(wú)法解決業(yè)已造成的危害后果。后者存在天然的邏輯漏洞和實(shí)踐上的不可操作性，在人造神經(jīng)系統(tǒng)支持下，算法結(jié)果往往具有不可預(yù)測(cè)性，其危險(xiǎn)系數(shù)更是很難證立，因而該治理模式將會(huì)極大限制人工智能行業(yè)的成長(zhǎng)。

當(dāng)前國(guó)內(nèi)學(xué)界對(duì)人工智能的治理有以下幾種理論模式：一是傳統(tǒng)的命令控制型。這種模式以政府為主導(dǎo)，行政機(jī)關(guān)單方面主動(dòng)做出約談警告、罰款、責(zé)令停產(chǎn)停業(yè)等行政行為。二是元規(guī)制模式。它包括兩個(gè)維度：一方面，規(guī)制主體劃定一個(gè)基礎(chǔ)目標(biāo)和底線，具體規(guī)制的內(nèi)容和方式由被規(guī)制者自行制定。另一方面，規(guī)制主體應(yīng)把更多精力放在提升學(xué)習(xí)能力上，避免在人工智能領(lǐng)域成為“外行”。當(dāng)行業(yè)自治發(fā)生偏差且自治規(guī)則無(wú)法調(diào)節(jié)時(shí)，再采取必要手段維護(hù)公共秩序。[22]三是協(xié)同治理模式。它主張治理主體的多元化，提倡在利益依賴的基礎(chǔ)上共同參與規(guī)則制定，實(shí)現(xiàn)資源共享、互利互惠、責(zé)任共擔(dān)、深度交互的目標(biāo)。也即在規(guī)范人工智能地方立法程序的研發(fā)過(guò)程中，規(guī)制主體與研發(fā)機(jī)構(gòu)應(yīng)當(dāng)在算法規(guī)制、數(shù)據(jù)的使用和管理、研發(fā)成果的應(yīng)用等方面充分協(xié)商，綜合法律意見(jiàn)和專業(yè)意見(jiàn)形成治理規(guī)則。在這套規(guī)則下，研發(fā)機(jī)構(gòu)可以自由發(fā)展，違反規(guī)則要承擔(dān)相應(yīng)責(zé)任。[23]

對(duì)于該領(lǐng)域的治理不能過(guò)松或過(guò)緊，應(yīng)從地方立法活動(dòng)的規(guī)律和特性出發(fā)，既要注重平衡二者之間的內(nèi)在關(guān)系，避免因人工智能的應(yīng)用損害地方立法的合法性、民主性和科學(xué)性以及其他法律功能的有效發(fā)揮，又要避免固步自封，擠壓人工智能的正常發(fā)展空間，影響法律科技對(duì)法治建設(shè)的支撐和幫助。對(duì)人工智能的治理需要兼顧安全價(jià)值和發(fā)展價(jià)值，在對(duì)社會(huì)收益和風(fēng)險(xiǎn)成本進(jìn)行分析的基礎(chǔ)上，尋求合理對(duì)策，并可以為了保障技術(shù)進(jìn)步適度擴(kuò)容風(fēng)險(xiǎn)。

命令控制式下，由于人工智能具有高度專業(yè)性和發(fā)展不確定性，傳統(tǒng)的科層制治理結(jié)構(gòu)難以及時(shí)對(duì)不斷變化的社會(huì)關(guān)系作出回應(yīng)，且在管理過(guò)程中還存在無(wú)法跨越的技術(shù)壁壘，很容易導(dǎo)致干預(yù)不當(dāng)，造成行政權(quán)不正當(dāng)擴(kuò)張。元規(guī)制模式與美日的“無(wú)須批準(zhǔn)式”并無(wú)二致。元規(guī)制模式下，規(guī)制主體只能制定抽象的底線和目標(biāo)，且只有行業(yè)自我規(guī)制出現(xiàn)問(wèn)題時(shí)，規(guī)制主體才會(huì)出面解決問(wèn)題，這就賦予了人工智能行業(yè)內(nèi)部自治的優(yōu)先權(quán)。人工智能行業(yè)不同于傳統(tǒng)行業(yè)，如果放任行業(yè)自治，等到自我規(guī)制失靈時(shí)再介入干預(yù)，很可能已經(jīng)造成無(wú)法挽回的嚴(yán)重后果。在法的價(jià)值位階中，安全和秩序價(jià)值高于其他價(jià)值，元規(guī)制模式實(shí)質(zhì)上顛倒了法的價(jià)值位階。相較元規(guī)制模式，協(xié)同治理模式有以下優(yōu)勢(shì)：一方面，它不像審慎監(jiān)管和命令控制式責(zé)令單方證明有無(wú)危險(xiǎn)或做出單方行政行為，而是通過(guò)溝通的方式保留人工智能行業(yè)的話語(yǔ)權(quán)，又通過(guò)合力制定規(guī)則將可預(yù)見(jiàn)的風(fēng)險(xiǎn)消滅在源頭。另一方面，規(guī)制主體通過(guò)與研發(fā)機(jī)構(gòu)協(xié)商溝通，有利于在算法規(guī)制、數(shù)據(jù)管理等方面培養(yǎng)一批人工智能+法律復(fù)合型人才，更精準(zhǔn)掌握該行業(yè)的基礎(chǔ)信息和實(shí)際發(fā)展需要，為以后更好管理該行業(yè)奠定基礎(chǔ)。