算法嵌入公共信用評價：內(nèi)在邏輯、風(fēng)險檢視與規(guī)制路徑

張 濤

（清華大學(xué)法學(xué)院，北京 100084）

一、引 言

在推進(jìn)國家治理體系和治理能力現(xiàn)代化的背景下，“以信用為基礎(chǔ)的新型監(jiān)管機(jī)制”逐漸成為提高政府監(jiān)管水平和監(jiān)管能力的重要路徑，而公共信用評價則是信用監(jiān)管得以有效運(yùn)行的前提條件。信用評價也被稱為“信用評分”或“信用評級”，而公共信用評價則是指行政機(jī)關(guān)、法律法規(guī)授權(quán)的具有管理公共事務(wù)職能的組織根據(jù)信用主體的信用信息，運(yùn)用統(tǒng)計和其他方法，建立信用評價模型，對信用主體在社會和經(jīng)濟(jì)活動中遵守法定義務(wù)、履行約定義務(wù)的狀態(tài)進(jìn)行評估，并以分?jǐn)?shù)或者等級的形式表現(xiàn)出來的活動。按照信用主體的不同類型，公共信用評價可以大致分為個人信用評價、企業(yè)信用評價、政府信用評價等。本文主要以個人信用評價作為研究對象，輻射其他公共信用評價的法律規(guī)制。

隨著大數(shù)據(jù)時代的來臨，“所有數(shù)據(jù)均是信用數(shù)據(jù)”的理念促使傳統(tǒng)信用評價模式發(fā)生了根本性變革，大數(shù)據(jù)、算法等先進(jìn)技術(shù)開始廣泛運(yùn)用于公共信用評價之中[1]。相比于傳統(tǒng)的信用評價模式，基于算法的信用評價具有豐富信用數(shù)據(jù)來源、提升信用評價效率、降低信用評價成本等優(yōu)勢[2]。然而研究表明，這種新型的信用評價模式也存在評價過程不透明、評價結(jié)果不準(zhǔn)確等問題[3]，甚至可能產(chǎn)生歧視性影響并侵害隱私，對公平、正義等基本價值構(gòu)成挑戰(zhàn)[4]。習(xí)近平總書記強(qiáng)調(diào)，要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險研判和防范，確保人工智能安全、可靠、可控[5]。因此，探討算法嵌入公共信用評價的風(fēng)險及其規(guī)制，對于促進(jìn)我國社會信用體系建設(shè)的法治化發(fā)展、提升政府監(jiān)管的公信力、推動新時代法治政府的建設(shè)具有重要的現(xiàn)實意義。

當(dāng)前，學(xué)術(shù)界對于算法嵌入公共信用評價的研究主要聚焦于兩個方面：一方面，從法學(xué)的角度對特定領(lǐng)域或者特定主體的信用評價問題進(jìn)行研究；另一方面，從技術(shù)的角度對算法在公共信用評價中的應(yīng)用實踐進(jìn)行探討。有鑒于此，本文以算法嵌入公共信用評價為研究對象，以行政法基本理論為指引，首先對算法嵌入公共信用評價的內(nèi)在邏輯進(jìn)行闡述；然后從技術(shù)、法律和倫理3個方面對算法嵌入公共信用評價的風(fēng)險進(jìn)行檢視；在此基礎(chǔ)上，采用“基于過程的方法”，從事前、事中和事后3個階段分別提出對算法嵌入公共信用評價的規(guī)制措施。

二、算法嵌入公共信用評價的內(nèi)在邏輯

“數(shù)據(jù)+算法”的智能融合為算法嵌入公共信用評價提供了可能，而政府為了提升其治理能力和治理水平需要吸納先進(jìn)的技術(shù)，這又有助于因應(yīng)社會信用失范問題，進(jìn)而滿足人民的美好生活需要和經(jīng)濟(jì)社會的繁榮發(fā)展要求。因此，技術(shù)吸納、政府治理和社會發(fā)展實質(zhì)上是一種三維互動關(guān)系，這構(gòu)成了算法嵌入公共信用評價的內(nèi)在邏輯。

（一）技術(shù)邏輯：“數(shù)據(jù)+算法”的智能融合

算法嵌入公共信用評價的實質(zhì)是政府部門將海量信用數(shù)據(jù)和先進(jìn)算法技術(shù)進(jìn)行智能融合，以此來提升信用評價的效率和質(zhì)量。從人工智能的發(fā)展現(xiàn)狀看，數(shù)據(jù)、算法和算力是人工智能發(fā)展的三要素。其中，數(shù)據(jù)的爆炸式增長提供了“肥沃”的土壤；算法能夠按照設(shè)定程序運(yùn)行獲得理想結(jié)果[6]，其迭代推動了人工智能的應(yīng)用；算力的提升則成為促進(jìn)人工智能整體發(fā)展的催化劑和推動力。在基于算法的公共信用評價中，數(shù)據(jù)和算法缺一不可。

其一，在大數(shù)據(jù)技術(shù)的幫助下，信用數(shù)據(jù)的來源更加多元，既包括公共記錄中的數(shù)據(jù)（如行政處罰、行政強(qiáng)制、法院判決等文書中的數(shù)據(jù)），也包括個人的在線行為數(shù)據(jù)（如網(wǎng)絡(luò)瀏覽、平臺社交、在線消費等記錄）；信用數(shù)據(jù)的類型更加豐富，既包括結(jié)構(gòu)化數(shù)據(jù)（如公民身份證信息數(shù)據(jù)庫、道路交通管理信息數(shù)據(jù)庫、行政審批數(shù)據(jù)庫等），也包括非結(jié)構(gòu)化數(shù)據(jù)（如圖片、音頻、視頻等）。政府部門借助云存儲和大數(shù)據(jù)分析可以將收集的海量信用數(shù)據(jù)通過高性能計算技術(shù)量化為“信用信息數(shù)據(jù)庫”。

其二，不同類型的算法可以分析和識別海量信用數(shù)據(jù)中的關(guān)系和模式，并且可以對未來的信用風(fēng)險進(jìn)行預(yù)測，為組織或者個人的行為決策提供參考。傳統(tǒng)的信用評價模式主要依賴于線性統(tǒng)計方法和有限的固定變量來計算信用主體的信用分?jǐn)?shù)。算法通過以下兩種方式對傳統(tǒng)信用評價模式進(jìn)行了變革：一是利用大量且種類繁多的數(shù)據(jù)進(jìn)行公共信用評價；二是使用更復(fù)雜的機(jī)器學(xué)習(xí)技術(shù)來分析這些數(shù)據(jù)。機(jī)器學(xué)習(xí)技術(shù)可以解析大型、非結(jié)構(gòu)化、高維的數(shù)據(jù)集，以找到與信用主體信用度相關(guān)的特征和模式。更為重要的是，機(jī)器學(xué)習(xí)技術(shù)可以更為準(zhǔn)確地捕捉數(shù)據(jù)中的非線性關(guān)系，反映人口和環(huán)境的變化，以便更準(zhǔn)確地評估信用主體的信用度。因此，從技術(shù)吸納的角度看，“數(shù)據(jù)+算法”的智能融合應(yīng)當(dāng)是算法嵌入公共信用評價的技術(shù)邏輯。

（二）實踐邏輯：推動政府治理現(xiàn)代化

認(rèn)證能力是政府治理能力的基礎(chǔ)，是建設(shè)稅收國家、監(jiān)管國家、福利國家的前提條件。在傳統(tǒng)的國家治理中，戶籍制度、檔案制度、單位制度等共同構(gòu)成了國家的認(rèn)證體系，這對于解決廣闊疆域中的治理難題意義重大。隨著社會經(jīng)濟(jì)改革的不斷深入，城鄉(xiāng)一體化的不斷推進(jìn)，戶籍制度、單位制度逐漸松動，人們的身份不斷多元化，由“單位人”變?yōu)椤吧鐣恕?，社會流動性加?qiáng)，社會結(jié)構(gòu)進(jìn)一步分化[7]。在此背景下，“如果不確認(rèn)、識別和掌握國土上人口、財產(chǎn)、產(chǎn)品、行為和事務(wù)的基本事實、流動方向、真假優(yōu)劣和利弊得失，就無法恰當(dāng)行動，無法實現(xiàn)目標(biāo)”[8]。作為一種系統(tǒng)性與技術(shù)性的聲譽(yù)機(jī)制，公共信用評價對組織或者個人遵守法律規(guī)定、履行合同約定的狀態(tài)進(jìn)行綜合評價，本質(zhì)上屬于國家認(rèn)證制度的組成部分。

算法嵌入公共信用評價后，政府部門可以利用更為先進(jìn)的技術(shù)（如機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等）對海量信用數(shù)據(jù)進(jìn)行分析和挖掘，更為及時、完整、全面地對信用主體的信用狀況進(jìn)行“畫像”。政府監(jiān)管部門可以依據(jù)公共信用評價結(jié)果，改變傳統(tǒng)監(jiān)管模式“平均用力、成本高昂”的現(xiàn)狀，大幅提高政府監(jiān)管的靶向精準(zhǔn)性。以浙江省為例，在環(huán)境領(lǐng)域執(zhí)法中，政府監(jiān)管部門將信用評級較差的433家企業(yè)納入檢查重點，共發(fā)現(xiàn)47個環(huán)境問題，問題檢出率達(dá)到常規(guī)“雙隨機(jī)”抽查的5倍以上；在企業(yè)信用領(lǐng)域，應(yīng)用企業(yè)風(fēng)險模型后，問題檢出率從2.3%提升至56.8%[9]。由此可見，基于算法的公共信用評價對于提升行政效能，提高政府部門應(yīng)對區(qū)域性、行業(yè)性、系統(tǒng)性監(jiān)管問題的能力具有重要意義。因此，從政府治理的角度看，推動政府治理現(xiàn)代化應(yīng)當(dāng)是算法嵌入公共信用評價的實踐邏輯。

（三）價值邏輯：提升社會信用水平

從古代農(nóng)業(yè)社會到現(xiàn)代工業(yè)社會，信用問題一直備受關(guān)注，信用秩序也被稱為“人類秩序的元規(guī)則”[10]。目前，在我國社會經(jīng)濟(jì)活動中普遍存在造假售假、坑蒙拐騙、學(xué)術(shù)不端、偷稅漏稅等違法失信行為，這是社會信用不足的表現(xiàn)[11]，學(xué)術(shù)界將此種現(xiàn)象概括稱為“信用危機(jī)”或“誠信危機(jī)”，本文將其稱為“信用失范”。在當(dāng)前的社會歷史時期，導(dǎo)致信用失范問題的原因是多方面的，除了有傳統(tǒng)文化道德的“斷裂”和市場經(jīng)濟(jì)本身的負(fù)面效應(yīng)外，還有法律制度的不完善與不確定[12]。要有效治理信用失范問題，既要在道德教育中強(qiáng)化誠信美德、在文化建設(shè)中促進(jìn)信用文化的形成，增加失信的柔性約束，也要通過法律制度形成一種應(yīng)對信用失范行為的治理機(jī)制，加強(qiáng)失信的剛性約束。

公共信用評價作為社會信用體系建設(shè)的重要一環(huán)，也是應(yīng)對信用失范問題的重要工具，將算法嵌入其中可以使國家應(yīng)對信用失范問題的能力得到增強(qiáng)。一方面，基于算法的公共信用評價可以發(fā)揮“信號傳遞”功能，以一種更為集約化的形式增加社會經(jīng)濟(jì)活動中可用信用信息的整體供給水平。這不僅可以彌補(bǔ)不同社會主體之間的信息不對稱，而且可以改善監(jiān)管機(jī)構(gòu)與監(jiān)管對象之間的信息不對稱，增加信用主體的失信成本，遏制其違法違約的機(jī)會主義傾向。另一方面，公共信用評價可以與“誠實守信”的道德理想聯(lián)系在一起，產(chǎn)生倫理道德所具有的規(guī)范性。在“差序格局”中客觀社會關(guān)系難以繼續(xù)維持的背景下，個體很可能期望通過一個良好的信用評價結(jié)果來塑造自己“誠實守信”的社會形象。當(dāng)個體將其行為置于對信用評價的假定影響之下時，公共信用評價就成為其自律技術(shù)的一部分，以非強(qiáng)制的方式建構(gòu)個體在社會經(jīng)濟(jì)活動中的行動領(lǐng)域和行為標(biāo)準(zhǔn)。因此，從社會發(fā)展的角度看，提升社會信用水平應(yīng)當(dāng)是算法嵌入公共信用評價的價值邏輯。

三、算法嵌入公共信用評價的風(fēng)險檢視

將基于算法的公共信用評價作為治理工具在一定程度上也強(qiáng)化了政府的工具理性，導(dǎo)致政府部門容易陷入單純追求技術(shù)效率的泥淖，進(jìn)而忽視公平、正義、安全、透明度、自主性等價值理性，引發(fā)一系列風(fēng)險問題。本文主要從技術(shù)、法律和倫理3個方面對算法嵌入公共信用評價的風(fēng)險進(jìn)行檢視。

（一）技術(shù)風(fēng)險：信用評價的不公正與不準(zhǔn)確

基于算法的公共信用評價在充分吸納算法技術(shù)優(yōu)勢的同時，也承繼了算法存在的技術(shù)風(fēng)險。這種技術(shù)風(fēng)險既包括算法固有的原始風(fēng)險，如算法黑箱問題，也包括算法在應(yīng)用過程中引發(fā)的衍生風(fēng)險，如數(shù)據(jù)質(zhì)量問題。

1.算法黑箱破壞信用評價的公正性

公共信用評價結(jié)果的公正性不僅會影響行政相對人對行政主體的信任感，而且還關(guān)涉信用監(jiān)管活動能否有效開展。算法嵌入公共信用評價雖然在提升評價效率方面助力頗多，但算法黑箱問題卻可能破壞評價的公正性。在算法理論中，“黑箱”是控制論中的概念，作為一種隱喻，它指的是為人所不知的那些既不能打開、又不能從外部直接觀察其內(nèi)部狀態(tài)的系統(tǒng)[13]，美國學(xué)者弗蘭克·帕斯奎爾將由算法主導(dǎo)的社會稱為“黑箱社會”[14]。算法的黑箱問題也被稱為“透明度悖論”，主要可以分為3種情形，即故意的不透明、無知的不透明和固有的不透明[15]。在基于算法的公共信用評價中，算法黑箱問題同樣存在，政府部門和算法系統(tǒng)開發(fā)者可能以“故意的不透明”和“固有的不透明”為由拒絕對其決策結(jié)果承擔(dān)說明理由的義務(wù)。與此同時，組織、個人或者社會公眾也可能因為“無知的不透明”而難以知曉信用評價結(jié)果到底是依據(jù)何種理由作出的、此種理由是否合法及合理。在此背景下，算法黑箱問題可能破壞公共信用評價的公正性：第一，私人資本支配權(quán)力的風(fēng)險。在當(dāng)前的公共信用評價實踐中，絕大多數(shù)地方的信用評價系統(tǒng)均是由政府部門外包給私營公司進(jìn)行開發(fā)或者運(yùn)營，因而算法黑箱的存在可能導(dǎo)致私營公司俘獲公共權(quán)力的風(fēng)險。第二，政府公信力下降的風(fēng)險。信用不僅成為社會資源分配的重要條件，而且成為組織或者個人決策的重要依據(jù)，而信用評價是組織或者個人獲得信用的重要方式。算法黑箱可能導(dǎo)致社會公眾對公共信用評價的公正性產(chǎn)生質(zhì)疑，引發(fā)政府公信力下降的風(fēng)險。

2.數(shù)據(jù)質(zhì)量影響信用評價的準(zhǔn)確性

公共信用評價結(jié)果不僅成為行政機(jī)關(guān)分配執(zhí)法資源的重要依據(jù)，而且成為社會經(jīng)濟(jì)活動中資源分配的重要條件。因此，評價結(jié)果的準(zhǔn)確性對公共信用評價能否提高資源分配效率至關(guān)重要。在信用評價理論中，有句話叫做“垃圾進(jìn)，垃圾出”，這意味著并不存在能夠化腐朽為神奇的算法技術(shù)，數(shù)據(jù)質(zhì)量（包括數(shù)據(jù)的關(guān)聯(lián)性、完備性、時效性、一致性等）本身仍然對信用評價結(jié)果起著關(guān)鍵作用[16]。當(dāng)算法技術(shù)全面嵌入公共信用評價時，其隱含的假設(shè)是算法在公共信用評價中具有更高的預(yù)測準(zhǔn)確性，能夠以大量信用數(shù)據(jù)為基礎(chǔ)將“風(fēng)險”或者“信用度”轉(zhuǎn)化為可度量的產(chǎn)出，進(jìn)而改善資源分配效率。然而實際上，我們不應(yīng)當(dāng)高估算法為信用評價系統(tǒng)帶來的潛在效率收益，因為假定的收益通常取決于信用數(shù)據(jù)和算法模型的質(zhì)量和準(zhǔn)確性。如果數(shù)據(jù)不完整、有偏見或者過時，以致于它們不能很好地概括“非樣本”數(shù)據(jù)，那么公共信用評價結(jié)果就并未真正反映信用主體的信用風(fēng)險狀況，這反過來會增加資源分配中的不確定性，降低資源分配效率。

（二）法律風(fēng)險：信用評價權(quán)力濫用和隱私侵犯

當(dāng)算法嵌入公共信用評價時，其引發(fā)的法律風(fēng)險主要指數(shù)據(jù)的處理和算法的使用不符合法律法規(guī)的規(guī)定或者現(xiàn)有的法律規(guī)范難以被適用，導(dǎo)致行政權(quán)力被濫用或者公民的合法權(quán)益受到侵犯。

1.算法權(quán)力助推信用評價權(quán)力濫用

與傳統(tǒng)的消費者信用評價相比，公共信用評價最大的區(qū)別在于它以公共權(quán)力的行使作為后盾，信用評價權(quán)力亦成為一種新的行政權(quán)力類型。算法嵌入公共信用評價不僅改變了傳統(tǒng)的信用評價模式，而且對信用評價權(quán)力的行使產(chǎn)生了深遠(yuǎn)影響，增加了權(quán)力濫用風(fēng)險，這主要體現(xiàn)在以下兩個方面：第一，算法為政府部門濫用信用評價權(quán)力提供了可能。美國學(xué)者博登海默曾指出，“不受限制的政治權(quán)力乃是世界上最有力的、最肆無忌憚的力量之一，而且濫用這種權(quán)力的危險也是始終存在的”[17]。在傳統(tǒng)的法律規(guī)范中，法律通過妥善處理行政權(quán)力與公民權(quán)利之間的關(guān)系，確保行政機(jī)關(guān)與行政相對人雙方權(quán)利義務(wù)的總體平衡。然而，在基于算法的公共信用評價中，算法對行政機(jī)關(guān)的賦能明顯優(yōu)于對行政相對人的賦權(quán)，打破了原有的平衡關(guān)系，導(dǎo)致政府部門可能突破依法行政原則、比例原則、禁止不當(dāng)聯(lián)結(jié)原則等法治原則的約束，增加行政權(quán)力被濫用的風(fēng)險，實踐中“黑名單”和“失信懲戒”的泛化便是例證。第二，算法為私營部門濫用信用評價權(quán)力提供了機(jī)會。隨著算法不斷融入社會生活的各個方面，其逐漸成為一種社會建構(gòu)力量，“算法權(quán)力”亦成為一種新型的權(quán)力形態(tài)，“其背后潛藏著資本的力量”[18]。在公共行政中使用的算法決策系統(tǒng)大多由私營部門研發(fā)或者運(yùn)營，公共信用評價亦不例外。即使是非常具體的政策目標(biāo)，也很難被準(zhǔn)確轉(zhuǎn)化為技術(shù)要求，而“公平”“平等”等價值的極強(qiáng)抽象性則進(jìn)一步加劇了其代碼化的難度。這意味著私營部門及其技術(shù)人員在算法設(shè)計過程中擁有較大的算法權(quán)力，可能嵌入其自身的主張、偏見或者利益，最終導(dǎo)致信用評價權(quán)力實際由私人行使。正如學(xué)者所言：“更糟糕的是，將那些規(guī)范性和解釋性的選擇嵌入到算法本身，不僅掩蓋了所選擇的政策結(jié)果，而且掩蓋了做出選擇的事實……排除了對重大政策問題強(qiáng)有力的公開辯論”[19]。

2.數(shù)據(jù)濫用危及隱私與個人信息權(quán)益

信用信息與隱私及個人信息之間存在交集，尤其是個人信用信息，本身就屬于個人信息的范疇。當(dāng)算法嵌入公共信用評價時，可能存在濫用數(shù)據(jù)風(fēng)險，侵犯隱私及個人信息權(quán)益。首先，在信用信息收集階段，可能違反《中華人民共和國個人信息保護(hù)法》（以下簡稱《個人信息保護(hù)法》）確立的告知同意、必要、目的限制等基本原則。在基于算法的公共信用評價中，信用信息的數(shù)量和種類越多，對信用主體的評價就可能越完整。基于此等考量，政府部門傾向于最大限度歸集信用信息，這有可能悖離告知同意與最小必要原則。此外，公共信用評價中的信用信息來源廣泛，不僅有不同的政府部門，還可能有企事業(yè)單位、私營企業(yè)等，這些信息的聚合使用可能違反目的限制的要求。其次，在信用信息處理階段，可能違反《個人信息保護(hù)法》確立的準(zhǔn)確性原則。在基于算法的公共信用評價中，信用信息被歸集后需經(jīng)歷清洗、分類、聚合等處理過程，一旦出現(xiàn)遺漏或者錯誤，便違反了準(zhǔn)確性要求，甚至可能給信用主體的合法權(quán)益造成不利影響。再次，在信用信息存儲階段，可能違反《個人信息保護(hù)法》確立的存儲限制原則。信用評價本質(zhì)上是基于組織或者個人過去的信用信息而對其信用風(fēng)險進(jìn)行的綜合評價，從這個角度看，信用信息的存儲需要具備一定的時長，而這可能違反對個人信息存儲限制的要求。最后，在信用信息公開階段，可能因為過度披露個人敏感信息要素而對個人隱私造成侵害，原因在于信用評價結(jié)果可能是基于個人身份、偏好、網(wǎng)絡(luò)瀏覽等數(shù)據(jù)聚合而成的“精準(zhǔn)畫像”。

（三）倫理風(fēng)險：信用評價自主性困境與分配不公

一些技術(shù)的應(yīng)用可能會與既有的倫理道德發(fā)生沖突，因此技術(shù)的倫理風(fēng)險廣受社會關(guān)注。算法嵌入公共信用評價除了存在技術(shù)風(fēng)險和法律風(fēng)險外，也可能對自主性、公平性等倫理價值造成沖擊。

1.算法至上引發(fā)信用評價自主性困境

在社會生活中，人們傾向于認(rèn)為數(shù)據(jù)是中立且客觀的，因此以數(shù)據(jù)和代碼作為驅(qū)動因素的算法也是客觀的。這種帶有“數(shù)據(jù)原教旨主義”色彩的觀念[20]容易導(dǎo)致組織或者個人在決策過程中過度依賴算法，形成“算法至上”，對人的自主性造成消減。在基于算法的公共信用評價中，“算法至上”引發(fā)的自主性困境主要體現(xiàn)在以下兩個方面：第一，信用主體的自主性困境。收集個人信用大數(shù)據(jù)的手段以及數(shù)據(jù)處理方式，均對個人自治和信息自決施加了壓力。在實踐中，信用信息的歸集往往是在不經(jīng)意中發(fā)生的，而且越來越快，這意味著個體很難在完全與充分理解的情況下作出同意其信用信息被收集的決定。此外，無處不在的信用數(shù)據(jù)收集、處理和使用可能會對個人行為產(chǎn)生“寒蟬效應(yīng)”，因為它會給人一種正在被監(jiān)視的感覺，從而對個人行為產(chǎn)生抑制和控制作用，使個人成為數(shù)字化秩序的客體而非主體[21]。第二，行政主體的自主性困境。“人們?yōu)榱俗寵C(jī)器看起來一直比人聰明，會主動降低自己的智商”，在這種情況下，“對行為的科學(xué)分析逐出了自主的個人，并且把假定由人類施加的控制力移交給環(huán)境”[22]。信用大數(shù)據(jù)驅(qū)動的公共信用評價不但沒有進(jìn)一步擴(kuò)展行政主體的自主性，反而有可能使行政主體一切都聽命于數(shù)據(jù)，處處受制于數(shù)據(jù)，使行政主體的自主性、創(chuàng)造性受到限制，甚至產(chǎn)生治理創(chuàng)新的“惰性”。

2.算法偏見破壞基于信用的分配正義

在技術(shù)理性的主導(dǎo)下，算法的支持者認(rèn)為，將算法嵌入組織或者個人的決策中可以克服人類自身存在的偏見或者性格弱點，更有利于促進(jìn)公平的實現(xiàn)。然而研究表明，算法技術(shù)本身也可能存在偏見，就其成因而言，主要包括輸入數(shù)據(jù)導(dǎo)致的偏見和算法自身設(shè)計存在的偏見[20]。在基于算法的公共信用評價中，算法偏見可能破壞基于信用的分配正義，其原因來源于兩個方面：第一，由于輸入算法信用評價系統(tǒng)的信用數(shù)據(jù)缺乏代表性和科學(xué)性而導(dǎo)致的偏見風(fēng)險。在當(dāng)前的公共信用評價中，一些地方在確定各類信用信息的權(quán)重時，將一些不合理的因素納入了考量，如戶籍、收入水平、學(xué)歷等，這可能形成“逆差別待遇”，在個體、群體之間造成新的不平等，加劇信用領(lǐng)域的“數(shù)字鴻溝”。第二，信用評價系統(tǒng)在設(shè)計時可能被植入人類偏見。研究表明，自動化決策，尤其是機(jī)器學(xué)習(xí)算法，極容易受程序員的社會經(jīng)驗、之前所作決策以及社會偏見的影響，從而生成歧視性結(jié)果[23]。隨著“信用+”正逐漸成為支撐更多領(lǐng)域高質(zhì)量發(fā)展的新支柱，“信用+普惠金融”、“信用+民生”等新模式正在落地實施。在此背景下，有偏見的信用評價結(jié)果可能會反過來影響公共服務(wù)的可獲得性，進(jìn)而導(dǎo)致分配不公平，阻礙分配正義的實現(xiàn)。

四、算法嵌入公共信用評價的規(guī)制路徑

算法嵌入社會生活或者政府治理引發(fā)的風(fēng)險是多元的，因此對算法的規(guī)制也應(yīng)當(dāng)是一個系統(tǒng)性工程，需要匯集技術(shù)、倫理、法律等各個領(lǐng)域的力量進(jìn)行協(xié)同規(guī)制。結(jié)合我國的實際情況，從規(guī)制理念的角度看，對算法嵌入公共信用評價的規(guī)制路徑應(yīng)當(dāng)采取一種“整體性視角”，協(xié)同運(yùn)用技術(shù)、法律、倫理、教育等手段；從規(guī)制方法的角度看，應(yīng)當(dāng)采取“基于過程的方法”，將上述手段分別置于事前、事中、事后3個階段，對可能存在的風(fēng)險進(jìn)行全流程規(guī)制。

（一）算法嵌入公共信用評價前的審查評估

預(yù)防原則是現(xiàn)代風(fēng)險行政中的基本原則，為了更好地保護(hù)公民的基本權(quán)利，政府部門可以根據(jù)預(yù)防原則建立一系列風(fēng)險預(yù)防機(jī)制，并在特定條件下采取一定的風(fēng)險干預(yù)措施[24]。在算法嵌入公共信用評價的規(guī)制中，也應(yīng)當(dāng)按照預(yù)防原則的要求，通過一系列措施或者機(jī)制將風(fēng)險消弭在萌芽中。

1.制定算法信用評價技術(shù)標(biāo)準(zhǔn)

“在任何一個規(guī)制體系中，各類標(biāo)準(zhǔn)都有著重要地位?！盵25]在行政法治中，技術(shù)標(biāo)準(zhǔn)不僅可以提供一定的關(guān)系范式和新的調(diào)控方式，而且可以更明晰地提供責(zé)任清單和負(fù)面清單[26]。近年來，理論界與實務(wù)界逐漸認(rèn)識到“技術(shù)設(shè)計”在隱私及個人信息保護(hù)、算法及人工智能規(guī)制中的基礎(chǔ)性作用，提出了諸如“通過設(shè)計實現(xiàn)公平”或者“通過設(shè)計保護(hù)數(shù)據(jù)”等原則[27]。目前，針對公共信用評價，國家市場監(jiān)督管理總局和國家標(biāo)準(zhǔn)化管理委員會已經(jīng)聯(lián)合發(fā)布了一系列國家標(biāo)準(zhǔn)，如《公共信用信息分類與編碼規(guī)范》（GB/T 39441-2020）等。不過這些國家標(biāo)準(zhǔn)主要還是針對公共信用信息的收集、分類、編碼、共享等具體環(huán)節(jié)，尚未直接涉及公共信用評價系統(tǒng)本身。為了將算法嵌入公共信用評價所存在的安全漏洞、隱私侵犯等風(fēng)險降至最低，也為了確?！巴ㄟ^設(shè)計及默認(rèn)保護(hù)隱私/公平”的原則得以實現(xiàn)，有必要通過凝聚行業(yè)共識和吸收理論成果，由中國標(biāo)準(zhǔn)化研究院和國家公共信用信息中心研究制定有關(guān)算法信用評價系統(tǒng)的技術(shù)標(biāo)準(zhǔn)，從技術(shù)層面為算法信用評價系統(tǒng)設(shè)置責(zé)任清單和負(fù)面清單，為算法信用評價系統(tǒng)的研發(fā)、設(shè)計、部署及運(yùn)行提供指引。

2.建立算法信息公開制度

“良法善治”是新時代法治政府建設(shè)的核心理念，而透明度又是良法善治的基本原則。算法黑箱問題不僅悖離了行政決策的透明度原則，而且可能引發(fā)私人資本支配公共權(quán)力、政府公信力下降等衍生風(fēng)險。因此，如何通過各種措施來破除算法黑箱問題，成為算法問責(zé)制的核心議題[28]。在實踐中，法國《公眾與行政部門關(guān)系法典》第R.311-3-1-2條規(guī)定，行政部門應(yīng)當(dāng)在不侵犯受法律保護(hù)的秘密之前提下，應(yīng)個人行政決定的對象之要求，以可理解之形式向其提供以下信息：（1）算法處理對決定的貢獻(xiàn)程度和方式；（2）處理的數(shù)據(jù)及其來源；（3）處理參數(shù)及其加權(quán)；（4）進(jìn)行這種處理的具體操作。基于已有的理論成果和實踐經(jīng)驗，就基于算法的公共信用評價而言，筆者認(rèn)為政府部門應(yīng)當(dāng)通過以下兩個方面建立算法信息公開制度，破解算法黑箱問題：第一，應(yīng)當(dāng)將算法嵌入公共信用評價的方式作為政府信息公開的基本要求。政府部門應(yīng)當(dāng)公布公共信用評價中的算法自動化決策清單，讓社會公眾知曉算法參與了公共信用評價的哪個階段或者處理操作了哪些數(shù)據(jù)。第二，應(yīng)當(dāng)借鑒法國的立法經(jīng)驗，將算法信用評價系統(tǒng)的基本規(guī)則和參數(shù)權(quán)重向社會公眾公開。

3.完善算法影響評估制度

風(fēng)險識別是風(fēng)險管理的核心環(huán)節(jié)，它是風(fēng)險干預(yù)的前提條件。在風(fēng)險規(guī)制實踐中，政府部門通常采取各種風(fēng)險評估制度來識別風(fēng)險，例如環(huán)境影響評估制度就成為識別和預(yù)防環(huán)境污染風(fēng)險的重要機(jī)制。我國《個人信息保護(hù)法》第55條規(guī)定，個人信息處理者利用個人信息進(jìn)行自動化決策或者處理敏感個人信息時，應(yīng)當(dāng)在事前進(jìn)行個人信息保護(hù)影響評估，并對處理情況進(jìn)行記錄。基于算法的公共信用評價既可能涉及對個人敏感信息的處理，同時也包含利用個人信息進(jìn)行自動化決策，因此應(yīng)當(dāng)對其實施個人信息保護(hù)影響評估?；谒惴ǖ墓残庞迷u價除了涉及隱私及個人信息保護(hù)外，還存在算法黑箱、安全漏洞、算法偏見等風(fēng)險。為了將這些風(fēng)險降至可接受的范圍，也避免給政府部門造成過重負(fù)擔(dān)，可以建立包含個人信息保護(hù)影響評估在內(nèi)的算法影響評估制度：第一，建立動態(tài)的算法影響評估啟動機(jī)制。在部署基于算法的公共信用評價系統(tǒng)之前，應(yīng)當(dāng)評估該系統(tǒng)可能對個人或者群體的潛在不利影響及風(fēng)險；在系統(tǒng)投入應(yīng)用以后，應(yīng)當(dāng)定期對該系統(tǒng)運(yùn)行的穩(wěn)健性以及影響與風(fēng)險進(jìn)行評估。第二，加強(qiáng)算法影響評估中的公眾參與。一方面，可以借鑒“通知—評論”制度建立公眾參與算法影響評估的制度化渠道；另一方面，應(yīng)當(dāng)將技術(shù)專家、法律專家、倫理學(xué)家等群體納入算法影響評估的組織構(gòu)成。第三，建立算法影響評估報告強(qiáng)制披露制度。政府部門在自主開展或者委托第三方機(jī)構(gòu)對基于算法的公共信用評價系統(tǒng)進(jìn)行算法影響評估后，應(yīng)當(dāng)將算法影響評估報告通過官網(wǎng)或者其他媒介以顯著的方式向社會公眾公開。

（二）算法嵌入公共信用評價中的權(quán)力制約

如前所述，在基于算法的公共信用評價中，既有傳統(tǒng)行政權(quán)力的行使，也有新興算法權(quán)力的運(yùn)作，若不加以適當(dāng)限制，則可能出現(xiàn)權(quán)力濫用和權(quán)益侵害的風(fēng)險。在推進(jìn)法治政府建設(shè)邁上新臺階的總體目標(biāo)下，需要重申傳統(tǒng)行政法治原則對基于算法的公共信用評價中行政權(quán)力的約束作用；而針對其中的算法權(quán)力，則需要借助新的法律權(quán)利予以制衡和掣肘。

1.以行政法治原則鉗制行政權(quán)力

2020年12月，《國務(wù)院辦公廳關(guān)于進(jìn)一步完善失信約束制度構(gòu)建誠信建設(shè)長效機(jī)制的指導(dǎo)意見》（國辦發(fā)〔2020〕49號）將“法治化、制度化”作為社會信用體系建設(shè)的目標(biāo)，并確立了“依法依規(guī)、保護(hù)權(quán)益、審慎適度、清單管理”的總體思路。結(jié)合已有的理論成果和實踐經(jīng)驗[29]，筆者認(rèn)為政府部門在基于算法的公共信用評價中行使行政權(quán)力時應(yīng)當(dāng)遵循以下基本原則：第一，信用信息的歸集和算法代碼的處理均應(yīng)當(dāng)遵循依法行政原則。政府部門應(yīng)當(dāng)嚴(yán)格按照法律法規(guī)來歸集信用信息，同時建立信用信息清單，不得通過規(guī)范性文件等形式隨意擴(kuò)大信用信息的范圍。此外，算法代碼也應(yīng)當(dāng)被置于法律的控制之下，不能用代碼替換法律。盡管算法主導(dǎo)的公共信用評價結(jié)果可以為治理決策提供參考，但其并非唯一依據(jù)，而應(yīng)當(dāng)始終保持法律在政府治理決策中的主導(dǎo)地位。第二，基于算法的公共信用評價應(yīng)當(dāng)遵循正當(dāng)程序原則。算法嵌入公共信用評價以后，可以快速即時得出公共信用評價結(jié)果，但信用主體所享有的受通知、陳述、申辯、聽證等程序性權(quán)利就可能受到不當(dāng)限制。對此，可以考慮通過技術(shù)手段將正當(dāng)法律程序的基本要素進(jìn)行編碼，建構(gòu)所謂的“技術(shù)性正當(dāng)程序”或者“數(shù)據(jù)正當(dāng)程序”[30]，對行政權(quán)力進(jìn)行新的程序控制。

2.以信用及個人信息權(quán)利制衡算法權(quán)力

在公法理論中，權(quán)利除了有給付功能外，還有防御功能，即防止公共權(quán)力的侵害。因此，賦予公民權(quán)利以制衡公共權(quán)力便成為現(xiàn)代民主法治國家的基本共識。在基于算法的公共信用評價中，算法對行政權(quán)力的賦能衍生出了新型的算法權(quán)力。為了避免算法權(quán)力的濫用，也有必要通過法律規(guī)范賦予公民相應(yīng)的權(quán)利，并建立相應(yīng)的權(quán)利保障機(jī)制，確保這些權(quán)利得以正當(dāng)行使。具體而言，政府部門應(yīng)當(dāng)高度重視以下法律規(guī)范所提出的要求。

第一，應(yīng)當(dāng)嚴(yán)格落實《民法典》第1029條有關(guān)信用評價的規(guī)定。根據(jù)《民法典》第1029條的規(guī)定，信用主體對于信用評價結(jié)果享有查詢權(quán)，若發(fā)現(xiàn)信用評價不當(dāng)，還享有更正權(quán)和刪除權(quán)，而信用評價機(jī)構(gòu)則應(yīng)當(dāng)采取相應(yīng)的措施保證上述權(quán)利的行使。雖然該條的起草背景主要是針對征信領(lǐng)域的信用評價[31]，但是《民法典》本身并未對第1029條的適用范圍進(jìn)行明確限定，因此該條賦予一般民事主體的權(quán)利也應(yīng)當(dāng)適用于公共信用評價中的信用主體，相應(yīng)的義務(wù)也應(yīng)當(dāng)由公共信用評價中的政府部門來承擔(dān)。

第二，應(yīng)當(dāng)嚴(yán)格遵守《個人信息保護(hù)法》關(guān)于“告知—同意”的規(guī)定。盡管“告知—同意”在理論上遭遇了諸多批判，在實踐中也出現(xiàn)了效用不彰的問題，但它仍然構(gòu)成了我國《個人信息保護(hù)法》的核心機(jī)制，并且一致適用于私營部門和政府部門的個人信息處理活動。在基于算法的公共信用評價中，司法裁判、仲裁執(zhí)行、行政許可、行政處罰等法律文書中的個人信用信息屬于《個人信息保護(hù)法》第13條第六項規(guī)定的“其他已經(jīng)合法公開的個人信息”，因此對這類信息的處理不需要受到“告知—同意”的嚴(yán)格限制。不過，當(dāng)涉及處理有關(guān)行為軌跡、生物識別、市場信用等個人信息時，仍然要遵守“告知—同意”的法定要求。

第三，應(yīng)當(dāng)嚴(yán)格落實《個人信息保護(hù)法》第24條關(guān)于“拒絕權(quán)”的規(guī)定。根據(jù)《個人信息保護(hù)法》第24條第3款的規(guī)定，通過自動化決策方式作出對個人權(quán)益有重大影響的決定時，個人有權(quán)拒絕信息處理者僅通過自動化決策的方式作出決定。鑒于在社會經(jīng)濟(jì)活動中信用已經(jīng)成為個人的“第二身份證”，公共信用評價結(jié)果顯然會對個人產(chǎn)生重大影響，它可能是就業(yè)或者入學(xué)機(jī)會，也可能是政府許可或者獎勵的獲得，這意味著信用主體對于基于算法的公共信用評價也享有“拒絕權(quán)”。因此，政府部門應(yīng)當(dāng)建立相應(yīng)的替代方案或者應(yīng)急預(yù)案，以應(yīng)對信用主體可能提出的要求。

第四，應(yīng)當(dāng)嚴(yán)格落實《個人信息保護(hù)法》第24條關(guān)于“說明理由義務(wù)”的規(guī)定。根據(jù)《個人信息保護(hù)法》第24條第3款的規(guī)定，通過自動化決策方式作出對個人權(quán)益有重大影響的決定，個人有權(quán)要求信息處理者說明理由。在理論上，算法自動化決策中的“說明理由義務(wù)”可被視為對“算法解釋權(quán)”的落實，這也是破解算法黑箱的重要方法[32]。基于此，經(jīng)由算法作出信用評價結(jié)果后，政府部門應(yīng)當(dāng)向信用主體說明評價結(jié)果如何作出以及其主要理由和依據(jù)。

（三）算法嵌入公共信用評價后的監(jiān)督問責(zé)

由于公共信用評價結(jié)果可能成為行政處理要件、行政裁量因素、行政指導(dǎo)或行政檢查的依據(jù)[33]，并可能對信用主體的合法權(quán)益產(chǎn)生重大影響，因此有必要在事后階段通過異議申訴、算法審計、司法審查等機(jī)制強(qiáng)化對算法嵌入公共信用評價后的監(jiān)督問責(zé)，保障信用主體的合法權(quán)益。

1.完善算法信用評價的異議申訴機(jī)制

在信用規(guī)制中，異議申訴是指公民、法人或者其他組織認(rèn)為行政主體在信用信息的歸集、評價、公開、應(yīng)用和修復(fù)等活動中的行為侵犯其合法權(quán)益，依法提出異議申請，由行政主體對系爭行為進(jìn)行審查并作出決定的活動。在基于算法的公共信用評價中，相關(guān)爭議主要圍繞信用評價結(jié)果的準(zhǔn)確性展開，因此異議申訴也成為最為常見的權(quán)利救濟(jì)機(jī)制之一。從已有的異議申訴實踐來看，政府部門主要采取“在線異議申訴機(jī)制”，即通過網(wǎng)絡(luò)平臺來處理異議申訴。為了充分發(fā)揮“在線異議申訴機(jī)制”的靈活性、效率性、經(jīng)濟(jì)性等優(yōu)勢，還需要從以下兩個方面進(jìn)行完善：第一，政府部門在設(shè)計在線異議申訴機(jī)制時應(yīng)當(dāng)堅持“用戶友好”原則。所謂的“用戶友好”就是在線異議申訴系統(tǒng)的界面應(yīng)當(dāng)簡潔、操作流程應(yīng)當(dāng)易于掌握，要本著方便用戶使用的理念來進(jìn)行技術(shù)設(shè)計[34]。第二，政府部門在設(shè)計和運(yùn)行在線異議申訴機(jī)制時應(yīng)當(dāng)堅持“系統(tǒng)安全性”原則。在線異議申訴系統(tǒng)通常要求信用主體詳細(xì)填寫諸多個人敏感信息，如姓名、身份證號碼、電話號碼等，同時還要求信用主體上傳相關(guān)證明材料，這就加大了系統(tǒng)遭受惡意攻擊的可能性。因此，政府部門在設(shè)計和運(yùn)行在線異議申訴系統(tǒng)時，應(yīng)當(dāng)采取一定的技術(shù)性和組織性措施，防止“黑客”攻擊與信息泄露，以保證系統(tǒng)的安全運(yùn)行。

2.建立算法信用評價的算法審計

在現(xiàn)代社會經(jīng)濟(jì)活動中，審計同時適用于公共部門和私營部門，能夠向利益相關(guān)者提供獨立的第三方保證。近年來，為了回應(yīng)算法自動化決策引發(fā)的不透明、數(shù)據(jù)濫用、歧視等風(fēng)險，學(xué)術(shù)界、非政府組織和政府部門在不同層面討論了審計算法決策系統(tǒng)的必要性。所謂算法審計（algorithm audit）是指由獨立的第三方評估算法對利益相關(guān)者權(quán)利和利益的負(fù)面影響，并相應(yīng)地確定引起這些負(fù)面影響的特征。根據(jù)我國《個人信息保護(hù)法》第54條的規(guī)定，個人信息處理者應(yīng)當(dāng)定期對其個人信息處理情況進(jìn)行合規(guī)審計。為了有效因應(yīng)算法信用評價中存在的風(fēng)險，有必要從以下兩個方面建立算法審計制度：第一，明確算法信用評價中算法審計的基本要素。按照學(xué)者的總結(jié)，算法審計至少應(yīng)當(dāng)由3個基本要素構(gòu)成——受算法影響的利益相關(guān)者的可能利益列表、描述算法關(guān)鍵倫理顯著特征的指標(biāo)評估、將評估指標(biāo)與利益相關(guān)者利益聯(lián)系起來的相關(guān)性矩陣。第二，豐富算法信用評價中算法審計的主要方法。目前常用的算法審計方法主要有試驗、民族志、調(diào)查、演練等，高等院校、科研機(jī)構(gòu)、社會組織等第三方在對算法信用評價進(jìn)行審計時，可以綜合運(yùn)用上述方法。

3.強(qiáng)化算法信用評價的司法審查

由人民法院對行政機(jī)關(guān)的行政行為進(jìn)行司法審查，既是監(jiān)督行政權(quán)力行使的需要，也是保障行政相對人合法權(quán)益的要求。目前，一些地方政府的社會信用立法及規(guī)范性文件也賦予信用主體對公共信用評價享有行政訴訟的權(quán)利，如《廣東省社會信用條例》第49條。相比于行政處罰、行政許可等型式化的行政行為，公共信用評價的法律屬性尚未形成共識，這無疑給人民法院審查此類行為增加了難度。為了最大限度地保障信用主體的合法權(quán)益，人民法院可以從以下兩個方面入手探索適用于基于算法的公共信用評價的司法審查路徑：第一，在司法審查強(qiáng)度上，人民法院應(yīng)當(dāng)采取低強(qiáng)度的審查，原因在于基于算法的公共信用評價具有高度專業(yè)性，法官是法律專家而非技術(shù)專家，應(yīng)當(dāng)對政府部門的專業(yè)判斷保持尊重。第二，在司法審查內(nèi)容上，人民法院應(yīng)當(dāng)重點審查信用信息是是否真實有效、算法技術(shù)指標(biāo)是否不合理地考慮了不相關(guān)因素、評價程序是否正當(dāng)?shù)葍?nèi)容。

五、結(jié) 語

算法嵌入公共信用評價既可以改善公共信用評價的質(zhì)量，滿足信用規(guī)制的需要，也可能引發(fā)技術(shù)、法律、倫理等方面的風(fēng)險，降低社會公眾對算法乃至對政府的不信任。本文基于對算法規(guī)制的一般性經(jīng)驗的考察，并結(jié)合算法嵌入公共信用評價的實際情況，主張采取“整體性視角”和“基于過程的方法”，將技術(shù)、法律、倫理等手段分別放置于事前、事中和事后3個階段，對算法嵌入公共信用評價可能導(dǎo)致的風(fēng)險進(jìn)行全流程規(guī)制。