算法治理應(yīng)聚焦解決的關(guān)鍵性問(wèn)題

〔摘要〕我國(guó)個(gè)人信息主體的知情權(quán)體系并不包含對(duì)算法事后解釋權(quán)的規(guī)定。事后的算法解釋面臨著從技術(shù)上難以獲得、立法上的缺位及救濟(jì)不顯效等難題。在充分平衡個(gè)人信息主體權(quán)益與公共利益的基礎(chǔ)上，清晰構(gòu)建以事前告知及事后反對(duì)為框架的算法治理路徑并輔之以事前的內(nèi)部化算法影響評(píng)估與外部算法安全認(rèn)證是我國(guó)算法治理的可行之道。

〔關(guān)鍵詞〕算法，知情權(quán)，算法解釋，算法治理，認(rèn)證制度

〔中圖分類號(hào)〕D913〔文獻(xiàn)標(biāo)識(shí)碼〕A〔文章編號(hào)〕1004- 4175（2022）02-0121-08

〔基金項(xiàng)目〕國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“大數(shù)據(jù)時(shí)代個(gè)人數(shù)據(jù)保護(hù)與數(shù)據(jù)權(quán)利體系研究”（18ZDA146），主持人程嘯。

算法技術(shù)的普及應(yīng)用，雖然提高了資源分配的效率，實(shí)現(xiàn)了精準(zhǔn)定位及預(yù)測(cè)功能，但同時(shí)也改變了事物的隨機(jī)性分布，使得人們開始對(duì)公平及機(jī)會(huì)進(jìn)行重新審視；算法放大了人類生活中某一面的行為特質(zhì)，使得兩極化的趨勢(shì)更為明顯和強(qiáng)烈；算法甚至也反過(guò)來(lái)影響著人類的思考判斷，逐漸引領(lǐng)新的價(jià)值規(guī)范。算法不僅在社會(huì)生活中充當(dāng)實(shí)在法則，甚至已經(jīng)開始試圖扮演上帝。從這個(gè)意義上來(lái)說(shuō)，社會(huì)秩序已然被技術(shù)重新塑造。

信息主體的知情權(quán)是其他數(shù)據(jù)處理活動(dòng)的基礎(chǔ)，而知情權(quán)本身由信息處理者的告知義務(wù)及信息主體的訪問(wèn)權(quán)組成。在我國(guó)個(gè)人信息保護(hù)領(lǐng)域，訪問(wèn)權(quán)主要體現(xiàn)為查閱權(quán)及復(fù)制權(quán)。事后的算法解釋目前成為學(xué)術(shù)界日益關(guān)注的問(wèn)題，然而，算法治理的核心要義是設(shè)立有效的事前算法告知義務(wù)，而非事后的算法解釋義務(wù)。本文擬分析論證算法“事前告知”路徑的合理性，以尋求符合我國(guó)國(guó)情的算法治理之道。

一、算法治理的“事后解釋”問(wèn)題溯源

在個(gè)人信息被處理前，個(gè)人信息主體的事前知情權(quán)有賴于個(gè)人信息處理者的告知義務(wù)之履行。涉及自動(dòng)化處理的語(yǔ)境之下，個(gè)人信息處理者需要承擔(dān)的算法告知義務(wù)，包括“應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等”。這種對(duì)于算法基本原理及運(yùn)行機(jī)制的公示要求屬于一般告知義務(wù)中“處理方式”的細(xì)化，主要源于自動(dòng)化處理方式的特殊性易給主體帶來(lái)更大的風(fēng)險(xiǎn)，此時(shí)需在事前對(duì)個(gè)人信息處理者施以特殊的告知義務(wù)。對(duì)于在自動(dòng)化處理之前進(jìn)行告知的必要性學(xué)界并無(wú)爭(zhēng)議，但是是否需要附加對(duì)算法的“事后解釋”仍然存在一定的討論空間。本文擬從幾個(gè)方面入手對(duì)該問(wèn)題進(jìn)行分析。

（一）“事后解釋”的局限性

1.“有意義的”解釋難以獲得。算法是否能夠解釋，其理論分歧的實(shí)質(zhì)在于對(duì)算法解釋目的的追求。這種“解釋”并非需要對(duì)算法模型或數(shù)據(jù)的全面公開，而是一種“適度透明”的要求〔1〕142。所以，個(gè)人信息主體需要理解的是是否存在“風(fēng)險(xiǎn)”而非洞悉理解“技術(shù)”。從這種意義上來(lái)說(shuō)，透明度的要求并非對(duì)是否披露的要求，而是對(duì)于披露程度的要求。何種程度和方式的信息披露能達(dá)到使得信息主體了解“風(fēng)險(xiǎn)”的目標(biāo)，從而使其能自主決定是否適用自身諸如免受自動(dòng)化處理權(quán)或刪除權(quán)等其他合法權(quán)益來(lái)排除此等風(fēng)險(xiǎn)。

隨著法律規(guī)范領(lǐng)域的不斷擴(kuò)大，呈現(xiàn)出向社會(huì)活動(dòng)系統(tǒng)縱深方向擴(kuò)展的趨勢(shì)。在法律所擴(kuò)展的這些領(lǐng)域里，許多問(wèn)題具有科學(xué)技術(shù)問(wèn)題，是標(biāo)準(zhǔn)規(guī)范的固有領(lǐng)域。以權(quán)利義務(wù)配置為規(guī)范方式的法律不足以直接形成對(duì)這些領(lǐng)域的規(guī)制，只有標(biāo)準(zhǔn)可以解決這些科學(xué)技術(shù)問(wèn)題〔2〕。因此，針對(duì)技術(shù)性較強(qiáng)的內(nèi)容，其是否會(huì)帶來(lái)風(fēng)險(xiǎn)，本身即需要制定相應(yīng)的標(biāo)準(zhǔn)并由專業(yè)人員進(jìn)行評(píng)估，不應(yīng)該就此對(duì)個(gè)人信息主體設(shè)置額外的學(xué)習(xí)負(fù)擔(dān)。

有學(xué)者將算法解釋分為模型中心解釋（modelcentric explanations，MCEs）及主體中心解釋兩種（subject-centric explanations，SCEs）。后者對(duì)于個(gè)人信息主體的權(quán)利救濟(jì)更有意義。但是即使主體能夠理解算法的原理，算法解釋對(duì)作為普通消費(fèi)者的信息主體之助益也極為有限，能否顯著提高主體理解決策過(guò)程的能力還有待觀察。在機(jī)器學(xué)習(xí)的過(guò)程中，評(píng)估其是否在特定的任務(wù)中有所改進(jìn)，是通過(guò)選定的績(jī)效標(biāo)準(zhǔn)來(lái)衡量。這意味著評(píng)估算法模型不是通過(guò)考量其內(nèi)部結(jié)構(gòu)而是使用性能指標(biāo)來(lái)檢查其外部行為。主體中心解釋往往為事后解釋，理論上來(lái)說(shuō)這種解釋本身僅限于一組數(shù)據(jù)或其相關(guān)的部分，而不涉及完整的復(fù)雜模型。但是鑒于技術(shù)性原因，主體中心解釋并不適合應(yīng)對(duì)程序規(guī)則問(wèn)題，他們僅能體現(xiàn)用戶與決策主體的某種關(guān)聯(lián)，從這種意義上來(lái)說(shuō)模型解釋的意義要大于主體中心解釋〔3〕。暫且不論在不同模型中解釋的難易程度不同，對(duì)算法賦予廣泛解釋權(quán)本身的合理性就值得質(zhì)疑。

2.事后解釋不存在合理性基礎(chǔ)。對(duì)算法解釋的合理性爭(zhēng)議還存在于信息處理者介入的時(shí)間，即應(yīng)當(dāng)僅僅設(shè)置在處理個(gè)人信息之前，還是在信息主體已經(jīng)獲得處理結(jié)果之后也需進(jìn)行。有學(xué)者認(rèn)為事后通過(guò)解釋結(jié)果可以補(bǔ)足行為指引的信息〔4〕。但是從邏輯上來(lái)說(shuō)，提供指引信息與解釋結(jié)果分屬于不同事項(xiàng)，無(wú)需捆綁進(jìn)行。而行為指引若能以適當(dāng)方式在信息處理過(guò)程中及自動(dòng)化決策結(jié)果出現(xiàn)之前作出，對(duì)于信息主體的權(quán)利保護(hù)更為有效，不必再費(fèi)周章轉(zhuǎn)而求諸于對(duì)處理結(jié)果的解釋。因此，此理由并不能作為事后算法解釋合理性的論證依據(jù)。

另外，學(xué)者也指出算法解釋是基于人的自治性需求，這是因?yàn)樵谒惴媲叭酥皇菃渭兊谋粍?dòng)接受者，因此賦予事后算法解釋權(quán)是對(duì)這種場(chǎng)景下自治能力的補(bǔ)足〔5〕。實(shí)際上，事后的算法解釋無(wú)法直接補(bǔ)益人的自治能力，中間存在邏輯斷層。在合同法中，當(dāng)事人雙方對(duì)格式條款的理解產(chǎn)生爭(zhēng)議時(shí)，引入不利于格式條款提供方的解釋方式來(lái)平衡雙方利益。而算法解釋本屬于當(dāng)事人單方解釋，無(wú)從期待其提供不利于自己的解釋方式。事后的算法解釋，從理論上來(lái)說(shuō)是將人工智能載體的硬件、軟件和數(shù)據(jù)處理之間的相互作用如何導(dǎo)致自動(dòng)化決策之間因果關(guān)系闡明的解釋。有學(xué)者甚至認(rèn)為“如果別有用心，解釋和說(shuō)理的方式將完全取決于擬實(shí)現(xiàn)的經(jīng)濟(jì)或政治目標(biāo)”〔6〕，期待提供者的解釋來(lái)補(bǔ)益另一方當(dāng)事人自治能力的愿望必然落空。自治的核心在于提供參與的自由選擇權(quán)，而非賦權(quán)信息主體要求對(duì)方對(duì)不利后果進(jìn)行解釋。

除此之外，更多對(duì)事后算法解釋的合理性分析建立在雙方不平等地位之上。對(duì)于當(dāng)事人之間地位不平等的論述，散見(jiàn)于消費(fèi)者權(quán)利保護(hù)、勞動(dòng)法等領(lǐng)域。一般而言，對(duì)于不平等地位的糾正手段主要為事前的充分告知和事后不利結(jié)果的排除（如無(wú)理由退貨制度），以及依據(jù)所造成損害要求對(duì)方承擔(dān)侵權(quán)責(zé)任的民事救濟(jì)路徑。經(jīng)營(yíng)者對(duì)使用格式條款的說(shuō)明義務(wù)雖然是應(yīng)消費(fèi)者的要求被個(gè)別履行的，但僅為對(duì)相關(guān)內(nèi)容的具體澄清，仍然屬于事前告知義務(wù)的范疇。有鑒于此，目前制度框架內(nèi)的事前告知義務(wù)及事后的不利結(jié)果排除及損害賠償責(zé)任足以救濟(jì)處于不平等地位之下當(dāng)事人的權(quán)益，無(wú)需再額外設(shè)置事后算法解釋權(quán)。

事后算法解釋的合法性基礎(chǔ)也不斷受到質(zhì)疑。歐洲聯(lián)盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》（GDPR）鑒于條款第71條提出的解釋權(quán)不應(yīng)當(dāng)與規(guī)定內(nèi)的其他條款具有相同的強(qiáng)制性約束力，即此時(shí)鑒于條款71條所規(guī)定的需對(duì)自動(dòng)化處理進(jìn)行解釋的透明度要求與條例中規(guī)定的透明度要求相比應(yīng)當(dāng)在程度上明顯弱化。故而GDPR本身并未規(guī)定明確的“事后”算法解釋義務(wù)，鑒于條款的效力僅作為對(duì)條例規(guī)則的解釋，不能視為規(guī)則本身，更不可為主體創(chuàng)設(shè)額外的義務(wù)。從這個(gè)意義上來(lái)說(shuō)，GDPR并沒(méi)有所謂的事后“算法解釋權(quán)”，而只有有限的知情權(quán)〔7〕。也有學(xué)者指出，算法的事后解釋權(quán)可以從GDPR的第15條第1款h項(xiàng)推導(dǎo)而出〔8〕，但是并未提出具有說(shuō)服力的擴(kuò)張解釋依據(jù)。更有學(xué)者斷言GDPR初稿中22條并沒(méi)有關(guān)于算法解釋權(quán)的內(nèi)容，而鑒于條款71條的加入屬于存有爭(zhēng)議的權(quán)宜之計(jì)，不應(yīng)當(dāng)從其中“應(yīng)該”的用語(yǔ)去過(guò)度解讀該條款本身的含義〔8〕。對(duì)于GDPR中事后算法解釋的立法認(rèn)識(shí)差異，至少說(shuō)明學(xué)界對(duì)其設(shè)立的合理性存在不同看法。至于GDPR是否真正欲確立事后的算法解釋，還有待在后續(xù)立法中澄清。

3.人工干預(yù)使得算法責(zé)任透明。人工干預(yù)的加入與事后需解釋的原理會(huì)產(chǎn)生直接沖突。GDPR第22條對(duì)于自動(dòng)化決策的規(guī)制基于“完全的”（sole‐ly）自動(dòng)化決策，如有人工干預(yù)手段介入則并非立法規(guī)制的目標(biāo)。這是因?yàn)槿斯じ深A(yù)手段本身有助于消弭算法帶來(lái)的負(fù)面影響。事后算法解釋的一個(gè)重要支持理由即是因?yàn)樽詣?dòng)化決策手段的“黑箱”效果。此種效果正是由于大數(shù)據(jù)時(shí)代的相關(guān)性關(guān)系所致，規(guī)律本身也難以從因果關(guān)系來(lái)解釋。正是因?yàn)閷?duì)于算法結(jié)果的不可預(yù)知和不可控，才可能存在上文所述引入額外解釋的余地，否則如同其他人工介入的場(chǎng)景一樣并無(wú)適用特殊事后解釋的理論空間。實(shí)際上，生活中大量涉及算法應(yīng)用的場(chǎng)景都存在人工干預(yù)，算法往往僅作為決策支持的要素之一。隨著人工干預(yù)的引入，行為人能通過(guò)其行為對(duì)算法結(jié)果施加有效的影響，此時(shí)就斬?cái)嗔怂惴ㄅc不利結(jié)果的因果關(guān)系鏈條，使得介入者成為新的責(zé)任主體，因而不存在算法解釋的空間。要求對(duì)已引入人工干預(yù)的算法進(jìn)行解釋顯然對(duì)GDPR上的相關(guān)規(guī)制適用范圍進(jìn)行了不當(dāng)擴(kuò)張。

4.法益沖突導(dǎo)致的適用局限性。立法者在制定任何一部法律時(shí)都應(yīng)當(dāng)考慮利益之間的順序，妥當(dāng)確定各種利益的優(yōu)先順位，探求法律的“優(yōu)先價(jià)值”。因此，在出現(xiàn)可能的利益沖突時(shí)，需要綜合利益的位階及“實(shí)踐調(diào)和原則”，在具體的案件情形下謹(jǐn)慎地處理，盡可能使得不同利益都能夠得到實(shí)現(xiàn)〔9〕。個(gè)人信息主體的知情權(quán)是基于其人格利益的權(quán)益，但是該權(quán)益的實(shí)現(xiàn)在一定程度上也需讓位于法律規(guī)定的其他重要利益以實(shí)現(xiàn)社會(huì)秩序穩(wěn)定的效果。

個(gè)人信息同時(shí)具有個(gè)人屬性和公共屬性，單純地強(qiáng)調(diào)某一屬性均無(wú)法凸顯個(gè)人信息的本質(zhì)特征，故而在立法上應(yīng)適當(dāng)舒緩個(gè)人信息保護(hù)及利用之間的張力，不宜在模糊、籠統(tǒng)的個(gè)人信息之上設(shè)定一項(xiàng)具有絕對(duì)性和排他性的“個(gè)人信息權(quán)”〔10〕。正是存在這種對(duì)公共利益的維護(hù)需求，使得立法者在制定相關(guān)政策時(shí)不應(yīng)當(dāng)想當(dāng)然地偏向一方主體，而是應(yīng)當(dāng)在具體場(chǎng)景中對(duì)于相關(guān)利益進(jìn)行權(quán)衡。有鑒于此，學(xué)者也提出算法公開應(yīng)當(dāng)根據(jù)不同情形采取不同范圍不同程度的公開建議：當(dāng)公權(quán)力主體使用算法進(jìn)行決策或輔助決策，而公開算法又不存在侵犯知識(shí)產(chǎn)權(quán)與算計(jì)算法問(wèn)題時(shí)，決策主體應(yīng)當(dāng)盡量采取普通人可理解的方式公開與解釋算法；對(duì)于純粹商業(yè)性的非壟斷機(jī)構(gòu)所使用的算法，算法公開一般不應(yīng)當(dāng)成為強(qiáng)制要求〔11〕。公權(quán)力主體的主動(dòng)公開行為不涉及強(qiáng)制的算法解釋，理論上也可以事前告知的方式作出，而商業(yè)機(jī)構(gòu)的算法由于其存在一定的經(jīng)營(yíng)性正當(dāng)利益，此時(shí)要求以解釋的方式公開，會(huì)直接產(chǎn)生對(duì)競(jìng)爭(zhēng)秩序的擾亂，而引入各種“搭便車”行為，故而不宜倡導(dǎo)。簡(jiǎn)單復(fù)制行政法上的正當(dāng)程序要求，作出對(duì)于當(dāng)事人不利的后果需要說(shuō)明理由，在此不存在現(xiàn)實(shí)基礎(chǔ)。私人決策與公共決策問(wèn)責(zé)機(jī)制不同，政府決策往往應(yīng)當(dāng)被默認(rèn)具有透明度，而私人決策由于摻雜著商業(yè)秘密或其他人的合法權(quán)益等因素而無(wú)法被要求與公共決策維持相同的透明度，因?yàn)榇伺e會(huì)直接或間接有害于市場(chǎng)競(jìng)爭(zhēng)秩序。還有學(xué)者指出，算法解釋應(yīng)當(dāng)對(duì)獨(dú)立的第三方機(jī)構(gòu)作出，由具備技術(shù)能力且不存在利益沖突的第三方機(jī)構(gòu)負(fù)責(zé)在人工智能部署前及運(yùn)行過(guò)程中實(shí)施審核，開發(fā)者或權(quán)利人僅在必要范圍內(nèi)向?qū)徍酥黧w公開算法技術(shù)細(xì)節(jié)〔12〕。此種方式也能有效避免相應(yīng)的利益沖突。但是第三方機(jī)構(gòu)在事前、事中的審核已經(jīng)不屬于信息主體的救濟(jì)路徑，而是倚仗的行政規(guī)制手段，此時(shí)的算法解釋義務(wù)實(shí)際上是信息控制者對(duì)相關(guān)機(jī)關(guān)的信息報(bào)送義務(wù)，甚至是在行政執(zhí)法程序中基于行政調(diào)查權(quán)進(jìn)行的。數(shù)據(jù)報(bào)送應(yīng)當(dāng)符合目的正當(dāng)、適合、必要性及均衡性原則。數(shù)據(jù)報(bào)送義務(wù)的對(duì)象是政府，報(bào)送目的一般并不是直接為了保護(hù)平臺(tái)用戶的權(quán)益，而是為了協(xié)助政府更好地實(shí)現(xiàn)公共職能，因此在額外為企業(yè)設(shè)定算法報(bào)送義務(wù)時(shí)也應(yīng)當(dāng)考慮到如何實(shí)現(xiàn)多元利益的均衡〔13〕。

從實(shí)踐來(lái)看，個(gè)人信息主體往往出于幾種目的行使其訪問(wèn)權(quán)。第一，通過(guò)訪問(wèn)個(gè)人信息明確其個(gè)人信息完整、正確。如個(gè)人信息處理者收集的信息不完整、不正確，個(gè)人信息主體的人格及財(cái)產(chǎn)權(quán)益有可能因此受到不當(dāng)影響。在此場(chǎng)景下，為維護(hù)個(gè)人信息主體的人格權(quán)，有必要賦予其訪問(wèn)權(quán)。第二，為了了解自己的個(gè)人信息被信息處理者所掌握的真實(shí)情況，以便決策是否行使刪除權(quán)。退出和表達(dá)是規(guī)范機(jī)構(gòu)組織的兩種機(jī)制。在表達(dá)受限的個(gè)人信息處理流程中，個(gè)人信息主體維護(hù)自身權(quán)益的重要手段即是退出并行使刪除權(quán)。第三，個(gè)人信息主體可以通過(guò)行使訪問(wèn)權(quán)對(duì)個(gè)人信息處理者實(shí)施監(jiān)督。在自動(dòng)化決策的場(chǎng)景下，個(gè)人信息主體對(duì)數(shù)據(jù)畫像的邏輯及有意義信息的知情，能起到對(duì)信息處理者濫用信息優(yōu)勢(shì)作出對(duì)信息主體不利決策的抑制作用。此外，信息主體還可能基于其他目的而訪問(wèn)自己的個(gè)人信息，最典型的是為保留證據(jù)或?yàn)楂@取除個(gè)人信息外的其他信息兩種情形。此時(shí)，就需要引入必要的審查機(jī)制并對(duì)其訪問(wèn)行為作出限制。例如，信息主體要求行使復(fù)制權(quán)調(diào)取拷貝翻拍監(jiān)控視頻圖像，但是因部分信息可能含有他人的個(gè)人信息，不宜向個(gè)人信息主體提供完整副本。復(fù)制權(quán)更強(qiáng)調(diào)對(duì)數(shù)據(jù)信息載體原本的形式不加編輯地完整或部分獲取，此時(shí)宜基于對(duì)公共利益的保護(hù)對(duì)主體知情權(quán)加以限制〔14〕。

（二）“事后解釋”救濟(jì)效果的有限性

歐盟語(yǔ)境下的個(gè)人信息保護(hù)措施基于個(gè)人權(quán)利，而這種個(gè)人權(quán)利的保護(hù)模式本身來(lái)自于人權(quán)的范式，因而算法往往以系統(tǒng)對(duì)群體進(jìn)行分類或污名化的方式導(dǎo)致直接損害〔3〕。但是，實(shí)驗(yàn)證明即使是訓(xùn)練模型時(shí)不采取信息主體的敏感信息，得出的結(jié)論依然有可能保留偏見(jiàn)，甚至加深偏見(jiàn)。造成這種結(jié)果的原因有兩個(gè)：一是因?yàn)闊o(wú)法準(zhǔn)確確定哪些屬于敏感性信息；二是因?yàn)槊舾行孕畔⒈旧砼c非敏感性信息存在某種聯(lián)系。從這個(gè)角度來(lái)說(shuō)，算法只是從技術(shù)上以某種特定聯(lián)系將人群予以區(qū)分，污名化群體本身的癥結(jié)在于社會(huì)本身。

而偏見(jiàn)帶來(lái)的問(wèn)題最后直指分配的公平性。例如，依據(jù)求職者簡(jiǎn)歷中曾經(jīng)的求職成功率來(lái)判斷是否賦予其職務(wù)，本質(zhì)上就是對(duì)偏見(jiàn)的加強(qiáng)。另外，除了對(duì)于個(gè)體的偏見(jiàn)，算法可能因分組的方式介入多個(gè)信息主體的隱私而產(chǎn)生大數(shù)據(jù)殺熟的不公正待遇。如果無(wú)法獲得實(shí)質(zhì)公平或救濟(jì)，透明的權(quán)利并不具有現(xiàn)實(shí)意義。由于透明度要求從立法上為主體提供一種查看、理解及介入復(fù)雜系統(tǒng)的渠道，無(wú)意義的透明反而會(huì)無(wú)謂地增加更多的社會(huì)成本。

算法解釋作為事后賦予個(gè)人信息主體請(qǐng)求權(quán)的救濟(jì)方式，具有離散性特點(diǎn)，在治理效率、行業(yè)發(fā)展、集體行動(dòng)和公共利益保護(hù)等層面存在局限，無(wú)法對(duì)算法系統(tǒng)有效問(wèn)責(zé)，且偏誤糾正能力有限〔15〕。從這個(gè)意義上來(lái)說(shuō)，私法上的分散性救濟(jì)措施，針對(duì)需要以損害賠償方式進(jìn)行救濟(jì)的實(shí)際損害最為有效。當(dāng)然受侵害方不易識(shí)別或者人數(shù)眾多時(shí)，還需引入公益訴訟等手段來(lái)實(shí)現(xiàn)最終的保障效果〔16〕。

采取解釋的方式救濟(jì)過(guò)于迂回，不能對(duì)個(gè)人信息主體產(chǎn)生直接的救濟(jì)效果。算法問(wèn)責(zé)一直是算法治理的核心內(nèi)容〔17〕。但是何謂“可問(wèn)責(zé)”，還需要在技術(shù)及舉證責(zé)任分配兩個(gè)層面上理清。要明確“風(fēng)險(xiǎn)”性質(zhì)以判斷其是否可避免，再考察“風(fēng)險(xiǎn)”是否源于信息處理者的過(guò)失。由于無(wú)法預(yù)測(cè)智能算法的運(yùn)行過(guò)程及結(jié)果，人工智能應(yīng)用所存在的風(fēng)險(xiǎn)同樣也難以準(zhǔn)確被評(píng)估和量化。判斷風(fēng)險(xiǎn)是否可以避免是純粹的技術(shù)問(wèn)題，事后的規(guī)制模式不僅僅桎梏于算法解釋，還有審計(jì)、驗(yàn)證、測(cè)試等更有技術(shù)含量及實(shí)效的手段予以檢驗(yàn)〔18〕。個(gè)人信息侵權(quán)歸責(zé)的困難源于自動(dòng)化技術(shù)的廣泛采用，信息處理的過(guò)程難以預(yù)料，從而導(dǎo)致當(dāng)事人之間的舉證和訴訟能力存在差別。通過(guò)對(duì)自動(dòng)化處理實(shí)施的個(gè)人信息侵權(quán)采取過(guò)錯(cuò)推定責(zé)任，對(duì)于信息處理者的過(guò)失需自行舉證以減輕信息主體的舉證責(zé)任〔19〕。此時(shí)，信息處理者的舉證過(guò)程即可以滿足對(duì)算法說(shuō)明的解釋。有學(xué)者認(rèn)為事后的算法解釋權(quán)可以讓數(shù)據(jù)主體對(duì)特定決策的運(yùn)行邏輯清晰知曉，為其提出異議獲得救濟(jì)提供重要基礎(chǔ)〔15〕。但是，實(shí)際上對(duì)特定決策的運(yùn)行不存在過(guò)錯(cuò)正是信息處理者的舉證責(zé)任，只要其存在非法處理個(gè)人信息的行為或者沒(méi)有盡到法律規(guī)定的個(gè)人信息保護(hù)義務(wù)，此種處理行為的違法性或者未盡到個(gè)人信息保護(hù)義務(wù)本身就足以認(rèn)定個(gè)人信息處理者具有過(guò)錯(cuò)，除非其能夠證明自己的處理行為不屬于違法處理行為或已經(jīng)盡到個(gè)人信息保護(hù)義務(wù)，從而推翻對(duì)其過(guò)錯(cuò)的推定〔20〕。信息主體無(wú)需也不可能完全掌控決策的運(yùn)行邏輯，否則立法上就不會(huì)選擇將證明責(zé)任配置給另一方。訴訟的前提是存在損害，當(dāng)信息主體并不存在損害時(shí)提前要求信息處理者承擔(dān)舉證責(zé)任，在理論上沒(méi)有支撐，會(huì)無(wú)端加重一方的責(zé)任。信息主體的權(quán)利往往與信息處理者的義務(wù)相對(duì)應(yīng)。信息處理者的過(guò)失責(zé)任如果缺乏事先明確規(guī)定的義務(wù)，則無(wú)法由此推斷其因不履行相應(yīng)義務(wù)而產(chǎn)生責(zé)任。因此，無(wú)論是從社會(huì)成本的角度還是從責(zé)任分配的角度，將說(shuō)明義務(wù)配置給信息處理者都不具有合理性。

2021年網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《算法推薦規(guī)定》）中似乎出現(xiàn)了另一種對(duì)于個(gè)人信息主體的權(quán)利救濟(jì)路徑，即在自動(dòng)化決策可以更改的指標(biāo)中，讓用戶更改標(biāo)簽以解決大數(shù)據(jù)殺熟等問(wèn)題。實(shí)際上在用戶參與時(shí)只能對(duì)有限的內(nèi)容進(jìn)行更改，并非全部。例如，在計(jì)價(jià)模型中的參數(shù)中，用戶能主動(dòng)修改的僅僅為偏好信息，不能更改計(jì)價(jià)的基礎(chǔ)事實(shí)信息。且不論部分標(biāo)簽不宜采取以主體直接介入的方式進(jìn)行更改，同時(shí)以此方式來(lái)影響算法的最終結(jié)果有可能影響到系統(tǒng)內(nèi)其他運(yùn)行結(jié)果的展示，從而直接影響到體系內(nèi)的公平性?！秱€(gè)人信息保護(hù)法》規(guī)定，公益訴訟要滿足“違法處理個(gè)人信息”與侵害“眾多個(gè)人權(quán)益”的要件。在算法推薦服務(wù)中，個(gè)人信息處理者需向個(gè)人信息主體告知的用戶標(biāo)簽專屬于該用戶，知情權(quán)被侵害的內(nèi)容具有特定性，即使存在眾多知情權(quán)被侵害的主體，也需要進(jìn)行權(quán)益內(nèi)容的逐一認(rèn)定，無(wú)法簡(jiǎn)單抽象成“眾多個(gè)人權(quán)益”；個(gè)人信息處理者不履行告知義務(wù)的行為是否屬于“違法處理個(gè)人信息”，在法益衡量上也存在認(rèn)定困難。故雖然可以通過(guò)公益訴訟的方式達(dá)成，但是實(shí)際履行的社會(huì)成本過(guò)高。

另外，對(duì)于因算法產(chǎn)生的不利結(jié)果提出異議也無(wú)需以算法解釋為基礎(chǔ)。刪除權(quán)及事后反對(duì)權(quán)對(duì)于個(gè)人信息主體的救濟(jì)效果更為直接。斬?cái)嘟Y(jié)果的不利性影響需從否定自動(dòng)化處理的結(jié)果效力角度著手，一旦某一主體遭受一次算法歧視，則在相關(guān)甚或不相關(guān)的領(lǐng)域也可能屢受不公待遇，產(chǎn)生歧視鎖定和數(shù)字污名效應(yīng)〔21〕。擴(kuò)張對(duì)算法告知義務(wù)的保護(hù)，使其延伸到事后的算法解釋對(duì)于信息主體的救濟(jì)毫無(wú)助益，同時(shí)會(huì)提升社會(huì)總成本。因此，對(duì)信息處理者額外設(shè)置此權(quán)利對(duì)于整體社會(huì)發(fā)展而言可謂得不償失。

二、“事前告知”義務(wù)的設(shè)定及其合理性證成

對(duì)于算法治理而言，其事前告知內(nèi)容的設(shè)定具有重要意義?！端惴ㄍ扑]規(guī)定》要求算法服務(wù)提供者履行特殊的告知義務(wù)，以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等。有學(xué)者認(rèn)為算法解釋中涵蓋部分告知義務(wù)。算法決策分為兩個(gè)階段：第一階段為算法模型的建模階段，第二階段則是將算法模型運(yùn)用于特定主體，并在此基礎(chǔ)上形成自動(dòng)化算法決策。對(duì)第一階段的解釋被稱為以算法系統(tǒng)功能為中心的解釋權(quán)，主要由特定算法模型的開發(fā)者聚焦于對(duì)特定算法模型系統(tǒng)功能的解釋說(shuō)明〔22〕。實(shí)際上，以算法系統(tǒng)功能為中心的解釋權(quán)也屬于事前的算法告知義務(wù)，即在主體的信息進(jìn)入到系統(tǒng)之前，提供的關(guān)于算法的一般系統(tǒng)功能，包括決策邏輯、重要性及預(yù)期結(jié)果的信息〔7〕。

筆者認(rèn)為，《個(gè)人信息保護(hù)法》和《消費(fèi)者權(quán)益保護(hù)法》已經(jīng)通過(guò)知情權(quán)的方式給予要求個(gè)人信息處理者給予個(gè)人信息主體充分和必要的告知，這種告知是在提供產(chǎn)品或服務(wù)前的“事前告知義務(wù)”。對(duì)于產(chǎn)品或服務(wù)的算法，算法提供者履行事前告知義務(wù)的周延性已足，無(wú)需在知情權(quán)體系中再賦予個(gè)人信息主體事后的算法解釋權(quán)?！秱€(gè)人信息保護(hù)法》對(duì)于自動(dòng)化決策條款并未規(guī)定個(gè)人信息主體有權(quán)要求算法服務(wù)提供者在事后對(duì)算法予以解釋，事前告知義務(wù)的目的是為了讓個(gè)人信息主體是否接受信息處理的流程作基本的風(fēng)險(xiǎn)判斷，通過(guò)此種方式即可消解個(gè)人信息主體對(duì)算法技術(shù)的安全性擔(dān)憂，事后的算法解釋既不可行也無(wú)必要。

（一）《個(gè)人信息保護(hù)法》中的自動(dòng)化決策規(guī)制

《個(gè)人信息保護(hù)法》第24條規(guī)定個(gè)人信息處理者應(yīng)對(duì)個(gè)人權(quán)益有重大影響的決策加以解釋說(shuō)明，以及個(gè)人信息主體有權(quán)拒絕僅通過(guò)自動(dòng)化決策的方式作出決定。將本條與第48條“個(gè)人有權(quán)要求個(gè)人信息處理者對(duì)其個(gè)人信息處理規(guī)則進(jìn)行解釋說(shuō)明”進(jìn)行結(jié)合，可以看出無(wú)論是在表述上還是立法意圖上，《個(gè)人信息保護(hù)法》并未規(guī)定個(gè)人信息主體有權(quán)在事后要求個(gè)人信息處理者解釋其算法機(jī)理。

從表述上看，第48條針對(duì)一般情形的個(gè)人信息處理規(guī)則解釋說(shuō)明權(quán)與第24條針對(duì)自動(dòng)化決策情形的重大影響解釋說(shuō)明權(quán)均指向產(chǎn)品或服務(wù)提供前。根據(jù)合法合理以及透明度的要求，個(gè)人信息處理者需在處理信息之前就向個(gè)人信息主體告知處理規(guī)則，若規(guī)則變更要重新告知，否則不得處理個(gè)人信息。同樣，在自動(dòng)化決策過(guò)程中，針對(duì)用戶的算法模型就是個(gè)人信息的“處理規(guī)則”，除非個(gè)人信息處理者在信息處理過(guò)程中更改已經(jīng)完成并投入運(yùn)行的算法模型，需要重新告知個(gè)人信息主體，一般情況下僅在事前負(fù)有告知義務(wù)。此外，第24條第3款規(guī)定拒絕權(quán)面向“自動(dòng)化決策”而非“自動(dòng)化決策的結(jié)果”，也表明個(gè)人信息主體的行權(quán)時(shí)機(jī)并非面向事后階段〔21〕。

從立法意圖看，法律規(guī)范只能在源頭要求個(gè)人信息處理者對(duì)算法提供充分的說(shuō)明，而算法的運(yùn)行自有其機(jī)理，法律無(wú)意將手再伸到事后去規(guī)制。算法服務(wù)均以自動(dòng)化的機(jī)器學(xué)習(xí)的方式提供，不同參數(shù)和場(chǎng)景的相互作用可能會(huì)產(chǎn)生因人而異的結(jié)果，而這些可能的結(jié)果實(shí)際上都包含在事前的告知中。事前的算法告知義務(wù)如同藥品附帶的說(shuō)明書，說(shuō)明書中會(huì)描述藥品的成分、性狀、作用類別、用法用量以及可能出現(xiàn)的不良反應(yīng)，藥商對(duì)可以告知的事項(xiàng)作了充分的說(shuō)明后，患者可以選擇是否使用該藥。至于此藥品是否對(duì)癥于特定主體，以及患者發(fā)生了什么樣的不良反應(yīng)，并不在事前告知義務(wù)的輻射范圍。進(jìn)一步說(shuō)，就算患者使用此藥發(fā)生了說(shuō)明書外的不良反應(yīng)，藥商也無(wú)義務(wù)公開藥品成分的具體用量和配比。個(gè)人信息處理者事前的算法告知義務(wù)足以充分保障個(gè)人信息主體的知情權(quán)。對(duì)算法的目的意圖、基本原理和運(yùn)行機(jī)制的告知包含了算法運(yùn)營(yíng)中可能會(huì)涉及的各種參數(shù)，可以幫助個(gè)人信息主體作出是否使用此算法服務(wù)的決策，也使算法脫離“黑箱”之詬病。

（二）“重大影響”內(nèi)容的解釋說(shuō)明

《個(gè)人信息保護(hù)法》第24條規(guī)定通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說(shuō)明。但對(duì)何為“重大影響”，法律并未明確。GDPR關(guān)于自動(dòng)化個(gè)人決策和畫像的指南中明確對(duì)個(gè)人造成的嚴(yán)重后果包括僅基于自動(dòng)化處理的決策會(huì)影響個(gè)人的合法權(quán)利，或自動(dòng)化決策會(huì)產(chǎn)生取消合同的法律效果。實(shí)際上，這些對(duì)個(gè)人產(chǎn)生重大影響決定的告知義務(wù)已經(jīng)在《消費(fèi)者權(quán)益保護(hù)法》中的經(jīng)營(yíng)者告知義務(wù)得到體現(xiàn)，此種事前說(shuō)明足以覆蓋保護(hù)個(gè)人信息主體的知情權(quán)。

《消費(fèi)者權(quán)益保護(hù)法》第24條規(guī)定，經(jīng)營(yíng)者在經(jīng)營(yíng)活動(dòng)中使用格式條款的，應(yīng)當(dāng)以顯著方式提請(qǐng)消費(fèi)者注意與其有重大利害關(guān)系的內(nèi)容，并按照消費(fèi)者的要求予以說(shuō)明。個(gè)人信息處理者提供的算法推薦服務(wù)滿足“重復(fù)使用”“預(yù)先擬定”以及“未與對(duì)方協(xié)商”的要件，應(yīng)受到格式條款的規(guī)制。根據(jù)《民法典》的規(guī)定，對(duì)格式條款效力的審查規(guī)范在合同開始履行前，如果格式條款使用方?jīng)]有按照合理的方式進(jìn)行提示說(shuō)明，相應(yīng)條款就不能成為合同的組成部分。因此，從以上規(guī)定來(lái)看個(gè)人信息處理者的算法告知義務(wù)均是針對(duì)產(chǎn)品或服務(wù)提供前對(duì)主體施加的義務(wù)。

（三）事前告知義務(wù)是知情權(quán)體系的層次性體現(xiàn)

個(gè)人信息主體的知情權(quán)體系由個(gè)人信息處理者的告知義務(wù)與個(gè)人信息主體的訪問(wèn)權(quán)構(gòu)成。在具體運(yùn)行機(jī)制上，由于觸發(fā)權(quán)利義務(wù)的時(shí)間節(jié)點(diǎn)和處理場(chǎng)景不同，告知義務(wù)與訪問(wèn)權(quán)會(huì)存在時(shí)間點(diǎn)上、特殊程序上以及內(nèi)容范圍上的差異〔14〕，由此，個(gè)人信息主體的知情權(quán)在不同階段也體現(xiàn)著不同的層次性。這種層次性由不同的信息密度決定，而信息密度最終的設(shè)定由個(gè)人信息主體知情權(quán)的規(guī)制目的決定。對(duì)于算法推薦服務(wù)，賦予個(gè)人信息主體知情權(quán)的目的主要是讓個(gè)人信息主體決定是否使用其服務(wù)，以及判斷是否可以承受算法服務(wù)可能造成的風(fēng)險(xiǎn)。就此目的來(lái)看，僅通過(guò)個(gè)人信息處理者在事前對(duì)算法機(jī)理的說(shuō)明即可實(shí)現(xiàn)。

從實(shí)踐效果來(lái)看，普及化的前期算法告知義務(wù)在很大程度上能緩解因信息不對(duì)稱而引起的非理性恐慌情緒。這種恐慌情緒之下，信息主體成了“算法的奴隸”，而社會(huì)也因此變成了“黑箱社會(huì)”。〔1〕191-193幫助信息主體了解算法，應(yīng)當(dāng)從教育學(xué)的模型解釋方式入手，而不應(yīng)以嘗試分解算法內(nèi)部結(jié)構(gòu)的方式進(jìn)行〔3〕。從個(gè)人信息主體的知情權(quán)維護(hù)效果而言，有諸多企業(yè)已經(jīng)開始進(jìn)行算法告知的嘗試。有的企業(yè)將外賣配送的“預(yù)估到達(dá)時(shí)間”的算法規(guī)則以圖文并茂的方式予以公開。具體而言，其公布的內(nèi)容包括不同預(yù)估模型所參考的數(shù)據(jù)類型的未窮盡性列舉。這些列舉中，本身含有確定的變量及相對(duì)不確定的變量，例如，商家出餐時(shí)間屬于確定變量，而惡劣天氣則屬于相對(duì)不確定變量。有的數(shù)據(jù)信息本身仍然需要其他組別的數(shù)據(jù)共同支持，例如配送難度、防疫要求等。另外，還提供了人工干預(yù)的方式在特定情況下的時(shí)間補(bǔ)充。實(shí)際上，此種公開行為并未涉及全部的考量因素及權(quán)重，但是已經(jīng)達(dá)到一定的社會(huì)效果。足以見(jiàn)得對(duì)于算法的恐懼，很大一部分源自于對(duì)技術(shù)的陌生及對(duì)其極度剛性的秩序調(diào)整手段邊界無(wú)從把控的焦慮情緒。

三、算法治理的中國(guó)道路探索

算法的事后解釋存在技術(shù)限制、法益沖突及缺乏合法性基礎(chǔ)等問(wèn)題，另外其對(duì)信息主體的救濟(jì)效果十分有限。從這個(gè)意義上來(lái)說(shuō)，規(guī)制的思路不是去不斷地疏通通向司法程序的渠道，而是思考在何種程度上合理構(gòu)建知情權(quán)體系并設(shè)定可行的信息控制者的告知義務(wù)，同時(shí)輔之以其他配套手段并行實(shí)現(xiàn)算法治理的目標(biāo)。

（一）引入主體的事后反對(duì)權(quán)機(jī)制是算法治理的重要環(huán)節(jié)

我國(guó)《個(gè)人信息保護(hù)法》規(guī)定，個(gè)人信息主體有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。此種個(gè)人信息主體免受自動(dòng)化約束的權(quán)利可以分為兩個(gè)層次，第一層是信息主體事前的拒絕被處理權(quán)，第二層是信息主體的事后反對(duì)權(quán)。事后反對(duì)權(quán)并不禁止完全自動(dòng)化決策及用戶畫像的存在和展開，但賦予數(shù)據(jù)主體反對(duì)其作出后受到約束和影響的權(quán)利。這種設(shè)定實(shí)際上選取了“禁令路徑”與“積極權(quán)利路徑”的中間道路，既能較好地保護(hù)數(shù)據(jù)主體不因怠于行使權(quán)利或者精力不足而受到算法滋擾，又能給產(chǎn)業(yè)發(fā)展預(yù)留一定的合理空間〔21〕。從救濟(jì)的效果而言，事后反對(duì)權(quán)比事后的算法解釋更為直接顯效，同時(shí)產(chǎn)生與其他主體合法權(quán)益的沖突可能性更小。由于事后反對(duì)權(quán)不涉及算法公開，便沒(méi)有侵害他人商業(yè)秘密及知識(shí)產(chǎn)權(quán)的顧慮，僅需要由信息主體向信息控制者單獨(dú)主張，因此事后反對(duì)權(quán)與刪除權(quán)的結(jié)合能較好地保護(hù)主體的權(quán)益。

（二）引入內(nèi)部算法評(píng)估制度，從合規(guī)角度來(lái)加強(qiáng)對(duì)人工智能領(lǐng)域的風(fēng)險(xiǎn)控制也逐漸成為重要手段

算法影響評(píng)估源于隱私影響評(píng)估，是一種基于設(shè)計(jì)的安全保障措施，能夠及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)并予以處理，盡可能避免或者減少風(fēng)險(xiǎn)的發(fā)生〔23〕。歐盟于2021年4月制定的人工智能法案（草案）即提出：開發(fā)高風(fēng)險(xiǎn)人工智能系統(tǒng)，需要進(jìn)行內(nèi)部事前人工智能影響評(píng)估。算法影響評(píng)估能在損害發(fā)生前對(duì)其是否應(yīng)當(dāng)被適用施加影響，本質(zhì)上是一種廣泛的預(yù)防措施，通過(guò)對(duì)治理結(jié)構(gòu)與內(nèi)控機(jī)制的持續(xù)影響和深刻改變，逐漸取代了公司法與企業(yè)治理在企業(yè)行為控制及監(jiān)督上的功能與作用，而且重塑了企業(yè)犯罪的規(guī)范表達(dá)與規(guī)制進(jìn)路〔24〕。因此，算法影響評(píng)估制度的建立無(wú)論對(duì)于企業(yè)還是信息主體都是有益的制度探索。

（三）建立健全評(píng)估我國(guó)的數(shù)據(jù)安全認(rèn)證制度是更具有可行性的算法治理路徑

我國(guó)的數(shù)據(jù)認(rèn)證是由獨(dú)立的第三方機(jī)構(gòu)為認(rèn)證主體，受企業(yè)委托而為的，以國(guó)家推薦性標(biāo)準(zhǔn)或行業(yè)標(biāo)準(zhǔn)等官方規(guī)范為認(rèn)證依據(jù)的，企業(yè)自愿接受嚴(yán)于基本安全評(píng)估要求①?gòu)亩岣咂湔J(rèn)可度〔25〕，作為一種激勵(lì)機(jī)制的高標(biāo)準(zhǔn)認(rèn)證。一方面，認(rèn)證以基于一定標(biāo)準(zhǔn)的評(píng)估為手段，以認(rèn)證機(jī)構(gòu)為具體落實(shí)該制度的核心，以相應(yīng)的監(jiān)管程序與法律責(zé)任為實(shí)施的保障。因此，從理論上來(lái)說(shuō)，只需合理制定認(rèn)證標(biāo)準(zhǔn)，設(shè)立相應(yīng)的認(rèn)證評(píng)估機(jī)構(gòu)規(guī)范執(zhí)行對(duì)企業(yè)的認(rèn)證評(píng)估，并建立健全對(duì)企業(yè)及認(rèn)證機(jī)構(gòu)的監(jiān)管制度及法律規(guī)范，即可有效發(fā)揮以認(rèn)證實(shí)現(xiàn)監(jiān)管的效果。另一方面，我國(guó)已經(jīng)具備個(gè)人信息保護(hù)認(rèn)證的實(shí)踐土壤。《個(gè)人信息保護(hù)法》已經(jīng)要求推進(jìn)個(gè)人信息保護(hù)認(rèn)證服務(wù)，在國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局四部門聯(lián)合開展App違法違規(guī)收集使用與個(gè)人信息專項(xiàng)治理行動(dòng)中，也明確鼓勵(lì)A(yù)pp運(yùn)營(yíng)者自愿通過(guò)App個(gè)人信息安全認(rèn)證，且鼓勵(lì)搜索引擎、應(yīng)用商店等明確標(biāo)識(shí)并優(yōu)先推薦通過(guò)認(rèn)證的App②，并制定了《移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序（App）安全認(rèn)證實(shí)施規(guī)則》作為認(rèn)證依據(jù)，指定中國(guó)網(wǎng)絡(luò)安全審查技術(shù)與認(rèn)證中心（CCRC）為從事App安全認(rèn)證的認(rèn)證機(jī)構(gòu)。認(rèn)證制度的引入對(duì)于算法治理具有重要的意義。歐盟《人工智能法案（草案）》第49條即明確了對(duì)CE合規(guī)認(rèn)證標(biāo)志的要求。企業(yè)如需適用高風(fēng)險(xiǎn)的AI系統(tǒng)，則需要在明顯、清晰及不可磨滅的位置粘貼CE標(biāo)志，此即為對(duì)人工智能安全認(rèn)證。

綜上可見(jiàn)，相比于事后的算法解釋私人賦權(quán)制度，事前的內(nèi)部化算法影響評(píng)估與外部算法安全認(rèn)證及主體的事后反對(duì)權(quán)更有利于建立一個(gè)完善健康具有可持續(xù)性的制度體系。

我國(guó)個(gè)人信息保護(hù)體系之下，并不存在事后的算法解釋權(quán)，這與我國(guó)個(gè)人信息主體的決定權(quán)之設(shè)定價(jià)值相符。事前的算法告知義務(wù)能合理平衡個(gè)人信息主體與公共利益之間的復(fù)雜關(guān)系，能促進(jìn)“有意義的透明度”之提升。對(duì)于算法可能造成的損害提供更為直接且明確的救濟(jì)途徑是我國(guó)算法治理的核心要義。因此，重新審視算法帶來(lái)的風(fēng)險(xiǎn)與救濟(jì)的關(guān)系，在此基礎(chǔ)上加強(qiáng)對(duì)事后反對(duì)權(quán)的制度構(gòu)建，同時(shí)推動(dòng)認(rèn)證制度的不斷革新是我國(guó)算法治理的必由之路。

注釋：

①例如，《個(gè)人信息保護(hù)法》規(guī)定處理敏感信息、利用個(gè)人信息進(jìn)行自動(dòng)化決策、向境外提供個(gè)人信息等活動(dòng)時(shí)所必須進(jìn)行的安全評(píng)估或個(gè)人信息保護(hù)影響評(píng)估。而本文所討論的認(rèn)證評(píng)估是在此基礎(chǔ)上，要求更為苛刻的甚至具有“示范性”的評(píng)估。

②參見(jiàn)《中央網(wǎng)信辦、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局關(guān)于開展App違法違規(guī)收集使用與個(gè)人信息專項(xiàng)治理的公告》。

參考文獻(xiàn)：

〔1〕Frank P. The Black Box Society〔M〕. Cambridge：Har‐vard University Press，2015.

〔2〕柳經(jīng)緯.標(biāo)準(zhǔn)與法律的融合〔J〕.政法論壇，2016（06）：18-29.

〔3〕Lilian Edwards，MichaelVeale. Slave to the Algo‐rithm？Why a ’Right to an Explanation’ Is Probably Not the Remedy You Are Looking For〔J〕. Duke Law & Technology Re‐view，2017（18）：18-84.

〔4〕張凌寒.商業(yè)自動(dòng)化決策算法解釋權(quán)的功能定位與實(shí)現(xiàn)路徑〔J〕.江蘇大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2020（02）：51-60.

〔5〕朱俊.論大數(shù)據(jù)時(shí)代的算法解釋請(qǐng)求權(quán)〔J〕.寧夏社會(huì)科學(xué)，2021（04）：105-113.

〔6〕唐林垚.“脫離算法自動(dòng)化決策權(quán)”的虛幻承諾〔J〕.東方法學(xué)，2020（06）：18-33.

〔7〕Sandra Wachter，Brent Mittelstadt，LucianoFloridi. Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation〔J〕. In‐ternational Data Privacy Law，2017（02）：76-99.

〔8〕解正山.算法決策規(guī)制——以算法“解釋權(quán)”為中心〔J〕.現(xiàn)代法學(xué)，2020（01）：179-193.

〔9〕王利明.民法上的利益位階及其考量〔J〕.法學(xué)家，2014（01）：79-90.

〔10〕鄭曉劍.個(gè)人信息的民法定位及保護(hù)模式〔J〕.法學(xué)，2021（03）：116-130.

〔11〕丁曉東.論算法的法律規(guī)制〔J〕.中國(guó)社會(huì)科學(xué)，2020（12）：138-159.

〔12〕李成.人工智能歧視的法律治理〔J〕.中國(guó)法學(xué)，2021（02）：127-147.

〔13〕劉權(quán).論網(wǎng)絡(luò)平臺(tái)的數(shù)據(jù)報(bào)送義務(wù)〔J〕.當(dāng)代法學(xué)，2019（05）：3-12.

〔14〕萬(wàn)方.算法告知義務(wù)在知情權(quán)體系中的適用〔J〕.政法論壇，2021（06）：84-95.

〔15〕張欣.算法解釋權(quán)與算法治理路徑研究〔J〕.中外法學(xué)，2019（06）：1425-1445.

〔16〕張新寶，賴成宇.個(gè)人信息保護(hù)公益訴訟制度的理解與適用〔J〕.國(guó)家檢察官學(xué)院學(xué)報(bào)，2021（05）：55-74.

〔17〕許可，朱悅.算法解釋權(quán)：科技與法律的雙重視角〔J〕.蘇州大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2020（02）：61-69.

〔18〕沈偉偉.個(gè)人信息匿名化的迷思——以《個(gè)人信息保護(hù)法（草案）》匿名化除外條款為例〔J〕.上海政法學(xué)院學(xué)報(bào)（法治論叢），2021（05）：110-121.

〔19〕陳吉棟.個(gè)人信息的侵權(quán)救濟(jì)〔J〕.交大法學(xué)，2019（04）：40-53.

〔20〕程嘯.侵害個(gè)人信息權(quán)益的侵權(quán)責(zé)任〔J〕.中國(guó)法律評(píng)論，2021（05）：59-69.

〔21〕張欣.免受自動(dòng)化決策約束權(quán)的制度邏輯與本土構(gòu)建〔J〕.華東政法大學(xué)學(xué)報(bào)，2021（05）：27-40.

〔22〕張恩典.大數(shù)據(jù)時(shí)代的算法解釋權(quán)：背景、邏輯與構(gòu)造〔J〕.法學(xué)論壇，2019（04）：152-160.

〔23〕劉云.論可解釋的人工智能之制度構(gòu)建〔J〕.江漢論壇，2020（12）：113-119.

〔24〕萬(wàn)方.合規(guī)計(jì)劃作為預(yù)防性法律規(guī)則的規(guī)制邏輯與實(shí)踐進(jìn)路〔J〕.政法論壇，2021（06）：123-135.

〔25〕Dennis D. Hirsch. Going Dutch？Collaborative Dutch Privacy Regulation and The Lessons It Holds For U.S. Privacy Law〔J〕. Michigan State Law Review，2013（01）：83-162.

責(zé)任編輯楊在平