算法偏見的法律矯正研究

趙學(xué)剛 馬羽男

（西南大學(xué)法學(xué)院，重慶400715）

當(dāng)今信息化社會(huì)中，實(shí)現(xiàn)了全球海量數(shù)據(jù)的集中與分享，這種環(huán)境下推動(dòng)了云計(jì)算、大數(shù)據(jù)、人工智能等現(xiàn)代信息技術(shù)的迅速發(fā)展。尤其是算法①算法是在有限的步驟內(nèi)，將輸入值（Inputs）轉(zhuǎn)化為輸出值（Out-puts），其意義在于減少計(jì)算機(jī)完成任務(wù)的效率。為了提高效率，解決同一種類問(wèn)題，可將其處理問(wèn)題的過(guò)程模式化，就形成了算法。技術(shù)，其依托著數(shù)據(jù)信息的幾何倍數(shù)增長(zhǎng)以及機(jī)器學(xué)習(xí)技能的提升，對(duì)社會(huì)整個(gè)領(lǐng)域產(chǎn)生深遠(yuǎn)的影響〔1〕。然而，以統(tǒng)計(jì)學(xué)為支撐的算法，考察的是事物之間的相關(guān)性和蓋然性，而非必然的因果關(guān)系，其決策結(jié)果可能是根據(jù)偶然性因素做出的，并不能保證正確，所以先進(jìn)的算法技術(shù)給社會(huì)各方面帶來(lái)極大便利的同時(shí)，也潛藏著諸多新的社會(huì)問(wèn)題。著眼于全世界而言，算法偏見或算法歧視、算法操控等社會(huì)問(wèn)題已頻繁暴露出來(lái)，如通過(guò)COMPAS 罪犯再犯概率預(yù)測(cè)系統(tǒng)評(píng)估的結(jié)論顯示，黑人再犯罪率明顯高于白人，前者是后者的兩倍；美國(guó)每周有超過(guò)1000 人被機(jī)場(chǎng)使用的算法錯(cuò)誤地標(biāo)記為恐怖分子。相對(duì)于無(wú)端的歧視與腐敗而言，這種披著科學(xué)外衣顯示出的結(jié)果通常很難引起民眾的廣泛質(zhì)疑，相反，融合了自動(dòng)算法與人工智能形成的決策機(jī)制得到民眾的信服，但同時(shí)也使得人們更容易受到歧視并且限制了民眾的自我選擇〔2〕。目前學(xué)界多關(guān)注事后救濟(jì)措施，并未著眼于算法偏見的源頭，因此其制定的策略可行性嚴(yán)重不足。如何對(duì)算法偏見進(jìn)行有效規(guī)制是當(dāng)今信息化社會(huì)中的焦點(diǎn)問(wèn)題。

一、算法偏見的常見類型歸納

現(xiàn)代社會(huì)中，算法自動(dòng)決策系統(tǒng)在各個(gè)領(lǐng)域的應(yīng)用極為普遍，算法偏見問(wèn)題也比較頻繁。由于本文篇幅有限，在此只對(duì)算法技術(shù)呈現(xiàn)出來(lái)的價(jià)格、就業(yè)、信用三方面偏見的弊端進(jìn)行具體考察分析，發(fā)現(xiàn)其中的基本特性，總結(jié)出算法偏見治理過(guò)程中的癥結(jié)，為后續(xù)應(yīng)對(duì)策略的制定提供參考。

（一）算法的價(jià)格偏見

價(jià)格偏見是指在交易條件、交易商品質(zhì)量、等級(jí)相同的情況下，供應(yīng)商針對(duì)不同的交易對(duì)象提供差異化的價(jià)格。企業(yè)實(shí)施價(jià)格偏見的目的追根溯源不過(guò)是為了賺取消費(fèi)者剩余②消費(fèi)者剩余，是指消費(fèi)者愿意為一種商品支付的最高價(jià)減去實(shí)際支付的價(jià)格。。一般來(lái)說(shuō)，價(jià)格偏見的落實(shí)在如下三方面條件缺一不可：首先是企業(yè)在市場(chǎng)競(jìng)爭(zhēng)中占據(jù)明顯優(yōu)勢(shì)，擁有定價(jià)的話語(yǔ)權(quán)。若不具備競(jìng)爭(zhēng)優(yōu)勢(shì)，在市場(chǎng)完全競(jìng)爭(zhēng)狀況下，企業(yè)也就不具備定價(jià)的能力，商品價(jià)格由市場(chǎng)形成；其次是企業(yè)需要全面掌握眾多消費(fèi)群體的支付意愿與消費(fèi)能力，以此作為差異化定價(jià)的依據(jù)；最后對(duì)于以較低的價(jià)格購(gòu)進(jìn)商品的購(gòu)買者，企業(yè)需具備防止其高價(jià)轉(zhuǎn)賣以獲得價(jià)格差利的能力。若以較低的價(jià)格購(gòu)進(jìn)商品的購(gòu)買者以較高的價(jià)格轉(zhuǎn)售商品，對(duì)于企業(yè)獲利產(chǎn)生嚴(yán)重影響，其很難獲得較高的出售價(jià)格的利潤(rùn)，價(jià)格偏見的目的就不容易實(shí)現(xiàn)。因此，企業(yè)全面掌握消費(fèi)者最高支付意愿是實(shí)施價(jià)格偏見策略的重要前提。然而在具體實(shí)踐中，企業(yè)在這方面信息的獲取中存在較多困難，限制了其價(jià)格偏見策略的實(shí)施。隨著數(shù)據(jù)挖掘、分析工具等新的人工智能技術(shù)的進(jìn)步，上述困難得到了有效解決。企業(yè)借助于先進(jìn)的算法技術(shù)，根據(jù)消費(fèi)者消費(fèi)明細(xì)、網(wǎng)上瀏覽記錄等信息，統(tǒng)計(jì)分析出消費(fèi)者的消費(fèi)偏好、支付意愿與能力等眾多詳細(xì)信息，進(jìn)而通過(guò)針對(duì)性地定價(jià)進(jìn)行驗(yàn)證，得到較為準(zhǔn)確的消費(fèi)者偏好與能力信息，以此為差異化價(jià)格策略的制定與實(shí)施提供科學(xué)指導(dǎo)。即人們常說(shuō)的“大數(shù)據(jù)殺熟”。這種環(huán)境中，借助于大數(shù)據(jù)，那些在市場(chǎng)中不具備明顯競(jìng)爭(zhēng)優(yōu)勢(shì)的企業(yè)也可以輕松地獲得消費(fèi)者偏好、支付意愿等信息，進(jìn)而為價(jià)格偏見策略實(shí)施提供指導(dǎo)。

（二）算法的就業(yè)偏見

數(shù)據(jù)挖掘等人工智能技術(shù)的不斷發(fā)展與普及，催生了算法技術(shù)在人力分析系統(tǒng)中的廣泛應(yīng)用。近來(lái)，更多的用人單位在員工招聘、考核、升遷、淘汰等人事調(diào)整中依靠算法技術(shù)做出決策。有些人認(rèn)為，算法技術(shù)在人力資源管理中的應(yīng)用大大提高了效率，同時(shí)也提升了決策的客觀性，避免了人工決策的主觀性。然而，也有些人指出，算法技術(shù)會(huì)對(duì)現(xiàn)有的偏見產(chǎn)生惡化，相關(guān)數(shù)據(jù)不具備天然的中立性，甚至?xí)a(chǎn)生新的偏見。通過(guò)廣泛的研究也發(fā)現(xiàn)，算法技術(shù)在人力資源管理中的應(yīng)用引發(fā)了嚴(yán)重的就業(yè)歧視現(xiàn)象。如某個(gè)用人單位通過(guò)員工家與單位的距離來(lái)評(píng)估員工工作的穩(wěn)定性。若以此為員工招錄的依據(jù)，則對(duì)于那些家庭住址距離公司較遠(yuǎn)的應(yīng)聘者構(gòu)成了歧視。研究者Latanya Sweeney 分析表明，通過(guò)谷歌系統(tǒng)搜索，輸入非裔美國(guó)人比輸入白種人的名字，軟件出現(xiàn)的犯罪審查資料就會(huì)多一些〔3〕。由此表明，算法能夠跟名字和種族密切相關(guān)，同時(shí)對(duì)少數(shù)種族人就業(yè)情況有不利影響。研究者Anja Lambrecht 等人分析指出，被推送的有關(guān)科技與科技數(shù)學(xué)或者工程等名詞廣告中，男性高于女性很多。在卡內(nèi)基梅隆大學(xué)研究者AmitDatta 等分析探究關(guān)于求職人員性別和發(fā)送招聘信息間的聯(lián)系，先根據(jù)系統(tǒng)性能擬定一般使用者瀏覽求職網(wǎng)站，之后通過(guò)統(tǒng)計(jì)谷歌發(fā)送“年薪20 萬(wàn)美元以上的相關(guān)工作信息數(shù)據(jù)”，總結(jié)出男士用戶得到的推送要遠(yuǎn)高于女性用戶，其中男士有1852 次，女性只有318 次，分析看到女士受到高薪工作的推薦只占男性的六分之一比例〔4〕。此類研究表明，算法本身肯定不具備種族與性別的特征偏見，一旦算法設(shè)計(jì)者具有自身偏見，則歧視就會(huì)充斥到其中且一直被使用。

（三）算法的信用偏見

如果征信行業(yè)發(fā)展興旺，必然會(huì)帶來(lái)諸多正面影響，首先通過(guò)提高金融風(fēng)險(xiǎn)識(shí)別方式有利于加快金融業(yè)發(fā)展，促進(jìn)信用消費(fèi)，有助于提高經(jīng)濟(jì)發(fā)展效率，增加經(jīng)濟(jì)收益，同時(shí)促進(jìn)低碳經(jīng)濟(jì)。但是其也存在問(wèn)題，在于征信業(yè)具有的信用歧視一直以來(lái)并不能受到重視。每個(gè)國(guó)家都有關(guān)于征信的法律制度規(guī)定，不允許按照不同民族以及信仰、籍貫、年齡與性別等諸多因素針對(duì)某個(gè)人的信用做出不恰當(dāng)評(píng)判或者直接差評(píng)待遇，但是相關(guān)的信用評(píng)分系統(tǒng)總是背道而馳。此時(shí)，算法在信用歧視中發(fā)揮的用途重點(diǎn)表現(xiàn)為，研究征信行業(yè)歧視相關(guān)情況的原因均來(lái)自信用評(píng)分算法，類似于黑盒，以商業(yè)機(jī)密對(duì)其保護(hù)致使外部以及國(guó)家監(jiān)控部門均不能進(jìn)入。征信行業(yè)的代表提到，保證算法秘密性的目的在于防止消費(fèi)人員出現(xiàn)信用欺騙；還有部分人指出，即便了解算法也不能理解它的繁雜。信用評(píng)價(jià)在美國(guó)具有重要意義，成為金融的必備證件，決定個(gè)人是否擁有工作和貸款以及保險(xiǎn)或者汽車租房等事項(xiàng)。美國(guó)的征信市場(chǎng)在其發(fā)展過(guò)程中，始終面臨著問(wèn)題：一方面是錯(cuò)誤率較高，據(jù)有關(guān)部門調(diào)查分析得出在消費(fèi)群體中大約25 個(gè)百分點(diǎn)的人的信用報(bào)告出現(xiàn)不止一處影響評(píng)分的錯(cuò)誤；另一方面信用評(píng)分的因素與信用降級(jí)的原因均不明確，當(dāng)消費(fèi)者發(fā)現(xiàn)報(bào)告存在錯(cuò)誤時(shí)又很難被救濟(jì)，有關(guān)征信部門難以針對(duì)低信用評(píng)分說(shuō)明原因，甚至于，企業(yè)根據(jù)此類信用報(bào)告對(duì)部分群體產(chǎn)生歧視，包括女士以及少數(shù)民族與殘疾人員等，造成此類弱勢(shì)群體在就業(yè)、安家以及貸款等事項(xiàng)上要付出更高的代價(jià)。

二、算法偏見的緣由分析

算法偏見追根溯源，最主要的兩個(gè)方面原因即機(jī)器學(xué)習(xí)偏見以及數(shù)據(jù)的偏見屬性。這兩種原因又在運(yùn)算的過(guò)程中相互影響，導(dǎo)致算法偏見的問(wèn)題愈演愈烈，規(guī)制起來(lái)困難重重。

（一）機(jī)器學(xué)習(xí)偏見

所謂機(jī)器學(xué)習(xí)，就是計(jì)算機(jī)程序由經(jīng)驗(yàn)E 學(xué)習(xí)同時(shí)完成任務(wù)T，機(jī)器學(xué)習(xí)就是提升完成任務(wù)的性能P，使其伴隨積累經(jīng)驗(yàn)得以提升。應(yīng)用于垃圾郵件分類中，經(jīng)驗(yàn)E 的身份指郵件集合，任務(wù)T 的身份指識(shí)別郵件同時(shí)把它分出類別，所謂的性能度量P 是等同于精準(zhǔn)度的比例。如此運(yùn)行程序的過(guò)程就是訓(xùn)練，郵件集合指訓(xùn)練數(shù)據(jù)，所謂機(jī)器學(xué)習(xí)即程序依靠實(shí)例提取方法同時(shí)逐漸優(yōu)化的過(guò)程，促進(jìn)不成熟的算法與模型通過(guò)實(shí)踐逐漸得到優(yōu)化的過(guò)程〔5〕。根據(jù)階段劃分，把機(jī)器學(xué)習(xí)可劃分成為兩個(gè)階段，一是機(jī)器學(xué)習(xí)訓(xùn)練階段，二是模型運(yùn)用階段〔6〕。又將第一階段細(xì)分為九個(gè)步驟，具體如圖1 所示。

圖1 機(jī)器學(xué)習(xí)階段簡(jiǎn)圖

算法設(shè)計(jì)人員把自我價(jià)值判斷融入整個(gè)過(guò)程，包括收集數(shù)據(jù)、清洗與分割等過(guò)程。也就是說(shuō)，數(shù)據(jù)中隱藏的社會(huì)歧視與算法設(shè)計(jì)人員的個(gè)人意識(shí)被融入了模型訓(xùn)練中。所以，機(jī)器學(xué)習(xí)中存在的偏見來(lái)源于問(wèn)題定義，通過(guò)模型訓(xùn)練逐漸成熟，在應(yīng)用過(guò)程中得以強(qiáng)化。機(jī)器學(xué)習(xí)偏見重點(diǎn)來(lái)源于兩個(gè)方面：

1.算法設(shè)計(jì)者的個(gè)人意識(shí)?？v觀機(jī)器學(xué)習(xí)進(jìn)展情況，算法設(shè)計(jì)人員的評(píng)判糅合在機(jī)器學(xué)習(xí)的每個(gè)過(guò)程，從擬解決問(wèn)題的轉(zhuǎn)換到收集數(shù)據(jù)再到模型的完善與評(píng)估，都由算法設(shè)計(jì)者主觀決斷，其評(píng)斷決定著輸入與結(jié)果的變量以及收集數(shù)據(jù)的范圍與如何選擇數(shù)據(jù)特征。其主觀意識(shí)貫穿于模型中，使之成為飽含個(gè)人偏見的模型。

2.后期學(xué)習(xí)過(guò)程中出現(xiàn)的偏見。不論在模型的訓(xùn)練過(guò)程還是應(yīng)用過(guò)程，都使用機(jī)器學(xué)習(xí)技術(shù)，人工智能的運(yùn)用最終實(shí)現(xiàn)機(jī)器智能化。根據(jù)實(shí)踐經(jīng)驗(yàn)逐漸吸收優(yōu)勢(shì)用以補(bǔ)充模型完整，模型運(yùn)用的過(guò)程會(huì)由于新數(shù)據(jù)囊括的偏見使算法異化。2016 年曾推出的機(jī)器人Tay，發(fā)布不到一天的時(shí)間便展現(xiàn)出其種族歧視、性別歧視與反猶太人的“不良一面”，因此被迫下線。

（二）算法偏見的數(shù)據(jù)屬性緣由

1.數(shù)據(jù)的偶然性

各種樣本存在的地位差距較大，數(shù)據(jù)具備偶然性，必將造成算法出現(xiàn)歧視現(xiàn)象。樣本多與少?zèng)Q定大部分族群以及少數(shù)民族的差異性。如何對(duì)算法數(shù)據(jù)進(jìn)行訓(xùn)練？大多數(shù)依賴于抽樣，但很難保證隨機(jī)性，有關(guān)少數(shù)族群的數(shù)據(jù)就不容易被選擇，因此導(dǎo)致訓(xùn)練的結(jié)果偏向于在統(tǒng)計(jì)上占多數(shù)的族群。

另外，多數(shù)與少數(shù)族群對(duì)于特征空間具有的表現(xiàn)存在差異，出于方便設(shè)計(jì)，算法會(huì)不經(jīng)意間將少數(shù)族群部分不顯著特征的數(shù)據(jù)納入多數(shù)族群的不正確數(shù)據(jù)內(nèi)，而非仔細(xì)研究其是否正確，是否歸于少數(shù)族群。若某個(gè)算法可以保證85%的精準(zhǔn)度，它的精度已經(jīng)達(dá)標(biāo)。在實(shí)踐中已經(jīng)應(yīng)用在芝加哥警局的工作助力算法，即便所有黑人族群的計(jì)算結(jié)果不正確，也無(wú)太大影響。因?yàn)槠鋽?shù)量少，占有百分比低，不會(huì)使全部預(yù)測(cè)精準(zhǔn)度有大的改變。

2.數(shù)據(jù)的不敏感屬性

數(shù)據(jù)本身是具有敏感屬性的，但是在大數(shù)據(jù)時(shí)代，這些被隱藏的屬性很難被保護(hù)。因?yàn)槭占臄?shù)據(jù)豐富，源頭較多，其內(nèi)部間很強(qiáng)的相互聯(lián)系性以及相互印證等因素，決定了大數(shù)據(jù)具有多樣性。大數(shù)據(jù)算法擁有的很大的優(yōu)勢(shì)，是能夠根據(jù)現(xiàn)有數(shù)據(jù)屬性預(yù)測(cè)出當(dāng)前未知屬性，比如性別與種族。原因在于，部分原本受到保護(hù)的屬性，顯式或者隱式地通過(guò)編碼出現(xiàn)在多樣化的特征空間內(nèi)。

例如，若設(shè)定大數(shù)據(jù)算法不可以依靠網(wǎng)頁(yè)與運(yùn)用過(guò)程得到使用者精準(zhǔn)的族群資料。但這樣卻沒(méi)有對(duì)現(xiàn)如今大數(shù)據(jù)算法造成困難。沒(méi)有這些信息，大數(shù)據(jù)依然可以依靠其他方面維度的印記，認(rèn)知并標(biāo)識(shí)指定群體。比如在美國(guó)，大數(shù)據(jù)算法單純依靠使用者姓名的獨(dú)特性質(zhì)，同時(shí)依靠其他維度的相關(guān)歷史背景特點(diǎn)，使得大數(shù)據(jù)操作者相對(duì)精準(zhǔn)地標(biāo)識(shí)黑人群體。原因在于，從前歷史中記載，非洲黑人起初被運(yùn)至美國(guó)時(shí)，名字比較特殊，均由奴隸主賜予。比方利用白人常見姓名約翰與威廉，稍微修改為杰克和威爾，就賜予了男性奴隸；比方某個(gè)男性姓名是杰克并非約翰，根據(jù)歷史記錄，那么很大程度上其會(huì)被標(biāo)識(shí)成黑人。同樣道理，如果見到姓名為熱依汗古麗，就很大概率定位為新疆女性。因此研究得出，某些數(shù)據(jù)曾在保護(hù)中的敏感性質(zhì)，應(yīng)用多維算法后，失去了私密性。

3.數(shù)據(jù)的偏見性

在計(jì)算機(jī)科學(xué)領(lǐng)域，有一個(gè)知名度較高的“GIGO 定律（Garbage In，Garbage Out）”，指計(jì)算機(jī)運(yùn)算過(guò)程中如果輸入的是垃圾數(shù)據(jù)，那么輸出的也是垃圾數(shù)據(jù)。面對(duì)大數(shù)據(jù)算法存在的歧視性，也存在類似的說(shuō)法?！蹲匀弧飞缯撝?，通過(guò)“偏見進(jìn)，則偏見出（Bias In， Bias Out）”對(duì)此進(jìn)行闡述〔7〕。

在大數(shù)據(jù)時(shí)代，收集數(shù)據(jù)人員與算法設(shè)計(jì)者均存在自身的偏見卻不自知，會(huì)將其帶入數(shù)據(jù)本身隱藏在其代碼內(nèi)，最后得出帶有偏見的結(jié)論?，F(xiàn)實(shí)中，跟銀行關(guān)于企業(yè)貸后監(jiān)管實(shí)施合作過(guò)程中，識(shí)別到某個(gè)指定籍貫者創(chuàng)辦的企業(yè)出現(xiàn)數(shù)額貸款且不能按時(shí)償還情況，此數(shù)據(jù)結(jié)論顯示給銀行后，便會(huì)對(duì)股東人員內(nèi)對(duì)應(yīng)籍貫與法人注冊(cè)在本地區(qū)的單位，增加更高的要求，同時(shí)特意收緊貸款業(yè)務(wù)。這并非完美的處理方式，卻造成數(shù)據(jù)與模型更加復(fù)雜。此地域存在的高風(fēng)險(xiǎn)情況，很大程度上可能由于本地的特殊經(jīng)濟(jì)形勢(shì)，如實(shí)踐中在鄂爾多斯由于能源價(jià)位降低出現(xiàn)系統(tǒng)性經(jīng)濟(jì)風(fēng)險(xiǎn)，在溫州由于違法集資現(xiàn)象使整個(gè)范圍受限制。當(dāng)狀況結(jié)束后，出現(xiàn)的問(wèn)題會(huì)得以緩和且消失。但是，這些情況一旦出現(xiàn)，數(shù)據(jù)的偏見均存在其中，以前的技術(shù)人員可能已經(jīng)進(jìn)行了調(diào)動(dòng)，而新的技能管理者并不能很好地了解此類特殊的數(shù)據(jù)采集與風(fēng)控模型的思維和邏輯，因此造成此類針對(duì)特殊區(qū)域的風(fēng)控偏見將始終存在并延續(xù)下去。

三、算法偏見法律矯正的必然與必要

自網(wǎng)絡(luò)形成至今，與網(wǎng)絡(luò)相關(guān)的法律也不斷成型和完善，即便如此，法律對(duì)網(wǎng)絡(luò)的約束仍始終存有一定的疏漏和缺失。社會(huì)的進(jìn)步，離不開先進(jìn)技術(shù)的開拓者，更離不開基本價(jià)值的守望者。隨著人工智能技術(shù)的快速崛起，法律對(duì)這一領(lǐng)域的引導(dǎo)與規(guī)制更應(yīng)引起足夠的重視。

（一）為強(qiáng)化人的主體地位來(lái)規(guī)制算法

一旦我們將重心過(guò)多地投向于大數(shù)據(jù)產(chǎn)業(yè)發(fā)展，而對(duì)我們的基本權(quán)利以及自由保護(hù)予以嚴(yán)重的忽視，勢(shì)必會(huì)對(duì)我們的生活造成巨大的威脅。人并非數(shù)據(jù)，無(wú)法像電子一樣進(jìn)行數(shù)據(jù)化、進(jìn)行整合，更無(wú)法像數(shù)據(jù)一樣進(jìn)行自動(dòng)化區(qū)分、評(píng)分和決策〔8〕。通常情況下，算法權(quán)力并不會(huì)將我們視為“主體”加以對(duì)待，久而久之，在算法規(guī)訓(xùn)下，人們逐漸成為可計(jì)算、可預(yù)測(cè)甚至是可控的客體〔9〕。試想，一旦我們的投資觀念、消費(fèi)心理等無(wú)不被機(jī)器學(xué)習(xí)算法分析所捕獲，并基于此推出讓我們無(wú)法拒絕的“套餐”，則多數(shù)人勢(shì)必會(huì)將選擇的自由權(quán)主動(dòng)出讓，并對(duì)自己所獲得的服務(wù)給予認(rèn)可。

人是世界的主體這一觀念是世人所共識(shí)的，沙特因向機(jī)器人賦予公民身份而備受關(guān)注〔10〕。隨著這一事件的轟動(dòng)，標(biāo)志著世界科學(xué)技術(shù)水平已然發(fā)展到相當(dāng)高的層面，機(jī)器人在意識(shí)以及創(chuàng)造性等方面與人類正在日趨同步。但是從法律層面來(lái)看，機(jī)器人的法律主體仍是由人所賦予，換言之，法律應(yīng)然和實(shí)然主體始終是人類。

德沃金表示，在眾多個(gè)人權(quán)利中，關(guān)懷與尊重的平等權(quán)利尤為重要。具體來(lái)說(shuō)，即每個(gè)人都應(yīng)享有“作為平等的人對(duì)待”“社會(huì)應(yīng)當(dāng)予以尊重，承認(rèn)其尊嚴(yán)以及平等考慮”的自然權(quán)利〔11〕。鑒于此，算法的暗箱操作需要破除，通過(guò)對(duì)算法法律規(guī)制的重新梳理與強(qiáng)化，確保這一算法與社會(huì)倫理基礎(chǔ)、價(jià)值基礎(chǔ)更加貼合。在信息技術(shù)快速覆蓋和普及的現(xiàn)今，活躍于網(wǎng)絡(luò)社會(huì)中的人更應(yīng)對(duì)平等對(duì)待給予關(guān)注，凸顯人這一主體，正視網(wǎng)絡(luò)技術(shù)，從而充分利用和發(fā)揮這項(xiàng)技術(shù)，更好地為我們服務(wù)。

（二）為保護(hù)數(shù)據(jù)的權(quán)利來(lái)規(guī)制算法

縱觀計(jì)算機(jī)技術(shù)快速發(fā)展，其參與人們生活的程度也隨之深入，基于傳統(tǒng)媒體進(jìn)行傳輸?shù)男畔⒕D(zhuǎn)化為數(shù)據(jù)上傳至網(wǎng)絡(luò)?，F(xiàn)如今，數(shù)據(jù)分析技術(shù)在數(shù)據(jù)處理方面日漸龐大。齊愛民教授曾表示，“電子檔案中的信息和載體可分離”〔12〕。在人工智能的大環(huán)境下，數(shù)據(jù)是絕大多數(shù)信息的載體。與此同時(shí)，信息和數(shù)據(jù)兩者間又存有顯著的差異，《網(wǎng)絡(luò)安全法》對(duì)此給出了詳盡的闡釋①《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第76 條規(guī)定：網(wǎng)絡(luò)數(shù)據(jù)，是指通過(guò)網(wǎng)絡(luò)收集、存儲(chǔ)、傳輸、處理和產(chǎn)生的各種電子數(shù)據(jù)；個(gè)人信息，是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別自然人個(gè)人身份的各種信息。。

網(wǎng)絡(luò)中，數(shù)據(jù)實(shí)則是可編碼的“0/1”字符，而對(duì)于信息載體的數(shù)據(jù)來(lái)說(shuō)，其是不具備價(jià)值判斷的。波斯納大法官曾指出，在經(jīng)過(guò)載體、編譯代碼、服務(wù)協(xié)議等一系列操作后，數(shù)據(jù)才會(huì)形成實(shí)際法律關(guān)系，進(jìn)而具備天然工具中立性〔13〕。信息在實(shí)質(zhì)上是人對(duì)數(shù)據(jù)的主觀理念與認(rèn)知，其中囊括人的情感。并且，受當(dāng)時(shí)情緒、知識(shí)背景等因素的影響不同，對(duì)數(shù)據(jù)的解讀也會(huì)形成差異。不僅如此，可量化是數(shù)據(jù)最顯著的特征，因此，數(shù)據(jù)是可被存儲(chǔ)、傳輸乃至交易的。最近幾年，大數(shù)據(jù)交易平臺(tái)對(duì)其財(cái)產(chǎn)屬性更是給出了進(jìn)一步的強(qiáng)化②我國(guó)北京中關(guān)村、貴陽(yáng)和武漢等地相繼設(shè)立了大數(shù)據(jù)交易平臺(tái)，在數(shù)據(jù)交易的過(guò)程當(dāng)中數(shù)據(jù)的財(cái)產(chǎn)屬性得以凸顯。值得注意的是，只有成規(guī)模的數(shù)據(jù)才具有高額的價(jià)值，針對(duì)個(gè)人而言一條數(shù)據(jù)僅需數(shù)角人民幣。。

綜上所述，數(shù)據(jù)被機(jī)器識(shí)別，信息則由人們把控，也正因如此，加強(qiáng)主體對(duì)數(shù)據(jù)的控制應(yīng)是算法規(guī)制的重中之重，換言之，便是對(duì)數(shù)據(jù)權(quán)利的法律給予足夠的維護(hù)和保護(hù)。相反，當(dāng)對(duì)數(shù)據(jù)主體的數(shù)據(jù)控制權(quán)益給予過(guò)度的強(qiáng)調(diào)，數(shù)據(jù)流動(dòng)將不再充分，服務(wù)以及價(jià)格也難以享有到最優(yōu)和最佳。針對(duì)這一點(diǎn)值得注意的是，在數(shù)據(jù)保護(hù)與數(shù)據(jù)流動(dòng)兩種利益中，數(shù)據(jù)權(quán)利保護(hù)成功的關(guān)鍵，主要取決于兩者間的平衡與恰當(dāng)。

（三）為引領(lǐng)技術(shù)的發(fā)展來(lái)規(guī)制算法

現(xiàn)如今，互聯(lián)網(wǎng)已然將整個(gè)社會(huì)全部覆蓋，億萬(wàn)網(wǎng)民通過(guò)這一平臺(tái)獲取所需信息、彼此交互，無(wú)論是對(duì)他們的思維抑或?qū)r(jià)值觀念，都或多或少產(chǎn)生了一定的影響〔14〕。也正是如此，對(duì)互聯(lián)網(wǎng)技術(shù)發(fā)展、應(yīng)用的適時(shí)引導(dǎo)便顯得尤為重要，而法律對(duì)算法的規(guī)制是確保這項(xiàng)技術(shù)始終依照合法軌道發(fā)展的關(guān)鍵。維系科學(xué)與人們生活的核心來(lái)自科技，從另一個(gè)角度分析來(lái)看，科技只有合理、正常地被運(yùn)用，人們的生活才會(huì)向著良性的一面發(fā)展和改善〔15〕。將這種模式放到數(shù)據(jù)方面亦是如此，數(shù)據(jù)的準(zhǔn)確性、有效性是為用戶提供更優(yōu)質(zhì)服務(wù)的前提，唯有如此，才能實(shí)現(xiàn)對(duì)用戶體驗(yàn)感知的提升和優(yōu)化，比如前陣火爆網(wǎng)絡(luò)的中國(guó)科技大學(xué)隱形資助貧困生就是極具說(shuō)服力的一例③中科大學(xué)生資助管理中心利用一卡通系統(tǒng)留下的就餐數(shù)據(jù)，分析篩選家庭確有困難、每個(gè)月在學(xué)校食堂消費(fèi)超過(guò)一定次數(shù)而不超過(guò)一定金額的學(xué)生，在不公開宣布的情況下對(duì)之進(jìn)行“隱形資助”，緩解了學(xué)生燃眉之急的同時(shí)又保護(hù)了學(xué)生的自尊心。。由于每一主體基于“數(shù)字化生存”跡象的不同認(rèn)知和理解，從而對(duì)我們就算法精準(zhǔn)分析與定位的憂慮給予了充分的印證。

法理學(xué)始終圍繞的課題之一即是法律和科學(xué)間的關(guān)系。鑒于自然偏好的邏輯是技術(shù)治理所遵循的重點(diǎn)，而社會(huì)共識(shí)邏輯又是法律治理遵循的關(guān)鍵，對(duì)技術(shù)治理的歸化與引領(lǐng)顯然需要為人類制度生活載體而生的法律來(lái)實(shí)現(xiàn)〔16〕。其中，以法律價(jià)值對(duì)技術(shù)發(fā)展引領(lǐng)最為重要。譬如在技術(shù)治理過(guò)程中，人們可以自覺(jué)參照相應(yīng)的法律價(jià)值選擇適宜的工具，以此實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)社會(huì)技術(shù)治理手段的有效疏導(dǎo)〔17〕?？茖W(xué)的飛速發(fā)展同時(shí)，法律也應(yīng)最大限度地發(fā)揮其作用，保持與科學(xué)發(fā)展的同步。

四、算法偏見的個(gè)人信息保護(hù)的立法矯正

在短期內(nèi)，對(duì)算法偏見的各個(gè)方面分別立法規(guī)制所需投入的成本過(guò)高，因此，可脫離這些部門法的拘束，以個(gè)人信息保護(hù)法的形式加以規(guī)制。其理由包括三點(diǎn)：第一，一切所涉及的算法都來(lái)自收集、使用個(gè)人信息，因此，基于法律調(diào)整對(duì)象的層面來(lái)說(shuō)，在個(gè)人信息保護(hù)法中增加個(gè)人信息的非歧視性利用具有十足意義；第二，針對(duì)商業(yè)目的或非商業(yè)目的的數(shù)據(jù)非國(guó)家機(jī)關(guān)數(shù)據(jù)處理主體，可以提出信息披露、收集和處理資格、義務(wù)以及規(guī)范等方面的要求；第三，《個(gè)人信息保護(hù)法》早在第十三屆全國(guó)人大常委會(huì)立法規(guī)劃中被列入第一類項(xiàng)目，條件相對(duì)比較成熟，以此規(guī)制算法歧視的可行性較高。

（一）《個(gè)人信息保護(hù)法》應(yīng)明確被遺忘權(quán)的保護(hù)

如今，人們視龐大的數(shù)據(jù)分析理解為深度學(xué)習(xí)的過(guò)程，增加機(jī)器看與聽的感知便是數(shù)據(jù)分析理解這一過(guò)程的最終目的〔18〕。但是不可否認(rèn)，算法也有一定的缺陷，以冷啟動(dòng)最為典型。由實(shí)例分析來(lái)看，產(chǎn)品鏈接新用戶后需要先行對(duì)用戶相關(guān)數(shù)據(jù)加以收集，試想基于數(shù)據(jù)缺失的前提下顯然是無(wú)法進(jìn)行全面、有效的分析，算法的作用也將難以充分發(fā)揮。算法的優(yōu)勢(shì)更多地體現(xiàn)在對(duì)數(shù)據(jù)的獲取，人們一旦控制了數(shù)據(jù)，同樣也就控制了學(xué)習(xí)算法〔19〕。一位學(xué)者將算法與數(shù)據(jù)兩者間的關(guān)系比喻為食譜與食材，即算法為食譜，數(shù)據(jù)為食材，只有嚴(yán)格依照食譜將食材給予合理的搭配，才能制作出可口的菜品〔20〕。由此可以得知，實(shí)現(xiàn)算法法律規(guī)制的首要前提，便是從源頭對(duì)數(shù)據(jù)加以強(qiáng)化和保護(hù)。

當(dāng)下，世界范疇內(nèi)對(duì)數(shù)據(jù)保護(hù)的路徑可歸結(jié)為以下三種：第一，美國(guó)以對(duì)市場(chǎng)規(guī)范路徑的重視，實(shí)現(xiàn)對(duì)企業(yè)收集個(gè)人數(shù)據(jù)的規(guī)制，其對(duì)數(shù)據(jù)產(chǎn)業(yè)發(fā)展給予了十足的保護(hù)，而個(gè)人數(shù)據(jù)權(quán)利并未給予過(guò)多的要求，發(fā)生數(shù)據(jù)侵權(quán)主要交由FTC（聯(lián)邦貿(mào)易委員會(huì)）全權(quán)處理；第二，德國(guó)在對(duì)個(gè)人數(shù)據(jù)的保護(hù)方面主要采取聯(lián)邦數(shù)據(jù)保護(hù)專員制度來(lái)實(shí)現(xiàn)，這也是其數(shù)據(jù)保護(hù)法中尤為重要的一個(gè)組成部分，其中明確規(guī)定了自動(dòng)收集、處理和使用個(gè)人數(shù)據(jù)的公共機(jī)構(gòu)以及個(gè)人組織均需要書面任命一名數(shù)據(jù)保護(hù)官，并要求數(shù)據(jù)保護(hù)官需要具備過(guò)硬的專業(yè)知識(shí)和必要的責(zé)任意識(shí)；第三，歐盟對(duì)數(shù)據(jù)的保護(hù)則主要采用制定詳備的法案。譬如于2012 年發(fā)布的《通用數(shù)據(jù)保護(hù)條例（草案）》（GDPR 草案）至2016 通過(guò)再到2018 正式生效已歷經(jīng)六余年的時(shí)間，在此過(guò)程中，GDPR 對(duì)數(shù)據(jù)的規(guī)定也進(jìn)一步完善和細(xì)化，這一法案的巨大反響引起了全世界的高度重視。

被遺忘權(quán)的實(shí)現(xiàn)問(wèn)題，可以說(shuō)是控制數(shù)據(jù)、制約算法的重中之重。部分學(xué)者將數(shù)據(jù)和數(shù)據(jù)權(quán)利進(jìn)行了細(xì)化：“用戶對(duì)含有個(gè)人信息、使用痕跡的底層數(shù)據(jù)享有所有權(quán)；數(shù)據(jù)控制者對(duì)匿名處理過(guò)的數(shù)據(jù)擁有受限的所有權(quán)；數(shù)據(jù)控制者對(duì)經(jīng)過(guò)數(shù)據(jù)清理、加工后產(chǎn)生的衍生數(shù)據(jù)享有所有權(quán)”〔21〕?！睂?duì)底層數(shù)據(jù)的控制，可經(jīng)由與關(guān)聯(lián)主體脫鉤的方式實(shí)現(xiàn)數(shù)據(jù)被算法遺忘的目的，而刪除并非唯一的方式，還可采用數(shù)據(jù)脫敏的技術(shù)降低數(shù)據(jù)黏性，在搜索結(jié)果中劣后排列、表明爭(zhēng)議內(nèi)容。

（二）《個(gè)人信息保護(hù)法》應(yīng)提出算法結(jié)果拒絕權(quán)

1.算法透明和解釋的不可行性

在探討如何規(guī)制算法時(shí)，很多學(xué)者提出了要增加大數(shù)據(jù)算法的透明性，認(rèn)為“技術(shù)只有透明才能獲益”〔22〕。有的學(xué)者提出應(yīng)賦予個(gè)人對(duì)算法的解釋請(qǐng)求權(quán)，以“限制算法權(quán)力”。其要求是鑒于合同法、侵權(quán)法和消費(fèi)者保護(hù)法等都沒(méi)法充分救濟(jì)當(dāng)事人，法律應(yīng)賦予個(gè)人事后的算法解釋權(quán)；相對(duì)人可對(duì)自動(dòng)化決策及算法具體決定對(duì)相對(duì)人有法律上或經(jīng)濟(jì)上顯著影響的算法使用人提出異議，要求其對(duì)具體決策給出合理解釋〔23〕；自動(dòng)化決策的相對(duì)人即算法解釋權(quán)的主體，譬如量刑、假釋輔助算法決策相對(duì)人以及經(jīng)過(guò)算法評(píng)估不被雇傭的候選人等〔24〕。但是，筆者認(rèn)為算法的公開和解釋權(quán)并不可行。首先，從技術(shù)上就難以實(shí)現(xiàn)，因?yàn)樽詣?dòng)決策算法依賴大量的數(shù)據(jù)和強(qiáng)大的硬件的支撐，就連算法的設(shè)計(jì)者也無(wú)法完全解釋決策產(chǎn)生的依據(jù)；其次，就算算法真的公開，由于其專業(yè)性質(zhì)普通群眾也難以理解；最后，根本的一點(diǎn)在于這兩種解決方法并不適用于現(xiàn)代商業(yè)。其具體原因如下：

首先，公開算法邏輯侵犯商業(yè)秘密。如果法律強(qiáng)行要求企業(yè)解釋算法的過(guò)程，數(shù)據(jù)企業(yè)唯一的選擇就是將自動(dòng)決策算法程序給予公開，這等同企業(yè)將自身辛苦研究的成果進(jìn)行公布，將自身完全地暴露在競(jìng)爭(zhēng)對(duì)手面前。企業(yè)對(duì)算法秘密的保護(hù)是維護(hù)自身競(jìng)爭(zhēng)優(yōu)勢(shì)與商業(yè)機(jī)密最為有利的舉措，這一點(diǎn)對(duì)于競(jìng)爭(zhēng)日漸殘酷的市場(chǎng)來(lái)說(shuō)尤其重要〔25〕。算法解釋請(qǐng)求權(quán)在根本上干擾了互聯(lián)網(wǎng)企業(yè)的經(jīng)營(yíng)行為。

其次，算法解釋權(quán)擾亂商業(yè)模式。自動(dòng)決策算法的使用需要海量的數(shù)據(jù)和強(qiáng)大的硬件支持，強(qiáng)如谷歌、蘋果、阿里巴巴等互聯(lián)網(wǎng)巨鱷對(duì)大數(shù)據(jù)的處理都感覺(jué)吃不消。實(shí)體企業(yè)出于節(jié)省成本、降低技術(shù)難度等考慮也傾向于將業(yè)務(wù)外包，借助外部數(shù)據(jù)公司的輔助，在控制風(fēng)險(xiǎn)的同時(shí)實(shí)現(xiàn)收益的最大化。所以在這種外包模式下，算法解釋缺乏實(shí)質(zhì)意義。

2.數(shù)據(jù)主體應(yīng)享受算法結(jié)果拒絕權(quán)

受限于數(shù)據(jù)庫(kù)規(guī)模及算法的價(jià)值判斷局限，哪怕數(shù)據(jù)主體被處理的個(gè)人數(shù)據(jù)并不存在瑕疵，算法決定也可能是不合理的。所以，我國(guó)《個(gè)人信息保護(hù)法》可以借鑒歐盟《通用數(shù)據(jù)保護(hù)條例》第22 條的規(guī)定，賦予數(shù)據(jù)主體對(duì)算法結(jié)果的拒絕權(quán)。具體而言：首先，算法結(jié)果拒絕權(quán)針對(duì)的是自動(dòng)決策算法的運(yùn)行結(jié)果，以決策樹為基礎(chǔ)的簡(jiǎn)單決策算法并非該權(quán)利的規(guī)范對(duì)象；其次，算法結(jié)果拒絕權(quán)為事后的防御權(quán)，數(shù)據(jù)主體不得事先拒絕自動(dòng)決策算法的應(yīng)用；再次，算法結(jié)果拒絕權(quán)旨在防止和個(gè)體有關(guān)的決定僅僅通過(guò)對(duì)個(gè)體特征的自動(dòng)評(píng)估而做出，防止個(gè)體成為計(jì)算機(jī)的客體。如果自動(dòng)決策算法僅僅發(fā)揮輔助作用，最后結(jié)果實(shí)質(zhì)由人工做出，此時(shí)就并不存在個(gè)體淪為算法客體的危險(xiǎn)，也就沒(méi)有算法結(jié)果拒絕權(quán)的適用必要；最后，數(shù)據(jù)主體應(yīng)遭受算法結(jié)果的嚴(yán)重影響。不利影響并非限于法律狀態(tài)的改變，也包括對(duì)類似利益的影響，如支付方式和支付條件等。

3.數(shù)據(jù)企業(yè)應(yīng)享受正當(dāng)?shù)幕砻饪赡?/p>

法秩序?qū)ψ詣?dòng)決策算法的監(jiān)管，絕非以犧牲技術(shù)創(chuàng)新和社會(huì)進(jìn)步為代價(jià)。數(shù)據(jù)主體的權(quán)利同時(shí)也是數(shù)據(jù)企業(yè)的負(fù)擔(dān)。如果我國(guó)《個(gè)人信息保護(hù)法》承認(rèn)算法結(jié)果的拒絕權(quán)，那么也應(yīng)提供數(shù)據(jù)企業(yè)在下列情況的豁免可能。筆者認(rèn)為，《個(gè)人信息保護(hù)法》應(yīng)規(guī)定算法結(jié)果拒絕權(quán)在下列情況下并不適用：首先自動(dòng)決策算法使用乃締結(jié)或履行合同所必須；其次個(gè)人明確表示同意；最后是法律規(guī)定的其他情況。在此，“法律規(guī)定的其他情況”為兜底條款，目的是使得法秩序獲得根據(jù)客觀環(huán)境變化靈活調(diào)整規(guī)則的可能性。

4.數(shù)據(jù)企業(yè)應(yīng)提供充分的程序性保障

即使?jié)M足例外的豁免條件，數(shù)據(jù)主體也應(yīng)該提供妥當(dāng)?shù)某绦蛐员Ｕ?，以滿足數(shù)據(jù)主體的申訴要求。關(guān)于程序性保障，我國(guó)《個(gè)人信息保護(hù)法》可以通過(guò)《實(shí)施條例》來(lái)進(jìn)行細(xì)化：個(gè)人信息控制者應(yīng)主動(dòng)告知主管人員身份及便捷的聯(lián)系方式，應(yīng)確保數(shù)據(jù)主體表達(dá)自己的觀點(diǎn)的機(jī)會(huì)；一旦數(shù)據(jù)主體提出異議，算法決定即處于不生效狀態(tài)。此外，數(shù)據(jù)企業(yè)負(fù)有主動(dòng)告知數(shù)據(jù)主體上開申訴機(jī)制的義務(wù)，以確保規(guī)制目的的實(shí)現(xiàn)。

五、算法偏見矯正的法律監(jiān)管

算法監(jiān)管內(nèi)容、流程乃至對(duì)互聯(lián)網(wǎng)企業(yè)承擔(dān)的強(qiáng)制披露義務(wù)都有著極強(qiáng)的專業(yè)性和技術(shù)性。所以，設(shè)立專業(yè)的監(jiān)管部門和具有系統(tǒng)性、層次性的監(jiān)管，便顯得尤為重要。

（一）設(shè)立企業(yè)內(nèi)部的個(gè)人信息保護(hù)人

為了更好地監(jiān)管算法，數(shù)據(jù)企業(yè)內(nèi)部應(yīng)確立明確的自動(dòng)決策算法的處理責(zé)任人。根據(jù)《信息安全技術(shù)：個(gè)人信息安全規(guī)范》（以下簡(jiǎn)稱規(guī)范）第10.1 條b 項(xiàng)，個(gè)人信息控制者應(yīng)任命個(gè)人信息保護(hù)負(fù)責(zé)人和個(gè)人信息保護(hù)工作機(jī)構(gòu)。2019 年1 月公布的《規(guī)范》（修改稿）新設(shè)第d 項(xiàng)和第8 子項(xiàng)，要求個(gè)人信息保護(hù)負(fù)責(zé)人“公布投訴、舉報(bào)方式等信息并及時(shí)受理投訴舉報(bào)”。我國(guó)已經(jīng)嘗試在數(shù)據(jù)企業(yè)內(nèi)部設(shè)計(jì)對(duì)口的崗位來(lái)確保企業(yè)的合規(guī)性。為了實(shí)現(xiàn)對(duì)自動(dòng)決策算法的有效控制，立法也應(yīng)要求個(gè)人信息保護(hù)負(fù)責(zé)人負(fù)責(zé)處理對(duì)自動(dòng)決策算法結(jié)果的拒絕或申訴事務(wù)。如果數(shù)據(jù)主體不滿意自動(dòng)決策算法結(jié)果，可以直接聯(lián)系數(shù)據(jù)活動(dòng)顧問(wèn)，行使數(shù)據(jù)訪問(wèn)權(quán)、算法結(jié)果拒絕權(quán)和申訴復(fù)議權(quán)。

（二）建立企業(yè)外部的監(jiān)管機(jī)構(gòu)

只有存在專門的監(jiān)管機(jī)關(guān)，數(shù)據(jù)主體才能及時(shí)向權(quán)力機(jī)關(guān)尋求支持，保障自身權(quán)利的實(shí)現(xiàn)。同時(shí)，公司內(nèi)部的數(shù)據(jù)活動(dòng)顧問(wèn)如果無(wú)法獲得外部的數(shù)據(jù)活動(dòng)監(jiān)管部門的支持，也無(wú)法有效地對(duì)抗來(lái)自高層的壓力。為此，我國(guó)可以考慮借助《個(gè)人信息保護(hù)法》建立專門的數(shù)據(jù)活動(dòng)監(jiān)管部門，以為個(gè)人行使權(quán)利對(duì)抗算法提供必要的保障。如果數(shù)據(jù)主體的訴求遭到數(shù)據(jù)企業(yè)的不當(dāng)拒絕，數(shù)據(jù)主體可以直接向數(shù)據(jù)活動(dòng)監(jiān)管部門尋求幫助。相較于常規(guī)的行政和司法機(jī)構(gòu)，高度的專業(yè)性、技術(shù)性應(yīng)是數(shù)據(jù)活動(dòng)監(jiān)管部門所需具備的首要條件，唯有如此，才可結(jié)合相關(guān)行業(yè)準(zhǔn)則制定出與之匹配的規(guī)則，確保算法運(yùn)用得更為合理。

（三）建立數(shù)據(jù)企業(yè)的信息披露義務(wù)

對(duì)于算法偏見矯正法律監(jiān)管來(lái)說(shuō)，需要首先創(chuàng)建相應(yīng)的信息披露義務(wù)，即要求算法開發(fā)者、使用者結(jié)合這一準(zhǔn)則履行自身義務(wù)。譬如，算法是以預(yù)定義策略議程為設(shè)計(jì)目的時(shí)，此時(shí)的算法設(shè)計(jì)應(yīng)以道德準(zhǔn)則為設(shè)計(jì)前提，同時(shí)監(jiān)管部門也應(yīng)對(duì)此加以審核，其內(nèi)容包括設(shè)計(jì)目的、策略議程等。

（四）限制歧視性數(shù)據(jù)資產(chǎn)的使用

數(shù)據(jù)反映的內(nèi)容源自現(xiàn)實(shí)社會(huì)，所以其內(nèi)容不乏現(xiàn)實(shí)社會(huì)中的各類歧視。算法決策是對(duì)未來(lái)的一種預(yù)測(cè)、一種判斷，當(dāng)過(guò)去的歧視在算法中被放大、被強(qiáng)化后，勢(shì)必對(duì)未來(lái)的預(yù)測(cè)造成嚴(yán)重的影響和誤導(dǎo)。所以，數(shù)據(jù)資產(chǎn)管理中，需對(duì)數(shù)據(jù)資產(chǎn)質(zhì)量的重要性給予高度重視，杜絕使用一切具有歧視性的數(shù)據(jù)。監(jiān)管部門應(yīng)以風(fēng)險(xiǎn)防范為目標(biāo)，強(qiáng)化數(shù)據(jù)資產(chǎn)質(zhì)量的分析，其中可采用的方式包括數(shù)據(jù)去噪篩查機(jī)制、數(shù)據(jù)評(píng)估機(jī)制，或借助專業(yè)人士的研究以實(shí)現(xiàn)對(duì)數(shù)據(jù)的修復(fù)或還原。

（五）設(shè)計(jì)明確的損害賠償和罰款規(guī)則

如果法律秩序不設(shè)計(jì)義務(wù)違反的法效果，規(guī)范將形同虛設(shè)，淪為笑柄。我國(guó)相關(guān)部門進(jìn)行制度設(shè)計(jì)時(shí)可以參考?xì)W盟的《通用數(shù)據(jù)保護(hù)條例》的相關(guān)規(guī)定，如第82 條第1 款：任何因?yàn)檫`反本條例而受到物質(zhì)或非物質(zhì)性傷害的人都有權(quán)從數(shù)據(jù)控制者或受托處理者那里獲得對(duì)損害的賠償；第83 條第5 款：如果數(shù)據(jù)企業(yè)違反第22 條的規(guī)定阻礙個(gè)人行使算法結(jié)果拒絕權(quán)或其他相關(guān)權(quán)利，監(jiān)管機(jī)關(guān)可以處以最高2000 萬(wàn)歐元的行政處罰或相當(dāng)于其上一年全球營(yíng)業(yè)額的4%金額的罰款（二者取其高），明確數(shù)據(jù)企業(yè)違反義務(wù)時(shí)的損害賠償責(zé)任和行政處罰規(guī)則。我國(guó)可以根據(jù)國(guó)情，制定一個(gè)既合理又具有懲罰性的罰款規(guī)則，來(lái)對(duì)數(shù)據(jù)主體企業(yè)進(jìn)行規(guī)范。

結(jié)語(yǔ)

吳漢東教授曾言道，“對(duì)于現(xiàn)代各國(guó)而言，人工智能發(fā)展的政策考量，其實(shí)是基于風(fēng)險(xiǎn)的制度選擇和法律安排，我們應(yīng)通過(guò)法律化解風(fēng)險(xiǎn)，通過(guò)法律吸納風(fēng)險(xiǎn)，將風(fēng)險(xiǎn)置于法治社會(huì)的背景之中，即對(duì)智能革命時(shí)代的法律制度乃至整個(gè)社會(huì)規(guī)范進(jìn)行新的建構(gòu)”〔26〕。算法偏見將是未來(lái)社會(huì)的一項(xiàng)主要風(fēng)險(xiǎn)，但是無(wú)論我們?nèi)绾螐?qiáng)調(diào)算法監(jiān)管，不扼殺行業(yè)的創(chuàng)新力和競(jìng)爭(zhēng)力應(yīng)是管理的底線。若我們“責(zé)之過(guò)苛”，則無(wú)異于因噎廢食，必將落后于時(shí)代。歐盟的經(jīng)驗(yàn)表明，立法的目標(biāo)應(yīng)是在不損及算法創(chuàng)新價(jià)值的基礎(chǔ)上建構(gòu)一套新的對(duì)抗算法不公的法律體系。通過(guò)《個(gè)人信息保護(hù)法》，來(lái)明確被遺忘權(quán)的保護(hù)和個(gè)人對(duì)算法結(jié)果的拒絕權(quán)來(lái)矯正算法偏見，構(gòu)建新的內(nèi)外監(jiān)管機(jī)構(gòu)來(lái)對(duì)數(shù)據(jù)企業(yè)進(jìn)行監(jiān)管，雙管齊下，一定可以吸納和化解算法偏見帶來(lái)的風(fēng)險(xiǎn)。